OpenAI又开大！推出GPT-3.5 Turbo“微调”功能，人人都能定制ChatGPT


    OpenAI最近动作不断。上个月7号，在数百万开发者的催促下，OpenAI终于开放了GPT－4的API权限。没多久，OpenAI又宣布开放GPT－4的“代码解释器”功能，一下子让GPT－4的能力有了飞跃，所以开发者们都戏称它为“GPT－4．5”。
    不过这不算完，OpenAI之前一直在给GPT－4开发“DLC”（扩展包的意思），而对之前的功臣GPT－3．5有点厚此薄彼了，毕竟和GPT－4比起来，GPT－3．5是不要钱的，也就意味着它的用户数量不在少数，只给“氪金”的玩家开放福利，不给“零充”玩家们一点甜头，那就等着被玩家们讨伐吧。
    你当OpenAI不知道这一点？就在今天OpenAI在官网上宣布，也给GPT－3．5带来了升级包——“微调”功能。
    人人都可定制ChatGPT？
    今天，OpenAI 在官网宣布，推出 GPT－3．5Turbo 微调功能并更新 API，使企业、开发人员可以使用自己的数据，结合业务用例构建专属 ChatGPT。
    

    
    

    而至于效果，OpenAI表示经过实际测试，定制的模型可以赶上甚至超过 GPT－4 执行某些任务的能力。GPT－4用户感觉到背刺！
    并且OpenAI 强调，传入和传出微调 API 的数据归客户所有， OpenAI 或任何其他组织不会使用这些数据来训练其他模型。
    

    
    

    至于微调后，定制模型会有性能提升，OpenAI也在“微调指南”里注明了，比如：
    

    改善可操纵性：
    

    微调允许企业引导模型更好地遵循指令，例如输出更简洁的答案，或者始终以给定语言做出响应。开发人员可以通过微调保证模型在收到德语提示词后，始终以德语给出回应。
    

    更可靠的输出格式：
    

    微调使模型所输出响应结果的格式更加统一。对于需要特定响应格式的应用场景（例如代码补全或编写 API 调用），这种格式可靠性至关重要。例如，开发人员可以用微调将用户提示词转换为可在系统中使用的高质量 JSON 片段。
    

    自定义调节：
    

    微调是提升模型输出质量的好办法（包括改善语气、风格），更好地适应企业品牌的固有定位。拥有知名品牌调性的企业可以对模型做出微调，使其与自身市场形象更趋一致。
    

    而且微调不光能提高性能，还能缩短提示词长度，并保证性能基本不变。早期测试人员还对模型本身的指令进行了微调，从而加快了API调用还降低了成本，让prompt减少了90％。
    此外，微调可以让定制的GPT－3．5 Turbo模型处理4k个tokens，达到了之前的2倍！并且OpenAI还表示，支持16ktokens的版本将在今年秋季推出。
    更强了，也更贵了！
    天底下没有免费的午餐。微调确实让GPT－3．5Turbo更强了，但同时也更贵了。
    根据OpenAI公布的定价，GPT－3．5Turbo的微调分为两个部分，分别为初始训练成本与使用成本：
    

  •     训练阶段：1k tokens 要 0．008 美元
        

  •     使用输入：1k tokens 要 0．012 美元
        

  •     使用输出：1k tokens 要 0．016 美元
        

    例如，如果要对 10 万 tokens 的训练文件进行微调，并训练 3 个 epochs，则预计成本为 2．40 美元。
    不光是GPT－3．5，GPT－3也更新了！7月的时候，OpenAI 宣布各初版 GPT－3 基础模型（ada、babbage、curie 和 davinci）将于 2024 年 1 月 4 日正式关闭。
    同在今天，OpenAI再次更新GPT－3模型，并提供了babbage－002和davinci－002作为以上模型替代品，可以作为基础模型或微调模型来使用。
    客户也可以通过查询Completions API来访问这些模型。
    另外，这些模型使用新的API端口／v1／fine＿tuning／jobs进行微调。
    该端口取代了／v1／fine－tunes旧端口（2024年1月4日关闭），提供了分页和更多可扩展性，以支持微调API的未来发展。
    下面是各基础 ／ 微调 GPT－3 模型的定价：
    

    
    

    根据这个价格算笔账，微调后的GPT－3．5 Turbo价格是基础GPT－3．5 模型的8倍！
    GPT－4也有微调！
    GPT－4用户感觉到背刺了？那倒也不必，因为OpenAI在公告中表示，AI天花板GPT－4的微调马上也会来的，几个月后正式上线！
    而且在对GPT－3．5 Turbo微调时，所有微调数据都必须通过“审核”API 和 GPT－4 支持的审核系统，以查看是否与 OpenAI 的安全标准相冲突。OpenAI 还计划在未来推出一个微调 UI，其中包含一个仪表板，用于检查正在进行的微调工作负载的状态。
    GPT－3．5的微调价格已经是之前的8倍了，那GPT－4微调会贵多少呢？再加上GPT－4本身就是付费使用，价格再上涨一点，对个人和企业来说都是一笔不小的费用，会不会受到人们欢迎还未可知。
相关文章！