OpenAI又开大!推出GPT-3.5 Turbo“微调”功能,人人都能定制ChatGPT


    OpenAI最近动作不断。上个月7号,在数百万开发者的催促下,OpenAI终于开放了GPT-4的API权限。没多久,OpenAI又宣布开放GPT-4的“代码解释器”功能,一下子让GPT-4的能力有了飞跃,所以开发者们都戏称它为“GPT-4.5”。
    不过这不算完,OpenAI之前一直在给GPT-4开发“DLC”(扩展包的意思),而对之前的功臣GPT-3.5有点厚此薄彼了,毕竟和GPT-4比起来,GPT-3.5是不要钱的,也就意味着它的用户数量不在少数,只给“氪金”的玩家开放福利,不给“零充”玩家们一点甜头,那就等着被玩家们讨伐吧。
    你当OpenAI不知道这一点?就在今天OpenAI在官网上宣布,也给GPT-3.5带来了升级包——“微调”功能。
    人人都可定制ChatGPT?
    今天,OpenAI 在官网宣布,推出 GPT-3.5Turbo 微调功能并更新 API,使企业、开发人员可以使用自己的数据,结合业务用例构建专属 ChatGPT。
    

    
    

    而至于效果,OpenAI表示经过实际测试,定制的模型可以赶上甚至超过 GPT-4 执行某些任务的能力。GPT-4用户感觉到背刺!
    并且OpenAI 强调,传入和传出微调 API 的数据归客户所有, OpenAI 或任何其他组织不会使用这些数据来训练其他模型。
    

    
    

    至于微调后,定制模型会有性能提升,OpenAI也在“微调指南”里注明了,比如:
    

    改善可操纵性:
    

    微调允许企业引导模型更好地遵循指令,例如输出更简洁的答案,或者始终以给定语言做出响应。开发人员可以通过微调保证模型在收到德语提示词后,始终以德语给出回应。
    

    更可靠的输出格式:
    

    微调使模型所输出响应结果的格式更加统一。对于需要特定响应格式的应用场景(例如代码补全或编写 API 调用),这种格式可靠性至关重要。例如,开发人员可以用微调将用户提示词转换为可在系统中使用的高质量 JSON 片段。
    

    自定义调节:
    

    微调是提升模型输出质量的好办法(包括改善语气、风格),更好地适应企业品牌的固有定位。拥有知名品牌调性的企业可以对模型做出微调,使其与自身市场形象更趋一致。
    

    而且微调不光能提高性能,还能缩短提示词长度,并保证性能基本不变。早期测试人员还对模型本身的指令进行了微调,从而加快了API调用还降低了成本,让prompt减少了90%。
    此外,微调可以让定制的GPT-3.5 Turbo模型处理4k个tokens,达到了之前的2倍!并且OpenAI还表示,支持16ktokens的版本将在今年秋季推出。
    更强了,也更贵了!
    天底下没有免费的午餐。微调确实让GPT-3.5Turbo更强了,但同时也更贵了。
    根据OpenAI公布的定价,GPT-3.5Turbo的微调分为两个部分,分别为初始训练成本与使用成本:
    

  •     训练阶段:1k tokens 要 0.008 美元
        

  •     使用输入:1k tokens 要 0.012 美元
        

  •     使用输出:1k tokens 要 0.016 美元
        

    例如,如果要对 10 万 tokens 的训练文件进行微调,并训练 3 个 epochs,则预计成本为 2.40 美元。
    不光是GPT-3.5,GPT-3也更新了!7月的时候,OpenAI 宣布各初版 GPT-3 基础模型(ada、babbage、curie 和 davinci)将于 2024 年 1 月 4 日正式关闭。
    同在今天,OpenAI再次更新GPT-3模型,并提供了babbage-002和davinci-002作为以上模型替代品,可以作为基础模型或微调模型来使用。
    客户也可以通过查询Completions API来访问这些模型。
    另外,这些模型使用新的API端口/v1/fine_tuning/jobs进行微调。
    该端口取代了/v1/fine-tunes旧端口(2024年1月4日关闭),提供了分页和更多可扩展性,以支持微调API的未来发展。
    下面是各基础 / 微调 GPT-3 模型的定价:
    

    
    

    根据这个价格算笔账,微调后的GPT-3.5 Turbo价格是基础GPT-3.5 模型的8倍!
    GPT-4也有微调!
    GPT-4用户感觉到背刺了?那倒也不必,因为OpenAI在公告中表示,AI天花板GPT-4的微调马上也会来的,几个月后正式上线!
    而且在对GPT-3.5 Turbo微调时,所有微调数据都必须通过“审核”API 和 GPT-4 支持的审核系统,以查看是否与 OpenAI 的安全标准相冲突。OpenAI 还计划在未来推出一个微调 UI,其中包含一个仪表板,用于检查正在进行的微调工作负载的状态。
    GPT-3.5的微调价格已经是之前的8倍了,那GPT-4微调会贵多少呢?再加上GPT-4本身就是付费使用,价格再上涨一点,对个人和企业来说都是一笔不小的费用,会不会受到人们欢迎还未可知。