OpenAI扩展了其定制模型训练项目
OpenAI正在扩展一个名为Custom Model的项目,以帮助企业客户开发定制的生成式人工智能模型,为特定用例、领域和应用使用其技术。
去年在OpenAI首届开发者大会DevDay上推出了定制模型,为公司提供了与一组专门的OpenAI研究人员合作,为特定领域训练和优化模型的机会。自那时以来,已经有“几十家”客户参与了定制模型项目。但OpenAI表示,在与这批初始用户合作的过程中,他们意识到需要扩大这一项目,以进一步“最大化性能”。
因此进行了调优和定制训练模型。
辅助微调是自定义模型计划的一个新组件,借助超越微调的技术,如OpenAI所言的“额外超参数和不同参数高效微调方法在更大规模上”,使组织能够建立数据训练管道、评估系统和其他支持基础设施,以增强模型在特定任务上的性能。
至于定制训练模型,它们是使用OpenAI构建的定制模型——使用OpenAI的基础模型和工具(例如GPT-4)——为那些“需要更深入地微调他们的模型”或“注入新的、领域特定的知识”的客户而设计,OpenAI表示。
OpenAI举例说明了韩国电信巨头SK Telecom与OpenAI合作,通过调整GPT-4来提升其在韩文“电信相关对话”中的表现。另一家客户Harvey正在利用OpenAI Startup Fund支持的人工智能工具开发法律工具,与OpenAI合作创建了一个专门用于案例法的模型,结合了数亿字的法律文本和来自持牌专业律师的反馈意见。
"我们相信将来绝大多数组织将会开发定制模型,针对其所属行业、业务或应用场景进行个性化定制," OpenAI在一篇博客文章中写道。“有多种技术可用来构建定制模型,各种规模的组织都可以开发个性化模型,以更有意义、更具体地从他们的人工智能实施中获得影响。”
据报道,OpenAI正欢腾飞,年收入将近惊人的20亿美元。但毫无疑问,公司内部肯定存在着维持步伐的压力,特别是在公司与微软合作共同开发一座价值1000亿美元的数据中心的计划中(如果报道属实的话)。毕竟,培训和提供旗舰生成式AI模型的成本短期内并不会降低,而像定制模型培训这样的咨询工作可能只能在OpenAI制定下一步计划时保持收入增长。
经过细致调整和定制的模型还能减轻OpenAI模型服务基础设施的压力。定制模型在很多情况下比通用模型更小、性能更好,随着生成式人工智能需求不断增加,无疑为历来计算能力受限的OpenAI提供了一个有吸引力的解决方案。
在扩展的定制模型计划和模型定制构建之外,OpenAI今天推出了新的模型微调功能,供开发者使用GPT-3.5,包括一个新的仪表板用于比较模型质量和性能,支持与第三方平台的集成(首先是人工智能开发平台Weights & Biases),以及工具的增强。然而,对于在DevDay期间推出的GPT-4的微调一直保密。