GPT-4o Mini:全新小体量模型上线,文本多模态性能更优,API价格低至前代六成

原文标题:GPT-4o Mini深夜突发:即刻免费上线,API降价60%

原文作者:机器之心

冷月清谈:

**GPT-4o Mini 模型发布**
  • OpenAI推出全新小体量模型 GPT-4o Mini,旨在让更多人获得先进AI技术。
  • 该模型在MMLU聊天的分数上优于GPT-4,上下文窗口达128K token,知识截至2023年10月。
  • GPT-4o Mini在文本智能、多模态推理、数学推理编码能力方面都超越了其它同类小模型。

经济实惠的价格

  • GPT-4o Mini的API价格低至前代六成,每百万输入token 15 美分,每百万输出token 60 美分。
  • 这一价格使其成为替代GPT-3.5 Turbo的更具性价比的选择。

安全性和可用性

  • GPT-4o Mini内置了与GPT-4o相同的安全措施,并通过了外部专家的安全性评估。
  • 该模型已在ChatGPT中上线,企业用户将于下周获得访问权限。
  • OpenAI未来计划推出GPT-4o Mini的微调版本。

未来展望

  • OpenAI致力于降低AI模型的成本,并提升其能力。
  • GPT-4o Mini为开发人员构建更强大的AI应用程序提供了一个经济高效的解决方案。



怜星夜思:


1、GPT-4o Mini 的优点和缺点是什么?
2、GPT-4o Mini 在哪些实际应用场景中可能发挥作用?
3、GPT-4o Mini 的出现会对人工智能领域产生哪些影响?

原文内容

机器之心报道

机器之心编辑部

大模型向小了。

还没「休息」几天,AI 大模型再次卷起来了。

刚刚,OpenAI 突然宣布了「Mini」版本的 GPT-4o 模型。该公司表示,新的轻量级版本旨在让更多公司和项目能够获得最先进的技术。


这款名为 GPT-4o mini 的新模型立即上线,它在 MMLU 上的得分为 82%,目前在 LMSYS 排行榜的聊天方面分数优于 GPT-4。

除了立即在 ChatGPT 免费版、付费版上可用以外,GPT-4o mini 的商用价格是每百万输入 token 15 美分,每百万输出 token 60 美分 —— 比之前的 SOTA 模型便宜一个数量级,比 OpenAI 此前最便宜的 GPT-3.5 Turbo 还要便宜 60% 以上。


OpenAI CEO 山姆・奥特曼对此的形容是:通往智能的成本已经「too cheap to meter」。


GPT-4o mini 凭借其低成本和低延迟的性能实现了广泛的任务,例如链接或并行化多个模型调用(如调用多个 API)的应用程序、将大量上下文传递给模型(如完整的代码库或对话历史记录)或通过快速、实时的文本响应与人互动(例如客户支持聊天机器人)。

OpenAI 表示,目前 GPT-4o mini 在 API 中支持文本和视觉,很快也将支持文本、图像、视频和音频输入和输出。该模型具有 128K token 的上下文窗口,知识截至 2023 年 10 月。得益于与 GPT-4o 共享的改进版 tokenizer,处理非英语文本能力也更加经济高效。

OpenAI 将新模型的推出描述为努力让 AI「尽可能广泛普及」计划的一部分,但这也反映了 AI 技术供应商之间日益激烈的竞争,以及人们对小型和免费开源大模型的兴趣。另有消息称,Meta 预计将于下周推出 Llama 3 的最大体量版本。

在人们看来,GPT-4o mini 可以替代 GPT-3.5 Turbo,对标的是 Claude 3 Haiku 和 Gemini 1.5 Flash—— 作为后来者,GPT-4o mini 毫无疑问的比这两者更便宜,性能也更好。

「OpenAI 的全部意义在于安全地构建和分发 AI,并使其广泛普及,」OpenAI 负责新模型的产品经理 Olivier Godement 表示。「以更低的成本提供智能是我们实现目标的有效方法之一。」

Godement 表示,该公司通过改进模型架构、优化训练数据和训练方案,开发出了 GPT-4o 的这个最新版本。它在几个常见的基准测试中也优于市场上其他的「小体量」模型。

小模型中最能打的

GPT-4o mini 在文本智能和多模态推理方面,在学术基准上超越了 GPT-3.5 Turbo 和其他小型模型,并支持与 GPT-4o 相同范围的语言。

GPT-4o mini 还在函数调用方面表现出强大的性能,使开发人员能够构建应用程序,以获取数据或执行操作。

值得注意的是,与 GPT-3.5 Turbo 相比,GPT-4o mini 提高了长上下文性能。

GPT-4o mini 已在多个关键基准测试中进行了评估,包括:

  • 推理任务:GPT-4o mini 在涉及文本和视觉的推理任务上优于其他小型模型,在文本智能和推理基准 MMLU 上得分为 82.0%,而 Gemini Flash 为 77.9%,Claude Haiku 为 73.8%。
  • 数学和编码能力:GPT-4o mini 在数学推理和编码任务方面表现出色,优于以前的小型模型。在 MGSM 上,对于数学推理任务,GPT-4o mini 得分为 87.0%,而 Gemini Flash 为 75.5%,Claude Haiku 为 71.7%。编码性能方面,GPT-4o mini 在 HumanEvalji'zhun 上得分为 87.2%,而 Gemini Flash 的得分为 71.5%,Claude Haiku 的得分为 75.9%。
  • 多模态推理:GPT-4o mini 在多模态推理评估 基准 MMMU 上表现出强劲的性能,得分为 59.4%,而 Gemini Flash 为 56.1%,Claude Haiku 为 50.2%。


作为模型开发过程的一部分,OpenAI 也与一些合作伙伴合作测试了 GPT-4o mini,发现 GPT-4o mini 在一些任务上明显优于 GPT-3.5 Turbo,例如从收据文件中提取结构化数据,或者生成高质量电子邮件回复。

安全对齐

从一开始,OpenAI 就在模型中内置了安全措施,并在开发过程中的每一步都加以强化。

在前期训练中,团队会过滤掉他们不希望模型学习或输出的信息,如仇恨言论、成人内容、主要汇集个人信息的网站和垃圾邮件。在后期训练中,会使用 RLHF 等技术使模型的行为与自身策略保持一致,以提高模型响应的准确性和可靠性。

GPT-4o mini 内置了与 GPT-4o 相同的安全缓解措施,OpenAI 根据 Preparedness Framework 和自愿承诺,通过自动和人工评估对其进行了仔细评估。70 多名社会心理学和错误信息等领域的外部专家对 GPT-4o 进行了测试,以确定潜在风险,这些问题的解决方法会在即将发布的 GPT-4o system card 和 Preparedness 记分卡中分享。这些专家评估得出的见解有助于提高 GPT-4o 和 GPT-4o mini 的安全性。

在这些经验的基础上,团队还利用研究中获得的新技术努力提高 GPT-4o mini 的安全性。

API 中的 GPT-4o mini 是第一个应用指令分层 (instruction hierarchy) 方法的模型,该方法有助于提高模型抵御越狱、提示注入和系统提示提取的能力。这使得模型的响应更加可靠,有助于在大规模应用中更安全地使用。

价格降低

OpenAI 表示,GPT-4o mini 现在可在 Assistant API、Chat Completions API 和 Batch API 中作为文本和视觉模型使用。每 100 万输入 token 价格为 15 美分,每 100 万输出 token(大约相当于一本标准书的 2500 页)价格为 60 美分。


OpenAI 也计划在未来几天推出 GPT-4o mini 微调版本。

在 ChatGPT 中,Free、Plus 和 Team 用户今天起就能够取代 GPT-3.5 Turbo 访问 GPT-4o mini。从下周开始,企业用户也将可以访问。

OpenAI 表示,在过去的几年里,人工智能有了显著进步,成本也大幅降低。例如,自 2022 年 OpenAI 推出功能较弱的模型 text-davinci-003 ,至如今的 GPT-4o mini ,每个 token 成本已下降了 99%。OpenAI 致力于降低成本同时增强模型能力。

OpenAI 设想未来模型可以无缝集成到每个应用程序、每个网站中。GPT-4o mini 为开发人员更高效、更经济地构建和扩展强大的 AI 应用程序铺平了道路。

参考内容:
https://openai.com/index/gpt-4o-mini-advancing-cost-efficient-intelligence/
https://www.wired.com/story/openai-gpt-4o-mini/
https://www.theverge.com/2024/7/18/24200714/openai-new-cheaper-smarter-model-gpt-4o-mini

© THE END 

转载请联系本公众号获得授权

投稿或寻求报道:[email protected]

为研究人员提供一个新的平台,探索小型模型的潜力和局限性。

聊天机器人:由于其出色的文本生成能力和低延迟,可用于创建更智能、更自然的聊天机器人。

优点:可以促进小团队和个人的创新,带来更多样化的 AI 应用。缺点:由于资源有限,可能会限制模型的训练程度。

加剧 AI 公司之间的竞争,激励更多针对小型模型的研发和优化。

优点:对于初创企业和预算有限的研究人员来说,非常友好。缺点:对于需要处理海量数据的复杂任务可能不够强大。

推动 AI 应用创新的多样化,为不同规模和预算的组织提供更多选择。

医疗保健:可支持医疗信息检索、药物发现和诊断辅助,提升医疗保健服务的效率和准确性。

优点:帮助推动基础模型研究的民主化,使更多人能够参与人工智能开发。缺点:需要权衡计算成本和模型性能,以找到最适合特定应用的平衡点。

教育:可作为个性化学习工具,提供定制化的学习材料和支持。

促进 AI 民主化,降低进入 AI 门槛,赋能更多参与者。

优点:更快的推理速度,更低的延迟,更适合实时应用程序。缺点:受限于模型大小,可能无法处理高度复杂的任务。

加速小型模型的采用,让更多开发者和企业能够利用 AI 技术。

优点:价格低廉、性能优异、大上下文窗口、更经济高效地处理非英语文本。缺点:相比 GPT-4o 等大型模型,能力可能有限。

内容创作:可协助文案撰写、摘要生成和创意写作,提高内容创建效率。

搜索引擎:可用于增强搜索结果,提供更相关和有价值的信息。