OpenAI正在升级其文本生成模型GPT-3.5-turbo和GPT-4并降低价格

来源 | cnBeta2023-06-14 15:31:49

随着生成 AI 领域的竞争越来越激烈，OpenAI 正在升级其文本生成模型，同时降低价格。今天，OpenAI 宣布发布新版本的 GPT-3.5-turbo 和 GPT-4，后者是其最新的文本生成 AI

随着生成 AI 领域的竞争越来越激烈，OpenAI 正在升级其文本生成模型，同时降低价格。今天，OpenAI 宣布发布新版本的 GPT-3.5-turbo 和 GPT-4，后者是其最新的文本生成 AI，具有称为函数调用的功能。正如 OpenAI 在博客文章中解释的那样，函数调用允许开发人员向 GPT-3.5-turbo 和 GPT-4 描述编程函数，并让模型创建代码来执行这些函数。

例如，函数调用可以帮助创建聊天机器人，通过调用外部工具回答问题，将自然语言转换为数据库查询，并从文本中提取结构化数据。 “这些模型已经过微调，可以检测何时需要调用函数……并使用符合函数签名的 JSON 进行响应，”OpenAI 在介绍中写道。 “函数调用允许开发人员更可靠地从模型中获取结构化数据。”

除了函数调用之外，OpenAI 还引入了一种具有极大扩展上下文窗口的 GPT-3.5-turbo。上下文窗口以标记或原始文本位衡量，指的是模型在生成任何其他文本之前考虑的文本。具有小上下文窗口的模型往往会“忘记”即使是最近的对话内容，导致他们偏离主题。

新的 GPT-3.5-turbo 提供四倍于普通 GPT-3.5-turbo 的上下文长度(16000 个令牌)，价格是原来的两倍——每 1000 个输入令牌(即输入模型的令牌)0.003 美元，每 1000 个输出令牌 0.004 美元( 模型生成的标记)。 OpenAI 表示，它一次可以摄取大约 20 页的文本——明显低于 AI 初创公司 Anthropic 的旗舰模型可以处理的数百页文本。 (OpenAI 正在测试具有 32000 个令牌上下文窗口的 GPT-4 版本，但发布范围有限。)

从好的方面来说，OpenAI 表示它正在将 GPT-3.5-turbo(原始版本，而不是具有扩展上下文窗口的版本)的价格降低 25%。开发人员现在可以以每 1000 个输入令牌 0.0015 美元和每 1000 个输出令牌 0.002 美元的价格使用该模型，这相当于每美元大约 700 页。

text-embedding-ada-002 的定价也有所降低，这是 OpenAI 更流行的文本嵌入模型之一。文本嵌入衡量文本字符串的相关性，通常用于搜索(结果按与查询字符串的相关性排序)和推荐(推荐具有相关文本字符串的项目)。

Text-embedding-ada-002 现在每1000 个令牌的价格为 0.0001 美元，比之前的价格降低了 75%。 OpenAI 表示，减少是通过提高其系统效率实现的——毫无疑问，这是这家初创公司关注的一个关键领域，因为它在研发和基础设施上花费了数亿美元。

OpenAI 已经表示，在 3 月初发布 GPT-4 之后，对现有模型的增量更新是当下主要工作，而不是研发大规模的从头开始的新模型。在最近的一次会议上，首席执行官山姆·奥特曼重申 OpenAI 尚未开始培训 GPT-4 的继任者，这表明该公司在开始该模型之前“还有很多工作要做”。