OpenAI正在升级其文本生成模型GPT-3.5-turbo和GPT-4并降低价格
来源 | cnBeta2023-06-14 15:31:49
随着生成 AI 领域的竞争越来越激烈,OpenAI 正在升级其文本生成模型,同时降低价格。今天,OpenAI 宣布发布新版本的 GPT-3.5-turbo 和 GPT-4,后者是其最新的文本生成 AI

随着生成 AI 领域的竞争越来越激烈,OpenAI 正在升级其文本生成模型,同时降低价格。今天,OpenAI 宣布发布新版本的 GPT-3.5-turbo 和 GPT-4,后者是其最新的文本生成 AI,具有称为函数调用的功能。 正如 OpenAI 在博客文章中解释的那样,函数调用允许开发人员向 GPT-3.5-turbo 和 GPT-4 描述编程函数,并让模型创建代码来执行这些函数。

例如,函数调用可以帮助创建聊天机器人,通过调用外部工具回答问题,将自然语言转换为数据库查询,并从文本中提取结构化数据。 “这些模型已经过微调,可以检测何时需要调用函数……并使用符合函数签名的 JSON 进行响应,”OpenAI 在介绍中写道。 “函数调用允许开发人员更可靠地从模型中获取结构化数据。”

除了函数调用之外,OpenAI 还引入了一种具有极大扩展上下文窗口的 GPT-3.5-turbo。 上下文窗口以标记或原始文本位衡量,指的是模型在生成任何其他文本之前考虑的文本。 具有小上下文窗口的模型往往会“忘记”即使是最近的对话内容,导致他们偏离主题。

新的 GPT-3.5-turbo 提供四倍于普通 GPT-3.5-turbo 的上下文长度(16000 个令牌),价格是原来的两倍——每 1000 个输入令牌(即输入模型的令牌)0.003 美元,每 1000 个输出令牌 0.004 美元( 模型生成的标记)。 OpenAI 表示,它一次可以摄取大约 20 页的文本——明显低于 AI 初创公司 Anthropic 的旗舰模型可以处理的数百页文本。 (OpenAI 正在测试具有 32000 个令牌上下文窗口的 GPT-4 版本,但发布范围有限。)

从好的方面来说,OpenAI 表示它正在将 GPT-3.5-turbo(原始版本,而不是具有扩展上下文窗口的版本)的价格降低 25%。 开发人员现在可以以每 1000 个输入令牌 0.0015 美元和每 1000 个输出令牌 0.002 美元的价格使用该模型,这相当于每美元大约 700 页。

text-embedding-ada-002 的定价也有所降低,这是 OpenAI 更流行的文本嵌入模型之一。 文本嵌入衡量文本字符串的相关性,通常用于搜索(结果按与查询字符串的相关性排序)和推荐(推荐具有相关文本字符串的项目)。

Text-embedding-ada-002 现在每1000 个令牌的价格为 0.0001 美元,比之前的价格降低了 75%。 OpenAI 表示,减少是通过提高其系统效率实现的——毫无疑问,这是这家初创公司关注的一个关键领域,因为它在研发和基础设施上花费了数亿美元。

OpenAI 已经表示,在 3 月初发布 GPT-4 之后,对现有模型的增量更新是当下主要工作,而不是研发大规模的从头开始的新模型。 在最近的一次会议上,首席执行官山姆·奥特曼重申 OpenAI 尚未开始培训 GPT-4 的继任者,这表明该公司在开始该模型之前“还有很多工作要做”。

了解更多:

Function calling and other API updates (openai.com)