ChatGPT 插件

# ChatGPT 插件 来源：https://openai.com/index/chatgpt-plugins/ 当今的语言模型虽然在各种任务中都很有用，但仍然存在局限性。它们只能从训练数据中学习信息。这些信息可能已过时，并且在各个应用中采用的是"一刀切"方案。此外，语言模型开箱即用只能输出文本。这些文本可能包含有用的说明，但要真正执行这些说明，还需要另一个流程。 虽然不是完美的类比，但插件可以成为语言模型的"眼睛和耳朵"，使它们能够访问太新、太个性化或太具体而无法包含在训练数据中的信息。为了响应用户的明确请求，插件还可以使语言模型代表用户执行安全的、受限的操作，从而提高系统的整体实用性。 我们期望开放标准会逐渐出现，以统一应用程序向 AI 公开接口的方式。我们正在尝试制定这样的标准可能是什么样子，并寻求有兴趣与我们合作的开发者的反馈。 今天，我们开始逐步为 ChatGPT 用户启用来自早期合作者的现有插件，首先面向 ChatGPT Plus 订阅者。我们也开始推出开发者为 ChatGPT 创建自己插件的功能。 在接下来的几个月里，随着我们从部署中学习并继续改进安全系统，我们将对这个协议进行迭代，并计划让使用 OpenAI 模型的开发者能够将插件集成到他们自己的应用程序中，而不仅仅是 ChatGPT。 将语言模型连接到外部工具既带来新的机遇，也带来了重大的新风险（https://cdn.openai.com/papers/gpt-4-system-card.pdf）。 插件有潜力解决与大型语言模型相关的各种挑战，包括"幻觉"、跟进最新事件，以及访问（获得许可的）专有信息源。通过集成对外部数据的显式访问——例如在线的最新信息、基于代码的计算或自定义插件检索的信息——语言模型可以用基于证据的参考资料加强其响应。 这些参考资料不仅增强了模型的实用性，还使用户能够评估模型输出的可信度并验证其准确性，从而可能减轻与过度依赖相关的风险，如我们最近发布的 GPT-4 系统卡（https://cdn.openai.com/papers/gpt-4-system-card.pdf）中所讨论的那样。最后，插件的价值可能远远超过解决现有限制的范围，通过帮助用户处理各种新用例，从浏览产品目录到预订航班或订购食物。 但同时，插件也存在风险，可能会通过采取有害或非预期的操作来增加安全挑战，增强恶意行为者的能力，他们可能会欺诈、误导或滥用他人。通过扩大可能的应用范围，插件可能会增加模型在新领域中因错误或不对齐的操作而造成负面后果的风险。从一开始，这些因素就指导了我们插件平台的开发，我们已经实施了多项保障措施。