LiteLLM 对比 ChatGPT Plugins

LiteLLM 是一个创新平台，专门为企业和开发人员有效管理大型语言模型 (LLM)。它通过提供负载平衡、后备解决方案和 100 多种不同 LLM 的支出跟踪，同时保持标准 OpenAI 格式兼容性，简化了与这些模型相关的复杂任务。

这使得集成和操作多个 LLM 更加高效、可靠和经济高效，因为它提供了添加模型、平衡不同计算资源之间的负载、创建访问控制密钥以及跟踪支出以更好地管理预算等功能。借助 LiteLLM，客户可以选择免费试用他们的云服务或部署他们的开源解决方案。

该平台由一个强大的社区支持，从其 GitHub 存储库中可以看出，该存储库已获得 8.4k 颗星、超过 40,000 次 Docker 拉取和超过 2000 万个请求，正常运行时间为 99%。超过 150 名贡献者的帮助确保 LiteLLM 不断发展并满足各个行业希望利用 LLM 功能的用户的需求。

Openai遵循迭代的部署理念，作为这种方法的一部分，它正在逐渐发布Chatgpt插件。此逐步发布的目的是研究插件的实际使用，评估其影响，并确定可能出现的任何安全性和一致性挑战。正确实现这些方面的正确性是至关重要的。

自CHATGPT推出以来，用户表示有兴趣访问插件，许多开发人员正在尝试类似的想法。 OpenAI最初是将插件推向一小部分用户，并计划在学习更多信息时逐渐增加访问权限。经过Alpha期之后，想要将插件集成到其产品中的API用户也将可以访问。 Openai很高兴建立一个将有助于塑造人类互动范式的未来的社区。

邀请候补名单的开发人员可以使用OpenAI的文档来构建用于Chatgpt的插件。创建插件后，它将在语言模型显示的提示符中列出，以及指示如何使用每个模型的文档。第一组插件是由Expedia，Fiscalnote，Instacart，Kayak，Klarna，Milo，Opentable，Opentable，Shopify，Slack，Speak，Wolfram和Zapier创建的。