FriendliAI 对比 ChatGPT Plugins

FriendliAI 致力于通过提供高效且经济实惠的基础设施解决方案来提升生成式 AI 的能力，以满足各种需求。凭借突破性的性能，FriendliAI 的成本比 OpenAI GPT-3.5 低 7.5 倍，吞吐量高 16 倍，延迟低 24 倍。这些卓越的指标为寻求将生成式 AI 模型集成到其运营中的企业开辟了新领域。

该公司提供三项核心服务，以使用其 Friendli Engine 运行生成式 AI 模型：Friendli 容器、Friendli 专用端点和 Friendli 无服务器端点。每一项服务都旨在满足不同的运营需求——无论是在私有环境中提供大型语言模型 (LLM)、在自动驾驶仪上构建和提供自定义 LLM，还是访问开源 LLM 和 LMM 的快速且经济实惠的 API。

FriendliAI 网站上的客户成功案例强调了各家公司如何降低成本和运营负担。例如，NaCloud 的小说写作服务和 Scatter Lab 的聊天机器人均将成本降低了一半，而 TUNiB 则享受了更方便、更可靠的聊天机器人服务，而无需增加管理工作。

FriendliAI 还宣布将其 Friendli Engine 与 Amazon Sagemaker Jumpstart 集成，使用户能够以更高的性能和成本效率更好地服务 JumpStart Foundation Models。

该公司对生成式 AI 基础设施的坚定承诺进一步体现在其联系信息中，这些信息表明该公司在加利福尼亚州雷德伍德城和韩国首尔均有业务，鼓励潜在客户开始利用其 AI 模型的强大功能。

Openai遵循迭代的部署理念，作为这种方法的一部分，它正在逐渐发布Chatgpt插件。此逐步发布的目的是研究插件的实际使用，评估其影响，并确定可能出现的任何安全性和一致性挑战。正确实现这些方面的正确性是至关重要的。

自CHATGPT推出以来，用户表示有兴趣访问插件，许多开发人员正在尝试类似的想法。 OpenAI最初是将插件推向一小部分用户，并计划在学习更多信息时逐渐增加访问权限。经过Alpha期之后，想要将插件集成到其产品中的API用户也将可以访问。 Openai很高兴建立一个将有助于塑造人类互动范式的未来的社区。

邀请候补名单的开发人员可以使用OpenAI的文档来构建用于Chatgpt的插件。创建插件后，它将在语言模型显示的提示符中列出，以及指示如何使用每个模型的文档。第一组插件是由Expedia，Fiscalnote，Instacart，Kayak，Klarna，Milo，Opentable，Opentable，Shopify，Slack，Speak，Wolfram和Zapier创建的。