ggml.ai 对比 ChatGPT Plugins

ggml.ai 处于人工智能技术的前沿，通过其创新的张量库将强大的机器学习功能直接带到边缘。 ggml.ai 专为通用硬件平台上的大型模型支持和高性能而构建，使开发人员能够实现先进的人工智能算法，而无需专门的设备。该平台采用高效的 C 编程语言编写，提供 16 位浮点和整数量化支持，以及自动微分和各种内置优化算法（如 ADAM 和 L-BFGS）。它拥有针对 Apple Silicon 的优化性能，并在 x86 架构上利用 AVX/AVX2 内在函数。基于 Web 的应用程序还可以通过 WebAssembly 和 WASM SIMD 支持来利用其功能。凭借零运行时内存分配和不存在第三方依赖项，ggml.ai 为设备上推理提供了一种最小且高效的解决方案。

诸如whisper.cpp和llama.cpp之类的项目展示了ggml.ai的高性能推理能力，其中whisper.cpp提供语音到文本的解决方案，llama.cpp专注于Meta的LLaMA大语言模型的高效推理。此外，该公司欢迎对其代码库做出贡献，并通过 MIT 许可证支持开放核心开发模型。随着 ggml.ai 的不断扩张，它正在寻找对设备上推理有共同愿景的有才华的全职开发人员加入他们的团队。

ggml.ai 旨在突破边缘人工智能的极限，证明了人工智能社区的游戏和创新精神。

Openai遵循迭代的部署理念，作为这种方法的一部分，它正在逐渐发布Chatgpt插件。此逐步发布的目的是研究插件的实际使用，评估其影响，并确定可能出现的任何安全性和一致性挑战。正确实现这些方面的正确性是至关重要的。

自CHATGPT推出以来，用户表示有兴趣访问插件，许多开发人员正在尝试类似的想法。 OpenAI最初是将插件推向一小部分用户，并计划在学习更多信息时逐渐增加访问权限。经过Alpha期之后，想要将插件集成到其产品中的API用户也将可以访问。 Openai很高兴建立一个将有助于塑造人类互动范式的未来的社区。

邀请候补名单的开发人员可以使用OpenAI的文档来构建用于Chatgpt的插件。创建插件后，它将在语言模型显示的提示符中列出，以及指示如何使用每个模型的文档。第一组插件是由Expedia，Fiscalnote，Instacart，Kayak，Klarna，Milo，Opentable，Opentable，Shopify，Slack，Speak，Wolfram和Zapier创建的。