UniLM 对比 ChatGPT Plugins

本文介绍了 UniLM，一种统一的预训练语言模型，它可以作为自然语言理解（NLU）和自然语言生成（NLG）任务的新基准。它的独特之处在于使用了共享 Transformer 网络，该网络在单向、双向和序列到序列任务上进行了预训练，并采用特殊的自注意力掩码进行上下文预测控制。 UniLM 在 GLUE 基准测试中优于 BERT，在 SQuAD 2.0 和 CoQA 问答中表现出色，在五个 NLG 数据集中创造了新记录，包括在 CNN/DailyMail 和 Gigaword 摘要任务中的显着改进。作者共享的模型和代码有助于研究社区取得进一步的进展。

Openai遵循迭代的部署理念，作为这种方法的一部分，它正在逐渐发布Chatgpt插件。此逐步发布的目的是研究插件的实际使用，评估其影响，并确定可能出现的任何安全性和一致性挑战。正确实现这些方面的正确性是至关重要的。

自CHATGPT推出以来，用户表示有兴趣访问插件，许多开发人员正在尝试类似的想法。 OpenAI最初是将插件推向一小部分用户，并计划在学习更多信息时逐渐增加访问权限。经过Alpha期之后，想要将插件集成到其产品中的API用户也将可以访问。 Openai很高兴建立一个将有助于塑造人类互动范式的未来的社区。

邀请候补名单的开发人员可以使用OpenAI的文档来构建用于Chatgpt的插件。创建插件后，它将在语言模型显示的提示符中列出，以及指示如何使用每个模型的文档。第一组插件是由Expedia，Fiscalnote，Instacart，Kayak，Klarna，Milo，Opentable，Opentable，Shopify，Slack，Speak，Wolfram和Zapier创建的。