FriendliAI vs ChatGPT Plugins

A FriendliAI se dedica a aprimorar os recursos de IA generativa, fornecendo soluções de infraestrutura eficientes e econômicas que atendem a uma ampla gama de necessidades. Com desempenho inovador em oferta, o FriendliAI se orgulha de ser 7,5 vezes mais barato que o OpenAI GPT-3.5, alcançando rendimento 16 vezes maior e entregando latência 24 vezes menor. Estas métricas notáveis abrem novas fronteiras para as empresas que procuram integrar modelos generativos de IA nas suas operações.

A empresa oferece três serviços principais para executar modelos generativos de IA com seu mecanismo Friendli: Friendli Container, Friendli Dedicated Endpoints e Friendli Serverless Endpoints. Cada um deles foi projetado para atender a diferentes necessidades operacionais, seja servindo grandes modelos de linguagem (LLMs) em ambientes privados, construindo e servindo LLMs personalizados no piloto automático ou acessando APIs rápidas e acessíveis para LLMs e LMMs de código aberto.

Histórias de sucesso de clientes no site FriendliAI destacam como diversas empresas reduziram seus custos e encargos operacionais. Por exemplo, o serviço de redação de romances da NaCloud e o chatbot do Scatter Lab reduziram seus custos pela metade, enquanto a TUNiB desfrutou de um serviço de chatbot mais conveniente e confiável, sem esforços adicionais de gerenciamento.

FriendliAI também anuncia a integração de seu Friendli Engine com Amazon Sagemaker Jumpstart, permitindo que os usuários sirvam melhor os modelos JumpStart Foundation com desempenho aprimorado e eficiência de custos.

O forte compromisso da empresa com a infraestrutura generativa de IA é ainda sustentado pelas suas informações de contato, mostrando presença em Redwood City, Califórnia, e Seul, na Coreia, incentivando clientes em potencial a começar a aproveitar o poder de seus modelos de IA.

O Openai segue uma filosofia de implantação iterativa e, como parte dessa abordagem, está gradualmente lançando plugins para chatgpt. O objetivo desta liberação gradual é estudar o uso do mundo real dos plugins, avaliar seu impacto e identificar quaisquer desafios de segurança e alinhamento que possam surgir. Acreditar esses aspectos é essencial para o OpenAI alcançar sua missão.

Desde o lançamento do ChatGPT, os usuários manifestaram interesse em ter acesso a plugins, e muitos desenvolvedores estão experimentando idéias semelhantes. O OpenAI está lançando inicialmente os plugins para um pequeno conjunto de usuários e planeja aumentar gradualmente o acesso à medida que aprende mais. Após um período alfa, os usuários da API que desejam integrar plugins em seus produtos também terão acesso. O Openai está animado para construir uma comunidade que ajudará a moldar o futuro do paradigma de interação humano-AI.

Os desenvolvedores que foram convidados para fora da lista de espera podem usar a documentação do OpenAI para criar um plug -in para o ChatGPT. Depois que o plug -in é criado, ele está listado no prompt mostrado ao modelo de idioma, juntamente com a documentação que instrui o modelo sobre como usar cada um. O primeiro conjunto de plugins foi criado pela Expedia, Fiscalnote, Instacart, Kayak, Klarna, Milo, Openable, Shopify, Slack, Speak, Wolfram e Zapier.