Tune vs mshumer/gpt-prompt-engineer - GitHub

Tune es una pila empresarial de GenAI de NimbleBox que ayuda a los equipos a ajustar finamente, implementar y ejecutar modelos de lenguaje grande de código abierto en su propia infraestructura en la nube o en las instalaciones. La plataforma se centra en Tune Studio para experimentación y ajuste de modelos, Tune Chat para asistentes de IA personalizables, y en servicios profesionales para organizaciones que desean ayuda práctica.

Tune Studio ofrece a los desarrolladores un entorno para probar LLMs, guardar conjuntos de datos de interacción de alta calidad, ajustar modelos en hardware GPU dedicado, y desplegar a través de APIs públicas o motores de inferencia como TGI, vLLM y Triton. Los modelos base compatibles incluyen Llama 3.1, Qwen 2, Gemma 2, Mixtral, y otros.

La empresa se orienta a empresas que necesitan propiedad de datos, cumplimiento y flexibilidad más allá de las APIs de código cerrado. Tune reporta cumplimiento con SOC 2 Tipo 2, HIPAA e ISO 27001, con opciones para despliegue en la nube dedicado, en la nube del usuario y en las instalaciones.

mshumer/gpt-prompt-engineer es un kit de herramientas de ingeniería de prompts de código abierto que genera, prueba y clasifica prompts candidatos para una tarea que definas. Describes el caso de uso, proporcionas casos de prueba, y los cuadernos de Jupyter crean múltiples variantes de prompts, los ejecutan contra cada caso de prueba, y ordenan los resultados con un sistema de puntuación ELO que comienza en 1200. Se distribuye como cuadernos de Jupyter que puedes ejecutar en Google Colab o localmente.

La mayoría de las herramientas de prompts te ayudan a escribir un prompt a la vez. gpt-prompt-engineer trata la selección de prompts como un torneo: docenas de candidatos compiten en tus casos de prueba, y las puntuaciones ELO más altas revelan a los ganadores. Cuadernos separados cubren tareas de clasificación, Claude 3 Opus con casos de prueba generados automáticamente, y conversión de Opus a Haiku para inferencia más económica. El registro opcional con Weights & Biases y Portkey rastrea cada ejecución.

Los ingenieros de ML, ingenieros de prompts y desarrolladores de IA lo utilizan cuando necesitan ajustes reproducibles de prompts en lugar de prueba y error manual. El repositorio tiene 9.7k estrellas en GitHub y funciona con tus propias claves de API de OpenAI o Anthropic. Es gratuito bajo la licencia MIT.