Ray

Ray

Ray est un moteur d'informatique AI open source conçu pour exécuter des charges de travail Python distribuées sur CPU et GPU. Il orchestre la formation, l'inférence, le traitement des données et l'apprentissage par renforcement, permettant aux équipes de passer d'un prototype sur ordinateur portable à des clusters de production sans réécrire leur code. Le projet est maintenu par Anyscale et alimente des plateformes d'IA à grande échelle utilisées en production aujourd'hui.

Ray est natif en Python et construit autour d'un petit ensemble de primitives : tâches, acteurs et objets. Cette conception vous permet de distribuer des fonctions et classes Python ordinaires plutôt que d'apprendre une API de cluster distincte. Des bibliothèques de haut niveau sont superposées pour le chargement des données, le réglage des hyperparamètres, l'entraînement de modèles, le déploiement et les workflows d'apprentissage par renforcement.

Le cadre cible les ingénieurs en apprentissage machine, les data scientists et les équipes plateforme qui ont besoin d'une mise à l'échelle fine sur du matériel hétérogène. Ray prend en charge les données multimodales, la formation de modèles fondamentaux, l'inférence batch et en ligne de LLM, les pipelines GenAI, ainsi que les modèles ML classiques via des bibliothèques telles que Ray Data, Train, Serve, Tune et RLlib.

Fonctionnalités principales:
  1. Faire évoluer le code Python d'un ordinateur portable à des milliers de GPU

  2. Ray Data gère les images, vidéos, audio et ensembles de données structurées

  3. Entraînement distribué de modèles foundation avec une seule ligne de code

  4. Ray Serve fait évoluer les modèles de manière indépendante avec des ressources GPU fractionnaires

  5. Inférence batch et en ligne de LLM sur des pipelines mixtes CPU et GPU

  6. Ray RLlib exécute des charges de travail de reinforcement learning en production

Pros:
  1. Framework open source avec 34,8k étoiles sur GitHub et plus de 1 000 contributeurs répertoriés sur ray.io.

  2. Couvre l'ensemble du cycle de vie du ML grâce aux bibliothèques Ray Data, Train, Tune, Serve et RLlib.

  3. S'adapte du développement local aux grands clusters GPU avec des API natives Python.

  4. Prend en charge des clusters hétérogènes CPU et GPU avec une mise à l'échelle indépendante par charge de travail.

Cons:
  1. L'hébergement géré et les fonctionnalités entreprises sont disponibles sur Anyscale, et non directement sur ray.io.

  2. La plupart de la documentation et des guides de configuration avancée se trouvent sur docs.ray.io plutôt que sur le site marketing.

  3. Une expertise en systèmes distribués est toujours nécessaire pour les opérations de cluster en production au-delà du développement local.

FAQ:

Ray est-il gratuit ?

Oui. Ray est un logiciel open source que vous pouvez installer et exécuter sur votre propre infrastructure. Ray.io renvoie également à Anyscale, une plateforme gérée créée par l'équipe Ray, qui offre un essai gratuit avec 100 $ de crédits pour les charges de travail Ray hébergées.

Quels types de charges de travail en IA Ray prend-il en charge ?

Ray prend en charge le code Python parallèle, le traitement de données multimodales, l'entraînement distribué de modèles, le déploiement de modèles en ligne et par lots, l'inférence par lots, l'apprentissage par renforcement, les workflows GenAI, l'inférence LLM, et le fine-tuning LLM. La page d'accueil liste des cas d'utilisation allant de la simulation, aux backtests, aux applications RAG, et à l'entraînement de modèles de base.

Quelles bibliothèques sont incluses avec Ray ?

Ray est livré avec Ray Core ainsi que des bibliothèques de haut niveau : Ray Data pour le traitement des données, Ray Train pour l'entraînement distribué, Ray Tune pour la recherche d'hyperparamètres, Ray Serve pour le déploiement de modèles et Ray RLlib pour l'apprentissage par renforcement. La documentation et les pages produit sur ray.io mentionnent également Ray LLM pour les charges de travail de grands modèles de langage.

Quel langage de programmation utilise Ray ?

Ray est natif Python. Vous écrivez des fonctions et classes Python standard, et Ray les distribue à travers un cluster. Le site décrit Ray comme développé par des développeurs pour des développeurs souhaitant faire évoluer du code Python existant sans adopter un nouveau langage ni une couche de cluster spécifique à un framework.

Comment obtenir de l'aide ou rejoindre la communauté Ray ?

Ray maintient un espace communautaire Slack, des forums de discussion sur discuss.ray.io, un dépôt GitHub à github.com/ray-project/ray, et un compte X @raydistributed. Ray.io renvoie également à des cours de formation Anyscale et à la documentation sur docs.ray.io pour un apprentissage pratique.

Ray peut-il utiliser différentes GPUs et CPUs dans la même charge de travail ?

Oui. Ray est conçu pour un calcul hétérogène. Le site met en avant la scalabilité indépendante entre GPUs et CPUs mixtes, l'allocation fractionnée des ressources, ainsi que des pipelines combinant le prétraitement CPU avec l'inférence GPU pour améliorer l'utilisation et réduire les coûts d'inférence par lots.

Catégorie:

Tarification:

Gratuit

Tags:

Distributed Computing
Machine Learning
Open Source
Python

Technologie utilisée:

Next.js
Google Tag Manager
HubSpot
Python
GitHub
Webpack
Tailwind CSS

Commentaires:

Give your opinion on Ray :-

Overall rating

Join thousands of AI enthusiasts in the World of AI!

Meilleur Gratuit Ray Alternatives (et Payées)

By Rishit