OpenChat 3.5 : Le LLM Open-Source Surclassant les Géants de l'Industrie

Name

Jennie Rose

Published on 30/04/2024

OpenChat 3.5 est un modèle de langage révolutionnaire open-source développé par l'équipe OpenChat. Avec seulement 7 milliards de paramètres, il obtient des performances remarquables qui rivalisent ou surpassent celles des modèles leader de l'industrie tels que ChatGPT et Grok. Ce qui distingue OpenChat 3.5, c'est son engagement envers l'accessibilité open-source, permettant aux développeurs et aux chercheurs de profiter de ses capacités sans les contraintes des licences propriétaires.

Envie de connaître les dernières actualités du LLM ? Consultez le dernier classement LLM !

Principales fonctionnalités de OpenChat 3.5

• Entraînement efficace avec C-RLFT : OpenChat 3.5 est entraîné à l'aide de l'apprentissage par renforcement conditionné à partir des rétroactions (C-RLFT), une technique inspirée de l'apprentissage par renforcement offline. Cette approche permet au modèle d'apprendre efficacement à partir de données de qualité mixte sans étiquettes de préférence explicites.

• Performances exceptionnelles avec moins de paramètres : Malgré ses seulement 7 milliards de paramètres, OpenChat 3.5 offre des performances comparables, voire meilleures, que des modèles avec beaucoup plus de paramètres, tels que ChatGPT et Grok.

• Déploiement accessible : OpenChat 3.5 peut être exécuté sur des cartes graphiques grand public comme le RTX 3090, ce qui le rend plus accessible aux développeurs et aux chercheurs par rapport aux modèles propriétaires gourmands en ressources.

• Capacités polyvalentes : OpenChat 3.5 excelle en tant que modèle généraliste, avec des performances solides dans un large éventail de tâches, telles que la programmation, les questions-réponses et la compréhension du langage.

Résultats des tests comparatifs

OpenChat 3.5 a obtenu d'impressionnants résultats dans différents tests comparatifs, ce qui confirme sa position de modèle de langage open-source performant. Voici quelques comparaisons notables :

Comme le montre le tableau, OpenChat 3.5 surpasse Grok-0 (33G paramètres) sur les quatre tests et dépasse Grok-1 (paramètres inconnus) en moyenne et dans 3 des 4 tests. Il obtient également des résultats comparables ou meilleurs que ChatGPT (version mars 2023) dans des domaines clés tels que l'ÉvalHumaine et GSM8k, malgré un nombre de paramètres nettement inférieur.

Exécuter OpenChat 3.5 localement avec Ollama

Un des principaux avantages d'OpenChat 3.5 est sa capacité à être exécuté localement avec des outils tels que Ollama. Voici un guide étape par étape :

1. Installez Ollama en exécutant la commande suivante :

   curl -fsSL https://ollama.com/install.sh | sh

2. Téléchargez le modèle OpenChat 3.5 en utilisant la commande Ollama :

   ollama run openchat

3. Lancez le serveur Ollama :

   ./ollama serve

4. Dans un shell séparé, exécutez le modèle OpenChat 3.5 :

   ./ollama run openchat

5. Interagissez avec le modèle en utilisant l'API REST d'Ollama ou l'une des interfaces utilisateur compatibles, telles que :

   • LibreChat
   • Bionic GPT
   • Enchanted (natif macOS)
   • Interface utilisateur HTML
   • Saddle
   • Interface utilisateur de chatbot

Voici un exemple de génération de texte en utilisant l'API REST d'Ollama :

curl http://localhost:11434/api/generer -d '{
  "modèle": "openchat",
  "prompt": "Pourquoi le ciel est bleu ?"
}'

Et voici comment engager une interaction de type chat :

curl http://localhost:11434/api/chat -d '{
  "modèle": "openchat",
  "messages": [
    {
      "rôle": "utilisateur",
      "contenu": "Pourquoi le ciel est bleu ?"
    }
  ]
}'

En suivant ces étapes, vous pouvez exécuter facilement OpenChat 3.5 localement et découvrir ses impressionnantes capacités de première main.

Applications potentielles et impact

OpenChat 3.5 a le potentiel de révolutionner le paysage de l'IA en fournissant un modèle de langage open-source très performant, accessible aux développeurs et aux chercheurs du monde entier. Voici quelques applications potentielles :

• Assistance à la programmation : Grâce à ses performances solides sur des tests de programmation como l'ÉvalHumaine, OpenChat 3.5 peut servir d'assistant de programmation puissant, aidant les développeurs à écrire un code plus efficace et sans erreur.

• Réponse aux questions : Les performances exceptionnelles d'OpenChat 3.5 sur des tests comme MMLU et GSM8k démontrent sa capacité à fournir des réponses précises et informatives à un large éventail de questions.

• Compréhension du langage : Les performances solides du modèle sur des tâches de compréhension du langage le rendent adapté à des applications comme l'analyse des sentiments, la classification de texte et la reconnaissance d'entités nommées.

• Recherche et innovation : En offrant une alternative open-source aux modèles propriétaires, OpenChat 3.5 permet aux chercheurs d'explorer de nouvelles idées et de repousser les limites de ce qui est possible avec les modèles de langage.

Conclusion

OpenChat 3.5 représente une étape importante dans le développement des modèles de langage open-source. Avec ses performances exceptionnelles, son utilisation efficace des ressources et son accessibilité, il a le potentiel de démocratiser l'accès aux puissants outils d'IA et d'accélérer la recherche et l'innovation dans le domaine.

Alors que le paysage de l'IA continue d'évoluer, des modèles tels que OpenChat 3.5 joueront un rôle crucial dans la configuration de l'avenir du traitement du langage naturel et des applications basées sur l'IA. En embrassant les initiatives open-source et en collaborant avec la communauté mondiale de l'IA, nous pouvons débloquer de nouvelles possibilités et stimuler le développement de modèles de langage encore plus avancés et performants.

Vous souhaitez vous tenir au courant des dernières actualités sur LLM ? Consultez le dernier tableau de classement LLM !