« L’IA en Péril : La Crise des Données Qui Pourrait Freiner Son Évolution »

La Révolution des Chatbots : Vers une Intelligence Artificielle Étonnante

Lorsque vous conversez avec un chatbot tel que ChatGPT, l’impression d’une discussion élaborée avec un humain découle des avancées prodigieuses de l’intelligence artificielle (IA). Ces progrès sont le fruit du développement des grands modèles de langage (LLM), basés sur des réseaux de neurones entraînés à partir de vastes jeux de données.

La Pénurie de Données : Un Défi Imminent

Selon un article approfondi de Nature, les développeurs de LLM pourraient bientôt faire face à une pénurie de données conventionnelles pour entraîner leurs modèles. Ils ont déjà exploité la plupart des informations gratuites disponibles sur Internet, et ces modèles toujours plus vastes sont de plus en plus gourmands.

• Les recherches d’Epoch AI prévoient qu’à l’horizon 2028, la taille des jeux de données nécessaires égalera le stock total de textes publics en ligne.
• La question se pose : les progrès de l’IA vont-ils s’arrêter faute de données ?

Solutions Innovantes : Contourner la Limitation des Données

Les entreprises du secteur, comme OpenAI et Anthropic, ne semblent pas alarmées par cette limite annoncée. Elles ont reconnu le problème et envisagent de le contourner par divers moyens :

• Création de données de synthèse via l’IA.
• Partenariats pour accéder à des données non publiques.

Utilisation de Données Privées et Relecture

Une des solutions pourrait inclure l’utilisation de messages WhatsApp ou de transcriptions de vidéos YouTube. Cependant, cette approche soulève des questions de légalité. Certaines entreprises préfèrent garder leurs données pour entraîner leurs propres modèles en interne. D’autres imaginent que les LLM pourraient apprendre de nouvelles choses en “relisant” les données déjà utilisées pour leur entraînement.

Explorer de Nouvelles Sources de Données

Une autre piste prometteuse est l’exploitation de types de données variés, pas uniquement textuels. Certains modèles peuvent déjà s’entraîner, dans une certaine mesure, à partir de vidéos ou d’images non étiquetées, bien que des améliorations soient encore nécessaires.

Changement de Paradigme : Vers des Modèles Spécialisés

La crise des données pourrait transformer la conception des modèles d’IA générative. Au lieu de poursuivre la croissance des LLM généraux, l’accent pourrait être mis sur des modèles plus petits et spécialisés, adaptés à des tâches spécifiques (réponse aux courriels, rédaction de dossiers, recherches sur Internet, etc.) ou à des domaines particuliers (médecine, astronomie, génétique, etc.).

“Cette crise des données pourrait bouleverser le paysage des LLM, les faisant évoluer vers des modèles plus spécialisés”, indique la revue scientifique.

Il est également possible que les LLM, ayant déjà exploré la majeure partie de l’Internet, n’aient pas besoin de plus de données pour améliorer leur “intelligence”.

Pour en savoir plus, consultez Nature pour des informations supplémentaires et des analyses détaillées.

[embed]

[embed]" L'IA en Péril : La Crise des Données Qui Pourrait Freiner Son Évolution " Alors qu'ils ont déjà exploité presque toutes les données disponibles sur Internet pour entraîner leurs grands modèles…abestit.fr