Google Bard passera bientôt à un modèle de langage plus « avancé »

Google traduira bientôt Bard dans un modèle de langage beaucoup plus avancé. La différence entre LaMDA et PaLM doit être frappante.

Le grand public n’est pas trop impressionné par le lancement par Google de son « service conversationnel expérimental » Bard. Face à OpenAI ChatGPT et Microsoft Bing Chat, qui fonctionnent également sur OpenAI GPT-4, les utilisateurs ont constaté que les réponses de la solution de Mountain View n’étaient pas aussi détaillées que celles de ses concurrents. Cependant, cela pourrait bientôt changer. Le PDG de Google, Sundar Pichai, a confirmé sur le podcast « Hard Fork » du New York Times que Bard passera de son modèle LaMDA actuel à l’ensemble de données PaLM plus large dans les prochains jours.

Google mettra bientôt à jour Bard vers un modèle de langage beaucoup plus avancé.

Interrogé sur les réactions après le départ de Bard, Sundar Pichai a déclaré : « Nous avons clairement des modèles qui peuvent faire plus. Très bientôt, peut-être maintenant, nous mettrons à niveau Bard vers l’un de nos modèles PaLM beaucoup plus fonctionnels pour lui donner plus d’options, une réflexion plus structurée, y compris la programmation.

Pour mieux apprécier les différences, Google a déclaré avoir formé LaMDA sur pas moins de 137 milliards de paramètres lorsqu’il a révélé les détails de ses modèles de langage l’année dernière. PaLM, d’autre part, a été formé avec environ 540 milliards de paramètres. Les deux ont beaucoup changé depuis le début de 2022, mais le contraste montre clairement pourquoi Google veut maintenant déplacer Bard vers PaLM avec son ensemble de données plus large et ses réponses plus diversifiées.

Sundar Pichai dit ne pas s’inquiéter de la vitesse de développement de l’IA de Google par rapport à la concurrence. Lorsque Bard a fait ses premiers pas en février, il a reconnu que l’utilisation de LaMDA avait quelque peu limité ses options, mais a ajouté qu’une puissance de traitement moindre était un avantage, permettant aux utilisateurs de tester et d’en tirer profit. Sundar Pichai voulait également s’assurer que Google procédera à son propre examen de la sécurité et de la qualité de Bard une fois qu’il sera publié dans le monde réel.

La différence entre LaMDA et PaLM doit être frappante.

Pour ce faire, Sundar Pichai a expliqué que Google ne souhaite pas lancer « un modèle plus puissant avant d’être pleinement convaincu qu’il pourra le gérer correctement ». Nous n’en sommes qu’au tout début. Au fil du temps, nous aurons de meilleurs modèles à brancher, mais je ne veux pas que ce soit une course pour voir qui arrivera en premier, il est très important pour nous de bien faire les choses.

Ce sentiment est dans l’esprit de plus de 1 800 personnes (dont des leaders technologiques et d’autres chercheurs en IA) qui ont signé une lettre ouverte appelant à une pause d’au moins six mois dans le développement de technologies d’IA « plus puissantes que GPT-4 ».

Sundar Pichai ne pense pas que cela puisse être fait avec succès sans la participation du gouvernement, mais convient qu’un leadership est nécessaire : « L’IA est trop importante pour être réglementée. Il est également trop important pour être mal réglementé. Je suis donc heureux que ces conversations aient lieu.