Google Bard schakelt binnenkort over naar een meer “geavanceerd” taalmodel

Google vertaalt Bard binnenkort naar een veel geavanceerder taalmodel. Het verschil tussen LaMDA en PaLM moet opvallend zijn.

Het grote publiek is niet erg onder de indruk van Google’s lancering van zijn ‘experimentele conversatiedienst’Bard. Toen ze werden geconfronteerd met OpenAI ChatGPT en Microsoft Bing Chat, die ook op OpenAI GPT-4 draaien, ontdekten gebruikers dat de antwoorden van de oplossing van Mountain View niet zo gedetailleerd waren als die van zijn concurrenten. Dit kan echter snel veranderen. Google-CEO Sundar Pichai bevestigde in de “Hard Fork”-podcast van The New York Times dat Bard in de komende dagen zal overstappen van zijn huidige LaMDA-model naar de grotere PaLM-dataset.

Google zal Bard binnenkort updaten naar een veel geavanceerder taalmodel.

Gevraagd naar de feedback na het vertrek van Bard, zei Sundar Pichai: “We hebben duidelijk modellen die meer kunnen. Zeer binnenkort, misschien nu, zullen we Bard upgraden naar een van onze veel functionelere PaLM-modellen om hem meer opties, meer gestructureerd denken, inclusief programmeren, te geven.”

Om de verschillen beter te kunnen waarderen, zei Google dat het LaMDA had getraind op niet minder dan 137 miljard parameters toen het vorig jaar de details van zijn taalmodellen onthulde. PaLM daarentegen is getraind met ongeveer 540 miljard parameters. Beide zijn veel veranderd sinds begin 2022, maar het contrast maakt duidelijk waarom Google Bard nu wil verplaatsen naar PaLM met zijn grotere dataset en meer diverse reacties.

Sundar Pichai zegt dat hij zich geen zorgen maakt over de AI-ontwikkelingssnelheid van Google in vergelijking met de concurrentie. Toen Bard in februari zijn eerste stappen zette, erkende hij dat het gebruik van LaMDA zijn opties enigszins had beperkt, maar voegde eraan toe dat minder rekenkracht een voordeel is, waardoor gebruikers kunnen testen en profiteren. Sundar Pichai wilde er ook zeker van zijn dat Google zijn eigen veiligheids- en kwaliteitsbeoordeling van Bard zal uitvoeren zodra het in de echte wereld is vrijgegeven.

Het verschil tussen LaMDA en PaLM moet opvallend zijn.

Om dit te doen, legde Sundar Pichai uit dat Google geen “krachtiger model wil lanceren voordat het er volledig zeker van is dat het het goed kan beheren. We staan ​​nog maar aan het begin. Na verloop van tijd zullen we betere modellen hebben om in te pluggen, maar ik wil niet dat het een race wordt om te zien wie er als eerste is, het is erg belangrijk voor ons om het goed te doen.

Dit gevoel leeft in de hoofden van meer dan 1.800 mensen (waaronder technologieleiders en andere AI-onderzoekers) die een open brief hebben ondertekend waarin wordt opgeroepen tot een onderbreking van minimaal zes maanden in de ontwikkeling van AI-technologieën “krachtiger dan GPT-4”.

Sundar Pichai gelooft niet dat dit succesvol kan worden gedaan zonder overheidsbemoeienis, maar beaamt dat er leiderschap nodig is: “AI is te belangrijk om gereguleerd te worden. Het is ook te belangrijk om slecht geregeld te zijn. Dus ik ben blij dat deze gesprekken plaatsvinden.”