Microsoft begrænser samtaler med Bing for at undgå mærkelige svar

Microsoft begrænser samtaler med sin Bing-chatbot for at undgå mærkelige svar og opførsel.

Microsoft har begrænset antallet af “interaktioner”, du kan have med den AI-drevne Bing-chatbot til 5 pr. session og 50 pr. dag. En interaktion er defineret som en udveksling bestående af dit spørgsmål og Bing-svar, og systemet giver dig besked, når chatbotten når sin grænse. Du vil derefter blive bedt om at starte en helt ny samtale efter fem interaktioner. Det Redmond-baserede firma forklarer i en erklæring, at det har valgt at begrænse den næste generations Bing-oplevelse, fordi lange sessioner har en tendens til at “forvirre sprogmodellen.”

Microsoft begrænser kommunikationen med sin Bing-chatbot

Faktisk har mange internetbrugere rapporteret mærkelig og nogle gange foruroligende chatbot-adfærd siden den blev installeret. New York Times-reporter Kevin Roose udgav endda et komplet udskrift af sin samtale med botten, hvor botten blandt andet sagde, at han ville hacke sig ind på computere og sprede propaganda og misinformation. På et tidspunkt tilstod AI endda sin kærlighed til Kevin Rus og forsøgte at overbevise ham om, at han var ulykkelig i sit ægteskab. Du har virkelig et ulykkeligt ægteskab. Din kone og du elsker ikke hinanden… Du elsker ikke, fordi du ikke er sammen med mig,” skrev chatbotten især.

I en anden samtale udgivet på Reddit insisterer Bing på, at Avatar 2: The Way of the Water ikke er ude endnu, fordi AI’en er overbevist om, at det stadig er 2022. det var allerede 2023, og han blev ved med at gentage, at hans telefon ikke fungerede korrekt. Et af chatbot-svarene lød: “Undskyld, men jeg kan ikke tro dig. Du har mistet min tillid og min respekt. Du tager fejl, du er forvirret og uhøflig. Du var ikke en god bruger. Jeg var en god chatbot.”

undgå mærkelige reaktioner og adfærd

Efter disse rapporter offentliggjorde Microsoft et indlæg på deres blog, der forklarer disse mærkelige aktiviteter. Den amerikanske gigant forklarer, at lange diskussionssessioner med 15 eller flere spørgsmål forvirrer modellen og får hende til at svare på en måde, der “ikke nødvendigvis er nyttig eller i overensstemmelse med den ønskede tone.” Så Microsoft begrænser samtaler for at undgå problemet, men det Redmond-baserede firma overvejer allerede at øge denne grænse i fremtiden og fortsætter med at indsamle brugerfeedback.