Microsoft、Bing でのチャットボットの奇妙な動作を説明

Microsoft は、Bing チャットボットの時々奇妙な動作を正当化すると説明しています。担当チームによると、その理由はAIとの長時間の交流セッションにあるという。

先週、MicrosoftはEdgeブラウザでBing用のAIベースのチャットボットを発表し、それ以来ずっとニュースになっている。しかし、必ずしも正しい理由があるわけではありません。第一印象は非常に良好でしたが、ユーザーは、Bing ボットが誤った情報を提供したり、時間を無駄にしているとユーザーを叱ったり、かなり「バランスの悪い」動作を示したりすることに気づき始めました。奇妙な会話の中で、彼は映画『アバター 2: ウォーターウェイ』のテープの公開を拒否し、映画はまだ 2022 年だからまだ公開されていないと主張した。彼はビングに自分が間違っていると言おうとした。

Microsoftは、Bingチャットボットの時々奇妙な動作を正当化すると自ら説明している

Microsoftは本日、何が起こったのか、そしてそのような問題にどのように対処しているのかを説明するブログ投稿を公開した。まず、レドモンドに本拠を置く同社は、Bing の AI を「一般的な世界の発見とソーシャル エンターテイメント」に使用する計画はないと認めた。

このような「15 個以上の質問による長時間のチャット セッション」により、システムがダウンする可能性があります。「Bing は、必ずしも役に立たない回答や、私たちが望んでいる論調と一致しない回答を提供するために、繰り返したり、素早い回答を提供したりする場合があります」と同社は説明しています。どうやら、これは、ボットが最初に答えようとしていた質問を次から次へと「忘れる」可能性があるためです。これを修正するために、Microsoft は検索コンテキストをリセットするか最初から開始するためのツールを追加する可能性があります。

もう 1 つの問題はより複雑で興味深いものです。「モデルは時々、質問されたのと同じ調子で答えたり考えたりしようとするため、望ましくないスタイルにつながる可能性があります」と Microsoft は書いています。これには多くの操作が必要ですが、エンジニアはユーザーがより詳細に制御できるようにすることで問題を解決できると考えています。

担当チームによると、その理由はAIとの長時間の交流セッションにあるという。

Microsoft によると、こうした懸念にもかかわらず、テスターは一般に Bing の検索用 AI 結果に非常に満足しています。ただし、「スポーツのリアルタイムスコアなど、時間制限が非常に高いデータ」については、さらに改善することは可能です。また、このアメリカの巨人は、データを 4 倍にすることで、たとえば財務諸表などの事実に基づく回答を改善しようとしています。 。最後に、同社は「リクエストに応じて、応答の正確性や創造性を促進するために、より詳細な制御を可能にするボタンを追加する」予定だ。

Bing サポートは、ユーザーが行ったすべてのテストに感謝し、それが「すべての人にとって製品をより良いものにするのに役立っている」と述べています。同時にエンジニアたちは、ユーザーがロボットと対話するために最大 2 時間も滞在していることに驚いていると述べています。間違いなく、インターネット ユーザーはチャットボットの新しい反復を 1 日中テストする必要があり、すべてが非常に興味深いものになる可能性があります。

Bing のサブレディットには、新しい Bing チャットが制御不能になった例がかなりたくさんあります。

今すぐ検索でチャットを開くのは悪い考えかもしれません。

主要な検索エンジンが結果にこれを表示していた時代があったことを思い出させるためにここに取り上げます。pic.twitter.com/LiE2HJCV2z

— ヴラド (@vladquant) 2023年2月13日