人間がコンピューターを使った囲碁で AI に勝利

人間のプレイヤーは、別の AI によって発見された脆弱性のおかげで、ゲーム内で最高の AI の 1 つを倒すことに成功しました。

アマチュアだが経験豊富な囲碁プレイヤーが、非常に強力な人工知能システムに勝利した。The Vergeによると、この偉業は別のコンピュータによって発見された脆弱性によって可能になったという。この不利な点を利用して、アメリカ人プレーヤーのケリン・ペリンはKataGo システムを破ることに成功し、味方のコンピューターの助けを借りずに 15 局中 14 局で勝利しました。これは、現在の AI の熱狂への道を切り開いた 2016 年の AlphaGo 以来、数少ない人間の勝利の 1 つです。また、最先端の AI アルゴリズムにも盲点がある可能性があることも示しています。

人間のプレイヤーが史上最高の AI ゲームの 1 つに勝利することができました

Kellin Perrin 氏の勝利は、KataGo の欠陥を特定するプログラムを開発した専門調査会社 FAR AI によって可能になりました。このソフトウェアは 100 万回のゲームをプレイした結果、ある程度熟練した人間のプレイヤーであれば悪用できる欠陥を見つけることができました。習得するのは「決して簡単ではありませんが、それほど難しいわけでもありません」とケリン・ペリン氏は言います。男は同じ方法を使用して、別の高度な囲碁 AI である Leela Zero を倒しました。

その仕組みは次のとおりです。目標は、対戦相手のグループを囲む大きな岩の「ループ」を作成し、ボードの他の領域に移動してコンピューターの注意をそらすことです。彼のグループがほぼ包囲されたときでさえ、AIはこの戦略に気づきませんでした。ボード上で周囲の岩がはっきりと見えると、「人間にとっては見つけるのはかなり簡単でしょう」とケリン・ペリン氏は言う。

別の人工知能によって発見された脆弱性のおかげで

この欠陥は、AI システムが学習を超えて「考える」ことができないことを示しています。そして、人々が完全に愚かだと思うようなことをすることがよくあります。これは、Microsoft の Bing 検索エンジン上のチャットボットですでに確認されています。このシステムは、ルートのプロットなどの単純な反復タスクにはかなり優れていますが、誤った情報を吐き出し、ユーザーの時間を無駄にしていると叱責し、さらには「アンバランスな」動作を示すことさえあります。これは、おそらくトレーニングされたテンプレートが原因であると考えられます。

KataGo の開発者である Lightvector は、プレーヤーが何か月も悪用してきたこの脆弱性を認識している可能性があります。GitHub の投稿で、同社はこの種の数種類の攻撃の修正に取り組んでいると説明しています。