Человек победил ИИ в игре в го… с компьютером

Игроку-человеку удается победить одного из лучших ИИ в игре благодаря уязвимости, обнаруженной другим ИИ.

Любитель, но очень опытный игрок в го обыграл очень мощную систему искусственного интеллекта. По данным The Verge, этот подвиг стал возможен благодаря уязвимости, обнаруженной на другом компьютере. Воспользовавшись этим недостатком, американский игрок Келлин Пелрин сумел победить систему KataGo , выиграв 14 игр из 15 без дополнительной помощи своего компьютерного союзника. Это одна из очень немногих человеческих побед со времен AlphaGo в 2016 году, которая помогла проложить путь к нынешнему безумию ИИ. Это также показывает, что даже самые продвинутые алгоритмы ИИ могут иметь слепые зоны.

Игроку-человеку удается победить в одной из лучших игр с искусственным интеллектом

Победа Келлина Пелрина стала возможной благодаря специализированной исследовательской компании FAR AI, разработавшей программу для выявления недостатков в KataGo. Сыграв миллион игр, это программное обеспечение смогло найти недостаток, которым мог бы воспользоваться достаточно опытный игрок-человек. Это «не совсем тривиально, но и не очень сложно» в освоении, сказал Келлин Пелрин. Человек использовал тот же метод, чтобы победить Лилу Зеро, еще одного высокоразвитого Го-ИИ.

Вот как это работает: Цель состоит в том, чтобы создать большую «петлю» из камней, чтобы окружить группу противников, а затем отвлечь компьютер, делая ходы в другие области доски. Даже когда его группу почти окружили, ИИ не заметил этой стратегии. «Человеку было бы довольно легко заметить», — сказал Келлин Пелрин, когда на доске отчетливо видны окружающие скалы.

благодаря уязвимости, обнаруженной другим искусственным интеллектом

Этот недостаток демонстрирует, что системы ИИ не могут «думать» помимо своего обучения. Затем они часто делают вещи, которые люди считают совершенно глупыми. Мы уже видели это с чат-ботами, такими как Microsoft, в их поисковой системе Bing. Хотя система довольно хорошо справляется с простыми повторяющимися задачами, такими как построение маршрута, она выдает ложную информацию, ругает пользователей за трату времени и даже демонстрирует «несбалансированное» поведение — скорее всего, из-за шаблона, на котором она была обучена.

Lightvector, разработчик KataGo, вероятно, знает об этой уязвимости, которую игроки использовали в течение нескольких месяцев. В сообщении на GitHub компания объясняет, что работает над исправлением нескольких типов атак подобного рода.