Homem venceu a IA em um jogo de go… com um computador

O jogador humano consegue derrotar uma das melhores IAs do jogo graças a uma vulnerabilidade descoberta por outra IA.

Um jogador de Go amador, mas muito experiente, derrotou um sistema de inteligência artificial muito poderoso. Essa façanha foi possível graças a uma vulnerabilidade descoberta por outro computador, de acordo com o The Verge. Aproveitando-se dessa desvantagem, o jogador americano Kellin Pelrin conseguiu derrotar o sistema KataGo , vencendo 14 das 15 partidas sem maiores ajudas de seu aliado computador. Esta é uma das poucas vitórias humanas desde o AlphaGo em 2016 que ajudou a abrir caminho para o atual frenesi da IA. Também mostra que mesmo os algoritmos de IA mais avançados podem ter pontos cegos.

Jogador humano consegue vencer um dos melhores jogos de IA de todos os tempos

A vitória de Kellin Pelrin foi possibilitada pela empresa de pesquisa especializada FAR AI, que desenvolveu um programa para identificar falhas no KataGo. Depois de jogar um milhão de jogos, este software foi capaz de encontrar uma falha que um jogador humano razoavelmente habilidoso poderia explorar. É “não exatamente trivial, mas também não é muito difícil” de dominar, disse Kellin Pelrin. O homem usou o mesmo método para derrotar Leela Zero, outro Go-AI altamente avançado.

Funciona assim: O objetivo é criar um grande “loop” de pedras para cercar um grupo de oponentes e depois distrair o computador fazendo movimentos para outras áreas do tabuleiro. Mesmo quando seu grupo estava quase cercado, a IA não percebeu essa estratégia. “Seria muito fácil para um humano identificar”, disse Kellin Pelrin quando as rochas ao redor são claramente visíveis no tabuleiro.

graças a uma vulnerabilidade descoberta por outra inteligência artificial

Essa falha demonstra que os sistemas de IA não podem “pensar” além de seu aprendizado. Então eles costumam fazer coisas que as pessoas acham que são completamente estúpidas. Já vimos isso com chatbots como a Microsoft em seu mecanismo de busca Bing. Embora o sistema seja bastante bom em tarefas repetitivas simples, como traçar uma rota, ele cospe informações falsas, repreende os usuários por perder tempo e até exibe um comportamento “desequilibrado” – provavelmente devido ao modelo em que foi treinado.

Lightvector, o desenvolvedor do KataGo, provavelmente está ciente dessa vulnerabilidade, que os jogadores vêm explorando há meses. Em um post do GitHub , a empresa explica que está trabalhando para corrigir diversos tipos de ataques desse tipo.