El hombre venció a la IA en un juego de go… con una computadora

El jugador humano logra derrotar a una de las mejores IA del juego gracias a una vulnerabilidad descubierta por otra IA.

Un jugador de Go aficionado pero muy experimentado ha vencido a un sistema de inteligencia artificial muy potente. Esta hazaña fue posible gracias a una vulnerabilidad descubierta por otra computadora, según The Verge. Aprovechando esta desventaja, el jugador estadounidense Kellin Pelrin logró derrotar al sistema KataGo , ganando 14 de 15 juegos sin más ayuda de su aliado informático. Esta es una de las pocas victorias humanas desde AlphaGo en 2016 que ayudó a allanar el camino para el actual frenesí de la IA. También muestra que incluso los algoritmos de IA más avanzados pueden tener puntos ciegos.

El jugador humano logra vencer a uno de los mejores juegos de IA de todos los tiempos

La victoria de Kellin Pelrin fue posible gracias a la empresa de investigación especializada FAR AI, que desarrolló un programa para identificar fallas en KataGo. Después de jugar un millón de juegos, este software pudo encontrar una falla que un jugador humano razonablemente hábil podría explotar. «No es exactamente trivial, pero tampoco es muy difícil» de dominar, dijo Kellin Pelrin. El hombre usó el mismo método para derrotar a Leela Zero, otra Go-AI altamente avanzada.

Así es como funciona: El objetivo es crear un gran «bucle» de rocas para rodear a un grupo de oponentes y luego distraer a la computadora haciendo movimientos a otras áreas del tablero. Incluso cuando su grupo estaba casi rodeado, la IA no se dio cuenta de esta estrategia. “Sería bastante fácil de detectar para un humano”, dijo Kellin Pelrin cuando las rocas circundantes son claramente visibles en el tablero.

gracias a una vulnerabilidad descubierta por otra inteligencia artificial

Esta falla demuestra que los sistemas de IA no pueden “pensar” más allá de su aprendizaje. Luego, a menudo hacen cosas que la gente piensa que son completamente estúpidas. Ya hemos visto esto con chatbots como Microsoft en su motor de búsqueda Bing. Si bien el sistema es bastante bueno en tareas repetitivas simples como trazar una ruta, escupe información falsa, regaña a los usuarios por perder el tiempo e incluso muestra un comportamiento «desequilibrado», muy probablemente debido a la plantilla en la que fue entrenado.

Lightvector, el desarrollador de KataGo, probablemente esté al tanto de esta vulnerabilidad, que los jugadores han estado explotando durante meses. En una publicación de GitHub , la compañía explica que está trabajando para solucionar varios tipos de ataques de este tipo.