Man slog AI i en omgång… med en dator

Den mänskliga spelaren lyckas besegra en av de bästa AI i spelet tack vare en sårbarhet som upptäckts av en annan AI.

En amatör men mycket erfaren Go-spelare har besegrat ett mycket kraftfullt artificiell intelligenssystem. Denna bedrift möjliggjordes av en sårbarhet som upptäckts av en annan dator, enligt The Verge. Genom att dra fördel av denna nackdel lyckades den amerikanska spelaren Kellin Pelrin besegra KataGo-systemet och vann 14 av 15 spel utan ytterligare hjälp från sin datorallierade. Detta är en av de mycket få mänskliga vinsterna sedan AlphaGo 2016 som hjälpte till att bana väg för den nuvarande AI-frenzyn. Det visar också att även de mest avancerade AI-algoritmerna kan ha blinda fläckar.

Mänsklig spelare lyckas slå ett av de bästa AI-spelen någonsin

Kellin Pelrins seger möjliggjordes av det specialiserade forskningsföretaget FAR AI, som utvecklade ett program för att identifiera brister i KataGo. Efter att ha spelat en miljon spel kunde denna programvara hitta ett fel som en rimligt skicklig mänsklig spelare kunde utnyttja. Det är ”inte direkt trivialt, men det är inte heller särskilt svårt” att bemästra, sa Kellin Pelrin. Mannen använde samma metod för att besegra Leela Zero, en annan mycket avancerad Go-AI.

Så här fungerar det: Målet är att skapa en stor ”slinga” av stenar för att omge en grupp motståndare och sedan distrahera datorn genom att flytta till andra delar av brädet. Även när hans grupp nästan var omringad, märkte inte AI denna strategi. ”Det skulle vara ganska lätt för en människa att upptäcka,” sa Kellin Pelrin när de omgivande stenarna är tydligt synliga på tavlan.

tack vare en sårbarhet som upptäckts av en annan artificiell intelligens

Denna brist visar att AI-system inte kan ”tänka” bortom sitt lärande. Sedan gör de ofta saker som folk tycker är helt dumma. Vi har redan sett detta med chatbots som Microsoft på deras Bing-sökmotor. Även om systemet är ganska bra på enkla repetitiva uppgifter som att rita en rutt, spottar det ut falsk information, skäller ut användare för att slösa tid och uppvisar till och med ett ”obalanserat” beteende – troligen på grund av mallen som det tränades på.

Lightvector, utvecklaren av KataGo, är troligen medveten om denna sårbarhet, som spelare har utnyttjat i flera månader. I ett GitHub-inlägg förklarar företaget att man arbetar med att fixa flera typer av attacker av det här slaget.