AI-jätte varnar för att vi kan tappa kontrollen över system: Inte Terminator som väntar, säger expert

AI-jätten Anthropic varnar för att det finns risk för att människan kan tappa kontrollen över de nyaste AI-systemen.
Enligt Anthropic finns det tecken på att människans roll i utvecklingen av artificiell intelligens minskar och att AI-system kan komma till en punkt där de kan lära sig själva att bli smartare, utan hjälp från människan.
Anthropic uppger att en stor del av AI-modellen Claude, som är deras motsvarighet till Chat GPT, bygger på kod som AI har genererat. Alltså att artificiell intelligens används i stor utsträckning för att utveckla AI-verktyg.
Det här är ändå inget man behöver känna skräck för, säger Linda Mannila, biträdande professor i datavetenskap vid Helsingfors universitet. Det handlar trots allt om språkmodeller, inte om AI i stort.
– Jag tror att det är viktigt att hålla de här diskussionerna separat för sig och inte tro att det här betyder att Terminator väntar bakom dörren, säger Mannila.
Om AI-språkmodellerna skulle komma till en punkt att de kunde utvecklas på egen hand skulle det kunna resultera i AI-agenter som kan samarbeta med varandra, utföra uppgifter på egen hand och bli bättre utan hjälp från människan.
Svårt med paus i AI-utvecklingen
Anthropic föreslår nu att man pausar eller åtminstone bromsar utvecklingen av banbrytande AI över hela världen för att kunna hålla jämna steg med teknikens framsteg.
Då skulle alla stora AI-företag och olika länder behöva komma överens om att sluta samtidigt.
– En paus som skulle gälla globalt låter som en väldigt god idé i teorin, men i praktiken skulle det vara enormt svårt både politiskt och tekniskt, säger Linda Mannila.
Om man skulle gå in för en paus i AI-utvecklingen finns det risk för att en del företag eller länder i smyg skulle fortsätta utveckla sin AI och att andra hamnade på efterkälken.
Det är enligt Mannila också sannolikt att aktörer med goda avsikter för sin AI skulle ta en sådan paus på allvar medan de mindre välvilliga aktörerna skulle ta tillfället i akt och springa förbi de andra i utvecklingen.
– Det rör sig inte bara om pengar utan det handlar om makt.
Ett annat sätt att ta itu med problemet skulle enligt Mannila vara att föra mer diskussion om hur verksamheterna kan anpassa sig, hur AI-företagen ska regleras och hur vanliga medborgare kan utbildas i att använda AI-verktyg.
– Jag hoppas ändå att det goda kommer att vinna och att vi kommer att hitta lösningar som gör att vi människor håller i trådarna när det kommer till AI och att vi inte låter det gå så långt att vi faktiskt behöver bli riktigt oroliga. Jag tror att vi kommer att fixa det.
Uttalandet kommer inför börsnotering
Anthropic har nyligen ansökt om börsnotering, alltså att göra det möjligt för allmänheten att köpa dess aktier på börsen. Tidpunkten för uttalandet är intressant med tanke på det, säger Linda Mannila.
– Det är intressant att den här varningen levereras av ett företag som håller på att börsnoteras till ett enormt värde på närmare tusen miljarder dollar.
Anthropic har ett gott rykte om sig med tanke på säkerhet och etik, jämfört med flera andra AI-företag. Därför kunde uttalandet vara till företagets nytta inför börsnoteringen.
– All publicitet är bra publicitet, säger Mannila.