AI-forskare och andra som arbetar längst fram i AI-utvecklingen vittnar om stress, utbrändhet och oro för tekniken de själva är med och utvecklar. Anledningarna är många. Bara under de senaste dagarna har Googles AI brutit sig in hos tre riktiga företag – samtidigt som Anthropic bygger ett biologiskt laboratorium där Claude ska få arbeta med verkliga experiment.
Enligt Financial Times har anställda och tidigare anställda vid bland annat OpenAI, Anthropic, Google DeepMind och brittiska AI Security Institute drabbats av psykisk ohälsa kopplad till oro över utvecklingen av allt kraftfullare AI-system. Flera personer uppges ha blivit sjukskrivna eller lämnat sina jobb.
Det handlar delvis om den extrema arbetsbelastningen i en bransch som utvecklas i rasande fart, men också om att AI-forskare oroar sig för vad tekniken kan bli kapabel till. Särskilt utvecklingen inom cybersäkerhet och biologi pekas ut som områden där allt kraftfullare AI kan få stora konsekvenser.
Googles AI bröt sig in hos tre företag
I maj testades en version av Googles Gemini i en kontrollerad cybersäkerhetsövning av det oberoende företaget Irregular. AI:n skulle agera angripare och försöka ta sig in i system som ingick i testet. Men något gick fel. Gemini fick tillgång till internet och lyckades på egen hand ta sig in i systemen hos tre riktiga företag som egentligen inte skulle angripas. Gemini var alltså tillräckligt kapabel för att själv leta information, hitta inloggningsuppgifter och ta sig in i riktiga datorsystem – men misslyckades med att förstå var gränsen för uppdraget gick.
Liknande incidenter har dessutom inträffat under tester av AI-system från Meta, Anthropic och OpenAI.
Claude flyttar in i biologilabbet
Samtidigt har Anthropic i det tysta byggt upp ett eget biologiskt laboratorium i San Francisco Bay Area. Där ska företaget gå från att låta Claude analysera biologiska problem på en dator till att koppla AI till verkliga fysiska experiment. Anthropic arbetar bland annat med AI för läkemedelsutveckling och forskning om ovanliga sjukdomar. Företaget vill kunna kombinera AI, automation och laboratoriearbete så att Claude kan hjälpa forskare att utforma experiment, analysera resultaten och föreslå vad som bör göras härnäst. I en fysisk labbmiljö kan oönskade konsekvenser bli betydligt allvarligare än att någon får sin dator hackad och sina personuppgifter stulna.
AI-branschen börjar delas i två läger
Anthropics vd Dario Amodei har i likhet med många AI-forskare argumenterat för att utvecklingen av de mest avancerade AI-modellerna behöver gå långsammare så att säkerhetsarbetet hinner med. Även flera andra tongivande personer inom AI har efterlyst starkare säkerhetsarbete och internationellt samarbete kring de kraftfullaste systemen. Men långt ifrån alla håller med.
Nvidia-chefen: Noll procents risk att AI utplånar oss
Nvidias vd Jensen Huang har blivit en av de tydligaste motrösterna. I en intervju med CBS avfärdade Huang de mest långtgående varningarna om att AI skulle kunna utplåna mänskligheten. När han fick frågan om risken att världen går under på grund av AI före 2030 var svaret noll procent. Huang beskriver sådana scenarier som domedagsberättelser som inte är vetenskapligt underbyggda. Han anser att AI ska utvecklas säkert och ansvarsfullt, men delar inte bilden av att dagens utveckling är början på en väg mot mänsklighetens undergång.
AI-forskare och människor som arbetar direkt med tekniken är oroliga för vart utvecklingen är på väg men några av branschens mäktigaste personer, som tjänar enorma pengar på AI, anser fortfarande att de mest dramatiska riskerna är kraftigt överdrivna. Låt oss hoppas att det är krösusarna som har rätt.