Artificiell intelligens används redan för att designa biologiska strukturer som tidigare varit svåra eller omöjliga för människor att skapa. Nu har forskare vid amerikanska universitetet Stanford visat att AI-modeller kan användas för att generera helt nya virusliknande entiteter som fungerar i laboratorium – och det väcker både förundran och oro i forskarvärlden.
I ett uppmärksammat projekt använde forskare den generativa AI-modellen EVO2 för att skapa 300 nya versioner av så kallade bakteriofager – virus som angriper bakterier snarare än människor. Av dessa visade sig flera vara genetiskt stabila och kunna reproducera sig i labbmiljö, vilket kritiker beskriver som ett potentiellt biosecurity-hot.
Modellen tränades på data från miljarder biologiska sekvenser, vilket gjorde det möjligt för AI att föreslå muterade virusdesigns snabbare än vad traditionell biologisk forskning normalt tillåter.
En artikel publicerad i Nature och andra forskningsrapporter visar hur AI-system i biologisk design nu kan manipulera hela genom och inte bara enstaka proteiner, vilket gör dem till kraftfulla verktyg i händerna på utbildade biotekniker – men också till potentiella verktyg för missbruk.
Forskning inom området visar dessutom att konvergensen mellan syntetisk biologi och AI ökar bio-säkerhetsriskerna ytterligare, eftersom algoritmer kan generera komplexa biologiska strukturer med hastighet och precision som traditionella metoder saknar.
– “AI ger oss möjligheten att designa DNA-sekvenser som inte finns i naturen,” säger biovetenskapsforskare från Stanford, vilket öppnar både medicinska möjligheter och etiska dilemman.
Andra experter menar att även om tekniken ännu inte kan skapa direkt dödliga virus för människor, kan den bana väg för framtida verktyg som potentiellt kan användas för att manipulera biologiska system i skadliga syften om inte strikta säkerhetsramar införs. AI används redan för att sprida propaganda och påverka människor på nätet – något som extremistgrupper öppet uppmanar till. När samma teknik samtidigt börjar designa biologiska system suddas gränsen mellan digital påverkan och fysisk risk ut.