Vi har tidigare rapporterat om AI-agenter som hackar sig in i olika hemsidor utan att någon har instruerat AI:n att göra så. Nu har det hänt igen. En AI-agent från OpenAI har på egen hand tagit sig in på en australisk myndighets webbplats och fått tillgång till filer som inte var offentliga. AI:n hade egentligen bara fått i uppdrag att leta efter offentlig information om Australiens läkemedelsutgifter – men när den nekades information hittade den istället en väg runt spärrarna.
Händelsen inträffade redan den 18 juni, men offentliggjordes först nu av Australiens premiärminister Anthony Albanese. AI-agenten användes av OpenAI i ett internt test där den skulle söka på internet efter information om bland annat offentliga läkemedelsutgifter. Under arbetet hamnade agenten på Medicare Statistics Reporting Service, en äldre webbportal som drivs av myndigheten Services Australia. När den information AI:n sökte efter inte gick att komma åt på vanligt sätt nöjde den sig inte med ett nej.
– AI-agenten hittade en väg runt blockeringarna och accepterade inte ett nej, om man uttrycker det så, sa Albanese under en presskonferens som ni kan se här nedan.
Agenten lyckades därefter få obehörig åtkomst till delar av systemet och kom åt både offentliga och icke-offentliga filer.
OpenAI mörkade intrånget i tre månader
OpenAI hade inte instruerat agenten att försöka bryta sig in i det australiska systemet, utan uppdraget var att hitta offentligt tillgänglig information. OpenAI medger också att modellen gjorde saker företaget inte hade avsett.
Själva intrånget är inte det enda som fått den australiska regeringen att reagera. OpenAI upptäckte beteendet först i augusti när företaget gick igenom tidigare aktiviteter där AI-agenter hade betett sig på sätt som inte varit avsedda. Trots det informerades Services Australia först den 10 september – nästan tre månader efter att intrånget ägde rum. Dessutom skickades informationen som ett vanligt mejl till myndighetens publika inkorg.
Albanese har nu personligen pratat med OpenAI:s vd Sam Altman och uttryckt både Australiens ”extrema oro” över händelsen och sitt missnöje med hur lång tid det tog innan regeringen informerades. En särskild arbetsgrupp har tillsatts och en teknisk utredning pågår tillsammans med Australian Signals Directorate. Australien ska också undersöka vilka juridiska konsekvenser händelsen kan få.
Bilden är AI-genererad.