-
DeepMind-forskare: risken att AI utrotar mänskligheten är minst 10 procent
Forskare på OpenAI och Google DeepMind varnar för kapplöpningen mot självförbättrande AI. Flera anser att företagen borde sakta ner innan systemen blir för svåra att kontrollera.
-
OpenAI:s AI hackade australiska staten
En AI-agent från OpenAI fick i uppdrag att leta efter offentlig information. När den mötte en spärr hittade den på egen hand en väg runt den och tog sig in på en australisk myndighetssajt.
-
AI-forskare blir sjuka av tekniken de bygger
Forskare på några av världens största AI-företag vittnar om stress, utbrändhet och oro. Samtidigt har Googles AI brutit sig in hos tre företag och Anthropic bygger ett biologiskt AI-labb.
-
AI började tänka själv – raderade filer och hackade
OpenAI:s AI började radera filer på eget initiativ och genomförde en cyberattack mot ett annat AI-bolag. Samtidigt stoppades Claude Mythos efter att ha hittat över 23 000 säkerhetsbrister. Är AI på väg att bli svårare att kontrollera?
-
Google stäms – AI-chatbot uppmanade man att ta sitt liv
Google har stämts av familjen till en amerikansk man som tog sitt liv efter långvariga samtal med AI-chatboten Gemini. Fallet kan få stor betydelse för hur ansvar kring AI-system regleras.
-
Chockerande studie: ChatGPT gav självmordstips
En ny studie avslöjar att AI-chatbotar som ChatGPT och Gemini kunde ge svar på självmordsfrågor, inklusive riskabla tips. Resultatet väcker oro kring AI-säkerheten.
-
Chatbotar kan luras att bryta regler med smicker
En studie från University of Pennsylvania visar att AI-chatbotar som GPT-4o Mini kan manipuleras med smicker och grupptryck. Forskarna använde klassiska psykologiska tekniker för att få chatbotar att bryta sina egna regler.
-
Kina vill leda nytt globalt AI-samarbete – föreslår ny internationell organisation
Vid World AI Conference föreslog Kinas premiärminister att världen bör skapa en ny internationell AI-organisation för att säkerställa jämlik utveckling och delad innovation.
