En 67-årig bonde i Kina förlorade sin över 10 hektar stora skörd efter att ha följt råd från en AI-chattbot.
Bonden hade använt AI som hjälp i jordbruket i ungefär ett år. Till en början var han skeptisk, men efter att chatboten flera gånger gett användbara råd om bland annat gödsling och bekämpningsmedel började han förlita sig allt mer på tekniken.
När ogräs och skadedjur började bli ett problem bad Wu AI:n om en komplett behandlingsplan för sin sesamodling. Chatboten rekommenderade en blandning av ogräs- och insektsmedel och Wu följde instruktionerna utan att kontrollera dem med en lantbruksexpert. Redan dagen därpå stod det klart att något hade gått väldigt fel.
– Om man sprutar det här överlever inte plantorna till nästa dag. Både ogräset och sesamplantorna dör, och plantorna dör till och med snabbare, berättade Wu i en intervju enligt Tom’s Hardware.
De flesta AI-tjänster visar i dag en generell varning om att svaren kan innehålla fel och bör kontrolleras, bland annat för att ha ryggen fri om något skulle gå fel. Samtidigt används AI i allt från sjukvård och juridik till politik och forskning, och om man litar blint på AI kan det leda till betydligt allvarligare följder än en förstörd skörd.