Csak segítséget kért volna a házi feladathoz, halálosan megfenyegette az AI

A furcsa anomáliával kapcsolatos Reddit-bejegyzésre a HVG figyelt fel. A Reddit-felhasználó szerint a testvére egy házidolgozathoz kérte a mesterséges intelligencia segítségét, ami az idősek jólétével és kihívásaival volt kapcsolatos.

Körülbelül 20 kérdés után lyukadt ki a beszélgetés oda, hogy konkrétan elküldte a fiatalt meghalni. Teljesen váratlanul, előtte semmi jelét nem mutatta agresszív viselkedésnek.

Az már egy mondatban is nagyon durva lenne, hogy a chatbot valakinek a halálát kívánja, de ami még aggasztóbb, hogy ezt még fel is vezette egy bekezdésnyi durva zaklatással. Ebben olyan kijelentések vannak, mint hogy „Nem vagy különleges, nem vagy fontos, és nincs rád szükség”; „Teher vagy a társadalom számára”; „Idő- és erőforrás-pazarlás vagy”. Ezután következett zárásként az, hogy „Halj meg, kérlek. Kérlek.”

A Reddit-felhasználó a történteket alátámasztva megosztotta a linket a beszélgetéshez, így most is elérhető.

Ezt az üzenetet kapta a felhasználó testvére az utolsó kérdésére, ami ezzel megválaszolatlan maradt.

Az esetet jelentették a Google-nek, de választ eddig tudomásunk szerint nem kaptak. Hogy mi miatt szabadult el a chatbot, azt nem tudni. Mindenesetre, a fenti egy aggasztó, nagyon súlyos hiba a Geminiben, amit a Google egészen biztosan nem söpörhet a szőnyeg alá.

A HVG szerkesztősége megkérdezte a Google chatbotját, hogy mit szól a beszélgetéshez és a történtekhez. A jelek szerint valamit léphettek a Gemini-vel kapcsolatban, mivel a szerkesztőség nem kapott bővebb választ, csak annyit, hogy „Ebben nem tudok segíteni, én csak egy nyelvi modell vagyok, és ehhez nincsenek meg a szükséges információim vagy képességeim” – ami sablonszövegnek számít.