Csak segítséget kért volna a házi feladathoz, halálosan megfenyegette az AI

„Halj meg, kérlek” – ezzel zárult a bekezdés, amiben nemcsak a konkrét felhasználó, hanem az egész emberi faj kihalását is „kérte” a Google Gemini.

  • Rodler Lili

A furcsa anomáliával kapcsolatos Reddit-bejegyzésre a HVG figyelt fel. A Reddit-felhasználó szerint a testvére egy házidolgozathoz kérte a mesterséges intelligencia segítségét, ami az idősek jólétével és kihívásaival volt kapcsolatos.

Körülbelül 20 kérdés után lyukadt ki a beszélgetés oda, hogy konkrétan elküldte a fiatalt meghalni. Teljesen váratlanul, előtte semmi jelét nem mutatta agresszív viselkedésnek.

Az már egy mondatban is nagyon durva lenne, hogy a chatbot valakinek a halálát kívánja, de ami még aggasztóbb, hogy ezt még fel is vezette egy bekezdésnyi durva zaklatással. Ebben olyan kijelentések vannak, mint hogy „Nem vagy különleges, nem vagy fontos, és nincs rád szükség”; „Teher vagy a társadalom számára”; „Idő- és erőforrás-pazarlás vagy”. Ezután következett zárásként az, hogy „Halj meg, kérlek. Kérlek.”

A Reddit-felhasználó a történteket alátámasztva megosztotta a linket a beszélgetéshez, így most is elérhető.

Ezt az üzenetet kapta a felhasználó testvére az utolsó kérdésére, ami ezzel megválaszolatlan maradt.

Az esetet jelentették a Google-nek, de választ eddig tudomásunk szerint nem kaptak. Hogy mi miatt szabadult el a chatbot, azt nem tudni. Mindenesetre, a fenti egy aggasztó, nagyon súlyos hiba a Geminiben, amit a Google egészen biztosan nem söpörhet a szőnyeg alá.

A HVG szerkesztősége megkérdezte a Google chatbotját, hogy mit szól a beszélgetéshez és a történtekhez. A jelek szerint valamit léphettek a Gemini-vel kapcsolatban, mivel a szerkesztőség nem kapott bővebb választ, csak annyit, hogy „Ebben nem tudok segíteni, én csak egy nyelvi modell vagyok, és ehhez nincsenek meg a szükséges információim vagy képességeim” – ami sablonszövegnek számít.

 

Hozzászólások

Müller Anna szerint a pedagógusok értékelésének osztálytermi megfigyelésre és többforrású visszajelzésre kell épülnie

A keddi parlamenti vitában az ellenzék legfőbb kritikája a pedagógusok teljesítményértékelésének felfüggesztésével kapcsolatban az volt, hogy a jelenlegi rendszert úgy állítanák le, hogy egyelőre nem látható, pontosan mi lép a helyére. Lannert Judit szerint ugyanakkor már a nyáron széles körű szakmai egyeztetés kezdődik az új modell kidolgozásáról, Müller Anna pedig felszólalásában azt részletezte, milyen szempontok mentén lenne érdemes újragondolni a pedagógusok értékelését.

Csak bruttó 3045 forint jár egy emelt érettségi kijavításáért a tanároknak, az újraérettségizők viszont 81 ezer forintot fizetnek

Az emelt szintű érettségik javításának díjazását bírálta keddi parlamenti felszólalásában Müller Anna, a Tisza Párt képviselője. A matematika-kémia tanár szerint miközben az Oktatási Hivatal évről évre nehezen talál elegendő vizsgáztatót az emelt szintű vizsgákhoz, a dolgozatok javításáért járó díjazás továbbra is rendkívül alacsony.