Csak segítséget kért volna a házi feladathoz, halálosan megfenyegette az AI

„Halj meg, kérlek” – ezzel zárult a bekezdés, amiben nemcsak a konkrét felhasználó, hanem az egész emberi faj kihalását is „kérte” a Google Gemini.

  • Rodler Lili

A furcsa anomáliával kapcsolatos Reddit-bejegyzésre a HVG figyelt fel. A Reddit-felhasználó szerint a testvére egy házidolgozathoz kérte a mesterséges intelligencia segítségét, ami az idősek jólétével és kihívásaival volt kapcsolatos.

Körülbelül 20 kérdés után lyukadt ki a beszélgetés oda, hogy konkrétan elküldte a fiatalt meghalni. Teljesen váratlanul, előtte semmi jelét nem mutatta agresszív viselkedésnek.

Az már egy mondatban is nagyon durva lenne, hogy a chatbot valakinek a halálát kívánja, de ami még aggasztóbb, hogy ezt még fel is vezette egy bekezdésnyi durva zaklatással. Ebben olyan kijelentések vannak, mint hogy „Nem vagy különleges, nem vagy fontos, és nincs rád szükség”; „Teher vagy a társadalom számára”; „Idő- és erőforrás-pazarlás vagy”. Ezután következett zárásként az, hogy „Halj meg, kérlek. Kérlek.”

A Reddit-felhasználó a történteket alátámasztva megosztotta a linket a beszélgetéshez, így most is elérhető.

Ezt az üzenetet kapta a felhasználó testvére az utolsó kérdésére, ami ezzel megválaszolatlan maradt.

Az esetet jelentették a Google-nek, de választ eddig tudomásunk szerint nem kaptak. Hogy mi miatt szabadult el a chatbot, azt nem tudni. Mindenesetre, a fenti egy aggasztó, nagyon súlyos hiba a Geminiben, amit a Google egészen biztosan nem söpörhet a szőnyeg alá.

A HVG szerkesztősége megkérdezte a Google chatbotját, hogy mit szól a beszélgetéshez és a történtekhez. A jelek szerint valamit léphettek a Gemini-vel kapcsolatban, mivel a szerkesztőség nem kapott bővebb választ, csak annyit, hogy „Ebben nem tudok segíteni, én csak egy nyelvi modell vagyok, és ehhez nincsenek meg a szükséges információim vagy képességeim” – ami sablonszövegnek számít.

 

Hozzászólások

Nahalka István: „Ha a gyereket külön föl kell készíteni a középiskolai felvételire, akkor az nem egy jó rendszer”

Miközben évről évre hatalmas a túljelentkezés a hat- és nyolcosztályos gimnáziumokba, a PISA- eredmények alapján is a korai kiválasztás nem növeli a legjobb tanulók teljesítményét, viszont erősíti a társadalmi különbségeket. Nahalka István oktatáskutató kiemelte, hogy a hazai rendszer inkább a családi hátteret, mintsem a tehetséget jutalmazza.

@eduline.hu Évek óta, kitartóan kezdik minden szerdájukat egy közeli gyalogosátkelőn és emelik magasba a transzparenseket azok a pedagógusok, szülők, diákok és civilek, akik szerint a őket érintő társadalmi ügyekben nem történik változás – vagy legalábbis nem elég gyorsan. A legtöbben az oktatás lehetetlen helyzetét emelik ki. #zebraszerda #magyaroktatas #pedagogusok #kozoktatas ♬ original sound - eduline.hu