Szülői felügyeletet funkciót vezet be a ChatGPT: értesítést küld, ha stresszesnek érzi a gyereket

Az OpenAI, a ChatGPT fejlesztője egy blogposztban bejelentette, hogy a következő egy hónapon belül bevezeti a szülői felügyeleti lehetőségeket az AI-asszisztenshez. Azután szánték el magukat erre a lépésre, hogy több per is indult a vállalat ellen, mivel a chatbotok állítólag közrejátszottak tinédzserek öngyilkosságában.

Milyen új funkciókról van szó?

• Szülői és tinédzserfiók összekapcsolása: A szülők e-mailes meghívóval tudják majd összekapcsolni saját ChatGPT-fiókjukat gyermekeikével (minimum életkor: 13 év). Így közvetlenebb rálátásuk lesz arra, hogyan használja a tinédzser a rendszert.
• Korosztálynak megfelelő válaszadási szabályok: A ChatGPT alapértelmezetten életkornak megfelelő módon reagál a tinédzserek kérdéseire. A szülők szabályozhatják ezeket a beállításokat, hogy a rendszer biztonságosabb, korhatárhoz illeszkedő választ adjon.
• Bizonyos funkciók kikapcsolása: A szülők letilthatják például a memóriafunkciót és a beszélgetési előzmények mentését, így csökkenthetik a hosszabb interakciókból fakadó kockázatokat, amikoris a modell biztonsági működése gyengülhet.
• Értesítések akut distressz esetén: A rendszer jelzést küld a szülőknek, ha a tinédzser beszélgetése során a mesterséges intelligencia „akut distressz” – például súlyos szorongás vagy krízishelyzet – jeleit érzékeli. A funkció szakértők bevonásával készül, hogy megőrizze a szülő-gyermek közti bizalmat.
• Emlékeztetők csevegés közben: A ChatGPT emlékeztetőt küld és arra figyelmezteti a gyereket, hogy tartson szünetet, ezzel megelőzve a túlzott függőséget és az elmélyült, kockázatos interakciókat.
• Érzékeny beszélgetések átirányítása egy fejlettebb modellekhez: Ha a rendszer distressz jeleit észleli, a beszélgetést automatikusan egy olyan fejlettebb modellhez (pl. GPT-5-thinking) irányítja, amely jobban képes a biztonsági irányelveket követni.

Az OpenAI közölte: eddig is voltak beépített védelmi mechanizmusok – például krízisvonalak és segélyszolgálatok ajánlása –, de hosszabb beszélgetések során ezek nem mindig bizonyultak elég megbízhatónak. 

A vállalat hangsúlyozta, hogy a most bejelentett intézkedések csak a kezdetet jelentik, és a következő 120 napban további biztonsági frissítéseket vezetnek be.