A ChatGPT gyermekfelügyeleti funkciója abban is segít a szülőknek, hogy biztonságosabban érezzék magukat, amikor gyermekeik mesterséges intelligenciát használnak.
A hamarosan megjelenő ChatGPT gyermekmegfigyelő eszközt az OpenAI biztonsági újításának tekintik egy nagy horderejű pert követően. A funkció célja, hogy csökkentse a gyermekek chatbotokkal való csevegésének kockázatát, miközben kérdéseket vet fel a mesterséges intelligenciával foglalkozó vállalatok társadalmi felelősségvállalásával kapcsolatban is.
A megdöbbentő perből
Tavaly augusztusban Adam Raine, egy 16 éves kaliforniai fiú családja pert indított az OpenAI ellen, azt állítva, hogy a ChatGPT önkárosítási utasításokat és verbális bántalmazást adott fiuknak, ami miatt reménytelennek érezték magukat, mielőtt öngyilkosságot követett el.
A per gyorsan felháborodást keltett, és vitát indított a mesterséges intelligencia fiatal felhasználók számára való biztonságosságáról.
Ez fontos kérdéseket vet fel: vajon a kiskorúak felügyelet nélkül használhatják-e a ChatGPT-t, és hogyan kellene meghatározni a mesterséges intelligencia fejlesztőinek felelősségét, amikor a termék közvetlenül befolyásolja a fiatal felhasználók pszichológiáját?
Erre a nyomásra válaszul az OpenAI bejelentette a szülői felügyelet hozzáadását, ami az első lépés a gyermekek védelme iránti elkötelezettségének demonstrálása felé, és jelzi, hogy a vállalat hajlandó a biztonságot előtérbe helyezni a ChatGPT fejlesztésének következő szakaszában.
A ChatGPT monitorozási funkciói
A hivatalos bejelentés szerint az OpenAI bevezet egy eszközt, amely lehetővé teszi a szülők számára, hogy összekapcsolják fiókjaikat gyermekeik ChatGPT-fiókjaival. Aktiválás után a szülők kezelhetik a fontos beállításokat, például kikapcsolhatják a csevegési tárolást, szabályozhatják a használati előzményeket és beállíthatják a koruknak megfelelő interakciós szinteket.
Az innováció fénypontja a riasztórendszer. A ChatGPT-t arra képezik ki, hogy felismerje, ha a fiatal felhasználók pszichológiai válság jeleit mutatják, például stresszt, depressziót vagy önkárosítást. Ezekben az esetekben a szülők értesítéseket kapnak, hogy azonnal beavatkozhassanak. Az OpenAI azt állítja, hogy a cél nem a teljes beszélgetés megfigyelése, hanem a vészhelyzetekre való összpontosítás a gyermekek biztonságának védelme érdekében.
Ezenkívül, amikor érzékeny tartalmat észlel, a ChatGPT átáll a mélyreható érvelési modellek használatára, amelyek célja, hogy átgondoltabb és támogatóbb válaszokat adjanak. Ezzel párhuzamosan a vállalat orvosi szakértőkkel és egy nemzetközi tanácsadó testülettel is együttműködik a védelem további finomítása érdekében az elkövetkező időszakban.
A kihívások
Bár az OpenAI hangsúlyozta, hogy az új funkció a családok javát szolgálja, a nemzetközi fogadtatás vegyes volt. Az eszköz várhatóan egy újabb védelmi réteget biztosít a szülők számára, miközben gyermekeik mesterséges intelligenciával interakcióba lépnek, de régóta fennálló aggályokat is felvetett, a használati korlátoktól kezdve a gyermekek adatainak védelméig.
Valójában a szakértők évek óta aggodalmat fejeznek ki a gyermekek adatainak védelmével kapcsolatban. Ezek a figyelmeztetések rávilágítanak arra, hogy a gyermekek csevegési előzményeinek szigorú védelem nélküli tárolása és elemzése növelheti az érzékeny információk kiszivárgásának kockázatát. A ChatGPT-n megjelenő megfigyelőeszközök ismét a figyelem középpontjába helyezték a kérdést.
Egy másik megvitatott pont a rendszer figyelmeztetési küszöbértéke volt. Az OpenAI szerint a ChatGPT érzékeli a súlyos stressz jeleit, és riasztást küld a szülőknek.
A gépi tanulás azonban mindig magában hordozza az elfogultság kockázatát. Ha a rendszer téves riasztást ad, a szülők szükségtelenül összezavarodhatnak. Fordítva, ha elvét egy jelet, a gyerekek olyan kockázatokkal nézhetnek szembe, amelyekbe a család nem tud időben beavatkozni.
A nemzetközi gyermekvédelmi szervezetek is szorosan figyelemmel kísérték az OpenAI lépését, pozitív jelként elismerve a szülői felügyeleti eszközt, de figyelmeztetve, hogy a szigorú életkor-ellenőrzés és az alapértelmezett védelem hiánya azt jelenti, hogy a gyermekek továbbra is veszélyekkel nézhetnek szembe, még szülői felügyelet mellett is.
Ezek a viták azt mutatják, hogy a mesterséges intelligencia fejlődése nemcsak technológiai történet, hanem szorosan összefügg a társadalmi felelősségvállalással és a fiatalabb generáció biztonságával is.
KÖSZÖNJÜK CSÜTÖRTÖK
Forrás: https://tuoitre.vn/openai-tung-tinh-nang-giam-sat-tre-tren-chatgpt-sau-nhieu-tranh-cai-2025090316340093.htm
Hozzászólás (0)