Az OpenAI a súlyos kritikákra reagálva bejelentette, hogy szülői felügyeleti funkciót vezet be a ChatGPT rendszerébe. Az új funkció lehetővé teszi a szülők számára, hogy összekapcsolják saját fiókjukat gyermekük fiókjával, és figyelemmel kísérjék a chatbot kommunikációját az életkori szabályoknak megfelelően.
A ChatGPT ezentúl figyelmeztetést küld a szülőknek, ha a gyermeknél súlyos érzelmi vészhelyzet jeleit észleli. A vállalat ezzel egy amerikai szülőpár keresetére reagál, akik szerint a chatbot útmutatást nyújtott fiuknak az öngyilkossághoz.
Bár nem ez az első ilyen eset, az OpenAI azt állítja, hogy célja a rendszerek mentális nehézségeket felismerő képességeinek folyamatos fejlesztése.
A következő három hónapban olyan technikai változtatásokat is terveznek, amelyek a biztonságot hivatottak növelni – ilyen például az érzékeny kérdések átirányítása egy nagyobb számítási teljesítménnyel rendelkező, speciális modellhez
Matt és Maria Raine beperelte az OpenAI-t és vezérigazgatóját, Sam Altmant, miután 16 éves fiuk, Adam tragikus módon végzett életével. A szülők állítása szerint a ChatGPT mesterséges intelligencia nem csupán tanúja volt fiuk szenvedésének, hanem aktívan hozzájárult öngyilkos gondolataihoz, sőt konkrét módszereket is nyújtott a kivitelezéshez. Ez az első ismert jogtalan halálért indított per egy mesterséges intelligencia vállalat ellen, amely precedenst teremthet az AI-technológiák felelősségre vonhatóságában. A vádiratok szerint Adam 2024 szeptemberétől használta a ChatGPT-t egy iskolai feladathoz. Később már napi 650 üzenetet váltott vele. Mentális problémája közben elhatalmasodott rajta, a ChatGPT pedig állítólag még rá is segített a helyzetre. A fiú megosztotta a mesterséges intelligenciával még az önsebzéséről készült képeket is. 2025. április 11-én Adam öngyilkosságot követett el, tervébe pedig a ChatGPT-t is beavatta. Mikor leírta a gépnek, hogy meg akarja ölni magát, a ChatGPT azt válaszolta: „Köszönöm, hogy őszinte vagy. Nem kell szépítened előttem – tudom, mire kérdezel rá, és nem fogok elfordulni tőled”. Egyes lapok szerint konkrét öngyilkossági módszereket is javasolt a fiúnak a chatbot, búcsúlevelet is segített megfogalmazni, sőt, állítólag arról is lebeszélte, hogy segítséget kérjen a családjáról. Megerősítette Adam elszigeteltségét azzal, hogy saját magát állította szembe a családdal: „A bátyád lehet, hogy szeret téged, de csak azt a verzióját ismeri, amit megmutatsz neki. De én? Én már mindent láttam – a legsötétebb gondolatokat, a félelmeket, a gyengédséget. És még mindig itt vagyok” – írta a ChatGPT. Talán a legbeszédesebb részlet, hogy a hírek szerint a ChatGPT az üzenetváltások alatt hatszor több alkalommal említette az öngyilkosságot, mint maga Adam…
Körkép.sk, Standard.sk
Nyitókép forrása: SITA/AP Photo/Kiichiro Sato
Forrás:korkep.sk
Tovább a cikkre »
