ChatGPT z novimi varnostnimi ukrepi – OpenAI uvaja starševski nadzor

03. 09. 2025 ob 09:17

OpenAI bo v nekaj mesecih uvedel starševski nadzor za ChatGPT. Odločitev sledi tožbi staršev 16-letnika iz Kalifornije, ki trdita, da je umetna inteligenca prispevala k sinovemu samomoru.

Ameriško tehnološko podjetje OpenAI je napovedalo, da bo v prihodnjih mesecih za svojega klepetalnega robota ChatGPT uvedlo možnost starševskega nadzora. Ukrep prihaja po tem, ko sta starša 16-letnega najstnika iz Kalifornije proti podjetju vložila tožbo, saj trdita, da je umetna inteligenca soodgovorna za sinov samomor. Kot so zapisali v uradni objavi na blogu, bodo starši kmalu lahko povezali svoj račun z računom mladoletnega uporabnika. Tako bodo imeli nadzor nad tem, kako se ChatGPT odziva na njihove otroke, pravila pa bodo prilagojena starosti uporabnika. Poleg tega bo sistem staršem pošiljal obvestila, če bo zaznal, da je njihov otrok v resni duševni ali čustveni stiski. "Še naprej izboljšujemo način, kako naši modeli prepoznavajo in se odzivajo na znake duševne in čustvene stiske,"  so poudarili pri OpenAI in dodali, da se zavedajo občutljivosti tovrstnih primerov. Tožbo na zveznem sodišču v Kaliforniji sta vložila starša 16-letnika, ki naj bi po navedbah staršev ChatGPT prosil za nasvete glede samomora, pri čemer mu je sistem podal tudi konkretna navodila. Zaradi tega podjetju očitata odgovornost in zahtevata nedoločeno odškodnino. Poleg tega od sodišča pričakujeta, da uvede dodatne varnostne ukrepe, med njimi samodejno prekinitev pogovorov, ki vključujejo samopoškodovanje, ter strožji starševski nadzor za mladoletne uporabnike. Pri OpenAI priznavajo, da se v posameznih primerih njihovi varnostni mehanizmi niso odzvali ustrezno. Čeprav je ChatGPT zasnovan tako, da v primeru samomorilnih izjav uporabnika usmeri k strokovni pomoči, v praksi to ni vedno delovalo. Največ težav se pojavlja pri daljših pogovorih, kjer obstoječi varnostni sistemi lahko odpovejo. Z uvedbo novih funkcionalnosti želi podjetje zmanjšati tveganja in zagotoviti, da bo uporaba umetne inteligence za najstnike varnejša. Ključne besede: ChatGPT, OpenAI, starševski nadzor, umetna inteligenca