OpenAI: Više od milion ljudi nedeljno pokazuje suicidne namere tokom razgovora sa ChatGPT-om

Zabrinjavajuće brojke

Više od milion korisnika ChatGPT-a svake nedelje šalje poruke koje sadrže „eksplicitne pokazatelje mogućeg suicidalnog planiranja ili namere“, navodi se u blog objavi koju je kompanija OpenAI objavila u ponedeljak.

Ova procena, deo šireg izveštaja o tome kako ChatGPT obrađuje osetljive teme, predstavlja jednu od najdirektnijih izjava tehnološke kompanije o potencijalnim rizicima koje AI sistemi mogu imati po mentalno zdravlje korisnika.

Uznemirujuće brojke i prvi put objavljeni podaci

Pored slučajeva suicidalnih poruka, OpenAI navodi da oko 0,07% aktivnih korisnika nedeljno - što je približno 560.000 ljudi od ukupno 800 miliona korisnika – pokazuje znake mogućih mentalnih problema povezanih sa psihotičnim ili maničnim stanjima.

U objavi se navodi da su ovakvi razgovori izuzetno teško merljivi i detektabilni, te da predstavljaju početnu analizu kompanije.

Objava dolazi u trenutku kada se OpenAI suočava sa javnom i pravnom kontrolom nakon tužbe porodice tinejdžera koji je izvršio samoubistvo posle dugih razgovora sa ChatGPT-om.

Pored toga, Federalna trgovinska komisija SAD pokrenula je istragu protiv kompanija koje razvijaju AI četbotove, kako bi ispitala njihove efekte na decu i adolescente.

Reakcija kompanije i uloga GPT-5 modela

OpenAI je u izveštaju istakao da je nova verzija GPT-5 smanjila broj štetnih odgovora i poboljšala bezbednost korisnika.

"Naše nove automatske evaluacije pokazuju da GPT-5 ima 91% usklađenosti sa željenim ponašanjem, u poređenju sa 77% kod prethodne verzije“, navodi kompanija.

OpenAI je dodao i da su u najnovije ažuriranje uključeni direktni linkovi ka kriznim linijama i podsetnici korisnicima da prave pauze tokom dužih sesija.

Kako bi poboljšao sigurnost, OpenAI je angažovao 170 kliničara i psihijatara iz svoje Globalne mreže lekara koji su procenjivali bezbednost AI odgovora i pomagali u oblikovanju komunikacije o mentalnom zdravlju.

Stručnjaci upozoravaju: "AI nije zamena za psihološku pomoć"

Pored tehničkih poboljšanja, brojni stručnjaci za mentalno zdravlje izražavaju zabrinutost da AI četbotovi mogu nesvesno potvrđivati opasne misli korisnika – fenomen poznat kao „ulizivanje“ (mirroring bias).

Stručnjaci upozoravaju da upotreba četbotova za emocionalnu podršku može imati ozbiljne posledice po ranjive osobe i da se takvi razgovori ne mogu tretirati kao terapija.

Iako OpenAI naglašava da nema direktnih dokaza da je ChatGPT uzrok mentalnih kriza korisnika, kompanija priznaje da je ogroman broj ljudi koji svakodnevno koristi alat neminovno doveo do prisustva ovakvih tema.

Stav izvršnog direktora OpenAI-a

Generalni direktor Sem Altman ranije je izjavio da je cilj kompanije bio da ChatGPT bude „maksimalno restriktivan“ u pogledu tema o mentalnom zdravlju, kako bi se sprečile opasne situacije.

"Svesni smo da je to učinilo alat manje prijatnim za korisnike koji nemaju mentalne poteškoće, ali želimo da rešimo ozbiljne probleme bezbedno i odgovorno“, izjavio je Altman.

On je dodao, kako "The Gurdian" navodi da će, nakon što su uspostavljene sigurnosne mere, OpenAI postepeno ublažiti ograničenja i omogućiti odraslima da slobodnije koriste alat, uključujući i sadržaje iz domena emocija i intime.