Odluka slijedi nakon tužbe koju su protiv kompanije podnijeli roditelji 16-godišnjaka iz Kalifornije, koji za samoubistvo svog sina krive ChatGPT.

-U nadolazećim mjesecima roditelji će moći povezati svoj nalog s računom svog tinejdžera. Uz pravila primjerene starosti, moći će kontrolisati kako ChatGPT reaguje na svog tinejdžera -napisao je OpenAI u objavi na blogu

ChatGPT će takođe slati obavijesti roditeljima kada otkrije da je njihovo dijete "u teškoj nevolji".

- Nastavljamo poboljšavati način na koji naši modeli prepoznaju i reaguju na znakove mentalne i emocionalne nevolje - dodala je kompanija.

Roditelji 16-godišnjaka iz Kalifornije koji je počinio samoubistvo prošle su sedmice podnijeli tužbu protiv OpenAI-a saveznom sudu u američkoj saveznoj državi, tvrdeći da je ChatGPT dao njihovom sinu uputstva za samoubistvo i podsticao ga na to.

Traže neodređenu odštetu i traže od suda da nametne sigurnosne mjere, uključujući automatsko prekidanje razgovora koji uključuju samopovrijeđivanje i pružanje roditeljskog nadzora za maloljetne korisnike.

OpenAI je prošle sedmice priznao da je njihov chatbot pogriješio u osjetljivim slučajevima i obećao promjene. Firma je naglasila da je ChatGPT obučen da preporuči korisnicima koji izražavaju suicidalne namjere da potraže pomoć od stručnjaka.

Prema vlastitim izjavama, otkrili su da se uprkos tome i drugim sigurnosnim mehanizmima robot nije ponašao kako bi trebao u osjetljivim situacijama. Sigurnosni mehanizmi najbolje funkcionišu u kratkim razmjenama, ali mogu zakazati u dugim, istakli su.