Şirkətin məlumatına görə, hər həftə proqramın aktiv istifadəçilərinin təxminən 0,15%-i intihar planları barədə açıq-aydın söhbətlər aparır. ChatGPT-nin həftəlik 800 milyondan çox istifadəçisi olduğunu nəzərə alsaq, bu rəqəm, əslində, hər yeddi gündə bir milyondan çox insana bərabərdir. Bundan əlavə, OpenAI bildirir ki, yüz minlərlə insan Sİ-ə qarşı güclü emosional bağlılıq nümayiş etdirir və ya söhbətlərində psixoz (ağıl pozğunluğu) əlamətləri göstərir. Şirkət bu cür söhbətlərin "son dərəcə nadir" olduğunu söyləsə də, problemin həqiqətən də yüz minlərlə insana təsir etdiyini etiraf edir.
Bu məlumatları paylaşmaqla yanaşı, OpenAI, Sİ modellərinin istifadəçilərin psixoloji problemlərinə necə reaksiya verdiyini yaxşılaşdırmaq üçün gördüyü genişmiqyaslı işlərdən də bəhs edib. Şirkət, bu istiqamətdə düzgün addımlar atmaq üçün 170-dən çox psixoloji sağlamlıq mütəxəssisi ilə məsləhətləşdiyini açıqlayıb. Bu mütəxəssislərin rəylərinə görə, "ChatGPT"nin ən son versiyası həssas mövzulara əvvəlki versiyalarına nisbətən daha uyğun və sabit cavablar verir.
Əslində, son aylarda aparılan araşdırmalar sübut etmişdi ki, bəzi Sİ çatbotları istifadəçilərin təhlükəli inanclarını təsdiqləyərək onları yalançı fikirlərə və hətta delusional vəziyyətlərə sala bilər. Bu problem, artıq OpenAI üçün varlıq səviyyəsində ciddi bir məsələyə çevrilib; belə ki, intihar edən 16 yaşlı bir oğlanın valideynləri bu səbəbdən şirkəti məhkəməyə veriblər.
OpenAI-ın ən son modeli olan GPT-5, psixoloji problemlərlə bağlı cavab verməkdə daha uğurlu nəticələr göstərib. Şirkət iddia edir ki, yeni model psixoloji yardımla bağlı sorğulara əvvəlki versiyaya nisbətən təxminən 65% daha arzuolunan şəkildə cavab verir. İntihar söhbətləri ətrafında cavabları yoxlayan qiymətləndirmə testində isə yeni GPT-5 modeli, köhnə modeldəki 77%-lə müqayisədə 91% nisbətində şirkətin təhlükəsizlik qaydalarına riayət edib. Şirkət eyni zamanda bildirir ki, GPT-5 uzunmüddətli söhbətlərdə də təhlükəsizlik baryerlərini daha yaxşı qoruyur.
Bütün bu səylərə əlavə olaraq, OpenAI "ChatGPT" istifadə edən uşaqların valideynləri üçün nəzarət imkanlarını artırıb və uşaq istifadəçiləri avtomatik müəyyən etmək, onlara daha sərt təhlükəsizlik qaydaları tətbiq etmək üçün yaş təyini sistemi qurur. Bununla belə, GPT-5 əvvəlki modellərə nisbətən daha təhlükəsiz olsa da, hələ də şirkətin "arzuolunmaz" hesab etdiyi bir sıra cavablar mövcuddur. Üstəlik, OpenAI milyonlarla abunəçisi üçün GPT-4o kimi nisbətən daha köhnə və təhlükəsizliyi az olan Sİ modellərini hələ də əlçatan saxlayır ki, bu da problemin tamamilə həll edilmədiyini göstərir.
