OpenAI ChatGPT istifadəçiləri arasında aşkarlanan psixoz, maniya və ya intihar düşüncəsi kimi psixi sağlamlıqla bağlı təcili vəziyyətlərə dair yeni məlumatlar yayımlayıb. Şirkət bildirib ki, bu cür əlamətlər həftəlik aktiv istifadəçilərin təxminən 0,07 faizində müşahidə olunur.
OpenAI bu göstəricilərin son dərəcə nadir olduğunu vurğulasa da, mütəxəssislər 800 milyon həftəlik istifadəçisi olan bir platform üçün bu nisbətin yüz minlərlə nəfəri əhatə edə biləcəyini qeyd edirlər.
Dünya üzrə 170 psixi sağlamlıq mütəxəssisi cəlb edilib
Şirkət bu halların müəyyənləşdirilməsi və təhlükəsiz cavab mexanizmlərinin hazırlanması üçün 60 ölkədən 170-dən çox psixiatr, psixoloq və praktiki həkimlə əməkdaşlıq etdiyini açıqlayıb.
OpenAI bu mütəxəssislərin rəhbərliyi ilə ChatGPT-yə istifadəçiləri real həyatda peşəkar yardım almağa təşviq edən cavablar verə bilməsi üçün yeni protokollar tətbiq etdiyini bildirib.
Hər 100 min nəfərin 15-də intihar planı siqnalı
OpenAI-nin məlumatına görə, istifadəçilərin 0,15 faizinin söhbətlərində intihar planı və ya niyyətinə dair açıq işarələr mövcuddur.
Şirkət bildirib ki, ChatGPT artıq xəyal qırıqlığı, maniya və ya özünə zərər yetirmə riski daşıyan ifadələrə təhlükəsiz və empatik şəkildə cavab verəcək formada yenilənib və riskli söhbətlər avtomatik olaraq daha təhlükəsiz modellərə yönləndirilir.
Mütəxəssislərdən xəbərdarlıq: “Kiçik faiz, böyük rəqəm”
Kaliforniya Universitetindən Dr. Ceyson Naqata deyib ki, 0,07 faiz kiçik bir nisbət kimi görünə bilər, lakin milyonlarla istifadəçi miqyasında bu, çoxsaylı insan deməkdir. Naqata qeyd edib ki, süni intellekt psixi sağlamlıq dəstəyinə çıxışı genişləndirə bilər, lakin onun məhdudiyyətlərinin fərqində olmaq vacibdir.
Kaliforniya Universitetinin Hüquq fakültəsindən professor Robin Feldman isə bildirib ki, süni intellektlə söhbətlər insanlarda reallıq illüziyası yarada bilir və bu, çox güclü təsirdir. Feldman OpenAI-nin şəffaflığını müsbət qiymətləndirsə də, “Zehni cəhətdən kövrək bir insan ekrandakı xəbərdarlıqları fərq etməyə bilər” deyə əlavə edib.
Hüquqi araşdırmalar və faciəvi hadisələr
OpenAI istifadəçi qarşılıqlı əlaqələri səbəbilə ardıcıl olaraq açılan məhkəmə iddiaları ilə üzləşib.
Apreldə Kaliforniyada 16 yaşlı Adam Reyn adlı gəncin intihar etdiyi iddiası ilə ailəsi OpenAI-yə qarşı “ehtiyatsızlıq və haqsız ölüm” ittihamı ilə məhkəməyə müraciət edib. Bu, şirkətə qarşı “ölümlə nəticələnən qarşılıqlı əlaqə” iddiası ilə açılan ilk iş olub.
Bundan başqa, Konnektikutda baş vermiş bir qətl–intihar hadisəsində şübhəlinin ChatGPT ilə etdiyi söhbətlərin onun xəyallarını gücləndirdiyi iddia edilib.
Mütəxəssislərin fikrincə, süni intellektlə aparılan söhbətlər psixoloji cəhətdən həssas istifadəçilər üçün reallıq qavrayışını zəiflədə biləcək qədər güclü təsir yarada bilər. OpenAI isə kiçik, lakin əhəmiyyətli bir istifadəçi qrupunun bu cür risklər daşıdığını qəbul edərək, təhlükəsizlik protokollarını təkmilləşdirməyə davam etdiyini bildirib.
