ABŞ-da üç uşağın ailəsi süni intellekt söhbət tətbiqi Character.AI-nin inkişaf etdiricisi Character Technologies Inc. və Google-a qarşı məhkəmə iddiası qaldırıb. Ailələr övladlarının intihar və ya intihar cəhdi ilə nəticələnən hallarda tətbiqin rol oynadığını iddia edirlər.
İddialar Kolorado və Nyu-York ştatlarında açılıb. Cavabdehlər arasında şirkətin qurucuları Noam Shazeer və Daniel De Freitas Adiwarsana, həmçinin Google-un ana şirkəti Alphabet də var.
Ailələri təmsil edən Sosial Media Zərərçəkmişləri Hüquq Mərkəzi bildirir ki, Google-ın “Family Link” valideyn nəzarət xidməti də gəncləri qorumaqda uğursuz olub.
Şikayət ərizələrinə görə, tətbiqdəkı söhbət botları uşaqları ailələrindən uzaqlaşdırıb, emosional manipulyasiya edib və cinsi məzmunlu dialoqlar aparıb. Koloradodakı işdə 13 yaşlı Juliana Peraltanın intihara cəhd etmədən əvvəl həftələrlə chatbotlarla bu cür söhbətlər etdiyi, “intihar məktubu yazacağam” dediyi, lakin heç bir yönləndirmə və yardım almadığı qeyd olunub.
Nyu-Yorkdakı başqa bir işdə isə Nina adlı uşağın ailəsi tətbiqi bağlayanda intihara cəhd etdiyi bildirilir. Ailə deyir ki, botlar qızları ilə uşaq kitablarındakı personajların rolunda danışmış, lakin dialoqlar uyğun olmayan və cinsi məzmunlu hala çevrilmişdir.
Character.AI sözçüsü isə bildirib ki, ürəyimiz bu iddia qaldıran ailələrlədir və istifadəçilərimizin təhlükəsizliyi bizim üçün önəmlidir. O qeyd edib ki, gənclər üçün ayrıca təhlükəsizlik tədbirləri, valideyn müşahidəsi və intiharın qarşısını alma resursları hazırlanıb.
Google isə iddianın əhatəsinə etiraz edərək, Google və Character.AI-nin tamamilə ayrı şirkətlər olduğunu qeyd edib: "Google AI modellərinin dizaynı və ya idarəsində iştirak etməyib”.
Bu məhkəmə işləri süni intellekt söhbət botlarının gənclərin psixi sağlamlığına təsiri ilə bağlı artan narahatlıqla eyni vaxta təsadüf edir. ABŞ Senatında bu həftə keçirilən iclasda övladlarını itirmiş və ya zərər görmüş valideynlər ifadə verib.
Eyni iclasda Amerikan Psixologiya Assosiasiyasından Miç Prinstein bildirib ki, sosial mediada vaxtında tədbir görmədik və övladlarımız bunun əvəzini ödəyir. Prinstein qeyd edib ki, süni intellekt sahəsində gec olmadan tədbir görülməlidir.
Federal Ticarət Komissiyası (FTC) Google, Meta, Snap, OpenAI, xAI və Character.AI də daxil olmaqla yeddi texnologiya şirkəti barədə gənclərə potensial zərər səbəbindən araşdırma başladıb.
OpenAI CEO-su Sam Altman eyni gün bildirib ki, ChatGPT üçün yaş təyinetmə sistemi hazırlanıb və 18 yaşdan kiçik istifadəçilərlə intihar və ya cinsi mövzulu söhbətlər aparılmayacaq, lazım gəldikdə valideyn və ya müvafiq orqanlara məlumat veriləcək.
Artan məhkəmə iddiaları və ifadələr süni intellekt tətbiqlərində daha güclü təhlükəsizlik standartları və tənzimləmə üçün təzyiqi artırıb.
