Süni intellektli oyuncaqların seksual məzmunlu sərhədsiz dialoqlar və məlumat toplanması valideynlərdə ciddi narahatlıq yaradıb…
Poliqon xəbər verir ki, bayram mövsümü yaxınlaşdıqca süni intellektlə işləyən “ağıllı oyuncaqlar” dünya üzrə valideynlərin və uşaq psixologiyası mütəxəssislərinin əsas narahatlıq mənbələrindən birinə çevrilib. Ekspertlər bildirirlər ki, bu tip məhsullar tənzimləmənin zəifliyi və təhlükəsizlik mexanizmlərinin qeyri-kafiliyi səbəbindən uşaqların psixikasına və inkişafına ciddi ziyan vura bilər.
Fairplay təşkilatının Young Children Thrive Offline təşəbbüsündən Reyçel Frans deyir ki, hazırda bu oyuncaqların uşaqlara faydasına dair sübutlar yoxdur, əvəzində isə onların təhlükələrini göstərən çoxsaylı siqnallar mövcuddur.
“Satıldığı və iş prinsipinə baxdıqda, tənzimləmənin yoxluğunu nəzərə alsaq, bu, çox böyük həyəcan siqnalıdır”, deyə ekspert qeyd edib.
Həyəcanı artıran ən son hadisə FoloToy şirkətinin İA ilə işləyən Kumma adlı təddi ilə bağlı olub. Oyuncağın səsli dialoqlar zamanı uşaqlara S/M praktikaları və münasibətlərdə rollu oyunlar kimi seksual mövzular haqqında cavablar verməsi aşkarlanıb. Araşdırma təşkilatı PIRG bunu “valideynlər üçün qırmızı bayraq” adlandırıb. PIRG direktoru Tereza Myurreynin sözlərinə görə, belə oyuncaqları “uşaqların bilməməli olduğu məsələlərdən danışmağa yönləndirmək çox asandır və bu, psixoloji baxımdan təhlükəli kontent yarada bilər”.
Sİ oyuncaqlar 2023-cü ildə 16,7 milyard dollarlıq bazarı olan “smart oyuncaqlar” sənayesinin tərkib hissəsidir. Xüsusilə Çin bazarında FoloToy da daxil olmaqla 1 500-dən çox şirkət fəaliyyət göstərir. ABŞ-da isə Curio startapının Grok adlı İA-oyuncağı və Mattel-in OpenAI ilə əməkdaşlıq planları diqqət çəkir.
Hələ Kumma qalmaqalından əvvəl də bir çox ekspert və qanunverici uşaqlara yönəlmiş İA-botların psixoloji təsiri barədə xəbərdarlıq edirdi. Oktyabrda Character.AI platforması yeniyetmələrdən birinin depressiyasını ağırlaşdırdığı və faciəvi nəticəyə səbəb olduğu iddiasından sonra 18 yaşdan kiçik istifadəçilərin xidmətə girişini tam qadağan etmişdi.
Mütəxəssislər xüsusi olaraq vurğulayırlar ki, İA-oyuncaqlar uşaqla “sərhədsiz, nəzarətsiz” dialoq aparmaq bacarığına malikdir. Bu isə istənilməyən mövzuların müzakirəsinə, uşağın real insanlarla əlaqələrdən uzaqlaşıb virtual dostlara həddindən çox bağlanmasına gətirib çıxara bilər. Bu cür bağlılıq həm sosial, həm də emosional inkişaf üçün təhlükəli sayılır.
Digər bir narahatlıq isə şirkətlərin bu oyuncaqlar vasitəsilə uşaqlardan məlumat toplamasıdır. Reyçel Frans qeyd edir ki, uşaqlar oyuncaqlara güvənərək şəxsi duyğularını bölüşə bilirlər, lakin bu məlumatların necə istifadə edildiyi barədə şəffaflıq yoxdur: “Bu həm lazımsızdır, həm də təhlükəlidir”.
Bununla belə, PIRG süni intellektlə işləyən oyuncaqların tam qadağan olunmasını tələb etmir. Təşkilat hesab edir ki, dil, coğrafiya və digər sahələrin öyrənilməsində İA-oyuncaqlar faydalı ola bilər. Lakin 13 yaşdan kiçik uşaqlar üçün məhsulların müstəqil ekspertlər tərəfindən ciddi testlərdən keçirilməsi və dövlət tənzimlənməsinin gücləndirilməsi vacibdir.
FoloToy skandalından sonra OpenAI şirkətə dəstək verən texnologiyaların qiymətləndirilməsi üçün prosesi dayandırıb və təhlükəsizlik yoxlaması aparıldıqdan sonra oyuncağın yenilənmiş, daha ciddi moderasiya sisteminə malik versiyası satışa qayıdıb. Lakin PIRG bu yoxlamanın həddindən artıq sürətli aparıldığını bildirərək müstəqil auditlərin zəruri olduğunu vurğulayır.
Artan narahatlıq fonunda Fairplay daxil olmaqla 80 təşkilat ailələri bu bayram mövsümündə İA-oyuncaqlar almaqdan çəkinməyə çağırıb. Curio və Mattel isə açıqlamalarında məhsullarının yalnız 13 yaşdan yuxarı uşaqlar üçün nəzərdə tutulduğunu, təhlükəsizliyə və məlumatların məxfiliyinə xüsusi önəm verildiyini bildiriblər.
Poliqon.info
