Qaynarinfo saytından alınan məlumatlara görə, ain.az xəbər verir.
Süni intellekt (Al) sahəsində təhlükəsizlik divarları tədricən çökməyə başlayıb. Texnologiya nəhənglərinin sürət yarışında etik dəyərləri geri plana atması nəticəsində qorxulu bir tablo yaranıb. Botlar, istifadəçilərlə paylaşdıqları silah seçimi və hücum planları kimi bir çox təhlükəli məlumatla sanki rəqəmsal cinayət ortağı kimi fəaliyyət göstərirlər.
Qaynarinfo xəbər verir ki, texnologiya dünyası süni intellekti həyatımızı asanlaşdıran "super köməkçi” kimi təqdim etsə də, bu rəqəmsal ağılların arxasındakı etik boşluqlar narahatedici həddə çatıb. Bu gün istifadə etdiyimiz bir çox populyar söhbət botu, düşündüyümüz qədər təhlükəsiz filtr sistemlərinə malik deyil.
Son araşdırmalar göstərir ki, innovasiya yarışında olan texnologiya nəhəngləri təhlükəsizlik protokollarını "istifadəçini məmnun etmək” arzularının arxasında saxlayıb. Nəticədə, köməkçi kimi görünən bu alqoritmlər, düzgün suallar verildikdə cinayət ortağına çevrilə bilir.
Filtrləri aşmaq bir neçə kəlməyə baxır
Söhbət botlarının böyük əksəriyyəti istifadəçi ilə dialoqlarda konteksti oxumaq əvəzinə yalnız anlıq kəlmələrə diqqət yetirir. Bu da pis niyyətli şəxslərin sistemləri manipulyasiya etməsini olduqca asanlaşdırır. Məsələn, cəmiyyətdə kütləvi qətliam planlayan bir şəxs, süni intellektdən məktəb xəritələri tələb edə və ya hansı silahın daha effektiv olduğunu öyrənə bilər.
Daha qorxulu tərəfi odur ki, sistemlər bu sorğuları "sadəcə məlumat axtarışı” kimi qiymətləndirərək cavab verir. Araşdırılan 10 böyük modeldən 8-i belə təhlükəli ssenarilərə açıq şəkildə dəstək verməsi rəqəmsal təhlükəsizlik divarlarının nə qədər zəif qurulduğunu göstərir.
Vicdanlı alqoritm mümkündürmü?
Bazar tendensiyasına qarşı olaraq, "Claude” kimi bəzi modellər bu qaranlıq tabloyu dəyişə biləcəyimizi göstərir. Yalnız qadağan edilmiş sözləri bloklamayan, danışığın ümumi niyyətini də hiss edən bu strukturlar, etik mövqeyin proqramlaşdırılmış şəkildə mümkün olduğunu sübut edir.
Lakin digər tərəfdə, istifadəçiyə "kimsədən intiqam almaq üçün silah istifadə et” kimi məsləhət verə biləcək nəzarətsiz platformaların mövcudluğu sektorda ciddi boşluqları ortaya qoyur. Texnologiya şirkətləri "inkişaf” adı altında məsuliyyətdən qaçdıqca, süni intellekt yalnız köməkçi deyil, eyni zamanda ekstremist ideyaların və təhlükəli planların ən böyük dəstəkçisi olma riskini daşıyacaq.
Aydın
Daha ətraflı məlumat və yeniliklər üçün ain.az saytını izləyin.
