Bakı, 18 dekabr, Pərvanə Qafarova, AZƏRTAC
Süni intellektin tətbiqi zamanı bəzi risklərin tam aradan qaldırılması mümkün deyil və müəyyən hallarda, çox aşağı ehtimalla da olsa, problemlər yarana bilər. Bu, bütün böyük dil modelləri (LLM) üçün xarakterik haldır.
Bu barədə AZƏRTAC-a açıqlamasında Milli Süni İntellekt Mərkəzinin baş süni intellekt mühəndisi Xalid Hüseynov bildirib.
Onun sözlərinə görə, təhlükəsizlik məsələsi ilə bağlı narahatlıqlara baxmayaraq, hazırkı mərhələdə süni intellektin müstəqil şəkildə kiməsə məqsədli kiberhücum etməsi və ya zərərli qərar vermə səviyyəsinə çatmasından söhbət getmir.
“Hazırda süni intellekt əsasən spesifik tapşırıqlarda – böyük məlumatların analizi, kompüter görmə və maşın öyrənməsi kimi sahələrdə yüksək effektivlik göstərir. Onun özbaşına qərar qəbul edərək hücum həyata keçirməsi və ya təhlükəli informasiya istehsal etməsi üçün tələb olunan səviyyə hələ formalaşmayıb və yaxın 2–3 il ərzində bu cür riskləri real hesab etmirik”, – deyə X. Hüseynov vurğulayıb.
Xalid Hüseynov eyni zamanda qeyd edib ki, yaxın 5 il ərzində süni intellektin insan səviyyəsində ümumi qərarvermə qabiliyyətinə çatacağı da gözlənilmir. “Gələcəkdə belə bir mərhələyə keçid baş verərsə, bu, modellərin verilənlərdən müstəqil şəkildə öyrənməsi – “Emergent Abilities” adlandırılan proseslərlə əlaqəli olacaq. Belə bir mərhələdə təhlükəsizlik məsələləri daha da aktuallaşacaq və beynəlxalq ISO standartlarının tətbiqi xüsusi əhəmiyyət kəsb edəcək”, – deyə Milli Süni İntellekt Mərkəzinin baş mühəndisi əlavə edib.
Xalid Hüseynovun sözlərinə görə, hazırda aparıcı texnologiya şirkətləri – OpenAI, Tesla və digərləri – süni intellekt modellərini istifadəyə verməzdən əvvəl ciddi təhlükəsizlik sınaqlarından keçirirlər. Bu məqsədlə kibertəhlükəsizlikdə “Red Team” adlanan müstəqil ekspert qrupları modellərin müəyyən edilmiş çərçivələrdən kənara çıxma ehtimalını test edir.
“Əgər süni intellekt modeli onlayn platformada istifadəyə açılıbsa, bu, onun müvafiq təhlükəsizlik yoxlamalarından keçdiyini və fundamental risklərin aradan qaldırıldığını göstərir”, – deyə o bildirib.
