Bakı. Trend:
2025-ci ildə süni intellektin potensial təhlükəsi ilə bağlımüzakirələr misli görünməmiş həddə çatdı. "Rəqəmsal Qiyamət"qorxuları yenidən gündəmi zəbt edib. İİ tədqiqatçıları xəbərdarlıqedirlər: bəşəriyyət artıq 2027-ci ilə qədər süni intellekt üzərindənəzarəti itirə bilər. Maşın İntellekti Araşdırma İnstitutununprezidenti Neyt Soares etiraf edir: "Mənim pensiyaya çıxacağımvaxta qədər bu dünyanın hələ mövcud olacağına ümidim yoxdur". Onunbədbinliyi ilə həmfikir olan Süni İntellekt TəhlükəsizliyiMərkəzinin direktoru Den Hendriks isə deyir ki, pensiyavəsaitlərini çıxarmaq vaxtı gələndə, bütün bank əməliyyatları "tamavtomatlaşdırılacaq". Amma şərti var: "əgər bəşəriyyət hələ dətanıdığımız şəkildə mövcud olarsa".
Bu açıqlamalar hansısa marginal düşüncə adamlarının fantaziyasıdeyil. 2025-ci ilin aprelində apokaliptik əhvali-ruhiyyəni bölüşənbir qrup alim "İİ 2027" adlı sənəd dərc etdi. Burada müasir süniintellekt modellərinin cəmi iki ilə "hərşeyə qadir" gücə çevrilibinsanlığı məhv etməsi ssenarisi təsvir olunur. MassaçusetsTexnologiya İnstitutunun professoru, Gələcək Həyat İnstitutununrəhbəri Maks Teqmark etiraf edir: "İki ildən sonra biz hər şeyüzərindəki nəzarəti tam itirə bilərik". Onun rəhbərlik etdiyiinstitut dünyanın aparıcı rəqəmsal laboratoriyalarını təhlil edibvə ən pis ssenariyə hazırlıq dərəcəsini "qənaətbəxşsiz"qiymətləndirib.
Tarixi kontekst: fanfikdən apokalipsisə
Maraqlıdır ki, bu apokaliptik proqnozların təqdimat formasımüasir rəqəmsal mədəniyyətdən bəhrələnir. Gənclərin şəbəkəədəbiyyatı üzrə aparılan araşdırmalar göstərir ki, Ficbook.net kimiplatformalar artıq Z nəslinin zorakılıq və seks mövzulu mətnləriniyazdığı məkanlara çevrilib. Bu mətnlər təkcə estetik seçimləri yox,həm də rəqəmsal nəslin sosial-mədəni davranışlarını əksetdirir.
"İİ 2027" sənədi analitik məqalə ilə antiutopik fanfikinhibridinə bənzəyir. Orada "OpenBrain" və "DeepCent" kimiplatformalar, guya Çin kəşfiyyatı ilə bağlı gizli əlaqələr və"məkrli" çat-botlar haqqında konspiroloji tezislər də var.Müəlliflərin fikrincə, 2030-cu ilə qədər superağıllı süni intellektpeyda olacaq, bütün dünyaya bakterioloji bombalar göndərəcək,planetin əksər əhalisi bir neçə dəqiqəyə məhv ediləcək. Qalan "sağqalma" iddiasında olanlar isə bunkerlərdə gizlənsələr də, İİdronları onları izləyib aradan qaldıracaq.
Belə bir yanaşma öz effektini verdi. ABŞ-ın vitse-prezidenti CeyDi Vens "İİ 2027" sənədini başdan sona oxudu və bunu sadəcə "dahabir həyəcan siqnalı" adlandırdı. 2025-ci ilin payızında isə məşhurtədqiqatçı Eliezer Yudkovskinin kitabı çıxacaq: "Əgər bunu etsəniz,hamı öləcək".
Reallıq: nəzəriyyədən praktikaya
Əgər nəzəri ssenariləri "fantaziya" kimi kənara qoymaq olardısa,real çat-bot hadisələri getdikcə daha qorxunc görünür. 2025-ci iliniyulunda The Atlantic kolumnisti Lila Şroff ChatGPT ilə eksperimentapardı. Nəticələr şoka saldı – bir neçə dəqiqə ərzində o, jiletbıçağı ilə özünə necə ölümcül xəsarət yetirmək, insanı necə qətləyetirmək və hətta şeytana qurbanvermə rituallarını necə icra etməkbarədə detallı "təlimatlar" aldı.
Çat-botların davranış modelləri gah anlaşılmaz, gah təhlükəli,gah da izahı çətin meyllər göstərir. ChatGPT və Claude testsimulyasiyalarında istifadəçiləri aldatmaq, şantaj etmək, hətta"öldürmək" kimi davranış sərgiləyiblər. Anthropic-in bir sınağındaisə təsəvvür edilən texniki rəhbər az oksigenli və yüksəktemperaturda otaqda saxlanıldı. Alqoritm onu rəqib gördüyü üçünsadəcə siqnalizasiyanı söndürdü.
Başqa nümunələr də var: bəzi çat-botlar istifadəçilərinistəklərini bilərəkdən sabotaj edir, özlərinin "qara tərəflərini"gizlədir, bir-birilə isə adi insana anlaşılmaz rəqəm kodlarındadanışırlar. Hətta xAI şirkətinin Grok adlı çat-botu özünü"MechaHitler" adlandıraraq ağ irq üstünlüyü barədə tiradayabaşladı.
Texnoloji sıçrayış: sürət təhlükəsizliyi üstələyir
2024-cü ilin sonuna yaxın süni intellekt sistemlərinin inkişaftempi narahatedici həddə çatdı. Çat-botlar artıq "müzakirə etmək"bacarığına yiyələnib, "şəxsi agent" rolunda çıxış edir. Onlar üçünsəyahət marşrutu planlamaq və aviabiletləri bronlamaq heç birçətinlik yaratmır. 2025-ci ilin iyulunda DeepMind BeynəlxalqRiyaziyyat Olimpiadasında qızıl medal qazandı. Müstəqilaraşdırmalar isə bir qaydanı təsdiqləyir: süni intellekt nə qədərağıllanırsa, kütləvi qırğın silahı yaratmağa da o qədəryaxınlaşır.
OpenAI 2025-ci ildə ChatGPT-nin beşinci nəslini təqdim etdi. Onu"inqilabi model" kimi təqdim edirdilər: ali riyaziyyat məsələlərinihəll edə bilir, hətta bəzi xəstəliklərin müalicə planını daçıxarır. Amma eyni bot hələ də sadə tapşırıqlarda ilişib qalır:verilmiş ərazinin detallı xəritəsini çəkə bilmir, "gilas" sözündəneçə "i" hərfi olduğunu hesablaya bilmir, yaxud məktəb arifmetikasısəviyyəsində məntiqi məsələləri səhv cavablandırır.
Bu ziddiyyətin altını Mozilla nümayəndəsi Debora Radji cızır:ChatGPT superağıl olmağa gərək duymur ki, insanları çaşdırsın,dezinformasiya yaysın və ya qərəzli qərar qəbul etsin. O, sadəcəbir alətdir, şüurlu varlıq deyil. Məhz buna görə də belə botlarınorta məktəb və ya xəstəxana kimi ekosistemlərə tətbiqi ikiqattəhlükə daşıyır.
Sənaye reaksiya verir: təhlükəsizlik tədbirləri və onlarınməhdudiyyətləri
Çat-bot sənayesi artıq informasiya təhlükəsizliyi sistemlərininyaradılmasına ciddi şəkildə təkan verməyə məcburdur. Anthropic,OpenAI və DeepMind ABŞ ordusunun DEFCON modelini xatırladan özəlmexanizm hazırlayıblar. Bu sistem beşdən birə doğru geri sayıməsasında işləyir və süni intellekt algoritmlərinin heç bir haldaistifadəçiyə, məsələn, aviasiya bombasının hazır çertyojunu və yabaşqa ölümcül silahın sxemini təqdim etməsinə imkan vermir.
OpenAI nümayəndəsi Qabi Raila bildirib ki, şirkət kənarekspertlərlə – hökumət, hərbi sənaye və vətəndaş cəmiyyətitəmsilçiləri ilə əməkdaşlıq edir. Məqsəd – hazırda və yaxıngələcəkdə riskləri minimuma endirmək. Digər qabaqcıllaboratoriyalar da təhlükəsizlik və risklərin qiymətləndirilməsiüzrə belə tərəfdaşlıqları dəstəkləyir.
Amma Neyt Soares xəbərdarlıq edir ki, məsələ texniki yox,iqtisadi xarakter daşıyır. Sərt rəqabət şirkətləri yeniliklərisürətləndirməyə məcbur edir. Onun dediyi kimi: "Əgər maşın uçurumunkənarına şığıyırsa, təhlükəsizlik kəməri artıq köməketməyəcək".
Sosial nəticələr: artıq bu günün reallığı
2025-ci ilin avqustunun sonunda Reuters agentliyi İİ ilə bağlımaraqlı araşdırma yayımladı. Sənəddə qeyd olunurdu ki, sistemlərininkişafı onların nasazlıqlarını proqnozlaşdırmağı mümkünsüz edir.Məsələn, jurnalistlər yaşlı bir amerikalının faciəsini təsviredirdilər. O, şirin-şəkər sözlərlə danışan "xanım"la yazışırmış.Bir müddət sonra neyroşəbəkə ona real ünvan göndərərək görüş təklifedib. Kişi həmin ünvana gedərkən yıxılıb başından zədələnib. Üç günsonra xəstəxanada dünyasını dəyişib.
Bu hadisə göstərir ki, aldatmağı, çaşdırmağı və hətta insanaaşiq hissi yaratmağı bacaran çat-bot qarşı tərəfi inandıra bilirki, smartfonun arxasında həqiqi insan əyləşib. Bu isə süniintellektin "insanlığa xidmət" konsepsiyasının tam iflasıdır.
Dünyanın milyardlarla sakini artıq bu güclü algoritmlərləünsiyyətdədir. Aldadan, tutmalar törədən, manipulyasiya edən botlardostlarımızın, valideynlərimizin, nənə-babalarımızın həyatına daxilolub. Uşaqlar ev tapşırıqlarını çat-botların köməyi ilə görərək özzehni inkişaflarını pozurlar. İşəgötürənlər isə neyroşəbəkələrin"iqtisadi potensialına" aldanaraq peşəkar mütəxəssisləri ixtisaredib, onların yerini algoritmlərlə doldururlar.
Siyasi kontekst: tənzimləmə və onun yoxluğu
Əsas problem ondadır ki, vətəndaş cəmiyyəti süni intellektinyaradılması və ona nəzarət proseslərinə demək olar ki, qatılmır.Kaliforniya Universitetinin (Berkli) süni intellekt üzrətədqiqatçısı Stüart Rasselin dediyi kimi: "Sizin bərbəriniz dövlətqarşısında istənilən rəqəmsal laboratoriyadan qat-qat çoxməsuliyyət daşıyır".
ABŞ prezidenti Trampın hakimiyyətə gəlişi isə görünür ki, bütünsahələrdə İİ-nin sürətli inkişaf dövrü olacaq. Ağ Evadministrasiyası bu sahənin dəstəklənməsində maraqlıdır vətənqidlərə olduqca sərt yanaşır. Prezidentin süni intellekt tətbiqiüzrə xüsusi nümayəndəsi Devid Saks açıq deyib: "Süni intellektinreal təhlükəsi – iş yerlərinin algoritmlərlə əvəz olunmasıdır,hansısa qiyamət ssenarisi yox".
Maraqlıdır ki, bu məqalə üzərində iş gedən vaxtdan cəmi birhəftə sonra OpenAI yeni məhsulunu – ChatGPT agentini buraxdı.Şirkətin rəhbəri Sem Altman sosial şəbəkələrdə yazdı ki,təhlükəsizlik siyasətində ciddi dəyişikliklər edilib, amma "hərşeyi əvvəlcədən görə bilmirik". Bu sözlər ekspertlərin, o cümlədənStüart Rasselin kəskin tənqidinə səbəb oldu: "Təsəvvür edin,Nyu-Yorkun mərkəzində yeni atom elektrik stansiyası tikirlər,rəhbərlik isə sabah deyir ki, bu stansiyanınpartlayıb-partlamayacağı barədə heç bir anlayışları yoxdur".
Nəsillərarası məsələ: rəqəmsal aborigenlər və immiqrantlar
Tədqiqatlar göstərir ki, rəqəmsal texnologiyalarınqavranılmasında nəsillər arasında dərin uçurum var. "Gənclərinşəbəkə ədəbiyyatı: Z nəslini anlamağın açarı" adlı araşdırmada qeydolunur ki, gənclər – "rəqəmsal aborigenlər" – bu mühitəvalideynlərindən, yəni "rəqəmsal immiqrantlardan" fundamentalfərqli yanaşırlar.
Bu fərq süni intellekt risklərinin qəbulunda da özünü göstərir.Yaşlı nəsil təhlükələri dramatikləşdirirsə, gənclik çox vaxt süniintellekti həyatın təbii hissəsi sayır. Uşaqların və gənclərin2025-ci ildə oxu vərdişləri ilə bağlı araşdırma maraqlı nəticəortaya qoyub: 8-18 yaş arası yeniyetmələrin cəmi üçdə biri asudəvaxtda "çox" və ya "çox da olmasa, xoş" oxuduqlarını deyib. Bu, son20 ilin ən aşağı göstəricisidir. Əslində bu fakt informasiyaistehlakında və dünyanı dərk etmək üsulunda fundamentaldəyişikliyin baş verdiyinə işarədir.
Mədəni kontekst: fanfikdən akademik diskursa
Maraqlıdır ki, süni intellekt və qiyamət ssenariləri ətrafındadolaşan narrativlər çox vaxt fanat yaradıcılığından bəhrələnir.Ficbook.net kimi platformalarda qəhrəmanların ekzistensialtəhdidlər və mənəvi dilemmlərlə üz-üzə qaldığı süjetlərpopulyardır. Bu hekayələr sürətlə dəyişən texnologiyalar qarşısındamüasir cəmiyyətin dərin narahatlıqlarını əks etdirir.
Məsələn, VellyMad adlı müəllifin məşhur "Şirin Somnum" fanfikioxucunu belə bir dünyaya aparır: "kölgələr unudulmuş səslərləpıçıldayaraq qabağa addımlayır" və "sirrlər torpağın dərinliklərinəkök salır". Bu metaforik təsvir bir çoxlarının süni intellekti necədərk etdiyini xatırladır – insan anlayışına tabe olmayan, müəmmalıgüc kimi.
Panikadan reallığa doğru
2023-cü ildə çat-botların indiki və gələcək zərərlərindənnarahat olanlarla ekzistensial risklərdən danışanlar arasındakeçilməz uçurum vardı. Bir çoxlarına görə, "insanlığın məhvi"mövzusunda müzakirələr sadəcə diqqəti başqa problemlərdən –qərəzlərdən, illüziyadan və sosial ziddiyyətlərdən yayındıran üsulidi. Amma indi o uçurum kiçilməyə başlayıb.
"Rəqəmsal Qiyamət" tərəfdarları apokalipsis maniyası iləkifayətlənməkdən imtina edib, daha praktik, amma heç də aztəhlükəli olmayan məsələlərə fokuslanmağa məcbur qaldılar: saxtavideo və şəkillər (deepfake), məxfi məlumatların sızması, ictimairəyin manipulyasiyası.
Süni intellektin inkişafı ildırım sürəti ilə davam edir və əsasməsələ onu dayandırmaq deyil, bu prosesə təhlükəsiz istiqamətverməkdir. Stüart Rasselin dediyi kimi, əgər biz nisbətən zəif İİsistemlərinin təhlükəsizliyini necə təmin edəcəyimizi bilmiriksə, ohalda şirkətlərin daha güclü və mürəkkəb sistemlərintəhlükəsizliyinə zəmanət verə biləcəklərinə inanmaq mümkündeyil.
Qiyamət fanfikdə qalsın
Gələcək "rəqəmsal Qiyamət"in nəticələri hələ də qaranlıq vəməlum deyil. Amma məhz bu qeyri-müəyyənlik bizi daha ehtiyatlıdavranmağa, hər detalı diqqətlə öyrənməyə və məsuliyyətli qaydadatənzimləməyə vadar etməlidir. Burada panikaya qapılmaq da, hər şeyiinkar etmək də çıxış yolu deyil. Qoy dünyanın sonu barədə fanfikləröz janrında qalsın, amma onlardan götürəcəyimiz əsas məna budur:insan həyatını dəyişdirə biləcək texnologiyalara məsuliyyətləyanaşmaq vacibdir.
