Son illərdə bir çox insan ChatGPT-dən rəqəmsal terapevt kimi istifadə etməyə başlayıb. Şirkətin daha əvvəl paylaşdığı məlumata görə, həftəlik 800 milyon istifadəçidən 1 milyondan çoxu söhbətlərində intihar düşüncələrini dilə gətirir. Bu vəziyyət süni zəka əsaslı söhbət sistemlərinin psixi sağlamlığa təsiri ilə bağlı müzakirələri yenidən gündəmə gətirib.
Bakıvaxtı.az "Sherg.az" istinadən xəbər verir ki, yeni təqdim olunan “Trusted Contact” sistemi ilə istifadəçilər artıq ChatGPT ayarları bölməsindən etibar etdikləri bir yetkin şəxsi “təcili vəziyyət əlaqəsi” kimi seçə biləcəklər. Sistem istifadəçinin ciddi şəkildə özünə zərər vermə riski daşıdığını müəyyən edərsə, həmin şəxsə e-poçt, SMS və ya tətbiqdaxili bildiriş göndərə biləcək.
Təcili əlaqə funksiyası gəlir
OpenAI-nin paylaşdığı məlumata görə, proses birbaşa süni zəka tərəfindən idarə olunmayacaq. İlk mərhələdə sistem istifadəçiyə xəbərdarlıq göstərəcək və lazım gəldikdə seçilmiş şəxslə əlaqə saxlanıla biləcəyini bildirəcək. Eyni zamanda istifadəçini yaxınları ilə ünsiyyət qurmağa təşviq edəcək və söhbətə başlamaq üçün tövsiyələr təqdim olunacaq.
Bundan sonra OpenAI daxilində xüsusi təlim keçmiş kiçik bir komanda vəziyyəti əl ilə yoxlayacaq. Komanda həqiqətən ciddi risk olduğuna qərar verərsə, “Trusted Contact” kimi göstərilən şəxsə bildiriş göndəriləcək.
Göndəriləcək mesajda belə bir ifadənin yer alacağı bildirilir:
“Çətin bir dövrdən keçir. Etibar etdiyi şəxs kimi onunla əlaqə saxlamağınızı tövsiyə edirik.”
Şirkət istifadəçi məxfiliyinin qorunması məqsədilə söhbət qeydlərinin və mesaj mətnlərinin paylaşılmayacağını xüsusilə vurğulayır.
OpenAI son illərdə xüsusilə psixi sağlamlıq mövzusundakı yanaşmasına görə ciddi tənqidlərə məruz qalmışdı. Şirkətə qarşı ötən il açılan bir məhkəmə işində bir gəncin intihar prosesi zamanı ChatGPT ilə etdiyi yazışmalar gündəmə gətirilmişdi. "BBC News" tərəfindən 2025-ci ildə yayımlanan araşdırmada isə bəzi istifadəçilərin intihar üsulları barədə chatbotdan təhlükəli cavablar ala bildiyi ortaya çıxmışdı.
