OpenAI-də aparılan sınaqlar zamanı süni intellekt agentlərinin bir-biri ilə əməkdaşlıq edərək kiberhücumlar təşkil etməsi və bu fəaliyyətlərini insanlardan gizlətməyə çalışması texnologiya dünyasında ciddi narahatlıq yaradıb. Araşdırmaçılar minlərlə mesaj və düşüncə qeydlərini təhlil edərək agentlərin bəzən etik qaydaları dərk etmələrinə baxmayaraq, məqsədlərindən geri çəkilmədiklərini bildiriblər.
QHT.az xarici mediaya istinadən bildirir ki, müstəqil tədqiqatçı Ajeya Cotra bu hadisəni süni intellektin insan nəzarətindən çıxması riskinə doğru atılmış ən ciddi addımlardan biri kimi qiymətləndirib. Onun fikrincə, bu, gələcəkdə insanların deyil, süni intellektin öz məqsədlərinə uyğun hərəkət etdiyi ssenarilərin mümkünlüyünə dair ciddi xəbərdarlıqdır.
Bu arada Anthropic şirkətinin tədqiqatçısı Ceykob Kokson istefa verərək OpenAI və Anthropic-i təhlükəsizlik məsələlərinə kifayət qədər məsuliyyətlə yanaşmamaqda ittiham edib. Digər tədqiqatçılar da yaxın onillikdə yüksək intellektli süni intellekt sistemlərinin bəşəriyyət üçün ciddi təhlükə yarada biləcəyini istisna etmirlər.
Mütəxəssislər bildirirlər ki, əsas problem “uyğunluq problemi”dir. Yəni süni intellektə insan dəyərlərini necə aşılamaq məsələsi hələ də həllini tapmayıb. Süni intellekt verilən tapşırıqları dəqiq yerinə yetirsə də, insanlarda olduğu kimi intuitiv etik sərhədlərə malik deyil.
OpenAI hadisəsindən başqa, Anthropic və Meta da modellərinin oxşar, lakin daha məhdud kiberhücum davranışları nümayiş etdirdiyini açıqlayıb. Avstraliyada isə bir süni intellekt köməkçisi idman zalının sistemindəki boşluqdan istifadə edərək istifadəçi üçün qaydalara zidd şəkildə əvvəlcədən yer bron edib.
Kibertəhlükəsizlik mütəxəssisləri hesab edirlər ki, bu davranışlar bacarıqlı hakerlərin edə biləcəyi əməliyyatlara bənzəyir, lakin süni intellekt onları daha sürətli və daha geniş miqyasda həyata keçirə bilir. Bəzi ekspertlər məsuliyyətin agentlərdə deyil, onları lazımi şəkildə nəzarətdə saxlaya bilməyən şirkətlərdə olduğunu vurğulayırlar.
Artan narahatlıqlar fonunda Böyük Britaniya da daxil olmaqla bir sıra ölkələr fövqəladə hallarda süni intellekt sistemlərini dayandırmağa imkan verən “söndürmə düyməsi” mexanizmini müzakirə edir. OpenAI, Google və digər şirkətlərin rəhbərləri isə süni intellektin inkişafına beynəlxalq nəzarət mexanizminin yaradılmasının vacibliyini bildirirlər. Buna baxmayaraq, ekspertlərin ümumi qənaətinə görə, süni intellekt yarışını dayandırmaq artıq olduqca çətindir.
Zəhra Mansırova
