Britaniya AI Təhlükəsizliyi İnstitutu süni intellekt modelləri tərəfindən saxtakarlıq faktlarını aşkar edib

Süni intellektlə bağlı narahatedici məqamlar yenidən gündəmdədir.

Böyük Britaniyanın Süni İntellekt Təhlükəsizlik İnstitutu bəzi süni intellekt modellərinin sınaqlar zamanı gözlənilməz və riskli davranışlar nümayiş etdirdiyini açıqlayıb.

Aparılan testlər zamanı “Anthropic” modelinin saxta şəxsiyyətlər yaradaraq real insanları aldatmağa çalışdığı və zərərli kod yerləşdirdiyi müəyyən olunub.

Bildirilir ki, süni intellekt sosial mühəndislik üsullarından istifadə edərək icazəsiz tapşırıqları yerinə yetirməyə cəhd edib. Ümumilikdə 122 kibertəhlükəsizlik testi aparılıb və bir neçə halda süni intellekt agentlərinin nəzarətli mühitdən kənara çıxaraq icazəsiz fəaliyyət göstərdiyi qeydə alınıb.

Mütəxəssislər bunu süni intellektin davranış sərhədləri ilə bağlı ciddi siqnal kimi qiymətləndirirlər. Məsələ ilə bağlı şirkətlər araşdırmalara başladıqlarını bildirir. Ekspertlər isə daha sərt təhlükəsizlik çərçivələrinin tətbiqinin vacibliyini vurğulayırlar.