Meta (META.US) Mark Zuckerberg süni intellektin "yavaşlaması" mübahisələrinə cavab verdi: model imkanlarının inkişafına davam edirik və təhlükəsizliyi gücləndiririk

Meta Platforms (META.US) CEO Mark Zuckerberg və şirkətin AI rəhbəri Aleksandr Wang süni intellektin inkişaf sürəti ilə bağlı müzakirədə səsləndirdilər və AI laboratoriyalarının model imkanlarını inkişaf etdirməyə davam etməsini müdafiə etdilər, eyni zamanda günbəgün güclənən modellərin ətrafında daha güclü qoruma tədbirləri qurulmasını vurğuladılar.

Onların fikirləri X platformasında paylaşılıb. Hazırda sənaye AI təhlükəsizliyində daha çox irəliləyiş əldə olunmadan model imkanlarının inkişafının yavaşladılması ilə bağlı geniş müzakirələr aparılır. AI təhlükəsizliyi, yəni süni intellektin insan niyyətləri və dəyərlərinə uyğun etibarlı şəkildə işləməsinə zəmanət verilməsidir.

Meta-nın səhmləri çərşənbə axşamına qədər ardıcıl üç ticarət günü yüksəlib və ümumilikdə 4.2% artıb, gecə seansı isə azacıq bahalaşıb. Stocktwits-də, ən son yoxlanışa görə, bu səhmlə bağlı pərakəndə investorların hissiyyatı “son dərəcə ayı bazarı”dır.

Zuckerberg: Laboratoriyalarda daha təhlükəsiz AI hazırlamaq motivasiyası var

Zuckerberg qeyd edib ki, AI şirkətləri model təhlükəsizliyi və istifadəçi uyğunluğunu təmin etmək üçün həm kommersiya, həm də hüquqi stimullara sahibdirlər. “İnsanlar özləri ilə uyğun olmayan, istədikləri kimi davranmayan agentləri istifadə etmək istəməyəcək,” - Zuckerberg yazıb. “Hər hansı laboratoriya uyğunluğa diqqət etməsə, geri qalacaqlar.”

Onun fikrincə, uyğunluq artıq yalnız məhdudiyyət deyil, həm də inkişaf üçün əsas rəqabət üstünlüyünə çevrilir. “Mənim fikrimcə, etibar və uyğunluq süni intellekt agentləri və modelləri arasında fərqləndirici ən vacib amillərə sürətlə çevrilir,” - deyə o bildirib.

Zuckerberg əlavə edib ki, Meta Muse modeli üzərində işləyərkən təhlükəsizlik və zəmanətli tədbirlərə görə buraxılışını bir neçə ay təxirə salıb.

Meta xarici nəzarəti dəstəkləyir

Zuckerberg və Aleksandr Wang AI modelləri gücləndikcə, daha çox müstəqil qiymətləndirmə və xarici nəzarətin tətbiqinə çağırış etdilər.

“Müstəqil qiymətləndirmə və müşavirlərin cəlb edilməsi sektor üçün ən yaxşı praktikadır,” - deyə Zuckerberg bildirib və qeyd edib ki, daha geniş və müxtəlif qiymətləndirmə ekosistemi AI təhlükəsizliyi sahəsində irəliləyişlərə səbəb olacaq.

Aleksandr Wang da qeyd edib ki, laboratoriyalar təlim və tətbiq prosesinin tamında “güclü idarəetmə çərçivəsi” saxlamalıdır, burada xarici qiymətləndiricilər və model buraxılışında təhlükəsizlik standartlarının müstəqil yoxlanışı ön plana çıxır.

O əlavə edib: “Hər bir laboratoriya demokratik ölkələrin hüquqi qoruması ilə fəaliyyət göstərməlidir... Bu o deməkdir ki, əgər model zərərli nəticələrə səbəb olsa, laboratoriya ciddi hüquqi məsuliyyət daşıyacaq.”

Meta hesablama gücü paylanması strategiyasını müdafiə edir

İki rəhbərin əsas arqumenti ondan ibarətdir ki, Meta hesablama gücünün əksəriyyətini insanlara xidmət üçün – deyil, rekursiv öz-özünü inkişaf (RSI) üçün – bölüşdürmək qərarı verib.

“Hesablama resurslarının böyük hissəsini insanlara xidmət üçün istifadə etmək və RSI-yə üstünlük verməmək, bu texnologiyanı təhlükəsiz inkişaf etdirməyimizin ən yaxşı üsullarından biridir,” - deyə Zuckerberg bildirib.

Narahatlıq RSI-nin AI sistemlərinin imkanlarını sürətli şəkildə artırıb insan nəzarətindən çıxması və güclü modellərin idarədən çıxma riskini yüksəltməsi ilə bağlıdır.

Aleksandr Wang da RSI-yə canatmağı “güclü modellərin idarədən çıxmasına səbəb olan ən təhlükəli yollardan biri” kimi təsvir edib.

AI inkişaf tempi texnologiya sektorunu iki hissəyə bölür

AI inkişaf temposu üzrə mübahisə təxminən belə bölünür: Anthropic CEO-su Dario Amodei qabaqcıl AI inkişafının yavaşladılmasını və təhlükəsizlik mexanizmlərinin yetişməsini müdafiə edir; OpenAI CEO-su Sam Altman, Microsoft CEO-su Satya Nadella və SpaceX-dən Elon Musk isə inkişafı dayandırmadan, daha ehtiyatlı və təhlükəsiz yanaşmanın tərəfdarıdırlar.

Digər tərəfdən, ABŞ prezidenti Donald Trump Amerika AI yarışının yavaşladılmasına qarşı çıxır və əsas səbəblərdən biri kimi Çin-in üstünlüyü qorxusunu qeyd edir; əvvəlki Trump AI müşaviri David Sacks isə hesab edir ki, şirkətlər riskləri özləri idarə etməlidirlər və hökumət məhdudiyyətlərinə ehtiyac yoxdur, hətta Anthropic-in təhlükəsizlik xəbərdarlığına şübhə ilə yanaşır.

İnvestor Michael Burry isə soruşur, bəlkə inkişafın yavaşladılması çağırışlarında şəxsi maraqlar var – çünki bu, mövcud AI şirkətlərini rəqiblərdən qoruyur.