Sumagot si Zuckerberg ng Meta (META.US) sa usapin ng “pagbagal” ng AI: Magpapatuloy sa pagpapahusay ng kakayahan ng modelo at pagpapatibay ng seguridad.

Nabatid ng Zhihui Finance APP na sina Mark Zuckerberg, CEO ng Meta Platforms (META.US), at ang punong responsable sa AI ng kumpanya na si Alexander Wang ay nagbigay ng pahayag kaugnay ng debate hinggil sa bilis ng pag-unlad ng AI, at iginiit na dapat ipagpatuloy ng mga AI laboratoryo ang pagpapaunlad ng kapasidad ng mga modelo, kasabay ng pagbubuo ng mas matitibay na proteksyon para sa mga lalong lumalakas na modelo.

Ipinaskil ang pahayag ng dalawa sa platform na X. Sa kasalukuyan, malawak ang diskusyon sa industriya tungkol sa “kung dapat bang pabagalin ang pagpapaunlad ng kakayahan ng AI hangga’t walang sapat na pag-unlad sa kaligtasan ng AI.” Ang tinutukoy na AI safety ay ang pagtitiyak na maaasahan ang AI systems na susunod sa mga layunin at pagpapahalaga ng tao.

Ang presyo ng Meta stock ay patuloy na tumaas sa loob ng tatlong magkasunod na trading days hanggang Martes, na may kabuuang pag-angat na 4.2%, at bahagyang tumaas sa night trading. Ayon sa pinakahuling obserbasyon sa Stocktwits, ang sentimyento ng mga retail investor sa stock ay “labis na bearish.”

Zuckerberg: May motibasyon ang mga laboratoryo na lumikha ng mas ligtas na AI

Ipinahayag ni Zuckerberg na may malakas na komersyal at legal na insentibo ang mga AI company upang itaguyod ang kaligtasan ng modelo at ipantay ito sa mga user. “Hindi gugustuhin ng mga tao na gumamit ng agent na hindi umaayon at hindi gumagawa ayon sa kanilang nais,” sulat ni Zuckerberg. “Ang anumang laboratoryo na hindi magtutuon sa alignment ay mapag-iiwanan.”

Naniniwala siya na ang alignment mismo ay nagiging mahalagang kakayahan sa kompetisyon at hindi lamang isang hadlang sa pag-unlad ng AI. “Ang pananaw ko ay mabilis na nagiging pinakamahalagang kakayahan ang tiwala at alignment sa pagkakaiba ng agents at mga modelo,” aniya.

Dagdag pa niya, ipinagpaliban ng Meta ang pag-release ng Muse model nang ilang buwan upang tugunan ang mga isyu ng kaligtasan at seguridad.

Sumusuporta ang Meta sa panlabas na superbisyon

Nakiisa sina Zuckerberg at Alexander Wang sa panawagan na, habang lalong lumalakas ang mga AI model, mas maraming independiyenteng tagasuri at panlabas na superbisyon ang dapat ipatupad.

“Ang pagdala ng mga independiyenteng tagasuri at tagapayo ay pinakamainam na praktis ng industriya,” ani Zuckerberg, at naniniwala siyang ang isang mas malaki at mas sari-saring komunidad ng mga tagasuri ay magpapahusay sa seguridad ng AI.

Gayundin, sinabi ni Alexander Wang na ang mga AI laboratoryo ay dapat magpanatili ng “malakas na balangkas ng pamamahala” mula sa pagsasanay hanggang sa deployment, kabilang ang mga panlabas na tagasuri at independiyenteng superbisyon sa mga pamantayan sa kaligtasan ng paglabas ng mga modelo.

Dagdag pa niya: “Dapat gumana ang bawat laboratoryo sa ilalim ng institusyong proteksiyon ng demokratikong mga bansa... Ibig sabihin, kung magdudulot ng pinsala ang modelo, may mabigat na legal na pananagutan ang laboratoryo.”

Ipinagtanggol ng Meta ang estratehiya sa paglalaan ng computing power

Isang mahalagang bahagi ng argumento ng dalawang opisyal ay ang desisyon ng Meta na itutok ang karamihan ng computing power nito sa paglilingkod sa mga user, at hindi sa pagpapabilis ng recursive self-improvement (RSI).

“Ang paglalaan ng napakaraming computing power para paglingkuran ang sangkatauhan, at hindi para sa karera ng recursive self-improvement, ay isa sa pinakamainam na paraan upang matiyak ang ligtas na pagpapaunlad ng teknolohiyang ito,” sabi ni Zuckerberg.

Ang ikinababahala ay maaaring mabilis na mapabuti ng RSI ang mga kakayahan ng AI system, na posibleng lumampas sa kakayahan ng tao sa superbisyon, at magdulot ng panganib ng pagkawala ng kontrol sa makapangyarihang modelo.

Inilarawan din ni Alexander Wang ang karera para sa RSI bilang “isa sa pinaka-mapanganib na landas tungo sa pagkawala ng kontrol sa makapangyarihang mga modelo.”

Ang debate sa AI pace ay nagdudulot ng polarisasyon sa tech industry

Sa kabuuan, nahahati ang debate sa bilis ng pag-unlad ng AI: Nanawagan si Dario Amodei, CEO ng Anthropic, na pabagalin ang pag-unlad ng cutting-edge AI upang makahabol ang mga safety mechanism; samantalang sina Sam Altman, CEO ng OpenAI, Satya Nadella ng Microsoft, at Elon Musk ng SpaceX ay sumusuporta sa maingat, ligtas ngunit tuloy-tuloy na development, nang hindi itinitigil ang pag-unlad.

Samantala, tinututulan ni US President Donald Trump ang pagpapabagal sa AI race ng Amerika dahil sa pangambang maungusan ng China; habang para sa dating AI adviser ni Trump na si David Sacks, dapat ang mga negosyong pribado na lang ang mamahala sa mga panganib, at hindi umasa sa government regulation, kasabay ng pagdududa sa babala ng Anthropic tungkol sa seguridad.

Pinagdudahan naman ni investor Michael Burry kung ang panawagan na pabagalin ang development ay bahagyang dahil sa pansariling interes, dahil maaaring maprotektahan nito ang mga kasalukuyang AI company laban sa bagong kompetisyon.