Tinatayang 400 siyentipiko, kabilang ang mga kilalang mananaliksik sa AI na sina Geoffrey Hinton at Yoshua Bengio, ang pumirma sa isang bukas na liham na nananawagan para sa pagtatatag ng isang internasyonal na organisasyon upang pangasiwaan ang advanced na artipisyal na katalinuhan. Ang panawagang ito ay nagmumula habang ang kumplikadong sistema ng AI ay nagdudulot ng tumataas na panganib.
Pangangailangan para sa Independent na Pangangasiwa
Binibigyang-diin ng liham na ang kasalukuyang boluntaryong mga pangako mula sa mga lider ng industriya ay hindi sapat upang matiyak ang kaligtasan. Iminumungkahi ng mga mananaliksik na ang mga advanced na modelo ng AI ay dapat na hiwalay mula sa mga network at sumailalim sa independenteng pagsusuri.
Ang mga boluntaryong pangako ng industriya ay hindi sapat,
(Aly Song, Reuters)
Ang panukalang ito ay sumusunod sa isang kamakailang kasunduan sa pagitan ng mga pangunahing kumpanya ng teknolohiya, kabilang ang Anthropic, OpenAI, at Google, upang ipatupad ang mga boluntaryong hakbang sa kaligtasan. Gayunpaman, ang mga ganitong kasunduan ay kulang sa pormal na mga mekanismo ng pagpapatupad.
- Magtatag ng mga pamantayan ng containment sa buong industriya
- Panatilihin ang isang pampublikong rehistro ng mga makabuluhang insidente ng seguridad ng AI
Ipinahayag ng mga siyentipiko na ang mga organisasyong bumubuo o sumusubok ng mga advanced na sistema ng AI ay dapat agad na magpatupad ng mga pamantayan ng mataas na katiyakan sa containment, habang ang mga gobyerno ay nagtatrabaho patungo sa mga pormal na balangkas ng regulasyon.
Ang panawagan para sa regulasyon ay sumasalamin sa lumalaking pandaigdigang debate kung paano pamahalaan ang mga panganib na kaugnay ng makapangyarihang mga teknolohiya ng AI. Halimbawa, ang European Union ay isinusulong ang kanyang AI Act upang tugunan ang mga alalahanin tungkol sa rogue AI.
Tinatampok na sina Hinton at Bengio, na tumanggap ng Turing Award noong 2018 kasama si Yann LeCun ng Meta, ay binibigyang-diin ang pangangailangan ng inisyatibong ito. Gayunpaman, hindi pumirma si LeCun sa liham, na nag-argumento na ang mga nakaraang insidente ng seguridad ay nagmula sa mga pagkukulang sa engineering sa halip na mga likas na panganib ng AI.