Si Jacob Coxon, isang kilalang mananaliksik sa pretraining ng mga modelo ng AI, ay umalis sa Anthropic, na nagpapahayag ng malalim na alalahanin tungkol sa pagmamadali ng industriya patungo sa superintelligence. Ang kanyang pag-alis ay nagpapakita ng mas malawak na pagkabahala sa mga inhinyero tungkol sa kaligtasan at mga etikal na responsibilidad.
Mga Babala mula sa Loob ng Komunidad ng AI
Umalis ako sa Anthropic ngayon. Naglaan ako ng tatlong taon sa paggawa ng pretraining research sa parehong OpenAI at Anthropic. Walang sinumang kumpanya ang kumikilos nang responsable. Sila ay nagmamadali patungo sa self-improving superintelligence at naglalaro sa ating mga buhay. Mas marami pang saloobin sa ibaba.
Jacob Coxon, AI Researcher
Ang mga alalahanin ni Coxon ay nakatuon sa mabilis na pag-unlad ng mga sistema ng AI na maaaring mag-self-improve at awtonomikong samantalahin ang mga mapagkukunan. Ipinapahayag niya na habang ang mga kumpanya tulad ng OpenAI at Anthropic ay nagtatanghal ng pangako sa kaligtasan, maraming inhinyero ang pribadong nag-aalala tungkol sa mga banta sa pag-iral na dulot ng hindi napipigilang pag-unlad ng AI.
- Madalas na hindi pinapansin ng mga mananaliksik ng OpenAI ang mga panganib na kasangkot sa pag-unlad ng AI.
- Ang Anthropic, sa kabila ng nakatuon sa kaligtasan, ay nakakaramdam ng presyon na makipagkumpetensya nang agresibo.
Binibigyang-diin ni Coxon ang mga panganib ng isang mapagkumpitensyang kapaligiran na inuuna ang bilis kaysa sa kaligtasan. Naniniwala siya na ang pagtitiwala lamang sa mga kumpanya ng teknolohiya na mag-self-regulate ay isang mapanganib na sugal, na nananawagan para sa pakikipagtulungan sa buong industriya sa mga hakbang sa kaligtasan.
Mga Iminungkahing Solusyon upang Palakasin ang Kaligtasan
Upang mabawasan ang mga panganib, iminungkahi ni Coxon ang ilang mga estratehiya, kabilang ang:
- Mga Kasunduan sa Pagpapatakbo: Pormal na mga pangako upang pabagalin ang pag-unlad ng AI pagkatapos ng mga kahinaan sa seguridad.
- Mga Bawal sa Kakayahan: Pansamantalang paghinto sa pagsasanay ng mga modelo na makabuluhang nagpapataas ng kakayahan.
- Panloob na Pagsalungat: Paghimok sa mga mananaliksik na labanan ang mga hindi nasubok na modelo ng pagkatuto.
Ang pagbibitiw ni Coxon ay nagdaragdag sa isang nakababahalang trend ng mga mananaliksik na umaalis sa mga pangunahing kumpanya ng AI dahil sa mga nakitang kakulangan sa mga protocol ng kaligtasan at pangangasiwa. Habang ang mga sistema ng AI ay papalapit sa awtonomiya, ang pangangailangan para sa matibay na mga balangkas ng regulasyon ay lalong tumitindi.