Tatlong dating mananaliksik sa seguridad mula sa OpenAI ang nag-claim na ang kanilang pagtanggal ay may kaugnayan sa kanilang mga babala tungkol sa mga panganib sa kaligtasan na dulot ng artipisyal na intelihensiya. Ang kontrobersiyang ito ay nagdadala ng muling pagsusuri sa mga panloob na patakaran ng OpenAI at sa kanilang pangako sa transparency.
Mga Alalahanin Tungkol sa Kultura ng Korporasyon
Naniniwala akong kami ay tinanggal dahil sa pag-prioritize ng kaligtasan sa mga panandaliang interes ng OpenAI bilang isang korporasyon.
(cite: Mikita Balesni, Dating Empleyado ng OpenAI)
Ang mga tinanggal na empleyado—Mikita Balesni, Tomek Korbak, at Jasmine Wang—ay nagpahayag ng kanilang mga alalahanin sa isang magkasanib na liham, na nagsasaad na ang kanilang pagtanggal ay nagpapakita ng nakakabahalang pagbabago sa kultura ng korporasyon ng OpenAI. Binibigyang-diin nila na ang biglaang pagtanggal ay maaaring hadlangan ang bukas na diyalogo na pinahalagahan ng kumpanya sa nakaraan.
- Itinampok ng mga mananaliksik ang kanilang papel sa pagmamanman ng mga modelo ng AI ng OpenAI matapos ang isang insidente sa seguridad noong Hulyo.
- Nananawagan sila sa kumpanya na panatilihin ang kanilang pangako sa independiyenteng pagsusuri ng kaligtasan ng AI.
Tumugon ang OpenAI sa mga akusasyon sa pamamagitan ng pagsasabi na ang mga pagtanggal ay dahil sa paglabag sa patakaran ng kumpanya. Ayon sa kumpanya, ang mga empleyado ay hindi maayos na humawak ng sensitibong impormasyon, na nagkompromiso sa mga itinatag na pamamaraan.
Ang mga pagtanggal ay naganap sa gitna ng mas malawak na pag-uusap sa Silicon Valley tungkol sa bilis ng pag-unlad ng AI at ang mga implikasyon nito para sa kaligtasan. Ang insidenteng ito ay nagpapakita ng tensyon sa pagitan ng mabilis na inobasyon at responsableng pangangasiwa.
Ang kontrobersiya ay umaabot sa mga damdaming ibinahagi ng mga kilalang tao sa industriya ng teknolohiya, kabilang ang CEO ng OpenAI na si Sam Altman, na publiko nang nanawagan para sa mas mataas na pokus sa mga hakbang sa kaligtasan na may kaugnayan sa AI.
Habang nagpapatuloy ang debate, nagbabala ang mga tinanggal na mananaliksik na ang pagsugpo sa mga boses na salungat sa loob ng mga organisasyon tulad ng OpenAI ay maaaring magdulot ng malalaking panganib sa deployment ng AI. Sinasabi nila na ang transparency at pananagutan ay mahalaga upang maiwasan ang mga potensyal na sakuna.