Para pendukung menyoroti risiko parah yang ditimbulkan oleh model AI yang kuat, seperti akses ke senjata biologis dan serangan siber.

Sekitar 120 karyawan tetap dan mantan karyawan dari perusahaan-perusahaan besar AI seperti OpenAI, Anthropic, DeepMind, dan Meta telah secara terbuka menyuarakan dukungan mereka terhadap undang-undang regulasi AI baru di California, SB 1047. RUU tersebut, yang mencakup perlindungan bagi para whistleblower bagi karyawan yang mengungkap risiko dalam model AI, bertujuan untuk memberlakukan regulasi yang lebih ketat dalam pengembangan teknologi AI yang canggih. Para pendukung berpendapat bahwa langkah-langkah ini penting untuk mencegah potensi ancaman seperti serangan siber dan penyalahgunaan senjata biologis.

RUU SB 1047 California telah disahkan oleh Majelis Negara Bagian dan Senat dan sedang menunggu keputusan Gubernur Gavin Newsom, dengan batas waktu yang ditetapkan pada tanggal 30 September. Khususnya, penandatangan surat dukungan RUU yang terkenal termasuk Geoffrey Hinton, pemenang Penghargaan Turing, dan Jan Leike, mantan pemimpin penyelarasan OpenAI, yang menandakan dukungan luas dari tokoh-tokoh berpengaruh di dunia teknologi.

Para pendukung RUU tersebut percaya bahwa perusahaan AI harus bertanggung jawab untuk menguji dan memastikan model mereka tidak menimbulkan bahaya yang signifikan. Mereka berpendapat bahwa regulasi sangat penting untuk melindungi infrastruktur penting dan mencegah penyalahgunaan AI. Meskipun ada keterbatasannya, para ahli seperti Lawrence Lessig dari Harvard menyebut RUU tersebut sebagai ‘langkah maju yang solid’ dalam mengelola risiko AI.

Namun, tidak semua orang setuju. OpenAI dan organisasi teknologi besar lainnya, termasuk Kamar Dagang AS dan Asosiasi Industri Perangkat Lunak dan Informasi, menentang RUU tersebut, dengan alasan RUU tersebut akan menghambat inovasi di sektor AI yang bergerak cepat. Para pendukung industri teknologi berpendapat bahwa regulasi yang berlebihan dapat menghambat pengembangan teknologi mutakhir.