Undang-undang AI yang kontroversial menghadapi penentangan dari perusahaan teknologi besar dan pembuat undang-undang.

RUU keamanan AI California yang kontroversial, SB 1047, telah disahkan oleh badan legislatif negara bagian dan kini menunggu keputusan Gubernur Gavin Newsom. RUU tersebut mengamanatkan pengujian keamanan untuk model AI tingkat lanjut dan mengharuskan pengembang untuk menerapkan tombol pemutus, yang telah memicu perdebatan sengit di antara perusahaan teknologi dan anggota parlemen. Para pendukung berpendapat bahwa undang-undang tersebut sangat penting untuk keselamatan publik, sementara para kritikus, termasuk beberapa perusahaan teknologi besar dan Demokrat, khawatir undang-undang tersebut dapat menghambat inovasi dan mengusir perusahaan AI dari California.

Elon Musk, CEO Tesla dan perusahaan AI xAI, mendukung RUU tersebut , sementara raksasa teknologi lainnya seperti Google, OpenAI yang didukung Microsoft, dan Meta telah menyuarakan kekhawatiran mereka. RUU tersebut memberi wewenang kepada jaksa agung negara bagian untuk menuntut pengembang yang tidak patuh, terutama jika AI mengancam infrastruktur penting. RUU tersebut juga menuntut audit pihak ketiga dan perlindungan bagi pelapor pelanggaran untuk mencegah penyalahgunaan AI.

Senator Negara Bagian Scott Wiener, penulis RUU tersebut, berpendapat bahwa undang-undang tersebut diperlukan untuk melindungi masyarakat karena teknologi AI berkembang pesat. Namun, penentangan dari berbagai pihak, termasuk pemodal ventura seperti Martin Casado dari Andreessen Horowitz, menyoroti kekhawatiran yang luas dan bipartisan seputar RUU tersebut.

Gubernur Newsom memiliki waktu hingga 30 September untuk memutuskan apakah akan menandatangani rancangan undang-undang tersebut menjadi undang-undang atau memvetonya, yang akan memiliki implikasi signifikan terhadap pengembangan AI di California.