Perusahaan rintisan AI dan perusahaan teknologi besar menentang RUU tersebut, dan menuntut regulasi tingkat federal dengan pedoman yang lebih jelas.

California telah menjadi titik fokus dalam perdebatan mengenai regulasi AI saat sebuah RUU baru, SB 1047, maju melalui badan legislatif negara bagian. RUU tersebut, yang telah menuai pertentangan signifikan dari perusahaan rintisan dan raksasa teknologi AI, mengusulkan langkah-langkah keamanan untuk model AI berskala besar guna mencegah ‘kerugian besar’, seperti serangan siber atau korban massal. Undang-undang tersebut akan mengharuskan pengembang untuk melakukan uji keamanan dan memastikan bahwa manusia dapat mematikan sistem AI jika sistem tersebut menimbulkan bahaya.

Para kritikus berpendapat bahwa RUU tersebut perlu lebih spesifik dan dapat menghambat inovasi di California. Para penentang, termasuk perusahaan besar seperti Meta, OpenAI, dan Google, telah menyuarakan kekhawatiran tentang persyaratan RUU yang luas dan tidak terdefinisi. Mereka khawatir hal itu dapat menyebabkan ketidakpastian hukum dan menghambat peluncuran model AI ke publik, sehingga merusak ekosistem teknologi yang dinamis di negara bagian tersebut.

RUU tersebut telah melewati beberapa rintangan legislatif tetapi menghadapi perlawanan keras saat bergerak menuju pemungutan suara akhir. Sementara penulisnya, senator negara bagian dari Partai Demokrat Scott Wiener, terbuka terhadap amandemen, ia menegaskan bahwa RUU tersebut sejalan dengan standar keselamatan yang telah diadopsi oleh industri. Namun, banyak pihak di komunitas teknologi masih perlu diyakinkan, dengan alasan potensi tantangan hukum dan operasional jika RUU tersebut menjadi undang-undang.

Mengapa hal ini penting?

Hasil dari pertarungan legislatif ini dapat memiliki implikasi yang luas bagi regulasi AI di seluruh Amerika Serikat, karena California sering menjadi preseden bagi negara bagian lain. Seiring berlanjutnya perdebatan, industri teknologi mengamati dengan saksama bagaimana negara bagian akan menyeimbangkan inovasi dengan kebutuhan akan keamanan dan regulasi di bidang AI yang berkembang pesat.