Gubernur California Gavin Newsom pada hari Minggu memveto rancangan undang-undang yang bertujuan mencegah sistem AI yang besar menyebabkan kerusakan besar, dengan mengatakan bahwa undang-undang tersebut akan menciptakan “rasa aman yang palsu.”
Keputusannya diambil setelah berminggu-minggu pertimbangan dan upaya lobi yang bersaing dari perusahaan teknologi besar, selebriti, miliarder, dan pekerja yang membangun AI.
Undang-undang tersebut, RUU Senat 1047, yang diperkenalkan oleh senator negara bagian Scott Weiner (D-San Francisco) pada bulan Mei, akan mewajibkan perusahaan yang menghabiskan lebih dari $100 juta pada sumber daya komputasi untuk menciptakan model AI dasar, atau $10 juta pada sumber daya komputasi untuk menciptakan model AI dasar, atau $10 juta pada sumber daya komputasi untuk menciptakan model dasar AI. menyempurnakan model fondasi, melakukan uji keselamatan, menyewa auditor independen untuk meninjau model setiap tahun dan mengambil “kehati-hatian yang wajar” untuk memastikan model tersebut tidak menyebabkan insiden korban massal, kerusakan infrastruktur fisik atau dunia maya senilai lebih dari $500 juta, atau bertindak tanpa pengawasan manusia untuk melakukan kejahatan yang cukup serius.
Undang-undang tersebut juga menginstruksikan para pengembang untuk membuat tombol mematikan (kill switch) ke dalam model-model yang memenuhi syarat yang akan memungkinkan mereka untuk segera dimatikan dan memberikan wewenang kepada jaksa agung negara bagian untuk menuntut pengembang karena melanggar tindakan tersebut dan, dalam kasus-kasus kerugian yang paling serius, meminta ganti rugi hingga 10 persen dari biaya pelatihan model.
Newsom dalam beberapa minggu terakhir telah menandatangani serangkaian rancangan undang-undang yang akan mengatasi dampak langsung dan berkelanjutan yang disebabkan oleh sistem AI, termasuk rancangan undang-undang yang mengkriminalisasi pembuatan gambar seksual yang dipalsukan secara non-konsensual dan mengharuskan model AI generatif untuk memberi tanda air pada konten mereka sehingga lebih mudah untuk diidentifikasi. . Namun SB 1047, yang hanya berlaku bagi perusahaan AI terkaya dan paling berpengaruh, telah menjadi titik fokus perdebatan mengenai regulasi AI dalam beberapa bulan terakhir.
Perusahaan-perusahaan termasuk Meta, Google, OpenAI, dan Anthropic dengan keras menentang RUU tersebut, dengan mengatakan bahwa RUU tersebut akan melemahkan inovasi dan merugikan usaha kecil, meskipun peraturan tersebut hanya berlaku bagi perusahaan yang mengeluarkan ratusan juta dolar untuk melatih sistem AI, Meta, misalnya, mengatakan RUU ini akan menghukum secara tidak adil para pengembang model dasar atas bencana yang disebabkan oleh pengguna hilir dan tidak memberikan insentif pada pembuatan model sumber terbuka karena pengembang takut bertanggung jawab atas cara orang lain menggunakan produk mereka.
Dalam pernyataan vetonya, Newsom menyatakan bahwa 32 dari 50 perusahaan AI terbesar di dunia berbasis di California dan dia juga menyuarakan keluhan industri bahwa undang-undang tersebut akan merugikan inovasi.
“Kemampuan beradaptasi sangat penting saat kita berlomba untuk mengatur teknologi yang masih dalam tahap awal,” tulis Newsom. “Ini memerlukan keseimbangan yang rumit. Meskipun bertujuan baik, SB 1047 tidak mempertimbangkan apakah sistem Al diterapkan di lingkungan berisiko tinggi, melibatkan pengambilan keputusan penting, atau penggunaan data sensitif. Sebaliknya, rancangan undang-undang tersebut menerapkan standar yang ketat bahkan pada fungsi-fungsi yang paling dasar sekalipun – selama sistem besar menerapkannya.”
Meskipun ada lobi dari perusahaan, banyak orang di industri AI percaya bahwa undang-undang tersebut diperlukan. Lusinan peneliti AI di perusahaan AI terkemuka meminta Newsom melalui surat terbuka untuk menandatangani RUU tersebut menjadi undang-undang.
“Kami percaya bahwa model AI yang paling kuat akan segera menimbulkan risiko yang parah, seperti perluasan akses terhadap senjata biologis dan serangan siber terhadap infrastruktur penting,” tulis mereka. “Adalah layak dan pantas bagi perusahaan-perusahaan AI terdepan untuk menguji apakah model AI yang paling kuat dapat menyebabkan kerugian yang parah, dan bagi perusahaan-perusahaan ini untuk menerapkan perlindungan yang wajar terhadap risiko-risiko tersebut.”
Para pekerja teknologi turut serta dalam advokasi mereka dengan beberapa nama besar di Hollywood—mulai dari JJ Abrams dan Ava DuVernay hingga Mark Hamil dan Whoopi Goldberg—yang menulis surat terbuka mereka sendiri untuk mendukung SB 1047. Sementara itu, Elon Musk menjalin pertemanan yang aneh dengan kelompok masyarakat sipil seperti Electronic Frontier Foundation yang menyerukan pemberlakuannya. Sementara anggota DPR Nancy Pelosi dan anggota delegasi kongres California yang berpengaruh lainnya meminta Newsom untuk memveto undang-undang tersebut, dan menyebutnya sebagai “niat baik namun kurang informasi.”
Menyusul veto Newsom, Weiner, sponsor RUU tersebut, mengatakan keputusan tersebut merupakan “kemunduran bagi semua orang yang percaya pada pengawasan terhadap perusahaan besar”
“Pesan veto gubernur mencantumkan serangkaian kritik terhadap SB 1047: bahwa RUU tersebut tidak cukup efektif, namun terlalu jauh; bahwa risikonya mendesak tetapi kita harus bertindak dengan hati-hati,” kata Wiener dalam sebuah pernyataan. “SB 1047 dibuat oleh beberapa pemikir AI terkemuka di dunia, dan implikasi apa pun bahwa hal itu tidak didasarkan pada bukti empiris jelas-jelas tidak masuk akal.”
