Altman OpenAI Ingin Badan Internasional Serupa dengan Pengawas Nuklir IAEA Untuk Mengatur AI

Kepemimpinan OpenAI percaya pengawas internasional dan pengawasan publik yang "kuat" diperlukan untuk mengatur ruang kecerdasan buatan yang berkembang pesat.

"Kita mungkin pada akhirnya membutuhkan sesuatu seperti IAEA (Badan Energi Atom Internasional) untuk upaya superintelijen; setiap upaya di atas ambang batas kemampuan (atau sumber daya seperti komputasi) tertentu harus tunduk pada otoritas internasional yang dapat memeriksa sistem, memerlukan audit , menguji kepatuhan terhadap standar keselamatan, menempatkan batasan pada tingkat penerapan dan tingkat keamanan, dll.," tulis CEO OpenAI Sam Altman, presiden Greg Brockman dan kepala ilmuwan Ilya Sutskever dalam posting blog Senin.

IAEA, pengawas tenaga nuklir Perserikatan Bangsa-Bangsa, didirikan pada tahun 1957 " sebagai tanggapan atas ketakutan dan harapan mendalam yang dihasilkan oleh penemuan dan penggunaan beragam teknologi nuklir."

Sementara badan pengatur AI yang dibangun di sekitar model IAEA mungkin tidak memiliki wewenang untuk menutup perusahaan yang telah melanggar peraturan, badan tersebut dapat memantau pelaku jahat potensial dan memastikan standar dan perjanjian internasional diikuti, TechCrunch melaporkan .

Altman dan yang lainnya menegaskan kembali bahwa perlu ada "beberapa tingkat koordinasi di antara upaya pengembangan terkemuka" untuk memastikan intelijen terintegrasi dengan aman ke dalam masyarakat. Mereka mengatakan penting untuk memiliki "pengawasan publik yang kuat" karena komunitas di seluruh dunia "harus secara demokratis memutuskan batasan dan default untuk sistem AI."

"Dan tentu saja, masing-masing perusahaan harus berpegang pada standar yang sangat tinggi dalam bertindak secara bertanggung jawab," tulis para eksekutif.

Altman menyerukan untuk mengatur AI selama subkomite peradilan Senat tentang kecerdasan buatan minggu lalu.

Selama persidangan , beberapa anggota parlemen mengungkapkan kekhawatiran tentang perkembangan AI. Altman menekankan perlunya regulasi yang lebih ketat, menggarisbawahi pentingnya menempatkan AI generatif seperti ChatGPT di bawah langkah transparansi khusus.

Namun, beberapa pakar AI mengamati bahwa nada sidang dan keputusan pembuat undang-undang untuk mengeksplorasi kemungkinan teknologi AI pada awalnya dapat mempengaruhi keyakinan yang tak tergoyahkan tentang bahaya di sekitar teknologi tersebut.

Meredith Whittaker, salah satu pendiri AI Now Institute di Universitas New York, mengatakan kepada CNBC bahwa anggota parlemen yang memuji Altman selama persidangan tampak seperti ada "fandom" dan itu tampak seperti "pemujaan selebriti".

"Kedengarannya bukan jenis audiensi yang berorientasi pada akuntabilitas," kata Sarah Myers West, direktur pelaksana AI Now Institute.

"Sejujurnya, sungguh menyedihkan melihat Kongres membiarkan para CEO ini membuka jalan untuk kekuasaan penuh, apa pun yang mereka inginkan, istilah yang paling menguntungkan bagi mereka," kata Safiya Umoja Noble, profesor UCLA dan penulis "Algorithms of Oppression: How Search Engines Perkuat Rasisme."

Margaret Mitchell, peneliti dan kepala ilmuwan etika di perusahaan AI Hugging Face, mencatat bahwa alih-alih mengawasi AI, saran Altman tentang regulasi AI dapat "memperlambat kemajuan apa pun" untuk menjaga agar teknologi tetap terkendali.

Ravit Dotan, ahli etika teknologi dan kepala lab etika AI di University of Pittsburgh, mengatakan ada kekhawatiran di antara perusahaan AI yang lebih kecil bahwa peraturan hanya berlaku untuk perusahaan yang lebih besar.

Sementara itu, beberapa pakar menginginkan pemerintah menyerahkan sepenuhnya regulasi AI kepada perusahaan.

Mantan CEO Google Eric Schmidt mengatakan kepada "Meet the Press" NBC pada hari Minggu bahwa "tidak mungkin orang non-industri dapat memahami apa yang mungkin," jadi peraturan harus diserahkan kepada perusahaan yang mengerjakan teknologi tersebut.

Senator Michael Bennet, D-Colo., sejak itu mengusulkan versi terbaru dari RUU yang dia perkenalkan pada tahun 2022 yang akan membentuk komisi platform digital federal. Dalam RUU yang diperbarui , anggota parlemen mengusulkan langkah-langkah yang secara eksplisit menargetkan produk AI, lapor CNN.

Undang-undang yang diusulkan tidak mencakup program lisensi untuk alat dan produk AI, tetapi menyebutkan pembentukan komisi yang akan menghasilkan peraturan untuk mengawasi sektor tersebut.