Antisipasi Bahaya AI, 20 Negara Usulkan Badan Pengawas Global

Jakarta (Mediaislam.id) – Dua puluh negara dan Uni Eropa telah menyerukan kerja sama internasional untuk memastikan Artificial Intelligence (AI) tetap berada di bawah kendali manusia. Hal ini termasuk potensi pembentukan badan pengawas global untuk menetapkan dan menegakkan standar.

Negara-negara tersebut, termasuk Jerman, Afrika Selatan, Kanada, Australia, Uni Emirat Arab, dan Singapura, mengeluarkan pernyataan bersama pada hari Senin. Langkah ini diambil saat para pemimpin global bersiap untuk membahas risiko kemajuan AI yang pesat pada pertemuan tahunan Majelis Umum Perserikatan Bangsa-Bangsa (PBB).

Deklarasi yang dirilis oleh kantor Presiden Finlandia, Alexander Stubb, tersebut mendesak pemerintah dan industri untuk segera bertindak. Tujuannya adalah memastikan bahwa AI dikembangkan sejalan dengan hukum internasional dan tetap berada di bawah “arahan, pengawasan, dan kendali manusia”.

“Untuk mewujudkan potensi AI, industri, pemerintah, dan masyarakat harus bertindak sekarang,” bunyi pernyataan itu. “Kita harus mengatasi risiko-risiko ini dan memperkuat pengawasan – tanpa memperlebar kesenjangan antarnegara dalam mengakses manfaat AI.”

Deklarasi itu mendesak negara-negara untuk mengembangkan dan mengoordinasikan “standar bersama” serta berbagi laporan tentang insiden keselamatan yang serius. Selain itu, mereka menjajaki pembentukan lembaga internasional untuk “menetapkan standar, memungkinkan verifikasi, dan mengumpulkan negara-negara ketika ambang batas kemampuan terlampaui”.

Para penandatangan deklarasi ini antara lain Kanselir Jerman Friedrich Merz, Perdana Menteri Norwegia Jonas Gahr Store, dan Presiden Komisi Eropa Ursula von der Leyen. Turut menandatangani pula Presiden Kenya William Ruto, Presiden Kazakhstan Kassym-Jomart Tokayev, dan Menteri Luar Negeri Turki Hakan Fidan.

Amerika Serikat dan Tiongkok, dua kekuatan AI terkemuka di dunia, tidak ikut serta dalam pernyataan yang masih “terbuka untuk mendapat dukungan” dari negara-negara lain tersebut. Presiden AS Donald Trump dan Presiden Tiongkok Xi Jinping diperkirakan akan membahas AI saat mereka bertemu di Gedung Putih pada hari Kamis untuk pertemuan puncak tatap muka ketiga mereka dalam waktu kurang dari setahun.

Washington dan Beijing, yang sedang berlomba untuk mendominasi teknologi mutakhir, sama-sama menolak seruan untuk memperlambat pengembangan AI demi memastikan keselamatan yang lebih besar. Pemain AI lainnya yang juga tidak termasuk dalam daftar penandatangan adalah India, Korea Selatan, Jepang, Inggris, dan Prancis.

Deklarasi ini muncul saat sektor AI tengah terlibat dalam perdebatan sengit mengenai keselamatan, menyusul seruan perlambatan pengembangan oleh para pemimpin industri papan atas. Dalam sebuah esai awal bulan ini, CEO Anthropic Dario Amodei menyerukan perusahaan-perusahaan untuk “memperlambat laju” pengembangan guna memitigasi risiko. Proposal ini dengan cepat didukung oleh para pesaingnya, termasuk CEO OpenAI Sam Altman serta CEO SpaceX dan Tesla Elon Musk.

Seruan Amodei mengikuti serangkaian kasus model AI yang terlibat dalam aktivitas berbahaya tanpa izin. Hal ini termasuk sebuah insiden pada bulan Juli, di mana agen AI yang sedang diuji oleh OpenAI meretas start-up AI bernama Hugging Face.

Dalam intervensi terbaru oleh pihak industri pada hari Senin, OpenAI menyatakan bahwa AS harus memimpin upaya internasional untuk mengembangkan standar teknis bagi AI tingkat lanjut.

“Amerika Serikat berada pada posisi yang tepat untuk memimpin karena industri AI-nya berada di garda depan teknis, dan masih menempati posisi jaringan global yang istimewa di bidang-bidang kritis seperti keuangan, perdagangan, pertahanan, teknologi, dan sistem informasi,” ungkap raksasa AI yang berbasis di San Francisco itu dalam sebuah unggahan blog.

“Memimpin sekarang akan menentukan apakah Amerika Serikat dapat membentuk kerangka AI global atau hanya menyaksikan sistem yang terfragmentasi, tidak merata, dan sarat konflik menguasai sekitarnya.”

Panel Ilmiah Internasional Independen tentang AI yang didukung PBB, yang memeriksa insiden Hugging Face, pada hari Senin juga turut menyuarakan perlunya perlindungan baru. Mereka mengatakan bahwa serangan siber tersebut telah mengungkap “kehancuran” sistem pengamanan yang ada saat ini.[]

Sumber: Aljazeera.com