JAKARTA, Cobisnis.com – Sekretaris Jenderal PBB Antonio Guterres menyerukan penguatan langkah untuk mengelola risiko kecerdasan buatan (AI), termasuk melalui pembentukan Kerangka Kerja Manajemen Risiko AI multilateral.
Seruan tersebut disampaikan Guterres saat membuka Debat Umum Sidang Majelis Umum PBB ke-81 di New York pada Selasa (22/9/2026), ketika ia menyoroti perkembangan AI yang berlangsung cepat dan konsentrasi kekuatan teknologi pada data, kapasitas komputasi, serta algoritma.
“Selama berabad-abad, kekuatan berasal dari wilayah. Kemudian industri. Lalu keuangan. Kini, kekuatan semakin bersumber dari data, kapasitas komputasi, dan algoritma. Kekuatan baru ini sangat terkonsentrasi. Perkembangannya sangat cepat, serta melaju mendahului kemampuan kita untuk memahami seluruh dampaknya,” ujar Guterres.
Menurut Guterres, persoalan yang perlu diperhatikan bukanlah teknologi AI itu sendiri, melainkan penggunaan teknologi tanpa akuntabilitas, kemampuan tanpa pengawasan, dan pengambilan keputusan tanpa transparansi.
Ia menilai pemerintah memiliki tanggung jawab untuk melindungi masyarakat, termasuk negara-negara dengan kemampuan AI terbesar yang dinilai memiliki tanggung jawab lebih besar dalam membangun dialog, transparansi, kepercayaan, dan kerja sama.
Guterres kemudian membandingkan kebutuhan pengelolaan risiko AI dengan mekanisme yang dibangun negara-negara rival pada masa Perang Dingin untuk mengurangi kesalahpahaman, mengendalikan eskalasi, dan mencegah bencana terkait persenjataan nuklir.
“Negara-negara yang memimpin revolusi teknologi ini harus berbagi informasi mengenai risiko keselamatan yang muncul, bekerja sama dalam pengujian dan evaluasi, serta mengupayakan langkah pengamanan bersama untuk melindungi kita semua,” ucapnya.
PBB sebelumnya telah mengembangkan sejumlah inisiatif terkait tata kelola AI, termasuk Global Digital Compact, Global Dialogue on AI Governance, dan Independent International Scientific Panel on AI sebagai bagian dari upaya membangun kebijakan berbasis bukti.
Dalam pidatonya, Guterres mendorong negara-negara anggota mengambil langkah berikutnya dengan menciptakan kondisi bagi pengembangan AI secara bertanggung jawab dan menyediakan pengamanan tambahan untuk menghadapi berbagai risiko.
Langkah lainnya adalah mengupayakan pembentukan Kerangka Kerja Manajemen Risiko AI multilateral yang didukung mekanisme pengawasan kredibel dan independen, sekaligus memastikan tidak ada negara yang tertinggal dalam perkembangan teknologi tersebut.
“AI harus dibentuk oleh umat manusia, bersama umat manusia, dan demi kepentingan seluruh umat manusia. Anak-anak tidak boleh dijadikan objek uji coba bagi sistem yang berjalan tanpa aturan. Keputusan hidup-mati tidak boleh diserahkan kepada mesin. Robot-robot pembunuh tidak boleh memiliki tempat dalam masa depan kita,” tandas Guterres.
