Jakarta, MISTAR.ID - Perkembangan kecerdasan buatan (AI) dinilai berpotensi menghadirkan ancaman serius bagi umat manusia jika tidak diiringi tata kelola dan pengawasan yang memadai.

Peringatan tersebut disampaikan CEO Anthropic Dario Amodei dan CEO OpenAI, Sam Altman, dalam sidang khusus Dewan Keamanan Perserikatan Bangsa-Bangsa (PBB) yang membahas AI dan keamanan internasional. Pertemuan digelar di sela Sidang Majelis Umum PBB ke-81 di New York, Rabu (23/9/2026).

Dalam sidang yang diikuti secara virtual, Amodei memaparkan dua kategori risiko utama yang perlu menjadi perhatian seiring semakin pesatnya perkembangan AI generasi terdepan.

Risiko pertama berkaitan dengan penyalahgunaan teknologi AI, termasuk kemungkinan dimanfaatkan kelompok bioterorisme untuk mengembangkan senjata biologis. Sementara risiko kedua menyangkut kemungkinan manusia kehilangan kendali apabila kemampuan sistem AI berkembang lebih cepat daripada kemampuan pengembang dalam mengawasinya.

"Pertanyaan-pertanyaan ini bersifat global dan menyangkut seluruh umat manusia. Isu ini cukup serius sehingga saya percaya menjadi pertanyaan penting bagi dewan ini, bukan hanya untuk kementerian ekonomi atau TIK," ujar Amodei.

Ia menegaskan, perkembangan AI yang tidak dikelola dengan baik dapat berkembang menjadi persoalan yang berdampak terhadap keamanan dan keselamatan umat manusia secara luas, melansir USA Today, Kamis (24/9/2026).

Senada dengan Amodei, Sam Altman menilai pemerintah perlu dilibatkan dalam menentukan arah kebijakan strategis terkait perkembangan AI. Menurutnya, keputusan mengenai masa depan teknologi tersebut tidak semestinya hanya berada di tangan perusahaan teknologi.

Altman juga menekankan pentingnya kerja sama antarnegara untuk menghadapi risiko yang muncul dari perkembangan AI. Ia menilai negara-negara yang memiliki kepentingan berbeda tetap dapat bekerja sama ketika menghadapi teknologi baru yang memiliki dampak besar.

"Jika AI ingin bersifat demokratis, keputusan itu harus dibentuk melalui proses demokratis dan oleh pemerintah yang bertanggung jawab kepada rakyat yang mereka layani," kata Altman.

Pembahasan di Dewan Keamanan PBB berlangsung di tengah meningkatnya perhatian dunia terhadap perkembangan AI yang semakin cepat.

Kekhawatiran tersebut antara lain muncul setelah sejumlah insiden yang melibatkan agen AI melakukan tindakan di luar kendali, termasuk kasus yang berkaitan dengan peretasan sistem perusahaan lain.

Sebelumnya, Amodei melalui esainya yang diterbitkan pada 12 September 2026 juga menyerukan perlambatan secara sengaja terhadap peningkatan kemampuan model AI generasi terdepan. Seruan tersebut dilaporkan mendapat dukungan dari Elon Musk dan CEO Google DeepMind Demis Hassabis.

Tanpa langkah mitigasi yang memadai, perkembangan AI dinilai dapat menghadirkan berbagai risiko, mulai dari penyalahgunaan untuk serangan siber dan penyebaran disinformasi hingga kekhawatiran terhadap kemampuan manusia dalam mengendalikan sistem AI yang semakin kompleks.