Pematangsiantar, MISTAR.ID (18/9/2026) — Kecerdasan buatan atau artificial intelligence (AI) tak lagi sekadar urusan perusahaan teknologi. Perkembangannya kini telah menjadi persoalan tata kelola global, keamanan internasional hingga hukum.

Sekretaris Jenderal PBB António Guterres menempatkan AI sebagai salah satu agenda besar menjelang Sidang Umum PBB 2026. Dalam keterangannya pada 16 September, Guterres menyebut perkembangan AI yang tak terkendali sebagai salah satu dari tiga ancaman eksistensial, bersama krisis iklim dan ketimpangan yang semakin dalam.

Ia memperingatkan bahwa perkembangan AI bergerak lebih cepat daripada pemahaman manusia terhadap risikonya. Karena itu, menurut Guterres, kerja sama internasional menjadi semakin penting untuk memastikan AI dikembangkan secara aman, transparan dan akuntabel.

Peringatan tersebut membawa dunia pada persoalan yang lebih sulit: apakah aturan internasional yang ada masih cukup untuk menghadapi AI yang semakin otonom?

AI dan Hukum Internasional: Perlukah Traktat Baru?

Dunia sebenarnya sudah mulai membangun fondasi tata kelola AI.

PBB melalui Global Digital Compact telah mendorong pengembangan AI yang aman, transparan, akuntabel dan berpusat pada manusia. PBB juga membentuk Independent International Scientific Panel on AI serta Global Dialogue on AI Governance untuk memperkuat kerja sama dan basis ilmiah dalam tata kelola AI.

PBB memang belum memiliki satu traktat universal yang mengatur seluruh risiko AI secara komprehensif. Namun, bukan berarti belum ada perjanjian internasional yang mengikat mengenai AI. Council of Europe telah mengadopsi Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law, yang menjadi traktat internasional mengikat pertama yang secara khusus menangani AI.

Di sinilah perdebatan muncul.

Jika AI digunakan untuk membuat keputusan yang berdampak lintas negara, standar apa yang harus berlaku? Siapa yang mengawasi pengembangannya? Dan apa yang terjadi ketika sebuah sistem AI menyebabkan kerugian di negara lain?

Pertanyaan-pertanyaan itu semakin relevan karena AI tidak mengenal batas negara.

Kalau AI Menyebabkan Kerugian, Siapa yang Bertanggung Jawab?

Bayangkan sebuah sistem AI dikembangkan di satu negara, menggunakan data dari negara lain, dijalankan melalui infrastruktur digital lintas wilayah, lalu menghasilkan keputusan yang merugikan seseorang di negara ketiga.

Siapa yang harus bertanggung jawab?

Pengembang?

Perusahaan yang mengoperasikan sistem?

Pengguna?

Atau negara yang menggunakan teknologi tersebut?

Di sinilah AI dan hukum internasional bertemu dengan persoalan klasik tentang tanggung jawab negara, perusahaan dan individu.

Dalam kerangka hukum internasional yang berlaku saat ini, AI tidak menggantikan manusia atau negara sebagai pemegang kewajiban hukum. Ketika sistem AI menyebabkan suatu tindakan atau kerugian, persoalan hukumnya antara lain adalah siapa yang menggunakan atau mengendalikan sistem tersebut, kewajiban apa yang berlaku, dan kepada siapa tindakan tersebut dapat diatribusikan.

Karena itu, salah satu tantangan terbesar adalah memastikan tetap ada manusia atau institusi yang dapat dimintai pertanggungjawaban atas penggunaan teknologi tersebut.

Guterres pun menekankan pentingnya guardrails atau pagar pengaman global yang membuat AI aman, transparan dan akuntabel, dengan martabat manusia sebagai pusatnya.

Ketika AI Masuk ke Medan Perang

Persoalan menjadi jauh lebih serius ketika AI digunakan dalam konflik bersenjata.

Teknologi ini dapat membantu analisis intelijen, pengawasan, pemrosesan informasi dan berbagai fungsi militer. Di sisi lain, meningkatnya otonomi sistem senjata memunculkan pertanyaan tentang seberapa jauh keputusan penggunaan kekuatan boleh diserahkan kepada mesin.

Hukum humaniter internasional tetap berlaku dalam konflik bersenjata. Prinsip seperti pembedaan antara kombatan dan warga sipil, proporsionalitas serta kewajiban mengambil tindakan pencegahan tetap menjadi dasar.

Masalahnya, AI dapat memproses informasi dan menghasilkan keputusan dengan kecepatan yang jauh melampaui manusia.

Jika sistem salah mengidentifikasi target, siapa yang bertanggung jawab atas akibatnya?

Pertanyaan tersebut bukan lagi sekadar skenario futuristik. Perdebatan mengenai penggunaan AI dalam domain militer kini telah menjadi bagian dari agenda internasional.

Senjata Otonom Jadi Ujian Terbesar

Salah satu isu paling sensitif adalah autonomous weapon systems, atau sistem senjata yang dapat menjalankan fungsi tertentu secara otonom.

Perdebatan utamanya bukan hanya soal apakah teknologi tersebut bisa dibuat, tetapi seberapa besar kendali manusia harus dipertahankan ketika keputusan dapat berujung pada kematian manusia.

Jika sebuah sistem memilih dan menyerang target berdasarkan proses otomatis, batas tanggung jawab manusia menjadi semakin rumit.

Di titik ini, hukum internasional menghadapi dilema: menggunakan aturan yang sudah ada untuk teknologi baru atau menciptakan aturan khusus sebelum teknologi berkembang lebih jauh.

PBB telah menjadikan AI governance sebagai bagian dari agenda global, termasuk kaitannya dengan perdamaian dan keamanan internasional.

Bahkan pada 2026, pembahasan autonomous weapons masih berlangsung melalui Group of Governmental Experts di bawah Convention on Certain Conventional Weapons. Pertemuan September 2026 membahas penyusunan unsur-unsur suatu kemungkinan instrumen, tanpa terlebih dahulu menentukan bentuk hukumnya.

Bisakah Hukum Internasional Mengejar AI?

Inilah persoalan terbesar.

Teknologi dapat berubah dalam hitungan bulan. Sebaliknya, negosiasi internasional, penyusunan perjanjian dan proses ratifikasi dapat berlangsung jauh lebih lama.

Jika hukum menunggu sampai seluruh risiko AI terbukti, aturan bisa datang terlambat. Tetapi jika aturan dibuat terlalu cepat dan terlalu kaku, teknologi yang terus berubah dapat membuat regulasi kehilangan relevansi.

Karena itu, tata kelola AI kemungkinan tidak akan bergantung pada satu aturan saja.

Traktat internasional dapat menjadi salah satu instrumen. Di saat yang sama, hukum nasional, standar teknis, mekanisme pengawasan, aturan hak asasi manusia dan hukum humaniter internasional dapat berjalan secara berlapis.

Dunia Harus Menentukan Batas Sebelum AI Menentukan Terlalu Banyak

Peringatan Guterres menunjukkan bahwa perdebatan tentang AI dan hukum internasional telah bergeser dari pertanyaan “apa yang bisa dilakukan AI?” menjadi “apa yang boleh dilakukan AI, dan siapa yang bertanggung jawab?”

PBB sudah membangun sejumlah mekanisme untuk memperkuat tata kelola AI, sementara penggunaan AI dalam keamanan dan konflik membuka persoalan yang jauh lebih sensitif.

Pada akhirnya, tantangannya bukan sekadar membuat AI semakin canggih.

Dunia harus memastikan bahwa semakin besar kemampuan mesin mengambil keputusan, semakin jelas pula batas kewenangan dan pertanggungjawaban manusia di belakangnya.

Sebab ketika sebuah algoritma melintasi batas negara, hukum juga harus mampu mengejar dampaknya.

(un/portal/coe/*/hm27)