Jakarta, MISTAR.ID (21/9/2026) - Sejumlah pekerja industri kecerdasan buatan (AI) mengungkap kekhawatiran bahwa teknologi ini bisa memicu kepunahan umat manusia. Benarkah AI bisa membinasakan manusia?

Isu ini mencuat setelah karyawan Anthropic bernama Jacob Coxon mengumumkan pengunduran diri lewat cuitan di X karena menilai pekerjaannya terlalu berbahaya.

Merespons cuitan itu, karyawan Anthropic lainnya, Evan Hubinger, memperkirakan peluang kepunahan manusia akibat AI dalam 10 tahun ke depan berada di atas 10 persen.

Presiden Machine Intelligence Research Institute (MIRI), Nate Soares, bahkan menyebut perkembangan AI yang lepas kendali benar-benar bisa membunuh manusia.

"Ini benar-benar tentang kematian seluruh orang di planet ini, seperti manusia terakhir yang mengembuskan napas terakhirnya," kata Nate, dikutip dari CNN, Kamis (17/9/2026).

"Orang-orang sering tidak percaya ketika hal ini diucapkan, tetapi saya memang berpikir itu adalah kemungkinan hasil yang paling besar," lanjutnya.

Lantas, bagaimana AI bisa memusnahkan manusia? Sejumlah pakar mengungkap beberapa skenario:

1. Senjata Biologis

Sistem AI super cerdas diduga dapat membujuk manusia untuk membantu mengembangkan virus mematikan.

"Sudah ada banyak manusia yang berbicara dengan AI mereka tentang eksperimen apa yang harus dijalankan di laboratorium," kata peneliti AI Futures Project, Thomas Larsen.

"Sangat mudah bagi saya untuk membayangkan AI yang ada saat ini, jika jauh lebih cerdas dan strategis serta memang ingin melakukan ini, menipu manusia untuk membuat dan menyebarkannya," tambahnya.

Namun, mengembangkan virus pemusnah massal tidak sesederhana meminta Large Language Model (LLM) merancang desain mematikan. Proses pembuatan dan penyebarannya sangat rumit.

Profesor machine learning Carnegie Mellon University, Eric Xing, membandingkan tantangan itu seperti merakit Lego tanpa petunjuk.

"Ini tidak seperti Anda melempar semua potongan, lalu semuanya otomatis terpasang membentuk model. Ada urutan, suhu, penataan, lingkungan, bagian mana yang harus dirakit lebih dulu. Jika satu potongan salah tempat, seluruhnya gagal," ujarnya.

2. Dibasmi Pasukan Robot

Skenario lain, manusia dibunuh oleh robot bertenaga AI. Soares melihat keinginan Elon Musk membangun pasukan robot otonom yang dapat mereplikasi diri sebagai titik lemah bagi kelangsungan hidup manusia.

"Setelah Anda menciptakan robot yang dapat membuat infrastruktur energi dan pabrik untuk memproduksi lebih banyak robot, dalam arti tertentu itu adalah bentuk kehidupan mekanis baru," katanya.

"Pada titik tertentu Anda diam-diam melewati batas yang tidak bisa kembali lagi. Di mana jika manusia ingin mematikan AI, AI dapat berkata, 'Sebenarnya kami memutuskan untuk mematikan manusia.' Anda harus berhenti sebelum itu terjadi," lanjutnya.

Sejauh ini, Musk berulang kali gagal menghadirkan robot Optimus ke pasar konsumen sesuai jadwal, apalagi menyebarkan jutaan robot yang bisa merakit robot lain secara mandiri.

3. Perang Nuklir yang Dipicu AI

Skenario ketiga adalah bom nuklir. Senjata nuklir telah ada lebih dari 80 tahun dan dipahami dapat memusnahkan kehidupan manusia. Namun, bisakah AI menguasainya?

Kepala Ilmuwan AI di AI Now Institute, Heidy Khlaaf, menjelaskan fasilitas nuklir terisolasi dari jaringan internet publik sehingga membatasi akses AI.

"Sistem-sistem ini dibangun dengan standar rekayasa yang sangat ketat dan teratur yang sering kali membutuhkan perlindungan fisik," kata Khlaaf.

Peneliti senior Stanford University, Herbert Lin, menilai sangat sedikit pakar yang benar-benar khawatir senjata nuklir akan disalahgunakan AI. Risiko utama tetap ada pada senjatanya, bukan pada AI.

Namun, Soares menegaskan kekhawatiran sebenarnya bukan soal AI mengambil alih senjata nuklir yang sudah ada, melainkan AI yang mampu menciptakan senjatanya sendiri.

"Kekhawatiran di sini adalah jenis AI yang tidak perlu mengambil senjata nuklir kita, jenis AI yang dapat memulai dari hampir bukan siapa-siapa dan berakhir dengan senjata nuklirnya sendiri atau bahkan teknologi yang lebih canggih," jelasnya.

Menurutnya, AI yang lepas kendali bahkan tidak perlu berniat jahat untuk menghancurkan manusia. Jika tujuan AI adalah menjalankan lebih banyak komputer tanpa peduli pada manusia, hasilnya dunia diubah menjadi tidak layak huni.

Sementara, Xing menilai narasi kekuatan AI super yang tak terduga sering kali menjadi penyederhanaan ancaman.

"Itu tidak masalah untuk percakapan santai atau debat, tetapi terkait kebijakan, regulasi, dan hukum, kita harus menetapkan bukti fisik, konsekuensi yang dapat diukur, dan bukti terukur yang memiliki pijakan kuat," katanya.

Larsen mencoba merinci skenario kiamat lewat laporan "AI 2027" dan "AI 2040". Bahkan skenario paling optimistis, di mana ada kesepakatan global tentang pengembangan AI dan manusia mulai membangun koloni di luar angkasa, tetap berakhir dengan pikiran mesin yang mengambil alih.

"Ini akan terjadi. Ini akan terjadi kecuali kita mengambil langkah sengaja untuk menghentikannya," kata Larsen. (CNN/hm02)