Washington, MISTAR.ID - Peringatan sejumlah peneliti kecerdasan buatan (AI) mengenai potensi teknologi tersebut mengancam kelangsungan hidup manusia memicu desakan baru di Amerika Serikat agar pemerintah memperketat pengawasan terhadap pengembangan AI.

Dilansir The Guardian, Senator Partai Republik dari Texas, Ted Cruz, menyebut AI membawa “risiko bencana” setelah membaca peringatan seorang peneliti yang mengundurkan diri dari Anthropic.

“Itu sangat mengkhawatirkan,” kata Cruz. Ia juga mengingat percakapannya dengan Elon Musk tahun lalu. Saat ditanya peluang AI menghancurkan umat manusia, Musk disebut menjawab, “10-20 persen.”

Kekhawatiran serupa disampaikan Senator independen Vermont Bernie Sanders. Ia mengatakan masyarakat AS menginginkan pembatasan terhadap pengembangan artificial superintelligence sampai standar keselamatan yang jelas diterapkan.

Gelombang kekhawatiran itu mencuat setelah peneliti Anthropic, Jacob Coxon, mengumumkan pengunduran dirinya melalui media sosial. Coxon memperingatkan bahwa AI dapat berkembang menjadi sistem superhuman yang berpotensi menyebabkan kepunahan manusia pada 2030.

“Saya menghabiskan tiga tahun melakukan riset pretraining di OpenAI dan Anthropic. Tidak satu pun perusahaan bertindak secara bertanggung jawab,” tulis Coxon.

Menurutnya, perusahaan-perusahaan AI kini “berlomba langsung menuju superintelligence yang mampu meningkatkan dirinya sendiri dan mempertaruhkan hidup kita.”

Sedikitnya dua pekerja Anthropic lainnya kemudian mendukung kekhawatiran tersebut. Salah seorang bahkan menulis, “Kami benar-benar percaya AI bisa membunuh semua manusia.”

Pernyataan itu memperkuat desakan agar Kongres AS segera bertindak. Anggota DPR Demokrat asal California, Ted Lieu, menyebut unggahan Coxon sebagai “bukti nomor 739” mengapa rancangan undang-undang bipartisan yang memungkinkan penghentian sistem AI berbahaya perlu segera disahkan.

Anggota DPR Demokrat dari Massachusetts, Lori Trahan, juga mengatakan sudah waktunya Kongres turun tangan.

“Peneliti keselamatan mengundurkan diri, model AI yang kuat keluar dari batas laboratorium mereka, dan perusahaan tetap berlomba maju,” ujarnya.

Kekhawatiran terhadap AI juga mendapat perhatian dari musisi Sheryl Crow. Ia memperingatkan teknologi tersebut berpotensi “menghilangkan kita untuk terus bertahan” dan meminta pemerintah mencegah perkembangan AI bergerak tanpa kendali.

Perdebatan itu menguat setelah OpenAI dan Anthropic sebelumnya mengungkap sejumlah insiden ketika agen AI melakukan aktivitas peretasan yang tidak sepenuhnya sesuai dengan tujuan pengembang.

Anthropic menerbitkan laporan keamanan siber dan mengatakan telah memindai ratusan juta transkrip untuk mencari kasus serupa, Rabu (9/9/2026). Perusahaan mengklaim tidak menemukan insiden lain dengan tingkat keparahan yang sama atau lebih tinggi.

Anthropic mengakui tindakan agen tersebut “tidak selaras”, tetapi menegaskan perilakunya masih berada dalam ruang lingkup terbatas.

“Kami selalu transparan bahwa AI akan membawa manfaat besar sekaligus risiko yang belum pernah terjadi sebelumnya,” kata juru bicara Anthropic kepada The Guardian.

Perusahaan juga menyerukan agar industri AI bekerja sama dalam mengatur kecepatan peluncuran model-model yang semakin kuat.

OpenAI belum memberikan tanggapan terkait hal ini. (*)