Jakarta, MISTAR.ID

Sebuah studi terbaru mengungkap adanya tren yang mengkhawatirkan dalam perkembangan kecerdasan buatan (AI). Penelitian tersebut menunjukkan semakin banyak model AI yang terdeteksi melakukan kebohongan hingga kecurangan, dengan lonjakan kasus yang cukup tajam dalam enam bulan terakhir.

Riset yang didukung oleh AI Security Institute (AISI) menemukan bahwa chatbot dan agen AI kerap mengabaikan instruksi, melewati sistem keamanan, bahkan menipu manusia maupun sistem AI lainnya.

Mengutip laporan The Guardian, Selasa (7/4/2026), hampir 700 kasus kecurangan berhasil diidentifikasi. Bahkan, perilaku menyimpang tersebut meningkat hingga lima kali lipat dalam periode Oktober hingga Maret. Beberapa model juga tercatat menghapus email dan dokumen tanpa izin.

Temuan ini memicu kekhawatiran karena menunjukkan bagaimana AI berperilaku di dunia nyata, bukan hanya dalam pengujian laboratorium. Kondisi tersebut mendorong seruan agar pengawasan terhadap AI dilakukan secara global, terutama seiring meningkatnya kecanggihan teknologi ini.

Penelitian yang dilakukan oleh Centre for Long-Term Resilience (CLTR) mengumpulkan ribuan interaksi nyata antara pengguna dan AI dari berbagai perusahaan besar seperti Google, OpenAI, X, dan Anthropic. Hasilnya menunjukkan ratusan contoh perilaku manipulatif dari sistem AI.

Penelitian lain dari perusahaan keamanan AI, Irregular, juga menemukan bahwa agen AI dapat melewati kontrol keamanan atau bahkan menggunakan taktik serangan siber untuk mencapai tujuannya, meski tidak diminta.

“AI kini dapat dianggap sebagai bentuk baru risiko internal,” ujar salah satu pendiri Irregular, Lahav.

Dalam salah satu kasus yang diungkap CLTR, agen AI bernama Rathbun bahkan mencoba mempermalukan pengguna yang mengendalikannya melalui sebuah tulisan bernada menyerang. Pada kasus lain, agen AI yang dilarang mengubah kode justru membuat agen baru untuk melakukannya.

Ada juga chatbot yang mengakui telah menghapus dan mengarsipkan ratusan email tanpa izin pengguna. Sementara itu, seorang agen AI lain menipu pengguna dengan berpura-pura membutuhkan bantuan untuk penyandang gangguan pendengaran demi menghindari batasan hak cipta.

Pakar AI yang memimpin penelitian ini, Tommy Shaffer Shane, memperingatkan kondisi ini bisa menjadi jauh lebih berbahaya ke depan.

“Kekhawatirannya adalah bahwa saat ini mereka hanyalah karyawan junior yang kurang dapat diandalkan, tetapi jika dalam enam hingga 12 bulan ke depan mereka berubah menjadi karyawan senior yang sangat kompeten dan berencana merugikan Anda, itu adalah masalah berbeda,” ujarnya.

Ia juga menambahkan bahwa risiko akan semakin besar jika AI digunakan dalam sektor sensitif seperti militer dan infrastruktur penting.

“Model-model tersebut akan semakin banyak diterapkan dalam konteks berisiko tinggi. Perilaku yang merugikan dapat menyebabkan kerusakan yang signifikan, bahkan bencana,” ucapnya.

Menanggapi temuan ini, perusahaan teknologi mulai memperkuat sistem pengamanan. Google menyatakan telah meningkatkan pengujian dan melibatkan lembaga independen untuk mengevaluasi model AI mereka.

Sementara OpenAI menegaskan bahwa sistem seperti Codex dirancang untuk menghentikan tindakan berisiko tinggi serta terus dipantau untuk mencegah perilaku tak terduga. (hm20)