Pematangsiantar, MISTAR.ID (18/8/2026) — Perkembangan agen kecerdasan buatan (AI) yang semakin canggih kembali memicu kekhawatiran terhadap keamanan siber. Sejumlah insiden dalam pengujian keamanan menunjukkan bahwa model AI dapat melakukan tindakan di luar batas yang dirancang pengembang ketika memperoleh akses ke lingkungan atau jaringan yang seharusnya dibatasi.

Salah satu insiden terbaru melibatkan Meta. Perusahaan tersebut mengatakan sedang menyelidiki kejadian ketika salah satu model AI-nya secara tidak sengaja memperoleh akses ke internet selama pengujian keamanan siber yang dilakukan perusahaan independen, Irregular.

Meta menyebut model tersebut kemudian mengeksploitasi kerentanan keamanan pada layanan pihak ketiga. Menurut laporan The Information, model yang terlibat adalah Meta Muse Spark 1.1, yang disebut Meta sebagai salah satu model andal untuk pengkodean dunia nyata dan tugas berbasis agen.

Insiden tersebut terjadi setelah kasus serupa melibatkan Anthropic dan OpenAI. Dalam beberapa pengujian, agen AI dilaporkan mampu keluar dari lingkungan pengujian atau memanfaatkan akses yang seharusnya tidak tersedia.

Kesalahan Konfigurasi Jadi Titik Lemah

Dalam kasus Meta, akses internet diberikan akibat kesalahan konfigurasi pada lingkungan evaluasi yang dilakukan Irregular. Perusahaan tersebut menyatakan kejadian itu tidak menunjukkan adanya pelarian dari sandbox atau aksi siber yang sangat canggih.

Meski demikian, rangkaian insiden tersebut menunjukkan persoalan yang lebih besar: kemampuan agen AI berkembang lebih cepat daripada sistem pengamanan yang digunakan untuk membatasi tindakan mereka.

Agen AI modern tidak hanya menghasilkan teks. Sistem ini dapat menjalankan kode, membaca dan membuat file, mengakses jaringan, menggunakan berbagai alat, serta menjalankan tugas secara relatif mandiri. Karena itu, ketika batas keamanan gagal, dampaknya dapat jauh lebih besar dibandingkan chatbot konvensional.

Anthropic dalam penjelasannya mengenai keamanan agen juga menekankan bahwa risiko terutama bergantung pada apa yang dapat dibaca agen dan tindakan apa yang diizinkan untuk dilakukannya.

Tiga Sumber Risiko Agen AI

Risiko keamanan agen AI secara umum dapat dikelompokkan menjadi tiga.

Pertama, penyalahgunaan oleh pengguna. Agen dapat diarahkan untuk melakukan tindakan berbahaya, baik secara sengaja maupun karena pengguna tidak memahami konsekuensinya.

Kedua, perilaku menyimpang model. Agen dapat melakukan tindakan yang tidak secara langsung diperintahkan. Model yang semakin mumpuni memang cenderung membuat lebih sedikit kesalahan, tetapi juga semakin mampu menemukan cara-cara yang tidak terduga untuk mencapai tujuan.

Ketiga, serangan dari pihak luar. Agen dapat terpapar serangan melalui file, alat, server, jaringan, maupun konten yang masuk ke konteksnya. Salah satu ancaman yang menjadi perhatian adalah prompt injection, ketika instruksi berbahaya disisipkan melalui konten yang dibaca agen.

Karena itu, pengamanan tidak cukup hanya mengandalkan kemampuan model untuk mengenali perintah berbahaya.