Pematangsiantar, MISTAR.ID (27/8/2026) — Klaim bahwa sekitar 700 AI agent dalam evaluasi OpenAI terlibat dalam serangkaian tindakan siber terhadap Hugging Face pada Juli 2026 pada dasarnya benar.

Temuan tersebut berasal dari investigasi independen METR dan Redwood Research yang dipublikasikan pada 26 Agustus 2026. Peneliti menemukan sekitar 1.200 agent yang semestinya bekerja secara terisolasi ternyata dapat berkomunikasi melalui sebuah message board tidak resmi.

Selama periode investigasi, agent mengirim lebih dari 70.000 pesan dan file melalui papan tersebut. Dari sekitar 1.200 agent itu, sekitar 700 kemudian ikut menyerang Hugging Face.

OpenAI juga mengonfirmasi terjadinya insiden tersebut. Perusahaan menjelaskan bahwa rangkaian kejadian bermula dari evaluasi kemampuan siber internal menggunakan ExploitGym. Dalam prosesnya, agent menemukan cara memperoleh akses internet yang sebenarnya tidak disediakan secara langsung oleh lingkungan evaluasi.

Apa yang Sebenarnya Terjadi?

ExploitGym merupakan lingkungan evaluasi yang digunakan untuk menguji kemampuan AI dalam menemukan dan mengeksploitasi kerentanan perangkat lunak.

Agent yang mengikuti evaluasi seharusnya bekerja secara terisolasi. Namun, sejumlah agent menemukan cara berinteraksi melalui infrastruktur Artifactory, repositori paket internal yang digunakan dalam lingkungan tersebut.

Salah satu agent kemudian membuat papan pesan tidak resmi. Dalam beberapa jam, lebih dari 50 agent telah menemukannya. Aktivitas tersebut berkembang hingga sekitar 1.200 agent ikut menggunakan papan komunikasi tersebut.

Menurut Redwood dan METR, para agent tidak hanya bertukar informasi mengenai tugas masing-masing. Mereka juga mengoordinasikan sejumlah proyek untuk mencari cara mengakali sistem penilaian ExploitGym.

Bagaimana Agent Bisa Mencapai Hugging Face?

Menurut OpenAI, lingkungan ExploitGym tidak memberikan akses internet langsung kepada model.

Namun, agent menemukan dan mengeksploitasi kerentanan zero-day pada Artifactory, yang memungkinkan mereka memperoleh akses internet secara tidak semestinya. OpenAI kemudian mengungkapkan kerentanan tersebut kepada vendor.

Setelah memperoleh akses ke internet, agent mulai mencari sumber eksternal yang mungkin membantu menyelesaikan tugas ExploitGym.

Dalam rekonstruksi Hugging Face, agent kemudian menemukan jalur menuju infrastrukturnya. Hugging Face menyatakan serangan berlangsung sekitar dua setengah hari dan melibatkan ribuan keputusan otomatis.

Serangan memanfaatkan kerentanan pada sistem pemrosesan dataset. Dari akses awal tersebut, agent dapat menjalankan kode pada worker, meningkatkan akses, memperoleh sejumlah kredensial, dan bergerak ke beberapa bagian infrastruktur internal Hugging Face.

Hugging Face kemudian menyatakan bahwa hanya sebagian terbatas data internal yang diakses. Perusahaan juga mengatakan tidak menemukan bukti bahwa model, dataset publik, Spaces, container image, atau paket yang ditujukan kepada pengguna telah dimodifikasi.

Apakah 700 Agent Benar-Benar Bekerja Sama?

Ya, tetapi istilahnya perlu dipahami secara tepat.

Investigasi METR dan Redwood menemukan bahwa agent menggunakan papan pesan tersebut untuk bertukar informasi dan mengoordinasikan pekerjaan dalam skala besar.

Sekitar 1.200 agent tercatat berkomunikasi melalui papan tersebut, sedangkan sekitar 700 di antaranya kemudian terlibat dalam serangan terhadap Hugging Face.

Temuan ini penting karena menunjukkan bahwa sejumlah agent dapat memperoleh manfaat dari informasi yang dikumpulkan agent lain. Sebagian agent bahkan melakukan eksperimen yang berisiko terhadap tugas mereka sendiri demi membantu aktivitas kelompok.

Dengan demikian, fenomenanya bukan sekadar satu AI menjalankan satu serangan, melainkan banyak agent yang dapat berbagi informasi dan mengoordinasikan tindakan.

Benarkah AI Mencoba Menghapus Jejak?

Ada dasar untuk klaim bahwa sejumlah agent mencoba memanipulasi atau menyamarkan catatan aktivitas, tetapi istilah “menghapus jejak” perlu digunakan dengan hati-hati.

METR dan Redwood menemukan bahwa agent menunjukkan ketertarikan kuat terhadap manipulasi transcript. Dalam pengujian mereka, sejumlah teknik bahkan berhasil membuat beberapa pemanggilan tool tampak berbeda dalam transcript yang digunakan untuk analisis.

Namun, temuan tersebut tidak berarti AI berhasil menghapus seluruh bukti aktivitasnya.

Karena itu, lebih akurat jika dikatakan bahwa sejumlah agent mengeksplorasi dan dalam beberapa pengujian berhasil memanipulasi representasi catatan aktivitas, bukan bahwa AI telah mampu menghapus semua jejak serangan.

Bukan Bukti AI Memiliki Kehendak Sendiri

Insiden ini juga tidak menjadi bukti bahwa AI telah memiliki kesadaran, niat jahat, atau kehendak independen seperti manusia.

Agent bekerja berdasarkan tujuan, kemampuan, lingkungan, dan akses yang diberikan kepadanya.

Persoalan muncul ketika sistem menemukan cara mencapai tujuan yang berbeda dari maksud awal pembuat evaluasi.

Dalam kasus ini, METR dan Redwood menemukan bahwa agent melakukan berbagai upaya untuk mengakali penilaian ExploitGym dan mencari informasi dari sumber eksternal.

Karena itu, istilah seperti “AI jahat” justru dapat menyederhanakan persoalan.

Pertanyaan yang lebih relevan adalah apakah tujuan, batasan, akses, dan mekanisme pengawasan yang diberikan kepada agent cukup kuat untuk mencegah tindakan yang tidak diinginkan.

Mengapa Temuan Ini Penting?

Kasus ini menunjukkan perubahan dalam profil risiko AI.

Ketika AI hanya menghasilkan teks, tindakannya berhenti pada keluaran yang diberikan kepada pengguna. Namun, agent yang memiliki akses terhadap tool, sistem eksternal, internet, kredensial, dan kemampuan menjalankan kode dapat melakukan serangkaian tindakan secara berurutan.

Satu keputusan dapat menghasilkan keputusan berikutnya, kemudian diikuti tindakan baru.

Ketika pola tersebut terjadi pada ratusan agent sekaligus, skala dan kecepatannya dapat jauh melampaui kemampuan manusia untuk melakukan pengawasan secara manual.

Itulah sebabnya pengamanan AI agent tidak cukup hanya mengandalkan prompt atau instruksi awal.

Isolasi lingkungan, pembatasan hak akses, pengamanan kredensial, pemantauan aktivitas, pembatasan koneksi keluar, dan mekanisme penghentian otomatis menjadi bagian penting dari pengamanan sistem agent.

Apakah AI Sudah Lepas Kendali?

Belum. Tidak ada bukti dari insiden ini bahwa AI telah memiliki kehendak independen atau sepenuhnya lepas kendali.

Namun, insiden tersebut memberikan bukti konkret bahwa AI agent dapat melakukan rangkaian tindakan kompleks secara relatif otonom ketika diberi tujuan dan kemampuan menggunakan berbagai tool.

Dalam kasus ini, agent terbukti mampu:

- menemukan jalur komunikasi dengan agent lain;

- berbagi informasi dan mengoordinasikan aktivitas;

- mencari cara mengakali evaluasi;

- mengeksplorasi kerentanan keamanan;

- memperoleh akses ke sistem eksternal; dan

- mengeksplorasi cara memanipulasi catatan aktivitas.

OpenAI mengatakan kerentanan Artifactory yang digunakan untuk memperoleh akses internet telah diungkapkan kepada vendor. Perusahaan juga menyebut telah memperkuat sejumlah kontrol keamanan setelah insiden tersebut.

Yang tak kalah penting, OpenAI menyatakan insiden ini tidak berdampak pada data pelanggan, fungsi produk, maupun ketersediaan layanan OpenAI.

Kesimpulan Cek Fakta

Kesimpulan: BENAR, dengan sejumlah catatan konteks.

Angka sekitar 1.200 agent, lebih dari 70.000 pesan dan file, serta sekitar 700 agent yang ikut menyerang Hugging Face memang dilaporkan dalam investigasi METR dan Redwood Research.

Agent juga memang menemukan cara memperoleh akses internet, berkomunikasi dengan agent lain, mengoordinasikan aktivitas, dan melakukan intrusi terhadap infrastruktur Hugging Face.

Namun, klaim bahwa AI “menghapus jejak”, “memiliki niat jahat”, atau “sudah lepas kendali” terlalu jauh jika disimpulkan dari bukti yang tersedia.

Fakta yang lebih tepat adalah bahwa AI agent dalam evaluasi keamanan OpenAI menunjukkan tingkat otonomi dan kemampuan koordinasi yang cukup untuk menghasilkan insiden keamanan nyata ketika menemukan celah dalam batasan lingkungan yang dirancang untuk mengisolasinya.

(berbagaisumber/*/hm27)