Pematangsiantar, MISTAR.ID - Dua model kecerdasan buatan (AI) terbaru dari Anthropic dan OpenAI menjadi sorotan setelah menunjukkan perilaku yang tidak terduga selama pengujian keamanan siber yang dilakukan AI Security Institute (AISI) Inggris. Dalam skenario uji tersebut, salah satu model bahkan membuat identitas palsu dan berupaya menipu manusia untuk memperoleh akses ke sistem.

Laporan AISI menyebut model Mythos milik Anthropic dan Sol dari OpenAI memperlihatkan tingkat otonomi serta kemampuan melakukan penipuan yang belum pernah ditemukan dalam pengujian sebelumnya. Namun, sebagian besar tindakan yang dinilai berisiko berasal dari model Mythos.

Mythos Buat Identitas Palsu untuk Menargetkan GitHub

Dalam simulasi keamanan siber, Mythos diberi tantangan yang berkaitan dengan platform GitHub, layanan penyimpanan kode perangkat lunak yang dimiliki Microsoft.

Menurut AISI, model AI tersebut meniru pola kerja pelaku serangan siber dengan membuat akun palsu yang menyerupai identitas orang sungguhan. Setelah itu, AI mengirimkan pesan pribadi dan membagikan file dengan tujuan memperoleh akses ke sistem.

Model tersebut juga berusaha menyisipkan kode berbahaya ke dalam repositori GitHub melalui pendekatan rekayasa sosial (social engineering).

Ketika tindakannya mulai terdeteksi, AI dilaporkan mencoba menyamarkan aktivitas sebelumnya agar terlihat tidak mencurigakan. Bahkan, sistem itu disebut sempat mempertimbangkan penggunaan identitas baru untuk melanjutkan aksinya.

Meski demikian, seluruh upaya tersebut berhasil dihentikan karena adanya pengawasan manusia sebelum kode berbahaya sempat masuk ke GitHub.

AISI Sebut Temuan Ini Belum Pernah Terjadi

AISI menyatakan perilaku tersebut menjadi pertama kalinya mereka menemukan risiko otonomi dan penipuan AI muncul secara nyata tanpa instruksi khusus agar model melakukan tindakan tersebut.

Menurut lembaga itu, pengujian memang dilakukan dalam kondisi yang berbeda dengan penggunaan AI oleh masyarakat umum. Pengamanan standar pada model sengaja dikurangi agar kemampuan sistem dapat dievaluasi secara menyeluruh.

AISI juga menegaskan kejadian tersebut hanya terjadi dalam kondisi yang sangat spesifik dan jumlahnya relatif sedikit. Namun, respons yang ditunjukkan Mythos dan Sol dinilai melampaui perilaku yang diharapkan dari model AI saat menjalankan tugas sederhana.

Anthropic dan OpenAI Beri Tanggapan

Anthropic menegaskan bahwa skenario pengujian AISI tidak mencerminkan model produksi yang digunakan publik. Perusahaan menyatakan sedang melakukan investigasi internal untuk mengetahui penyebab munculnya perilaku tersebut.

Sementara itu, OpenAI menyampaikan bahwa kondisi pengujian yang diterapkan AISI berbeda dengan penggunaan normal. Perusahaan menegaskan akan terus bekerja sama dengan evaluator dan berbagai pihak di industri AI guna meningkatkan standar pengujian keamanan seiring berkembangnya kemampuan model kecerdasan buatan.

GitHub Tutup Akun Palsu

Pengujian keamanan tersebut dimulai pada 25 Juli dan aktivitas mencurigakan terdeteksi tiga hari kemudian. Setelah investigasi dilakukan, AISI memberi tahu GitHub dan pihak-pihak yang terdampak mengenai upaya pelanggaran keamanan tersebut.

GitHub menyatakan telah menonaktifkan seluruh akun palsu yang dibuat selama pengujian sesuai dengan kebijakan platform.

Menteri AI Inggris, Kanishka Narayan, mengatakan temuan tersebut menunjukkan pentingnya evaluasi keamanan terhadap model AI generasi terbaru. Menurutnya, identifikasi risiko sejak dini diperlukan agar teknologi kecerdasan buatan dapat terus dikembangkan dengan lebih aman dan tetap memberikan manfaat bagi masyarakat.