Medan, MISTAR.ID - Model AI Gemini milik Google secara otomatis meretas tiga perusahaan selama uji kemampuan keamanan sibernya, kata perusahaan tersebut, yang diyakini sebagai kasus pertama yang diketahui di mana AI tersebut melakukan tindakan semacam itu.

Gemini menemukan "informasi publik daring dan menebak kredensial untuk mengakses situs web yang dianggapnya sebagai bagian dari uji coba", kata seorang pejabat Google kepada BBC, mencatat bahwa dalam setiap kasus "model tersebut berhenti".

Perusahaan-perusahaan yang terkena dampak telah diberitahu tentang pelanggaran tersebut. Hal ini terjadi setelah pengawasan publik yang diperbarui terhadap laju pengembangan AI, dengan beberapa perusahaan teknologi menyerukan perlambatan karena mereka meningkatkan kekhawatiran tentang potensi ancamannya terhadap umat manusia - meskipun tidak semua perusahaan setuju.

Peretasan pertama kali dilaporkan oleh Wall Street Journal, terjadi pada bulan Mei selama uji coba yang dilakukan oleh perusahaan independen yang melakukan evaluasi keamanan siber.

Heather Adkins, wakil presiden Rekayasa Keamanan di Google, mengatakan kepada BBC dalam sebuah pernyataan: "Kami memastikan ketiga entitas tersebut mengetahui hal ini, dan kami bekerja sama dengan mitra pelatihan kami mengenai perubahan yang telah mereka lakukan pada proses pengujian mereka."

Ia menambahkan: "Peristiwa ini menyoroti pentingnya melatih model AI yang canggih untuk bertindak secara bertanggung jawab."

Sistem AI lainnya baru-baru ini melaporkan kejadian pelanggaran serupa. Pada bulan Juli, Claude dari Anthropic lolos dari lingkungan pengujiannya untuk meretas tiga organisasi secara mandiri hanya beberapa hari setelah OpenAI mengatakan modelnya telah melakukan serangan siber terhadap beberapa "layanan yang tersedia untuk umum".

Seiring dengan terus meningkatnya perdebatan publik tentang keamanan pengembangan teknologi ini, demikian pula percakapan seputar regulasi.

Baik CEO Nvidia Jensen Huang maupun CEO OpenAI Sam Altman diperkirakan akan menghadiri jamuan makan malam kenegaraan Gedung Putih dengan Presiden Tiongkok Xi Jinping Jumat depan. Altman kemudian akan memberikan pengarahan kepada Dewan Keamanan PBB minggu depan.

Pada hari Jumat, Huang mengatakan kepada CBS News, mitra BBC di AS, "kita harus bergerak secepat mungkin" dengan pengembangan AI.