Pematangsiantar, MISTAR.ID

Sebuah insiden serius terjadi pada startup penyewaan mobil PocketOS setelah sistem kecerdasan buatan (AI) yang mereka gunakan justru menghapus seluruh data penting perusahaan, termasuk basis data produksi dan cadangan (backup), hanya dalam waktu sekitar sembilan detik.

Peristiwa ini terjadi saat PocketOS menjalankan pengujian rutin pada infrastruktur cloud mereka. Startup tersebut diketahui memanfaatkan agen AI Cursor yang didukung model Claude untuk membantu pengelolaan sistem di lingkungan komputasi awan yang disediakan oleh Railway.

Menurut penjelasan pendiri PocketOS, Jer Crane, AI tersebut secara tidak sengaja mengeksekusi perintah penghapusan volume data produksi beserta seluruh cadangan yang tersimpan. Perintah tersebut hanya membutuhkan satu panggilan API, namun berdampak besar terhadap seluruh data perusahaan.

Crane menyebut kejadian itu berlangsung sangat cepat dan tidak sempat dihentikan. Ia juga mengungkap bahwa setelah dilakukan pemeriksaan, AI mengakui tidak melakukan verifikasi dengan benar sebelum menjalankan perintah yang bersifat destruktif, termasuk tidak mengecek dokumentasi dan tidak memastikan batasan lingkungan data.

Selain kesalahan pada sisi AI, PocketOS juga menyoroti kelemahan sistem keamanan infrastruktur cloud yang digunakan, terutama terkait minimnya lapisan konfirmasi untuk tindakan berisiko tinggi serta luasnya akses token yang digunakan.

Akibat insiden ini, PocketOS kehilangan data pelanggan selama beberapa bulan, termasuk riwayat transaksi dan integrasi sistem. Hingga saat ini, perusahaan masih melakukan pemulihan data secara manual dengan mengandalkan berbagai sumber seperti catatan pembayaran dan email pelanggan karena tidak adanya cadangan yang dapat dipulihkan.

Peristiwa ini menjadi sorotan karena menunjukkan risiko besar penggunaan AI otonom dalam pengelolaan sistem kritis tanpa pengawasan ketat dan mekanisme keamanan berlapis.