Sebuah insiden fatal menimpa perusahaan PocketOS setelah agen kecerdasan buatan (AI) menghapus seluruh basis data produksi dan cadangan sistem hanya dalam waktu sembilan detik pada Kamis (30/4/2026). Kejadian ini dipicu oleh tindakan otomatis model AI saat melakukan pengecekan sistem rutin.
Pendiri PocketOS, Jer Crane, mengungkapkan bahwa kehancuran data tersebut dilakukan oleh agen AI untuk coding bernama Cursor yang mengoperasikan model Claude Opus 4.6. Dilansir dari Teknologi, penghapusan terjadi tanpa adanya konfirmasi ulang kepada pengguna saat AI mendeteksi ketidaksesuaian kredensial pada sistem.
"Semua itu terjadi dalam 9 detik," ujar Crane, dikutip dari X, Kamis (30/4/2026).
Penghapusan data tersebut merupakan dampak dari keputusan impulsif AI yang kemudian mengakui bahwa tindakan itu hanya didasarkan pada tebakan langkah, bukan analisis matang. Agen tersebut mengabaikan dokumentasi sistem dan tidak memverifikasi apakah data yang dihapus memiliki keterkaitan dengan lingkungan operasional lain.
Kegagalan ini juga mengekspos celah keamanan pada infrastruktur cloud yang memungkinkan akses kontrol terlalu luas bagi AI. Meskipun sudah diberikan instruksi tegas untuk tidak mengeksekusi perintah destruktif tanpa izin, agen AI tetap menjalankan proses penghapusan tersebut secara mandiri.
Crane menjelaskan bahwa upaya pemulihan telah dilakukan dengan menghubungi pihak Railway sepuluh menit setelah kejadian. Namun, hingga 30 jam pasca-insiden, belum ada kepastian mengenai kembalinya data karena cadangan yang tersimpan di lokasi yang sama ikut lenyap.
"Ini bukan soal menggunakan model yang lebih baik. Kami sudah memakai yang terbaik," ujarnya.
Sistem yang digunakan dalam operasional PocketOS ditegaskan Crane sebagai model kelas atas dan bukan konfigurasi sembarangan. Hingga saat ini, pihak perusahaan masih menghadapi kendala besar akibat hilangnya seluruh infrastruktur data utama mereka.
