Sistem kecerdasan buatan atau AI milik Meta menghapus ribuan akun Instagram sah milik pengguna di seluruh dunia tanpa peringatan akibat krisis moderasi konten yang agresif. Kebijakan ini terjadi setelah perusahaan memangkas biaya operasional dengan mengganti sebagian besar moderator manusia menggunakan algoritma otomatis.
Langkah efisiensi tersebut memicu kegagalan sistemik yang berdampak langsung pada pengguna biasa. Banyak pemilik akun mengalami penangguhan permanen secara tiba-tiba karena aktivitas normal dinilai sebagai tindakan tidak autentik oleh sistem otomatis.
Pihak keamanan teknologi melaporkan bahwa algoritma ini mendeteksi tindakan sepele seperti masuk log dari perangkat baru atau membalas terlalu banyak komentar sebagai pelanggaran. Situasi ini diperparah oleh ketiadaan layanan bantuan pelanggan dari manusia untuk memproses peninjauan kembali.
Para pengguna kini terjebak dalam siklus penolakan otomatis yang dilakukan oleh sistem yang sama saat menjatuhkan hukuman. Akibat ketidakstabilan platform ini, para pakar keamanan siber mendesak pemilik akun untuk segera mencadangkan dan mengunduh seluruh data digital mereka melalui fitur bawaan di pengaturan Instagram.
Satu-satunya kutipan langsung dalam laporan WIONews memaparkan alasan pembatasan akses yang keliru oleh kecerdasan buatan tersebut.
"inauthentic behaviour" tuduh sistem Meta terhadap aktivitas pengguna biasa yang memicu penyaringan algoritma yang cacat.
Penetapan sanksi otomatis tanpa opsi pemulihan yang jelas ini berisiko melenyapkan rekam jejak digital serta portofolio bisnis pengguna. Hingga saat ini, Meta masih memprioritaskan pemotongan anggaran berbasis kecerdasan buatan dibandingkan dengan jaminan keamanan digital bagi para pengguna layanannya.
