Google mengumumkan keberhasilan mereka dalam mendeteksi dan menggagalkan sebuah eksploitasi zero-day. Eksploitasi berbahaya tersebut dikembangkan oleh peretas dengan memanfaatkan bantuan teknologi kecerdasan buatan (AI).
Berdasarkan laporan terbaru dari Google Threat Intelligence Group (GTIG), dikutip dari Detik iNET, eksploitasi ini sedianya bakal dipakai kelompok penjahat siber terkemuka. Mereka berencana meluncurkan serangan digital secara massal.
Operasi siber tersebut menyasar sistem autentikasi dua faktor (2FA) pada alat administrasi sistem berbasis web open-source. Namun, identitas dari alat administrasi tersebut tidak dipublikasikan ke publik.
Tim peneliti dari Google mendeteksi sejumlah kejanggalan pada skrip pemrograman Python milik pelaku. Jejak digital yang ditemukan mengindikasikan secara kuat adanya keterlibatan AI dalam proses penyusunan kode.
Bukti-bukti itu mencakup penulisan skor CVSS yang mengalami halusinasi informasi. Selain itu, format penulisan kode terlihat terlalu rapi dan terstruktur, yang menjadi ciri khas dari keluaran data pelatihan Large Language Model (LLM).
Sistem eksploitasi ini dirancang demi mengakali kelemahan logika semantik tingkat tinggi. Pengembang tool open-source tersebut tanpa sengaja menanamkan asumsi kepercayaan yang di-hardcode ke dalam sistem 2FA mereka.
Kendati mengonfirmasi peran AI dalam peretasan ini, para peneliti memberikan catatan penting. Mereka menegaskan tidak menemukan bukti bahwa model AI Gemini milik Google digunakan oleh para peretas.
Metode Baru Persona-Driven Jailbreaking
Laporan dari GTIG juga memaparkan keahlian baru para penjahat siber dalam memanipulasi sistem AI demi mencari celah keamanan. Salah satu teknik yang kini marak digunakan adalah taktik persona-driven jailbreaking.
Melalui metode ini, peretas memasukkan perintah atau prompt khusus yang memaksa AI. Sistem AI dimanipulasi agar berpura-pura menjadi seorang pakar keamanan siber tingkat tinggi.
Para penjahat siber dilaporkan mulai memasukkan seluruh repositori data kerentanan keamanan secara utuh ke model AI. Mereka memanfaatkan alat bantu seperti OpenClaw di dalam lingkungan simulasi yang terkontrol.
Langkah simulasi tersebut bertujuan menyempurnakan muatan siber buatan AI. Dengan demikian, serangan yang dihasilkan menjadi jauh lebih jitu sebelum benar-benar diluncurkan ke target nyata.
Ekosistem AI Mulai Menjadi Target Serangan
Temuan terbaru Google ini memberikan jawaban atas kekhawatiran industri teknologi dalam beberapa pekan terakhir. Khususnya mengenai ancaman dari model AI yang difokuskan pada pertahanan siber, seperti AI Mythos dari Anthropic.
Sebelumnya, sebuah celah keamanan pada sistem operasi Linux juga berhasil diidentifikasi dengan bantuan AI. Menariknya, tren ancaman siber saat ini terpantau bergerak ke dua arah yang berbeda.
Teknologi AI tidak hanya dijadikan senjata untuk mencari kelemahan sistem target. Ekosistem dan infrastruktur AI itu sendiri kini mulai menjadi sasaran empuk bagi para peretas.
"GTIG mengamati bahwa musuh makin sering menargetkan komponen terintegrated yang memberikan kegunaan pada sistem AI, seperti keterampilan otonom dan konektor data pihak ketiga," tutup laporan Google tersebut.
