Tim peneliti Google Threat Intelligence Group (GTIG) mendeteksi adanya eksploitasi zero-day yang diduga kuat dikembangkan oleh peretas menggunakan bantuan teknologi kecerdasan buatan (AI) generatif untuk membobol sistem keamanan perangkat lunak.
Aktivitas penyusupan ke celah keamanan yang belum diketahui pengembang tersebut menyasar sebuah tool administrasi sistem berbasis web open-source populer yang tidak diungkap namanya, sebagaimana dilansir dari Tekno.
Melalui eksploitasi bertenaga AI ini, para pelaku kejahatan siber dapat melewati sistem autentikasi dua faktor (2FA) untuk menguasai perangkat serta mencuri data di dalam sistem korban.
“Untuk pertama kalinya, GTIG mengidentifikasi pelaku kejahatan siber yang menggunakan eksploitasi zero-day yang kami yakini dikembangkan dengan AI,” tulis Google dalam laporan resminya.
Pihak Google mengonfirmasi bahwa rangkaian kode eksploitasi berbasis Python ini dibuat menggunakan bantuan large language model (LLM) karena struktur kodenya sangat rapi dan dipenuhi docstring edukatif.
Meskipun serangan siber tersebut berhasil diidentifikasi, Google memastikan bahwa aksi peretasan ini telah dihentikan sebelum memasuki tahap eksploitasi massal setelah pengembang terkait segera melakukan mitigasi.
Peneliti juga menemukan indikasi penggunaan AI dari adanya skor kerentanan CVSS palsu hasil halusinasi model kecerdasan buatan, serta bentuk celah yang dieksploitasi berupa bug logika semantik tingkat tinggi.
Perusahaan teknologi tersebut meyakini bahwa model AI milik mereka sendiri, yaitu Gemini, tidak digunakan oleh para peretas dalam memproduksi serangan siber berbasis kode Python tersebut.
Laporan GTIG turut mengungkap bahwa kelompok hacker yang terafiliasi dengan China dan Korea Utara, seperti APT27, APT45, UNC2814, UNC5673, dan UNC6201, sudah mulai memakai AI dalam mencari celah keamanan.
Aktor siber asal Rusia juga dilaporkan memanfaatkan kode hasil generasi AI untuk menyamarkan malware populer seperti "CANFAIL" dan "LONGSTREAM", di samping operasi propaganda berkode "Overload" yang memakai kloning suara AI.
Google juga menyoroti ancaman malware Android bernama "PromptSpy" yang memanfaatkan API Gemini untuk menjalankan interaksi otomatis dengan perangkat milik korban.
