Tim peneliti Google Threat Intelligence Group (GTIG) mendeteksi penggunaan kecerdasan buatan (AI) generatif oleh peretas untuk menciptakan eksploitasi zero-day atau penyusupan pada celah keamanan perangkat lunak. Penemuan ini menandai evolusi ancaman siber yang memanfaatkan teknologi model bahasa besar (LLM) untuk menyerang sistem administrasi web open-source.
Eksploitasi berbasis AI tersebut menargetkan alat administrasi sistem populer guna melewati sistem autentikasi dua faktor (2FA) milik korban. Berdasarkan laporan yang dilansir dari Tekno, metode ini memungkinkan pelaku kejahatan mengambil alih perangkat pengguna serta mencuri data pribadi di dalamnya secara ilegal.
"Untuk pertama kalinya, GTIG mengidentifikasi pelaku kejahatan siber yang menggunakan eksploitasi zero-day yang kami yakini dikembangkan dengan AI," tulis Google, dalam laporan resminya.
Tim GTIG meyakini rangkaian kode eksploitasi berbasis Python tersebut dikembangkan menggunakan bantuan LLM karena strukturnya yang sangat rapi. Peneliti menemukan penggunaan docstring edukatif dan format penulisan yang menjadi ciri khas hasil generasi kecerdasan buatan, termasuk adanya kesalahan informasi atau halusinasi pada skor kerentanan.
Penggunaan AI dinilai mempermudah peretas dalam mengenali bug logika semantik tingkat tinggi yang sulit dideteksi melalui metode pengujian tradisional. Google menegaskan bahwa model AI miliknya, Gemini, tidak digunakan oleh para pelaku dalam pengembangan serangan tersebut.
Kelompok peretas yang terafiliasi dengan negara-negara seperti China, Korea Utara, dan Rusia juga dilaporkan mulai mengadopsi AI. Kelompok tersebut mencakup APT27, APT45, UNC2814, UNC5673, dan UNC6201 yang memanfaatkan teknologi ini untuk mempermudah pencarian celah keamanan sistem.
Selain pembuatan kode malware, teknologi AI mulai diintegrasikan dalam operasi propaganda dan rekayasa sosial melalui kloning suara. Ancaman ini terus berkembang dengan munculnya malware Android seperti PromptSpy yang memanfaatkan antarmuka pemrograman aplikasi untuk berinteraksi otomatis dengan perangkat target.
