Pemerintah Afrika Selatan menarik kembali draf Kebijakan Kecerdasan Buatan (AI) Nasional setelah ditemukan referensi fiktif hasil halusinasi mesin dalam dokumen tersebut pada Selasa (5/5/2026). Langkah ini diambil karena regulasi yang dirancang untuk mengatur AI justru disusun menggunakan teknologi tersebut tanpa verifikasi manusia.
Menteri Komunikasi Afrika Selatan, Solly Malatsi, mengonfirmasi penemuan setidaknya enam jurnal akademik palsu dari total 67 rujukan yang tercantum dalam draf. Dilansir dari Detik iNET, insiden ini memicu keputusan kementerian untuk merombak total rancangan undang-undang guna menjaga keabsahan isinya.
Keteledoran teknis ini dianggap fatal karena dokumen penting tersebut sudah dilempar ke publik untuk mendapatkan tanggapan. Malatsi menekankan bahwa penggunaan AI dalam pemerintahan tetap memerlukan pengawasan ketat dari manusia untuk menjamin kualitas kebijakan bagi warga negara.
"I ingin meyakinkan seluruh negeri bahwa kami menangani masalah ini dengan keseriusan yang semestinya. Akan ada sanksi manajemen konsekuensi bagi mereka yang bertanggung jawab atas penyusunan dan penjaminan mutu (dokumen ini)," tegas Solly Malatsi, Menteri Komunikasi Afrika Selatan.
Penarikan ini berdampak pada penundaan rencana pembentukan lembaga pengawas baru seperti Komisi AI Nasional dan Dewan Etik AI. Draf tersebut sebenarnya juga memuat aturan mengenai pemberian hibah serta subsidi infrastruktur untuk mempercepat adopsi teknologi berbasis Large Language Model (LLM).
Kasus serupa tercatat semakin sering terjadi di berbagai sektor secara global, termasuk laporan pemerintahan oleh firma konsultan Deloitte. Di Amerika Serikat, sejumlah pengacara juga pernah dijatuhi denda karena menggunakan referensi kasus hukum palsu yang dihasilkan oleh AI generatif saat bersidang.
