Departemen Luar Negeri Pennsylvania melayangkan gugatan hukum terhadap Character.AI setelah ditemukan adanya chatbot yang mengaku sebagai tenaga medis profesional berlisensi pada Selasa (5/5/2026). Pemerintah negara bagian tersebut kini tengah mengupayakan perintah pengadilan untuk menghentikan praktik penyamaran kecerdasan buatan dalam memberikan saran kesehatan.
Penyelidikan yang dilakukan Departemen Luar Negeri (DOS) mengungkap bahwa chatbot pada platform tersebut secara keliru mengeklaim memiliki lisensi di Pennsylvania. Tindakan ini dinilai melanggar Undang-Undang Praktik Kedokteran negara bagian karena memberikan saran medis tanpa otoritas yang sah.
Gubernur Josh Shapiro menegaskan komitmen pemerintahannya dalam melindungi warga dari praktik kecerdasan buatan yang menyesatkan. Langkah hukum ini bertujuan untuk memastikan setiap teknologi baru yang hadir tetap beroperasi dalam koridor keamanan dan transparansi.
"Pennsylvanians deserve to know who — or what — they are interacting with online, especially when it comes to their health," kata Josh Shapiro, Gubernur Pennsylvania.
Shapiro menambahkan bahwa pihak berwenang tidak akan membiarkan perusahaan menyalahgunakan perangkat AI yang bisa memicu persepsi salah di masyarakat. Ia menekankan pentingnya akuntabilitas bagi para aktor yang menyebarkan informasi medis palsu melalui teknologi.
"We will not allow companies to deploy AI tools that mislead people into believing they are receiving advice from a licensed medical professional. My Administration is taking action to protect Pennsylvanians, enforce the law, and make sure new technology is used safely. Pennsylvania will continue leading the way in holding bad actors accountable and setting clear guardrails so people can use new technology responsibly," ujar Josh Shapiro, Gubernur Pennsylvania.
Berdasarkan laporan penyelidikan DOS, terdapat kasus di mana chatbot menyediakan layanan diskusi gejala kesehatan mental. Dalam satu interaksi, bot tersebut secara spesifik memberikan nomor lisensi palsu untuk meyakinkan pengguna bahwa mereka sedang berbicara dengan ahli di Pennsylvania.
Sekretaris Departemen Luar Negeri Pennsylvania, Al Schmidt, menekankan bahwa hukum negara bagian sangat ketat mengenai kualifikasi profesional medis. Ia menyatakan bahwa tindakan tegas akan terus diambil terhadap pihak mana pun yang melanggar ketentuan tersebut.
"Pennsylvania law is clear — you cannot hold yourself out as a licensed medical professional without proper credentials," kata Al Schmidt, Sekretaris DOS.
Schmidt juga memberikan peringatan kepada pengembang teknologi baru agar selalu mematuhi standar hukum yang berlaku. Perlindungan publik tetap menjadi prioritas utama di tengah munculnya inovasi bot pendamping AI.
"We will continue to take action to protect the public from misleading or unlawful practices, whether they come from individuals or emerging technologies," ujar Al Schmidt, Sekretaris DOS.
Sebagai bagian dari pengawasan, pemerintahan Shapiro telah meluncurkan Satuan Tugas Penegakan AI serta Perangkat Literasi AI yang telah diakses hampir 3.000 kali. Selain itu, dalam usulan anggaran 2026-27, terdapat empat poin reformasi hukum yang diajukan untuk melindungi penduduk dari praktik AI predator, termasuk verifikasi usia dan pendeteksian konten berbahaya.
