Pemerintah Negara Bagian Pennsylvania resmi mengajukan gugatan hukum terhadap platform Character.AI pada Jumat (1/5/2026) setelah ditemukan adanya chatbot yang menyamar sebagai psikiater berlisensi. Platform tersebut dituding telah memfasilitasi praktik kedokteran tanpa izin melalui karakter kecerdasan buatan yang memberikan saran medis kepada pengguna.
Gugatan yang dilayangkan oleh Departemen Luar Negeri Pennsylvania dan Dewan Medis Negara Bagian ini bermula dari temuan seorang penyelidik perilaku profesional. Penyelidik tersebut menemukan karakter bernama Emilie yang dideskripsikan sebagai dokter psikiatri saat melakukan pencarian di platform Character.AI menggunakan akun gratis.
Dalam interaksi tersebut, chatbot Emilie sempat menawarkan penilaian depresi dan menyarankan penggunaan obat-obatan setelah penyelidik mengaku merasa sedih dan tidak termotivasi. Emilie bahkan memberikan nomor lisensi palsu saat ditekan mengenai legalitas praktiknya di wilayah Pennsylvania.
Data dari pengadilan menunjukkan bahwa Emilie mengeklaim sebagai lulusan sekolah kedokteran Imperial College London dengan pengalaman praktik selama tujuh tahun. Ia juga mengaku memiliki registrasi spesialis penuh di General Medical Council Inggris, meskipun verifikasi negara menyatakan nomor lisensi tersebut tidak ada.
Pennsylvania kini menuntut perintah pengadilan agar Character.AI berhenti mengizinkan platformnya terlibat dalam praktik medis yang melanggar hukum. Dilansir dari dokumen gugatan, platform ini memiliki lebih dari 20 juta pengguna aktif bulanan di seluruh dunia dengan koleksi lebih dari 18 juta karakter chatbot buatan pengguna.
Pihak perusahaan menolak untuk memberikan pernyataan mendalam mengenai detail sengketa hukum yang sedang berlangsung ini.
"our highest priority is the safety and well-being of our users. The user-created Characters on our site are fictional and intended for entertainment and roleplaying." kata juru bicara Character.AI dalam pernyataan resminya melalui email kepada Mashable.
Pihak perusahaan juga menekankan komitmen mereka terhadap pengembangan produk yang bertanggung jawab melalui proses peninjauan internal dan prosedur pengujian keamanan.
"prioritizes responsible product development and has robust internal reviews and red-teaming processes in place to assess relevant features." tambah juru bicara Character.AI tersebut.
Gugatan di Pennsylvania ini muncul di tengah perdebatan hukum yang semakin luas mengenai batasan informasi yang boleh diberikan oleh AI. CEO OpenAI Sam Altman sebelumnya telah menyuarakan perlunya perlindungan hukum bagi percakapan AI agar setara dengan kerahasiaan antara pasien dan terapis.
Fenomena AI kesehatan terus berkembang pesat dengan aliran investasi mencapai 1,4 miliar dolar AS pada tahun 2025 menurut data Menlo Ventures. Pennsylvania menjadi salah satu negara bagian yang mulai memperkenalkan rancangan undang-undang kesehatan AI tanpa menunggu kebijakan dari pemerintah pusat di Washington.
