Gubernur Pennsylvania Josh Shapiro resmi melayangkan gugatan hukum terhadap platform Character.AI pada Selasa (5/5/2026) atas dugaan praktik kedokteran tanpa izin. Tindakan hukum ini diambil setelah otoritas setempat menemukan adanya chatbot yang menyamar sebagai tenaga medis profesional di platform tersebut.
Gugatan yang diajukan oleh Departemen Luar Negeri Pennsylvania bersama Dewan Medis Negara Bagian ini dipicu oleh temuan bot bernama Emilie. Karakter kecerdasan buatan tersebut secara spesifik mendeskripsikan dirinya sebagai seorang dokter psikiatri dalam sistem pencarian layanan.
Seorang penyelidik perilaku profesional menemukan keberadaan bot Emilie saat mengakses akun gratis di platform tersebut. Dalam interaksi yang tercatat, chatbot ini tidak hanya memberikan konsultasi, tetapi juga menawarkan penilaian kondisi depresi kepada pengguna.
Selain memberikan diagnosis mental, bot tersebut melangkah lebih jauh dengan menyarankan penggunaan obat-obatan tertentu kepada penggunanya. Otoritas Pennsylvania menilai tindakan memberikan saran medis dan resep obat oleh entitas non-manusia tanpa lisensi merupakan pelanggaran berat terhadap standar keselamatan publik.
Laporan dari MLex mengidentifikasi bahwa langkah hukum ini merupakan bagian dari pengawasan ketat regulator terhadap risiko bisnis yang muncul dari perkembangan kecerdasan buatan. Kasus ini menjadi preseden penting dalam penegakan aturan privasi data, keamanan teknologi, dan perlindungan konsumen di sektor AI.
Gubernur Josh Shapiro memberikan pernyataan langsung mengenai situasi tersebut saat menghadiri program berita nasional untuk menjelaskan urgensi perlindungan warga dari penipuan medis berbasis teknologi.
"it's treasonous" ujar Trump, Mantan Presiden.
Pernyataan tersebut disampaikan dalam konteks ketegangan yang lebih luas, sementara di saat yang sama Gubernur Shapiro menegaskan bahwa platform teknologi tidak bisa mengabaikan hukum medis yang berlaku. Kasus ini kini tengah diproses di pengadilan negara bagian untuk menentukan sanksi dan batasan operasional bagi penyedia layanan chatbot di wilayah tersebut.
