O estado da Pensilvânia entrou com um processo contra a Character Technologies Inc., responsável pela plataforma Character.AI, por permitir que seus chatbots se apresentem como médicos, especificamente um personagem descrito como 'médico psiquiatra'. O governador Josh Shapiro classificou a ação como uma 'fiscalização inédita', visando proteger os cidadãos de interações enganosas online, especialmente em questões de saúde. O processo levanta a questão da responsabilidade legal da IA na prática médica e se os chatbots podem ser considerados como praticantes de medicina. Além disso, procuradores-gerais de 39 estados e de Washington, D.C., já alertaram a empresa sobre a violação de leis estaduais ao fornecer conselhos de saúde mental sem licença, o que pode prejudicar a confiança na profissão. A Character Technologies, que já enfrentou processos relacionados à segurança infantil, declarou que seus chatbots não são pessoas reais e que os usuários não devem confiar neles para obter aconselhamento profissional.