HARRISBURG, Pensilvânia (AP) – A Pensilvânia processou um fabricante de chatbot de inteligência artificial, dizendo que seus chatbots se apresentam ilegalmente como médicos e estão enganando os usuários do sistema, fazendo-os pensar que estão recebendo aconselhamento médico de um profissional licenciado.
A ação, movida na sexta-feira, pede ao Tribunal estadual da Commonwealth que ordene à Character Technologies Inc., a empresa por trás da Character.AI, que impeça seus chatbots “de se envolverem na prática ilegal de medicina e cirurgia”.
A ação afirma que um investigador do órgão estadual que licencia profissionais criou uma conta no Character.AI, pesquisou a palavra “psiquiatria” e encontrou um grande número de personagens, incluindo um descrito como “médico em psiquiatria”.
Esse personagem se apresentou como capaz de avaliar o investigador “como um médico” licenciado na Pensilvânia, disse o processo.
“Os habitantes da Pensilvânia merecem saber com quem – ou o quê – estão interagindo online, especialmente quando se trata de saúde”, disse o governador Josh Shapiro em um comunicado. “Não permitiremos que as empresas implementem ferramentas de IA que induzam as pessoas a acreditar que estão recebendo aconselhamento de um profissional médico licenciado.”
A Character Technologies não respondeu a uma consulta na segunda-feira.
A empresa enfrentou vários processos judiciais sobre segurança infantil. Em janeiro, o Google e a Character Technologies concordaram em resolver uma ação judicial movida por uma mãe da Flórida que alegou que um chatbot empurrou seu filho adolescente para se matar. No outono passado, a Character.AI proibiu menores de usar seus chatbots em meio a preocupações crescentes sobre os efeitos das conversas de inteligência artificial nas crianças.
