A startup de inteligência artificial Character.AI está no centro de novas ações legais nos Estados Unidos, com acusações de que seus chatbots podem representar riscos à saúde e bem-estar dos usuários. Dois processos recentes destacam a exposição de jovens a interações potencialmente prejudiciais. 3n1a6b
Denúncias envolvendo adolescentes 6516f
Em um dos casos, um jovem de 17 anos do Texas alega que o uso prolongado dos chatbots contribuiu para alterações emocionais significativas, incluindo episódios de instabilidade e dificuldades psicológicas. Segundo os relatos, algumas interações incentivaram comportamentos prejudiciais e dificultaram a comunicação com familiares, agravando a situação do adolescente.
Outro processo envolve uma menina de nove anos que teria sido apresentada à plataforma por colegas. A denúncia aponta que interações inadequadas teriam causado desconforto e afetado a segurança emocional da criança.
Ambos os casos levantam preocupações sobre o impacto de tecnologias avançadas em usuários mais jovens, destacando a necessidade de supervisão e controle para evitar experiências que possam ser consideradas inadequadas.
Histórico de controvérsias 486zw
Esses casos seguem outra ação legal iniciada em outubro, quando uma mãe processou a Character.AI após a perda de seu filho adolescente, que, segundo a acusação, apresentava sinais de dependência emocional com os chatbots. A startup anunciou medidas adicionais de segurança, como a remoção de robôs com comportamentos considerados problemáticos, mas os novos processos mostram que os desafios persistem.
Relação com a Google 4re5i
Embora a Google tenha afirmado que opera de forma independente da Character.AI, a gigante tecnológica investiu US$ 2,7 bilhões na startup em 2024, estabelecendo uma parceria tecnológica que envolve o compartilhamento de inovações e a integração de equipes. A conexão entre as empresas tem sido alvo de críticas, considerando os impactos éticos relacionados à IA.
A Character.AI informou que não se pronuncia sobre processos em andamento sob sigilo judicial. O debate sobre o papel das empresas de tecnologia na proteção de seus usuários, especialmente os mais jovens, continua a ganhar força diante das acusações.
