OpenAI processado por oito estados por preocupações com a segurança do ChatGPT
Oito estados processaram a OpenAI na quarta-feira, acusando o criador do ChatGPT de enganar os pais sobre a segurança dos chatbots e de expor crianças e outros usuários vulneráveis a conselhos perigosos e interações prejudiciais.
Procuradores-gerais de Iowa, Kansas, Nebraska, Virgínia Ocidental, Arkansas, Arizona, Idaho e Montana entraram com ações judiciais separadas, alegando violações das leis estaduais de proteção ao consumidor. Os estados estão buscando multas e mudanças nas práticas de segurança da OpenAI. Enquanto isso, o Arkansas também está tentando limitar os testes avançados de IA Modelos de autoaperfeiçoamento são desenvolvidos até que salvaguardas adicionais sejam implementadas.
de ação judicial A OpenAI acusa o ChatGPT de projetá-lo para promover a dependência emocional e reforçar a paranóia, ao mesmo tempo que engana os usuários sobre os riscos de interagir com chatbots que imitam as relações humanas. A denúncia também alega que ChatGPT forneceu conselhos médicos perigosos e instruções relacionadas a automutilação e violência.
“A OpenAI está prejudicando crianças e elas estão mentindo para os habitantes de Iowa”, disse a procuradora-geral de Iowa, Brenna Byrd, em um comunicado. “A OpenAI afirma que o ChatGPT é seguro enquanto finge ser um amigo falso, ao mesmo tempo que dá conselhos médicos perigosos, incentiva outras pessoas a prejudicar outras pessoas ou instrui as pessoas a cometerem suicídio.”
A OpenAI introduziu controles parentais, proteções baseadas na idade e lembretes projetados para evitar o uso prolongado de chatbots. A empresa defendeu suas medidas de segurança e disse que continua trabalhando para melhorar as proteções.
A OpenAI já enfrenta ações judiciais de indivíduos e famílias que afirmam que o ChatGPT contribuiu para sua crise de saúde mental e morte por suicídio. O incidente ocorre em meio a um maior escrutínio das interações entre chatbots de IA e menores. O procurador-geral da Califórnia, Rob Bonta, disse ao TheWrap no mês passado que seu escritório estava monitorando de perto a OpenAI e a Anthropic devido a preocupações com a segurança da IA.
A OpenAI não respondeu imediatamente ao pedido de comentários do TheWrap.