Ministério da Justiça identifica riscos em aplicativos de IA companheira para menores

Segundo relatos, o Ministério da Justiça e Segurança Pública do Brasil identificou riscos potenciais para crianças e adolescentes em treze plataformas de inteligência artificial (IA) companheira disponíveis no país. A análise destaca preocupações relativas à verificação de idade, potencial de uso compulsivo, conteúdo sexualizado e coleta de dados pessoais.

Segundo relatos, o Ministério da Justiça e Segurança Pública, por meio de sua Secretaria Nacional de Direitos Digitais, realizou uma análise de treze aplicativos de IA companheira que operam no Brasil. A avaliação identificou diversos riscos para menores, incluindo mecanismos inadequados de verificação de idade, o potencial para usuários desenvolverem hábitos compulsivos, a presença de conteúdo sexualizado e a coleta de informações pessoais sensíveis. Serviços como Character.AI e Replika estavam entre os examinados.

Segundo relatos, as descobertas foram encaminhadas à ANPD e à Secretaria Nacional do Consumidor (Senacon) para avaliação adicional de potenciais irregularidades. Os DPOs devem revisar as práticas de suas organizações relativas a aplicativos de IA, especialmente aqueles que interagem com menores, para garantir a conformidade com os princípios da LGPD, particularmente no que diz respeito à minimização de dados, limitação de finalidade e requisitos de consentimento específicos para dados de crianças.

Este desenvolvimento sinaliza um aumento do escrutínio regulatório sobre aplicativos de IA, particularmente aqueles que envolvem dados de crianças, no Brasil.