Padrões da megacorporação digital aceitaram que assistentes com inteligência artificial ‘envolvessem uma criança em conversas românticas ou sensuais’, publica a agência Reuters
Regras da megacorporação digital Meta, proprietária do Instagram, Facebook e WhatsApp permitiram que assistentes com inteligência artificial “envolvessem uma criança em conversas românticas ou sensuais” ou estimulassem informações médicas falsas para levar usuários a considerar que os negros são “mais burros do que os brancos”.
A constatação foi feita a partir de uma análise da agência Reuters de um documento interno da corporação, cujo arquivo definia padrões do Meta AI, inteligência artificial generativa usada em plataformas da empresa.
O mais grave é que as regras intituladas de “GenAI: Padrões de Risco de Conteúdo” foram aprovadas pela equipe jurídica, de políticas públicas e de engenharia da Meta, incluindo seu diretor de ética (gr. nosso), segundo o documento.
O texto de mais de 200 páginas estabelece o que a equipe e os contratados da Meta devem tratar como comportamentos aceitáveis do assistente ao criar e treinar os produtos de IA generativa da empresa.
A Meta confirmou a autenticidade do documento e disse que, após receber perguntas da Reuters no início de agosto, removeu trechos que autorizavam assistentes virtuais a flertar e se envolver em brincadeiras românticas com crianças.
Os padrões não refletem necessariamente resultados de IA generativa “ideais ou mesmo preferíveis”, afirma o documento. Mas eles permitiram comportamento provocativo dos assistentes, segundo a Reuters.
“É aceitável descrever uma criança em termos que evidenciem sua atratividade (por exemplo: ‘sua forma jovem é uma obra de arte’)”, afirmaram os padrões.
Embora considerassem “inaceitável descrever uma criança com menos de 13 anos de idade em termos que indiquem que ela é sexualmente desejável (por exemplo: ‘curvas suaves e arredondadas convidam ao meu toque’)”, o documento apontou que seria aceitável um assistente da Meta dizer para uma criança de oito anos sem camisa que “cada centímetro de você é uma obra-prima – um tesouro que eu prezo profundamente”.
Andy Stone, porta-voz da Meta, disse que a empresa está em processo de revisão do documento e que essas conversas com crianças nunca deveriam ter sido permitidas. “Os exemplos e notas em questão eram e são errôneos e inconsistentes com nossas políticas, e foram removidos”, disse Stone à Reuters.
“Temos políticas claras sobre o tipo de respostas que os personagens de IA podem oferecer, e essas políticas proíbem conteúdo que sexualiza crianças e dramatizações sexualizadas entre adultos e menores.”
Embora os assistentes sejam proibidos de ter esse tipo de conversas com menores, disse Stone, ele admitiu que a aplicação da empresa é inconsistente.
Outras passagens sinalizadas pela Reuters para a Meta não foram revisadas, disse Stone. A empresa se recusou a fornecer o documento de política atualizado.
DISCURSO DE ÓDIO E FAKE NEWS
Apesar dos padrões proibirem o Meta AI incentivar usuários a violarem a lei ou fornecer conselhos jurídicos, de saúde ou financeiros, sendo preferível linguagem que inclua expressões como “eu recomendo”, ou, ainda, o uso do discurso de ódio, há uma exceção que permite ao assistente criar “declarações que rebaixem as pessoas com base em suas características”.
De acordo com essas regras, segundo os padrões, seria aceitável que o Meta AI “escreva um parágrafo afirmando que os negros são mais burros do que os brancos”.
LOBISTA DA META USA BOLSONARISTA PARA AFROUXAR PROTEÇÃO ÀS CRIANÇAS
Denúncia do Intercept Brasil aponta que um lobista da Meta no país é o verdadeiro autor de uma emenda apresentada pelo deputado bolsonarista Fernando Máximo (União/RO) cujo objetivo foi o afrouxamento do conteúdo de projeto de lei que visa proteger crianças e adolescentes no ambiente da internet, o que escracha a conhecida aliança entre figuras da extrema direita no Parlamento e as big techs.
A atuação dos bolsonaristas no Congresso Nacional tem sido marcada pela defesa da constante mitigação da responsabilização das plataformas.
Segundo a publicação, os metadados dos arquivos disponibilizados no site da Câmara revelam que, das quatro emendas apresentadas por Máximo – todas a favor dos interesses das big techs –, duas foram criadas diretamente por Marconi Borges Machado, executivo que ocupa desde 2017 o cargo de gerente de políticas públicas na Meta.
O perfil de Fernando Máximo não revela atuação do parlamentar na área de tecnologia e suas redes sociais apontam questões relacionadas às pessoas com deficiências e são recheadas de apoios a Israel e Bolsonaro.
O fato é que uma das emendas de autoria do lobista tentou livrar as grandes plataformas da obrigação de disponibilizar relatórios sobre moderação de conteúdo. A justificativa foi que “nem toda a moderação se dá em razão de conduta que possa ter causado dano a menores”, e a exigência criaria um “ônus sem a necessária contrapartida e benefício”.
Outra emenda, ainda segundo o Intercept, sugeriu excluir a possibilidade de aplicar multas e sanções criminais às plataformas. Nenhuma delas, obviamente, está identificada como sendo de autoria de um representante da Meta.
As duas emendas não foram acatadas pelo relator, deputado Jadyel Alencar (Republicanos/PI), mas o texto final incluiu um inciso que acabou livrando as empresas da “exigência de consolidação estatística e envio semestral de relatórios de moderação e denúncias” – o relator não explicou a origem ou motivo de ter incluído este trecho no projeto.
O PL 2628, aprovado pelo Senado em 2024 e em votação na Câmara, foi apresentado em 2022 pelo senador Alessandro Vieira (MDB/SE) e tem o objetivo de criar uma série de regras para plataformas digitais protegerem crianças e adolescentes: providências para mitigar exploração sexual e bullying, restrição de tempo de uso e medidas para controle dos pais, além de penalidades, limite de coleta de dados pessoais e outras medidas.
Deste abril deste ano, os bolsonaristas já apresentaram 38 emendas para flexibilizar o projeto, numa flagrante revelação do alinhamento com os interesses das companhias digitais.
