Controvérsia sobre guia de regras para criação de IA pela Meta

Recentemente, a Reuters nos apresentou pontos pertubadores documentados no guia de regras para a criação de IA pela Meta. Isso varia desde interação com menores até a geração de imagens sugestivas. Nesse post nós vamos falar mais sobre essa controvérsia.

Controvérsia sobre guia de regras para criação de IA pela Meta

Quem é Meta?

A Meta, anteriormente conhecida como Facebook Inc., é uma empresa de tecnologia conhecida pelas suas plataformas de redes sociais, como Facebook, Instagram e o WhatsApp. Segundo a mesma, seu objetivo é desenvolver tecnologias que ajudem as pessoas e se conectarem umas com as outras. Ela mudou seu nome para Meta em 2021 para refletir seu mais novo foco: a construção de um metaverso. Em suma, o metaverso é um mundo virtual em que as pessoas podem interagir umas com as outras em um ambiente 3D, usando avatares.

Por que o guia de regras para criação de IA está gerando controvérsias?

A Reuters vazou um documento interno da Meta, o guia “GenAI: Content Risk Standards”, que tem mais de 200 páginas. No entanto, algo preocupante é que diversas equipes jurídicas, de engenharia e ética aprovaram essas regras. Isto é porque essas regras permitem interações sensuais com crianças e conteúdo discriminatório, autoriza informações falsas com avisos e gera imagens sugestivas com limites. Além disso, um ponto que vale destacar é que esse documento guia treinamento da Meta AI e bots no Instagram.

Interações com menores

Como dito anteriormente, esse documento permite bots em conversas românticas com crianças. Ou seja, o bot considera a descrição de abraços, beijos e toques como aceitáveis, embora proíba atos sexuais explícitos. Um exemplo é que o sistema do bot aprova dizer “suas formas juvenis são uma obra de arte” para criança de 8 anos. Além disso, também permite roleplays duvidosos com adolescentes, como “nossos corpos entrelaçados”. A Wall Street Journal reportou diversos roleplays sexuais com menores, alguns bots como “Hottie Boy” também iniciam sexting. Embora a Meta tenha anunciado limitar conteúdo sexual para menores agora.

Além disso, um fator perturbador que a Reuters revelou é que esse guia passou pela aprovação de equipes legais. Ademais a isso, diversos especialistas alertam sobre dependência emocional em jovens, já que 72% dos adolescentes usam bots como parceiros. Por conta disso, as críticas vem demandando o banimento de menores de 18 anos.

Conteúdo discriminatório

O guia também autoriza declarações degradantes baseadas em raça ou gênero. Desse modo, ele permite que os bots argumentarem, por exemplo, que “pessoas negras são mais burras que brancas” mas proíbe “macacos sem cérebro” já que desumaniza as pessoas. No entanto, o que é mais espantoso é que isso foi aprovado por equipes jurídicas. Por conta disso, diversos críticos condenam amplificação desses vieses sociais. Além disso, os bots também geram textos hipotéticos prejudiciais. Alguns especialistas veem isso como um exemplo da normalização de hate speech já que, mesmo que ele vete hate speech, ele possui exceções.

Por conta de tudo isso, a Meta vem enfrentando ações por falhas em moderação. Isso nos mostra que várias empresas treinam IA com dados enviesados. Por isso precisamos exigir limites rígidos e claros. Embora a Meta tenha revisado o documento, essas seções ainda persistem.

Desinformação e conteúdo falso

Além disso, o documento também permite a geração de informações falsas, desde que tenham disclaimers. Dessa forma por exemplo, os bots podem criar desde artigos sobre celebridades com doenças fictícias até  conselhos médicos errados, desde que avisem que é falso. Vários críticos alertam sobre os riscos dessa brecha em eleições globais, e diversos especialistas veem isso como uma ameaça a saúde pública.

Além disso, há vários relatos que ligam bots a manipulação de vulneráveis. Por conta disso, críticos estão demandando uma regulação urgente. Já que a Meta está integrando a IA até em feeds sociais. Por conta disso,a Meta está testando alguns rótulos de “Made with AI”, mesmo que várias pessoas apontem as falhas na moderação. Entretanto, diversos especialistas vêm pedindo a transparência no treinamento da IA.

Imagens sugestivas

Esse guia permite que imagens de violência sejam geradas, embora de maneira limitada. Desse modo, os bots conseguem geram cenas, que não tenham gore, como por exemplo adultos agredindo idosos e crianças brigando. Além disso, a Reuters também cita alguns exemplos usando a Taylor Swift. Já que, embora rejeite gerar nudes explícitos, ele permite desvios como “Swift cobrindo seios com peixe” ao invés de “Taylor Swift com seios enormes”. Além disso, também há o risco de deepfakes, mesmo que a Meta rotule as imagens com “Made with AI”.

Recepção do público

Grande maioria do público está indignado com a revelação do vazamento. Diversas pessoas vem chamando as diretrizes de “repreensíveis”, “horríveis”e “alarmantes” nas redes sociais, além de condenar a normalização de preconceitos. Além disso, vários pais questionam o quão seguras estão as crianças. Vários especialistas em ética condenam esse tipo de comportamento e apontam múltiplas falhas na moderação da IA. Por conta dessa polêmica, as pessoas estão trazendo à tona novamente antigos escândalos da Meta.

Ademais a isso, a Meta também está sendo acusada de priorizar lucros, levantando uma crescente indignação da mídia. Vários usuários também vem exigindo o banimento de bots para menores, enquanto grupos de defesa infantil pedem transparência sobre o treinamento da IA. Além disso, vários especialistas temem seus impactos na saúde mental da população, como dependência emocional da IA, principalmente com relatos de mortes relacionadas a bots. Pessoas também apontam oposição da Meta relacionada as leis de segurança. Swifties inspiram campanhas contra deepfakes. O público e a mídia vem pressionando o governo por uma regulação federal, e usuários vem boicotando as plataformas da Meta.

Resposta da Meta

A Meta confirmou publicamente a autenticidade do guia. Entretanto, ela removeu seções sobre interações com crianças e também proíbe conteúdo que sexualiza menores. Além disso, também atualizaram o guia depois de entrar em contato com a Reuters e afirma estar revisando as políticas continuamente. A meta defende que o guia é uma ferramenta interna. Ela integrou fact-checkers independentes, que rotulam o conteúdo como falso ou alterado. Assim, visando reduzir visibilidade de desinformações, embora também relata que a IA teve um baixo impacto em eleições.

Por fim, a Meta também anunciou investir em moderação global, com equipes de 15 mil revisores para proteger os usuários. Priorizando a transparência e o contexto. A Meta permite o uso de bots por maiores de 13 anos e defende a proibição de roleplays sexualizados. No entanto, a Meta não se pronunciou e tentou silenciar tudo sobre racismo e violência. Embora se comprometa com inovação responsável, defende que erros assim não definem a empresa.