O que a IA do Google entende das suas fotos?

Em algum momento você ja deve ter se perguntado como uma IA descreveria uma foto sua certo? Bem, hoje nós vamos falar sobre um engenheiro de software que resolveu criar uma campanha que nos mostra isso.

Assim, essa campanha resultou no site They see your photos, ou “eles veem suas fotos” na sua tradução literal. Nesse site você carrega uma foto para o sistema, ou usa umas das imagens de amostras, e logo depois ele mostrará o resultado.

Como o They see your photos funciona?

Em suma, o site armazena tal imagem na nuvem do Google e, logo depois, usa a API Google Vision para criar uma descrição, em texto, da foto. E então a Inteligência Artificial  gera três parágrafos que descrevem toda a imagem, cenário, iluminação, detalhes, enquadramento, expressão do rosto, tudo.

Qual é o problema?

Afinal, a grande problemática disso tudo é como a IA interpreta alguns elementos da imagem, às vezes de forma subjetiva e às de forma problemática.

Um exemplo desse problema é do próprio criador do site, Vishnu Mohandas. Isso aconteceu, segundo ele mesmo, depois dele carregar uma imagem de sua família para a API Google Vision. Já que a IA, em uma das descrições, apontou que o relógio que a esposa estava usando, que era um Casio F-91W, geralmente era associado com terroristas islâmicos.

Assim, foi em decorrência do susto dessa associação que o levou a cria o site. Sendo assim, tem como objetivo principal conscientizar as pessoas que as fotos, que estão na nuvem do Google, são analisadas e então interpretadas de diversas maneiras pelo Google. Ademais, também visava demonstrar quanto uma empresa, que possui IA, pode aprender sobre você com só um arquivo.

Quem é Vishnu Mohandas?

Vishnu Mohandas é um engenheiro de software que se demitiu do seu cargo, na divisão do Google Assistente, depois de descobrir que a empresa havia feito uma parceria com os militares dos EUA para desenvolver a IA para estudar imagens e filmagens de drones. Ele também parou de fazer backup de imagens no Google Fotos porque temia que o Google usasse suas imagens para treinar sistemas de IA.

Logo após isso, Vishnu criou sua companhia própria, que é focada no armazenamento seguro e privado de fotos. Sua empresa, conhecida como Ente, vende serviços de armazenamento de imagens de maneira criptografada, visando a segurança e a privacidade do cliente.

O que o Google acha disso?

Segundo a matéria  da revista estadunidense Wired, o  porta-voz do Google, Colin Smith, se recusou a falar diretamente do assunto. Smith instruiu a revista a fornecer suporte a sites e páginas que afirmam que o Google usa uploads para o Google Fotos para treinar modelos de IA que ajudam as pessoas a gerenciar suas bibliotecas.

Ademais, também afirma que não vendem o conteúdo armazenado para terceiros ou os usa para fins publicitários. Afirmando que as pessoas podem desativar alguns recursos de análise do Fotos. Entretanto, não podem impedir completamente a empresa de acessar as fotos. Isto é porque os dados não são criptografados de ponta a ponta.