A Transparência como Nova Norma

A abrangência dessa legislação é vasta. Anúncios publicitários, recomendações musicais, aplicativos de gerenciamento de calendário e até mesmo centrais de atendimento — se utilizarem IA, os europeus precisarão ser informados. Campanhas de marketing e publicações em redes sociais que empregarem “deepfakes” serão obrigatoriamente rotuladas como conteúdo gerado por IA. Chatbots e linhas diretas de atendimento ao cliente, ao lidarem com reclamações e outras questões, deverão indicar claramente sua base em IA.

Até mesmo call centers que monitoram emoções de chamadores para detectar frustração precisarão declarar essa prática no início da chamada. O uso comercial da tecnologia, como agendamento de compromissos, gestão de correspondências ou negociação de contratos, também entra no radar de declaração obrigatória.

“Se um provedor realmente cumprir as obrigações de transparência, ficará muito visível o quanto a IA é utilizada. Especialmente no marketing.” – Frederiek Fernhout, advogado de tecnologia da Stibbe.

Implicações para Empresas e Desenvolvedores

A não conformidade não será leve. Empresas que falharem em atender às exigências enfrentarão multas pesadas, que podem chegar a €15 milhões (cerca de US$17 milhões) ou 3% do faturamento global anual – o que for maior. A nova lei também se estende aos desenvolvedores de modelos de IA, que serão monitorados de perto pelo recém-criado Escritório de IA da Comissão Europeia.

Isso inclui não apenas os gigantes óbvios como OpenAI, Anthropic e Google DeepMind, mas também empresas como Spotify, com suas recomendações impulsionadas por IA, ou Adobe, com seus recursos de edição inteligentes no Photoshop.

“Quando você começa a procurar, a IA está em todo lugar, e todo esse conteúdo terá que ser rotulado a partir de agora.” – Thibau Duquin, advogado de tecnologia e dados da Stibbe.

Desafios e Paralelos com a GDPR

Críticos alertam para um possível “dilúvio” de informações. Um excesso de rótulos pode gerar a “cegueira por banners”, onde notificações constantes perdem seu significado. Se tudo, desde um e-mail com correção ortográfica até uma foto com filtro, precisar ser rotulado, o propósito da transparência pode se diluir.

Essa situação remete à Lei Geral de Proteção de Dados (GDPR) da UE, implementada em 2018. Ao conceder novos direitos aos consumidores sobre seus dados pessoais, a GDPR introduziu os onipresentes pop-ups de consentimento de cookies, causando uma “fadiga de cookies” e uma corrida das empresas para se adequar. Os desafios na adoção e aplicação de regulamentações técnicas complexas são semelhantes, e muitos termos da nova Lei de IA ainda carecem de maior clareza. Contudo, o caminho para uma IA mais transparente na Europa está traçado.

Em um cenário de crescente debate sobre a responsabilização de forças de segurança, a administração Trump moveu ações judiciais contra pelo menos cinco estados e a cidade da Filadélfia. O cerne da disputa? Leis locais que buscam maior transparência e imputabilidade de agentes da lei, incluindo os oficiais do Immigration and Customs Enforcement (ICE).

As normativas em questão variam, mas um ponto central de discórdia para a administração Trump é a proibição do uso de máscaras por oficiais do ICE durante operações e a exigência de algum tipo de identificador individual. Advogados do governo federal argumentam que a obrigatoriedade de exibir o rosto exporia os agentes a perigos. Nas queixas contra Nova York, Virgínia, Connecticut, Nova Jersey e Filadélfia, é alegado que cidadãos fotografariam oficiais para “processá-los em aplicações de reconhecimento facial que vasculham redes sociais e sites de doxing”, citando especificamente um projeto de arte chamado ICESpy.

ICESpy: Realidade ou Fantasma?

Contrariando as alegações do governo, o criador do ICESpy, o artista Kyle McDonald, desmente a eficácia do projeto para identificar a maioria dos agentes do ICE em campo atualmente. Segundo ele, o software de reconhecimento facial do ICESpy é baseado em fotos, cargos e nomes de pessoas que se identificaram como ICE no LinkedIn há quase uma década.

“Eles alegam que as pessoas estão usando este site e outros para procurar membros da família. Não oferecem nenhuma evidência disso no processo”, afirma McDonald.

Uma análise da lista, com pouco mais de 700 entradas, revelou que a maioria dos perfis correspondia a funções executivas, administrativas ou jurídicas, com o título mais comum sendo “assistente de chefe de conselho”. Apenas 39 pessoas tinham o cargo de “oficial de deportação” e 27 outras tinham títulos relacionados, como “assistente de aplicação e remoção”. É crucial notar que muitos oficiais de deportação ingressaram na agência bem depois que esses dados foram coletados. O próprio ICE anunciou em janeiro que havia mais que dobrado o número de seus agentes e oficiais em poucos meses, de 10 mil para 22 mil, e nenhum desses novos membros estaria no banco de dados, a menos que tivessem outro cargo no ICE em 2018 e o divulgassem online.

Uso e Relevância

Além das questões de dados desatualizados, o ICESpy não se destaca pela popularidade. Registros de atividade revisados pela WIRED para a primeira semana de julho mostraram apenas 84 visualizações de página – um número insignificante, mesmo para um site de projeto de arte de nicho. Apenas duas tentativas de correspondência facial foram feitas, e os resultados foram tão imprecisos que, segundo McDonald, não poderiam corresponder a ninguém em seu conjunto de dados de usuários do LinkedIn de 2018.

“Tipo, tenho certeza que as pessoas brincaram com isso em algum momento?? Mas não é uma ameaça ativa para NINGUÉM, kkk”, comentou McDonald em uma mensagem de texto.

O ICE não respondeu a pedidos de comentário sobre o assunto. A controvérsia levanta questões importantes sobre a base das argumentações jurídicas do governo e a validade das ameaças tecnológicas invocadas para justificar a recusa à transparência.