Em meados de junho, a Netflix surpreendeu entregando uma porção de novos episódios de Black Mirror. Após um longo inverno criativo, a sexta temporada estreou provocando angústia e reflexão com o episódio “Joan é Péssima”.
Como de costume, a série apresenta as consequências extremas do uso de tecnologia já existente, desenvolvida a um ponto não muito distante no futuro. No enredo, a máxima de que “de perto ninguém é normal” ganha contornos graves para a reputação da protagonista Joan.
Da noite para o dia, essa jovem gerente de projetos passa a ter sua intimidade exposta numa série de streaming. Na trama, essa “série dentro da série” é gerada inteiramente por inteligência artificial, com base em dados coletados pelo celular e dispositivos cotidianos com o qual ela entra em contato.
O centro do problema no episódio leva o monitoramento pessoal já existente em redes sociais, para fins comerciais e de publicidade, a um próximo nível. Trata-se da aplicação desses mecanismos ao novo mundo de possibilidades da inteligência artificial (IA) gerativa.
No episódio, a adesão massiva dos clientes aos termos e condições abusivos do serviço de streaming traz resultados devastadores. É um mundo de filmes e séries personalizadas individualmente, tecnicamente hiper-realistas e criminosamente invasivos, mas… dentro da lei.
Preocupações legítimas
As complicações e os dilemas éticos do monitoramento individual e da IA gerativa (ou criativa) já são realidade hoje. Nos Estados Unidos, o principal sindicato de roteiristas reclama com uma longa greve para manter seus direitos e pagamentos num momento em que a indústria do entretenimento já usa IA para estruturar séries e criar roteiros.
A abertura da série nova da Marvel, “Invasão Secreta”, foi gerada pelos Method Studios basicamente por IA. O interesse em personalizar fotos, vídeos e mundos criativos, já manifesto nos filtros e customizações das redes sociais, promete gerar demanda por conteúdos complexos personalizados. As máquinas são crescentemente capazes de fazer isso em menos tempo que várias equipes humanas e com a mesma eficácia.
Já o monitoramento individual na internet provoca discussões há anos. Retratadas celebremente no filme “O Dilema das Redes”, elas reemergem para criar um pesadelo na nova temporada de Black Mirror e merecem ser retomadas brevemente em análise.
Localização
Os rastreadores de celular e computador já são uma realidade no uso cotidiano da internet. Uma das informações mais sensíveis coletadas é a geolocalização.
Desde o começo da internet, sempre foi possível estimar a localização aproximada do visitante de um site pelo endereço de IP. Se você não sabia dessa informação e se pergunta agora “como mudar meu IP”, é compreensível.
O IP pode ser camuflado com o uso de tecnologias como uma VPN, que é uma rede privada virtual, oferecida por diferentes empresas. Ainda assim, há rastreadores em navegadores, que precisam ser bloqueados para não transmitir informações de localização a sites que visitamos.
Além disso, serviços de celular do Google ou da Apple precisam ser configurados manualmente para não registrar o movimento ou a localização do aparelho de maneira ainda mais precisa e constante. As configurações de privacidade desses serviços ainda são um “segredo” desconhecido para grande parte de seus usuários.
Num futuro próximo, a internet das coisas deverá conectar dispositivos domésticos e carros por 5G para gerar comodidades. Compartilhando informações entre si, como a de geolocalização, será preciso arranjar uma maneira de configurar e inibir esse tipo de transmissão de dados.
Formação de perfil e persona digital
Os aspectos mais assustadores de “Joan é Péssima” talvez sejam a precisão com que a rotina da protagonista é reconstituída para a tela do streaming e o fato de a imagem dela ser manchada para grandes públicos. Ambas essas características estão diretamente ligadas à criação de perfis digitais.
O sucesso da publicidade do Google e do Facebook é a precisão com a qual as empresas conseguem entender o perfil de variados públicos consumidores e direcionar anúncios relevantes a eles. Isso só foi possível com uma grande intrusão na privacidade de bilhões de pessoas para criar perfis pessoais individuais.
Esses perfis reúnem alguns dados para identificar cada usuário/consumidor: localização, idade, gênero, hábitos de navegação, compras frequentes, anúncios vistos recentemente e interações feitas no mundo virtual. Em Black Mirror, o perfil ganha uma representação visual e é usado no entretenimento do assinantes do streaming.
O episódio faz pensar até que ponto as interações digitais podem servir para reconstituir nosso cotidiano. Esse é o tipo de preocupação com que nos deparamos somente quando somos hackeados ou temos o celular roubado.
Com a evolução do reconhecimento facial e da biometria, a captura precisa de rostos e os dados biométricos (impressões digitais, leitura de retina) gera novos dados para esse perfil digital. Até que ponto transformar esses traços físicos em dados é vantajoso e seguro?
Embora algumas empresas facultem essas capturas como meios de segurança adicional, outras delas (bancos, por exemplo) já as impõem como condição para usar seus serviços. Quais seriam as consequências de um vazamento de dados biométricos para a reputação de uma pessoa? Como recuperar a identidade virtual do próprio rosto?
A lição “analógica” sobre privacidade digital
Em “Joan é Péssima”, a chocante naturalidade com que os eventos se desenrolam é permitida por lei. A regulação das tecnologias caminha mais devagar que seu avanço.
Além disso, muitas vezes aceitamos os termos e condições dos serviços digitais sem a devida leitura atenta deles, para usufruir imediatamente de certas inovações. É justamente nesse hábito que começa a preocupação com a privacidade – e ele tem mais a ver com consciência dos próprios direitos e interesses e civilidade do que com avanço tecnológico.