O longa-metragem de Jeff Orlowski que estreou no Festival Sundance de Cinema de 2020 chegou no início de setembro à Netflix e, desde então, recebeu muitas críticas positivas de seus telespectadores. "O Dilema das Redes" — em inglês, "The Social Dilemma" — é um documentário com cenas dramatizadas sobre os gigantes de tecnologia e o modelo de negócio das mídias sociais.
Em meio a gráficos e dados sobre manipulação, dependência, efeitos na política, propagação de informações falsas, impacto na saúde mental e invasão de privacidade, o docu-drama revela o funcionamento do algoritmo e do design das redes sociais, que visa a exploração dos usuários para lucro através de o capitalismo de vigilância e a mineração de dados.
Engenheiros do Vale do Silício e PhDs em tecnologia e psicologia falam ao decorrer do filme sobre como as redes sociais tratam as pessoas como mercadoria.
Já que são plataformas gratuitas, qual a origem do dinheiro que faz das corporações de mídias sociais as mais ricas da história da humanidade?
A resposta óbvia e que todos sabem é "venda de dados". Contudo, a venda de dados não funciona como muitos acreditam funcionar.
Os dados vendidos não são apenas informações demográficas como nome, sobrenome, gênero e endereço. Vendem-se informações comportamentais — interesses, quais os horários em que ficamos online, com quem interagimos, quanto tempo olhamos para um post, que conteúdo consumimos, tudo — em longa escala.
Mapeando e minerando esse tipo de dado, as empresas de redes sociais podem vender aos anunciantes a previsibilidade, a certeza de que irão mostrar o anúncio correto para a pessoa correta e que tal anúncio será bem sucedido.
Assim, o produto é a nossa atenção.
Como muitos pensam que funciona:
Como realmente funciona:
"O Dilema das Redes" comprova com dados e exemplos a maneira com a qual notificações push e recomendações personalizadas usam nossos dados não apenas para prever, mas também para influenciar nossas ações.
Como apontado em "O perigo da antropomorfização de empresas na internet", corporações buscam infiltrar nossas vidas da maneira mais sutil possível, e é exatamente isso que o filósofo e cientista da computação Jaron Lanier diz ser a mercadoria negociada no meio da tecnologia: "O produto é a gradativa, leve e imperceptível mudança no nosso comportamento e na nossa percepção."
Há apenas duas indústrias que chamam seus clientes de 'usuários': drogas ilegais e software. — Edward Tufte
Todas essas problemáticas da indústrias são postas como sistemáticas — ou seja, nós como indivíduos teremos pouco impacto de mudança; apenas uma forte pressão popular seria capaz de gerar transformação.
Contudo, a transformação não deve ser visada apenas a longo alcance, pois os efeitos catastróficos das redes sociais também nos afeta individualmente, em pequena escala.
Profissionais do Vale do Silício estudaram e ainda estudam sobre como mudar o comportamento das pessoas através da tecnologia persuasiva, implantando dentro do usuário um hábito inconsciente e explorando a vulnerabilidade humana.
O vício, a letargia e a sedutora rolagem infinita das timelines de aplicativos são o objetivo das redes sociais.
Enquanto o filme entrega com êxito os alarmes envolvendo a Big Tech e o efeito social do modelo de negócio em questão, o filme de Orlowski cai na própria crítica, como apontado por Mark Beaumont, colunista da NME.
As cenas dramatizadas, por mais que tenham como objetivo ilustrar os métodos utilizados pelos algoritmos para nos manter engajados, distanciam o público da dura realidade que "O Dilema das Redes" pretende destacar.
Por mais que haja cenas reais e dados incontestáveis, o quase satírico papel desempenhado por Vincent Kartheiser como três pequenos homens dentro do celular de um dos membros da família disfuncional retratada traz um ar de exagero e fantasia ao que deveria ser um documentário sério — o que mina a autoridade do filme.
Com tantos exemplos reais que funcionariam para a demonstração das consequências preocupantes de toda essa indústria — a volta da Ku Klux Klan, o neonazismo, a aparição de movimentos como o da Terra Plana e o anti-vacina —, o longa-metragem, ao criar uma narrativa hipotética, sugere que houve a necessidade de exagerar ou até mesmo de fabricar um problema.
Cena de "O Dilema das Redes" — o interior do celular, a inteligência artificial.
Porém, por mais que haja esse ponto ao qual se atentar, o filme como todo é exemplar, principalmente por no final nos oferecer dicas e recomendações de como melhorar nossa experiência on-line, sem sermos tão vulneráveis ao sistema.
A proibição de redes sociais — ou até mesmo celular — para crianças e adolescentes é senso comum dentre os profissionais da área de tecnologia. Tim Kendall, ex executivo do Facebook e ex presidente do Pinterest, e Alex Roetter, ex vice-presidente de engenharia do Twitter, dizem ser terminantemente proibido o uso de aparelhos celulares para seus filhos. Jonathan Haidt, PhD de psicologia social na NYU Stern School of Business, sustenta a ideia de restringir crianças e adolescentes como usuárias de redes sociais.
Justin Rosenstein, ex engenheiro do Facebook e da Google, Tristan Kendall, ex desginer ético da Google, Aza Rasken, inventor da rolagem infinita, e Sandy Parakilas, ex gerente do Facebook e da Uber, dizem para desativarmos as notificações dos aplicativos no celular.
O já citado Jaron Lanier nos atenta para nunca aceitarmos um vídeo recomendado no YouTube. Tal ação cria um incentivo financeiro que perpetua o sistema existente atual. Caso haja o interesse de assistir o vídeo que foi recomendado, basta pesquisar o nome na barra de buscar; um pequeno ato que não nos põe reféns do algoritmo.
Guillaume Chaslot, ex engenheiro do YouTube que ajudou a criar os algoritmos de recomendação, vai além e diz para instalarmos extensões no Chrome para desabilitar recomendações não só do YouTube, mas de diversas plataformas. Como bem apontado por um entrevistador, há ironia no fato de Guillaume sugerir agora que utilizemos ferramentas para desfazer o que ele mesmo fez.
No fim, a dica mais importante é a da conscientização.
Existe a ideia de que iremos nos adaptar a viver com tais algoritmos e tais estratégias de manipulação, assim como nos adaptamos a todas as inovações tecnológicas que fizemos até hoje, mas dessa vez é diferente e devemos ter noção disso. A tecnologia em questão avança exponencialmente — mais de 100 quadrilhões (100.000.000.000.000.000) de vezes desde que surgiu em 1960 —, enquanto a psicologia humana e o cérebro humano não evoluíram nada.
A informação, o debate, o questionamento e o incentivo à mudança são as únicas coisas que podem impactar o sistema com o qual estamos lidando.
Sugestão de leitura: Os perigos da antropomorfização de empresas na Internet