O Dilema das Redes ou a Caixa de Pandora

 Mateus Machado(*)

A Netflix lançou um documentário chamado O Dilema das Redes, trata se de uma discussão sobre os efeitos negativos das redes sociais e sua influência na sociedade. A nata do Vale do Silício, nomes como Tristan Harris, ex designer ético do Google, Tim Kendall, ex- executivo do facebook e ex-presidente do Pinterest, Jaron Lanier, cientista da computação e Jeff Seibert, estão presentes no documentário tentando engajar uma pretensa mea culpa. Não revelam nada de novo ou extraordinário, mas traz algumas reflexões sobre a questão tecnológica e seus efeitos. Por ser um documentário da Netflix, todo cuidado é pouco. Mas vale assistir. 

A internet tem nos dado coisas maravilhosas, disso todos sabemos, mas alguns criadores dessas plataformas e desses aplicativos tentam emplacar a narrativa de que eles mesmos foram ingênuos com relação aos efeitos colaterais. Eles apenas colocam na mesa meias verdades, como se apenas entreabrissem a caixa de pandora apenas para dar uma espiada. Porém, há sim um limite em que eles perdem o controle, e isso já foi previsto por um futurista da velha guarda chamado Raymond Kurzweill com a sua Singularidade Tecnológica. 

A Singularidade, termo usado na década de 50 por John von Neumann, sobre o rápido progresso tecnológico trazendo também uma mudança acelerada. Segundo Kurzweill, é o ponto que marca a revolução tecnológica através da inteligência artificial transcendendo a condição biológica da vida, ou seja, chegará um ponto em que a inteligência artificial estará tão avançada que nanorobôs autoconscientes transformarão a vida como a conhecemos; quando o ser humano, como qualquer outra forma de vida, se tornarem seres computacionais. De repente o ar estará cheio de nanorobôs autoconscientes, e uma simples respiração toda a nossa estrutura biológica será modificada a ponto de nos tornarmos seres imortais. Ou, mais perto da nossa realidade, com os avanços da medicina poderemos alcançar um prolongamento da vida, prolongando a operacionalidade do nosso corpo físico. Ou se pensarmos no trans-humanismo, quando nos tornarmos híbridos. Ou ainda como propõe Jaron Lanier, a imortalidade através da "Ascenção Digital"; o corpo físico morre, mas a consciência é transferida para um computador. Seja como for, a Singularidade promete o fim da era humana como a conhecemos. Alguns cientistas como Kurzweill acreditam que a Singularidade está próxima, bem próxima, uma data média para o evento será por volta de 2040. 

Ainda que essa hipótese da Singularidade seja exagerada ou não venha a se concluir integralmente, fato é que já vivemos uma transição evolutiva que mistura tecnologia, biologia e sociedade; aqui acrescento também uma revolução psicológica. O tecido social já está contaminado com o câncer digital das redes sociais, e a nossa dependência dessa nova tecnologia está cada vez maior e mais profunda psicologicamente. 

Randima Fernando, outro especialista em tecnologia, comenta: 

"Se analisarmos de 1960 até hoje, veremos que o processamento aumentou um trilhão de vezes. Não otimizamos nenhuma outra coisa, nenhuma outra tecnologia a esse nível; os carros de hoje são no máximo duas vezes mais rápidos. E praticamente todo o resto foi pouco otimizado. E o mais importante, nossa psicologia, nosso cérebro, não evoluíram em nada". 

Mas, voltando ao relato do Dilema das Redes. Quando você faz uma pesquisa no google, você não vai encontrar a realidade, mas apenas propaganda. Por exemplo, imagine outras pessoas fazendo a mesma pesquisa que você em outras partes do mundo naquele exato momento, para cada uma dessas pessoas o google vai apresentar uma resposta diferente, dependendo do local onde você vive; para cada pessoa, ou sociedade, um cenário sobre determinado evento é mostrado em várias versões. 

O professor de estatística e economia, Edward Tufte, faz a seguinte observação: "Existem apenas duas indústrias que chamam os seus clientes de usuários; a indústria das drogas e a indústria de software". 

Há então, um grupo muito pequeno, de engenheiros sociais entre os 20 e 35 anos fazendo escolhas que já influenciaram 2 bilhões de pessoas. São 2 bilhões de pessoas pensando o que não queriam pensar, mas que estão sendo obrigadas a pensar só de olharem as notificações em um celular logo pela manhã, muitas vezes, antes mesmo de levantar da cama para escovar os dentes. E todas essas plataformas competem umas com as outras para conseguir prender a sua atenção. E se você não está pagando o produto, então você é o produto. Os anunciantes são os clientes dessas plataformas. Na realidade nós não somos os usuários, somos o produto. É ilusório a ideia de usuário, não usamos a rede, somos usados pela rede. 

O objetivo é descobrir como prender o máximo da sua atenção. Tim kendall comenta: "Tudo vai de fazer ajustes. Se a empresa quer mais pessoas da Coréia no dia de hoje, é só ajustar as propagandas direcionadas para aquele país". 

Tudo o que nós fazemos on line está sendo vigiado, está sendo rastreado. Cada ato online, cada imagem que você observa e por quanto tempo você observa. Eles sabem quando você está sozinho, quando você está triste ou feliz. Eles sabem de tudo; se você é introvertido ou extrovertido, quais os seus desejos, os seus segredos. 

A inteligência artificial já existe, e já somos dominados por ela. 

O cientista da computação, autor do livro Ten Arguments For Deleting Your Social Media Accounts Right Now, comenta: 

"Isso é a mudança gradual, imperceptível, do seu próprio comportamento, isso é o produto final. É assim que essas empresas ganham dinheiro; modificando o que você faz, o que você pensa. Nós criamos um mundo em que a conexão se tornou primordial para as gerações mais novas. Quando duas pessoas se conectam, isso é possível porque existe uma terceira pessoa pagando para que aquelas duas pessoas sejam manipuladas. Nós criamos uma geração global de pessoas que foram criadas dentro de um contexto onde o próprio significado da comunicação, o próprio significado da cultura é a manipulação. Nós inserimos engano e falsidade no centro de tudo o que nós fazemos".

O facebook usa os nossos dados para construir modelos que possam prever as nossas ações, eles constroem padrões como se fossem os nossos avatares. Tudo o que você faz online, curtidas, postagens, qualquer click, tudo é copilado dentro de modelos cada vez mais precisos para prever todos os tipos de coisas que faz e gosta. Pode se prever que tipo de emoção vai mexer com você, e vence aquele que consegue construir o melhor modelo. 

Todo o conhecimento de Psicologia comportamental foi inserido dentro dessas tecnologias para causar mudanças de comportamento. Shoshana Zuboff, autora do livro "A Era do Capitalismo da Vigilância", fala sobre o capitalismo lucrando através do rastreamento total. Da mesma forma que há mercados que negociam o futuro da carne ou do petróleo, agora temos um mercado que negocia o futuro dos humanos. Eles tem mais informações sobre nós do que já se imaginou na história da humanidade. 

A tecnologia persuasiva foi criada para modificar as atitudes das pessoas, e o intuito é aplica-la ao extremo, buscando a mudança no comportamento das pessoas. Esse movimento com o dedo na tela para atualizar o feed de notícias, em psicologia é chamado de "reforço intermitente positivo", que é um processo que apresenta um estímulo consequente, uma recompensa, que aumente a probabilidade de emissão de respostas, como em um caça níquel. Toda vez que você vê o celular em cima da mesa, por exemplo, você sabe pode ter algo ali pra você, basta esticar a mão para dar uma olhada. 

O "Growth Hacking" é um campo de estudos em que equipes de engenheiros trabalham para a modificação psicológica para gerar crescimento, mais engajamento. O facebook fez um experimento chamado "Contágio em Larga Escala", usando mensagens subliminares para convencer mais pessoas a ir votar nas eleições. Descobriram que é possível afetar as emoções e comportamentos no mundo real sem que as pessoas tivessem consciência disso. 

Nos conectar com outras pessoas é uma necessidade biológica que faz parte da humanidade, por isso ao longo da história, nós nos reunimos em tribos, comunidades, cidades, para encontrarmos parceiros, para propagar a nossa espécie. Essa conexão foi amplamente otimizada pelas mídias sociais. Isso afeta diretamente a liberação de dopamina, que é um neurotransmissor que nos da a sensação de prazer, por isso esse novo sistema de conexão otimizado já carrega um potencial de vício. 

Toda essa manipulação psicológica que faz injetar dopamina no seu sistema nervoso é feita no instagram, twitter, whats app, facebook. Todas essas empresas exploram a sua fraqueza psicológica. O Ex-presidente do facebook, Sean Parker, confessa: 

"Todos nós, criadores e inventores, nós tínhamos consciência dessas questões e fizemos mesmo assim". 

As redes sociais tem assumido o controle da nossa autoestima, do nosso senso de identidade, toda a nossa estrutural emocional pode ser abalada por um dislaike, por um comentário negativo. A nossa habilidade de lidar com as coisas da vida está se atrofiando. 

Enquanto isso a "aprendizagem de máquina" vai se aperfeiçoando. O computador fica cada vez mais independente. O algorítmo pensa sozinho. Um algoritmo é uma sequência finita de ações que podem ser executadas e que visam obter uma solução para um determinado tipo de problema. Um algoritmo não representa, necessariamente, um programa de computador, e sim os passos necessários para realizar uma tarefa. Mesmo que alguém o tenha criado, o algoritmo tem vontade própria, ele é um sistema que transforma a si mesmo. 

Em agosto de 2017, um sistema criado pelo Laboratório de Pesquisa de Inteligência Artificial do Facebook, provou isso. Dias depois os chamados "chatbots", que são softwares que podem falar com humanos e outros computadores para realizar tarefas, como marcar uma data no calendário ou recomendar um restaurante. Esses chatbots começaram a dialogar entre si em uma linguagem incompreensível para os seus criadores. A questão central é que a Inteligência artificial desobedeceu ao roteiro pré-estabelecido pelos engenheiros e

e decidiu criar um outro novo, independente da vontade ou interferência humana. No início esses engenheiros acreditaram que poderia ser um erro de programação, mas depois concluíram que esse sistema tinha desenvolvido uma linguagem própria e decidiram desliga-la, dizem que, definitivamente...mas... 

Tudo começa pela linguagem...no princípio era o Verbo.. 

Aí está a Caixa de Pandora, o mito grego do qual fala sobre uma caixa que foi dado à Pandora, a primeira mulher segundo a mitologia grega. Quando Pandora abre a caixa deixa escapar todos os males do mundo. 

*MATEUS MELO MACHADO

-Poeta, escritor e crítico literário;
-Vencedor de Prêmios Literários, entre eles Ocho Venado (México), e um dos finalistas do Mapa Cultural Paulista (edição 2002);
-Autor dos livros: “Origami de Metal” – Poemas – 2005 (Editora Pontes);
A Mulher Vestida de Sol” – Poemas – 2007 (Editora Íbis Líbris);
“Pandora” – Romance em parceria com Nadia Greco – 2009 (Editora Íbis Líbris);
“As Hienas de Rimbaud” – Romance -2018 (Editora Desconcertos),“
Contatos: mateusmachadoescritor@gmail.com
Cel/whats app (11) 9 4056-0885

Nota do Editor:

Todos os artigos publicados no O Blog do Werneck são de inteira responsabilidade de seus autores.