AESE Insight #5

O famoso general chinês Sun Tzu, autor da obra “A Arte da Guerra” antecipou, de forma brilhante, 2500 anos antes da criação da Internet, que “Se você conhece o inimigo e se conhece a si mesmo, não precisa recear o resultado de cem batalhas. Se você se conhece a si mesmo, mas não conhece o inimigo, por cada vitória obtida, também sofrerá uma derrota. Se você não conhece nem o inimigo nem a si mesmo, sucumbirá em todas as batalhas.” Neste enquadramento, em qual das situações descritas por Sun Tzu é que nos encontramos no contexto do ciberespaço? Será que temos um efetivo conhecimento dos nossos comportamentos face a este novo domínio e das respetivas consequências na forma como o utilizamos e interagimos, quer no dia a dia quer mesmo em conflito ou guerra? E quanto ao inimigo? Quem é ele, de facto, neste novo domínio? Tem rosto? Sabe-se quem é, ou é ubíquo e indeterminado?

Vivemos num mundo conectado física e virtualmente de que a maioria da população mundial faz parte e depende, e onde a respetiva matéria-prima são os dados e a informação, que se deve transformar em conhecimento acionável, que, uma vez partilhado, enriquece a comunidade de interesse, podendo mesmo dar origem a sabedoria.

É nesta cadeia de valor que uma interferência maléfica poderá produzir uma perceção da realidade premeditadamente falsa, levando, desta maneira, a tomadas de decisão que desencadearão efeitos indesejáveis, incluindo os que potencialmente afetam as democracias e assim os direitos fundamentais dos cidadãos.

Relevo que este assunto, na sua essência, não é novo. Antes da existência da Internet, já se usavam métodos semelhantes, denominados de “operações de informação e psicológicas” (PSYOS e INFOOPS), e sobre a qual existe uma sólida base doutrinária. A diferença para os dias de hoje reside no facto de que vivemos num mundo em rede, em que tudo está cada vez mais ligado, fazendo com que o alcance, a abrangência e a velocidade com a que a informação se propaga seja infinitamente maior do que outrora, produzindo, assim, efeitos mais amplos, rápidos e mais complexos.

Acrescem, ainda, que vivemos num mundo em que somos permanentemente inundados de informação, que nos sufoca e que nos torna ineficientes, técnica e informacionalmente falando. Estamos reiteradamente afogados em informação, mas famintos de conhecimento, o que nos leva, com a rapidez dos tempos em que vivemos, a efetuar um consumo superficial de informação, relegando para segundo plano (ou mesmo para nunca), a leitura atenta e profunda, a criação de conhecimento e o debate construtivo de ideias, que afinal são a base do nosso modelo de sociedade.

É que, para muitos de nós, o digital produz ainda um efeito de deslumbramento, cegando-nos relativamente aos perigos que pode conter para a promoção de uma saudável vida em sociedade, levando a que deixemos de nos conhecer efetivamente quando usamos o digital para passarmos a ser cada vez mais seres ficticiamente sociais.

A revista Times de 29 de janeiro de 2019 contém um excelente e ao mesmo tempo impressionante artigo assinado por Roger Mcnamee, investidor de várias empresas sedeadas em Silicon Valley e que acompanhou de perto o crescimento da empresa Facebook (FB). Neste artigo, Mcnamee revela uma grande preocupação com o que se tem passado nos últimos tempos com a direção daquela empresa. De facto, ainda que o propósito do seu criador tenha sido benigno (colocar em contacto pessoas, independentemente da distância física que as separa, permitindo a troca de experiências e de informação), o seu modelo de negócio está assente na publicidade, e na capacidade de influenciar a atenção dos utilizadores, de modo a levá-los a ver cada vez mais anúncios. Com efeito, os sociólogos e os especialistas em marketing sabem que uma das melhores maneiras de persuadir as pessoas é através do apelo às suas emoções, para assim incrementar o comprometimento e a ligação da pessoa ao evento que lhe causa essa emoção, como por exemplo o medo, a indignação, a alegria ou a revolta. Neste enquadramento, o FB constrói o perfil da pessoa, passando a conhecê-la muito melhor do que muitas vezes ela própria se conhece, fornecendo-lhe depois informação da forma que ela mais prefere. Tal significa que o que cada um recebe no seu portal se transforma numa realidade única, numa bolha filtrada da verdade, que cria a ilusão de que a sua comunidade de “amigos” acredita nas mesmas coisas e tem as mesmas opiniões sobre um determinado assunto. Este mecanismo serve o modelo de negócio do FB. No entanto, trabalhos de investigação levados a cabo por especialistas em comportamento humano, estão a chegar à conclusão de que este processo aumenta a polarização e o extremismo, decrementa a vontade e a oportunidade de debate profícuo de ideias, inibe a cultura do contraditório, que são algumas das características fundamentais nas quais se alicerçam as democracias.

As pessoas passaram a ser apenas métricas e gigantescas quantidades de dados (Big Data), que viabilizam o aprofundar do conhecimento que se possui sobre os seres humanos e sobre as sociedades em que vivem, aumentando, desta forma, ainda mais a eficácia com que se influencia o respetivo pensamento. Cientes deste efeito, entidades a operar em prol de interesses  globais, perceberam o potencial amplificador desta tecnologia para a usarem de forma perniciosa, tirando partido disso através da injeção de notícias falsas que levam a que pessoas mal informadas, que vivem no conforto da bolha em que todos estão de acordo, a acreditar naquilo que todos os envolvidos pretendem; o problema é que são mentiras premeditadas e bem arquitetadas, que são enviadas cirurgicamente para os alvos que são, afinal, os utilizadores da rede social.

O que é um facto é que os sistemas que as grandes empresas tecnológicas criaram, associados à colossal massa de dados que coligem, estão a mudar-nos mais rapidamente do que eles ou nós conseguimos compreender. A escala da mudança é tão vasta e sistémica que nós, simples seres humanos, nem conseguimos abarcar essa mudança, provavelmente devido ao modo como o uso incessante de tecnologia afetou a nossa capacidade de prestar atenção a algo muito maior do que 140 ou 280 caracteres. O presidente da Apple, Tim Cook, durante o seu discurso na Conferência Internacional dos Comissários para a Proteção de Dados e Privacidade em Bruxelas nos finais de 2018 disse que “Levado ao extremo, este processo cria um perfil digital duradouro e permite às companhias conhecer-nos melhor do que nós próprios nos conhecemos. O nosso perfil é um punhado de algoritmos que servem conteúdo cada vez mais extremo, transformando em dano as nossas preferências inofensivas”. Tim Cook tomou da decisão de exigir aos autores das aplicações da APP Store da Apple que deixem de utilizar os sistemas que registam a atividade dos utilizadores do IPhone, apenas permitindo a inclusão na loja online, das APP que comprovadamente demonstrem que não o fazem. Um bom exercício de autorregulação!

Como deveremos, então, procurar responder a esta situação?

No seu livro “Technolgy versus Humanity – the coming clash between man and machine”, de 2016, Gerd Leonhard escreve algo que resume o que me parece dever orientar a nossa ação: Just because we can, it doesn‘t mean we should.

Por outras palavras, para que uma tecnologia veja a luz do dia, tem que ter um propósito centrado no ser humano e não apenas na tecnologia propriamente dita. Não me parece que devamos automatizar só porque é possível tecnicamente fazê-lo, sem olhar ao impacto que tal automatização terá na vida das pessoas. Diria mesmo que, antes de deixar o laboratório e ser transformada em produto, qualquer tecnologia deveria responder ab initio e de forma inequívoca às seguintes perguntas: em que é que beneficia o ser humano, em que é que incrementa a sua qualidade de vida e a sua prosperidade. Como é que pode ser explorada para retirar a dignidade à pessoa? Se as respostas a estas perguntas não forem satisfatórias, não deverá deixar a fase laboratorial. Estas são questões fundamentais. É o problema da falta de sentido da modernidade referido por Max Weber.

O problema fulcral é que a tecnologia não conhece a Ética, mas a sociedade que hoje temos e que teremos no futuro é altamente dependente da tecnologia. Para mitigar o seu uso em prejuízo da humanidade, e à semelhança do que já existe para as ciências da vida, vários autores apelam a que seja desenvolvido um código internacional de ética digital, e um quadro de regulação e de governação da Inteligência Artificial, incluindo um Conselho Ético para o Digital, eventualmente sob os auspícios da ONU, que limite o seu uso às aplicações que beneficiem a humanidade, fazendo prevalecer a vontade dos seres humanos em detrimento do poder do digital. A União Europeia e a OSCE têm dado passos neste sentido.

Para concluir, gostaria de, com esta reflexão, não transmitir a impressão de que não sou a favor da inovação e da modernidade. Muito antes pelo contrário! O que defendo, isso sim, é que devemos, enquanto seres inteligentes, procurar que a tecnologia seja criada com um propósito, num quadro de ética que preserve a dignidade do ser humano, que tenha um propósito humanista e que nos permita efetivamente conhecermo-nos melhor do que um qualquer algoritmo.

Cada vez mais dependemos da tecnologia para viver como vivemos. Mas não podemos deixar que seja a tecnologia a determinar como vivemos. Esta é uma responsabilidade coletiva porque são, sem dúvida, as pessoas que devem continuar a contar e também devem ser as pessoas que devem determinar e marcar a diferença.

Voltando à parábola que mencionei no início desta reflexão, parece evidente que, também desta feita, o “vinho novo” (novas descobertas tecnológicas) tem que ser colocado em “odres novos” (novas atitudes, ética digital, centralidade no ser humano). Se não o fizermos, corremos riscos de romper os odres, e perder o vinho, i.e., de não aproveitar o que de positivo para todos nós a dimensão digital nos pode trazer.