Sobre tecnologias e humanos no mundo digital – avant la démocratie!

Sobre tecnologias e humanos no mundo digital – avant la démocratie!

Fernando Filgueiras, Cientista social

 

Vivemos a concretude de um grande experimento humano que ultrapassa qualquer limite ético. A digitalização do mundo está associada à presença de diferentes ferramentas. Estas ferramentas são tecnologias disponíveis, essenciais para a conexão e dataficação dos indivíduos, submetendo a sociedade a um processo radical de mudança. Em muitos aspectos, uma concepção marxista (quase ingênua) do mundo digital pode ajudar a entender os desafios do presente. Afinal, quem controla a infraestrutura de informação e comunicação controla a comunicação global, o mercado e o comércio, incide em assuntos de política interna e produz novos padrões de desigualdade. O mundo digital ainda não tem acesso indiscriminado e produz novos padrões de exclusão, os quais ficaram muito visíveis nesse contexto de pandemia. As ferramentas digitais estão mudando a humanidade. Estas ferramentas incidem na ação humana, transformando opiniões, interesses e perspectivas.

De repente, de um mundo utópico que resplandecia em diferentes formas de mobilização online, passamos para uma espécie de distopia, outrora vivenciada com o medo de diferentes formas autocráticas e totalitárias. O mundo digital contemporâneo parece ter passado para os piores pesadelos da hipnopedia, do pertencimento de cada um a todos, da fuga da realidade pela soma, do vazio existencial dos cidadãos, descritos de forma dramática por Aldous Huxley em “Admirável Mundo Novo”. Tecnologias digitais mudam nossa capacidade de julgamento, decisão e sentimentos. Incidem diretamente na sociabilidade e na (in)capacidade de ação coletiva. As ferramentas digitais incidem na capacidade de ação humana, e algoritmos crescentemente assumem um lugar institucional. Eles definem quem tem e quem não tem direitos, quem é ou não é cidadão, as zonas vermelhas que segregam o espaço urbano e promovem exclusão, definem as mensagens que serão ou não serão vistas. Não é pouco imaginar que essa distopia incentiva uma crítica que sustenta a regulação de tudo e de todos no mundo digital, explodindo a vigilância que assola a passagem da sociedade industrial para a sociedade da informação e reforça o poder das plataformas digitais.

Nesse mundo digital emergente, ferramentas como a inteligência artificial induzem a um novo tipo de conhecimento. A inteligência artificial não é uma tecnologia simples, mas um conjunto de técnicas que simulam a inteligência humana para apoiar decisões autônomas tomadas por sistemas. Não existe uma definição precisa de inteligência artificial e não se trata apenas da automação de ações repetitivas. A inteligência artificial depende da capacidade de aprendizado de máquina e usa técnicas como aprendizado profundo, sistemas baseados em regras, processamento de linguagem natural, redes neurais e reconhecimento de fala para tomar decisões. Os sistemas de IA usam dados massivos para calcular, predizer e tomar decisões autônomas. Por exemplo, as tecnologias de IA são aplicadas aos sistemas de reconhecimento facial para prever o comportamento individual. As possibilidades de aplicação da IA ​​nas políticas públicas são variadas e tendem a uma crescente autonomia da máquina administrativa, que decide benefícios e direitos, além de punições e restrições.

Outra ferramenta importante é a Internet das Coisas (IoT), que é a fusão da internet com o mundo físico. Significa o uso de dispositivos conectados que coletam e compartilham dados e informações sobre vários aspectos da vida para uso em políticas públicas e negócios. Ela é sobre uma rede de pontos identificáveis ou “coisas” que capturam e compartilham dados. A Internet assume que as pessoas criam dados, enquanto a IoT assume que as coisas criam dados. A arquitetura da IoT deve ser completa e padronizada para coletar dados que podem ser usados em diferentes aplicativos. Aplica-se à conexão industrial, serviços financeiros, cidades inteligentes, energia inteligente, carros conectados, agricultura inteligente, saúde conectada, entre outros. A IoT aproveita a produção e o uso de dados usados pelos governos para formular e implementar políticas públicas, mais simples, como controle de fluxo de tráfego, e questões mais complexas, como produção agrícola e rastreamento de produtos.

Nenhum conceito do mundo digital talvez reproduza uma metáfora tão perfeita quanto o conceito de plataformização. A metáfora incide na ideia de que uma plataforma digital assemelha-se a uma plataforma de petróleo. Se na plataforma de petróleo são explorados e produzidos os meios essenciais para a existência da sociedade industrial, na plataforma digital são explorados os meios para que as tecnologias produzam a sociedade da informação. As plataformas são baseadas em modelos de mídia social, para promover a interação entre duas ou mais partes distintas. Elas têm um aspecto computacional, que produz interfaces inovadoras de interação; um aspecto político, como um espaço de fala; figurativo, em que a oportunidade é uma promessa abstrata como prática; e, por fim, um aspecto arquitetônico, no qual o design é importante para a construção de interações. As plataformas fornecem um novo modo de comunicação e exploração da vida cotidiana. As plataformas representam o progresso natural das TICs para resolver problemas coletivos, onde os cidadãos têm as habilidades necessárias para resolver problemas locais e nacionais, onde os governos fornecem informações e serviços exigidos pelos cidadãos e onde os cidadãos podem ser capacitados a desencadear inovações que melhorarão a governança.

Por trás de todas estas ferramentas existem algoritmos, que são procedimentos codificados para transformar dados de entrada em uma saída desejada, com base em cálculos específicos. Eles exploram, organizam e calculam soluções passo a passo, delimitadas por procedimentos codificados. A sua sintaxe incorpora uma estrutura de comando para permitir que isso aconteça. As soluções propostas pelos algoritmos dependem da sintaxe especificada em uma estrutura lógica na qual, a partir da entrada de dados, os resultados são estabelecidos. Dessa maneira, ele toma uma decisão a partir de uma estrutura lógica que usa cálculos estatísticos e predição a partir dos dados coletados de pessoas.[1]

O postulado dos algoritmos é que serão capazes de aprender e se adaptar para tomar decisões sem a necessidade de entrada ou controle humano. Eles adotam camadas de machine learning que os tornam independentes dos inputs humanos. A máquina executa uma primeira vez os comandos dos algoritmos, armazena os dados e aprende para mudar seu sistema de decisão. Vivemos um novo regime político, em que os algoritmos decidem pelos cidadãos e incidem na sua vida de maneira institucional. O regime da algocracia se impõe como futuro para a democracia.[2]

Todas essas tecnologias formam um conjunto complexo que conecta e compartilha informações. A digitalização do mundo possibilita uma verdadeira transformação da sociedade, criando recursos compartilhados, mas sujeitos à superexploração que exaure a confiança e a própria sociedade cada vez mais dataficada. A digitalização do mundo coincide com um mundo de fake news, desinformação, má informação e pós-verdade nas comunicações, precarização do trabalho em função da automação exponencial e da economia compartilhada, do fim da privacidade, de governos tecnocráticos que inauguram o regime da algocracia. Parece-nos que o mundo digital está sujeito a uma tragédia dos comuns.

A tragédia do mundo digital é o corolário teórico de um processo de exploração indevida de dados como recursos que têm uma natureza compartilhada.[3] A utopia do ciberespaço é que, como um lugar de conexão e compartilhamento, ele é um espaço de plena liberdade. Mas o avanço das tecnologias digitais acena para um mundo distópico. Essa distopia que hoje nos cerca decorre da crescente precarização do mundo do trabalho, do aprofundamento das desigualdades e de novas barreiras definidas pelas tecnologias digitais. O controle da infraestrutura da internet coloca o desafio sobre quem se apropria do mundo digital para criar um novo mundo humano. E significa também o desafio sobre quem se apropria do recurso que coloca esse mundo digital em operação: os dados que são transformados em informação e depois em conhecimento, que são compartilhados na virtualidade de uma realidade que se impõe.

A promessa de neutralidade e imparcialidade que algoritmos executam não se cumprem. Sistemas computacionais produzem vieses em diversas questões como raça, gênero, classes ou nacionalidade.[4] E algoritmos estão produzindo novas formas de desigualdade como a technological readlining, segregando populações mais vulneráveis e que vivem em condições precárias. A privacidade deixou de ser um valor estruturante e está sob o jugo de grandes corporações que controlam a infraestrutura da internet. Algoritmos são caixas-pretas protegidas por segredo industrial, mas que impactam diretamente as sociedades, mesmo fora de suas fronteiras geográficas.[5]

O mundo digital, hoje, está sujeito a um processo de exploração e crescente concentração de poder em torno das grandes plataformas.[6] Algoritmos e modelos de negócios compartilhados são predatórios com relação à economia, produzindo, ao contrário do que inicialmente se supunha, uma nova concentração da propriedade em poucas corporações. Note que o conceito de propriedade também se transformou. Não se trata do capital clássico do modelo marxista, nem do modelo de terras. Trata-se de um modelo em que os dados e o conhecimento se tornam essenciais para o modelo de negócios e estruturam de forma opaca um novo capitalismo de vigilância.[7] Google, Facebook e Amazon concentram o maior volume de dados gerados cotidianamente no ciberespaço. Não se trata da economia industrial e da concentração dos meios de produção. Trata-se de uma economia compartilhada em que o conhecimento se torna o motor do crescimento e que está armazenado em poucas corporações. Vivemos em um mundo de oligopólios de conhecimento e de dados.

Iniciativas de quebrar esses oligopólios já surgem e são bem-vindas. Mas ainda cercada de muitas incertezas e instabilidade. A turbulência política, econômica e social na qual vivemos há quase uma década interessa a essas plataformas. A incerteza e a instabilidade as alimentam. A migração de trabalhadores da indústria e do setor de serviços para a economia compartilhada fortalece as plataformas. A distopia é que a tecnologia digital aprofunda os mecanismos de controle sobre os indivíduos. O motorista que dirige para a Uber é monitorado 24 horas por dia com seu trabalho precário e sem direitos. O AirBnb mudou toda a lógica do mercado imobiliário. Internet das coisas potencializa o monitoramento constante do fluxo dos indivíduos. Cidades inteligentes são aquelas que aprofundam o controle sobre os indivíduos, direcionando suas ações por incentivos e constrangimentos. Cidades inteligentes são gigantescos experimentos sociais, sem transparência, sem accountability, sem que os indivíduos assim tenham garantido o seu direito humano de saber.

Modificamos as estruturas do welfare state sem que ninguém perceba. Algoritmos decidem sobre benefícios e direitos dos indivíduos, criando uma massa de pessoas sem direitos pelo simples fato de elas não manejarem as tecnologias digitais.[8] Todo o avanço das tecnologias digitais no Brasil parece esquecer que apenas 38% da população está online.[9] Além disso, existem massas de analfabetos digitais, os quais são automaticamente excluídos de qualquer tipo de serviço digital.

O motivador para essa digitalização do mundo é o contexto de austeridade fiscal que se impõe em crises econômicas. A crise de 2008 fez acelerar o processo de digitalização em países como Estados Unidos e no Reino Unido. Enquanto as economias industriais minguavam e o dinheiro sumia, as plataformas cresciam vertiginosamente. Para ajustes fiscais e austeridade, governos foram se transformando em plataformas, retirando qualquer tipo de interação humana em serviços públicos.[10]

O Brasil entra de forma um pouco tardia nesse processo. A crise só se tornou para valer em 2014. Desde então parece que não temos mais sossego e um mínimo de estabilidade. Mas em paralelo, o processo de digitalização avança a passos largos, tanto nos governos quanto nas empresas, sem que percebamos claramente como isso acontece. Marcos normativos foram revistos ou recriados, sem alarde ou problema. A economia do compartilhamento só fez avançar no Brasil, com um mercado gigantesco para as plataformas digitais explorarem. A tragédia dos comuns está nessa possibilidade da exploração indevida e devastadora do mundo digital, numa comunicação enviesada e na lógica da pós-verdade, em uma turbulência política, econômica e social permanente. A possibilidade de colapso é uma espécie de potência e alimenta esse mundo digital distópico.

Criar soluções para governar o mundo digital se torna um horizonte necessário. A resposta para a tragédia do mundo digital é constituir maior colaboração global e fortalecer mecanismos de governança como processos de participação, transparência e accountability. Este é um desafio para o qual ainda não há uma resposta concreta sobre como controlar o poder das grandes plataformas. O que sabemos é que tudo isso depende do aprofundamento dos valores da democracia, dos direitos humanos, da equidade e da justiça.[11] Não devemos esquecer que estas mesmas tecnologias digitais foram criadas por humanos. Cabe a estes humanos, agora, usar sua criatividade para governar o mundo digital de forma inclusiva, democrática e justa, o que suscita uma questão importante. Levamos cerca de 200 anos para criar os regimes democráticos, proporcionando a existência de instituições que buscam uma sociedade mais inclusiva, a criação de políticas públicas designadas para o bem-estar humano, o controle do poder e a participação. Por que não criarmos um regime democrático para o mundo digital?

A tarefa de criar um regime democrático para o mundo digital parte do desafio de desenharmos instituições que sejam efetivas, inclusivas e que possibilitem superar os dilemas de ação coletiva. Não se trata de pensarmos uma democracia digital. Já é fato que as tecnologias digitais podem mediar procedimentos democráticos como consultas públicas, transparência de informações, mobilizações online etc. A democracia digital já existe e tem muitas facetas. O problema agora é de outra ordem e trata de desenhar um mundo digital possível, com instituições sólidas e capazes de governar esse mundo complexo e disruptivo. É uma tarefa civilizacional que emula a criação dos regimes políticos democráticos. Trata-se de pensar um regime democrático para o mundo digital que possibilite o livre fluxo da informação, ao mesmo tempo que proteja a privacidade. Um mundo que esteja assentado em uma carta de direitos digitais e que possibilitem ampla inclusão da sociedade.

Esta tarefa civilizacional não representa um novo sonho utópico. Barlow imaginou o ciberespaço sem governos, sem fronteiras e anárquico. Não viveu para ver uma realidade conduzida pelo absurdo e pela complacência com a ignorância. Uma dose de realismo será necessária para cumprir o objetivo de criar um regime democrático para o mundo digital. O mais importante é constituir ação coletiva e colocar os termos de um mundo digital possível, sem os arroubos de uma inocente inovação disruptiva. O problema é antes de tudo político e significa transformar radicalmente as relações de poder em um mundo supostamente virtual, que ignora paradoxalmente toda a natureza humana que cerca essa virtualidade. O mundo digital é concreto, humano e não é determinado pelas tecnologias. As tecnologias são simples ferramentas. O necessário é pensar os humanos nesse mundo complexo, concreto e em formação.

 

O autor é professor da FGV

fernandofilgueiras@hormail.com

 

NOTAS DE RODAPÉ

[1] Domingos, P. (2015). The Master Algorithm. How the Quest for Ultimate Machine Learning Will Remake Our World. New York: Basic Books.

[2] Danaher, J. (2016). The Treath of Algocracy: Reality, Resistance and Accomodation. Philosophy & Technology, 29(3), 245-268, DOI: https://doi.org/10.1007/s13347-015-0211-1

[3] Almeida, V., Filgueiras, F. Gaetani, F. (2020). Digital Governance and the Tragedy of the Commons. IEEE Internet Computing, 24 (5), 41-46. DOI: https://doi.org/10.1109/MIC.2020.2979639

[4] Eubanks, V. (2018). Automating Inequality. How High-Tech Tools Profile, Police, and Punish the Poor. New York: St. Martin’s Press.

[5] Caplan, R., Boyd, D. (2016). Who Controls the Public Sphere in an Era of Algorithms? Mediation, Automation, Power. Data & Society. https://datasociety.net/pubs/ap/MediationAutomationPower_2016.pdf

[6] Rahman, K.S. (2017). Monopoly Men. Boston Review. http://bostonreview.net/class-inequality/k-sabeel-rahman-monopoly-men

[7] Zuboff, S. (2019). The Age of Surveillance Capitalism. The Fight of Human Future at the New Frontier of Power. New York: Public Affairs.

[8] Pilkington, E. (2019). Digital Dystopia. How Algorithms Punish the Poors. The Guardian. https://www.theguardian.com/technology/2019/oct/14/automating-poverty-algorithms-punish-poor

[9] OCDE (2019). Shaping the Digital Transformation in Latin America. Paris: OCDE.

[10] Dunleavy, P. Margetts, H. (2013). The Second Wave of Digital-Era Governance: a Quasi-Paradigm for Government on the Web. Philosophical Transactions of the Real Society, 371 (1987), 1-17. DOI: https://doi.org/10.1098/rsta.2012.0382

[11] Donahoe, E., Metzger, M.M. (2019). Artificial Intelligence and Human Rights. Journal of Democracy, 30 (2), 115-126, DOI: https://doi.org/10.1353/jod.2019.0029

Deixe uma resposta

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *