O Risco Oculto Da Evolução Tecnológica

poder político, impacto digital e riscos não óbvios.

Em 2019, The Wall Street Journal fez uma matéria sobre como wearables de monitoramento de atividade cerebral combinados com Inteligência Artificial estavam sendo testados com crianças de uma escola primária na China.

A tecnologia é desenvolvida pela empresa BrainCo e tem como objetivo medir e analisar a capacidade de aprendizado e concentração através de um dispositivo EEG (eletroencefalograma) de monitoramento de ondas cerebrais.

Se, assim como eu, assistir à matéria lhe despertou uma sensação distópica e lhe deixou desconfortável por alguma razão, pode ficar tranquilo, o teste foi descontinuado devido a protestos públicos dos pais.

Mas não sejamos ingênuos. Esse tipo de projeto não foi o primeiro e não será o último, principalmente na China que carrega um histórico de extremo controle, desrespeito a liberdades individuais e constante vigilância sobre sua população.

No entanto, este é um debate muito mais complexo e que merece mais nuances que uma simples condenção de como a tecnologia foi abordada. É fundamental mergulharmos a fundo no que este evento representa, quais são os riscos e benefícios envolvidos, e principalmente, qual o papel da política quando analisamos potenciais ameaças de inovações tecnológicas.

E é exatamente através desses dois eixos isolados, tech x política, que irei abordar o assunto.

Eixo Tecnológico

Algumas pessoas assistiram à reportagem e ficaram chocadas com o nível de automação e tecnologia envolvida no futuro da educação infantil (e geral), e como isso pode podar as relações humanas ou nos desconectar de atividades offline que são importantes para o desenvolvimento.

Essa é uma visão popular, porém não é como eu enxergo essa tendência.

Tecnologias sempre foram o motor propulsor do progresso humano. Linguagem e Prensa de Gutemberg, por exemplo, nos permitiram aumentar nossa capacidade de codificar e decodificar conhecimento, quebrando barreiras geográficas e temporais, resultando em uma onda massiva de desenvolvimento científico nos séculos seguintes.

Tecnologias controversas, como a modificação genética de plantas - que resultou na Revolução Verde e nos salvou das previsões malthusianas de fome global generalizada - e transplantes de órgãos e vacinas, foram severamente criticadas pela sociedade da época, mas no longo prazo mostraram-se tecnologias desproporcionalmente positivas para a humanidade.

Internet, redes sociais, smartphones, criptomoedas e agora inteligências artificiais também foram e ainda são alvo dos mais diversos tipos de críticas e reações antagônicas, no entanto, ano após ano, essas tecnologias estão cada vez mais integradas às nossas rotinas e gerando um valor massivo para a sociedade.

Isso quer dizer que toda e qualquer inovação tecnológica deve ser aceita de prontidão sem questionamentos? Obviamente não.

Estar consciente das externalidades e dos trade-offs que cada tecnologia oferece é fundamental. No entanto, o contrário também não é verdadeiro. Rejeitar instantaneamente qualquer inovação que emerja, simplesmente porque nos deixa descorfortável ou fere nossas crenças pessoais, não é a estratégia mais efetiva para evitar potenciais problemas.

O caminho não é ignorar, negar ou tentar frear, mas sim entender seus princípios, identificar oportunidades e externalidades, e trabalhar para otimizar o lado positivo, e mitigar os negativos.

Infelizmente no Brasil e em boa parte do sistema educacional estatal global, a educação está estagnada operando sob premissas analógicas do século 20 e da revolução industrial que não fazem mais sentido na era digital. Mesmo ideias simples como desassociar o papel do professor como a principal fonte de conteúdo dos alunos, e migrar para um modelo onde os jovens consumem de fontes online direto de especialistas, geralmente enfrenta grande objeção. Quem dirá abraçar ideias como tutores virtuais baseados em inteligência artificial e sensores cerebrais.

E quanto mais demoramos para subir um degrau na escada da inovação, maior será a vertigem que ela irá nos gerar.

Mas essa é uma disrupção latente e inevitável. A educação convencional, onde alunos sentam em uma cadeira e absorvem conteúdo de um professor, está completamente obsoleta.

Com todo o conteúdo disponível online, somado a tutores inteligentes como ChatGPT que possuem a capacidade criativa de individualmente guiar os alunos através de processos de aprendizados altamente customizados, torna-se evidente que a real educação nos próximos anos se dará fora das salas de aulas convencionais.

Ambientes imersivos nativos digitais, com experiências compartilhadas entre alunos de múltiplas culturas, e intermediados por inteligências artificiais e apoiados por diversos tipos de sensores, serão muito mais eficazes na criação de experiências educacionais personalizadas e dinâmicas para os jovens. Sem mencionar a inclusão que essas tecnologias irão proporcionar globalmente para quem vive em regiões remotas e não tem acesso a escolas de qualidade, que aliás, são a maioria das pessoas.

Isso, claro, combinado com atividades híbridas no mundo físico para desenvolver outras habilidades motoras e sociais, como esportes, artes, teatro, artesanato, dança e assim por diante.

Quando posicionamos o cenário de inclusão de tecnologias digitais na educação sobre o espectro da Janela de Overton (Overton Window), a qual mede o grau de aceitação de uma política pelo público mainstream, provavelmente ela estará fora em algum ponto entre aceitável e sensato, caminhando lentamente para o popular.

Já o uso de inteligências artificiais como sendo os principais tutores dos alunos, bem como o uso de interfaces de monitoramento, com certeza se posicionam distante da Janela de Overton, entre impensável e radical.

Claro, compreensível. São ideias novas, desconhecidas, cheias de tabus e dúvidas. Algo muito diferente daquilo a que a sociedade sempre considerou familar quanto à educação.

No entanto, essa visão aos poucos também será transformada.

Tecnologias de interface homem-máquina terão um papel fundamental no nosso desenvolvimento educacional, em nossa saúde e nas mais diversas áreas de nossas vidas.

Nos conectarmos a dispositivos que leem nossos indicadores fisiológicos em tempo real não é diferente de irmos ao médico, coletarmos sangue para acompanharmos nossos indicadores vitais e melhorarmos nossa saúde com medicamentos e outros tipos de intervenções. Por que saber o nível de glicose ou vitamina D no sangue, ou até mesmo nosso DNA é diferente de analisarmos padrões cerebrais?

A diferença é que faremos isso em tempo real para tudo. Quanto mais dados coletarmos sobre nossa fisiologia, e mais frequente for a coleta, maior a possibilidade de identificar padrões e hábitos negativos, que precisarão ser removidos; e comportamento positivos, que poderão ser reforçados e otimizados.

Poderemos identificar os mais diversos tipos de padrões e comportamentos.

Talvez nosso cérebro tenha uma capacidade de absorção de aprendizados 30% melhor à tarde após uma refeição baseada em proteína e vegetais, se comparado com outros horários e cardápios, por exemplo. Ou quando ficamos expostos a algum tipo específico de conteúdo online, nosso nível de cortisol (estresse) se eleva, o que no longo prazo agravam quadros de ansiedade ou problemas gerais de saúde.

Imagine conseguir monitorar esses desvios e padrões em tempo real, e evitá-los ou corrigi-los logo no início, ao invés de apenas quando algo mais severo se manifestar no futuro.

Esse tipo de análise que é impossível hoje, devido a falta de acesso a dados do corpo humano, fará cada vez mais parte da nossa realidade, da mesma forma que não vivemos mais sem smartphones.

Nossos descendentes, quando olharem para trás, ficarão chocados em como vivíamos e tomávamos decisões baseado em numa quantidade praticamente nula de dados e numa capacidade limitada de processamento de informação.

Mais ou menos como pensamos hoje sobre nossos antepassados que viviam sem ter consciência da existência de micro-organismos. Como era possível? Não ter a menor ideia do impacto de particulas atômicas, vírus, bactérias e fungos sobre a vida humana era o mesmo que viver parcialmente cego. Um micro universo complexo e poderoso embaixo de nossos narizes, mas que não enxergávamos, e portanto sucumbiámos de forma impotente às mais graves consequências.

E hoje, nossa vida em relação ao corpo humano é similar. Ainda temos acesso a limitadíssimos dados. Estamos apenas arranhando a superfície de como nosso cérebro e corpo funcionam.

Você provavelmente tem informações mais atualizadas sobre a política do seu país do que sobre os indicadores vitais do seu próprio corpo. O que é insano de se pensar.

Por isso, evolução tecnológica, seja na educação ou em qualquer área, é nossa ferramenta definitiva para conseguirmos romper barreiras milenares e continuarmos evoluindo como sociedade. Internet, smartphones, cripto, AI, biotecnologia, são meios para esse fim.

---

No entanto, a tecnologia não é neutra. Os atores envolvidos e o ambiente nas quais ela opera fazem uma diferença absoluta no resultado gerado pela inovação.

Quem tem acesso aos dados coletados? Qual o controle do usuário sobre a tecnologia? Quão previsível é o comportamento daquela inovação? Quão aberto e neutro é o ambiente para se desenvolver tecnologias alternativas?

Essas são as questões mais importantes quando discutimos sobre inovação tecnológica. E invariavelmente o poder que mais influencia essas variáveis é poder político.

Eixo político

Se por um lado, assistir ao vídeo me deixou inspirado quanto a possibilidades do uso de tecnologias no entendimento de como a concentração funciona, por outro lado, me gerou um alto desconforto quanto ao controle político em larga escala que essas tecnologias possibilitam.

Você quer seu governo tendo acesso às suas ondas cerebrais? Aos seus indicadores fisiológicos? Às suas emoções? Onde os dados estão sendo armazenados? Os pais têm acesso e liberdade para deletá-los?

Se mesmo em mundo primordialmente offline privacidade já era um dos direitos humanos mais importantes, quem dirá em uma economia altamente digitizada onde nossos ativos e informações mais valiosos estão registrados em banco de dados de empresas e instituições fora de nosso controle.

Qual o papel da privacidade quando informações em tempo real do nosso corpo humano também puderem ser acessíveis, digitalizadas e compartilhadas com entidades sem nossa permissão ou sequer conhecimento?

Com a economia digital centralizada nas mãos de poucas empresas e, principalmente, sob às mãos pesadas de regimes autoritários, o custo da vigilância e do controle está sendo reduzido drasticamente.

Em um país como a China, com uma população de 1.4 bilhão de habitantes, não era uma tarefa fácil saber o que cada pessoa estava falando, fazendo ou transacionando em cada região remota do país. O custo e a barreira para o controle era altíssimo. No entanto, hoje os dados mais sensíveis da população estão em bancos de dados do WeChat, que é totalmente dominado pelo governo. E com o avanço das Inteligências Artificiais está cada vez mais fácil, barato e efetivo encontrar padrões de comportamente indesejado e aplicar censuras ou sanções.

E não apenas no mundo digital. A China é o país com a maior quantidade de câmeras de vigilância do mundo - 373 câmeras para cada 1000 pessoas. E essa imagens são processadas por poderosíssimos softwares de identificação facial.

Boa parte dos pagamentos hoje já ocorrem através de reconhecimento do rosto dos clientes.

Essa capacidade de vigilância e controle em escala continental por uma única entidade é uma distopia que deixaria até mesmo George Orwell de cabelos em pé.

E quando combinamos essa realidade distópica com o avanço exponencial de wearables e super inteligências artificiais governamentais sendo usados para educação infantil, o cenário torna-se ainda mais assustador.

Definitivamente o protagonista nessa tendência não deveriam ser as tecnologias em si, seja ela IA ou outra. O poder da inovação aqui está à mercê de uma forma muito mais perigosa de poder, o político.

Tecnologias digitais combinadas com centralização, controle e autoritarismo geram externalidades negativas que extrapolam com bastante folga os benefícios marginais que qualquer tecnologia poderia proporcionar.

Por isso é um erro analisar o impacto das tecnologias emergentes de forma isolada do cenário político subjacente.

Os efeitos de um mesmo aplicativo, por exemplo, de redes sociais, podem ser totalmente diferentes de acordo com o país sob o qual ele opera.

Na China, o WeChat é usado para censurar palavras políticas e críticas ao partido comunista chinês. Em outros ambientes mais livres e democráticos (ou com ausência de controle da Internet), redes sociais foram usados justamente para derrubar governos autoritários ou corruptos, ou simplesmente como ferramenta de protesto para sinalizar injustiças e exigir uma reação adequada de autoridades.

A mesma tecnologia, porém resultados diametralmente opostos.

Não é à toa que tecnologias fundamentalmente pró liberdade e difíceis de serem controladas, como as Criptomoedas e a própria Internet Aberta, foram abolidas da China. Bitcoin é uma ferramenta de soberania e uma infraestrutura neutra para se transacionar de livre e global, sem restrições e sem a possibilidade de bloqueios, congelamentos ou censura.

Por outro lado, IA é uma ferramenta que pode ser controlada pelo governo, e que potencializa a produtividade da vigilância e do controle da população em larga escala.

Portanto, analisar tecnologias exponenciais emergentes olhando apenas para sua natureza e propriedades é um equívoco. Pois a mesma inovação pode trazer resultados complemente diferentes dependendo do poder que a está controlando.

Por isso minha impressão sobre o uso de tecnologia na educação infantil foi ambivalente ao assistir a matéria.

Uma positiva, pois acredito no poder da experimentação de novas tecnologias e na atitude de vanguarda de explorar novas fronteiras. Outra, negativa, pois a total centralização da infraestrutura digital e a ausência absoluta de privacidade, combinados com um ambiente político não democrático, transforma o potencial benefício no desenvolvimento educacional em um pesadelo distópico de vigilância e controle.

Se a tecnologia tivesse código open-source, se os dados fossem privados e ficassem sob controle dos pais e usuários, se o governo respeitasse propriedades privadas e instituições democráticas, se existisse um ambiente saudável de competição para outros projetos; a forma como veríamos a adoção dessas tecnologias seria complementa diferente.

Ainda geraria rejeição, pelo simples fato de ser algo desconhecido, mas com transparência e descentralização o processo de teste e adoção seria muito mais seguro e eficaz no longo prazo.

Portanto, é fundamental calibrar nossa lente ao analisar riscos e benefícios de tecnologias. Elas não são autônomas ou totalmente neutras. Sem enxergarmos as estruturas de poder que estão por trás dessas tecnologias, nenhuma ação de contenção de riscos será verdadeiramente efetiva, e o risco principal continuará oculto mas iminente.