Acredito que este livro está, até o momento, entre os mais importantes que li em 2024. Por vários motivos, mas o principal é conseguir estabelecer um posicionamento direto e crítico sobre o estado atual da competição para o domínio da pesquisa e produção de plataformas de Inteligência Artificial, possibilitando a principal vantagem geopolítica da próxima era mundial: tecnologia como arma, cultura e senhora das decisões que tomarão conta dos próximos 30 anos no mundo.
De início, Amy foge da expectativa de eventualmente termos uma super inteligência dominadora que irá subjugar todos os habitantes da terra, e parte para uma metáfora mais real: teremos uma morte por mil cortes de papel. A medida que cedemos pra sistemas autônomos e algoritmos nosso poder de decisão sobre o que comemos, assistimos, quem contratamos, qual rota seguimos para o trabalho, que parceiros teremos, onde investimos, quanto pagamos e recebemos por serviços, somos dominados pelas decisões de equipes que não nos conhecem, e acreditam estar realizando algo de bom para a humanidade. Apesar de estarmos acabamos com a Tirania da Escolha, estamos nos tornando marionetes para 9 grandes empresas no mundo.
Cada vez mais algoritmos são responsáveis pela nossa vida, e na próxima década estarão nas funções do nosso trabalho: geração de relatórios financeiros, análise de performance de times, sumário de reuniões, sugestão de decisões estratégica e análise de contratos de fornecedor, análise de pool de candidatos para contratação. Aos poucos, várias das tarefas do dia-a-dia serão automatizadas e estaremos alheios ao seu impacto, afinal, esses sistemas estão sendo construídos por um grupo seleto de pessoas, em um grupo minúsculo de empresas.
Estamos diante de uma nova corrida Armamentista moderna, em que Softwares autônomos estarão por trás de tudo que pode será produzido no mundo: Os produtos que você consome, o quanto você recebe pelo seu trabalho, os serviços que você recebe, o conteúdo que você consome, em alguma instância terá sido influenciado por algum Algoritmo usando IA. Como país, estamos quase de fora dessa corrida, muito longe dos investimentos necessários para criar novas plataformas reais de Inteligência Artificial, seja por falta de vontade política ou ecossistema de venture capital que viabilize a pesquisa e desenvolvimento na Área. Nos resta conhecer e avaliar os dois modelos hegemônicos sendo realizados no mundo atualmente: o modelo centralizador do governo chines, e o modelo de mercado americano - somos, nessa nova realidade Tecnofeudalista, apenas vassalos de reinos já formados.
Bem, se isso parece um tanto exagerado, é porque é! Já estamos enfrentando os desafios culturais que a IA apresenta, principalmente nos riscos de desinformação, riscos à democracia e racismo sistêmico. Além de apresentar riscos mais direto ao mundo, não apenas impactando nossas vidas através das redes sociais: colocando o planet em risco ao impactar o uso de energia para treinar os novos modelos. E as últimas tentativas de influenciar o trabalho dessas empresas, feita por governos de países em desenvolvimento, não deram nenhuma resultado.
No livro, a autora aprofunda o caso dos dois modelos de investimento, e o quanto eles tem sido responsáveis pela total hegemonia de toda a pesquisa e desenvolvimento de IA no mundo: universidades, profissionais e projetos se interconectam através do intercâmbio dos mesmos profissionais, venture capital e empresa. Ela chama essas empresas de Os 9 Titãs da IA: Baidu, Tencent, Alibaba na china impulsionado pelo PCC, e Google, Meta, Apple, Amazon, Microsoft e IBM nos EUA.
“A humanidade enfrenta uma crise existencial em um sentido amplo da palavra, porque ninguém trata de uma questão simples que tem sido fundamental para a IA desde o princípio: o que acontece à sociedade quando transferimos o poder para um sistema construído por um pequeno grupo de pessoas que foi desenvolvido para tomar decisões em nome de todos nós?“ - Amy Webb
O que torna uma IA justa? Justa pra quem? O estudo dos valores comuns da humanidade é, por si só, um desafio para os dias atuais: como incorporar as diferentes perspectivas de vida em algoritmos que decidem o que vemos, o que compramos, quem contratamos e quem prendemos? O que acontece quando a decisão de construir sistemas que coletam imensas quantidades de dados para tomada de decisão autônoma são criados por poucas lideranças?
Nesse contexto, são analisados dois modelos de soberania de IA, com seus impactos detalhados: O Modelo Chinês, centralizador e de longo prazo, que encaminha o posicionamento chines de domínio geopolítico no mundo, e o Americano de “não interferência” e sem coordenação de empresas, relegando ao mercado e ao curto prazo a decisão de domínio momentâneo da tecnologia.
Amy Webb apresenta os EUA como um país despreparado para lidar com qualquer avanço coordenado de liderança tecnológica que outro país possa ter. O contraponto aqui representado pela política chinesa de se tornar uma liderança global em IA num futuro próximo, utilizando todo seu recurso financeiro e industrial para influenciar o mundo no uso de suas tecnologias. O futuro se destina ao país que conseguir usar o máximo de dados possíveis. Nessa discussão geopolítica, duas abordagens são bastante claras: a descentralização capitalista dos eua dificulta completamente um consenso e criação de alianças para desenvolvimento de políticas reais de incentivo à indústria, e a abordagem centralizadora e coordenada da China, com o risco real de um estado de vigilância e controle da população.
O posicionamento da China como liderança mundial econômica e tecnológica é indiscutível e tratado de forma aprofundada no livro, diferentemente do Rule of the Robots - Martin Ford, que trata a China como bicho papão. Analisando de forma crítica o Plano Chinês de se tornar a liderança em IA até 2030, a autora traça argumentos importante e contundentes sobre seu plano de expansão, e como essa ação coordenada de coleta de dados, investimento em pesquisa e desenvolvimento, além do controle de tecnologia impactará o mundo nos próximos anos, além de traçar um paralelo ao outro plano chinês de integrar o mundo numa nova rota comercial, chamado de Cinturão e Rota, ou a Nova Rota da Ceda. Viabilizando o uso de sua tecnologia em países parceiros, já podemos ver uma mudança no cenário geopolítico global.
Interessante é que o livro posiciona Microsoft e NVIDIA como menos proeminentes no mundo da IA, obviamente pelo livro ter sido escrito antes dos acontecimentos dos últimos anos, que tornaram ambas as empresas na lideranças globais de esforços de pesquisa e desenvolvimento em IA. A dificuldade real de livros e autores futuristas, é que normalmente eles erram mais do que acertam. Sem saber que eventualmente a infraestrutura de processamento de IA e a empresa mais influente do mundo atualmente (OpenAI) estariam sob o domínio dessas duas empresas, Amy Webb não deu muita importância aos desenvolvimentos de processadores específicos para IA, puxados pela NVIDIA. Talvez hoje o livro fosse um pouco diferente, mas não muito. Portanto, seja cético nos cenários listados aqui.
Nosso mercado busca otimizar custo e maximizar lucros, isso acontece de forma tão intensa que não nos damos conta da influência no que consumimos diariamente. O que acontece quando o incentivo de produzir IAs seguras e justas esbarra no valuation das grandes empresas? O incentivo a redução de custos geral, com uma cultura de eficiência doentia colocará em risco nossa sociedade. O caso Boeing está aí para ser avaliado: ações deliberadas de aumentar o valor da ação que colocaram em risco os aviões da companhia foram tomadas pela liderança, com pouca preocupação com o resultado.
Em nome da viabilização do lucro em pouco tempo estamos colocando incentivos perversos para pesquisadores que deveriam ter maior escrutínio quanto ao impacto dos sistemas criados. O uso comercial da IA eh projetado para otimização de lucro, e não para questionamentos e transparência. Algoritmos caixa-preta excluem o público geral do entendimento e racionalização das decisões tomadas por algoritmos, ampliando o mal que tais sistemas podem causar.
Estamos construindo um mundo para o dinheiro morar, e não necessariamente para os seres humanos. Em nome da viabilização do lucro em pouco tempo estamos colocando incentivos perversos para pesquisadores que deveriam ter maior escrutínio quanto ao impacto dos sistemas criados
Inteligência Artificial permite empresas fazerem mais inferências sobre você, utilizando os dados que elas já estão coletando. Uma rede neural é um saco vazio que vai chegar a uma decisão se você alimentá-la com dados. De certa forma, é a maneira de desvincular o julgamento de decisões difíceis a humanos, atribuindo regras ao que sempre foi complexo. É uma maneira de criar uma aura de objetividade num mar de dados, sem que você realmente possa questionar, afinal: foi um algoritmo que fez. O fato de estarmos automatizando arte e não as tarefas que todos nós odiamos, diz muito sobre nosso momento atual de mercado.
O livro, em sua parte final, apresenta três cenários possíveis para o nosso futuro, que descrevem visões positivas, pragmáticas e negativas para o futuro, utilizando a estratégia que a empresa da Amy Webb, Future Today Institute.
Todo o futuro gira em torno do PDRs, Personal Data Registry, que se tornarão gêmeos digitais controlados pelas pessoas diretamente, ou mantidas pelas empresas - que já existem hoje de maneira fragmentada e embrionária: seus dados de navegação, compras, entretenimento, paquera, trajeto diário já são armazenados e administrados por empresas. Vale a leitura de como ela aborda essas questões. Além disso, já estamos vendo uma explosão de dispositivos conectados que ampliam as informações individuais da sua vida: o quanto você dorme, qual sua tendência cardíaca e o quanto você se exercita.
O cenário positivo é utópico, com empresas e governos se conectando através de uma aliança global para tornar IA um bem universal para benefício da humanidade, seu direito universal o acesso e controle dos próprios dados. O livro termina com uma caso de defesa do Estabelecimento de uma Aliança Global para tornar Inteligência Artificial em um bem público global.
O cenário pragmático descreve como em breve tudo que vemos ouvimos e usamos estará conectado com uma rede de dados que constroem seu PDRs à revelia de sua vontade, e como empresas com acordos corporativos vão usar tudo isso a favor e contra você - vai comer um bolo? Seu plano de saúde tem o preço definido pela sua capacidade de se manter em forma. Algoritmos treinados para maximizar a capacidade de gestão de saúde se tornam uma arma contra nossa vontade e humanidade, no fim, estaremos todos numa grande fábrica de clipes de papel. O desamparo aprendido é resultado do uso excessivo da ia para fazer todas as atividades corriqueira, impulsionado pelo nudging e desinteresse nosso em discutir criticamente o uso da tecnologia: distópico e provável
No cenário pessimista: o trabalho do conhecimento, intelectual é substituído. Acreditamos que motoristas, baristas e carpinteiros seriam substituídos, mas fomos nos: desenvolvedores, economistas, gerentes de projeto e administradores que perderemos o emprego uma vez que a IA toma decisões por nós, analisa os dados gerados automaticamente e determina o que iremos trabalhar.
Amy Webb acredita que é papel das instituições de ensino superior ampliar a formação dos profissionais de tecnologia: é necessário que qualquer titulação em tecnologia seja também uma titulação em ciências sociais, filosofia e sociologia. Não há mais como esperar que as demandas de curto prazo do mercado ditem a organização e estudo das especialidades que irão impactar o mundo daqui para frente. Compreender que os sistemas que estamos construimos, e que vamos implantar, trazem um viés moral e cultural inerente e indissociável aos profissionais que os constroem é crucial, e por isso um estudo adequado se faz necessário.
Este livro me trouxe muito aprendizado e uma percepção mais profunda sobre o tamanho do desafio futuro.
Recomendo muito a leitura.
Comments