TL;DR; Lista de livros para conhecer o mundo político da IA:
Ceticismo, ativismo e visão técnica são uma combinação interessante para o momento atual do mercado: enquanto sou capaz de aproveitar e me empolgar com as evoluções na área de inteligência artificial, é inevitável percorrer um caminho político para enxergar o contexto maior em que nós, no Brasil e no mundo, estamos inseridos - não dá para fechar os olhos ao relatos de abusos e para a jornada que estamos nos direcionando como sociedade.
Ainda que meu papel no Mestrado seja conhecer tecnicamente as tecnologias que hoje dominam o noticiário, minha cabeça sempre busca entender como empresas cada vez mais influentes e dominadoras estão usando IA para direcionar tudo que acessamos online: sua timeline, seus descontos no e-commerce, os videos que você assiste, o filme de sexta com o marido, as notícias que chegam até você, os anúncios que você vê. Não existe mais nenhum espaço de informação que não seja influenciado por algoritmos, não existem mais comunidades que não precisem se comportar diferente para gerar engajamento.
O lançamento do Projeto Stargate, os sonhos de AGI, e a vontade corporativa em automatizar tudo, tem em comum todo um sistema complexo de reuniões a portas fechadas, lobby governamental e muito dinheiro na mesa para que as Grandes empresas de Tecnologia não sejam responsabilizadas por suas ações no mundo. Seja influenciando eleições, causando desestabilização política ou violência generalizada, BigTechs parecem inalcançáveis na hora de serem punidas pelos produtos que constroem.
Apesar do tom conspiratório dessa postagem, eu quero oferecer um caminho de conhecimento para quem busca mais informações sobre como, perdendo a guerra para Redes Sociais e sua capacidade de polarizar países inteiros, estamos fazendo o mesmo com Inteligência Artificial, deixando o mundo à mercê da influência desregulada dessa possível nova ordem mundial.
Preparei uma lista de livros para você que é de tecnologia ou interessado, conhecer mais sobre como o mundo fascinante da Inteligência Artificial sob uma perspectiva política, para te oferecer ferramentas de discernimento do que é real, e o que é apenas marketing barato para especulação financeira. Acredito que vai te ajudar no dia a dia de tecnologia, e construir uma visão mais cética da indústria.
Todos esses livros possuem reviews aqui mesmo no site, e que sempre trazem uma perspectiva além de um resumo. Convido você a navegar pelos posts, que são sempre carregados de referências. Nenhum dos livros espera do leitor algum conhecimento aprofundado técnico.
Está lista não é definitiva, e reconheço que ela está bastante direcionada a uma perspectiva estadunidense do mundo. Estou super interessado em receber novas referências e conhecer mais de outros autores, podem me sugerir leituras!
A Máquina do Caos - Max Fisher
O primeiro livro da lista não é por acaso. Ele define uma linha comum de atuação de todas as empresas tech dos dias de hoje: Defy, Defend, Depose.
Apesar da ampla evidência do impacto das redes sociais nos mais diversos atos de violência, as empresas tem feito muito pouco para impedir que mais casos como o que aconteceu no Siri Lanka sigam acontecendo.
Atentados em escolas, genocídio, teorias da conspiração, ódio online - tudo é maximizado pelas redes sociais, sem que elas sejam sequer responsabilizadas adequadamente por isso.
Do momento em que algoritmos passaram a maximizar o engajamento na plataforma, todo tipo de conteúdo extremo passou a ser massificado, e o impacto real só piora.
Unmasking AI - Joy Buolawini
Reconhecimento Facial e Visão Computacional estão entre os temas mais importantes dos últimos anos. Precisamos falar sério sobre isso!
Qual o custo para a vida de uma pessoa que é erradamente identificada por sistemas de Reconhecimento Facial? Qual a responsabilidade as empresas de tecnologia que desenvolvem tais sistemas devem ter? Qual compensação o Estado deve fornecer àqueles que são presos injustamente? Já são MUITOS casos de pessoas presas por falhas de sistemas de reconhecimento facial.
Em seu livro Unmasking AI, a Dr. Joy Buolamwini aprofunda o tema sob a perspectiva de sua pesquisa de mestrado e PhD, trazendo um argumento contundente sobre o problema do uso desses sistemas por agentes do estado. O livro também é complementado pelo trabalho de Tarcízio Silva, que recomendo muito o livro Raciso Algoritmo.
No Livro, um termo bastante interessante explorado é “Excoded”, como um sinônimo tecnológico para expulso, segregado, deixado de lado. Não sei se existe uma tradução, mas seria algo como “excodificado”. E porquê isso é importante?
À medida que entregamos para agentes autônomos a maior parte da decisão de acesso a serviços e produtos, maior é a influência que esses sistemas passam a ter para ampliar a segregação inerente à nossa estrutura social: excluído no mundo real, excluído no mundo digital. Excoded, ou Excodificado é um termo que remete a como, através de nossos sistemas, podemos estar ampliando e reproduzindo problemas de nossa sociedade.
Os Nove Titãs da IA - Amy Webb
Na divisão global do trabalho somos fornecedores de dados para os sistemas probabilísticos de larga escala. Seguimos sendo colônia.
Amy Webb descreve a fundo quem são os 9 Titãs da Inteligência Artificial, e o que pode acontecer quando entregamos nossa capacidade de decisão para sistemas criados por poucas pessoas:
Cedemos pra algoritmos nosso poder de decisão sobre o que comemos, assistimos, quem contratamos, qual rota seguimos para o trabalho, que parceiros teremos, onde investimos, quanto pagamos e recebemos por serviços. Somos dominados pelas decisões de equipes que não nos conhecem, e acreditam estar realizando algo de bom para a humanidade
Estamos numa corrida armamentista moderna, e software será a principal arma: Inteligência Artificial impactará nossa vida nas próximas décadas. Como 2 países seguem à frente nessa jornada, e 9 empresas representam todo o poder digital para desestruturar o mundo moderno?
Um livro extremamente importante para entender como o mundo se moldará daqui para frente
Work Without the Worker - Philip Jones
Phil Jones escreve, no Livro Work Without the Worker, um livro bastante importante para descrever o momento atual de desenvolvimento da IA:
O sonho da Inteligência Artificial Geral esconde um exército de trabalhadores esquecidos, em condições precarizadas de quase sobrevivência, que se tornam dependentes de plataformas com o único objetivo de extrair o máximo de seus dados e capacidade de trabalho.
A única forma pela qual IA funciona, é não pagando o real custo para produzir e operar a tecnologia:
- Com dados restritos por propriedade intelectual sem autorização
- Com trabalhadores precarizados para salvar o que a IA não consegue realizar
- Consumindo quase toda a água do mundo.
Conhecer de onde vem o prompt, é a melhor forma de construirmos um futuro mais justo
Taming Silicon Valley - Gary Marcus
Gary Marcus é um dos principais críticos da abordagem atual da inteligência artificial, já tendo inclusive testemunhado no congresso americano sobre os riscos de LLMs e empresas de tecnologia deixadas livre para desenvolver suas tecnologias, sem nenhum processo de regulação ou auditoria.
Neste livro do fim do ano passado, o autor explora como podemos garantir que o desenvolvimento de IA seja positivo, e onde estamos falhando em manter as empresas responsáveis pela sua disseminação.
Um ótimo livro para servir de exemplo do quê podemos fazer atualmente para barrar o caminho desenfreado dessa abordagem atual com LLMs sem nenhuma responsabilização ou regulação. O livro faz um argumento à inovação através da regulação que me parece bastante coerente e pode servir de guia para o futuro.
AI Snake Oil - Arvind Narayanan e Sayash Kapoor
O livro AI Snake Oil, lançado em outubro de 2024, de Arvind Narayanan e Sayash Kapoor, vai se tornar um dos principais da minha biblioteca sobre Inteligência Artificial.
Com uma abordagem bastante cética, o livro explora o quanto do que existe hoje de IA é puramente propaganda, e como podemos estar sendo enganados pelo hype. Sendo dois acadêmicos com experiência também em grandes empresas de tecnologia, a dupla traz uma visão contundente sobre o tema.
Dividindo a análise em IA Preditiva, IA Generativa e IA Moderadora de Conteúdo, o livro descreve o que funciona e principalmente o que não funciona em Inteligência Artificial. Importante para você que busca fazer investimentos em tecnologia, ou quem atua na discussão de políticas de uso de IA. Spoiler: praticamente nenhum produto de IA Preditiva funciona corretamente.
O livro é muito bom, e totalmente recomendável para quem quer entender como esta o momento atual do mercado de inteligência artificial de maneira direta e cética, com centenas de referências para aprofundar ainda mais do que as muitas paginas de conteúdo que o livro apresenta.
Acredito que esta lista trará muitos argumentos entender quando usar IA de forma segura, e quando questionar o que estamos recebendo todos os dias de departamentos de marketing e lobby governamental.
À medida que sigo nesse caminho de estudos, este site serve de repositório e de vitrine.
Comments