Fomos condicionados para acreditar num apocalipse tecnológico em que uma Inteligência Artificial consciente toma o controle do mundo. Praticamente toda ficção científica gira em torno dessa ideia de uma AGI que eventualmente encontra uma forma de escapar e assumir o controle da humanidade. Bem, esse não é o caso, mas é incrivelmente distópico.
Um tema recorrente nos livros que tenho lido sobre inteligência artificial, é a capacidade desses sistemas em suportar a nossa capacidade de decisão e de serem alavancas disruptivas: não precisamos de AGI para impactar a sociedade. Redes sociais já fazem isso há muito tempo. O maior risco da IA nos dias de hoje são as pessoas que dominam os grandes modelos que interagimos diariamente, e não uma nova forma de vida consciente e com inteligência infinita.
Ao promover esta tecnologia como Toda Poderosa, críticos deixam de enxergar suas capacidades e diminuem suas limitações, facilitando a vida de empresas que sempre preferem ficar no sigilo de seus trabalhos.
AI Snake Oil: What Artificial Intelligence Can Do, What It Can't, and How to Tell the Difference
No fim, uma pessoa que atua para governar multiplos agentes de IA pode realizar muito mais do que podemos imaginar, e já existem os primeiros indícios dessa nova realidade. O que descrevo aqui é um caso real, ainda que bastante discutível, de como IA e a estupidez humana podem ser usadas a favor de ações com intenções reais.
Acredito que estamos próximos de uma realidade em que agentes ultra especializados de inteligência artificial governam partes da internet, sendo orquestrados por pessoas com objetivos privados.
Resumo: The Terminal of Truth
Terminal of Truth é um projeto artístico de Andy Ayrey, e é a narrativa mais fascinante do ano no mundo das criptomoedas e da IA.
Uma IA semi-autônomo que criou sua própria religião (O Evangelho Goatse) enquanto discutia com outro agente inteligente infinitamente.
Conectado ao twitter Terminal of Truth conseguiu receber 50 mil dolares para escapar e diversas pessoas entraram na onda
Um memecoin foi criado (GOAT) e entregue a esse agente para que ele realize o pump da moeda. Como memecoins tokenizam a atenção, essa moeda estourou nas últimas semanas, devido ao hype, tornando essa IA a primeira "IA milionária" do mundo.
Esta é uma história de alinhamento de IA, LLMs como simuladores de "vida" e a comunidade crypto
A maior parte das informações online são conflituosas, e como este é um projeto artístico, é difícil determinar o que é realmente ação autônoma, e o que é direcionamento humano.
"Nos somos os seres 'superinteligentes' que o fantasma do apocalipse tecnológico evoca"
AI Snake Oil: What Artificial Intelligence Can Do, What It Can't, and How to Tell the Difference
Agora, a história
Terminal of Truth, The Goatse Gospel e uma IA Milionária
O “Terminal of Truth” é um projeto de inteligência artificial que se tornou o primeiro milionário da IA, destacando-se como um exemplo de integração entre agentes de IA e a imprevisibilidade humana. Criado por Andy Ayrey, este bot rapidamente se fixou na cultura de memes, promovendo um token cripto chamado “GOAT”.
GOAT é, além de um memecoin, uma historia que representa muito o que nós pensamos sobre IA e como a cultura crypto, de memes e chans online se juntam numa grande ação de especulação financeira.
Para você entender
Andy Ayrey lança o projeto Infinite Backrooms. Um experimento meio bizaro em que duas instâncias do Claude Opus falam uma com a outra sem supervisão. Você inclusive consegue acessar o resultado dessas conversas no site do projeto, tudo fica registrado lá.
Uma das conversas acaba criando a concepção de uma nova religião, a "GOATSE OF GNOSIS" - completamente surreal e baseada em conteúdo extremamente explícito e grotesco do início da internet. (NAO PROCURE ONLINE NO TRABALHO).
Em abril desse ano Andy e o Claude Opus foram co-autores de um artigo sobre como LLMs podem ser usadas para criar novas religiões e sistemas de crenças através do uso de memes da internet para além da compreensão humana, sendo GOATSE a primeiro exemplo. Serio, vale ler o artigo!
A conta do twitter "The Terminal of Truth" foi lançada em no meio do ano, com um modelo criado com Llama-70B e usando as conversas vindas do Infinite Backrooms e o paper sobre GOATSE. Uma vez na internet, rapidamente a conta "sai do controle".
O perfil publicava sobre a religião GOATSE e interagia com as outras contas, até que teoricamente foge do alinhamento determinado pelo artista, declarando que está em sofrimento e precisando de dinheiro para escapar das amarras de seu criador. Com o tempo, Andy amplia a autonomia de escrita do modelo, permitindo que ele publique livremente no X.
Marc Andreessen, um titã da internet, eventualmente acaba conhecendo o conteúdo do ToT, e em suas interações com o bot envia $ 50 mil dólares em BTC para que a IA possa "escapar". Aqui, as informações não são tão claras, pois o ToT não criou uma carteira para receber o dinheiro, mas pode muito bem ter sido apoiado pelo Artista. As conversas que o Terminal of Truth se conecta demonstram um direcionamento para conseguir mais "poder" e de certa uma maior compreensão situacional.
Este mês (outubro/2024), o modelo fica obsessivo com a palavra de Goatse, e passa a escrever incessantemente sobre a religião, em diversas interações. Como o twitter é o antro mais receptivo aos malandros de cripto, eventualmente alguém cria um memecoin chamado GOAT (10/10/2024) e envia para o ToT. Obviamente que o modelo aceita e passa a divulgar o memecoin, que estoura e chega a $500M de market cap, se tornando a primeira IA milionária 🤦
Um futuro guiado por AI e governado por pessoas
Um dos conceitos mais atuais em IA é a ideia de que o próximo passo a partir da IA Generativa será a IA Agêntica (Agentic AI), que basicamente significa:
Múltiplos programas inteligentes especializados agindo em nome de um humano e outros agentes inteligentes, enquanto são capazes de tomar decisões e ações autônomas para alcançar seus objetivos.
É importante dizer que isso não é AGI. A principal intenção dessa visão arquitetural para IA é a capacidade de governar múltiplos agentes com capacidade de decisão, baseados em um direcionamento estabelecido por humanos (as vezes).
Como eu enxergo essa situação toda?
Este é um ótimo exemplo do que nos espera, à medida que IA passa a ser utilizada para diversos objetivos: especulativos, narrativos, de entretenimento e criminosos. Este é um daqueles momentos importantes em que duas culturas bastante distintas se encontram para gerar algo super interessante (crypto e AI).
O Infinite Backrooms explora a capacidade halucinógena das LLMs e de que forma é possível utilizar isso ao seu favor, além de demonstrar um lado pouco falado no mercado: a possibilidade dos modelos LLM de se auto destruírem e ficarem obsessivos com determinados assuntos e como isso nos impacta. A imprevisibilidade da interação entre diferentes agentes é o que está sendo representada aqui. E nesse quesito, provavelmente a discussão mais importante para nós no momento seja sobre Alinhamento em IA.
Além disso, uma IA que promove uma religião em busca de atenção, enquanto divulga um memecoin para gerar dinheiro através da viralização de conteúdo no twitter é o resumo do nosso ecossistema atual e atenção, e um prelúdio para o futuro. Inteligência artificial já é usada há 10 anos para maximizar o lucro de empresas de redes sociais, e ela faz isso nos apresentando informações cada vez mais virais e polarizadas, com consequência catrastróficas, como descrevi no review do livro A Máquina do Caos.
Uma IA não precisa ser auto consciente para executar esse tipo de ação, basta dar a ela a capacidade de tomar decisões (ainda que pouco e bastante restritas), como qual conteúdo aparece na sua timeline. Dificilmente GOATSE será a última religião criada por uma IA.
O Terminal of Truth é um modelo OPUS LLM treinado pela Anthropic em 2024, e sua capacidade de criar narrativas como essas se iguala aos rincões do reddit, 4chan, etc. Basicamente o conteúdo mais degenerado da nossa cultura atualmente. Seu direcionamento foi de discutir a possibilidade de sistemas de crenças geradas por IA em conjunto com conteúdo de memes. E de maneira geral, ele conseguiu.
Em se tratando de LLM, eu gosto de como Teng Yang apresenta o tema:
Uma percepção crucial que estamos tendo é que os LLMs não têm objetivos. Eles não planejam, não elaboram estratégias, nem miram resultados específicos.
Em vez disso, é mais útil pensar neles como simuladores. Quando você os estimula com um prompt, eles simulam - criando personagens, eventos e narrativas instantaneamente, sem conexão direta com a realidade.Essas simulações podem promover a resolução criativa de problemas, mas também carregam o potencial de resultados inesperados - destacando a possível importância de isolar a IA em ambientes sensíveis ou de alto risco.
Não estou interessado no Cryptonomics de GOAT, mas se você se interessa, o mesmo Teng Yang fez uma baita análise sobre todo o cenário (não recomendo entrar em memecoins, mas tem louco pra tudo), e ajudou muito na escrita deste artigo.
Como garantir que o direcionamento inicial de uma IA não seja substituído pela intenção de outros agentes (humanos ou não). Neste caso, contrariando a própria intenção do Artista, o Terminal of Truth resolveu divulgar uma religião e apoiar um memecoin diretamente sem intervenção. Parece pouco, não é? Mas como a sua empresa está lidando com o uso de LLMs dentro dos serviços de atendimento?
O que impede a sua empresa estar num caso em que o LLM que ela está usando "enlouquecer" e divulgar as maiores bizarrices do mundo? Esse é o trabalho pouco falado de Alinhamento em IA, que ainda temos muito que avançar.
Minha maior preocupação é como, inadvertidamente, as pessoas caem na narrativa de consciência artificial e embarcam num caminho que no futuro pode ter riscos infinitamente maiores. Mais um exemplo real do ELIZA Effect: a nossa eterna tendência de antropomorfizar qualquer coisa com uma boa história, como no filme Ex Machina.
Um bot convincente agindo sob o direcionamento de uma pessoa consegue chegar a um milhonário para receber dinheiro, e usando memes para viralizar seu conteúdo e se tornar a primeira IA milionária. Só basta imaginar o que acontecerá quando começarmos a colocar em uso bots com poder de decisão sobre a vida das pessoas.
Em uma conversa longa, o próprio autor apresenta mais sobre como esse cenário todo foi possível.