O que os acontecimentos extremados de ódio, violência e polarização no mundo nos últimos anos têm em comum? em A Máquina do Caos, Max Fisher tem a resposta categórica: Redes Sociais reprogramaram nossa mente e nosso mundo. Através de uma análise extensa com especialistas na área, pesquisadores e ativistas em todo o mundo, ele apresenta um argumento contundente sobre as ferramentas que tanto usamos no dia-a-dia. Estamos sendo manipulados.
Esse livro me deixou estarrecido em muitos momentos - sendo de tecnologia, acompanhei muitos dos relatos descritos aqui enquanto eles aconteciam e sempre estive a par do impacto que a polarização do discurso na internet tem causado em nosso país. Agora, ter isso reunido e detalhado, demonstrando, exemplo após exemplo, como nós permitimos que grandes empresas de tecnologia estabeleçam seu domínio sobre nossa vida diária, me fez repensar muito o uso de redes sociais.
O Algoritmo
Quem tem medo da inteligência artificial? A medida que nosso entendimento sobre o impacto da IA no mundo cresce, nos deparamos com o uso indiscriminado de algoritmos de machine learning com o único objetivo de otimizar tempo nas plataformas, e ao fazer isso, sem nenhum radar moral, estamos sujeitos à maior manipulação humana da história. A que custo? Nossas vidas.
Nick Bostrom descreve essa situação de uma forma ilustrativa:
Imagine que você possua uma IA cujo único objetivo é criar o máximo de clipes de papel possível. Rapidamente ela pode decidir que a melhor forma de produzir mais é remover os humanos da produção, evitando que ela seja desligada e pare de produzir mais clipes. O mundo em que esse algoritmo existe, é um mundo onde tem muitos clipes de papel mas nenhum humano.
O problema fundamental no uso de algoritmos de inteligência artificiais pode ser determinado pelo fato de que quem controla esses algoritmos pode impactar diretamente a vida das pessoas de maneiras terríveis, e sem que essas empresas sejam responsabilizadas pelo dano causado.
Youtube, facebook, instagram, twitter possuem um modelo de negócio baseado na maximização do tempo na plataforma. A única métrica que importa é quanto tempo se passa na online, para que se possa vender mais anúncios - e pos anos essas plataformas vem otimizando seus mecanismos de busca/sugestão de videos para garantir que nós estejamos sempre ligados aos sites. Essas plataformas foram criadas por especialistas em atenção humana para serem perfeitas naquilo que se espera: viciar ao máximo seus usuários, para que eles estejam sempre vidrados - e todos somos influenciados por isso.
O artigo Moral Outrage in the Digital Age, apresenta de forma reduzida o que já sabemos sobre as redes sociais: quanto mais inflamatório o conteúdo, mais ele viraliza - e as plataformas sabem disso, e lucram em cima da nossa capacidade fácil de nos indignarmos. Sabendo disso, essas empresas criam mecanismos de indicação de conteúdo que sempre vão privilegiar os mais polêmicos, os mais absurdos, criando um ciclo vicioso que pode nos sequestrar para lugares sombrios. É por isso que depois de ver um video sobre exercícios físicos na academia, eventualmente você pode vai apresentado a vídeos sobre como o feminismo está trabalhando com uma sociedade secreta para eliminar completamente homens da terra.
Apesar da ampla evidência do impacto das redes sociais nos mais diversos atos de violência, as empresas tem feito muito pouco para impedir que mais casos como o que aconteceu no Siri Lanka sigam acontecendo. Atentados em escolas, genocídio, teorias da conspiração, ódio online - tudo é maximizado pelas redes sociais, sem que elas sejam sequer responsabilizadas adequadamente por isso.
Recomendo muito o livro.
Comentários