Me sinto muito feliz de ter participado do último TDC AI Summit. Eu costumo esquecer o quanto gosto dessas conferências e o quanto elas me mantém mais motivado a estudar mais e a conectar com as comunidades. Esse período sabático está me permitindo participar de eventos sem nenhum compromisso primário, o que me permite avaliar seu impacto sobre outros aspectos.
Parabéns em especial à Yara e à Equipe do TheDevConf. Todos esses anos já são mais qu e consolidou como principal Hub de comunidade de tecnologia no Brasil. É incrível ver o que ela é capaz de fazer, e tendo acompanhado essa história desde 2007, fico muito feliz com o resultado!
O evento foi ótimo, com algumas palestras incríveis, e gostaria de traçar uma análise sobre a comunidade. Acredito que estamos num momento inicial e é necessário um posicionamento mais intenso com relação ao uso das plataformas de inteligência artificial.
É muito fácil acreditar no Hype sedutor das bigtechs, e falar sobre todas as incríveis possibilidades de que esta tecnologia vai nos proporcionar. Nossa indústria vive de Hype e de promessas estapafúrdias para gerar engajamento e valuation, não sendo diferente com IA: todo dia tem alguém dizendo que uma nova ferramenta vai acabar com os desenhistas, os devs, os carteiros, os motoristas, os contadores ou os diretores de cinema. Quem entrega e implanta tais tecnologias sabe bem que a realidade é outra.
"Não pensamos com naturalidade a respeito do futuro da IA dentro das esferas do capitalismo, geopolítica e democracia. Nem sequer pensamos em nossos futuros eus e em como os sistemas autônomos podem impactar nossa saúde, relacionamentos e felicidade. " Amy Webb
No fim, todos queremos trabalhar com um ferramental tão bom para resolver nosso dia-a-dia: esse foi o tema da maioria das palestras. Muitas pessoas demonstrando total empolgação e engajamento no que as plataformas mais famosas tem a oferecer. Interessante ver uma comunidade grande surgindo e apesar do tamanho reduzido do evento, deu para perceber as lideranças engajadas em trazer mais gente para o baile.
A participação das empresas foi grande, conectada com a comunidade especialista da melhor forma: apresentando ferramental, propondo ecossistemas e ajudando a viabilizar o uso de suas plataformas. Percebo, obviamente, uma descentralização da oferta de soluções e por enquanto pouca consolidação do mercado, natural para o momento. Esperem por uma consolidação eventual nos próximos 2 anos: quantas startups de Copilot precisam existir? Quantas plataformas de frontend do chatGPT sua empresa precisa? Muitas dessas ferramentas vão encerrar as atividades nos próximos 24 meses.
Assim como muito do que estou lendo em livros de techBros, falta um questionamento mais profundo do impacto, risco e consequência do uso indiscriminado das plataformas no dia-a-dia das empresas.
Nina da hora, Ford Global Fellow, foi uma das únicas palestrantes a tratar do tema Ética em Inteligência Artificial no evento.
Me pergunto se isso é influência do fato de que quem dominar a pesquisa e direcionamento tecnológico no mundo da IA hoje serem pouquíssimas principais empresas, e se complicar com alguma delas pode significar não ter acesso ao que ela provém. Nesse contexto o destaque vai para a palestra da Patrícia Peck, que foi cirúrgica no posicionamento: é total incompetência dos líderes atuais de empresas que decidem utilizar plataformas com termos de uso draconianos e que responsabilizam as empresas pelo resultado eventual, e assumem a propriedade intelectual do que for construído.
Silvio Meira descreve perfeitamente o momento atual: precisamos encarar a IA como uma nova dimensão da realidade que se apresenta a nós. Esta não é somente uma ferramenta para tornar o trabalho mais produtivo, e precisamos tratar a IA como um mecanismo profundo de transformação. Os negócios que se transformaram com a internet foram os que melhor sobreviveram: é preciso enxergar os negócios de uma nova forma.
O Giovanni escreveu há pouco:
"Como empresas que não tem capacidade (ou orçamento) para sequer implementar um BI vão desenvolver em cima de plataformas de IA? A resposta é clara: não vão."
Minha visão vai além, e incorpora um novo desafio: nossa autonomia. Equipes de tecnologia sem orçamento ou amadoras vão entregar a decisão sobre ferramental e plataforma para empresas que já dominam o mercado, inviabilizando qualquer agência pessoal no uso de IA para processos críticos. Quer um exemplo disso?
Sistemas que incorporam ferramentas de IA estão sujeitos à mesma degradação que nossos sistemas de TI: manutenção dos modelos é necessária para manter uma qualidade de resultado aderente às expectativas das pessoas. Ainda vejo uma certa ingenuidade na crença de que basta ter um agente autônomo que todos os problemas de atendimento estarão resolvidos, e isso também é impulsionado por desenvolvedores de ferramenta que minimizam o impacto.
O exemplo da Air Canada se tornará cada vez mais comum, e serve de parâmetro para entendermos o quando o hype em IA em geral pode impactar equipes de tecnologia, e trazer resultados péssimos de negócio:
Ao utilizar um chatbot com LLM em seu site, um passageiro recebeu uma recomendação inventada de reembolso, que não existia anteriormente nos dados de treinamento do bot. Conclusão: um juiz determinou que a empresa seguisse a política proposta pelo BOT, uma vez que a tecnologia estava sob a tutela e domínio da companhia aéra.
Perceba, isso é um sintoma: LLMs sempre irão inventar informações, é inerente à sua arquitetura. Colocar isso na capa da sua empresa, torna você responsável pelos resultados gerados. Com a pressão cada vez mais de legislação e regulamentação do uso de inteligência artificial pelos governos e especialistas mundiais, as empresas serão responsabilizadas pelo resultado dos seus algorítimos.
À medida que sistemas semelhantes são usados, por exemplo, na saúde e segurança pública, qual será o impacto na vida de pessoas?
Outro aspecto do evento, que me detém a atenção, é a participação das muitas empresas e qual a motivação real delas estarem por ali. Em meio a todo o hype de ganho de produtividade com o uso de ferramentas de IA, precisamos ser céticos: a maioria das vezes, desenvolvedores de plataformas minimizam os riscos reais de incorporar IA para geração de código, e isso impactará negativamente sua equipe de tecnologia. No fim, qualquer percepção de produtividade inicial pode ser um tiro no pé no longo prazo.
Todo gestor e executivo de empresa que se apresentou fez uma referência ao aumento de produtividade dos times, ou a expectativa de que qualquer das ferramentas ampliaria a produtividade das equipes. O interesse é claro: vender sonho.
Um novo estudo tenta trazer luz aos impactos de longo prazo do uso de ferramentas como o Copilot na produção de código, gerando resultados ruins no longo prazo do uso de plataformas de código com IA. No fim, essas plataformas se tornam mais um gerador de Dívida Técnica para as equipes, e quem pagará a conta futura na manutenção de sistemas legados serão os nossos times.
Quando você voltar do próximo evento de um vendor de plataformas de IA para desenvolvimento de software, seja cético ao extremo - não sabemos ao certo o impacto geral na produção de sistemas que necessitam de evolução constante e manutenção recorrente: você pode estar assumindo um risco que não conseguirá se livrar no futuro.
No fundo, as métricas de aumento de produtividade em desenvolvimento de software com o uso de ferramentas de Copilot representam o estado da nossa indústria: A maioria do código produzido é Boilerplate, e essas ferramentas apenas aceleram o trabalho que não deveríamos estar fazendo de qualquer forma.
Foi muito bacana participar do evento, e acompanhar essa comunidade. Estou empolgado para me envolver mais no mundo da IA!
Comments