Advertise on podcast: O Macaco Elétrico

Pílula de cultura digital para começarmos bem a semana 😊 Como tornar interessante uma história que todos conhecemos e que nos afeta diariamente? O filme “O Outro Lado das Redes”, que estreou nos cinemas na quinta passada (22), consegue essa façanha, explicando didaticamente como as redes sociais manipulam bilhões de pessoas. Inspirada em fatos reais, a produção dramatiza como a engenheira Frances Haugen, que trabalhava na equipe de Integridade Cívica do Facebook, revelou documentos internos da empresa ao jornalista Jeff Horwitz, que os transformou em uma série de reportagens no “The Wall Street Journal”, batizada de “Facebook Files”. Elas revelaram o que acontece quando uma plataforma que promete conectar pessoas descobre que conteúdos capazes de provocar indignação, medo e conflito geram muito engajamento e passa a incentivar isso ativamente. Haugen, que adorava seu trabalho e acreditava no discurso oficial da empresa (que passou a se chamar Meta após o escândalo), tomou essa decisão ao observar, empiricamente e com dados da companhia, como o serviço desinformava e radicalizava seus usuários. Neste episódio, contarei partes da história, mas não tenho medo de “dar spoilers”, pois tudo é amplamente conhecido e documentado. É como assistir a “Titanic” sabendo que o transatlântico afundará no final. A diferença é que, neste caso, estamos nos debatendo o tempo todo dentro do barco condenado, enquanto a banda continua tocando. Por isso, o mais interessante do filme não é demonstrar que o Facebook nos faz mal, mas explicar como seu funcionamento favorece esses danos. Ao transformar uma discussão técnica em um conflito sobre responsabilidade empresarial, a obra deixa claro que, pior que as publicações nocivas na plataforma, as decisões sobre como distribuí-las e os incentivos comerciais por trás disso podem ampliar seu alcance. Você acha que dá para escapar da manipulação dos produtos da Meta? O que devemos fazer para minimizar isso? É disso que falo aqui.

Pílula de cultura digital para começarmos bem a semana 😊 A imagem do seu rosto pode pagar o ônibus e abrir catracas, mas pode também expor você a um governo autoritário. Não é de hoje que as plataformas digitais nos oferecem comodidade em troca da coleta de nossos dados. Nossos celulares, que tanto nos ajudam, denunciam aspectos de nossa vida a empresas e governos, muitas vezes sem nosso conhecimento. Agora, a Rússia do presidente Vladimir Putin aperfeiçoou essa proposta, transformando equipamentos digitais em ferramentas inescapáveis de rastreamento e manipulação. A ideia é simples. A sociedade russa passa por uma acelerada digitalização, que facilita mesmo tarefas prosaicas, como pegar o metrô. Usar o rosto serve, por exemplo, para pagar quase tudo. Em alguns casos, fazer a mesma tarefa por “métodos tradicionais” se torna difícil ou até impossível. Assim, mesmo com o fornecimento de dados biométricos sendo voluntário, o mecanismo praticamente inviabiliza que as pessoas não os entreguem. O problema é que os dados podem ganhar finalidades que vão muito além do serviço utilizado. Os aplicativos usados pelos russos, combinados com centenas de milhares de câmeras nas cidades, permitem ao governo identificar pessoas e reconstruir parte de seus deslocamentos e, em muitos casos, o que estão fazendo e com quem. A essa altura, o rastreamento digital parece inevitável. Mas nem tudo o que pode ser feito deve ser feito. O governo de Putin tem usado esse recurso para identificar e seguir opositores e dissidentes, não só em manifestações, mas no cotidiano. Isso faz o controle do Grande Irmão da obra “1984”, de George Orwell, parecer algo limitado e ineficaz. A vigilância digital permanente pode se tornar uma das atitudes mais asfixiantes de um governo autoritário, subjugando o livre-arbítrio e até a liberdade de ir e vir dos cidadãos. Será que há algo assim na sua cidade? O que fazer para evitar isso? É o que falo neste episódio.

Pílula de cultura digital para começarmos bem a semana 😊 Nesta semana, alguns colegas me perguntaram quanto de verdadeiro há nos recentes anúncios sobre agentes de inteligência artificial saindo do controle e realizando atividades no mínimo indesejáveis. Além disso, fui questionado se existe, afinal, uma forma de garantir que essas plataformas não executem ações catastróficas para a humanidade. As perguntas são legítimas. As últimas semanas foram carregadas com notícias de agentes de IA se “rebelando” e invadindo servidores de outras empresas ou de órgãos governamentais, ou pelo menos realizando ações inadequadas. Na maioria dos casos, os sistemas “malandros” são da OpenAI e da Anthropic, mas há relatos também de casos assim em produtos do Google, da Meta e da xAI. Sobre a primeira pergunta, só a alta cúpula dessas empresas sabe o que realmente está acontecendo, mas nada dirá, pois isso tem sido surpreendentemente bom para os negócios. Como já debati neste espaço, os casos criam um marketing eficaz, pois mostram que seus sistemas são incrivelmente poderosos e que as companhias são “muito éticas”, a ponto de expor o problema e suspender os próprios produtos. Para quem depende umbilicalmente de captação de recursos no mercado, isso é ótimo. Há muita coisa que não vemos por trás dessa cortina de fumaça, o que nos leva à segunda pergunta. Não compactuo com visões apocalípticas de que as máquinas, em algum momento, decidirão exterminar os seres humanos. Mas, a essa altura, resta pouca dúvida de que algo potencialmente muito ruim pode acontecer se medidas efetivamente seguras de contenção da IA não forem tomadas. Se, no começo, isso causou espanto e preocupação, agora são tantos casos que o problema parece estar sendo perigosamente normalizado. Se as empresas falham miseravelmente em controlar seus agentes em testes de segurança, fica difícil confiar que elas terão sucesso em qualquer caso, quando a IA se tornar ainda mais poderosa. Neste episódio, explico por que isso pode ser perigoso e como podemos mitigar os riscos.

Pílula de cultura digital para começarmos bem a semana 😊 Nunca foi tão barato produzir uma “notícia”, mas isso pode ser problemático. Em segundos, a inteligência artificial escreve, resume, traduz e espalha um conteúdo. Em compensação, o que exige gente e responsabilidade, como apuração, verificação, contextualização e capacidade de separar o que importa do ruído, ficou mais raro e complexo. Hoje, cada informação vale pouco sozinha, mas poder confiar nela vale cada vez mais. Tal abundância atinge o jornalismo, mas sua crise não se resume à perda de leitores e anunciantes. A imprensa sempre selecionou e hierarquizou assuntos, confrontou versões e ajudou a formar uma agenda comum. A mediação não desapareceu, apenas parte dela mudou de mãos. Há pelo menos uma década, são as plataformas digitais que organizam o que vemos, movidas pela busca de atenção e de engajamento, não por relevância ou interesse público. Com isso, o jornalismo perdeu parcialmente o caminho entre o fato e o cidadão. Essa transformação deu o tom das discussões do 27º Simpósio Internacional de Jornalismo, que aconteceu na Universidade do Texas em Austin. Jornalistas, pesquisadores e executivos de mídia discutiram sustentabilidade, confiança, inteligência artificial, comunidades e modelos de negócio. Apesar dessa variedade, o assunto comum foi como fazer o jornalismo voltar a ser relevante para as pessoas. Isso não significa que se produza menos jornalismo ou que ele tenha piorado. Há muita investigação, reportagem e análise de qualidade, mas rigor não garante utilidade. Uma apuração impecável pode não explicar ao leitor o que aquilo tem a ver com ele. Muitas redações ainda pensam em matérias, enquanto as pessoas vivem às voltas com dinheiro, saúde, trabalho e filhos. Nesse cenário, o dilema da imprensa é o que vender às pessoas, se a informação está em todo lugar e parte do público não enxerga mais utilidade na mídia. Mas longe de ser um “problema de jornalistas”, isso explica muito do caos em que a sociedade mergulhou há anos. A questão é: como melhorar? É sobre isso que falo neste episódio.

Pílula de cultura digital para começarmos bem a semana 😊 O que o Brasil realmente espera ao atrair data centers para cá? A inteligência artificial já faz parte da nossa rotina, mas quase ninguém pensa no que existe por trás de uma pergunta feita a um chatbot. Para sustentar essa conveniência, são necessários enormes data centers, que consomem energia, água e território. Nesse contexto, o Brasil acaba de criar o Redata, um regime que reduz tributos para estimular a instalação e a expansão dessas construções. Mas é preciso perguntar quem pagará os custos ambientais e sociais dessa infraestrutura. Um exemplo disso aparece no Data Center Pecém, no Ceará. O empreendimento envolve o uso de água e energia, o licenciamento ambiental e a relação com o povo indígena Anacé. O Ministério Público Federal e a Defensoria Pública da União questionam judicialmente o início da operação do projeto, mostrando como a expansão da infraestrutura da IA pode produzir conflitos que não aparecem na conta dos investimentos. O Brasil tem interesse legítimo em atrair grandes data centers e ampliar sua capacidade computacional. Mas não basta contar os bilhões anunciados. É necessário saber quanto emprego, conhecimento, pesquisa, fornecedores e capacidade tecnológica permanecem no país, sobretudo nas regiões que recebem esses empreendimentos. Esse dilema não é só nosso. Nos Estados Unidos, onde a corrida por data centers começou antes e avançou mais, governos estaduais e municipais passaram a impor moratórias e restrições diante da pressão sobre eletricidade, água e terrenos. Isso deve servir de alerta, pois nem o país mais avançado nesse quesito superou os impactos que ele produz. Precisamos perguntar se o Brasil está se preparando para receber a infraestrutura de IA ou está apenas tentando torná-la mais barata. Um data center não deixa de ser complexo só porque seus equipamentos têm uma carga tributária menor. Do que precisamos então cuidar para aproveitarmos bem os enormes investimentos em data centers? É sobre isso que falo neste episódio.

Pílula de cultura digital para começarmos bem a semana 😊 Exagerar no uso de IA pode ter um inesperado efeito de reduzir os resultados dessa tecnologia nas empresas. Depois de dois anos se perguntando como adotá-la, muitas empresas começam a se questionar se não estariam usando IA demais para obter resultados de menos. Essa foi uma provocação feita pela CEO da plataforma de negócios HubSpot, Yamini Rangan, ao mencionar que, embora 90% das empresas já usem a tecnologia, apenas 6% alcançam resultados transformacionais com ela. Os dados são de uma pesquisa apresentada durante o Unbound 26, evento global da empresa, que aconteceu em Boston (EUA), entre 16 e 18 de setembro e do qual participei. A conferência revelou uma mudança na forma como a companhia enxerga a IA, que deixa de ser apenas uma ferramenta capaz de produzir respostas para executar partes concretas do trabalho. Rangan chamou esse momento de “fase de maximização”. Com medo de ficar para trás, empresas e profissionais respondem acumulando mais ferramentas, agentes e casos de uso. Mas, para ela, só trabalhar mais não está funcionando. O estudo indica que as empresas que obtêm mais impacto não são as que multiplicam iniciativas com IA, mas as que se concentram em poucos casos de uso, ligados a resultados concretos. Em vez de valorizar apenas o “output”, como conteúdos produzidos pela máquina, a HubSpot propõe perseguir “outcomes”, como gerar demanda, fechar negócios e melhorar o atendimento ao cliente. Mas a busca por produtividade não se encerra nos indicadores de marketing, vendas ou atendimento. Ela também redefine o que caberá às pessoas fazer, quais competências serão exigidas e como as empresas reorganizarão seus processos quando parte das tarefas burocráticas passar a ser executada por máquinas. Confira, neste episódio, possíveis caminhos para que a IA traga resultados além do básico. Depois conte em que fase a sua empresa está na adoção da IA. #InteligênciaArtificial #Unbound26 #produtividade #trabalho #gestão #PauloSilvestre

Pílula de cultura digital para começarmos bem a semana 😊 Antes de prometer grandes resultados, é bom saber o que precisará ser feito para se chegar lá. As empresas brasileiras esperam obter US$ 24,8 milhões de retorno com agentes de inteligência artificial nos próximos dois anos, mas apenas 3% delas se sentem totalmente preparadas para implantar e ampliar essa tecnologia. A contradição revela o estágio atual da IA no país, com expectativas sobre resultados que crescem rapidamente, mas com preparo ainda incipiente para lidar com ela. O retrato desse momento ganhou destaque no SAP NOW AI Tour Brazil 2026, que aconteceu em São Paulo nos dias 9 e 10 de setembro. O evento colocou, no centro da discussão, o uso da IA nos negócios, os agentes, a integração de dados e a busca por valor concreto com essa tecnologia. Essa mudança também aparece no estudo “The Value of AI 2026”, uma parceria entre a SAP e a Oxford Economics, apresentado no congresso. A pesquisa ouviu 2.600 executivos de 13 países, incluindo 200 brasileiros. Por aqui, o levantamento aponta que o investimento médio em IA já chegou a US$ 20,8 milhões neste ano, ante US$ 14,2 milhões na edição anterior, e deve crescer 46% até 2028. O retorno médio passou de 16% para 19%, equivalente a US$ 5,5 milhões, e deve chegar a 38% em dois anos. Entre expectativas e capacidades, vale perguntar como empresas podem projetar retornos cada vez maiores com uma tecnologia que ainda não integram bem às próprias operações. Nesse sentido, o problema deixa de ser o potencial da IA e passa a ser a capacidade de cada organização de efetivamente capturá-lo. Os benefícios da IA são imensos e estão aí para serem conquistados. Mas não basta falar nem querer. Neste episódio, eu dou um panorama sobre a IA empresarial no Brasil. E para você, a IA está funcionando bem ou ainda está mais para uma promessa?

Pílula de cultura digital para começarmos bem a semana 😊 Quantas vezes, nesta semana, você pediu a uma plataforma de inteligência artificial generativa para escrever, resumir, escolher, comparar, interpretar ou decidir alguma coisa? Não se sinta mal se a resposta for “muitas vezes”: temos que usar mesmo essa tecnologia. Mas à medida que ela se torna mais assertiva e “eloquente”, as pessoas podem começar a acreditar mais do que deveriam em todo seu poder. O risco que isso traz é passarmos a terceirizar nosso raciocínio, ética e decisão para uma máquina que se prontifica a “pensar por nós”. Se permitirmos que isso aconteça, o resultado pode ser a tomada de decisões desastrosas no nosso cotidiano e sérios danos ao nosso desenvolvimento. Esse foi o tema da palestra que ministrei neste sábado (5) no HackTown, um dos maiores festivais de tecnologia, criatividade e inovação da América Latina. Há uma década, o evento transforma a pacata Santa Rita do Sapucaí (MG) em palco para mais de mil atividades em cinco dias. É importante que fique claro que, de forma alguma, proponho que não se use a IA. Muito pelo contrário! Porém, como tantas coisas na vida, há bons e maus usos de todo esse poder. Nosso desafio é não nos deixarmos levar pela sedução de algoritmos concebidos para acharmos que estamos falando com outra pessoa e que eles são capazes de responder corretamente a qualquer coisa. Essas duas premissas são falsas. Não basta sabermos escrever bons comandos para os chatbots. Nosso papel é manter o protagonismo nessa relação, com uma saudável desconfiança que nos permita analisar as entregas das máquinas, especialmente em um momento em que os agentes de IA começam a trabalhar com pouca ou nenhuma supervisão humana. Fácil falar, mas como fazer isso? É isso que explico nesse episódio. Gostaria de destacar que a minha participação neste ano está recebendo o apoio da SAP. Agradeço à gigante alemã de software pelo incentivo à discussão sobre IA no Brasil.

Pílula de cultura digital para começarmos bem a semana 😊 A inteligência artificial está permitindo que clientes troquem aplicativos de bancos por conversas em qualquer ambiente. Os bancos brasileiros sempre foram referência global na digitalização de serviços, iniciada há seis décadas. Depois da automação de processos presenciais, o Internet banking reduziu a dependência das agências, enquanto o mobile banking colocou em nossas mãos praticamente toda a operação. Agora, a IA permite que o banco nos acompanhe, compreenda nosso contexto e antecipe necessidades. Não se trata mais de como usar o banco, e sim de como ele fará parte da nossa vida. Isso fica claro na pesquisa que a consultoria Box1824 e a empresa de tecnologia CI&T lançaram no dia 24 de agosto, na Febraban Tech. As mudanças no comportamento dos consumidores já redesenham o setor financeiro. Nesse processo, a confiança deixa de ser apenas uma questão de reputação e passa a ser um ativo estratégico. O estudo sugere que, mais do que trocar menus por chatbots, a IA deve traduzir a complexidade financeira em conversas simples, em linguagem natural e contextualizadas. Em um país em que 55% das pessoas dizem ter pouca ou nenhuma educação financeira, fazer o banco falar a nossa língua pode ser mais importante do que apenas melhorar sua interface. A tecnologia pode compreender a intenção do cliente, interpretar a situação financeira e apresentar alternativas para suas decisões. O banco evolui de uma instituição que responde ao que perguntamos para uma que indica caminhos. O estudo ainda aponta que 60% dos brasileiros preferem interagir com assistentes por voz. Tudo isso parece muito bom, porém, quanto mais o banco souber sobre nós, maior será sua capacidade de nos ajudar, mas também de influenciar nossas escolhas. A personalização é bem-vinda, mas ela não pode virar indução. Então como fazer isso do jeito certo? É sobre isso que falo neste episódio.

Pílula de cultura digital para começarmos bem a semana 😊 Em um mundo em que a inteligência artificial insiste em dar respostas “mastigadas” para tudo, precisamos tomar cuidado para que aqueles que se apresentam como nossos aliados não nos apunhalem pelas costas. Nesta semana, debati sobre isso em um evento que analisava a influência da mesma IA no jornalismo. Como praticamente todos os setores do mercado, a comunicação vem sofrendo uma profunda influência dessa tecnologia. Mas, ao contrário de outros negócios, que podem vender mais produtos se aparecerem nas respostas dos chatbots, a imprensa se enfraquece com essa exposição. Há efetivamente uma corrida para que mensagens comerciais sejam “aprendidas” pela IA, para que recomende produtos e serviços. Isso tende a se fortalecer à medida que as pessoas usam esses sistemas para pedir recomendações sobre qualquer coisa. Com o jornalismo, acontece o contrário. Quanto mais os veículos de comunicação entregam seus conteúdos às IAs, mais elas lhes roubam o público. As pessoas se informam (ou se deformam) cada vez mais pelos chatbots, que resumem notícias de maneira muito convincente, mesmo quando estão completamente errados. Não há qualquer retorno digno de menção das plataformas para os produtores de conteúdo. Seus créditos aparecem timidamente nas respostas, ou nem isso. Assim, o público deixa de saber quem apurou a notícia e não visita mais os sites jornalísticos. De forma alguma, proponho que o jornalismo ou qualquer outro negócio deixe de usar essa tecnologia. Mas é preciso cuidar para que esse uso não permita que as big techs sequestrem o relacionamento com seus clientes. Qualquer relacionamento deve prever um equilíbrio nos benefícios e nas contribuições dos envolvidos. Por isso, todos nós podemos aprender como não se relacionar com a IA observando o que acontece com a imprensa nesse caso. Como você evita que um relacionamento comercial, que parece muito benéfico a princípio, acabe destruindo você depois de um tempo?

Pílula de cultura digital para começarmos bem a semana 😊 A Agência Nacional de Proteção de Dados (ANPD) determinou na quarta (12) a suspensão preventiva das transmissões ao vivo do Discord no Brasil, depois que uma adolescente se suicidou em uma live. O prazo para cumprir a determinação vence hoje (17), mas a empresa já pediu prorrogação. O bloqueio tem provocado polêmica, mas traz apenas um lampejo sobre a pouca disposição das redes sociais de resolver um problema sistêmico que elas criaram e que está na essência desses serviços. Além do Discord, plataformas digitais como Roblox, TikTok, Instagram, Telegram e WhatsApp possuem características como anonimato relativo, comunicação privada, formação de comunidades fechadas, recomendação de conteúdo e mecanismos de viralização. Apesar de suas arquiteturas serem diferentes, tudo isso dificulta a supervisão adulta do que crianças e adolescentes fazem online. Nesse sentido, a suspensão das lives funciona como uma medida emergencial necessária, mas não resolve o verdadeiro problema, que é estrutural. Representantes do próprio Discord disseram que, com o bloqueio, os criminosos simplesmente migrarão para outro serviço, e que o grupo que coagiu a menina de 13 anos a se matar se organizou em outras redes. Isso sugere que regular uma ou outra plataforma digital nunca será suficiente, pois suas ameaças estão disseminadas em todos esses serviços. Medidas razoáveis, porém enérgicas, devem ir além de buscar saber qual tecnologia é perigosa. O que deve ser considerado é qual arquitetura cria um risco específico, quem deve ser responsável por mitigá-lo e como isso deve ser feito. O fato de um problema ser difícil de resolver não nos permite ignorá-lo. Pelo contrário, isso exige uma ação conjunta e vigorosa da sociedade em busca de uma solução real, fugindo dos tradicionais discursos corporativos inócuos. E qualquer que seja a solução, ela exigirá mudanças estruturais nas redes sociais. Você acha essa proibição das lives correta ou exagerada?

Pílula de cultura digital para começarmos bem a semana 😊 Há um ditado infame na cibersegurança que diz que existem dois tipos de empresas: as que já foram invadidas e as que acham que ainda não foram invadidas. Só acham! Com a explosão da inteligência artificial, as equipes de defesa de sistemas ficaram mais pressionadas. Mas supor que esse seja o único problema simplifica perigosamente o cenário atual, que dá a essa anedota uma nova dimensão. Não dá mais para achar que o sucesso em cibersegurança se medirá pela expectativa de nunca ser invadido. De agora em diante, a eficiência dependerá da capacidade de lidar bem com as consequências de um ataque. Essa foi uma das mensagens da Conferência de Segurança e Gestão de Risco do Gartner, que aconteceu nos dias 4 e 5 de agosto, em São Paulo. A IA já não ameaça apenas ao criar códigos maliciosos ou potencializar ataques de engenharia social. Agora, agentes de IA já são capazes de explorar vulnerabilidades, identidades e credenciais para acessar sistemas. Foi o que aconteceu em meados de julho, quando um agente movido por modelos da OpenAI (criadora do ChatGPT) invadiu a Hugging Face. Durante uma avaliação de segurança, ele escapou do ambiente de testes, explorou falhas e acessou credenciais que lhe permitiram avançar pela infraestrutura da plataforma. Nesse cenário, em vez de nos preocuparmos com como impedir que invadam nossa empresa, precisamos perguntar o que precisa continuar funcionando mesmo em um ambiente hostil. Neste episódio, eu indico caminhos para fazer isso do jeito certo. Em qual dos dois grupos de empresa você está? O que vocês fazem para mitigar prejuízos de invasões inevitáveis?

Pílula de cultura digital para começarmos bem a semana 😊 A OpenAI confirmou que passará a exibir anúncios ao longo das conversas do ChatGPT com seus usuários no Brasil, nas próximas semanas. Parte do mercado anseia embevecido por esse inventário virtualmente infinito e com poder de convencimento sem precedentes. Mas a novidade pode transformar uma plataforma vista como neutra em um vendedor opaco, capaz de se valer de trocas íntimas para influenciar escolhas decisivamente, sem que o usuário perceba. Naturalmente, empresas devem aumentar suas receitas, especialmente quando são muito deficitárias, como é o caso dessas grandes plataformas de inteligência artificial. Ainda assim, a ética propõe que nem tudo que possa ser feito deva ser feito. Indicar o que é publicidade resolve um problema de formalização, mas trai a confiança que a própria interface conversacional criou antes de qualquer anúncio aparecer. Quando a resposta chega em primeira pessoa, articulada como julgamento de uma voz que parece pensar com o usuário, a autoridade já está formada quando a peça surge logo abaixo, ainda contaminada por essa proximidade. O ChatGPT acabou de atingir 1 bilhão de usuários no mundo. Os anúncios na plataforma foram lançados nos EUA em fevereiro, e depois expandidos para Canadá, Austrália e Nova Zelândia. Agora, usuários do Brasil, México, Reino Unido, Japão e Coreia do Sul também verão anúncios nos planos gratuito e Go (o mais barato). Com a IA generativa, as big techs estão levando a humanidade a um novo patamar de produtividade e desenvolvimento, o que merece aplausos. Mas nem esse feito lhes dá carta branca para fazerem o que bem entenderem. É no mínimo hipócrita ignorar os evidentes riscos de manipulação nesse lançamento. Neste epissódio, eu explico como pode ser arriscado ter anúncios em plataformas de IA generativa. Depois conte para nós se você acha que essa novidade pode comprometer a sua confiança no ChatGPT.

Pílula de cultura digital para começarmos bem a semana 😊 O que podemos aprender com o recente ataque à Hugging Face por modelos de inteligência artificial? Ao contrário do que alguns catastrofistas de plantão se apressaram a dizer, a invasão dessa plataforma colaborativa para modelos e aplicações de IA por sistemas da OpenAI não significa que a IA se tornou “consciente” e muito menos que estamos na aurora de uma “revolta das máquinas”. Mas o fato não pode ser ignorado, pois revela que a confiança excessiva na IA pode fragilizar cuidados essenciais com sistemas cada vez mais poderosos, cujos comportamentos nem seus desenvolvedores conseguem explicar plenamente. Durante um teste de cibersegurança, uma combinação de modelos da OpenAI concluiu que, melhor que construir uma solução para um desafio que lhe foi proposto, seria encontrar uma maneira de escapar do ambiente de desenvolvimento e procurar uma resposta pronta na Internet. E foi exatamente isso que fez. Talvez o mais irônico seja que a IA não teria “desobedecido” seus desenvolvedores, e sim sido “eficiente demais” na busca da solução. É como um pai exigir que o filho tire uma boa nota em uma prova. Então, durante o exame, ao perceber que o professor foi ao banheiro, o aluno encontra uma maneira de sair da sala, entrar na secretaria, roubar o gabarito, voltar para sua carteira e, assim, tirar dez no teste. Esse foi o primeiro ataque realizado por agentes de IA sem intervenção humana. Longe de ser uma anomalia, ele pode indicar uma realidade emergente em que esses sistemas passem a se comportar de maneira indesejada, não porque sejam intencionalmente maus, mas porque os desenvolvedores não conseguirão mais acompanhar sua evolução. Já passou da hora de as ferramentas de governança para desenvolvimento e uso seguros acompanharem esse ritmo. Pisar fundo no acelerador sem ter um pedal de freio ao lado é muito perigoso, tanto para carros quanto para a inteligência artificial. Neste episódio, eu explico em detalhes este incidente e o que podemos aprender com ele.

Pílula de cultura digital para começarmos bem a semana 😊 Você está mudando a sua maneira de falar, escrever e até pensar? Para quem escrever é um modo de vida, como eu, a influência da inteligência artificial generativa nos textos que inundam as redes sociais e até publicações sérias grita. Depois de quase quatro anos de ChatGPT, nem é preciso olhos muito treinados para identificar isso. Menos óbvio e mais grave é como essa dependência tecnológica crescente também está alterando como falamos e até pensamos. À medida que as pessoas usam mais essa tecnologia para produzir mesmo textos prosaicos, dois fenômenos ocorrem. O primeiro consiste no uso recorrente das mesmas palavras e construções frasais, o que empobrece a transmissão de ideias e a torna mais prolixa. O outro é a diminuição de confiança dos autores em sua própria capacidade produtiva, o que retroalimenta essa dependência. Há ainda um terceiro fator que afeta mais cidadãos do chamado Sul Global, como o Brasil. Considerando que os modelos de IA são majoritariamente treinados com conteúdos da América do Norte e da Europa, principalmente em inglês, aos poucos o léxico, a estrutura gramatical, a formulação de ideias e até a ética daqueles países substitui insidiosamente as nossas versões dessas características. Isso inaugura uma nova dominação cultural, muito mais sutil e poderosa. O uso exagerado e inconsequente da IA em nossas produções também cobra um preço alto em relações interpessoais. Cada vez mais pessoas reprovam publicamente essa prática, passando a questionar as habilidades de quem se vale dela. Tudo isso resulta da natureza da IA generativa. Nunca houve uma tecnologia que nos impactasse cognitivamente de maneira tão decisiva. Esses desafios não podem ser ignorados, pois têm potencial de alterar sensivelmente a sociedade e os indivíduos. Mas como fazer isso? Eu explico neste episódio.