Advertise on podcast: Non Avrai Altro Dio - Nicoletta Prandi

Com’è possibile ricostruire il modo in cui un chatbot decide cosa pensare – tra virgolette – della tua azienda? Si pongono a diversi modelli diverse domande su un marchio e si analizzano le risposte. Inoltre, con la diffusione dei modelli di ragionamento esteso, che mostrano la sequenza di azioni intrapresa dal chatbot per dare risposte, e con il fatto che sempre più spesso sono mostrati i link da cui i chatbot pescano informazioni, un’azienda può arrivare a capire da dove l’intelligenza artificiale le sta estraendo e può provare a modificarne la percezione, addirittura cambiando il testo e le immagini della sezione del sito aziendale bersaglio di scraping. Un altro modo intelligente di sfruttare i chatbot è, ad esempio, usarli come focus group per testare diversi claim pubblicitari. Non solo. Alcune aziende hanno già iniziato a pagare utenti anonimi per consigliare sui social e sui blog le parole giuste da usare per fare uscire risultati più clementi sui propri prodotti. La percezione di un marchio da parte dell’intelligenza artificiale (chatbot e motori di ricerca generativi) influenzerà sempre di più i profitti aziendali. In questo episodio Nicoletta Prandi analizza le asimmetrie tra i risultati di ricerca generativa e il posizionamento aziendale ed esplora i modi in cui si può provare a comprendere e persino orientare questo processo.   FONTI Share of Models TollBit  La ricerca della Carnegie Mellon  La ricerca della University of South Florida [2406.13997] "Global is Good, Local is Bad?": Understanding Brand Bias in LLMs Parte degli esempi citati in questo episodio sono tratti da questo articolo del MIT Technology Review

Lo sviluppo di agenti virtuali, assistenti di intelligenza artificiale più o meno autonomi e in grado di svolgere compiti anche complessi per conto nostro, rappresenta un punto di svolta per il settore. Se una grande autonomia può offrire vantaggi concreti in ambienti specifici, la valutazione dei rischi resta un passaggio fondamentale per far sì che gli agenti restino allineati agli obiettivi desiderati e non danneggino le persone. In questo episodio spiego quali sono i rischi e cosa sta accadendo nel settore. FONTI «Mettere il cervello in un barattolo» https://techcrunch.com/2025/03/07/signal-president-meredith-whittaker-calls-out-agentic-ai-as-having-profound-security-and-privacy-issues/   La slopaganda di Financial Times https://www.ft.com/content/24218775-57b1-4e9f-ba64-266a3239cf27   L’analisi di Hugging Face https://huggingface.co/blog/ethics-soc-7?utm_source=bensbites&utm_medium=newsletter&utm_campaign=bb-digest-openai-s-plan-for-2025&_bhlid=287f3a3c307c7f042fe850d17f4bea2c45adebab   Agenti integrati nei robot https://deepmind.google/discover/blog/shaping-the-future-of-advanced-robotics/   IEEE Spectrum sugli agenti https://spectrum.ieee.org/ai-agents-computer-use?utm_source=feedotter&utm_medium=email&utm_campaign=aialert-02-18-25&utm_content=httpsspectrumieeeorgaiagentscomputeruse&mkt_tok=NzU2LUdQSC04OTkAAAGYvbRFkFcfIT1rZFrSYRsDwO2A0srak09kQ9Z16It1YrDunBXgOZ9i8KzHffuVpXbLqzYq5PlMUSXHvm-pJNh2q2cCFpvNz91On2P0Zy46brrhXv9j   L’agente per gli acquisti di Amazon https://techcrunch.com/2025/04/03/amazons-new-ai-agent-will-shop-third-party-stores-for-you/?utm_campaign=tc_daily_am&utm_medium=newsletter&_hsenc=p2ANqtz-_K-2XQ5cEzbA8sVv8foZAjCcLIqb0Ybj8a_dDx3n9NMxuC2DyVDn12Zy0IxicHFpyj6kH3vQc1wQdqaNHJp8DR017LjA&_hsmi=355244915&utm_source=tc   Copilot https://techcrunch.com/2025/04/04/microsofts-copilot-can-now-browse-the-web-and-perform-actions-for-you/?utm_campaign=tc_daily_pm&utm_medium=newsletter&_hsenc=p2ANqtz-9BZBpVe7rYER_3NBLYzaHdD2yCFtOgjUQj_j89LJ_R1IBN9cyv0JbPa5FcS0gYw1-Vx2jT-iOHaLrVaADOATHTch3igA&_hsmi=355294138&utm_source=tc  

SINOSSI Se prestiamo attenzione al linguaggio quando ci sono di mezzo questioni importanti, ad esempio quelle di genere, non c’è ragione per non farlo anche quando ci sono di mezzo le macchine. Un caso esemplare è quello del dibattito sull’arrivo di una Superintelligenza. Le parole, infatti, plasmano la realtà e la Superintelligenza a cui dobbiamo stare attenti non è quella alimentata dal pressapochismo dell’informazione ma quella che racconto in questo episodio.   FONTI Il DETA https://www.detarobot.it/chi-siamo/ Il convegno del DETA https://deephinterland.it/a-milano-il-prim/ Il documento AI 2027 https://ai-2027.com/?utm_source=substack&utm_medium=email L’estratto AI is a Normal Technology https://www.aisnakeoil.com/p/ai-as-normal-technology L’articolo di The Verge https://www.theverge.com/policy/665685/ai-therapy-meta-chatbot-surveillance-risks-trump

SINOSSI L’onda del vibe coding, una specie di ChatGPT della programmazione, si sta per abbattere con tutta la sua potenza su di noi: internet sarà inondata di app per programmare da zero e la maggior parte di queste non presterà attenzione alla sicurezza. In questo episodio spiego come si possono sfruttare al meglio questi nuovi strumenti limitando i rischi, come sta già cambiando il lavoro dei programmatori e come probabilmente si evolverà in futuro. FONTI L’inchiesta su Lovable https://www.semafor.com/article/05/29/2025/the-hottest-new-vibe-coding-startup-lovable-is-a-sitting-duck-for-hackers?utm_medium=technology&utm_campaign=sittingducks&utm_source=newslettercta   Il sito di Lovable https://lovable.dev/    L’indagine del Washington Post sulla scomparsa dei lavori di programmazione https://www.washingtonpost.com/business/2025/03/14/programming-jobs-lost-artificial-intelligence/   Il rapporto The State of AI Code Quality 2025 https://www.qodo.ai/reports/state-of-ai-code-quality/

SINOSSI Una storia raccolta in Pennsylvania dimostra come l’intelligenza artificiale possa interrompere le catene di relazioni senza che ce ne accorgiamo. Ha a che fare con le piante, ma riguarda tutti noi. In questo episodio parlo di tempo libero, di emozioni e di industria dell’AI. Perché la corsa silenziosa a sviluppare intelligenza emotiva nei chatbot è già ampiamente iniziata.   FONTI   L’articolo di Colonial Gardens https://colonialgardenspa.com/the-hidden-dangers-of-ai-plants/   L’articolo sul sito di Bob’s Market and Greenhouses https://www.bobsmarket.com/blog/dont-get-fooled-the-rise-of-ai-generated-plant-scams   L’articolo di The Verge https://www.theverge.com/ai-artificial-intelligence/691355/ai-is-ruining-houseplant-communities-online?utm_campaign=tc_daily_pm&utm_medium=newsletter&_hsenc=p2ANqtz-8af3JXo3tYR8ppzpf9qoYO9RAINW4eiP2owMXzSeFdEKYbnYiAQ4PHcjEM-ECZkKRAheGvtrv9HuWJMSUm-DHLpMu6Ng&_hsmi=368755070&utm_source=tc   Esempio di app per pianificare viaggi con l’AI https://tripplanner.ai/   Lo studio Feedback from an avatar facilitates risk-taking by modulating the amygdala response to feedback uncertainty https://journals.plos.org/plosbiology/article?id=10.1371/journal.pbio.3003122      

SINOSSI Le acquisizioni di start up neurotecnologiche da parte di Big Tech stanno procedendo a passo svelto, con trasferimenti di proprietà intellettuale utile ad allinearla ai suoi ecosistemi. Uno studio europeo da poco pubblicato fa luce su un’intelligenza artificiale ancora poco raccontata, che abilita alla lettura del pensiero umano e alla manipolazione del sistema nervoso. Le sfide per il lavoro e per la politica sono numerose, come racconto in questo episodio.   FONTI Lo studio pubblicato dall’UE https://op.europa.eu/en/publication-detail/-/publication/674b9a47-35eb-11f0-8a44-01aa75ed71a1/language-en   L’analisi realizzata da Centre for Future Generations https://cfg.eu/neurotech-market-atlas/   Libro Finché chip non ci separi https://www.leucotea.it/store/product/finch%C3%A8-chip-non-ci-separi          

La causa intentata da The New York Times contro Microsoft e OpenAI potrebbe cambiare lo scenario dell’industria dell’intelligenza artificiale e innovare il panorama regolatorio dei diritti d’autore e del fair use, il principio legale che permette, in casi eccezionali, l’uso di contenuti protetti da copyright. Nel frattempo, usare con leggerezza i sistemi di IA generativa, in ambito individuale e aziendale, resta ancora un’attività ancora non esente da rischi, in primo luogo a livello legale. FONTI L’articolo scientifico dedicato alle nuove sfide del fair use e ripreso da Stanford HAI è disponibile qui https://arxiv.org/abs/2303.15715. È firmato da Dan Jurafsky, Tatsunori Hashimoto, Mark A. Lemley, Percy Liang, Xuechen Li e Peter Henderson. I risultati della Tavola rotonda con i professionisti del settore creativo sono illustrati in una nota della FTC https://www.ftc.gov/news-events/news/press-releases/2023/12/ftc-staff-report-details-key-takeaways-ai-creative-fields-panel-discussion?utm_campaign=there_are_many_perspectiv&utm_content=1702934644&utm_medium=social&utm_source=twitter&s=03 L’inchiesta di The Washington post sul blocco C4 https://www.washingtonpost.com/technology/interactive/2023/ai-chatbot-learning/ Le condizioni d’uso di OpenAI https://openai.com/policies/terms-of-use L’articolo scientifico di DAIR https://dl.acm.org/doi/10.1145/3600211.3604681

Questa puntata parte dalla storia di lavoratori costretti a fidarsi della tecnologia, di imprenditori che l’hanno piegata a interessi deprecabili, e di persone che ne sono rimaste vittime. E arriva a sfiorare i fronti aperti degli abusi algoritmici in campo sanitario, in relazione ai quali avrà effetto il nuovo regolamento europeo sull’intelligenza artificiale, AI Act. FONTI La documentazione relativa alla causa intentata contro UnitedHealth https://cdn.arstechnica.net/wp-content/uploads/2023/11/class-action-v-unitedhealth-and-navihealth-1.pdf Le testimonianze dei dipendenti di UnitedHealth https://www.statnews.com/2023/11/14/unitedhealth-algorithm-medicare-advantage-investigation/ La proposta di etichettatura digitale per le app a uso medico https://www.wsj.com/tech/ai/medical-ai-tools-can-make-dangerous-mistakes-can-the-government-help-prevent-them-b7cd8b35 Il mercato mondiale delle app per il benessere https://www.fortunebusinessinsights.com/mhealth-apps-market-102020

Le Olimpiadi della sorveglianza stanno per iniziare, e non solo a Parigi. Mentre la Francia vara una legge speciale per avviare la più grande sperimentazione europea di polizia predittiva, le associazioni per i diritti civili e alcuni eurodeputati lanciano un allarme. La nuova versione dell’AI Act allargherebbe a dismisura le eccezioni per l’uso di tecnologie intelligenti ai fini di sicurezza pubblica. Nel frattempo, lo stesso sistema francese potrebbe essere in potenziale contraddizione con i principi cui si dovrebbe ispirare il regolamento europeo sull’intelligenza artificiale. FONTI La legge speciale approvata in Francia https://www.legifrance.gouv.fr/jorf/id/JORFTEXT000047561974 La dichiarazione di Amnesty International https://www.amnesty.org/en/latest/news/2023/03/france-intrusive-olympics-surveillance-technologies-could-usher-in-a-dystopian-future/ La lettera aperta di 38 associazioni per i diritti civili https://www.lemonde.fr/idees/article/2023/03/06/les-mesures-de-videosurveillance-algorithmique-introduites-par-la-loi-jo-2024-sont-contraires-au-droit-international_6164276_3232.html#xtor=AL-32280270-%255Bdefault%255D-%255Bios%255D La re-identificazione dei pedoni attraverso l’andatura https://ieeexplore.ieee.org/document/10266347 Il caso Rite Aid https://www.reuters.com/investigates/special-report/usa-riteaid-software/ L’allarme per AI Act rilanciato da Politico https://www.politico.eu/article/eu-ai-facial-recognition-tech-act-late-tweaks-attack-civil-rights-key-lawmaker-hahn-warns/?s=03

SINOSSI Nelle ultime settimane è esplosa l’attenzione sui danni sociali, personali e finanziari dei deep fake, con il caso Taylor Swift e la truffa di Hong Kong. Mentre i rischi dei deep fake restano totalmente a carico dei cittadini, degli utenti e della società, la responsabilità ultima resta in capo alle aziende, che per ragioni economiche hanno immesso sul mercato soluzioni sprovviste di un paracadute tecnologico, pur essendo consapevoli degli effetti nefasti che avrebbero comportato. Oggi provano a correre ai ripari, insieme ai legislatori. FONTI L’indagine su Only Fake https://www.404media.co/inside-the-underground-site-where-ai-neural-networks-churns-out-fake-ids-onlyfake/ La proposta di regolamentazione contro i deep fake avanzata dalla Commissione Europea https://ec.europa.eu/commission/presscorner/detail/en/ip_24_631?utm_source=www.thedeepview.co&utm_medium=newsletter&utm_campaign=deepfake-phone-calls Il Defiance Act proposto al Senato U.S.A. https://www.judiciary.senate.gov/press/releases/durbin-graham-klobuchar-hawley-introduce-defiance-act-to-hold-accountable-those-responsible-for-the-proliferation-of-nonconsensual-sexually-explicit-deepfake-images-and-videos Le dichiarazioni di Margaret Mitchell https://www.popsugar.co.uk/tech/ai-deepfakes-taylor-swift-sexual-harassment-49334338?utm_medium=redirect&utm_campaign=US%3AIT&utm_source=t.co&s=03 L’articolo del Washington Post https://www.washingtonpost.com/politics/2024/02/07/metas-new-ai-labels-wont-solve-taylor-swift-problem/

Barzellette spinte, risposte offensive, ma anche offerte commerciali inventate e persino truffe a danno dei clienti. I chatbot non possono essere – ancora –considerati strumenti di interazione sicuri al 100%: affidarvisi con troppa approssimazione può essere rischioso a più livelli. Il caso di Air Canada, raccontato in questo episodio, offre uno spunto per una carrellata sui passi falsi da evitare quando si decide di adottare un sistema di intelligenza artificiale generativa per automatizzare le relazioni esterne dell’azienda. FONTI La sentenza su Air Canada emessa il 14 febbraio 2024 https://www.canlii.org/en/bc/bccrt/doc/2024/2024bccrt149/2024bccrt149.html La vicenda raccontata dai media internazionali https://www.cbc.ca/news/canada/british-columbia/air-canada-chatbot-lawsuit-1.7116416 Lo studio sugli effetti antropomorfici dei chatbot Blame the Bot: Anthropomorphism and Anger in Customer–Chatbot Interactions - Cammy Crolic, Felipe Thomaz, Rhonda Hadi, Andrew T. Stephen, 2022 (sagepub.com) La pagina informativa di Google per i servizi di Gemini https://support.google.com/gemini/answer/13594961?hl=en#collected_data&zippy=%2Cwhat-data-is-collected-how-is-it-used%2Cwhy-is-human-review-of-my-gemini-apps-conversations-feedback-and-related-data-required%2Cdo-you-use-my-gemini-apps-conversations-to-show-me-ads%2Cwho-has-access-to-my-gemini-apps-conversations L’indagine Gartner sull’adesione dei clienti ai servizi chatbot https://www.gartner.com/en/newsroom/press-releases/2023-06-15-gartner-survey-reveals-only-8-percent-of-customers-used-a-chatbot-during-their-most-recent-customer-service-interaction#:~:text=June%2015%2C%202023%20%E2%80%94%20Only%208,chatbot%20again%20in%20the%20future.

L’AI Act, il regolamento europeo sull’intelligenza artificiale, ambisce a diventare una pietra miliare nella tutela della società civile, per difenderla dai potenziali danni perpetrabili attraverso un uso distorto degli algoritmi. Le aspettative sono però messe a dura prova dalla complessità dell’impianto regolatorio, che rischia di annacquarsi nelle decine di atti secondari necessari per la sua attuazione e che lascia le porte aperte ad applicazioni potenzialmente rischiose.    FONTI Le Monde su AI Act https://www.lemonde.fr/en/european-union/article/2024/03/13/european-parliament-adopts-historic-ai-act_6615022_156.html   Der Spiegel su AI Act https://www.spiegel.de/netzwelt/netzpolitik/eu-parlament-stimmt-fuer-umfassendes-ki-gesetz-a-1b91bf5e-4adf-4532-bafc-2fed2d068b20   CNBC su AI Act https://www.cnbc.com/2024/03/13/european-lawmakers-endorse-worlds-first-major-act-to-regulate-ai.html   I chatbot rimossi per consigli dannosi  https://www.psychiatrist.com/news/neda-suspends-ai-chatbot-for-giving-harmful-eating-disorder-advice/   Uno studio che smentisce i presupposti scientifici del progetto europeo IBorderCtrl Full article: The politics of deceptive borders: ‘biomarkers of deceit’ and the case of iBorderCtrl (tandfonline.com)   Il documento di denuncia di Access Now https://www.accessnow.org/press-release/joint-statement-ai-act-fails-migrants-and-people-on-the-move/?s=03

Quattro fatti scollegati tra loro eppure uniti da un filo rosso: le proposte commerciali delle aziende che vendono soluzioni avanzate di IA tendono sempre più a cancellare la dimensione umana del lavoro, che resta una componente fondamentale del processo produttivo a livello informatico. Vale anche per la robotizzazione, nel cui mercato si stanno facendo avanti slogan in cui si lascia dedurre che esistano attività non ‘degne’ di essere svolte dagli esseri umani.   FONTI L’inchiesta di The Information su Amazon Go  https://www.theinformation.com/articles/amazons-grocery-stores-to-drop-just-walk-out-checkout-tech   Le dichiarazioni di Roberto Selva, Responsabile Marketing di Esselunga https://milano.repubblica.it/cronaca/2024/03/20/news/esselunga_lab_mind_spesa_del_futuro_robot_insalate-422342827/   L’offerta commerciale di Hoptix https://www.hoptix.ai/   Il sito di Turkopticon https://blog.turkopticon.net/?p=3048  

SINOSSI Cosa succede se pensiamo di acquistare oggetti all’apparenza innocui e invece diamo il permesso alle aziende di leggere negli spazi più reconditi della nostra identità? Succede da tempo e non ce ne siamo accorti. In questo nuovo episodio esploro il mercato dei device per il potenziamento cognitivo, venduti anche in Italia, e affronto la questione dei neurodiritti, sfida cui le agende politiche internazionali hanno già messo mano per provare a regolare i potenziali abusi. FONTI La crescita degli investimenti nel settore neurotech secondo Neurotech Analytics INVESTMENT DIGEST 2021 Q4 | Neurotech   Il caso EnterTech e la fascia FlowTime nell’articolo di The Guardian https://www.theguardian.com/commentisfree/2023/mar/25/tiktok-china-cognitive-warfare-us-ban   Il sito di FlowTime https://www.meetflowtime.com/   Il brevetto di Apple Patently Apple   I prodotti Cognifit per il potenziamento cognitivo dei lavoratori https://www.cognifit.com/it/employee-wellbeing   La risoluzione ONU sui neurodiritti https://documents.un.org/doc/undoc/gen/g22/525/01/pdf/g2252501.pdf?token=DLSmBCayewVSpIJt88&fe=true

Negli Stati Uniti si sta saldando una nuova corrente di imprenditori e di politici, pronti a influenzare una nuova possibile Amministrazione Trump, per orientare regole e finanziamenti in favore di alcune aziende. Lo slogan di questo nuovo partito informale di tecno-nazionalisti, come ha scritto il Washington Post, potrebbe essere ‘Dio, patria e tecnologia’. È qualcosa che ci interessa nella misura in cui finisce con l’interferire nelle nostre attività quotidiane. Dietro al ban americano a Tik Tok, infatti, c’è questa potentissima lobby. FONTI   La cronaca di Caroline Haskins sul Guardian che racconta della giornata all’AI Expo for National Competitiveness https://www.theguardian.com/technology/article/2024/may/17/ai-weapons-palantir-war-technology?s=03   L’articolo di Washington Post sui tecno-nazionalisti https://www.washingtonpost.com/technology/2024/05/01/big-tech-tiktok-ban-hill-valley-forum/?utm_campaign=wp_the_technology_202&utm_medium=email&utm_source=newsletter&wpisrc=nl_technology202   Il parere di Meredith Whittaker su Tik Tok https://lpeproject.org/blog/social-media-authoritarianism-and-the-world-as-it-is/   Il caso Axon e le polemiche sollevate https://techcrunch.com/2024/05/02/microsoft-bans-u-s-police-departments-azure-openai-facial-recognition/   Le analisi di PitchBook https://pitchbook.com/news/reports/2023-vertical-snapshot-defense-tech