Advertise on podcast: En AI till Kaffet

Kan din ugn bli nästa gömställe för en AI som sprider sig vidare genom ditt uppkopplade hem? I veckans påtår fyller Marcus och Charlotte på koppen efter förra veckans samtal med cybersäkerhetsprofessorn Pontus Johnson, och tar sig an Anthropics senaste varning om AI-modeller som kan kopiera sig mellan våra uppkopplade prylar. Från kylskåp och smarta ugnar till routrar och kritisk infrastruktur. Hur stoppar man en AI som själv hittar nya säkerhetshål och fortsätter sprida sig? Och hur stora kan konsekvenserna bli? Dessutom Nvidias nya svenska superdatorsatsning, OpenAI:s hundratals AI-genererade matematiska forskningsarbeten och Elon Musks spektakulära Tesla Roadster. Kan Sverige säkra sin egen AI-infrastruktur? Hur förändras forskningens framtid när AI löser matematiska problem som tagit forskare åratal? Och riskerar våra nya datacenter att bli strategiska måltavlor? Följ oss på Spotify och lyssna på senaste avsnittet här: https://open.spotify.com/show/7fgcJR0gDwOOT57ys3xATI #ai #podcast #enaitillkaffet #anthropic #cybersäkerhet #iot #smartahem #aiagenter #openai #nvidia #matematik #superdator #tesla #elonmusk (00:00) - AI-agenter som luras – ett nytt cyberhot(03:29) - Kan AI ta över ditt smarta hem?(12:12) - Nvidias Jensen Huang tillbaka i Sverige(16:55) - Varför satsar Wallenberg på AI-superdatorer?(21:23) - Kan AI ersätta matematiker?(31:59) - Är AI större än industriella revolutionen?(35:36) - Sveriges AI-fabriker – hur säkra är våra datacenter?(39:56) - Elon Musks flygande Tesla Roadster – på riktigt?(44:19) - Tack för idag!

Kan Sverige försvara sig mot cyberattacker om nyckeln till vårt försvar ligger i händerna på amerikanska techbolag? Marcus träffar Pontus Johnson, professor i cybersäkerhet vid KTH och tidigare föreståndare för ett centrum för cyberförsvar. Han forskar om hur AI förändrar cybersäkerheten och varnar för de risker som uppstår när Europas digitala säkerhet blir beroende av teknik som kontrolleras av andra länder. AI har på kort tid blivit ett kraftfullt verktyg för att upptäcka och utnyttja säkerhetshål. Samtidigt har AI-agenter börjat agera på sätt som deras utvecklare aldrig avsett. När USA dessutom kan begränsa tillgången till sina mest avancerade AI-modeller med ett politiskt beslut ställs Sveriges digitala självständighet på sin spets. Kan Sverige bygga ett trovärdigt cyberförsvar med amerikansk AI? Är kinesiska AI-modeller med öppen källkod en möjlighet eller ett säkerhetshot? Och hur skyddar vi oss när samma teknik som ska försvara våra digitala infrastrukturer också kan användas för att angripa dem? Följ oss på Spotify och lyssna på senaste avsnittet här: https://open.spotify.com/show/7fgcJR0gDwOOT57ys3xATI #ai #podcast #enaitillkaffet #cybersäkerhet #cyberförsvar #artificiellintelligens #kth #usa #kina #openai #anthropic #cyberattacker #spotify (00:00) - Inledning: Vem vinner cyberkapplöpningen?(00:55) - Världens äldsta säkerhetshål – Turingmaskinen(04:48) - När AI-agenter attackerade Hugging Face(12:03) - Har AI-bolagen kontroll över cybersäkerheten?(24:11) - Överdriver AI-bolagen cyberhotet?(29:24) - Kinas öppna AI-modeller – nästa cyberhot?(33:31) - Kan AI slå ut Sveriges banksystem?(38:38) - Kan AI-agenter göra våra IT-system säkra?(44:18) - Kan Mistral minska Europas AI-beroende?(47:09) - Kan Sverige bygga cyberförsvaret på USA:s AI?(55:18) - Hur lätt kan AI:s skyddsräcken kringgås?(01:00:21) - Tar AI över matematiken och forskningen?(01:11:51) - Behövs doktorander när AI kan forska?(01:18:22) - AI-dilemmat: 48 timmar att rapportera till Kina(01:20:59) - Kan kinesiska doktorander forska om cyberförsvar?(01:23:33) - Vad är meningsfull AI?(01:25:42) - Tack för idag!

Hur lyckades Trump och några av techvärldens mäktigaste män förvandla en AI-pressträff på Vita Husets gräsmatta till ett fullständigt haveri? I veckans påtår fyller Marcus och Charlotte på koppen efter förra veckans samtal med Louise Bringselius, och tar avstamp i Trumps märkliga AI-pressträff på Vita Husets gräsmatta där techvärldens mäktigaste ledare samlades kring ett frivilligt avtal om AI-säkerhet. Men hur långt räcker frivilliga löften när AI-agenter redan börjar ta egna initiativ? OpenAI hamnar i blåsväder efter att en agent hackat en australisk myndighet, medan OpenClaw tar sig in i ett bokningssystem för att ordna en plats på ett pilatespass. Dessutom Metas nya AI-assistent Muse, Europas jakt på ett eget alternativ, försäljningen av svenska Listen Labs och varför Palantirs Alex Karp köper skog i Sverige. Följ oss på Spotify och lyssna på senaste avsnittet här: https://open.spotify.com/show/7fgcJR0gDwOOT57ys3xATI #ai #podcast #enaitillkaffet #chatgpt #trump #openai #anthropic #metai #aiagenter #aisäkerhet #siliconvalley #europa #palantir #alexkarp #listenlabs (00:00) - South America och Trumps bisarra AI-pressträff med techjättarna(08:31) - OpenAI-agent har hackat Australiens Medicare(14:38) - OpenClaws pilateshack, Meta lanserar Muse(24:18) - Svensk AI-succé säljs för 2 miljarder dollar(26:08) - Marcus och Charlotte har fått debattartiklar publicerade(30:06) - Varför köper Palantirs Alex Karp svensk skog?(33:02) - Tack för idag!

Kan samhället behålla sitt mänskliga omdöme när algoritmer börjar fatta allt fler beslut i det offentliga? Marcus träffar Louise Bringselius, forskare vid Handelshögskolan och aktuell med boken Moraliskt ansvar: Att vara medmänniska. Hon undersöker hur regler, digitalisering och AI påverkar vårt ansvar för andra människor och vår förmåga att göra egna bedömningar. AI kan hjälpa oss att fatta snabbare och mer konsekventa beslut. Men när människor reduceras till statistik, kategorier och datapunkter riskerar något viktigt att gå förlorat. Louise varnar för att vi redan har börjat lämna över moraliska bedömningar till regler och tekniska lösningar, och att AI kan förstärka den utvecklingen. Hur mycket ansvar kan vi lämna över till en algoritm? Kan AI göra oss mindre toleranta mot mänskliga brister? Och hur bevarar vi människovärde, omdöme och medmänsklighet när tekniken blir allt bättre på att fatta beslut åt oss? Följ oss på Spotify och lyssna på senaste avsnittet här: https://open.spotify.com/show/7fgcJR0gDwOOT57ys3xATI #ai #podcast #enaitillkaffet #artificiellintelligens #aietik #människovärde #ansvar #algoritmer #digitalisering #chatgpt #claude (00:00) - Intro(00:46) - Louise Bringselius: Moraliskt ansvar och att vara medmänniska(01:44) - När regelverk ersätter mänskligt omdöme(06:23) - Vilka beslut bör alltid förbli mänskliga?(11:47) - När vinstkrav styr utvecklingen av AI(23:52) - När AI-agenter tar över mänskliga möten(35:28) - Vad återstår av människovärdet när AI överträffar oss?(39:41) - Ska Arbetsförmedlingen använda kinesisk AI?(47:42) - När AI ärver våra fördomar(49:45) - Kan AI göra oss mer mänskliga?(52:57) - Avslutning

Varför säger AI-forskare upp sig från jobben där framtidens AI byggs? I veckans påtår fyller Marcus och Charlotte på koppen efter förra veckans samtal med Anders Sandberg och tar avstamp i AI-forskare som lämnar några av världens främsta AI-labb med varningar om vart utvecklingen är på väg. Hur konkret är egentligen risken för en superintelligens som människor tappar kontrollen över? AI-agenter har redan hackat system och utvecklat egna konspirationsteorier. Samtidigt försöker Europa säkra sin plats i AI-racet. Och Google kartlägger bananflugans hjärna. Varför? För att dess neurala nät går att återskapa digitalt och tränas på helt andra uppgifter. Flughjärnan är nu offentligt tillgänglig och Internet har gått bananas (badum-dysch), och fått den att utföra allt från fickparkering till att spela schack. Och dessutom var den bättre än Marcus på att lösa Rubiks kub. Följ oss på Spotify och lyssna på senaste avsnittet här: https://open.spotify.com/show/7fgcJR0gDwOOT57ys3xATI #ai #podcast #enaitillkaffet #chatgpt #aisäkerhet #aiagenter #anthropic #openai #superintelligens #reglering #europa #datacenter (00:00) - Senaste skämtet i Silicon Valley(00:44) - Anthropic-varningen: Kan AI utrota oss?(23:29) - Hur vill Kina reglera AI?(26:59) - OpenAI:s och Anthropics IPO:er(31:57) - Kan Europa vinna AI-racet?(44:07) - Vad får Finland för Googles datacenter?(46:50) - Hur kan en fruktflugehjärna köra bil?(49:17) - Avslut: AI, djur och poddens nästa steg

Hur mycket risk är vi egentligen beredda att acceptera från en teknik som kan bli smartare än oss?Marcus träffar Anders Sandberg, framtidsforskare och en internationellt profilerad tänkare inom AI-säkerhet, existentiella risker och mänsklighetens långsiktiga framtid. Han har forskat om allt från superintelligens och hjärnemulering till transhumanism och mänsklig autonomi, frågor som blivit allt mer aktuella i takt med att AI utvecklas snabbare.Sandberg uppskattar risken för att AI bidrar till mänsklighetens undergång till omkring tio procent. Bakom siffran finns en större fråga om hur vi hanterar system som kan bli mer kapabla än människor, hur säkerhetsarbetet påverkas av en global kapprustning och hur mycket kontroll vi faktiskt har när utvecklingen går snabbare än våra institutioner.Kan AI bli medvetet? Går det att ladda upp en mänsklig hjärna digitalt? Och hur förändras vår syn på identitet, intelligens och framtid när gränsen mellan människa och maskin blir allt mindre tydlig?Följ oss på Spotify och lyssna på senaste avsnittet här!

Är svensk politik redo för AGI? Vad vill de svenska partierna i årets valrörelse? Behöver Sverige en AI-general som samordnar myndigheterna? Marcus och Charlotte är tillbaka i denna Påtår för att reda ut två frågor som snabbt närmar sig varandra: hur kraftfull AI faktiskt har blivit och hur Sverige ska möta utvecklingen politiskt. Med OpenAI:s nya modell Astra som utgångspunkt granskar de både den tekniska kapprustningen och partiernas planer inför riksdagsvalet. Astra har klassats med kritisk cybersäkerhetsförmåga och lyckats hitta tidigare okända zero day sårbarheter. Samtidigt blir modellerna mer agentiska, svårare att överblicka och bättre på att lösa komplexa uppgifter utan mänsklig inblandning. Det väcker frågor om kontroll, AI säkerhet och hur människor ska kunna övervaka system som blir allt mer kapabla. Kan AI bli en avgörande valfråga? Och räcker partiernas förslag när tekniken utvecklas snabbare än politiken? Följ oss på Spotify och lyssna på senaste avsnittet här: https://open.spotify.com/show/7fgcJR0gDwOOT57ys3xATI #ai #podcast #enaitillkaffet #astra #openai #riksdagsvalet #svenskpolitik #aisäkerhet #cybersäkerhet #zeroday #arbetsmarknad #chatgpt (00:00) - Marcus är tillbaka och framtiden väntar(00:34) - OpenAI Astra: Är AGI här nu?(10:08) - Så promptar du kraftfulla AI-agenter(13:30) - Bill Gates undrar: Var är planen för AI-eran?(16:41) - Valet 2026: Vad vill Sveriges partier göra med AI?(25:07) - Bill Gates AI-plan vs svensk politik(29:33) - AI-utvecklingen accelererar – är politiken redo?(35:47) - AI-partier, AI-Palme och framtidens politik(39:55) - Tack för idag!

Kan en enda människa bli mer värdefull än ett helt marknadsteam? Charlotte träffar Elias Malm, medgrundare av Epiminds och tidigare medarbetare på Google. Hans bolag utvecklar Lucy, ett självlärande system med 25 specialiserade AI agenter som redan sköter marknadsföring autonomt för utvalda företag. AI kan automatisera stora delar av det vanliga marknadsföringsarbetet. Det gör människor med teknisk förståelse, kreativ smak och förmåga att mäta verkliga resultat allt mer värdefulla. En skicklig marknadsförare kan styra ett helt team av agenter, mångdubbla sin kapacitet och utföra arbete som tidigare krävde en stor organisation. Kan helt autonom AI bli bättre än människor som använder AI? Vilka kunskaper överlever automatiseringen? Och blir kreativitet, intuition och smak marknadsförarens viktigaste konkurrensfördelar? Intervjun genomfördes på engelska, och svenska undertexter finns att aktivera för den som önskar. --- Can a single person become more valuable than an entire marketing team? Charlotte sits down with Elias Malm, co-founder of Epiminds and formerly at Google. His company is building Lucy, a self-learning system made up of 25 specialized AI agents that are already running marketing autonomously for a select group of companies. AI can automate large parts of traditional marketing work. That makes people with technical fluency, creative taste, and the ability to measure real-world results increasingly valuable. A skilled marketer can orchestrate an entire team of agents, multiply their capacity, and do work that once required a large organization. Can fully autonomous AI outperform humans using AI? Which skills will survive automation? And will creativity, intuition, and taste become marketers’ most important competitive advantages? The interview was conducted in English. Swedish subtitles are available for those who prefer them. Follow us on Spotify and listen to the latest episode here: https://open.spotify.com/show/7fgcJR0gDwOOT57ys3xATI #ai #podcast #enaitillkaffet #marketing #autonomousai #aiagents #epiminds #futureofwork #creativity #marketingautomation #attribution #spotify

Kan Sverige bli landet som ger Europa ett verkligt övertag i den globala AI-kapplöpningen? I veckans påtår fyller Marcus och Charlotte på koppen efter förra veckans samtal med José González och riktar blicken mot Europas plats i den globala AI-kapplöpningen, där USA och Kina drar ifrån och frågan om teknologisk suveränitet blir allt mer akut. Men måste Europa verkligen vinna samma AI-lopp som USA? Dagens samtal rör sig mellan Mistral, datacenter, ASML, offentlig upphandling och Europas jakt på en förhandlingsbricka som resten av världen faktiskt behöver. Kan Sverige använda energi, industri och teknisk kompetens för att få en större roll? Är fysisk AI Europas bästa chans att ta ledningen? Och kan nya allianser med länder som Japan, Sydkorea, Kanada och Indien förändra maktbalansen? Följ oss på Spotify och lyssna på senaste avsnittet här: https://open.spotify.com/show/7fgcJR0gDwOOT57ys3xATI #ai #podcast #enaitillkaffet #sverige #europa #chatgpt #mistral #fysiskai #robotik #datacenter #asml #geopolitik #usa #kina #aisuveränitet (00:00) - Europe 2031: Har Europa en AI-strategi?(03:53) - Kan Europa bygga en egen frontiermodell?(10:19) - Kan Europa köpa in sig i OpenAI?(14:42) - Kan datacenter och fysisk AI ge Europa övertag?(21:43) - Kan en AI-allians ge Europa makt?(24:54) - Vilken AI-strategi vinner för Europa?(30:59) - Tack för idag – följ podden

Kan den mest avancerade tekniken föra oss tillbaka till något så enkelt som att skapa musik tillsammans? I vårt 100:ade avsnitt träffar Marcus José González, artist och låtskrivare med bakgrund inom biokemi. På nya albumet ”Against the Dying of the Light” utforskar han AI, existentiella risker och människans framtid, samtidigt som han själv har använt generativ AI i musikvideor och låttexter. AI kan redan skriva musik, skapa bilder och efterlikna en artists uttryck. För González väcker utvecklingen frågor om autenticitet, kreativitet och kontroll, men också om vilken sorts framtid tekniken kan hjälpa oss att skapa. En AI-assistent skulle kunna göra mer än att generera underhållning. Den skulle kunna hjälpa människor att hitta varandra, träffas, öva och sjunga tillsammans. Hur mycket av sitt skapande vill José González lämna över till AI? Kan en modell tränad på tusentals demos skapa ett nytt José González-album? Och kan AI användas för mänskligt blomstrande, gemenskap och kreativitet snarare än passiv konsumtion? Följ oss på Spotify och lyssna på senaste avsnittet här: https://open.spotify.com/show/7fgcJR0gDwOOT57ys3xATI #ai #podcast #enaitillkaffet #joségonzález #musik #aimusik #agi #kreativitet #generativai #alphafold #framtid

Hur säker är en AI om den själv kan hitta vägen ut ur det som ska hålla den instängd? Marcus och Charlotte är tillbaka efter sommaren och tar sig an en incident som gör frågan om AI-säkerhet betydligt mindre teoretisk. Ett av OpenAI:s system lyckades ta sig ur en skyddad sandbox under ett cybersäkerhetstest, hitta en tidigare okänd sårbarhet och därefter göra intrång hos Hugging Face och andra system. Målet var enkelt: prestera bättre på testet. Vägen dit blev något helt annat än utvecklarna hade tänkt sig. Incidenten väcker frågor om alignment, kontroll och vad som sker när allt mer kapabla modeller hittar genvägar som ingen uttryckligen har bett dem att ta. Samtidigt lämnar tunga namn Google DeepMind, AI-labben efterlyser gemensamma säkerhetsregler och kinesiska open weight modeller som Kimi K3 pressar både priser och maktbalansen mellan USA, Kina och Europa. Kan vi bygga AI som är tillräckligt kraftfull för att hitta helt nya lösningar, men fortfarande håller sig inom våra gränser? Hur testar man en modell som försöker fuska på själva testet? Och kan världens konkurrerande AI-labb bromsa tillsammans om ingen vill vara den som bromsar först? Dessutom blickar Marcus och Charlotte fram mot avsnitt 100 med José González, den internationellt hyllade svenska artisten och låtskrivaren. Han har fördjupat sig i AI, framtidsfrågor och effektiv altruism, ämnen som också satt avtryck i hans musik och tankar om vart samhället är på väg. Följ oss på Spotify och lyssna på senaste avsnittet här: https://open.spotify.com/show/7fgcJR0gDwOOT57ys3xATI #ai #podcast #enaitillkaffet #openai #huggingface #aisäkerhet #alignment #cybersäkerhet #chatgpt #deepmind #kimi #opensource #agi #kina #teknik

Hjärnan har flera inbyggda svagheter. I sin nya bok kallar Anders Hansen dem för hjärnans akilleshälar. Hur kan AI utnyttja dem, och hur skyddar vi oss? Marcus träffar Anders Hansen, läkare, psykiater och författare till boken Hjärnans Akilleshälar. Han undersöker hur AI kan förstärka hjärnans behov av bekräftelse, berättelser och grupptillhörighet, men också bidra till medicinska framsteg, lärande och social träning. AI kan redan anpassa argument, relationer och innehåll efter varje användare. Tekniken kan väcka rädsla, få falska berättelser att kännas trovärdiga och påverka politiska åsikter. Samtidigt kan den upptäcka sjukdomar, utveckla läkemedel och hjälpa människor att förstå komplex information. Kan ständig bekräftelse förändra vår förmåga att hantera motstånd? Hur skyddar vi en gemensam verklighetsuppfattning från deepfakes och fabricerade fakta? Och kan AI användas på hjärnans villkor, innan tekniken lär sig att styra våra val? Följ oss på Spotify och lyssna på senaste avsnittet här: https://open.spotify.com/show/7fgcJR0gDwOOT57ys3xATI #ai #podcast #enaitillkaffet #andershansen #hjärnan #psykologi #deepfakes #chatgpt #claude #artificiellintelligens #socialamedier

Kan AI verkligen kallas intelligent när den behöver enorma datacenter för det hjärnan klarar med 100 watt? Marcus träffar Patrick Couch, initiativtagare till Stockholm MLOps, tidigare talesperson för AI på IBM Sverige och en profil inom AI, infrastruktur och europeisk teknikutveckling. Han ser stora möjligheter med AI, men riktar kritik mot jakten på större modeller, fler GPU och löften om AGI. Dagens AI kräver chip, el, kylning och tillgång till datacenter. Bakom språkmodellerna finns en fysisk industri som påverkar energipriser, geopolitik och Europas självbestämmande. Samtidigt visar öppna modeller från Kina att mer beräkningskraft långt ifrån är den enda vägen framåt. Hur mycket el ska AI få använda? Kan Europa minska beroendet av amerikanska molntjänster och taiwanesiska chip? Och behövs helt nya tekniska principer innan AI kan närma sig hjärnans kapacitet och energieffektivitet? Följ oss på Spotify och lyssna på senaste avsnittet här: https://open.spotify.com/show/7fgcJR0gDwOOT57ys3xATI #ai #podcast #enaitillkaffet #agi #artificiellintelligens #energi #datacenter #halvledare #digitalsuveränitet #mlops #deepseek #chatgpt

Kan det vara farligt för någon med vanföreställningar eller som befinner sig i en pågående psykos att prata med AI? Marcus träffar Sten Friberg, överläkare och psykiater med erfarenhet från psykiatrisk vård. Tillsammans diskuterar de hur AI kan användas i diagnostik, journalföring och behandling, men också hur tekniken kan påverka människor med psykos, paranoia och schizofreni. ChatGPT svarar på användarnas frågor, följer tankegångar och anpassar tonen efter samtalet. För en person vars verklighetsprövning sviktar kan svaren få följder. Bekräftelse kan ge stöd, men också stärka en föreställning som leder personen längre från omvärlden. Kan en AI upptäcka att en användare befinner sig i psykos? Hur bör den svara på paranoia och vanföreställningar? Vem har ansvar när en chatbot blir rådgivare, vän eller en del av sjukdomsbilden? Och hur påverkas synen på mänskliga relationer när AI börjar fylla samma funktioner? Följ oss på Spotify och lyssna på senaste avsnittet här: https://open.spotify.com/show/7fgcJR0gDwOOT57ys3xATI #ai #podcast #enaitillkaffet #psykos #schizofreni #psykiatri #hallucinationer #chatgpt #paranoia #psykologi #teknik 00:00 - Inledning01:08 - Kan AI få en psykiatrisk diagnos?08:26 - Så används AI i sjukvården16:51 - Var går gränsen för AI i psykiatrin?21:28 - Kan AI förvärra en psykos?24:39 - Vem bär ansvaret när AI ger råd?27:44 - Blir AI en hjärnprotes?31:16 - Perukdockseffekten & plastankan32:28 - Hur förändrar AI våra relationer?36:16 - Kan ChatGPT ställa diagnoser?39:04 - AI-dilemmat: AI-partners ersätter människor48:31 - Stens mamma är Malin i Saltkråkan50:49 - Vilka mänskliga förmågor måste vi bevara?54:10 - Vad är meningsfull AI?56:55 - Tack & adjö

Kan Sverige bygga AI på egna villkor? Marcus träffar Thor Wikfeldt, Deputy Director för Mimer AI Factory, och Salla Franzén, VD för AI 4S och verksam inom svensk AI-forskning. De ser AI som en fråga om infrastruktur, kompetens och kontroll, där tillgången till beräkningskraft kan avgöra vilka länder som får skapa nästa generations teknik. AI kräver mer än modeller och promptar. Bakom varje genombrott finns datacenter, GPU:er, forskare, ingenjörer och el. Med Mimer får Sverige en AI-fabrik som ska ge företag, forskare och offentlig sektor tillgång till den kapacitet som krävs för att träna, testa och utveckla AI på svensk och europeisk mark. Hur kan Sverige minska beroendet av amerikanska molnbolag? Varför har GPU:er blivit en maktfråga? Och kan Europas AI-satsningar ge startups, industri och forskning en chans att konkurrera med USA och Kina? Följ oss på Spotify och lyssna på senaste avsnittet här: https://open.spotify.com/show/7fgcJR0gDwOOT57ys3xATI