Werben im Podcast: Reboot Society - KI, Diversität und die neue Weltordnung

Nach den jüngsten Sicherheitsvorfällen fordern ausgerechnet führende Köpfe der Tech-Branche, die Entwicklung besonders leistungsfähiger KI zu verlangsamen. Doch was soll eigentlich gebremst werden und wer kontrolliert, ob sich Unternehmen und Staaten daran halten? Wir schauen auf den Drei-Stufen-Plan von Anthropic-CEO Dario Amodei: unabhängige Prüfer innerhalb der KI-Unternehmen, gemeinsame Sicherheitsstandards in demokratischen Staaten und internationale Vereinbarungen mit China. Außerdem fragen wir, ob die neuen Warnungen echte Verantwortungsübernahme sind oder ob große KI-Unternehmen versuchen, Regeln zu ihrem eigenen Vorteil mitzugestalten. Zwischen Sicherheitsrisiken, geopolitischem Wettbewerb und wirtschaftlichen Interessen wird deutlich: Ein KI-Slowdown ist keine einfache Pause-Taste. Entscheidend ist, ob Kontrolle, Transparenz und internationale Zusammenarbeit mit dem Entwicklungstempo Schritt halten können. Quellen zur Folge Dario Amodei: „We Must Pace the Frontier“ OpenAI: Bericht zum Sicherheitsvorfall bei Hugging Face OpenAI: Framework zur Veröffentlichung von Fehlverhalten Reuters: Warnungen von Jacob Coxon und Evan Hubinger Reuters: Anthropic zwischen Slowdown und Wettbewerbsdruck Stanford AI Index 2026: Öffentliche Wahrnehmung von KI Europäische Kommission: Regulierung durch den AI Act 📲 Media-Kanäle: 🔗 Sarah’s Instagram: @sarah_rojewski 🔗 Inken’s Instagram: @askinkenai

Jahrelang lieferten sich OpenAI, Anthropic und Google ein Wettrennen um immer leistungsfähigere KI. Doch plötzlich warnen ausgerechnet Menschen aus diesen Unternehmen vor den möglichen Folgen. Auslöser der aktuellen Debatte sind unter anderem ein folgenreicher Sicherheitsvorfall bei Hugging Face und der öffentliche Rücktritt des ehemaligen OpenAI- und Anthropic-Forschers Jacob Coxon. Was zeigen diese Ereignisse wirklich? Können KI-Agenten bereits eigenständig Grenzen überschreiten und zusammenarbeiten? Und wo beginnt die spekulative Erzählung von AGI, Superintelligenz und einer KI, die sich selbst verbessert? Wir sortieren Fakten und Zukunftsszenarien, sprechen über Silicon Valleys Echo Chambers und fragen: Sind die neuen Warnungen ein glaubwürdiger Alarm oder auch ein strategisches Instrument im Wettbewerb um Geld, Macht und Regulierung? In Teil zwei untersuchen wir, wie ein KI-Slowdown konkret aussehen könnte und warum dabei kein Weg an China vorbeiführt. Generative AI: Erstellt Texte, Bilder, Code und andere Inhalte. Agentic AI: Plant Arbeitsschritte, nutzt Werkzeuge und führt Aufgaben aus. AGI: Hypothetische KI mit breit gefächerten Fähigkeiten auf menschlichem Niveau. ASI: Hypothetische Intelligenz, die Menschen in fast allen relevanten Bereichen übertrifft. Recursive Self-Improvement: KI unterstützt die Entwicklung leistungsfähigerer KI-Systeme. Quellen: OpenAI: Der Hugging-Face-Vorfall und der weitere Weg OpenAI: Framework und sechs weitere Fälle von Fehlverhalten Reuters: Warnungen von Jacob Coxon und Evan Hubinger WIRED: Interview mit Jacob Coxon nach seinem Rücktritt Reuters: Weitere Stimmen zur aktuellen KI-Risikodebatte Dario Amodei: „We Must Pace the Frontier“ OpenAI: Ursprüngliche Gründungsankündigung von 2015 📲 Media-Kanäle: 🔗 Sarah’s Instagram: @sarah_rojewski 🔗 Inken’s Instagram: @askinkenai

Dieselbe KI, dieselbe Frage,  aber auf Englisch antwortet sie vorsichtiger, auf Arabisch wärmer. Genau das hat Anthropic an Claude nachgewiesen:  Sarah und Inken ordnen die Studie ein, ergänzen sie um Gegenbefunde aus anderen Forschungsarbeiten und fragen: echter kultureller Fingerabdruck oder einfach schlechtere Sprachverarbeitung, die wie Persönlichkeit aussieht? Und was das bedeutet, wenn Millionen Menschen täglich in Dutzenden Sprachen mit demselben System reden. 🔗 Links: Anthropic (2026): How Claude's values vary by model and language – anthropic.com/research/claude-values-models-languages Anthropic (2025): Values in the Wild Cultural Value Differences of LLMs: Prompt, Language, and Model Size – arxiv.org/abs/2407.16891 Made-in-China, Thinking in America: U.S. Values Persist in Chinese LLMs – arxiv.org/abs/2512.13723 The Ghost in the Grammar: Methodological Anthropomorphism in AI Safety Evaluations – arxiv.org/abs/2603.13255 Mehr zur Forschung von Meltem Aksoy https://www.researchgate.net/profile/Meltem-Aksoy-2 Mehr zur Forschung von Aliah Zewail: https://scholar.google.de/citations?user=ARLsaksAAAAJ&hl=de 📲 Media-Kanäle: 🔗 Sarah’s Instagram: @sarah_rojewski 🔗 Inken’s Instagram: @askinkenai

Waymo kommt nach München!! What?!  In dieser Folge sprechen wir über den technologischen Sprung vom assistierten zum autonomen Fahren, über den Unterschied zwischen Level 4 und Level 5 und darüber, warum Teleoperation aus der Ferne im Hintergrund eine viel größere Rolle spielt, als viele denken. Wir schauen uns an, wo die deutsche und europäische Regulierung im internationalen Vergleich steht, wie Uber, Tesla und Baidu um den Markt kämpfen und was es für unsere Städte bedeutet, wenn Robotaxis Teil des Alltags werden. Und wir reden über den Punkt, den in der Debatte gern niemand anspricht, nämlich die Datenspuren und die Überwachungsinfrastruktur, die mit jedem dieser Fahrzeuge durch die Straßen rollt. Hört rein! 🔗 Links: Adac Artikel zu den Automatisierungsstufen: https://www.adac.de/rund-ums-fahrzeug/ausstattung-technik-zubehoer/autonomes-fahren/grundlagen/autonomes-fahren-5-stufen/  📲 Media-Kanäle: 🔗 Sarah’s Instagram: @sarah_rojewski 🔗 Inken’s Instagram: @askinkenai

Wir sind zurück aus der Sommerpause und bringen die neusten KI News mit und sprechen über Themen, die uns in den letzten Wochen bewegt haben. Diesmal geht es um aktuelle Sicherheitsvorfälle rund um KI Modelle, neue Entwicklungen beim EU AI Act und die Frage, wie Fortschritt und Sicherheit zusammen gedacht werden können. Außerdem werfen wir einen Blick auf die Rolle von Open Source in der KI Entwicklung und darauf, was all das kulturell und ethisch für uns bedeutet. 🔎 Begriff im Fokus: OpenSource: (wörtlich „offene Quelle“) wird Software bezeichnet, deren Quellcode (der Bauplan eines Programms) öffentlich zugänglich ist und von Dritten eingesehen, genutzt, verändert sowie verbreitet werden darf. OpenWeight: Open-Weight-Modell ist ein künstliches Intelligenzmodell, bei dem die fertig trainierten Modellgewichte (die Parameter oder Zahlenwerte des Wissens) öffentlich zum Download bereitstehen, damit jeder sie auf eigener Hardware ausführen kann. Der Quellcode ist aber nicht offen. 🔗 Literatur & Studien: Paper zu Shieldstral von Mistral: https://arxiv.org/abs/2607.25857 Link zum Buch “the Alignment Problem von Brian Christian: https://www.hugendubel.de/de/taschenbuch/brian_christian-the_alignment_problem-40398595-produkt-details.html?utm_source=google&utm_medium=cpc&utm_campaign=20795765403&adCode=320R20I20U31M&utm_term=&gad_source=1&gad_campaignid=20795766201&gbraid=0AAAAADi36RBldPwW8V6QI9TVozADobvwn&gclid=CjwKCAjwqc_UBhBKEiwAWbl25sxnnFzW9wMjEFa5J97Q_n1LNV4ThwIAp032yeBgArIMVhoK1l0HkBoCm2YQAvD_BwE  🔗 Links: Undere Podcast-Folge zum EU AI Act und den Regeln zur Kennzeichnungspflicht: https://open.spotify.com/episode/6xjIujQTdjM0owQ3uzLQYH  Artikel zur Übernahme von Huggingface von Nvidia (mit Umsatzinfos):https://www.heise.de/news/Bericht-Nvidia-uebernimmt-Hugging-Face-fuer-12-9-Milliarden-Dollar-11431261.html  Second Brain Guide von Inken: https://vely.ai/second-brain-guide  Und haltet nach Sarahs Kurs ausschau, sobald der online ist, werden wir berichten! :) 📲 Media-Kanäle: 🔗 Sarah’s Instagram: @sarah_rojewski 🔗 Inken’s Instagram: @askinkenai

Europa hat das weltweit erste große Gesetz für Künstliche Intelligenz geschrieben. Vier Jahre Arbeit, eine Blaupause für den Rest der Welt. Und dann, wenige Wochen bevor der wichtigste Teil greifen sollte, drückt Brüssel auf Pause. In dieser Folge nehmen wir den EU AI Act auseinander: Was das Gesetz eigentlich ist, wie es aufgebaut ist und was am 2. August 2026 wirklich passiert – und was eben nicht mehr. Denn der große Hochrisiko-Termin wurde durch den „Digital Omnibus" nach hinten geschoben. Trotzdem wird an dem Tag ernst: Die EU-Kommission darf ab jetzt die großen KI-Anbieter mit Millionen-Bußgeldern belegen, und die Transparenzregeln werden scharf gestellt. Wir zeigen euch die fünf Dinge, die du konkret tun musst, wenn du KI im Job oder im eigenen Business nutzt und nicht in ein Bußgeld laufen willst. Nichts davon braucht eine große Rechtsabteilung. Und dann wird es streitbar. Wir fragen uns: Ist dieses Gesetz kluge Vorsicht oder eingeknickt, bevor es das erste Mal zubeißen musste? Schützt es uns vor den Gefahren, die wir wirklich fühlen – Deepfakes, gefälschte Nacktbilder, Betrug? Oder rüstet es die Konzerne, während der Einzelne schutzlos danebensteht? Und wie viel Verantwortung bleibt am Ende bei uns selbst? Eine Folge über Recht, Angst und die eine Frage, die dieses Gesetz uns allen stellt: Wer trägt eigentlich die Verantwortung? Quellen / Stand der Recherche (Juli 2026) EU AI Act Check/Guide von Sarah; EU AI Act – Der Guide zur Kennzeichnungspflicht | Zukunftsskill   Europäische Kommission – AI Act Überblick: https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai Rat der EU – Einigung zur Vereinfachung (Digital Omnibus), 7. Mai 2026: https://www.consilium.europa.eu/en/press/press-releases/2026/05/07/artificial-intelligence-council-and-parliament-agree-to-simplify-and-streamline-rules/ Gibson Dunn – Omnibus: verschobene Hochrisiko-Deadlines: https://www.gibsondunn.com/eu-ai-act-omnibus-agreement-postponed-high-risk-deadlines-and-other-key-changes/ Beam.ai – GPAI-Durchsetzung & Bußgelder ab 2. August 2026: https://beam.ai/agentic-insights/eu-ai-act-enforcement-august-2-2026-gpai-fines Inside Global Tech (Covington) – neue Verbote & Zeitplan-Änderungen: https://www.insideglobaltech.com/2026/05/28/eu-ai-act-update-timeline-relief-targeted-simplification-and-new-prohibitions/ artificialintelligenceact.eu – High-level summary & Umsetzungszeitplan: https://artificialintelligenceact.eu/high-level-summary/ Die EU Icons: EU Icons for labelling AI-generated content | Shaping Europe’s digital future  Für Anregungen und mehr folgt uns gerne  🔗 Sarah’s Instagram: @sarah_rojewski 🔗 Inken’s Instagram: @askinkenai

Diana Nanova ist Head of Customer Engineering für Startups und Scaleups in EMEA bei Google und sie denkt in Quantenphysik.Was nach Uni-Seminar klingt, ist ihr Werkzeug, um Entscheidungen unter Unsicherheit zu treffen. Genau darum geht's in dieser Folge. Wir sprechen darüber, welchen Fehler die meisten Startups bei der KI-Integration machen und was die Teams anders machen, die es wirklich draufhaben. Diana ordnet ein, ob Europa im KI-Wettbewerb mit den USA und Asien strukturell verliert oder ob wir unsere Stärken übersehen.  Wir waren live bei der Google IO vor Ort. Ihr könnt diesmal also zuhören und zuschauen.  LinkedIn Dr. Diana Nanova: Diana Nanova | LinkedIn   Für Anregungen und mehr folgt uns gerne  🔗 Sarah’s Instagram: @sarah_rojewski 🔗 Inken’s Instagram: @askinkenai

Lokale KI ist gerade überall Gesprächsthema, aber was steckt eigentlich dahinter. In dieser Folge sprechen wir über Modelle, die direkt auf dem eigenen Gerät laufen, ganz ohne Cloud und ganz ohne fremde Server. Wir schauen uns an, warum das für Datenschutz ein echter Gamechanger sein kann und wieso gerade Unternehmen mit sensiblen Daten davon profitieren. Gleichzeitig reden wir offen über die Grenzen. Hardware spielt eine große Rolle, Wartung kostet Zeit und nicht jedes Modell lässt sich einfach auf viele Geräte skalieren. Wir ordnen ein, für wen sich lokale KI aktuell wirklich lohnt und wo die Cloud weiterhin die bessere Wahl bleibt. Eine Folge für alle, die digitale Souveränität ernst nehmen und wissen wollen, wie viel Kontrolle über die eigenen Daten heute schon technisch möglich ist. Quellen: Erwähnte medizinische Studie Inken’s Guide für den Einstieg in lokale KI (Werbung) Infos zu GLM 5.2. Für Anregungen und mehr folgt uns gerne  🔗 Sarah’s Instagram: @sarah_rojewski 🔗 Inken’s Instagram: @askinkenai

Heute wird es persönlich. Sarah war vor wenigen Wochen auf der Google I/O in San Francisco und berichtet, wie so eine Reise mit Google so abläuft. Letzte Woche stand dann die Google IO Connect in Berlin statt und Inken und Sarah waren zusammen vor Ort, um sich die neusten KI Features und Modelle aus erster Hand anzuhören und auszutesten.  Quellen:  After Automation | Every  Gemini Spark – Your 24/7 personal AI agent for productivity  Für Anregungen und mehr folgt uns gerne  🔗 Sarah’s Instagram: @sarah_rojewski 🔗 Inken’s Instagram: @askinkenai

Sarah war auf der Google IO in San Francisco und hatte die Chance Yulie Kwon Kim VP Workspace zu interviewen.Gemeinsam werfen sie einen Blick darauf, wie sich KI von einem reaktiven Chatbot zu einem proaktiven digitalen Kollegen entwickelt und warum genau dieseVeränderung unseren Arbeitsalltag grundlegend verändern wird. Yulie gibt exklusive Einblicke in die Produktvision hinter Gmail, Google Docs, Gemini und den neuen agentischen Funktionen von Google Workspace. Außerdem sprechen wirdarüber, weshalb KI vor allem eines zurückgeben soll: Zeit für die Dinge, die wirklich wichtig sind. Für Anregungen und mehr folgt uns gerne  🔗 Sarah’s Instagram: @sarah_rojewski 🔗 Inken’s Instagram: @askinkenai

In dieser Folge sind wir zu Gast bei Birds on Mars in Berlin und sprechen mit Gründer und CEO Florian Dohmann über die Fragen, die den KI-Diskurs gerade wirklich antreiben sollten. Es geht um Generation AI als Haltung statt Geburtsjahr, um Vertrauen in Zeiten von Deepfakes und Plattformmonopolen, um die Frage ob KI wirklich kreativ ist und was dabei verloren geht, wenn der Zwischenraum zwischen Mensch und Maschine schrumpft.  Florian spricht über schleichende Entmachtung auf individueller wie gesellschaftlicher Ebene, über Europas noch nicht verspielte Chance und darüber, warum verantwortungsvoller KI-Einsatz kein Gegensatz zu wirtschaftlichem Erfolg ist , sondern seine Voraussetzung. Und er bringt einen Satz mit, der hängen bleibt: „Wenn du genial bist, macht dich die KI mittelmäßig." Am Ende steht eine Frage, die bleibt: Wenn KI unseren Tag antizipiert, bevor wir selbst darüber nachgedacht haben , ist das Empowerment oder der eleganteste Kontrollverlust, den wir je gebaut haben?  Milenkovic (2026), Societies Scientific Reports Studie Automation Bias Metaanalyse https://birdsonmars.com/ Emotional Manipulation by AI Companions Joachim Meyerhoff - Die Lücke, diese entsetzliche Lücke  Margit Boden - It’s nature and future AI  https://www.datcreativity.com/ Für Anregungen und mehr folgt uns gerne  🔗 Sarah’s Instagram: @sarah_rojewski 🔗 Inken’s Instagram: @askinkenai

Was wäre wenn? Was wäre, wenn wir in Europa weiterhin konservative und zurückhaltende Entscheidungen für die KI Zukunft und die europäische Souveränität treffen?  Was wäre, wenn die Kluft der Computing Power zwischen der USA und Europa weiter wächst und nicht nur zu wirtschaftlichen Rückständen, sondern zur vollkommenden Bedeutungslosigkeit von Europa führt?  In dieser Folge sprechen wir über das “Europa 2031” Szenario. Ein Szenario, welches aufzeigt was passieren KÖNNTE. Quellen: AI 2027: AI 2027  Notebook: Link Szenario: Europe 2031  Für Anregungen und Mehr folgt uns gerne  🔗 Sarah’s Instagram: @sarah_rojewski 🔗 Inken’s Instagram: @askinkenai

Was wäre, wenn dein Büro dein Computer ist und dein Körper das Interface? Diese Woche fügt sich alles zu einem Bild zusammen. Microsoft CEO Satya Nadella erklärt bei der Build 2026 das Ende der App-Ära und präsentiert konkrete Hardware: einen KI-Badge am Revers, einen sprachgesteuerten Tisch-Würfel und Project Solara, eine Plattform für Agenten statt Apps. In derselben Woche veröffentlicht Anthropic interne Zahlen, die aufhorchen lassen! Über 80 Prozent des eigenen Codes wird heute von Claude geschrieben. Und der nächste Schritt, so Mitgründer Jack Clark, wäre KI, die ihre eigenen Nachfolger baut, ohne Menschen. Gleichzeitig fordert Anthropic eine globale Verlangsamung, während das Unternehmen auf den Börsengang zusteuert.  Wir besprechen, was hier gerade los ist! Quellen:  When AI builds itself \ Anthropic  Brillen zum (Vibe-) Coden  Microsoft Build 2026 Blogpost Für Anregungen und mehr folgt uns gerne  🔗 Sarah’s Instagram: @sarah_rojewski 🔗 Inken’s Instagram: @askinkenai

Darf Anthropic bald an die Börse? Das Unternehmen hat vertraulich einen S-1 bei der amerikanischen Börsenaufsicht SEC eingereicht, der erste formelle Schritt Richtung IPO. Anthropic wurde von Menschen gegründet, die OpenAI aus Sicherheitsbedenken verlassen haben, und ist heute das wertvollste private KI-Unternehmen der Welt, mit einem annualisierten Umsatz nahe 50 Milliarden Dollar und dem ersten profitablen Quartal in Sichtweite. Aber gleichzeitig kündigt Microsoft Claude-Code-Lizenzen wegen zu hoher Kosten, Uber deckelt KI-Ausgaben pro Mitarbeiter auf 1.500 Dollar im Monat, und Starbucks hat sein KI-Tool nach neun Monaten wegen Unzuverlässigkeit eingestellt. Was bedeutet es, wenn genau jetzt das Börsentiming optimal erscheint? In dieser Folge fragen wir uns: Werden hier gerade Risiken, die jahrelang bei einer überschaubaren Gruppe gut informierter Risikokapitalgeber lagen, an Pensionsfonds, Privatanleger und Indexfonds weitergegeben? Und Vorsicht: Wir bewegen uns in dieser Folgen im großen Zahlenraum. Quellen:  Breaking Down the Numbers Behind SpaceX, Anthropic, and OpenAI as They Prep for Massive IPOs  Artikel zu GROK und dem Wasserverbrauch  Für Anregungen und mehr folgt uns gerne  🔗 Sarah’s Instagram: @sarah_rojewski 🔗 Inken’s Instagram: @askinkenai

Wie sieht die Symbiose zwischen Mensch und Maschine aus, wenn KI den Status des reinen Werkzeugs verlässt? In dieser Folge sprechen wir mit Julian Kramer, AI Evangelist EMEA bei Adobe. Wir werfen einen Blick hinter die Kulissen der Tech-Transformation und diskutieren die Fragen, die weit über reine Technologie hinausgehen: Was passiert, wenn generative KI durch synthetische Daten zu einer „Kopie von Kopien“ wird und sich selbst frisst? Warum stehen Unternehmen jetzt vor dem harten Wendepunkt hin zu Agentic AI – wo Maschinen als autonome Kollegen statt als Hintergrund-Tools agieren? Julian erklärt, warum KI das technologische „Geheimwissen“ ablöst und uns stattdessen in einen reinen Wettbewerb der Ideen wirft. Wir besprechen, ob es sich heute noch lohnt, Photoshop zu lernen, wie KI die Leistungskurve in Unternehmen verschiebt und warum echter Technologie-Optimismus nichts mit blindem Hype zu tun hat. Für Anregungen und mehr folgt uns gerne  🔗 Sarah’s Instagram: @sarah_rojewski 🔗 Inken’s Instagram: @askinkenai