1812615197
Prompt und Antwort

Werben im Podcast: Prompt und Antwort

Kategorien
Dieser Podcast hat
207 Episoden
Sprache
German
Herausgeber
KI-Gilde
Explizit
Nein
Erstellt am
2025/05/06
Neueste Episode
2026/10/23
Durchschnittsdauer
10 min.
Veröffentlichungsintervall
3 Tage

Beschreibung

Ein KI-generierter Podcasts rund um die Entwicklung von und mit KI. News, Updates und interessante Hintergrundinformationen für den professionellen Einsatz von KI hinaus. Ohne Hype und Buzzwords. Die KI-Gilde ist ein Angebot der YnotBetter UG.

Freischalten Prompt und Antwort Podcast E-Mail-Kontaktdaten,
Hoerer- und Zielgruppendetails

E-Mail-Kontaktinformationen

Direkte Podcast-Kontaktdaten

Hoerer

Zielgruppenzahlen und Engagement-Einblicke

Zielgruppendetails

Podcast-Einblicke

Podcast-Episoden

Neueste Episoden von Prompt und Antwort Podcast ansehen


206 - Memory als Notizbuch
2026/10/23
Eine Markdown-Datei pro Erinnerung und ein Inhaltsverzeichnis darüber: Mehr steckt hinter dem Gedächtnis unseres Coding-Agenten nicht. Im zweiten Teil unserer Memory-Reihe geht es um die Fragen drumherum. Wann liest der Agent aus seinem Notizbuch, wie findet er das Richtige, wann schreibt er hinein, und wer entscheidet das eigentlich: das Modell, der Harness oder beide? Grundlage sind unsere Code-Analyse von neun Gedächtnissystemen für die DeepSeek Harness und das Notizbuch, das unser eigener Coding-Agent seit August führt. Die Mechanik: ein Index, der zu Sitzungsbeginn geladen wird, und Dateien, die das Modell selbst öffnet, ganz ohne Suche und EmbeddingsWer schreibt: das Modell nach einer Anleitung im System-Prompt, der Harness als Anstoß oder der Harness alleinWas der Prompt-Cache damit zu tun hat und warum ein Index im System-Prompt in langen Sitzungen teuer wirdSub-Agenten im Notizbuch: lesen ja, schreiben nein, und warum das Gedächtnis auch ein Sicherheitsthema istEin ehrlicher Blick in unser eigenes Notizbuch: eine Indexzeile mit über dreitausend Zeichen, Widersprüche, veraltete Einträge, und wie man es besser pflegtDie Stimmen in diesem Podcast sind künstlich erzeugt. Die Inhalte stammen von uns.
205 - Knowledge Graphs
2026/10/21
Was ist ein Knowledge Graph eigentlich, und ist das überhaupt neu? Wir erklären, woraus so ein Graph besteht, worin er sich von einer relationalen Datenbank und einer Vektordatenbank unterscheidet und warum die Idee gut sechzig Jahre alt ist. Dann geht es um die Fragen, an denen die meisten Projekte hängen bleiben: Woher weiß man, welche Arten von Knoten man braucht, und wer entscheidet, welches Wissen hineinkommt? Knoten, benannte Kanten und das Tripel aus Subjekt, Prädikat und Objekt, dazu was eine Ontologie istVon semantischen Netzen und Cyc über Googles „Dinge statt Zeichenketten“ bis GraphRAG: was die Sprachmodelle wirklich verändert habenKompetenzfragen als Bauplan: aus Substantiven werden Knotentypen, aus Verben Kanten, und die typischen Fehler beim ModellierenWas hineinkommt: Rang der Quellen, Stammdaten als Rückgrat, Zusammenführen, Herkunft an jeder Kante und zwei Zeiten je FaktTechnik: RDF gegen Property Graph, wie die Frage in den Graphen kommt, GraphRAG, LazyGraphRAG, LightRAG und Graphiti, und wann sich ein Graph überhaupt lohntDie Stimmen in diesem Podcast sind künstlich erzeugt. Die Inhalte stammen von uns.
204 - EmbeddingGemma 2
2026/10/19
Ein Embedding-Modell macht aus einem Foto 768 Zahlen und kann diese Zahlen nicht wieder in Worte zurückübersetzen. Wir wollten trotzdem wissen, was in so einem Bild-Vektor steckt. Mit EmbeddingGemma 2 von Google, einem Foto aus einem öffentlichen Datensatz und einer Methode, die nur misst und nie zurückrechnet, haben wir versucht, die Bedeutung des Bildes wieder herauszulesen. Das klappt erstaunlich gut, aber nicht überall. Warum ein Embedding-Modell keinen Rückweg kennt und wie man mit Raten und Prüfen trotzdem Wörter aus einem Vektor gewinntBeam-Suche über 30.000 Wörter und ein kleines Sprachmodell, das das Bild nie sieht, aber für die Grammatik sorgtDie Modalitätslücke: Warum fast jeder Text einem Bild schon „nah“ ist und weshalb wir jeden Wert gegen eine Grundlinie lesenEin Vektor als Mischung: Zutaten zerlegen und einzelne Dinge herausrechnenWie aus Kacheln und Tokens am Ende ein einziger Vektor wird, und was beim Mitteln verloren gehtDie Stimmen in diesem Podcast sind künstlich erzeugt. Die Inhalte stammen von uns.
203 - Memory im Überblick
2026/10/16
Was du einem Agenten heute beibringst, weiß er morgen nicht mehr. In unserer Agentenreihe beginnt das Thema Gedächtnis, und wir fangen mit dem Überblick an: Warum braucht ein Agent überhaupt ein eigenes Memory-System, und warum gibt es dafür so verschiedene Lösungen? Grundlage sind neun Gedächtnissysteme aus der Community, die wir uns für die DeepSeek Harness direkt im Quellcode angesehen haben. Warum Verlauf und Regeldateien nicht reichen, und woran du merkst, dass deinem Agenten ein Gedächtnis fehltFünf Schichten von Gedächtnis: Regeln, Nutzerprofil, Projektwissen, Episoden und Wissenssammlung – und wie viel davon immer im Kontext liegen sollteDie Muster im Vergleich: das Notizbuch, das das Modell selbst führt, die automatische Destillation mit Dream, Honcho als externer Beobachter, der Suchindex über alte Gespräche und das LLM-Wiki nach Andrej KarpathyDrei Fragen, nach denen sich jedes System sortieren lässt: Verhalten oder Wissen? Wer schreibt? Und läuft es mitten in der Sitzung oder parallel daneben?Was ein Gedächtnis im Kontext kostet und warum es eine Rolle spielt, ob Erinnerungen im System-Prompt oder als eigene Nachricht landenDie Stimmen in diesem Podcast sind künstlich erzeugt. Die Inhalte stammen von uns.
202 - RAG und Co.
2026/10/14
RAG, GraphRAG, LightRAG, OpenRAG, LoRA, QLoRA – und wie bringe ich eigene Dokumente in die KI? Diese Frage kam als Hörerwunsch bei uns an. Wir spielen sie an einem Maschinenbauer durch, dessen Servicetechniker einen Assistenten bekommen sollen, der aus Handbüchern und Serviceberichten antwortet. Am Ende kannst du jeden dieser Begriffe einordnen. Warum „alle Dokumente ins Chatfenster“ scheitert: begrenztes Kontextfenster, Kosten und Tempo, Lost in the Middle, Rechte und AktualitätWie RAG in vier Schritten funktioniert: Chunking, Embeddings und Vektordatenbank, Retrieval, Antwort mit Quellenangabe – und warum die meisten Fehler bei der Suche entstehenDie Begriffe auf vier Ebenen: das Prinzip, Varianten wie Hybrid Search, Reranking, GraphRAG, LightRAG und Agentic RAG, fertige Produkte wie OpenRAG – und was gar kein RAG istFine-Tuning mit LoRA und QLoRA gegen RAG: Das eine gibt dem Modell Verhalten, das andere WissenWann Long Context mit Zwischenspeicher (CAG) die einfachere Lösung istDie Stimmen in diesem Podcast sind künstlich erzeugt. Die Inhalte stammen von uns.
201 - Strata
2026/10/12
Eine Inferenz-Engine, die genau ein Modell ausführen kann: Strata bringt Qwen 3.8 Flash Next mit 125 Milliarden Parametern auf einen normalen Spiele-PC mit einer Grafikkarte ab 12 Gigabyte. Wir spielen das an einem Entwickler durch, der seinen Coding-Agenten auf einer RTX 4090 lokal laufen lassen will, statt seinen Code in die Cloud zu schicken. Und wir fragen, ob der Trend weg vom Allzweck-Server wie Ollama hin zur maßgeschneiderten Engine trägt. Wie Strata das Modell auf drei Ebenen verteilt: die meistgenutzten Experten im Grafikspeicher, alle im Arbeitsspeicher, die Nachschlagetabelle auf der SSDWas anders ist als bei llama.cpp und was unabhängige Messungen zeigen: 63 statt 23 Token pro Sekunde auf 12 Gigabyte, gleiche Ergebnisse bei Rechen- und Code-AufgabenWie weit man die Engine anpasst: Paketgröße, Kontext, parallele Plätze, das Überspringen seltener Experten, Sampling und Forks bis hin zu zwei PCs im HeimnetzWo es bricht: unbelegte Qualität bei langen Agentenaufgaben, Antworten, die bei Temperatur null nicht gleich bleiben, und eine Engine, die an einem Vorschau-Modell hängtFür wen es sich lohnt und für wen nicht: Team-Server, viele Modelle, DGX Spark und MacDie Stimmen in diesem Podcast sind künstlich erzeugt. Die Inhalte stammen von uns.
200 - Warum Tool Calling kippt
2026/10/09
89 Prozent, wenn ein Modell ein einzelnes Werkzeug aufrufen soll. 45 Prozent, wenn dasselbe über mehrere Runden geht. In der letzten Folge ging es darum, wie Tool Calling funktioniert, diesmal darum, warum es im Alltag so oft nicht glatt läuft. Unser Beispiel ist ein Support-Agent, der Tickets liest, in der Kundendatenbank nachsieht und in einfachen Fällen eine Erstattung auslöst. MCP-Server gegen Kommandozeile: bekannte Shell-Befehle gegen ein fremdes JSON-Schema, und wer bestimmt, wie viel im Verlauf landetWas alles ein Werkzeug ist, vom Menschen, den man fragt, bis zum Subagenten, und warum Sicherheit eine Entscheidung im Harness ist und keine Eigenschaft des ModellsTool-Scheu: „Ich schaue mir die Bestellung mal an“, und dann kommt nichts. Warum das nach dem vierzigsten Ticket häufiger passiert als nach dem erstenMessen mit dem Berkeley Function Calling Leaderboard und Tau-Bench, und warum man solchen Zahlen nur mit Vorsicht trauen sollteAusblick: FunctionGemma, ein Modell mit 270 Millionen Parametern, das nur für Werkzeugaufrufe gebaut istDie Stimmen in diesem Podcast sind künstlich erzeugt. Die Inhalte stammen von uns.
199 - Kolibri im Test
2026/10/07
„Wir haben viel in Stil, Grammatik und deutsches Denken gesteckt. Dinge, die in keinem Benchmark auftauchen.“ So beschreibt das Team von Aleph Alpha sein neues Modell Kolibri, seit dem 3. Oktober mit offenen Gewichten frei verfügbar und bewusst nur für Deutsch und Englisch gebaut. Wir haben es auf einem DGX Spark laufen lassen und eine Frage gestellt: Schreibt ein Modell, das für Deutsch gebaut ist, auch besseres Deutsch, mit weniger KI-Slop? Mixture of Experts: 78 Milliarden Parameter, pro Token rechnen nur 3,5 Milliarden. Warum Kolibri deshalb schnell ist und den Spark trotzdem fast allein belegtRechnen gegen Wissen: 50 von 50 Mathe-Textaufgaben, aber weniger Allgemeinwissen als Qwen 3.8, ein erfundener Nobelpreis und ein Dienstag, der zum Mittwoch wurdeDer Tokenizer: 27 Prozent weniger Token für Behördendeutsch, 41 Prozent für lange Komposita, Englisch gleichauf. Wo man das Deutsche wirklich merktDie Schreibproben: Leichte Sprache, ein Gedicht im Stil von Wilhelm Busch, Sächsisch und Doppel-s statt EszettWofür wir Kolibri einsetzen würden und was mit einem Modell, das keine Woche alt ist, noch offen istDie Stimmen in diesem Podcast sind künstlich erzeugt. Die Inhalte stammen von uns.
198 - Claude Code Mods
2026/10/05
Bis letzte Woche konnte man den Coding-Agenten von Anthropic bitten, sich an eine Regel zu halten. Seit dem 1. Oktober kann man ihn zwingen: mit Mods, kleinen TypeScript-Modulen, die sich in fast jeden Schritt des Agenten einklinken. Selbst gebaut hatten wir noch keinen, also haben wir den Agenten gebeten, einen für sich selbst zu bauen. Wie Mods technisch funktionieren: Ereignisse, eine Kette von Funktionen und `next`. Was man vorher umschreiben, nachher auswerten oder ganz ersetzen kann, und wie sich das von der Datei mit den Projektregeln, von klassischen Hooks und von Plugins unterscheidetIst das derselbe Weg wie beim DeepSeek Harness, in dem alles ein Plugin ist? In der Richtung ja, im Prinzip neinUnser Test: ein Schwärzer, der IBANs, E-Mail-Adressen und API-Schlüssel ersetzt, bevor das Modell sie sieht. 58 Zeilen, zwei grüne Tests, und trotzdem nicht ganz das, was er zu sein scheintKeine Sandbox: was ein Mod alles darf und warum wir das für ehrlich haltenWas man damit künftig baut: den Firmen-Mod statt der Datenschutzschulung, einen Kostenwächter, einen Leitstand, der nicht mehr wie ein Chat aussieht. Und welches Risiko bei Mods aus fremden Quellen mitkommtDie Stimmen in diesem Podcast sind künstlich erzeugt. Die Inhalte stammen von uns.
197 - Tool Calling
2026/10/02
Unser Agent sollte in einer Datei einen Eintrag ergänzen. Hinterher stand genau einer drin: der neue. In Stufe vier unserer Agentenreihe geht es um Tool Calling, bei manchen Anbietern Function Calling genannt, also darum, wie ein Modell Werkzeuge benutzt. Und um die Frage, wer diese Datei eigentlich überschrieben hat. Die Grundmechanik: Der Harness gibt dem Modell eine Liste von Werkzeugen mit, jeweils Name, Beschreibung und Parameterschema. Was nicht in der Liste steht, existiert für das Modell nichtDas Modell entscheidet in jeder Runde zwischen Antwort und Tool-Call. Es führt nichts aus, es äußert einen Wunsch, ausführen tut der HarnessDie Schleife: Ergebnis an den Verlauf, alles zurück ins Modell, bis eine normale Antwort kommt. Hier wird aus einem Chatbot ein Agent, und jedes Ergebnis kostet in jeder weiteren Runde KontextWerkzeugbeschreibungen sind Prompt: Warum ein Werkzeug namens „Suchen“, das nur im Wiki sucht, für jede Suche genommen wird, und warum acht gut beschriebene Werkzeuge mehr bringen als vierzig halbgareAls Nächstes in der Reihe: warum Tool Calling in der Praxis kippt. Die Stimmen in diesem Podcast sind künstlich erzeugt. Die Inhalte stammen von uns.
196 - DeepSeek Harness
2026/09/30
DeepSeek hat diesmal kein neues Modell veröffentlicht, sondern die Software drumherum: DeepSeek Harness, eine quelloffene Laufzeitumgebung für Agenten, in der alles ein Plugin ist. Das Modell, die Werkzeuge, die Agentenschleife und sogar der System-Prompt. Wir haben den Slogan ernst genommen und nachgeschaut, was er technisch heißt, durchgespielt an unserem eigenen Agenten Kuno, der im Terminal, über WhatsApp und über einen kleinen Roboter antwortet und eine neue Fähigkeit bekommen soll. Was das Harness ist: MIT-Lizenz, Developer Preview, gebaut auf dem Plugin-Framework Cordis in TypeScript, und nicht an ein Modell von DeepSeek gebundenDer Plugin-Vertrag: Name, benötigte Dienste, Startfunktion. Abhängigkeiten statt Reihenfolge, und jede Anmeldung wird beim Entladen von selbst zurückgenommenDer System-Prompt als Sammlung benannter Abschnitte, bei jeder Anfrage neu zusammengesetzt, global oder je Agent, mit Protokoll für das AuditEine Fähigkeit als ein Paket aus Werkzeug, Prompt-Abschnitt und Regel, das sich zur Laufzeit nachladen lässt. Und was das am Caching kostetEin Agent, der je Kanal anders antwortet, mit einem einzigen PluginNachladen nach Bedarf und das Kanal-Plugin sind unsere eigenen Entwürfe, nicht aus der Dokumentation. Als Nächstes bauen wir das Kanal-Plugin für Kuno mit einem lokalen Modell nach. Zum Nachlesen: DeepSeek Harness auf GitHub: https://github.com/deepseek-ai/deepseek-harness Cordis Primer: https://github.com/deepseek-ai/deepseek-harness/blob/master/docs/cordis-primer.md Subsystem-Doku System-Prompt: https://github.com/deepseek-ai/deepseek-harness/blob/master/docs/subsystems/system-prompt.md Extension Cookbook: https://github.com/deepseek-ai/deepseek-harness/blob/master/docs/cookbook/extension-cookbook.md Die Stimmen in diesem Podcast sind künstlich erzeugt. Die Inhalte stammen von uns.
195 - OpenWork
2026/09/28
Claude Cowork arbeitet mit den Modellen von Anthropic, und mit keinen anderen. OpenWork ist das quelloffene Gegenstück: eine Desktop-App auf OpenCode, bei der du das Modell selbst aussuchst, per Schlüssel eines großen Anbieters oder lokal. Wir haben es selbst noch nicht benutzt, die Folge ist ein erster Blick anhand von Herstellerangaben, Dokumentation und den Diskussionen der Entwickler. Durchgespielt an einer Aufgabe, die jedes Büro kennt: dem Bericht am Montagmorgen. Was OpenWork technisch ist: eine Oberfläche für Mac, Windows und Linux, darunter arbeitet OpenCodeGeplante Aufgaben: ein normaler Satz wird zur Auftragsdatei, gestartet vom Zeitplaner des Betriebssystems. Was passiert, wenn der Rechner aus ist oder der Agent eine Rückfrage hätteDatenbank über MCP und die Übersichtsseite als Artefakt neben dem Gespräch. Und die zwei Funktionen, die laut Hersteller noch fehlenVom einen Rechner zum Team: was man hostet und was nicht, Docker oder gehostet (fünf Plätze frei, danach zehn Dollar je Platz im Monat), und warum die Lizenz einen zweiten Blick lohntDaten im Haus gibt es nur mit lokalem Modell. Was das für den Vergleich mit Cowork bedeutetWir wollen unseren eigenen Ablauf in OpenWork nachbauen und suchen dafür echte Fälle: Was gebt ihr Cowork heute zu tun, und hat jemand OpenWork schon laufen? Schreibt uns per Mail, über WhatsApp oder in die Kommentare. Zum Nachlesen: OpenWork, Projekt und Quellcode: https://github.com/different-ai/openwork OpenWork, Herstellerseite mit Vergleichstabelle und Preisen: https://openworklabs.com/ Selbst hosten, Dokumentation: https://openworklabs.com/docs/start-here/self-host Der Scheduler für geplante Aufgaben: https://github.com/different-ai/opencode-scheduler OpenCode: https://opencode.ai Die Stimmen in diesem Podcast sind künstlich erzeugt. Die Inhalte stammen von uns.
194 - Der System-Prompt
2026/09/25
Wer sich in einer Klick-Oberfläche einen eigenen Agenten baut, wählt ein Modell aus und schreibt einen Text in ein Feld. Für die meisten ist dieser Text der Agent. Technisch ist er ein einzelner Parameter im Aufruf, und aus unserer Sicht das langweiligste Stück am ganzen Harness. Stufe drei unserer Agentenreihe: was der System-Prompt wirklich ist, was die großen Coding-Agenten hineinschreiben, und warum zehn Rollentexte noch keine Firma ergeben. Eine eigene Rolle mit Vorrang, die bei jedem Aufruf ganz vorne mitgeht: bei Anthropic ein eigenes Feld vor der Nachrichtenliste, bei OpenAI die Rollen system und developer. Der Vorrang ist trainiert, kein SchlossSystem-Prompt ist nicht Tool Calling. Vier Bausteine, vier Fragen: Wer bin ich und wie arbeite ich? Was kann dieses Werkzeug? Was ist bisher passiert? Was ist jetzt die Aufgabe?Was bei Claude Code drinsteht, seit der Quellcode versehentlich öffentlich wurde: ein Baukasten aus Dutzenden bedingten Teilen, die Cache-Grenze, Zahlen statt Adjektive. Und das Gegenmodell Pi von Mario Zechner, unter 1.000 Token inklusive WerkzeugeDie Vergleichsstudie von Drew Breunig und Srihari Sriraman: gleicher Harness, gleiches Modell, nur der System-Prompt getauscht. Einmal methodisch, einmal iterativ, beide lösen die AufgabeEin System-Prompt ist ein Wunsch, keine Garantie. Warum die KI-Firma aus CEO-, CTO- und Marketing-Agent in der Praxis nicht funktioniert: Eine Berkeley-Studie über 1.600 Arbeitsprotokolle misst 41 bis 87 Prozent Fehlerquote, und das Modell ist fast nie der GrundWas in den System-Prompt gehört und was nicht. Die Experimente dazu stehen auf building-agents.com, Block 1, Kapitel 3Zum Nachlesen: Drew Breunig, How Claude Code Builds a System Prompt: https://www.dbreunig.com/2026/04/04/how-claude-code-builds-a-system-prompt.html Drew Breunig und Srihari Sriraman, How System Prompts Define Agent Behavior: https://www.dbreunig.com/2026/02/10/system-prompts-define-the-agent-as-much-as-the-model.html Mario Zechner, What I learned building an opinionated and minimal coding agent: https://mariozechner.at/posts/2025-11-30-pi-coding-agent/ Claude-Code-Prompt-Historie, Version für Version: https://cchistory.mariozechner.at Cemri, Pan, Yang u. a., Why Do Multi-Agent LLM Systems Fail? (UC Berkeley): https://arxiv.org/abs/2503.13657 Unsere Experimente zum Agentenbau: https://building-agents.com Die Stimmen in diesem Podcast sind künstlich erzeugt. Die Inhalte stammen von uns.
193 - Dokumente schwärzen
2026/09/23
Ein Klick, und alle persönlichen Daten sind aus dem Dokument verschwunden, so steht es bei den Anbietern. Wir haben in einem Projekt Akten aus der Immobilienverwaltung geschwärzt, bevor sie weitergegeben werden durften, und die kamen nicht als saubere PDFs, sondern als Fotos aus aufgeklappten Ordnern. Ein Erfahrungsbericht darüber, was die Werkzeuge gut können, an welchen ganz normalen Stellen sie nicht anschlagen, und wie daraus eine Pipeline in mehreren Durchläufen wurde. Schwärzen sind zwei Aufgaben: finden und entfernen. Warum ein schwarzes Rechteck über dem Text kein Schwärzen istJe Datentyp eine Methode: Muster mit Prüfsumme für IBAN und E-Mail, Eigennamen-Erkennung für Namen und Adressen, ein Bildmodell für den Rest. Presidio als Rahmen, GLiNER für eigene KategorienBei Fotos der Umweg über die Texterkennung: jedes Wort ein Kästchen, die Fundstelle wird zurück aufs Bild gerechnetDie Fälle, die durchgerutscht sind: eine E-Mail-Adresse ohne Punkt vor der Endung, eine IBAN mit Zeilenumbruch in der FußzeileDie Pipeline in Zyklen: erst die schnellen Erkenner, dann ein lokales Bildmodell als Kontrolleur, und alles zurück in den nächsten Durchlauf. Warum die Treffer vereinigt werden, nicht geschnittenVon gefühlt siebzig auf knapp hundert Prozent, und was diese Zahl wert ist, wenn sie nur aus Stichproben stammtZum Nachlesen: Microsoft Presidio: https://github.com/microsoft/presidio GLiNER, Eigennamen-Erkennung mit eigenen Kategorien: https://github.com/urchade/GLiNER PyMuPDF, echtes Schwärzen in PDFs: https://pymupdf.readthedocs.io/ Desert Ant Labs mit dem Redact-Modell aus Folge 190: https://desertant.com/de/ Die Stimmen in diesem Podcast sind künstlich erzeugt. Die Inhalte stammen von uns.
192 - Jev: Entscheiden statt schreiben
2026/09/21
Mitte September hat das Start-up TypeSafe ein Modell namens Jev vorgestellt, das keinen einzigen Satz schreiben kann. Es kann nur entscheiden: eine von mehreren Möglichkeiten auswählen, auf einer Skala einstufen oder zu einer Ja-Nein-Frage eine Wahrscheinlichkeit liefern. Wir spielen das an zwei Fällen durch, am Support-Postfach eines Mittelständlers und an einem Agenten, der fremde Texte liest. Ausprobiert haben wir es selbst noch nicht, und das sagen wir auch: Was in der Folge steckt, stammt aus der Dokumentation des Herstellers, aus einer unabhängigen Auswertung und aus einem offenen Nachbau. Wie so ein Entscheidungsmodell arbeitet: drei Fragetypen, mehrere Fragen in einem Aufruf, ein einziger Rechendurchlauf statt Wort für WortWie du ihm deine Regeln beibringst, obwohl es kein Training für Kunden gibt: als Beschreibung an jeder Antwortmöglichkeit, mit engen Teilfragen statt einer breitenWann automatisch gehandelt wird und wann ein Mensch draufschaut: Schwellen auf der Sicherheit, gesetzt nach dem Preis eines FehlersPrüfschritte im Agenten: vor dem großen Modell, bei der Werkzeugwahl und hinter der AntwortWo es bricht: Es liest wörtlich, ein Datum ist für es nur Text, und trainiert ist es vor allem auf EnglischEchtes Anlernen mit eigenen Daten geht nur auf dem offenen Weg, und was dabei mit den Wahrscheinlichkeiten passiertZum Nachlesen: TypeSafe, Ankündigung von Jev: https://typesafe.ai/blog/introducing-system-one-models-and-jev Dokumentation: https://docs.typesafe.ai/ Unabhängige Auswertung von Arize: https://arize.com/blog/typesafe-jev-llm-judge/ Offener Nachbau Simple Jev: https://github.com/featherless-ai/simple-jev Ein zweites offenes Modell, Laya: https://huggingface.co/convaiinnovations/laya Desert Ant Labs, das Thema von Folge 190: https://desertant.com/de/ Die Stimmen in diesem Podcast sind künstlich erzeugt. Die Inhalte stammen von uns.

Podcast-Bewertungen

Lesen Sie Prompt und Antwort Podcast-Bewertungen


0 von 5
0 Bewertungen

Podcast-Sponsoring-Werbung

Starten Sie Werbung auf Prompt und Antwort relevanten Zielgruppen-Podcasts


Was moechten Sie bewerben?