Conversational AI Assistant

Strategie & Wissen • Produktivsystem

Live: ask.bastian-brand.com

Worum es geht

Ein dialogfähiger KI-Assistent, der Fragen aus einem privaten Wissensbestand beantwortet — belegt, mit Fundstelle, und der nichts erfindet, wenn der Bestand nichts hergibt. Es ist kein simples „Chatten über Dokumente”: Der Assistent entscheidet selbst, welches Suchwerkzeug er aufruft (Zusammenfassungen durchsuchen, vollständige Transkripte durchsuchen, Quellen auflisten, Neues oder Kanalspezifisches holen), sammelt Belege und antwortet erst dann — unter Nennung der Quelle für jede Aussage. Diese Seite ist die Textdemo eines Systems, das auch als Sprachassistent läuft.

Der Wissensbestand stammt hier aus rund 40 ausgewählten YouTube-Kanälen zu KI und Softwareentwicklung. Man kann also fragen, was es Neues in der KI gibt, und bekommt eine belegte Antwort.

Wie ich es gebaut habe

Der Suchkern ist ein OpenAI-kompatibler Dienst, der eine agentische Werkzeugschleife (Function Calling) über einen selbst betriebenen pgvector-Bestand fährt: hybride Suche, eine Belegschicht, die jeden Treffer mit Kanal, Titel und Datum versieht, und eine Anweisung, die Aussagen ohne Beleg untersagt. Im Produktivbetrieb ist er das Sprachmodell hinter einem VAPI-Sprachassistenten; diese Seite macht dasselbe System über eine Textoberfläche zugänglich. Für die öffentliche Demo habe ich die Werkzeuge entfernt, die Aktionen ausführen können — er kann also nur lesen, nie etwas versenden — und jede Anfrage ist mengenbegrenzt.

Besonderheiten

• Agentische Suche: das Modell wählt das Werkzeug, statt einem festen Ablauf zu folgen
• Belegt und zitiert: jede Aussage trägt ihre Quelle; ohne Quelle keine Aussage
• Ein System, zwei Kanäle — dieselbe Maschine ermöglicht Sprach- und Textdialoge

Stack

Python · FastAPI · OpenRouter (Function Calling) · pgvector RAG · VAPI (Sprache)