In diesem Workshop entwickeln die Teilnehmenden einen RAG-Prototyp, der Anfragen anhand einer umfangreichen Textdatenbank beantwortet. Sie erstellen einen Embedding-basierten Suchindex und stellen relevante Dokumentabschnitte als Kontext für die Antwortgenerierung bereit.
Für wen ist der Workshop geeignet?
Der Workshop richtet sich an Entwickler, die entweder noch keine oder nur geringe praktische Erfahrung mit Large Language Models (LLMs) haben und grundlegende Python-Kenntnisse mitbringen.
Lernziele
Einen vollständigen RAG-Workflow praktisch umsetzen
Sie bereiten Textdaten für die Suche auf, erstellen einen Embedding-basierten Index und verbinden das Retrieval mit einem Large Language Model. Anschließend prüfen Sie, welche Dokumente das System heranzieht und wie daraus die Antworten entstehen.
Agenda
Ab 09:00 Uhr: Registrierung und Begrüßungskaffee
10:00 Uhr: Einführung in das RAG-System
- Vorstellung der RAG-Komponenten:
- Streamlit UI
- LangChain Backend
- Azure OpenAI
- Prompting
- Agents
- Multimodalität
- Setup der RAG-Umgebung
- Setup einer synthetischeFirmendatenbank
12:30 Uhr: Mittagspause
13:30 Uhr: Implementieren eines RAG-Prototyps mit den vorgestellten Komponenten
16:30 Uhr: Testen des RAG-Prototyps
ca. 17:00 Uhr: Ende des Workshops
Jeweils am Vor- und Nachmittag ist eine Kaffeepause vorgesehen.
Der Trainer
Fabian Kaiser ist Experte für Generative AI. Er hat nach seinem Master in Informatik mit Fokus auf Natural Language Processing (NLP) ein Jahr lang am Ubiquitous Knowledge Processing (UKP) Lab zu Argument Mining in juristischen Texten geforscht. Seitdem hat er an diversen Projekten mit Fokus auf Textverarbeitung, IoT und Cloud Computing gearbeitet.
Technische Anforderungen
Die Teilnehmerinnen und Teilnehmer benötigen einen eigenen Laptop, der mindestens 100 MB freien Speicherplatz für Testdaten und eine Testdatenbank bietet. Vor dem Workshop sollte eine Python-Umgebung (Version 3.11) installiert und eine virtuelle Umgebung eingerichtet worden sein. Hier gibt es eine Anleitung dazu.
Die Python-Umgebung ist für alle gängigen Plattformen verfügbar. Vor dem Workshop erhalten die Teilnehmerinnen und Teilnehmer außerdem einen Link zu einem GitHub-Repository mit dem notwendigen Setup, das idealerweise bereits im Vorfeld heruntergeladen wird.
Jeder Teilnehmer sollte vorab überprüfen, ob eines der folgenden Probleme auftreten könnte:
- Keine Administrator-Rechte.
- Strenge Sicherheitssoftware auf dem Firmenlaptop könnte den Zugriff einschränken.
- Firmeneigene Proxy-Einstellungen, die in anderen Netzwerken möglicherweise nicht funktionieren.
Jetzt Kontakt aufnehmen
Standard- oder individueller Inhouse-Workshop
Ob als Standard-Workshop oder individuell auf Ihr Unternehmen zugeschnitten: Wir passen Inhalte und Schwerpunkte an Ihren Bedarf an. Gerne entwickeln wir gemeinsam mit Ihnen ein passendes Workshop-Format für Ihr Team – auf Wunsch auch direkt bei Ihnen vor Ort.
