- LLM-Agenten haben oftmals mehr Erfolg, wenn sie einfache, modulare Muster statt komplexer Frameworks verwenden
- Unterscheidung zwischen Workflows (vordefinierte Abläufe) und Agenten (dynamische Steuerung)
- Empfehlung: Einfachste mögliche Lösung wählen
- Abwägung zwischen Latenz/Kosten und besserer Leistung
Workflow-Haupttypen:
Prompt Chaining:
- Zerlegung einer Aufgabe in sequenzielle Schritte
- Jeder LLM-Call verarbeitet Output des vorherigen
- Zwischenprüfungen (“Gates”) möglich
- Einsatz: Gut strukturierbare Aufgaben mit festen Teilschritten
- Beispiel: Marketing-Text erstellen, dann übersetzen
Routing:
- Klassifizierung des Inputs und Weiterleitung
- Ermöglicht spezialisierte Prompts für unterschiedliche Fälle
- Verhindert Leistungseinbußen durch zu generische Prompts
- Einsatz: Komplexe Aufgaben mit klar unterscheidbaren Kategorien
- Beispiel: Kundenservice-Anfragen nach Typ (Rückerstattung, Support, etc.) sortieren
Parallelisierung (zwei Varianten):
- Sectioning:
- Aufteilung in unabhängige Teilaufgaben
- Gleichzeitige Bearbeitung
- Beispiel: Getrennte Prüfung von Inhalt und Richtlinien-Konformität
- Voting:
- Gleiche Aufgabe mehrfach parallel ausführen
- Verschiedene Perspektiven/Ergebnisse sammeln
- Beispiel: Code-Review durch mehrere Prüfinstanzen
Orchestrator-Workers:
- Zentrale LLM-Instanz koordiniert
- Dynamische Aufgabenverteilung an Worker
- Synthese der Teilergebnisse
- Einsatz: Komplexe Aufgaben mit unvorhersehbaren Teilschritten
- Beispiel: Code-Änderungen über mehrere Dateien
Evaluator-Optimizer:
- Ein LLM generiert Lösungen
- Zweites LLM bewertet und gibt Feedback
- Iterative Verbesserung in Feedback-Schleife
- Einsatz: Aufgaben mit klaren Bewertungskriterien
- Beispiel: Literarische Übersetzungen mit Feinheiten
Source: