ChatGPT mit vertraulichen Unternehmensdaten nutzen? Ein Erfahrungsbericht aus der Praxis

In diesem Vortrag stellen wir ein Projekt vor, bei dem wir ChatGPT mit LangChain eingesetzt haben, um Experten bei der Arbeit mit internen Dokumenten zu unterstützen.

Wir zeigen Ihnen:

• Wie wir eine Datenpipeline aufgebaut haben, um viele Dokumente mit einem Modell zu untersuchen, das nur wenige Wörter verarbeiten kann
  
• Wie wir Prompt Engineering angewendet haben, um die richtigen Antworten des Kunden zu erhalten
  
• Wie wir die Nutzerbedürfnisse ermittelt und die Anfragen in den richtigen Workflow geleitet haben
  
• Wie wir dem Modell ein Gedächtnis gegeben und die Qualität der Ergebnisse sichergestellt haben

Kommen Sie mit uns auf diese spannende Reise durch das Projekt.

Vorkenntnisse

• Wenig bis keine. Der Projektfluss bei LLMs verwendet viel natürliche Sprache, was es einfacher macht dem Vortrag zu folgen
  
• Besonders profitieren die Teilnehmenden allerdings wenn grundlegende Erfahrung im Bereich Data Engineering und Natural Language Processing vorliegen

Lernziele

• Integration von Large Language Models in IT-Produkte anhand Erfahrungen aus einem Projektbeispiel verstehen