Zurück

Integration von lokalen LLMs und Wissensgraphen für vertrauenswürdige Recht-Chatbots

Ein spezialisierter Frage-Antwort-Bot muss Robustheit, Vertrauenswürdigkeit und ordnungsgemäße Quellenangaben berücksichtigen. Während große Sprachmodelle (LLMs – Large Language Models) das Potenzial haben, Chatbots zu verbessern, stellen Probleme wie Halluzinationen und Mehrsprachigkeit Herausforderungen dar. Darüber hinaus hemmen Bedenken hinsichtlich der Datensicherheit die Akzeptanz gehosteter LLMs wie OpenAI in vielen Organisationen.

Unser deutscher Rechts-Bot adressiert diese Herausforderungen, indem er ein lokales LLM mit einem Wissensgraphen (KG – Knowledge Graph) integriert. Wir evaluieren unterschiedliche lokale LLMs, entwickeln Workflows, die die KG-Abfrage einbeziehen, und verfeinern die Pipeline-Parameter, um genaue und zuverlässige rechtliche Antworten zu gewährleisten. Unser Fokus liegt darauf, Antworten auf der Grundlage von Expertenfeedback zu verbessern.

Vorkenntnisse

Grundkenntnisse zu oder Interesse an großen Sprachmodellen (LLMs) und Wissensgraphen (KG).

Lernziele

Workflows erstellen, die die KG-Abfrage integrieren, um die Fähigkeiten von QA-Bots zu verbessern.
Die Leistung von lokalen LLMs im deutschsprachigen Kontext verstehen.
Expertenfeedback für iterative Verbesserungen umsetzen.
Einblicke in die Entwicklung KI-gesteuerter QA-Systeme durch interdisziplinäre Zusammenarbeit gewinnen.
Bewertungsmethoden zum Evaluierung der Leistung von QA-Bots erlernen.

Speaker

Anahita Pakiman is Senior Knowledge Graph-Data Scientist Consultant at brox IT-Solutions GmbH, developing graph-oriented retrieval systems and optimizing multi-agent interactions. Pursuing a Ph.D. in Applied AI with a focus on crash simulation knowledge graphs at Bergische Universität Wuppertal. Previously, Data Scientist at Fraunhofer SCAI specializing in knowledge graph development for vehicle processes.

René Pietzsch ist der Leiter des Produktmanagements bei eccenca. Er hat ein Diplom in Informatik und Medien von der Technischen Universität Dresden. Er arbeitete als Testentwickler und Software Engineer im IBM Forschungs- und Entwicklungslabor in Böblingen. In seiner anschließenden Tätigkeit bei einer Strategieberatung wurde er als Professional Scrum Master zertifiziert und war als Produkt- und Projektmanager in mehreren strategischen Projekten für große Kunden in der deutschen Telekommunikationsbranche tätig.

Jetzt Tickets sichern

data2day-Newsletter

Ihr möchtet über die data2day
auf dem Laufenden gehalten werden?

Anmelden