Road to Production mit Generative AI und LLMs, was hat sich geändert?

Es hat sich in den letzten zwei Jahren viel getan im Bereich AI und maschinelles Lernen. Large Language Models liefern ganz neue Herangehensweisen, um intelligente Systeme zu bauen. Begannen früher Data-Science-Projekte mit der Datenakquise, so scheint es jetzt zu reichen, den richtigen Prompt zu schreiben.

Aber ist das wirklich wahr? Und wie sieht es aus mit der Komplexität, so ein Modell in Produktion zu bringen, wenn man nicht auf existierende SaaS-Angebote zurückgreifen will?

In diesem Vortrag vergleiche ich "altes ML" mit der neuen Welt im Hinblick auf den Weg in den Live-Betrieb und schaue mir an, was sich geändert hat und was geblieben ist – und ich gebe einen Überblick über das Angebot an Lösungen und Architekturen, um AI-Modelle live zu bringen.

Lernziele

• Verstehe die grundsätzlichen Unterschiede zwischen klassichen ML-Methoden und LLMs im Bezug auf den Produktiveinsatz.
  
• Erhalte eine Übersicht über verschiedene Deploymentstrategien.
  
• Vergleich von SaaS und Self-Hosted Deployment von LLMs.