Sie sehen gerade einen Platzhalterinhalt von YouTube. Um auf den eigentlichen Inhalt zuzugreifen, klicken Sie auf die Schaltfläche unten. Bitte beachten Sie, dass dabei Daten an Drittanbieter weitergegeben werden.

Mehr Informationen

AI & Data Podcast: sovanta GenAI DocumentChat – so funktioniert RAG im SAP-Kontext

Retrieval-Augmented Generation, kurz RAG – kaum ein Thema bewegt die GenAI-Community aktuell mehr. Doch wie wird aus einem spannenden Konzept ein reales Produkt für den Unternehmensalltag? In einer neuen Folge des „AI & Data Podcasts“ spricht Host Larissa Haas mit Data Scientist Johann Zapf über die sovanta Lösung GenAI DocumentChat, die Architektur auf der SAP BTP und die Frage: Was kann RAG im SAP-Kontext in der Praxis wirklich leisten?

Zwei Probleme löst RAG besonders gut: Halluzinationen und fehlender Zugriff auf interne Daten.
Johann Zapf
Data Scientist, sovanta

Diesmal im Fokus: RAG in Aktion – Von der Idee zum GenAI DocumentChat

Host Larissa Haas und ihr Gast Johann Zapf lassen in dieser Episode des AI & Data Podcasts die Entstehungsgeschichte zum sovanta GenAI DocumentChat Revue passieren. Alles beginnt mit einer simplen Idee: Ein kleines Tool, das Paragraphen aus dem BGB findet. Daraus entstand innerhalb weniger Monate eine RAG-Lösung auf Enterprise-Niveau, der sovanta GenAI DocumentChat. Das Produkt läuft vollständig auf der SAP Business Technology Platform. Zwei zentrale Komponenten machen das möglich:

  • SAP HANA Vector Engine: als performante Vektor-Datenbank mit eingebautem Embedding-Service.
  • Generative AI Hub: für den Zugriff auf SAP-gehostete Open Source Sprachmodelle – datenschutzkonform und direkt integrierbar.

Larissa und Johann widmen sich in dieser Folge vielen spannenden Fragen rund um den sovanta GenAI DocumentChat: Was macht RAG so stark? Wie wird der Zugriff auf aktuelle, unternehmensspezifische Inhalte möglich – ohne, dass sie im Sprachmodell selbst verankert sein müssen? Und wie funktioniert der Wechsel z.B. zwischen Mistral, Gemma oder GPT-4, ohne die Architektur zu verändern? Function Calling, Joule Integration und Co. – Was steht alles auf der Roadmap?

Fazit: RAG funktioniert – wenn man’s richtig macht

sovanta GenAI DocumentChat zeigt, dass RAG im SAP-Kontext nicht nur denkbar, sondern praktisch einsetzbar ist. Die SAP BTP bietet dafür alle nötigen Komponenten. Und sovanta bringt sie zusammen – zu einer Lösung, die verständlich, sicher und anwendungsnah ist.

Jetzt reinhören – und erfahren, wie Unternehmen mit unserem DocumentChat Wissen wirklich nutzbar machen. Und mehr zum sovanta GenAI DocumentChat gibt es hier.

Podcast | Folge 3 | 32:354 Minuten

Hier reinhören: Podbean | Amazon | Spotify | Apple Podcasts

Diesmal zu Gast:

Johann Zapf ist Teil des AI & Data-Teams bei sovanta. Sein Fokus liegt darauf, Tools mit Generativer Künstlicher Intelligenz für die SAP Business Technology Platform zu entwickeln, um die Arbeitsabläufe unserer Kunden zu verbessern.

Tags
AI / GenAI Artificial Intelligence