KI in SAP On-Premises – mit Philipp Schurr
Autor: Tobias Harmes | 27. Oktober 2025
Künstliche Intelligenz ist längst kein Zukunftsthema mehr – auch nicht für SAP-Kunden. Doch was passiert, wenn Unternehmen ihre SAP-Systeme weiterhin On-Premises betreiben und nicht in die Cloud wechseln möchten? Bedeutet das automatisch, dass moderne KI-Technologien nicht eingesetzt werden können? Diese und viele weitere Fragen diskutiere ich mit Philipp Schurr, Experte für KI-Integration im SAP-Umfeld bei mindsquare, in dieser Folge.
…zum Anschauen
YOUTUBE-CHANNEL abonnieren: https://www.youtube.com/c/Rz10De_ms
…zum Hören
…zum Lesen
Kann ich KI überhaupt nutzen, wenn ich SAP nur On-Premises betreibe?
Viele Unternehmen, die ihr SAP-System noch klassisch On-Premises betreiben, fragen sich, ob sie Künstliche Intelligenz unter diesen Bedingungen überhaupt sinnvoll einsetzen können. Laut Philipp Schurr ist das durchaus möglich – auch ohne Cloud-Infrastruktur. Die weit verbreitete Annahme, dass KI ausschließlich in der Cloud funktioniert, trifft demnach nicht zu.
Gleichzeitig zeigt sich bei vielen SAP-Kunden eine gewisse Unzufriedenheit, insbesondere bei jenen, die sich bewusst gegen die Cloud entschieden haben. Sie fühlen sich von SAP häufig zu wenig unterstützt. Auch in Anwenderkreisen, etwa bei der DSAG, wird gefordert, dass konkrete Mehrwerte im Vordergrund stehen sollten – nicht nur technologische Demonstrationen ohne praktischen Nutzen.
Was geht technisch – und wo sind die Grenzen bei KI in SAP-On-Premises-Landschaften?
Unternehmen, die SAP On-Premises betreiben, können KI nutzen, auch wenn es keine fertigen Lösungen wie das cloudbasierte SAP Joule gibt. Stattdessen muss die KI extern entwickelt und über Schnittstellen mit dem SAP-System verbunden werden. Da ABAP für das Erstellen und Trainieren von KI-Modellen zu limitiert ist, läuft die Intelligenz außerhalb des SAP-Systems, kommuniziert aber über Schnittstellen mit ihm. „ABAP ist für KI-Anwendungen zu limitiert. Die KI-Modelle müssen extern laufen und über Schnittstellen eingebunden werden“, erklärt Philipp Schurr.
Um KI sinnvoll in einer On-Premises-Umgebung zu integrieren, benötigen Unternehmen eine passende technische Architektur und Middleware-Technologien. Die Multi-Connectivity Platform (MCP) spielt hier eine zentrale Rolle, da sie eine nahtlose Kommunikation zwischen SAP und externen KI-Modellen ermöglicht. Diese Plattform sorgt dafür, dass KI-Modelle reibungslos mit den SAP-Daten und -Prozessen interagieren und die gewünschten Ergebnisse zurück ins System übermittelt werden. Diese Lösung bietet Flexibilität und erfüllt gleichzeitig Anforderungen an Datenschutz und Datensouveränität.
Eigenbau oder Zukauf? Und was ist mit Cloud-Services?
Im Gespräch ging es um die Frage, wann Unternehmen KI selbst entwickeln sollten und wann es sinnvoller ist, auf bestehende Lösungen zurückzugreifen. Die Entscheidung hängt stark vom konkreten Use Case, den verfügbaren Ressourcen und den Datenschutzanforderungen ab.
Wichtig ist die Unterscheidung: Wer kein Cloud ERP nutzen möchte, lehnt damit nicht automatisch Cloud-Services ab. Viele KI-Funktionen – etwa zur Textanalyse, Bilderkennung oder Prognose – lassen sich auch als einzelne Cloud-Services in On-Premises-Systeme integrieren.
Zudem zeichnet sich ein Trend zu kleineren, spezialisierten Modellen ab. Diese sogenannten Microservices oder kleinen Language Models können gezielt für bestimmte Aufgaben wie Dokumentenklassifikation oder Anomalieerkennung eingesetzt und auch lokal betrieben werden. So bleibt KI-Nutzung flexibel – unabhängig davon, ob die Systemlandschaft in der Cloud oder On-Premises läuft.
Wenn Joule keine Option ist – welche Alternativen gibt es?
Joule steht On-Premises-Kunden aktuell nicht zur Verfügung. Trotzdem müssen Unternehmen nicht auf KI verzichten. Philipp Schurr erklärt, dass eigene KI-Modelle, etwa GPT-basierte Systeme mit Open WebUI, eine echte Alternative darstellen.
Besonders wichtig ist dabei die MCP-Technologie, die als Bindeglied zwischen großen Sprachmodellen und der SAP-Businesslogik dient. So wird eine nahtlose Integration und Kommunikation zwischen KI und SAP-System möglich.
Auf diese Weise lassen sich individuelle und flexible KI-Lösungen realisieren, die genau auf die Anforderungen der Unternehmen zugeschnitten sind – ganz ohne Joule.
KI-Anbindung und hybride Szenarien für On-Premises-SAP-Systeme
KI-Lösungen werden in der Regel außerhalb des SAP-Systems betrieben und über Schnittstellen angebunden. Dafür kommen Middleware-Technologien wie die Multi-Connectivity Platform (MCP) zum Einsatz, die den Datenaustausch zwischen SAP und externen Anwendungen ermöglichen. KI kann über offene Schnittstellen, wie Open WebUI oder selbst entwickelte GPT-Modelle, auf relevante Unternehmensdaten zugreifen und Ergebnisse wieder ins SAP-System zurückspielen.
Für Unternehmen, die SAP On-Premises betreiben, bieten sich hybride Szenarien an. Schurr sagt, dass durch die Nutzung der SAP Business Technology Platform (BTP) KI-Services genutzt werden können, ohne dass eine vollständige Cloud-Migration erforderlich ist. Eine weitere Option ist der AI Hub, der als Brücke zwischen On-Premises-Systemen und Cloud-KI-Diensten fungiert. Langfristig betrachtet werden auch souveräne Cloud-Szenarien von SAP immer relevanter, um Datensouveränität und regulatorische Anforderungen besser zu berücksichtigen.
Zusätzlich bietet sich auch eine Alternative für Unternehmen an, die ein starkes Augenmerk auf den Datenschutz legen: Hosting-Partner wie Delos. Diese Anbieter ermöglichen es, OpenAI-KI-Modelle in Deutschland zu hosten und stellen sicher, dass Daten nicht in die USA übermittelt werden, sondern nach den strengen deutschen und europäischen Datenschutzvorgaben verarbeitet werden. Damit können Unternehmen ihre KI-Modelle sicher und lokal betreiben, ohne auf Cloud-Lösungen von US-Firmen angewiesen zu sein.
KI-Programmen kommt in der Bearbeitung von Aufgaben im persönlichen Alltags- und Arbeitsleben eine immer wichtigere Bedeutung zu. Auf Unternehmensebene können Sie das Potenzial dieser Technologie seit dem Release des Microsoft Copilot nun auch direkt in Ihren Office-Programmen ausschöpfen.
Aktuelle KI-Use Cases bei SAP-On-Premises-Kunden
Im SAP-On-Premises-Umfeld zeigen sich bereits zahlreiche praxisnahe KI-Anwendungen. Ein häufiges Ziel ist das Auflösen von Medienbrüchen, etwa bei der Verarbeitung von PDFs, Lieferscheinen oder Rechnungen. Hier kommen zunehmend generative KI-Lösungen und hybride Ansätze zum Einsatz, die Daten aus verschiedenen Quellen zusammenführen und automatisiert verarbeiten. Diese hybriden Ansätze ermöglichen eine effiziente Integration von KI in On-Premises-Systeme, ohne dass die komplette Infrastruktur in die Cloud migriert werden muss.
Ein weiteres Beispiel sind vollständig On-Premises betriebene Szenarien wie fotogestützte Qualitätssicherung, Pfandbuchungen oder die Erstellung von Instandhaltungsmeldungen über Foto- und Audioeingaben. Diese Lösungen verbessern interne Prozesse, ohne dass Unternehmensdaten die Grenze der IT-Infrastruktur überschreiten.
Unternehmen wie Asklepios oder Continental setzen bereits solche KI-Lösungen ein, wobei sich unterschiedliche Reifegrade zeigen – von ersten Workshops bis hin zu produktiv eingesetzten Anwendungen. Philipp Schurr hebt hervor, dass sowohl der Mittelstand als auch große Konzerne zunehmend Potenzial in diesen gut integrierbaren, praxisnahen Use Cases sehen.
Kleine Sprachmodelle und maßgeschneiderte KI-Strategien für On-Premises-Lösungen
Small Language Models bieten für On-Premises-KI-Lösungen einen vielversprechenden Trend. Diese Modelle, die auf günstiger Hardware wie einem Raspberry Pi laufen können, ermöglichen die effiziente Bearbeitung spezifischer Aufgaben, wie beispielsweise die Ticketklassifikation. Ein großer Vorteil dieser Modelle ist die Reduzierung des Tokenverbrauchs und des Infrastrukturbedarfs, was sie zu einer attraktiven Option für Unternehmen macht, die ihre KI-Anwendungen lokal betreiben möchten.
Für Unternehmen, die KI in ihren On-Premises-Umgebungen integrieren möchten, bietet Philipp Schurr mit seinem Team maßgeschneiderte Unterstützung. Von der Umsetzung konkreter Use Cases über die Bewertung der Machbarkeit individueller Ideen bis hin zur Entwicklung kompletter KI-Strategien inklusive des passenden Technologie-Stacks – alles wird genau auf die Bedürfnisse der Unternehmen abgestimmt.
Das führen wir im Rahmen von KI-Potenzialanalysen und Workshops durch, um das volle Potenzial von KI in den Geschäftsprozessen zu entfalten. So erhalten Unternehmen nicht nur die nötige Expertise, sondern auch die praktischen Lösungen, um KI erfolgreich zu implementieren.
Haben Sie Interesse? Schreiben Sie uns gerne eine Mail an info@mindsquare.de oder fragen Sie einen unverbindlichen Termin an: Kalender anzeigen





