Der Einsatz von Azure OpenAI für das eigene Unternehmen

Unternehmen stecken bei der Nutzung moderner KI-Technologien in einem Dilemma. Leistungsstarke öffentliche Sprachmodelle wie ChatGPT bieten zwar ein hohes Potenzial für Prozessautomatisierung, Zusammenhangsanalysen und Effizienzsteigerung, ihr Einsatz im Unternehmen ist datenschutzrechtlich jedoch problematisch. Doch KI-Modelle selbst zu entwickeln, ist mit viel Zeit und enormen Kosten verbunden. Mit Azure OpenAI stellt Microsoft einen Dienst bereit, mit dem Unternehmen in einer sicheren, skalierbaren und leicht integrierbaren Weise von KI-Technologien profitieren können. Die Anwendungsmöglichkeiten reichen von einem eigenen UnternehmensGPT bis hin zu komplexem Function Calling.

Was ist Azure OpenAI?

Azure OpenAI ist ein Cloud-Dienst von Microsoft Azure, der es Unternehmen ermöglicht, die leistungsstarken KI-Modelle von OpenAI zu nutzen, weiterzuentwickeln, in die eigene Microsoft Azure Cloud zu integrieren und somit in produktive Unternehmensumgebungen und -anwendungen einzubinden. Azure OpenAI besteht dabei aus zwei Komponenten – den Azure OpenAI Services und dem Azure OpenAI Studio.

Azure OpenAI Services bezeichnen die Cloud-Dienste von Microsoft Azure, die Entwickler:innen den Zugang zu den leistungsfähigen KI-Modellen von OpenAI – der GPT-4-Familie – ermöglichen. Damit können KI-Modelle in Apps oder Prozesse integriert werden, ohne die hochkomplexen Modelle selbst zu hosten.

Mit dem Azure OpenAI Studio hingegen wird eine Entwicklungsumgebung bereitgestellt, in der die OpenAI-Modelle in einer intuitiven Umgebung an die spezifischen Anforderungen des Unternehmens angepasst werden können. Damit können Unternehmen das Potenzial von KI-Technologien ohne umfassendes technisches Setup erkunden, testen und direkt in eine produktive Umgebung überführen.

KI-Anwendungsmöglichkeiten für das eigene Unternehmen mit Azure OpenAI

Mit Azure OpenAI lassen sich eine Vielzahl an Anwendungsfällen und Use Cases für das eigene Unternehmen entwickeln: von einfachen Unternehmens-Chatbots über die automatisierte Dokumentenanalyse bis hin zu einer zentralen, unternehmensweiten Wissensdatenbank, die automatisiert Aufgaben oder Funktionen nach sprachlicher Aufforderung ausführen kann.

Die einfachste Form von Azure OpenAI: Eine GPT-Plattform für das eigene Unternehmen

Nicht nur Unternehmen, sondern auch die meisten Arbeitnehmenden haben GenAI-Technologien für sich entdeckt. Bereits im Jahr 2023 gaben laut Statista nur 36,3 Prozent der befragten Berufstätigen an, ChatGPT noch nicht in ihrem Unternehmen zu verwenden. Und es steht nicht einmal die KI-Texterstellung im Vordergrund – die meisten Mitarbeitenden nutzen ChatGPT laut dieser Umfrage vor allem für geschäftliche Recherchen (29,4%), das Brainstorming (21,9%), die Analyse von Daten (21,5%) sowie das Zusammenfassen von Informationen (21,4%). Das Problem dabei: Unternehmen können nicht nachvollziehen, welche Daten in das öffentliche Sprachmodell gelangen. Damit könnten zahlreiche Datenschutzaspekte verletzt werden, indem persönliche Daten von Unternehmen oder Kunden in die öffentliche KI eingegeben werden.

Eine datenschutzrechtlich bessere Alternative dazu schafft Microsoft Azure OpenAI. Mit dem Cloud-Dienst lässt sich relativ schnell ein einsatzfähiges, unternehmensweites GPT-Modell über eine Standard-Web-App implementieren, die von allen Mitarbeitenden genutzt werden kann. Da der Dienst über Azure läuft, profitieren Unternehmen von den umfassenden Sicherheits-, Datenschutz- und Compliance-Standards, die Microsoft zu bieten hat.

Erweiterung der unternehmensinternen GPT-Plattform zur allgemeinen Wissensdatenbank

Allgemeine Sprachmodelle wie ChatGPT sind nur so schlau wie die Daten, mit denen sie trainiert wurden. Das sind zwar eine Menge Daten, doch Informationen, die das eigene Unternehmen betreffen, gehören meist nicht dazu. Über das Azure OpenAI Studio sind Entwickler:innen in der Lage, weitere Dokumente wie Richtlinien, Unternehmensbeschreibungen, FAQs etc. anzubinden. Möglich macht dies die so genannte Retrieval-Augmented Generation, kurz RAG. RAG ist eine Technik, mit der Entwickler:innen die KI durch eine Anbindung an weitere Datenquellen mit noch mehr Informationen füttern können. Damit basiert die KI nicht mehr nur auf ihrem eigenen, bereits erlernten Wissen, sondern kann auch aktuelle Informationen aus Datenbanken oder dem Internet abrufen, um präzisere Antworten zu geben. Die KI ist damit in der Lage, schnell durch umfangreiche Dokumente zu navigieren und relevante Inhalte zu identifizieren. Besonders nützlich ist dieser Anwendungsfall für rechtliche oder technische Dokumente, die oft komplex und lang sind.

Mit Azure OpenAI lassen sich darüber hinaus auch komplexere und/oder systemisch aktualisierte Datenquellen anbinden. So kann die eigene GPT-Plattform hin zu einer umfangreichen Unternehmens-Wissensdatenbank entwickelt werden, die Anfragen der Mitarbeitenden zu allen relevanten Unternehmensinformationen zulässt und auf eine Vielzahl interner Dokumente und Ablagen zugreifen kann. Je nach den definierten Anforderungen könnten Mitarbeitende so eine Vielzahl an unternehmensspezifischen Fragestellungen und Anweisungen wie „Wie beantrage ich Urlaub?“, „Was sind die aktuellen IT-Richtlinien?“, „Fasse mir unser Leistungsangebot kurz zusammen“ u.v.m. innerhalb von Sekunden mit KI-Unterstützung selbst beantworten.

Function Calling – Unlimitierte KI-Unternehmens-Power mit Microsoft Azure OpenAI

Mit dem so genannten Function Calling können innerhalb von Azure OpenAI zusätzlich benutzerdefinierte Funktionen über das KI-Modell bereitgestellt werden. Dafür wird die KI-Anwendung mit verschiedenen Schnittstellen verknüpft, z.B. zu Informationssystemen wie Datenbanken, CRM-Systemen oder eigenen Unternehmensanwendungen. Je nach Anfrage der Mitarbeitenden entscheidet die KI, welche Schnittstelle aufgerufen wird, um die Anfrage bestmöglich zu beantworten. Nehmen wir dazu das einfache Beispiel der Arbeitsplatzbuchung.

Heutzutage arbeiten viele Unternehmen ohne feste Arbeitsplätze. Meist wird dafür ein eigenes Buchungssystem genutzt, damit sich Mitarbeitende einen Arbeitsplatz reservieren können. Je nach Buchungssystem ist dieser Prozess mit mehr oder weniger Aufwand verbunden. Mit Azure OpenAI lässt sich der Prozess auf wenige Sekunden optimieren. Mitarbeitende stellen dazu eine Anfrage an die GPT-Plattform: „Bitte reserviere mir einen Arbeitsplatz für die gesamte erste Arbeitswoche im Oktober im ersten Obergeschoss“. Das GPT-Modell erkennt automatisch die Schnittstelle zum angebundenen Buchungssystem und führt innerhalb von Sekunden die angefragte Buchung aus.

Function Calling bietet die Möglichkeit, viele komplexe oder zeitraubende Arbeitsschritte im Unternehmen zu automatisieren. Neben der Anbindung von Buchungssystemen können auch IT-Anfragen an den Support, Reisekostenabrechnungen, Urlaubsanfragen und viele weitere spezifische Unternehmensprozesse automatisiert werden.

Maßgeschneiderte KI-Use Cases für das eigene Unternehmen

Zusammengefasst bietet Azure OpenAI eine API-basierte Integration der aktuellsten KI-Modelle, die es Entwickler:innen ermöglicht, die KI-Technologien weiterzuentwickeln und in bestehende Anwendungen, Produkte oder Services des Unternehmens zu integrieren. Damit können beispielsweise bestehende Workflows erweitert oder neue Anwendungen entwickelt werden, ohne von Grund auf eigene KI-Modelle aufbauen zu müssen, die sehr kosten- und zeitintensiv sind.

Als langjähriger Microsoft-Partner zeigen wir gerne, wie Unternehmen Azure OpenAI für sich nutzen können und entwickeln maßgeschneiderte Lösungen für alle Herausforderungen.