Azure OpenAI Pricing: Mit diesen Kosten müssen Unternehmen für ein Business GPT rechnen

Sie denken darüber nach, KI in Ihre Unternehmensprozesse zu implementieren? Dann führen viele Use Cases über die Verwendung eines Sprachmodells wie ChatGPT, das in die eigene Infrastruktur integriert werden kann – sei es für das Wissensmanagement, die Automatisierung von internen Prozessen oder eine effiziente Kundenkommunikation. Durch den Einsatz von Microsoft Azure OpenAI wird Unternehmen genau das ermöglicht. Viele Unternehmen, die ein eigenes Business GPT planen, fragen sich jedoch: „Welche Kosten kommen auf mich zu?“. Diese Frage ist gar nicht so einfach zu beantworten – wir erklären warum und wagen einen Blick in das Azure OpenAI Pricing in der Praxis.

1. Pricing für die Basiseinrichtung von Azure OpenAI: Technische Kosten für die Implementierung

Um ChatGPT über Microsoft Azure zu betreiben, gibt es einige organisatorische Voraussetzungen:

• Einen aktiven Azure-Tenant
• Eine zugelassene Azure OpenAI-Instanz
• Die Erstellung und Einrichtung der Azure OpenAI-Ressource, des API Key und der Zugriffsrechte für die entsprechenden Modelle

Die Konfiguration in Azure sollte stets von einem spezialisierten Microsoft-Partner umgesetzt werden, um das gesamte Potenzial der Lösung zu entfalten. Mit der Einrichtung von Azure und der API kann der Zugriff relativ schnell und kostengünstig technisch sichergestellt werden. Jedoch benötigen Mitarbeitende für die Nutzung, z.B. der GPT-Chatfunktion, noch ein intuitives User-Interface, das auf einen Blick erkennen lässt, dass es sich bei der Neueinführung um das „unternehmenseigene GPT“ handelt.

Für diese Schritte wird Ihr Microsoft-Dienstleister einige Tage bis hin zu wenigen Wochen Zeit benötigen – je nach individuellen Wünschen und Bedürfnissen. Aufwand und Kosten dafür hängen vom Anbieter, der Ausgangssituation der Infrastruktur und den individuellen Anforderungen, z.B. an die Sicherheit, ab. Die Kosten sind im Vorfeld gut kalkulierbar und werden sich ungefähr zwischen 10.000 Euro und 20.000 Euro bewegen.

2. Pricing für den laufenden Betrieb: Keine Lizenzkosten – aber Verbrauchskosten!

Die Anwendung eines Business GPT über Azure basiert ausschließlich auf nutzungsbasierten Kosten („pay-as-you-go“). Es gibt keine Grundgebühr oder Lizenzkosten wie es z.B. für die Bereitstellung einer Software üblich ist. Dafür fallen Kosten für den individuellen Verbrauch an, die in sogenannten Tokens abgerechnet werden – und hier wird das Azure OpenAI Pricing im Vorfeld kompliziert. Für die laufende Verwendung fallen in jedem Fall an:

• Kosten pro 1.000 eingelesene Tokens (Prompt – Eingabe)
• Kosten pro 1.000 ausgegebene Tokens (Response – Ausgabe)

Wie hoch die Kosten je 1.000 Tokens liegen, unterscheidet sich je nach eingesetztem Sprachmodell. Zwischen den aktuell gängigen Modellen (GPT-3.5, GPT-4, GPT-4 Turbo) weichen die Preise deutlich voneinander ab. Die Spanne reicht von 0,001 Dollar bis 0,06 Dollar je 1.000 Tokens (Stand 3/25). Ebenso wird bei den Kosten je nach Modell zwischen Prompt- und Response-Token unterschieden.

Doch selbst wenn das eingesetzte Modell bekannt ist, lässt sich im Vorfeld nur sehr schwer abschätzen, wie hoch die tatsächlichen laufenden Kosten sein werden. So hängen die monatlichen Verbrauchskosten von vielen Faktoren ab – dem eigesetzten Modell, der Menge der verarbeiteten Tokens, die wiederum in Abhängigkeit von der Menge der verarbeiteten Daten, der Länge der eingesetzten Prompts, der Menge an verarbeiteten Dokumenten etc. abhängt. Sie sehen, Ressourcenmanagement spielt beim Azure OpenAI Pricing eine sehr große Rolle. Daher lässt sich eine pauschale Aussage über die laufenden Verbrauchskosten für das Business GPT leider nicht treffen.

Unser Fazit zum Azure OpenAI Pricing

Das Unwissen über die tatsächlichen Kosten eines eigenen Business GPT, das auf Microsoft Azure betrieben wird, sollte Unternehmen meiner Meinung nach keinesfalls von der Erprobung ihrer Use Cases abhalten! Unser Tipp: Setzen Sie sich ein realistisches Budget für die laufenden Kosten. Unsere Expert:innen beraten Sie gerne hinsichtlich der Umsetzbarkeit, beispielsweise anhand des idealen Sprachmodells, einer sicheren Automation und den richtigen Zugriffsrechten.

Weiterführende Informationen: Die aktuelle Preisübersicht je 1.000 Tokens gibt es direkt bei Azure OpenAI: Azure OpenAI Pricing