Generative KI für Unternehmen: Potenziale, Möglichkeiten und Risiken

In der heutigen, von digitalen Technologien geprägten Welt, gewinnt künstliche Intelligenz (KI) immer mehr an Bedeutung. Eine besonders transformative Form ist die generative KI (auch als GenAI bekannt). Generative KI bezeichnet KI-Systeme, die auf Basis eines Benutzerprompts Inhalte wie Texte, Bilder, Videos, Audiodateien oder Softwarecodes erzeugen können. Ein Benutzerprompt ist dabei eine Anweisung oder Anfrage, die Nutzer:innen an das KI-System richten, um eine spezifische Ausgabe zu erhalten. Die Fähigkeit generativer KI, kreativ zu agieren und neue Inhalte zu generieren, eröffnet Unternehmen und Einzelpersonen völlig neue Möglichkeiten.

Die Nutzung von generativer KI steigt stetig

Generative KI hält rasant Einzug in die Arbeitswelt und in unseren Alltag. Eine aktuelle Studie von Bick, Blandin und Deming aus August 2024 zeigt, dass bereits 28,1 Prozent von rund 4.700 befragten US-Amerikaner:innen generative KI am Arbeitsplatz einsetzen, wobei 10,9 Prozent dies sogar täglich tun. Im privaten Bereich ist die Nutzung noch verbreiteter: 39,4 Prozent der Befragten gaben an, generative KI bereits für alltägliche Aufgaben zu verwenden.

Die Beliebtheit generativer KI ist maßgeblich auf Chatbots und zugrundliegenden großen Sprachmodellen (Large Language Models, kurz LLMs) wie GPT-4 von OpenAI oder PaLM 2 von Google zurückzuführen. Diese Form der generativen KI basiert auf computerlinguistischen Ansätzen, bei denen Deep-Learning-Algorithmen auf umfangreiche Textdaten trainiert werden und dadurch statistische Verbindungen zwischen Wörtern und Sätzen erlernen.

Im Ergebnis können LLMs Texte nahezu wie ein Mensch interpretieren und erstellen. Ihre Fähigkeit, aus dem Kontext zu schließen und kohärente, relevante Antworten zu liefern, eröffnet eine Vielzahl an Anwendungsmöglichkeiten im Alltag – von der Ideengenerierung über präzise Zusammenfassungen bis hin zur Unterstützung bei schriftlicher Kommunikation. Zunehmend wird generative KI in sämtliche Produkte und Devices integriert, um neue Funktionalitäten zu bieten –beispielsweise in Smartphones für generative Fotobearbeitung oder schnelle Live-Übersetzungen. Doch das Potenzial generativer KI reicht mittlerweile weit über alltägliche Anwendungen hinaus. Sie meistert auch künstlerische Schaffensprozesse, indem sie kreative Ausdrucksformen generieren, sei es in Form von Musik oder durch die Erstellung von Bildern mit Text-zu-Bild-Generatoren wie DALL-E 2.

Von Chatbots bis hin zur intelligenten Suchfunktion – generative KI für Unternehmen

Auch in der Arbeitswelt rückt generative KI zunehmend in den Fokus von Entscheiderinnen und Entscheidern. GenAI bietet Unternehmen zahlreiche Möglichkeiten, die Effizienz, Entscheidungsfindung und Innovationskraft zu steigern und Wettbewerbsvorteile zu generieren.

Ein Wachstumsfeld von generativer KI sind KI-basierte Chatbots für den Kundendienst. Unternehmen stehen im heutigen Wettbewerbsumfeld zunehmend vor der Herausforderung, eine Vielzahl an Kundenanfragen effizient zu bearbeiten. Die steigenden Erwartungen an eine 24/7-Erreichbarkeit und sofortige Antworten verstärken den Druck – insbesondere im Reise- und Dienstleistungssektor, wo eine schnelle Bearbeitung von Beschwerden entscheidend ist. Die Implementierung von Kundenservice-Chatbots, die auf generativer KI basieren, verfolgt dabei mehrere Ziele: Sie sollen Kunden durch den Kaufprozess leiten, maßgeschneiderte Produktempfehlungen geben und Aufgaben wie Umbuchungen oder Datenänderungen automatisiert übernehmen. KI-Chatbots sind mittlerweile zudem in der Lage, Emotionen innerhalb eines Dialogs zu erkennen, um geeignete Anreden für einen Gesprächspartner zu finden. Die Vorteile sind erheblich: Unternehmen können rund um die Uhr einen personalisierten, interaktiven und qualitativ hochwertigen Kundenservice anbieten, der es ihnen erlaubt, eine Vielzahl von Anfragen gleichzeitig zu bearbeiten. Dies führt zu einem optimierten Kundenerlebnis, höheren Konversionsraten, größerer Kundenzufriedenheit und einer stärkeren Kundenbindung.

Ein Beispiel aus der Baubranche zeigt, wie generative KI Geschäftsprozesse und Workflows optimieren kann. Baudienstleister haben bei der Rechnungserstellung oft Schwierigkeiten, relevante Einträge in umfangreichen Servicekatalogen zu finden. Werden Einträge nicht identifiziert, bleibt die Kategorisierung von Leistungspositionen aus, was zu manuellen Korrekturen und zeitlichen Verzögerungen führt. Die Lösung liegt in der Erstellung einer leistungsstarken Suchfunktion mittels generativer KI: Durch gezieltes Prompting ist es möglich, automatisch relevante Schlüsselwörter aus Servicebezeichnungen zu extrahieren und diese als Tags für die Suche bereitzustellen. So wird aus einem Begriff wie „Sanierungsarbeiten“ nicht nur das Schlüsselwort „Sanierung“ generiert, sondern auch verwandte Begriffe wie „Renovierung“ und „Instandsetzung“. Dienstleister können nun nicht nur das exakte Wort verwenden, sondern auch alternative Suchbegriffe, um benötigte Informationen schneller zu finden. Diese Lösung reduziert den Aufwand bei der Erstellung von Servicekatalogen, minimiert Fehler in der Datenpflege und verbessert die Datenqualität und -konsistenz. Mehr Informationen dazu gibt es in unserem Projektbericht „In Rekordzeit zur intelligenten Suchfunktion“.

Unternehmen müssen auch Verantwortung für mögliche Risiken übernehmen

Trotz der zahlreichen Vorteile, die generative KI Unternehmen bietet, sind auch erhebliche Herausforderungen zu bewältigen. Auffällig ist das Phänomen der „Halluzinationen“. Darunter werden Outputs der KI verstanden, die zwar plausibel erscheinen, jedoch ungenau oder falsch sind. So beriefen sich bereits Anwälte vor Gericht auf einen Schriftsatz mit fiktiven Beispielfällen und erfundenen Quellenangaben, die von einem KI-Tool erstellt wurden. Entwickler:innen können jedoch Verhaltensregeln implementieren, um das Modell auf vertrauenswürdige Datenquellen zu beschränken und kontinuierliche Bewertungen zur Reduzierung von Ungenauigkeiten durchzuführen.

Inkonsistente Outputs stellen ein weiteres Problem dar. Da generative KI-Modelle probabilistisch arbeiten, können identische Eingaben zu unterschiedlichen Ergebnissen führen. In Anwendungen wie Kundenservice-Chatbots, die einheitliche Antworten benötigen, ist das besonders ungünstig. Mit gezieltem Prompt Engineering können jedoch konsistentere Ergebnisse erzielt werden.

Auch „Bias“ oder algorithmische Voreingenommenheit ist eine bedeutende Herausforderung. Generative Modelle können gesellschaftliche Vorurteile aus den Trainingsdaten übernehmen und diese sogar verstärken, was zu stereotypischen oder beleidigenden Inhalten führen kann. Entwickler:innen sollten daher vielfältige Daten nutzen und Richtlinien zur Vermeidung von Bias festlegen, um die Fairness der Outputs zu gewährleisten.

In der zunehmenden Verwendung von generativer KI für die Kundenkommunikation stellt sich zudem die Frage nach der Verantwortlichkeit bei Fehlern der KI. Ein Fall aus Kanada zeigt dies deutlich: Ein Fluggast erhielt fehlerhafte Informationen über einen Ticket-Rabatt von einem KI-Chatbot der Fluglinie Air Canada. Das Gericht entschied, dass die Fluggesellschaft die Aussagen des Chatbots zu verantworten hat und dem Kunden entsprechende Entschädigungszahlungen leisten muss. Dies unterstreicht die Notwendigkeit klarer Verantwortlichkeiten und Transparenz im Umgang mit generativer KI.

Ein weiterer kritischer Aspekt ist der Datenschutz. Ob eine Datenverarbeitung mittels generativer KI in den Anwendungsbereich der Datenschutz-Grundverordnung (DSGVO) fällt, richtet sich danach, inwieweit das jeweilige System personenbezogene Daten (z.B. Namen oder Informationen über das Leben einer Person) erfasst, verarbeitet oder erstellt. Liegt ein Personenbezug vor, sind verantwortliche Unternehmen unter anderem an Offenlegungspflichten und Vorkehrungsmaßnahmen zum Schutz der Daten (Artikel 25 DSGVO, z.B. Datenschutz durch Technikgestaltung) gebunden. Neben dem Recht auf Auskunft und Löschung ist zudem eine aktive Einwilligung der betroffenen Person erforderlich.

AI Act für einen verantwortungsvollen Einsatz von generativer KI

Um den Schutz der Grundrechte und den verantwortungsvollen Einsatz von KI-Systemen zu fördern, wurde nun der AI Act der EU als weltweit erstes KI-Gesetz beschlossen. Der AI Act unterscheidet zwischen verschiedenen Risikoklassen für KI-Systeme, die jeweils mit spezifischen rechtlichen Anforderungen verbunden sind. Systeme mit „inakzeptablem Risiko“, wie solche, die Social Scoring ermöglichen, sind EU-weit verboten. Für „hohe Risiken“, etwa KI-basierte medizinische Software oder Systeme zur Personaleinstellung, gelten strenge Anforderungen, einschließlich Risikominderungssystemen und menschlicher Aufsicht. „Begrenzte Risiken“, wie sie bei Chatbots auftreten, erfordern besondere Transparenzverpflichtungen. Nutzer:innen müssen eindeutig darüber informiert werden, dass sie mit einer Maschine interagieren. Bestimmte KI-generierte Inhalte sollten entsprechend gekennzeichnet werden. Bei „niedrigem Risiko“, wie bei Spamfiltern oder KI-gestützten Videospielen, bestehen keine besonderen Verpflichtungen, jedoch können Unternehmen freiwillig zusätzliche Verhaltenskodizes aufstellen. Anbietende und Nutzende von KI-Systemen sind gefordert, sich aktiv mit diesen Vorschriften auseinanderzusetzen, um Compliance sicherzustellen und die Risiken zu minimieren.

Der Einsatz von generativer KI unter Abwägung aller Potenziale und Risiken

Die Integration generativer KI in Unternehmen eröffnet ein breites Spektrum an Möglichkeiten – von Effizienzsteigerungen über eine verbesserte Entscheidungsfindung bis hin zu der Entwicklung innovativer Produkte und Dienstleistungen. Mit ihrer Fähigkeit, komplexe Aufgaben zu automatisieren und maßgeschneiderte Inhalte in Echtzeit zu generieren, stellt generative KI einen signifikanten Fortschritt dar, der Unternehmen hilft, wettbewerbsfähig zu bleiben und sich in einem dynamischen Marktumfeld zu behaupten.

Dennoch sind den Vorteilen auch erhebliche Herausforderungen gegenüberzustellen. Risiken wie Halluzinationen, inkonsistente Outputs und Bias können die Zuverlässigkeit und Fairness der generativen Modelle beeinträchtigen. Zudem erfordert der Umgang mit personenbezogenen Daten im Einklang mit der DSGVO und den neuen Anforderungen des EU AI Acts ein hohes Maß an Sorgfalt und Compliance. Die verschiedenen Risikoklassen des AI Acts fordern von Anbietenden und Nutzenden, sich aktiv mit den rechtlichen Rahmenbedingungen auseinanderzusetzen und die entsprechenden Maßnahmen zu ergreifen.

Insgesamt ist die Verwendung generativer KI ein vielversprechender, aber auch komplexer Prozess. Unternehmen müssen Potenziale und Risiken sorgfältig abwägen, um eine verantwortungsvolle Implementierung sicherzustellen. Durch proaktive Risikominderung und kontinuierliche Anpassung an gesetzliche Vorgaben können Unternehmen nicht nur die Vorteile der Technologie nutzen, sondern auch ihre ethische Verantwortung wahrnehmen. So wird generative KI zu einem wertvollen Werkzeug, das die Zukunft der Geschäftswelt nachhaltig prägen kann. Sie möchten mit uns gerne über die Vor- und Nachteile für Ihre Einsatzmöglichkeiten generativer KI sprechen? Dann freuen wir uns auf den Austausch mit Ihnen!

Quellen und weiterführende Links:

Studie zur Nutzung von KI:Bick, A., Blandin, A., & Deming, D. J. (2024). The Rapid Adoption of Generative AI (No. w32966). National Bureau of Economic Research

Einsatz von KI in Unternehmen: https://www.gartner.com/en/newsroom/

Herausforderungen von KI: https://www.br.de/nachrichten/netzwelt/ und https://rsw.beck.de/aktuell/daily/meldung/