Eine einfache Bewertung aus Fehlerkosten, Nutzungshäufigkeit und Korrigierbarkeit schafft Orientierung und priorisiert Use-Cases. Ebenso wichtig ist Transparenz über Daten: Herkunft, Qualität, zulässige Felder und Aufbewahrungsfristen müssen dokumentiert werden, damit Audits bestehen und keine unzulässigen Informationen ins Modell gelangen.

Damit Fachbereiche, IT und Risikomanagement zusammenarbeiten können, braucht es ein gemeinsames Verständnis zentraler KI-Begriffe wie LLMOps, RAG oder Halluzinationen. Governance-Strukturen wie das Modell der Three Lines of Defense legen Verantwortlichkeiten fest, während Policies und Policy-as-Code sicherstellen, dass Regeln technisch durchgesetzt werden. Regulierung wie DSGVO und sich weiterentwickelnde KI-Verordnungen erfordern zudem flexible Rahmenwerke, die Modell-, Datenschutz-, Sicherheits- und Reputationsrisiken systematisch erfassen und überwachen.

Bei der Auswahl von Use-Cases und Technologien zählen Nutzen, Datenlage, Risiken und Transparenz externer Anbieter. Architekturentscheidungen wie Feintuning oder RAG beeinflussen Kosten, Auditierbarkeit und Sicherheit. Der Weg zum Go-Live führt über strukturierte Pilotphasen, Red-Teaming, Datenschutzprüfungen und klare Abnahmekriterien bis hin zu Notabschaltungen.

Im Betrieb werden KI-Systeme in bestehende IT- und Risikoprozesse integriert. Transparenz über Prompts, Tokenverbrauch, Trefferquoten und Moderationswerte hilft, Probleme früh zu erkennen. Kostenlimits, Stichprobenprüfungen und Playbooks für Vorfälle verhindern Kontrollverlust. Da Modelle altern, braucht es laufende Feedback-Schleifen, Drift-Analysen und kontrollierte Experimente.

Wie Unternehmen Kompetenzen ausbauen, regulatorische Entwicklungen verfolgen und ihre Governance weiterentwickeln können, erläutert der Beitrag „Künstliche Intelligenz in der Praxis“ in der Zeitschrift für Risikomanagement.

ChatGPT in der Unternehmenspraxis von Wolfhart Fabarius Der Einsatz von Künstlicher Intelligenz revolutioniert die Arbeitswelt und mit ChatGPT steht hierbei ein besonders vielseitig nutzbares Anwendungstool zur Verfügung. Wie Sie als Governance-Verantwortlicher den Chatbot sinnvoll einsetzen können, zeigen die Praxisbeispiele in diesem Buch mit thematischen Schwerpunkten wie Nachhaltigkeit, Cybersicherheit, Datenschutz und Überwachung von Lieferketten. Neben den Stärken von ChatGPT werden auch die Risiken der KI aufgezeigt, die vor allem aufgrund von fehlerhaften und subjektiv gefärbten Antworten des Chatbots bestehen. Es wird verdeutlicht, dass sich ChatGPT zwar als Arbeitshilfe eignet. Die Verantwortung bei der Nutzung von KI-generierten Informationen bleibt jedoch bei den anwendenden Personen. Eine erstmalige Zusammenstellung praktischer KI-Anwendungsbeispiele für Risikomanagement, Controlling und Compliance – leicht verständlich sowohl für Governance-Profis als auch Nutzerinnen und Nutzer ohne große Vorkenntnisse. Hören Sie hier den Interview-Podcast Der Einsatz von ChatGPT in Unternehmen – Bernd Preiß mit seinem Gast: Wolfhart Fabarius.