Überblick
Künstliche Intelligenz ist kein isoliertes IT-Werkzeug mehr. Sie wird Bestandteil von Standardsoftware, Geschäftsprozessen, Produkten, Wissenssystemen und automatisierten Entscheidungen. Unternehmen benötigen deshalb nicht nur eine juristische Einordnung des EU AI Act, sondern ein belastbares Betriebsmodell, das Nutzen, Verantwortung, Architektur, Sicherheit, Kosten und Compliance zusammenführt.
Die zentrale Managementaufgabe lautet: KI so schnell und breit nutzbar zu machen, dass messbarer Geschäftswert entsteht, ohne Kontrolle über Daten, Entscheidungen, Anbieter und Risiken zu verlieren. Für viele mittelständische Unternehmen ist der CIO die natürliche zentrale Steuerungsinstanz. Die Verantwortung bleibt jedoch verteilt: Geschäftsführung und Aufsichtsorgane bestimmen Strategie und Risikoappetit; Fachbereiche verantworten Nutzen und fachliche Ergebnisse; CISO, Datenschutz, Legal und Compliance sichern die Schutz- und Rechtsdimension; IT und Enterprise Architecture gewährleisten integrierbaren, sicheren und wirtschaftlichen Betrieb.
Der EU AI Act bildet einen verbindlichen regulatorischen Rahmen. Er ersetzt aber weder Unternehmensstrategie noch AI Governance. Eine tragfähige Enterprise-AI-Steuerung erfasst auch eingebettete KI-Funktionen in ERP, CRM, M365, Security-, HR-, Produktions- und Entwicklungsanwendungen, öffentliche KI-Dienste, eigene RAG-Systeme, Modelle, Agenten und APIs. Ziel ist ein vollständiger, risikobasierter Überblick über die gesamte KI-Landschaft.
Cyberlligency betrachtet Enterprise AI Governance als Entscheidungs- und Betriebsmodell: Geschäftswert ermöglichen, Verantwortung klären, Risiken beherrschen und regulatorische Anforderungen nachweisbar erfüllen.
Enterprise AI Governance in fünf Minuten
| Managementfrage | Belastbare Antwort |
|---|---|
| Warum jetzt handeln? | KI ist bereits in Standardanwendungen, öffentlichen Diensten und Fachbereichslösungen vorhanden. Ohne Inventar und Freigabemodell entsteht unbemerkte Shadow AI. |
| Wer hält die Fäden zusammen? | Im Mittelstand typischerweise der CIO oder IT-Leiter als Enterprise AI Owner, unterstützt durch ein interdisziplinäres AI Governance Board. |
| Was ist das Ziel? | Messbarer Nutzen bei kontrollierten Datenflüssen, klarer Verantwortung, sicherem Betrieb, vertretbaren Kosten und nachvollziehbarer Compliance. |
| Was muss zuerst entstehen? | Sponsor, Verantwortungsmodell, AI Inventory, Acceptable-Use-Regeln, Risikoklassifizierung und priorisiertes Use-Case-Portfolio. |
| Welche Rolle spielt der AI Act? | Er definiert Pflichten nach Rolle und Risiko. Er ist ein Teil des Governance-Modells, nicht die gesamte KI-Strategie. |
| Was wird gekauft? | Die Reference Edition erklärt das Wissen. Toolkits liefern editierbare Register, Policies, Checklisten, Self-Assessments und Auswertungsprompts. |
Board Briefing: Warum KI zur Unternehmenssache wird
Aufsichtsrat und Geschäftsführung müssen KI weder technisch betreiben noch einzelne Modelle auswählen. Sie müssen jedoch sicherstellen, dass Strategie, Risikoappetit, Verantwortung und Überwachung funktionieren. KI kann Produktivität, Qualität und Geschwindigkeit erheblich erhöhen; zugleich kann sie Entscheidungen, Datenflüsse und Abhängigkeiten verändern, die für das Geschäftsmodell wesentlich sind.
| Board-Thema | Zu klärende Frage | Erwarteter Nachweis |
|---|---|---|
| Strategie | Welche messbaren Unternehmensziele werden durch KI unterstützt? | AI Strategy, priorisiertes Portfolio, Nutzenkennzahlen |
| Verantwortung | Wer besitzt die Gesamtsteuerung und wer verantwortet einzelne Systeme? | Governance Charter, Rollenmodell, benannte Owner |
| Risiko | Welche KI-Risiken können Lieferfähigkeit, Rechte, Reputation oder Finanzen beeinträchtigen? | AI Risk Register, Top-Risk-Reporting |
| Investition | Welche Plattformen, Lizenzen und Fähigkeiten werden finanziert? | Mehrjahresbudget, TCO- und ROI-Modell |
| Kontrolle | Wie werden Shadow AI, Anbieteränderungen und eingebettete Features erkannt? | Inventory, Release-Prozess, Monitoring |
| Compliance | Welche Systeme fallen unter AI Act, DSGVO oder Branchenpflichten? | Rollen- und Risikoklassifizierung, Evidence Matrix |
Enterprise AI Strategy und Geschäftswert
Eine KI-Strategie beginnt nicht mit einer Produktliste. Sie übersetzt Unternehmensziele in priorisierte Fähigkeiten, Plattformentscheidungen und Verantwortlichkeiten. Erfolgreiche Unternehmen unterscheiden zwischen Produktivitätsfunktionen, Prozessautomatisierung, wissensbasierten Assistenten, analytischer KI, produktintegrierter KI und autonomen Agenten. Jede Kategorie benötigt andere Kontrollen und andere Nutzenkennzahlen.
Produktivität
Assistenz bei Text, Recherche, Übersetzung, Meetings und Wissenszugang. Nutzen wird über Zeitersparnis, Qualität und Adoption gemessen.
Prozessleistung
Automatisierung oder Unterstützung definierter Prozessschritte. Entscheidend sind Durchlaufzeit, Fehlerquote und Kontrollpunkte.
Entscheidungsunterstützung
Analyse, Prognose und Empfehlung. Fachliche Validierung und Human Oversight müssen zur Auswirkung passen.
Produkte und Services
KI wird Bestandteil des Kundenangebots. Produkthaftung, CRA, Qualitätsmanagement und Lifecycle gewinnen an Bedeutung.
Wissenssysteme
Enterprise RAG erschließt internes Wissen unter Beachtung von Berechtigungen, Quellenqualität und Dokumentenlebenszyklen.
Agentische Systeme
KI führt Aktionen über Tools und Schnittstellen aus. Berechtigungsgrenzen, Transaktionslimits und Kill Switches werden zentral.
Priorisierung von Use Cases
Ein belastbares Portfolio bewertet nicht nur erwarteten Nutzen, sondern auch Datenreife, Integrationsaufwand, Risiko, regulatorische Einordnung, Betriebsfähigkeit und organisatorische Akzeptanz. Ein Use Case mit hohem theoretischem Nutzen, aber unklaren Datenrechten oder fehlendem Owner ist nicht produktionsreif.
| Kriterium | Leitfrage | Typische Bewertung |
|---|---|---|
| Business Value | Welcher messbare Wert entsteht? | Umsatz, Kosten, Qualität, Geschwindigkeit, Risiko |
| Machbarkeit | Sind Daten, Schnittstellen und Skills vorhanden? | niedrig / mittel / hoch |
| Risiko | Welche Auswirkungen kann eine falsche Ausgabe haben? | gering / wesentlich / kritisch |
| Regulatorik | Welche Rolle und Risikoklasse liegt vor? | keine besondere / Transparenz / Hochrisiko |
| Skalierung | Ist der Use Case wiederverwendbar? | lokal / funktionsübergreifend / global |
| Betrieb | Wer übernimmt Support, Monitoring und Lifecycle? | benannter Service Owner erforderlich |
AI Financial Management: Nutzen, Kosten und Investitionssteuerung
KI-Kosten entstehen nicht nur durch Lizenzen. Relevante Kostenblöcke sind Plattformen, API- und Tokenverbrauch, Datenaufbereitung, Integration, Security, Evaluation, Betrieb, Support, Schulung und Change Management. Ohne zentrales Financial Management entstehen parallele Verträge, unkontrollierte API-Kosten und Pilotprojekte ohne überprüfbaren Nutzen.
| Kosten- oder Nutzenebene | Beispiele | Steuerungsgröße |
|---|---|---|
| Lizenz | Copilot, Enterprise-Chat, Fachanwendung | aktive Nutzer, Nutzungsquote, Kosten je aktivem Nutzer |
| Verbrauch | Tokens, Inferenz, Vektorsuche, Storage | Kosten je Prozess, Anfrage oder Geschäftsfall |
| Plattform | Gateway, Modellzugang, Logging, Monitoring | TCO, Verfügbarkeit, Wiederverwendbarkeit |
| Implementierung | Daten, Integration, Tests, Freigaben | Projektkosten, Time-to-Value |
| Betrieb | Support, Evaluation, Updates, Incident Response | Run Cost, SLA, Fehlerrate |
| Nutzen | Zeit, Qualität, Umsatz, Risikoreduktion | realisierter Nutzen gegenüber Business Case |
Editierbare Arbeitsmittel für Business Case, Budget und laufende Kostenkontrolle.
- ROI- und TCO-Modell
- Lizenz- und API-Kostenregister
- Token-Kostenrechner
- Portfolio-Budget und Benefits Tracker
Enterprise AI Governance: Kontrolle ohne Innovationsbremse
Governance sollte schnelle, risikoangemessene Entscheidungen ermöglichen. Ein einfacher Schreibassistent benötigt kein monatelanges Freigabeverfahren; ein System zur Bewerberbewertung, Qualitätsfreigabe oder automatisierten Transaktion dagegen eine deutlich tiefere Prüfung. Gute Governance definiert Entscheidungsschwellen, Standardwege und klare Ausnahmen.
| Governance-Baustein | Zweck |
|---|---|
| AI Principles | Grundsätze für Wertschöpfung, Verantwortung, Transparenz, Sicherheit und menschliche Kontrolle |
| AI Policy | Verbindliche Regeln für Beschaffung, Entwicklung, Nutzung, Betrieb und Stilllegung |
| Decision Rights | Festlegung, wer welche Risikoklasse und Nutzung freigeben darf |
| AI Inventory | Vollständiger Überblick über Systeme, Features, Modelle, Agenten, APIs und Datenquellen |
| Risk Management | Einheitliche Bewertung und Behandlung von Geschäfts-, Sicherheits-, Rechts- und Grundrechtsrisiken |
| Lifecycle | Kontrollpunkte von Idee bis Stilllegung |
| Reporting | Board-, CIO-, Security- und Compliance-Kennzahlen |
| Assurance | Reviews, Tests, Audits, Evidenz und kontinuierliche Überwachung |
Wer sollte im Unternehmen alle Fäden zusammenhalten?
Eine allgemeingültige Rolle gibt es nicht. Für die Mehrzahl mittelständischer Unternehmen ist der CIO oder IT-Leiter jedoch die praktikabelste zentrale Steuerungsinstanz. Er besitzt typischerweise den umfassendsten Blick auf Anwendungen, Datenzugriffe, Identitäten, Anbieter, Integrationen, Architektur, Betrieb und Kosten. Die Rolle sollte als Enterprise AI Owner verstanden werden: koordinierend und steuernd, nicht als alleiniger Risikoträger.
| Unternehmensprofil | Empfohlene Gesamtsteuerung | Typische Struktur |
|---|---|---|
| 10–50 Beschäftigte | Geschäftsführung mit IT-Verantwortlichem | Pragmatische Governance, externe Fachunterstützung bei Bedarf |
| 50–150 | IT-Leitung oder CIO | Kleine interdisziplinäre Governance-Gruppe |
| 150–500 | CIO | CIO, CISO/IT-Security, Datenschutz, Legal/Compliance und Fachbereiche |
| 500–1.000 | CIO | Formelles AI Governance Board, Inventory und standardisierte Freigabe |
| 1.000–3.000 | CIO, CDO oder Head of AI | AI Office oder Center of Excellence plus Governance Board |
| 3.000–10.000 | CIO oder Chief AI Officer | Enterprise AI Office mit zentraler Plattform- und Portfoliosteuerung |
| Konzern / DAX | CIO oder CAIO unter Vorstandssponsoring | Board Oversight, Enterprise AI Office, regionale und fachliche AI Leads |
Die Mitarbeiterzahl ist nur ein Indikator. Internationale Standorte, eigene Softwareentwicklung, OT, regulierte Entscheidungen, sensible Daten, zahlreiche Anbieter und eine große Zahl eingebetteter KI-Funktionen erhöhen den Governance-Bedarf deutlich.
Rollen- und Verantwortungsmodell
| Rolle | Kernverantwortung |
|---|---|
| CEO / Vorstandssponsor | Strategische Richtung, Risikoappetit, Ressourcen und Eskalationsentscheidungen |
| Aufsichtsrat | Überwachung wesentlicher Chancen, Risiken und Governance-Wirksamkeit |
| Enterprise AI Owner | Gesamtkoordination, Portfolio, Governance, Reporting und Entscheidungswege |
| AI Governance Lead | Operativer Betrieb der Governance, Inventory, Reviews, Standards und Evidence |
| Business AI Owner | Business Case, fachliche Eignung, Prozesswirkung und Nutzen |
| Technical AI Owner | Architektur, Integration, Betrieb, Monitoring und Lifecycle |
| Data Owner | Datenzulässigkeit, Qualität, Klassifizierung und Zugriff |
| CISO | AI Security, Threat Model, technische Kontrollen und Incident Response |
| Datenschutz / Legal / Compliance | Rechtsgrundlage, Betroffenenrechte, Verträge und regulatorische Einordnung |
| Einkauf | Anbieterprüfung, Vertragsklauseln, Exit und Kosten |
| Interne Revision | Unabhängige Prüfung von Design, Umsetzung und Wirksamkeit |
Cyberlligency Enterprise AI Control Tower
Der Enterprise AI Control Tower ist kein einzelnes Softwareprodukt. Er ist ein zentrales Informations- und Steuerungsmodell, in dem alle entscheidungsrelevanten Fäden zusammenlaufen. Er schafft eine konsistente Sicht auf Strategie, Portfolio, Systeme, Risiken, Anbieter, Architektur, Kosten, Lifecycle, Incidents, Auditstatus und Nutzen.
Strategy & Value
Ziele, Business Cases, Prioritäten, Roadmap und realisierter Nutzen.
Portfolio & Inventory
Projekte, produktive Systeme, Features, Modelle, Agenten, APIs und RAG-Lösungen.
Risk & Compliance
Risikoklassen, AI-Act-Rollen, Datenschutz, Security und offene Maßnahmen.
Architecture & Operations
Plattformen, Integrationen, Identitäten, Monitoring, LLMOps und Service Owner.
Vendors & Finance
Verträge, Unterauftragnehmer, Lock-in, Exit, Lizenzen und Verbrauchskosten.
Assurance & Reporting
Evidenz, Audits, Incidents, Reviews und rollengerechte Managementberichte.
Das Toolkit bildet die editierbare Arbeitsgrundlage des Control Towers.
- Governance Charter und Committee Mandate
- RACI und Decision Rights Matrix
- Board- und CIO-Dashboard
- Portfolio-, Risiko- und Maßnahmenregister
EU AI Act: regulatorischer Rahmen, nicht Unternehmensstrategie
Die Verordnung (EU) 2024/1689 ist seit dem 1. August 2024 in Kraft. Sie verfolgt einen risikobasierten Ansatz und legt Pflichten für unterschiedliche Akteure und Systemtypen fest. Wesentliche Vorschriften gelten gestaffelt. Unternehmen müssen deshalb den aktuellen Rechtsstand, Übergangsfristen und veröffentlichte Leitlinien getrennt betrachten.
Der AI Act beantwortet nicht, welche KI-Strategie wirtschaftlich sinnvoll ist, wie eine Enterprise-Plattform betrieben wird oder wie Shadow AI reduziert wird. Diese Aufgaben bleiben Teil der Unternehmensführung. Die Verordnung muss in ein umfassenderes Governance- und Managementsystem integriert werden.
| Regulatorische Ebene | Unternehmensfrage |
|---|---|
| Anwendungsbereich | Fällt das System, seine Bereitstellung oder sein Output in den räumlichen und sachlichen Geltungsbereich? |
| Rolle | Handelt das Unternehmen als Provider, Deployer, Importer, Distributor oder Product Manufacturer? |
| Klassifizierung | Ist die Praxis verboten, hochriskant, transparenzpflichtig oder ohne besondere Risikokategorie? |
| Pflichten | Welche Dokumentation, Aufsicht, Überwachung, Registrierung oder Information ist erforderlich? |
| Nachweis | Welche Evidenz belegt die tatsächliche Umsetzung und Wirksamkeit? |
Rollen nach dem EU AI Act
Die Rolle ist pro System und Nutzungsszenario zu bestimmen. Ein Unternehmen kann bei einer Standardlösung Deployer sein, bei einer tiefgreifend veränderten oder unter eigener Marke bereitgestellten Lösung aber Providerpflichten auslösen. Rollen dürfen deshalb nicht pauschal auf Unternehmensebene vergeben werden.
| Rolle | Praktische Bedeutung |
|---|---|
| Provider | Entwickelt ein KI-System oder Modell oder lässt es entwickeln und bringt es unter eigenem Namen in Verkehr oder Betrieb. |
| Deployer | Verwendet ein KI-System unter eigener Verantwortung, ausgenommen rein persönliche nichtberufliche Nutzung. |
| Importer | Bringt ein System eines Anbieters aus einem Drittland in der EU in Verkehr. |
| Distributor | Stellt ein System in der Lieferkette bereit, ohne Provider oder Importer zu sein. |
| Product Manufacturer | Bringt ein Produkt mit KI-System als Sicherheitskomponente oder unter eigenem Namen in Verkehr. |
| GPAI Provider | Stellt ein General-Purpose-AI-Modell bereit und unterliegt modellbezogenen Pflichten. |
Risikokategorien und Pflichtenlogik
| Kategorie | Beispiele / Kontext | Managementfolge |
|---|---|---|
| Verbotene Praktiken | Bestimmte manipulative, ausbeuterische, soziale Bewertungs- oder biometrische Praktiken | Nicht einsetzen; Identifikation und Eskalation müssen früh im Lifecycle erfolgen. |
| Hochrisiko | Bestimmte Systeme in regulierten Produkten oder Anwendungsfeldern wie Beschäftigung, Bildung, kritische Dienste oder Strafverfolgung | Umfassendes Risiko-, Qualitäts-, Dokumentations-, Aufsichts- und Überwachungsmodell. |
| Transparenzpflichten | Interaktion mit KI, Emotionserkennung, biometrische Kategorisierung, Deepfakes und bestimmte generierte Inhalte | Kennzeichnung, Nutzerinformation und technische Erkennbarkeit je Fall. |
| GPAI | General-Purpose-AI-Modelle und gegebenenfalls systemisches Risiko | Modellbezogene Transparenz-, Copyright-, Safety- und Security-Pflichten für Provider. |
| Sonstige Systeme | Keine besondere Risikokategorie nach dem Act | Unternehmensinterne Risiken, DSGVO, Security, Vertrag und Branchenregeln bleiben dennoch relevant. |
Anwendungszeitplan und Änderungsmanagement
Die gestaffelte Anwendung verlangt eine gepflegte Rechts- und Umsetzungsroadmap. Verbotene Praktiken und AI-Literacy-Pflichten gelten bereits seit Februar 2025; GPAI-Regeln gelten seit August 2025; viele weitere Regelungen sind ab August 2026 vorgesehen. Parallel können Leitlinien, Standards und gesetzgeberische Änderungen die praktische Umsetzung beeinflussen. Cyberlligency empfiehlt deshalb, Rechtsstand, geplante Änderung und interne Best Practice sichtbar zu trennen.
| Zeitpunkt | Relevanz |
|---|---|
| 1. August 2024 | Inkrafttreten der Verordnung |
| 2. Februar 2025 | Anwendung unter anderem von Verboten und AI Literacy |
| 2. August 2025 | Anwendung wesentlicher GPAI- und Governance-Regeln |
| 2. August 2026 | Breite Anwendung vieler übriger Pflichten, vorbehaltlich besonderer Übergänge und finaler Rechtslage |
| laufend | Leitlinien, Codes of Practice, harmonisierte Standards und mögliche Änderungsakte überwachen |
KI außerhalb der EU und internationale Konzernnutzung
Der Sitz eines Anbieters außerhalb der EU schließt die Anwendung des AI Act nicht automatisch aus. Relevant sind unter anderem Marktbereitstellung, Einsatz in der EU, Rolle des Unternehmens und die Nutzung von Output in der EU. Internationale Konzerne benötigen deshalb ein globales Basismodell mit regionalen rechtlichen Ergänzungen.
Zusätzlich sind DSGVO, Drittlandtransfers, Datenresidenz, Supportzugriffe, Subprozessoren, Exportkontrollen, sektorale Anforderungen und Vertragsrecht zu betrachten. Eine globale Plattform kann technisch einheitlich sein, während Datenquellen, Modelle, Logging und Freigaben regional unterschiedlich ausgestaltet werden.
| Internationale Frage | Governance-Antwort |
|---|---|
| US-Anbieter | Vertrag, Datenverwendung, Subprozessoren, Transfermechanismen, Supportzugriff und Exit bewerten |
| Globale Plattform | Globaler Standard plus regionale Compliance- und Datenkonfiguration |
| Output in der EU | Geltungsbereich und Nutzungsfolgen prüfen, nicht nur Hostingstandort |
| Lokale Modelle | Betriebs-, Sicherheits-, Lizenz- und Lifecycle-Verantwortung intern aufbauen |
| Anbieterwechsel | Portabilität von Prompts, Daten, Embeddings, Evaluationssets und Integrationen sicherstellen |
Digitale Souveränität und Vendor Lock-in
Souveränität bedeutet nicht zwangsläufig, jede KI selbst zu betreiben. Sie bedeutet, bewusste Abhängigkeiten einzugehen und handlungsfähig zu bleiben. Unternehmen sollten wissen, welche Daten und Prozesse an einen Anbieter gebunden sind, wie ein Modellwechsel funktioniert und welche Funktionen bei Ausfall oder Vertragsende betroffen wären.
| Kontrollpunkt | Nachweis |
|---|---|
| Datenportabilität | Exportformate, Dokumentenquellen und Metadaten sind dokumentiert |
| Modellabstraktion | Anwendungen sind nicht unnötig an proprietäre Funktionen gebunden |
| Exit-Plan | Verantwortliche, Fristen, Alternativanbieter und Rückführungsschritte sind definiert |
| Betriebsfähigkeit | Kritische Prozesse besitzen Fallback oder manuelle Betriebsoption |
| Kostenabhängigkeit | Preis- und Verbrauchssensitivität wird regelmäßig bewertet |
KI in Enterprise Applications: Die unsichtbare KI-Landschaft
KI wird häufig nicht als eigenes Projekt eingeführt. Sie erscheint mit Updates in ERP, CRM, DMS, PLM, MES, CAQ, ITSM, M365, HR-, Entwicklungs- und Security-Produkten. Dadurch kann ein Unternehmen Dutzende oder Hunderte KI-Funktionen besitzen, ohne sie als KI-Portfolio zu erkennen.
Das Application Management muss deshalb nicht nur Anwendungen, sondern relevante KI-Features erfassen. Die Governancefrage lautet: Welche Funktion ist aktiv, welche Daten nutzt sie, welche Wirkung hat sie und wer hat die Aktivierung freigegeben?
| Anwendungsklasse | Typische KI-Funktion | Besonderer Prüfpunkt |
|---|---|---|
| ERP / SCM | Copilot, Prognose, Disposition, Anomalieerkennung | Einfluss auf Material, Lieferfähigkeit und finanzielle Prozesse |
| HR | Bewerbermatching, Leistungs- oder Potenzialanalyse | Hochrisiko-Einordnung, Fairness, Human Oversight |
| M365 / Collaboration | Zusammenfassung, Suche, Entwurf, Meetinganalyse | Berechtigungen, Datenklassifizierung, Oversharing |
| Security | Priorisierung, Erkennung, automatisierte Reaktion | False Positives, privilegierte Aktionen, Nachvollziehbarkeit |
| Produktion / Qualität | Vision, Predictive Maintenance, Qualitätsentscheidung | Safety, OT-Verfügbarkeit, Qualitätsfreigabe |
| Entwicklung | Codegenerierung, Testentwurf, Architekturassistenz | IP, Geheimnisse, sichere Entwicklung, Lizenzrisiken |
AI Feature Governance und Release Management
Neue oder geänderte KI-Funktionen müssen Bestandteil von Change-, Release- und Beschaffungsprozessen werden. Nicht jedes Release benötigt eine vollständige Compliance-Prüfung; jedes relevante Release benötigt jedoch einen Trigger, der neue Datenflüsse, Modelle, Entscheidungen und Automatisierungen erkennt.
| Release-Frage | Warum relevant? |
|---|---|
| Wird eine neue KI-Funktion aktiviert? | Aufnahme in Inventory und Verantwortungszuordnung |
| Ändert sich der Datenzugriff? | Datenschutz, Berechtigungen und Geheimnisschutz |
| Ändert sich die Entscheidungswirkung? | Risikoklassifizierung und Human Oversight |
| Wechselt Modell oder Provider? | Vertrag, Evaluation, Security und Datenverwendung |
| Entstehen autonome Aktionen? | Agent Security, Limits und Freigabepunkte |
| Ändern sich Nutzerinformationen? | Transparenz- und Schulungsbedarf |
Vorlagen zur Erfassung eingebetteter KI in der bestehenden Applikationslandschaft.
- Application- und Feature-Register
- Release-Impact-Checkliste
- Freigabe- und Deaktivierungsformular
- Owner- und Risikoklassifizierung
Shadow AI: erkennen, ermöglichen und kontrollieren
Shadow AI entsteht, wenn Beschäftigte öffentliche Dienste, private Accounts, Browser-Erweiterungen, Fachbereichsbots oder lokale Modelle ohne formelle Freigabe nutzen. Ein reines Verbot ist meist unwirksam, wenn sichere Alternativen fehlen oder Freigaben zu langsam sind. Das Ziel ist kontrollierte Nutzung: klare Datenregeln, freigegebene Werkzeuge, schnelle Standardpfade, Awareness und technische Schutzmaßnahmen.
| Ursache | Wirksame Gegenmaßnahme |
|---|---|
| Fehlende Alternative | Sicheren Enterprise-Zugang mit sinnvollen Funktionen bereitstellen |
| Unklare Regeln | Kurze Acceptable-Use-Regeln nach Datenklasse und Tätigkeit |
| Langsame Freigabe | Standardisierte Fast-Track-Prüfung für geringe Risiken |
| Private Accounts | SSO, zentrale Verträge und klare Trennung privater Nutzung |
| Datenabfluss | DLP/SSE, Browserkontrollen, Schulung und Logging |
| Unbekannte Tools | Discovery, Umfragen, SaaS-Management und vertrauensvolle Meldewege |
Praktische Arbeitsmittel zur Erfassung und sicheren Freigabe.
- Shadow-AI-Self-Assessment
- Acceptable Use Policy
- Tool-Freigabeformular
- Ausnahme- und Awareness-Paket
Enterprise RAG: internes Wissen sicher nutzbar machen
Retrieval-Augmented Generation verbindet ein Sprachmodell mit kontrollierten Unternehmensquellen. Der Nutzen entsteht nicht allein durch Vektorsuche, sondern durch zuverlässige Quellen, Berechtigungen, Aktualität, Evaluation und einen klaren fachlichen Zweck. Ein RAG-System ist daher zugleich Wissensmanagement-, IAM-, Security- und Governance-System.
| Architekturebene | Governance-Anforderung |
|---|---|
| Quellsysteme | Owner, Freigabestatus, Klassifizierung, Version und Lebenszyklus |
| Ingestion | Nachvollziehbare Auswahl, Parsing, Chunking und Metadaten |
| Embeddings / Vector DB | Mandantentrennung, Löschung, Backup und Zugriffskontrolle |
| Retrieval | ACL-Filter, Relevanz, Quellenpflicht und Schutz vor manipulierten Dokumenten |
| LLM | Provider, Modellversion, Datenverwendung, Sicherheit und Kosten |
| Antwort | Quellenanzeige, Unsicherheitsbehandlung, Human Review und Feedback |
| Betrieb | Logging, Evaluation, Regressionstests, Incidents und Change Management |
Berechtigungen sind nicht optional
Ein Nutzer darf über RAG keine Informationen erhalten, die er im Quellsystem nicht sehen dürfte. Berechtigungen müssen beim Retrieval wirksam sein und Änderungen zeitnah übernehmen. Eine einmalige Filterung beim Import genügt für dynamische Berechtigungen meist nicht.
Qualität ist messbar
Ein produktives RAG-System benötigt definierte Testfragen, erwartete Quellen, fachliche Bewertung, Retrieval- und Antwortmetriken sowie Regressionstests bei Modell-, Prompt-, Chunking- oder Datenänderungen.
Governance-, Security- und Betriebsdokumente für Unternehmens-RAG.
- RAG Governance Policy
- Quellen- und Berechtigungsmatrix
- Evaluation Plan und Golden Dataset
- Betriebs-, Incident- und Change-Checklisten
Enterprise AI Platform und Referenzarchitektur
Eine zentrale Plattform reduziert Wildwuchs, wenn sie echte Mehrwerte bietet: freigegebene Modelle, einheitliche Identitäten, Logging, Kostenkontrolle, sichere RAG-Dienste, Prompt- und Agenten-Governance sowie standardisierte Integrationen. Sie sollte keine unnötige Zentralisierung erzeugen; fachliche Use Cases bleiben in den Geschäftsbereichen verankert.
| Plattformbaustein | Zweck |
|---|---|
| AI Gateway | Zentraler Modellzugang, Policies, Routing, Limits und Logging |
| Model Catalogue | Freigegebene Modelle, Einsatzgrenzen, Versionen und Kosten |
| Identity & Secrets | SSO, Service Identities, privilegierte Zugriffe und Secret Management |
| RAG Services | Wiederverwendbare Ingestion-, Retrieval- und Quellenfunktionen |
| Agent Services | Toolkatalog, Berechtigungen, Approval und Ausführungsprotokolle |
| Evaluation | Qualitäts-, Safety-, Security- und Regressionstests |
| Observability | Nutzung, Fehler, Latenz, Kosten, Incidents und Drift |
AI Agents: autonome Aktionen kontrollierbar machen
Agenten unterscheiden sich von reinen Chat- oder Assistenzsystemen, weil sie planen, Werkzeuge aufrufen und Aktionen ausführen können. Damit wächst das Schadenspotenzial: Ein fehlerhafter Text ist anders zu behandeln als eine fehlerhafte Bestellung, Benutzeranlage oder Produktionsänderung.
| Kontrolle | Best Practice |
|---|---|
| Identität | Jeder Agent und jede Ausführung besitzt eine nachvollziehbare technische Identität |
| Least Privilege | Nur erforderliche Tools, Daten und Aktionen werden freigegeben |
| Approval | Wesentliche oder irreversible Aktionen benötigen menschliche Freigabe |
| Limits | Transaktions-, Mengen-, Zeit- und Kostenlimits begrenzen Auswirkungen |
| Sandbox | Neue Tools und Prompts werden isoliert getestet |
| Kill Switch | Agenten lassen sich sofort stoppen und Zugänge widerrufen |
| Audit Trail | Plan, Toolaufrufe, Eingaben, Ergebnisse und Freigaben sind protokolliert |
AI Security und Threat Model
AI Security erweitert bestehende Cybersecurity. Identitäten, Netzwerke, APIs, Secrets, Software Supply Chain, Logging und Incident Response bleiben unverzichtbar. Hinzu kommen KI-spezifische Angriffspfade wie Prompt Injection, indirekte Instruktionen in Dokumenten, Model Poisoning, unsichere Toolnutzung und systematische Extraktion vertraulicher Informationen.
| Risiko | Beispiel | Kontrollrichtung |
|---|---|---|
| Prompt Injection | Nutzer oder Dokument manipuliert Systeminstruktionen | Trennung von Daten und Instruktionen, Filter, Toolgrenzen, Tests |
| Data Leakage | Modell erhält vertrauliche Daten oder gibt sie unzulässig aus | Klassifizierung, DLP, Zugriffskontrolle, Redaction, Providervertrag |
| Poisoning | Manipulierte Trainings- oder RAG-Quelle beeinflusst Ergebnisse | Quellenfreigabe, Integrität, Provenienz, Monitoring |
| Jailbreak | Schutzregeln werden gezielt umgangen | Red Teaming, Moderation, Kontext- und Aktionslimits |
| Insecure Output | Ausgabe wird ungeprüft als Code, Befehl oder Entscheidung genutzt | Validierung, sichere Parser, Human Approval |
| Model / Vendor Risk | Modelländerung verändert Verhalten oder Verfügbarkeit | Versionierung, Evaluation, Exit und Fallback |
AI Operations, LLMOps und Betriebsverantwortung
Produktive KI benötigt einen definierten Servicebetrieb. Ein Pilot ohne Service Owner, SLA, Monitoring, Kostenkontrolle, Evaluation und Rollback ist kein belastbarer Unternehmensservice. LLMOps verbindet Modell- und Promptversionen, Daten- und RAG-Änderungen, Tests, Deployment und Observability.
| Betriebsprozess | Mindestanforderung |
|---|---|
| Release | Version, Änderung, Testnachweis, Freigabe und Rollback |
| Evaluation | Fachliche Qualität, Groundedness, Safety, Security und Bias nach Risiko |
| Monitoring | Verfügbarkeit, Latenz, Fehler, Kosten, Nutzung und Qualitätsindikatoren |
| Change | Trigger bei Modell-, Provider-, Prompt-, Daten- oder Tooländerung |
| Incident | Klassifizierung, Eindämmung, Beweissicherung, Kommunikation und Lernen |
| Lifecycle | Review, Obsoleszenz, Exit, Datenlöschung und Stilllegung |
AI Lifecycle: von der Idee bis zur Stilllegung
| Phase | Kernentscheidung | Arbeitsergebnis |
|---|---|---|
| 1. Idee | Passt der Use Case zur Strategie? | Use-Case-Steckbrief |
| 2. Business Case | Ist der Nutzen messbar und realistisch? | Business Case und Sponsor |
| 3. Klassifizierung | Welche Rolle, Wirkung und Risikoklasse liegen vor? | Classification Record |
| 4. Prüfungen | Sind Recht, Datenschutz, Security, Architektur und Anbieter vertretbar? | Assessment und Maßnahmen |
| 5. Pilot | Erfüllt die Lösung Qualitäts- und Nutzenkriterien? | Evaluationsbericht |
| 6. Freigabe | Sind Owner, Betrieb und Restrisiko akzeptiert? | Go-Live-Entscheidung |
| 7. Betrieb | Bleiben Qualität, Risiko, Kosten und Compliance im Ziel? | Monitoring und Reviews |
| 8. Änderung | Erfordert eine Änderung Neubewertung oder Freigabe? | Change Record |
| 9. Stilllegung | Sind Daten, Zugänge, Verträge und Abhängigkeiten beendet? | Decommission Record |
AI Inventory: vollständige Transparenz herstellen
Das AI Inventory ist die zentrale Datenbasis der Governance. Es muss mehr erfassen als eigenständige Anwendungen. Relevante Objekte sind Systeme, Features, Modelle, Agenten, APIs, Prompts, RAG-Instanzen, Datenquellen, Anbieter und Integrationen. Je Objekt werden Owner, Zweck, Status, Daten, Risiko, Rolle, Kosten und Lifecycle dokumentiert.
| Inventarobjekt | Beispieldaten |
|---|---|
| System / Anwendung | Zweck, Business Owner, Technical Owner, Kritikalität, Standort |
| AI Feature | Aktiv, Benutzer, Datenzugriff, Entscheidungseinfluss, Release |
| Modell | Provider, Version, Hosting, Datenverwendung, Freigabegrenzen |
| Agent | Tools, Identität, Limits, Approval, Kill Switch |
| RAG | Quellen, Berechtigungen, Embeddings, Vector DB, Evaluation |
| API / Integration | Ziel, Datenklassen, Secrets, Logging, Vertrag |
| Prompt / Instruction | Owner, Version, Zweck, Teststatus, Schutzklasse |
Editierbare Register für die vollständige KI-Landschaft.
- AI System und Feature Inventory
- Model-, Agent-, API- und Prompt-Register
- RAG- und Datenquellenregister
- Owner-, Risiko- und Lifecycle-Felder
AI Risk Management und Enterprise Risk Integration
KI-Risiken sollten nicht als isolierte technische Liste geführt werden. Sie müssen in Geschäftsauswirkungen übersetzt werden: fehlerhafte Qualitätsentscheidung, Lieferunterbrechung, Diskriminierung, Datenabfluss, Vertragsverletzung, Reputationsschaden, Kostenexplosion oder Verlust kritischer Fähigkeiten. Der Risk Owner muss die Auswirkung verstehen und Restrisiken akzeptieren können.
| Risikodimension | Beispiele |
|---|---|
| Business | Falsche Entscheidung, Prozessstillstand, Qualitäts- oder Lieferproblem |
| Grundrechte / Menschen | Diskriminierung, unzulässige Überwachung, fehlende Anfechtbarkeit |
| Cybersecurity | Prompt Injection, Datenabfluss, Agentenmissbrauch, Supply Chain |
| Datenschutz | Unzulässige Daten, Zweckänderung, Drittlandtransfer, Betroffenenrechte |
| Compliance | Fehlklassifizierung, fehlende Transparenz, unzureichende Dokumentation |
| Finanzen | Unkontrollierte Kosten, Lock-in, fehlender ROI |
| Reputation | Vertrauensverlust durch falsche oder irreführende Ergebnisse |
Methodik und Arbeitsdateien zur einheitlichen Risikosteuerung.
- AI Risk Register
- Klassifizierungs- und Scoring-Matrix
- Risk Treatment Plan
- Residual-Risk- und Freigabeformular
AI Vendor Management und Beschaffung
KI-Anbieter verändern Modelle, Funktionen, Preise und Datenverarbeitung schneller als klassische Softwareprodukte. Vendor Governance muss deshalb über den Vertragsabschluss hinausgehen. Roadmap, Modellwechsel, Subprozessoren, Datenverwendung, Incident Support, Portabilität und Exit werden regelmäßig überprüft.
| Prüffeld | Kernfragen |
|---|---|
| Daten | Werden Eingaben oder Outputs gespeichert, analysiert oder zum Training verwendet? |
| Security | Welche Zertifizierungen, Kontrollen, Logging- und Incident-Prozesse existieren? |
| Modelle | Welche Modelle und Versionen werden eingesetzt und wie werden Änderungen kommuniziert? |
| Vertrag | SLA, Haftung, Audit-Rechte, Subprozessoren, IP und Datenschutz |
| Betrieb | Regionen, Verfügbarkeit, Support, Export und Löschung |
| Exit | Portabilität, Fristen, Datenrückgabe und alternative Plattform |
Bewertungs- und Vertragsarbeitsmittel für KI-Anbieter.
- AI Vendor Due Diligence
- Security- und Datenschutzfragebogen
- Vertrags- und Exit-Checkliste
- Vendor Scorecard und Review-Protokoll
Integration mit bestehenden Frameworks
| Framework | Rolle im Gesamtmodell | Beitrag zur AI Governance |
|---|---|---|
| EU AI Act | Regulatorische Pflicht | Rollen, Risikoklassen, Transparenz, Hochrisiko- und GPAI-Anforderungen |
| DSGVO | Datenschutzrecht | Rechtsgrundlage, Transparenz, Betroffenenrechte und internationale Transfers |
| NIS2 | Cybersecurity-Governance | Managementverantwortung, Risiko- und Vorfallmanagement, Lieferkette |
| ISO/IEC 27001 | Zertifizierbares ISMS | Policies, Risiken, Controls, Evidenz, Audit und Verbesserung |
| NIST CSF 2.0 | Cyber-Risk-Rahmen | Govern, Identify, Protect, Detect, Respond und Recover |
| CRA | Produktsicherheit | Secure Lifecycle für Produkte mit digitalen Elementen und KI-Komponenten |
| IEC 62443 | OT Security | Zonen, Conduits, industrielle Systeme und sichere Produktentwicklung |
| CIS Controls | Priorisierte Basiskontrollen | Technische und organisatorische Cyberhygiene |
Umsetzung nach Unternehmensgröße und Komplexität
| Profil | Priorität in den ersten 90 Tagen |
|---|---|
| Kleines Unternehmen | Verantwortlicher, Toolliste, Acceptable Use, Datenschutz- und Anbietergrundprüfung |
| Mittelstand | CIO als Enterprise AI Owner, Governance Board, Inventory, Portfolio und Freigabeprozess |
| Internationaler Mittelstand | Globaler Standard, regionale Ergänzungen, Plattformstrategie und Standort-Owner |
| Konzern / DAX | Board Oversight, Enterprise AI Office, mehrstufiges Portfolio, Control Tower und Continuous Compliance |
| Produktion / Automotive | Zusätzlich OT, Safety, Qualitätsentscheidungen, TISAX, IEC 62443 und Lieferkette |
| Softwareanbieter | Providerrollen, Secure Development, Modell- und Produktdokumentation, CRA und Post-Market Monitoring |
Executive Dashboard und Steuerungskennzahlen
| Adressat | Kennzahlen |
|---|---|
| Board | Realisierter Nutzen, Top-Risiken, kritische Systeme, wesentliche Incidents, Investitionen, regulatorische Lücken |
| CIO / Enterprise AI Owner | Portfolio, Adoption, Inventory-Abdeckung, Plattformstatus, Anbieter, Kosten, technische Schulden |
| CISO / Compliance | Kontrollabdeckung, offene Hochrisiken, überfällige Reviews, Incidents, Evidenzqualität, Shadow AI |
| Betrieb | Verfügbarkeit, Fehlerquote, Latenz, Evaluationsergebnisse, Tokenkosten, Modell- und Promptversionen |
| Fachbereich | Use-Case-Nutzen, Nutzerakzeptanz, Qualitätsabweichung, Human-Override und Prozessleistung |
Cyberlligency Enterprise AI Maturity Model
| Stufe | Charakteristik |
|---|---|
| 0 – Uncontrolled | KI wird unkoordiniert genutzt; keine verlässliche Übersicht oder Verantwortung. |
| 1 – Experimental | Piloten und einzelne Regeln existieren, bleiben aber lokal und inkonsistent. |
| 2 – Governed | Verantwortung, Inventory, Policy, Risikoklassifizierung und Freigaben sind definiert. |
| 3 – Scaled | Plattform, wiederverwendbare Services, Portfolio und Lifecycle sind unternehmensweit etabliert. |
| 4 – Measured | Nutzen, Qualität, Risiken, Kosten und Kontrollen werden systematisch gemessen. |
| 5 – Adaptive | Governance und Plattform reagieren kontinuierlich auf neue Modelle, Risiken und Geschäftsanforderungen. |
Audit Readiness, Dokumente und Evidenz
Eine Policy allein beweist keine wirksame Governance. Prüfbare Evidenz unterscheidet drei Ebenen: Design, Implementierung und Wirksamkeit. Ein Freigabeprozess kann dokumentiert sein, aber ohne reale Freigaben und Stichproben nicht als umgesetzt gelten. Eine Kontrolle kann umgesetzt sein, aber ohne Tests oder Kennzahlen nicht als wirksam bewertet werden.
| Evidenzebene | Beispiel |
|---|---|
| Design | Policy, Prozess, Rollenmodell und Kontrollbeschreibung |
| Implementation | Inventory-Einträge, Freigaben, Verträge, Schulungsnachweise und technische Konfiguration |
| Effectiveness | Testresultate, Stichproben, Evaluation, Incident-Trends, KPI und Management Review |
Zentrale Dokumentenlandschaft
| Dokument | Owner | Auditnutzen |
|---|---|---|
| AI Strategy und Principles | CEO / Enterprise AI Owner | Strategischer Auftrag und Entscheidungsgrundlagen |
| Governance Charter und Policy | Enterprise AI Owner | Rollen, Gremien, Regeln und Eskalation |
| AI Inventory | AI Governance Lead | Vollständigkeit, Klassifizierung und Lifecycle |
| AI Risk Register | Risk Owner / Governance | Bewertung, Maßnahmen und Restrisiko |
| Vendor Assessments | Einkauf / Security / Legal | Anbieter- und Vertragsrisiken |
| Evaluation Reports | Business / Technical Owner | Qualität und Produktionsreife |
| Incident Register | CISO / Service Owner | Vorfallbehandlung und Lessons Learned |
| Management Review | CIO / Board | Wirksamkeit, Entscheidungen und Ressourcen |
Typische Findings und Managementfehler
- KI-Systeme und eingebettete Features sind nicht vollständig inventarisiert.
- Es gibt einen Enterprise-Chat, aber keine Regeln für Datenklassen und zulässige Nutzung.
- Der CIO wird faktisch verantwortlich gemacht, besitzt aber keine formellen Entscheidungsrechte.
- Business Owner sind benannt, übernehmen aber keine Verantwortung für Ergebnisqualität.
- AI-Act-Rollen werden pauschal statt pro System bestimmt.
- Ein RAG-System übernimmt Berechtigungen der Quellsysteme nicht zuverlässig.
- Modell- oder Providerwechsel lösen keine erneute Evaluation aus.
- Agenten besitzen übermäßige Rechte und keine Transaktionslimits.
- Business Cases messen Lizenznutzung, aber nicht realisierten Geschäftsnutzen.
- Shadow AI wird verboten, ohne sichere Alternative bereitzustellen.
- Vendor Assessments enden mit Vertragsabschluss und werden nicht aktualisiert.
- AI Literacy wird als einmalige Allgemeinschulung behandelt.
- Policies existieren, aber reale Freigaben und Evidenz fehlen.
- Embedded AI in ERP, HR oder Security-Produkten bleibt außerhalb der Governance.
- Stilllegung, Datenlöschung und Exit sind nicht geplant.
Roadmap: 30 Tage bis 2030
| Zeitraum | Managementergebnis |
|---|---|
| 0–30 Tage | Sponsor und Enterprise AI Owner benannt; erste Governance-Gruppe; Tool- und Systeminventur; Sofortregeln für Shadow AI. |
| 31–90 Tage | AI Policy, Inventory, Klassifizierung, Fast-Track-Freigabe, priorisiertes Portfolio, Anbietergrundprüfung und Schulung. |
| 4–6 Monate | Lifecycle, Plattformzielbild, RAG-Governance, Kontrollkatalog, Dashboard und Auditprogramm. |
| 7–12 Monate | Skalierter Betrieb, standardisierte Services, Benefit Tracking, LLMOps, Standort- und Fachbereichsintegration. |
| 13–24 Monate | Control Tower, automatisierte Evidenz, Continuous Compliance, Agent Governance und systematischer Reifegradfortschritt. |
| bis 2030 | Von Governed Adoption zu Enterprise Platform, kontrollierten Agenten und AI-native Prozessen – technologieoffen und risikobasiert. |
Rollenbezogene Executive Playbooks
| Rolle | Die nächsten fünf Aufgaben |
|---|---|
| CEO | Sponsor benennen; Zielbild setzen; Risikoappetit bestimmen; Investitionen priorisieren; Board-Reporting etablieren |
| Aufsichtsrat | Strategie hinterfragen; Top-Risiken überwachen; Governance-Wirksamkeit prüfen; Kompetenzen sichern; Eskalationen verfolgen |
| CIO | Control Tower aufbauen; Plattform standardisieren; Inventory und Portfolio steuern; Kosten kontrollieren; Lifecycle integrieren |
| CISO | Threat Model; Security Controls; RAG- und Agentensicherheit; Monitoring; Incident Response |
| Datenschutz / Legal | Rollen und Rechtsgrundlagen; Transparenz; Verträge; Drittlandtransfer; Betroffenenrechte |
| Einkauf | AI-Fragen in Beschaffung; Due Diligence; Kosten und Lock-in; Exit; regelmäßige Vendor Reviews |
| IT-Leitung | Applikationsfeatures erfassen; Identitäten und Integrationen; Servicebetrieb; Change/Release; Support |
| Fachbereich | Business Case; fachliche Qualität; Human Oversight; Nutzerakzeptanz; Benefit Tracking |
| Interne Revision | Risikobasiertes Auditprogramm; Evidenzmodell; Stichproben; Findings; Follow-up |
Toolkits und Self-Assessment
Die Reference Edition stellt Wissen, Entscheidungslogik und Umsetzungskonzept frei bereit. Die kostenpflichtigen Toolkits enthalten die editierbaren Arbeitsmittel, mit denen Unternehmen unmittelbar arbeiten können. Das Self-Assessment wird nicht als separates Onlineprodukt benötigt, sondern als Bestandteil des Toolkits angeboten.
Enterprise AI Governance Toolkit
Charter, Policies, Rollenmodell, RACI, Committee Pack, Dashboard und Management Review.
AI Inventory Toolkit
System-, Feature-, Model-, Agent-, API-, Prompt-, RAG- und Datenquellenregister.
AI Risk Toolkit
Methodik, Klassifizierung, Risk Register, Treatment Plan und Restrisiko-Freigabe.
Vendor & Procurement Toolkit
Due Diligence, Security Questionnaire, Vertrags- und Exit-Checklisten.
Enterprise RAG Toolkit
Governance, Quellen, Berechtigungen, Evaluation, Betrieb, Security und Incident Management.
AI Audit Toolkit
Auditprogramm, Interviewfragen, Evidence Matrix, Findings Tracker und Management Review.
Self-Assessment Pack
Fragen, Scoring, Reifegrad, Maßnahmenpriorisierung, Berichtsvorlage und Auswertungsprompts.
Executive Pack
Board Presentation, CIO Dashboard, Quartalsbericht, Roadmap und Entscheidungsunterlagen.
Cyberlligency verkauft nicht zurückgehaltenes Wissen. Die Toolkits sparen Zeit, strukturieren die Arbeit und liefern professionell editierbare Dokumente. Das eigentliche Produkt bleibt Orientierung für Unternehmensentscheidungen.
Häufige Fragen
Ist der EU AI Act bereits in Kraft?
Kurzantwort: Ja. Die Verordnung ist seit 1. August 2024 in Kraft. Die Anwendung erfolgt gestaffelt; Unternehmen müssen den aktuellen Zeitplan und mögliche Rechtsänderungen beobachten.
Praktische Einordnung: Die Verordnung gilt nicht vollständig an einem einzigen Stichtag. Unternehmen müssen zwischen bereits geltenden Pflichten, Übergangsfristen und noch ausstehenden Leitlinien unterscheiden. Für die Steuerung ist deshalb ein gepflegter Rechts- und Umsetzungsfahrplan wichtiger als eine einmalige Statusaussage.
Managementempfehlung: Führen Sie einen verbindlichen AI-Act-Umsetzungsplan mit Verantwortlichen, Fristen, Abhängigkeiten und dokumentiertem Rechtsstand.
Muss jedes Unternehmen einen Chief AI Officer ernennen?
Kurzantwort: Nein. Für viele mittelständische Unternehmen ist der CIO oder IT-Leiter als Enterprise AI Owner sinnvoller, unterstützt durch ein interdisziplinäres Governance Board.
Praktische Einordnung: Für die meisten kleinen und mittelständischen Unternehmen wäre eine zusätzliche Vorstandsfunktion unverhältnismäßig. Entscheidend ist nicht der Titel, sondern dass eine Person die Gesamtsteuerung übernimmt, klare Entscheidungsrechte besitzt und ein interdisziplinäres Governance Board einbindet.
Managementempfehlung: Benennen Sie zunächst einen Enterprise AI Owner. Prüfen Sie eine eigenständige CAIO-Rolle erst, wenn Umfang und strategische Bedeutung dies rechtfertigen.
Ist ChatGPT-Nutzung automatisch Hochrisiko?
Kurzantwort: Nein. Entscheidend sind konkreter Zweck, Rolle, Wirkung und Anwendungsfall. Ein allgemeiner Schreibassistent ist anders zu bewerten als Bewerber- oder Kreditentscheidungen.
Praktische Einordnung: Die Risikoeinstufung richtet sich nach dem konkreten Einsatz. Derselbe Dienst kann für Textentwürfe ein geringes Risiko darstellen, bei Personalentscheidungen oder sicherheitskritischen Bewertungen jedoch deutlich strengere Anforderungen auslösen.
Managementempfehlung: Bewerten Sie nicht den Produktnamen, sondern jeden Anwendungsfall nach Zweck, Daten, betroffenen Personen, Entscheidungseinfluss und Unternehmensrolle.
Gilt der AI Act auch für Anbieter außerhalb der EU?
Kurzantwort: Unter bestimmten Voraussetzungen ja. Sitz und Hostingort allein entscheiden nicht; Marktbereitstellung, Nutzung, Rolle und Outputbezug zur EU sind relevant.
Praktische Einordnung: Auch Unternehmen mit Anbietern oder Konzernzentralen außerhalb der EU müssen prüfen, ob Systeme in der EU bereitgestellt, genutzt oder deren Ergebnisse hier verwendet werden. Zusätzlich sind Datenschutz, Verträge, Datenflüsse und lokale Zuständigkeiten getrennt zu bewerten.
Managementempfehlung: Lassen Sie für globale KI-Dienste Rolle, Marktbezug, Datenflüsse, Verträge und Einsatzorte gemeinsam durch Legal, Datenschutz, Security und IT bewerten.
Müssen KI-Funktionen in Standardsoftware inventarisiert werden?
Kurzantwort: Aus Governance-Sicht ja, sofern sie relevante Daten, Entscheidungen, Automatisierungen oder Risiken erzeugen. Das Inventory sollte Feature-Ebene unterstützen.
Praktische Einordnung: Das Verzeichnis ist die zentrale Datenbasis für Governance, Risiko, Kosten, Audit und Lifecycle. Es muss deshalb ereignisgesteuert aktualisiert und mit Application-, Vendor- und Asset-Management verbunden werden.
Managementempfehlung: Beginnen Sie mit einem zentralen, schlanken Inventar und erweitern Sie es schrittweise um Feature-, Modell-, Agenten-, API- und Datenquellenebene.
Das AI Inventory Toolkit enthält editierbare Register für Anwendungen, Features, Modelle, Agenten, APIs und Datenquellen.
Passende Arbeitsmittel unter Resources ansehenWas ist der Unterschied zwischen AI Inventory und Application Inventory?
Kurzantwort: Das Application Inventory erfasst Software. Das AI Inventory erfasst zusätzlich Features, Modelle, Agenten, APIs, Prompts, RAG-Systeme, Datenquellen und regulatorische Merkmale.
Praktische Einordnung: Das Verzeichnis ist die zentrale Datenbasis für Governance, Risiko, Kosten, Audit und Lifecycle. Es muss deshalb ereignisgesteuert aktualisiert und mit Application-, Vendor- und Asset-Management verbunden werden.
Managementempfehlung: Beginnen Sie mit einem zentralen, schlanken Inventar und erweitern Sie es schrittweise um Feature-, Modell-, Agenten-, API- und Datenquellenebene.
Das AI Inventory Toolkit enthält ein vollständiges AI System and Feature Inventory mit Owner-, Risiko- und Lifecycle-Feldern.
Passende Arbeitsmittel unter Resources ansehenKann ein Unternehmen KI vollständig verbieten?
Kurzantwort: Ein Verbot ist möglich, löst aber meist weder Produktivitätsdruck noch private Nutzung. Wirksamer sind sichere Alternativen, klare Datenregeln und schnelle Freigaben.
Praktische Einordnung: Für die praktische Umsetzung reicht eine Definition allein nicht aus. Unternehmen benötigen klare Verantwortliche, dokumentierte Entscheidungsregeln, geeignete Nachweise und einen regelmäßigen Review.
Managementempfehlung: Wählen Sie einen risikobasierten Ansatz, benennen Sie einen Owner und dokumentieren Sie Entscheidung, Nachweise und nächsten Review.
Was ist Enterprise RAG?
Kurzantwort: Eine Architektur, die ein Sprachmodell mit kontrollierten Unternehmensquellen verbindet und Antworten auf Basis relevanter Dokumente erzeugt.
Praktische Einordnung: In der Praxis müssen Architektur, Dokumentenquellen, Berechtigungen, Evaluation und Betrieb gemeinsam gesteuert werden. Ein technisch funktionierender Prototyp ist noch kein belastbarer Unternehmensservice.
Managementempfehlung: Behandeln Sie RAG als regulären Unternehmensservice mit Owner, Berechtigungsmodell, freigegebenen Quellen, Evaluation, Monitoring und Incident-Prozess.
Warum ist RAG ein Berechtigungsthema?
Kurzantwort: Weil das System keine Inhalte liefern darf, auf die der Nutzer im Quellsystem keinen Zugriff hat.
Praktische Einordnung: In der Praxis müssen Architektur, Dokumentenquellen, Berechtigungen, Evaluation und Betrieb gemeinsam gesteuert werden. Ein technisch funktionierender Prototyp ist noch kein belastbarer Unternehmensservice.
Managementempfehlung: Behandeln Sie RAG als regulären Unternehmensservice mit Owner, Berechtigungsmodell, freigegebenen Quellen, Evaluation, Monitoring und Incident-Prozess.
Das Enterprise RAG Toolkit enthält Berechtigungsmatrix, Quellenregister, Dokumentenklassifizierung und Governance-Vorlagen.
Passende Arbeitsmittel unter Resources ansehenBraucht ein RAG-System Quellenangaben?
Kurzantwort: Für Unternehmensanwendungen sind nachvollziehbare Quellen und Unsicherheitsbehandlung zentrale Qualitäts- und Governance-Kontrollen.
Praktische Einordnung: In der Praxis müssen Architektur, Dokumentenquellen, Berechtigungen, Evaluation und Betrieb gemeinsam gesteuert werden. Ein technisch funktionierender Prototyp ist noch kein belastbarer Unternehmensservice.
Managementempfehlung: Behandeln Sie RAG als regulären Unternehmensservice mit Owner, Berechtigungsmodell, freigegebenen Quellen, Evaluation, Monitoring und Incident-Prozess.
Das Enterprise RAG Toolkit enthält Evaluationsplan, Quellenregister und Nachweismatrix für belastbare Antworten.
Passende Arbeitsmittel unter Resources ansehenWas ist Prompt Injection?
Kurzantwort: Eine Manipulation, bei der Eingaben oder Inhalte Anweisungen einschleusen, die Schutzregeln oder den vorgesehenen Zweck umgehen sollen.
Praktische Einordnung: Für die praktische Umsetzung reicht eine Definition allein nicht aus. Unternehmen benötigen klare Verantwortliche, dokumentierte Entscheidungsregeln, geeignete Nachweise und einen regelmäßigen Review.
Managementempfehlung: Wählen Sie einen risikobasierten Ansatz, benennen Sie einen Owner und dokumentieren Sie Entscheidung, Nachweise und nächsten Review.
Was unterscheidet AI Agents von Chatbots?
Kurzantwort: Agenten können planen, Tools aufrufen und Aktionen ausführen. Dadurch benötigen sie stärkere Identitäts-, Berechtigungs-, Limit- und Freigabekontrollen.
Praktische Einordnung: Für die praktische Umsetzung reicht eine Definition allein nicht aus. Unternehmen benötigen klare Verantwortliche, dokumentierte Entscheidungsregeln, geeignete Nachweise und einen regelmäßigen Review.
Managementempfehlung: Wählen Sie einen risikobasierten Ansatz, benennen Sie einen Owner und dokumentieren Sie Entscheidung, Nachweise und nächsten Review.
Wer verantwortet die fachliche Qualität?
Kurzantwort: Der Business AI Owner. IT oder der CIO können die fachliche Richtigkeit eines HR-, Qualitäts- oder Finanzprozesses nicht allein verantworten.
Praktische Einordnung: Verantwortung sollte in Business Ownership, technische Verantwortung, Risikoakzeptanz und zentrale Governance aufgeteilt werden. Eine einzige Rolle kann diese Perspektiven koordinieren, aber nicht vollständig ersetzen.
Managementempfehlung: Dokumentieren Sie Entscheidungsrechte, Verantwortlichkeiten und Eskalationen in einer RACI und bestätigen Sie die Rollen durch das Management.
Wer verantwortet den technischen Betrieb?
Kurzantwort: Ein benannter Technical AI Owner oder Service Owner, typischerweise innerhalb IT, Plattformteam oder verantwortlichem Produktteam.
Praktische Einordnung: Verantwortung sollte in Business Ownership, technische Verantwortung, Risikoakzeptanz und zentrale Governance aufgeteilt werden. Eine einzige Rolle kann diese Perspektiven koordinieren, aber nicht vollständig ersetzen.
Managementempfehlung: Dokumentieren Sie Entscheidungsrechte, Verantwortlichkeiten und Eskalationen in einer RACI und bestätigen Sie die Rollen durch das Management.
Wie oft muss das AI Inventory überprüft werden?
Kurzantwort: Regelmäßig und ereignisgesteuert, insbesondere bei Releases, Modellwechseln, neuen Datenquellen, Anbieteränderungen und Stilllegungen.
Praktische Einordnung: Das Verzeichnis ist die zentrale Datenbasis für Governance, Risiko, Kosten, Audit und Lifecycle. Es muss deshalb ereignisgesteuert aktualisiert und mit Application-, Vendor- und Asset-Management verbunden werden.
Managementempfehlung: Beginnen Sie mit einem zentralen, schlanken Inventar und erweitern Sie es schrittweise um Feature-, Modell-, Agenten-, API- und Datenquellenebene.
Das AI Inventory Toolkit enthält Review-Zyklen, Change-Trigger und ein versionierbares Inventar.
Passende Arbeitsmittel unter Resources ansehenWas ist AI Literacy?
Kurzantwort: Die Fähigkeit von Beschäftigten und Verantwortlichen, KI entsprechend Rolle, Nutzung und Risiko sachgerecht zu verstehen und zu verwenden.
Praktische Einordnung: Schulungen müssen nach Rolle und Risiko differenziert sein. Anwender benötigen andere Inhalte als Entwickler, Einkauf, HR, Security, Management oder interne Revision.
Managementempfehlung: Erstellen Sie rollenbasierte Lernpfade und dokumentieren Sie Zielgruppe, Inhalt, Teilnahme und Wirksamkeitsprüfung.
Reicht eine allgemeine KI-Schulung aus?
Kurzantwort: Für geringe Risiken kann sie eine Basis bilden. Kritische Rollen benötigen anwendungs- und risikospezifische Schulungen.
Praktische Einordnung: Schulungen müssen nach Rolle und Risiko differenziert sein. Anwender benötigen andere Inhalte als Entwickler, Einkauf, HR, Security, Management oder interne Revision.
Managementempfehlung: Erstellen Sie rollenbasierte Lernpfade und dokumentieren Sie Zielgruppe, Inhalt, Teilnahme und Wirksamkeitsprüfung.
Ersetzt ISO 27001 eine AI Governance?
Kurzantwort: Nein. ISO 27001 liefert ein starkes Sicherheitsmanagementsystem, deckt aber Business Value, AI-Act-Rollen, Modellqualität und AI Lifecycle nicht vollständig ab.
Praktische Einordnung: Für die praktische Umsetzung reicht eine Definition allein nicht aus. Unternehmen benötigen klare Verantwortliche, dokumentierte Entscheidungsregeln, geeignete Nachweise und einen regelmäßigen Review.
Managementempfehlung: Wählen Sie einen risikobasierten Ansatz, benennen Sie einen Owner und dokumentieren Sie Entscheidung, Nachweise und nächsten Review.
Wie ergänzt NIST CSF die AI Governance?
Kurzantwort: NIST CSF unterstützt die Governance und Steuerung von Cyberrisiken entlang Govern, Identify, Protect, Detect, Respond und Recover.
Praktische Einordnung: Für die praktische Umsetzung reicht eine Definition allein nicht aus. Unternehmen benötigen klare Verantwortliche, dokumentierte Entscheidungsregeln, geeignete Nachweise und einen regelmäßigen Review.
Managementempfehlung: Wählen Sie einen risikobasierten Ansatz, benennen Sie einen Owner und dokumentieren Sie Entscheidung, Nachweise und nächsten Review.
Wann ist IEC 62443 relevant?
Kurzantwort: Wenn KI in industriellen Automatisierungs-, Steuerungs- oder OT-Umgebungen eingesetzt wird.
Praktische Einordnung: Für die praktische Umsetzung reicht eine Definition allein nicht aus. Unternehmen benötigen klare Verantwortliche, dokumentierte Entscheidungsregeln, geeignete Nachweise und einen regelmäßigen Review.
Managementempfehlung: Wählen Sie einen risikobasierten Ansatz, benennen Sie einen Owner und dokumentieren Sie Entscheidung, Nachweise und nächsten Review.
Was ist AI Feature Governance?
Kurzantwort: Die systematische Erfassung, Bewertung, Freigabe und Überwachung einzelner KI-Funktionen innerhalb bestehender Anwendungen.
Praktische Einordnung: Für die praktische Umsetzung reicht eine Definition allein nicht aus. Unternehmen benötigen klare Verantwortliche, dokumentierte Entscheidungsregeln, geeignete Nachweise und einen regelmäßigen Review.
Managementempfehlung: Wählen Sie einen risikobasierten Ansatz, benennen Sie einen Owner und dokumentieren Sie Entscheidung, Nachweise und nächsten Review.
Das AI Inventory Toolkit enthält Feature Inventory, Freigabefelder und Release-Trigger für eingebettete KI.
Passende Arbeitsmittel unter Resources ansehenMuss jedes Softwareupdate geprüft werden?
Kurzantwort: Nicht vollständig. Der Release-Prozess sollte aber Trigger für neue oder geänderte KI-Funktionen und Datenflüsse enthalten.
Praktische Einordnung: Für die praktische Umsetzung reicht eine Definition allein nicht aus. Unternehmen benötigen klare Verantwortliche, dokumentierte Entscheidungsregeln, geeignete Nachweise und einen regelmäßigen Review.
Managementempfehlung: Wählen Sie einen risikobasierten Ansatz, benennen Sie einen Owner und dokumentieren Sie Entscheidung, Nachweise und nächsten Review.
Wie misst man KI-Nutzen?
Kurzantwort: Über vorher definierte Business-Kennzahlen wie Zeit, Qualität, Durchlaufzeit, Umsatz, Risikoreduktion und realisierte Einsparung.
Praktische Einordnung: Entscheider benötigen wenige, belastbare Kennzahlen: Nutzen, Top-Risiken, kritische Systeme, wesentliche Vorfälle, Kosten, regulatorische Lücken und überfällige Maßnahmen.
Managementempfehlung: Wählen Sie einen risikobasierten Ansatz, benennen Sie einen Owner und dokumentieren Sie Entscheidung, Nachweise und nächsten Review.
Was ist der Enterprise AI Control Tower?
Kurzantwort: Ein zentrales Governance- und Informationsmodell für Strategie, Portfolio, Inventory, Risiken, Anbieter, Architektur, Kosten und Assurance.
Praktische Einordnung: Für die praktische Umsetzung reicht eine Definition allein nicht aus. Unternehmen benötigen klare Verantwortliche, dokumentierte Entscheidungsregeln, geeignete Nachweise und einen regelmäßigen Review.
Managementempfehlung: Führen Sie zunächst ein gemeinsames Reportingmodell ein; ein neues Softwareprodukt ist dafür nicht zwingend erforderlich.
Ist der Control Tower ein Softwareprodukt?
Kurzantwort: Nein. Er kann durch Software unterstützt werden, ist aber primär ein Organisations-, Daten- und Entscheidungsmodell.
Praktische Einordnung: Für die praktische Umsetzung reicht eine Definition allein nicht aus. Unternehmen benötigen klare Verantwortliche, dokumentierte Entscheidungsregeln, geeignete Nachweise und einen regelmäßigen Review.
Managementempfehlung: Führen Sie zunächst ein gemeinsames Reportingmodell ein; ein neues Softwareprodukt ist dafür nicht zwingend erforderlich.
Was gehört in ein AI Risk Register?
Kurzantwort: Szenario, Ursache, Auswirkung, betroffene Rechte und Geschäftsziele, vorhandene Kontrollen, Bewertung, Maßnahmen, Owner und Restrisiko.
Praktische Einordnung: Die Bewertung sollte regulatorische, geschäftliche, sicherheitsbezogene, datenschutzrechtliche und operationelle Auswirkungen zusammenführen. Reine Checklisten ohne Owner und Maßnahmensteuerung reichen nicht aus.
Managementempfehlung: Nutzen Sie eine einheitliche Klassifizierungs- und Risikomethodik und lassen Sie Restrisiken durch den zuständigen Risk Owner akzeptieren.
Das AI Risk Toolkit enthält Risk Register, Scoring-Matrix, Treatment Plan und Restrisiko-Freigabe.
Passende Arbeitsmittel unter Resources ansehenWie wird Human Oversight umgesetzt?
Kurzantwort: Durch klare Entscheidungsrechte, verständliche Informationen, Eingriffsmöglichkeiten, Kompetenz, Zeit und dokumentierte Eskalation.
Praktische Einordnung: Für die praktische Umsetzung reicht eine Definition allein nicht aus. Unternehmen benötigen klare Verantwortliche, dokumentierte Entscheidungsregeln, geeignete Nachweise und einen regelmäßigen Review.
Managementempfehlung: Wählen Sie einen risikobasierten Ansatz, benennen Sie einen Owner und dokumentieren Sie Entscheidung, Nachweise und nächsten Review.
Das Enterprise AI Governance Toolkit enthält Rollenmodell, Freigabematrix, Eskalationsregeln und Human-Oversight-Verfahren.
Passende Arbeitsmittel unter Resources ansehenWas ist Digital Sovereignty?
Kurzantwort: Die Fähigkeit, Abhängigkeiten bewusst zu steuern und bei Anbieter-, Rechts- oder Kostenänderungen handlungsfähig zu bleiben.
Praktische Einordnung: Für die praktische Umsetzung reicht eine Definition allein nicht aus. Unternehmen benötigen klare Verantwortliche, dokumentierte Entscheidungsregeln, geeignete Nachweise und einen regelmäßigen Review.
Managementempfehlung: Wählen Sie einen risikobasierten Ansatz, benennen Sie einen Owner und dokumentieren Sie Entscheidung, Nachweise und nächsten Review.
Sind lokale Modelle automatisch sicherer?
Kurzantwort: Nein. Sie reduzieren bestimmte Anbieter- und Transferfragen, erhöhen aber interne Betriebs-, Patch-, Modell- und Sicherheitsverantwortung.
Praktische Einordnung: Für die praktische Umsetzung reicht eine Definition allein nicht aus. Unternehmen benötigen klare Verantwortliche, dokumentierte Entscheidungsregeln, geeignete Nachweise und einen regelmäßigen Review.
Managementempfehlung: Wählen Sie einen risikobasierten Ansatz, benennen Sie einen Owner und dokumentieren Sie Entscheidung, Nachweise und nächsten Review.
Was ist LLMOps?
Kurzantwort: Prozesse und Werkzeuge für Versionierung, Evaluation, Deployment, Monitoring, Kosten und Lifecycle von LLM-basierten Services.
Praktische Einordnung: KI-spezifische Änderungen und Vorfälle sollten in bestehende Change-, Incident-, Security- und Qualitätsprozesse integriert werden. Zusätzliche Trigger sind nötig, damit Modell-, Prompt-, Daten- oder Provideränderungen nicht unbemerkt bleiben.
Managementempfehlung: Definieren Sie Change- und Incident-Trigger, Testkriterien, Freigaben, Rollback und Beweissicherung vor dem Produktivbetrieb.
Braucht KI einen eigenen Incident-Prozess?
Kurzantwort: Sie kann in bestehende Incident-, Security- und Qualitätsprozesse integriert werden, benötigt aber KI-spezifische Szenarien und Eskalationen.
Praktische Einordnung: KI-spezifische Änderungen und Vorfälle sollten in bestehende Change-, Incident-, Security- und Qualitätsprozesse integriert werden. Zusätzliche Trigger sind nötig, damit Modell-, Prompt-, Daten- oder Provideränderungen nicht unbemerkt bleiben.
Managementempfehlung: Definieren Sie Change- und Incident-Trigger, Testkriterien, Freigaben, Rollback und Beweissicherung vor dem Produktivbetrieb.
Wann muss ein Use Case gestoppt werden?
Kurzantwort: Wenn rechtliche Grenzen, unvertretbare Risiken, fehlender Nutzen, unzureichende Qualität oder nicht beherrschbarer Betrieb vorliegen.
Praktische Einordnung: Für die praktische Umsetzung reicht eine Definition allein nicht aus. Unternehmen benötigen klare Verantwortliche, dokumentierte Entscheidungsregeln, geeignete Nachweise und einen regelmäßigen Review.
Managementempfehlung: Wählen Sie einen risikobasierten Ansatz, benennen Sie einen Owner und dokumentieren Sie Entscheidung, Nachweise und nächsten Review.
Wie verhindert man Vendor Lock-in?
Kurzantwort: Durch Exit-Klauseln, Daten- und Promptportabilität, Abstraktionsschichten, dokumentierte Integrationen und getestete Alternativen.
Praktische Einordnung: KI-Anbieter ändern Modelle, Preise, Datenverwendung und Funktionen häufig. Die Prüfung muss deshalb über den Vertragsabschluss hinausgehen und regelmäßige Reviews, Exit-Fähigkeit und Change-Trigger vorsehen.
Managementempfehlung: Verankern Sie KI-spezifische Due Diligence, Vertragsanforderungen, Änderungsbenachrichtigung und Exit-Kriterien im Beschaffungsprozess.
Was gehört in die AI Policy?
Kurzantwort: Geltungsbereich, Rollen, erlaubte Nutzung, Datenregeln, Freigaben, Lifecycle, Security, Anbieter, Incidents, Monitoring und Ausnahmen.
Praktische Einordnung: Eine wirksame Policy ist nur dann belastbar, wenn sie mit Freigabeprozessen, Datenklassifizierung, technischen Kontrollen, Schulung und einem praktikablen Ausnahmeverfahren verbunden ist.
Managementempfehlung: Veröffentlichen Sie keine isolierte Policy. Verknüpfen Sie sie mit Inventory, Freigaben, Schulung, technischen Kontrollen und Ausnahmeprozess.
Das Enterprise AI Governance Toolkit enthält editierbare AI Policy, Acceptable Use Policy und Governance Charter.
Passende Arbeitsmittel unter Resources ansehenBraucht jedes KI-System einen Owner?
Kurzantwort: Ja. Mindestens Business und Technical Ownership müssen eindeutig sein.
Praktische Einordnung: Verantwortung sollte in Business Ownership, technische Verantwortung, Risikoakzeptanz und zentrale Governance aufgeteilt werden. Eine einzige Rolle kann diese Perspektiven koordinieren, aber nicht vollständig ersetzen.
Managementempfehlung: Dokumentieren Sie Entscheidungsrechte, Verantwortlichkeiten und Eskalationen in einer RACI und bestätigen Sie die Rollen durch das Management.
Was ist ein High-Risk-System?
Kurzantwort: Ein System, das nach den Klassifizierungsregeln des AI Act als hochriskant gilt. Die Bewertung ist anwendungs- und rollenbezogen.
Praktische Einordnung: Die Bewertung sollte regulatorische, geschäftliche, sicherheitsbezogene, datenschutzrechtliche und operationelle Auswirkungen zusammenführen. Reine Checklisten ohne Owner und Maßnahmensteuerung reichen nicht aus.
Managementempfehlung: Nutzen Sie eine einheitliche Klassifizierungs- und Risikomethodik und lassen Sie Restrisiken durch den zuständigen Risk Owner akzeptieren.
Was sind GPAI-Modelle?
Kurzantwort: General-Purpose-AI-Modelle, die für viele unterschiedliche Aufgaben genutzt und in zahlreiche Systeme integriert werden können.
Praktische Einordnung: Für die praktische Umsetzung reicht eine Definition allein nicht aus. Unternehmen benötigen klare Verantwortliche, dokumentierte Entscheidungsregeln, geeignete Nachweise und einen regelmäßigen Review.
Managementempfehlung: Wählen Sie einen risikobasierten Ansatz, benennen Sie einen Owner und dokumentieren Sie Entscheidung, Nachweise und nächsten Review.
Was ist Continuous Compliance?
Kurzantwort: Die fortlaufende Überwachung von Kontrollen und Triggern statt einer einmaligen Dokumentenprüfung.
Praktische Einordnung: Für die praktische Umsetzung reicht eine Definition allein nicht aus. Unternehmen benötigen klare Verantwortliche, dokumentierte Entscheidungsregeln, geeignete Nachweise und einen regelmäßigen Review.
Managementempfehlung: Wählen Sie einen risikobasierten Ansatz, benennen Sie einen Owner und dokumentieren Sie Entscheidung, Nachweise und nächsten Review.
Wie beginnen Unternehmen mit wenig Ressourcen?
Kurzantwort: Mit Verantwortlichem, Inventory, klaren Nutzungsregeln, risikobasierter Freigabe und wenigen priorisierten Use Cases.
Praktische Einordnung: Für die praktische Umsetzung reicht eine Definition allein nicht aus. Unternehmen benötigen klare Verantwortliche, dokumentierte Entscheidungsregeln, geeignete Nachweise und einen regelmäßigen Review.
Managementempfehlung: Wählen Sie einen risikobasierten Ansatz, benennen Sie einen Owner und dokumentieren Sie Entscheidung, Nachweise und nächsten Review.
Das Enterprise AI Governance Toolkit enthält kompakte Starter-Vorlagen für Verantwortlichkeiten, Inventory, Freigaben und Roadmap.
Passende Arbeitsmittel unter Resources ansehenWelche Rolle hat der Einkauf?
Kurzantwort: Er integriert KI-spezifische Due Diligence, Vertrags-, Kosten-, Exit- und Anbieteranforderungen in die Beschaffung.
Praktische Einordnung: KI-Anbieter ändern Modelle, Preise, Datenverwendung und Funktionen häufig. Die Prüfung muss deshalb über den Vertragsabschluss hinausgehen und regelmäßige Reviews, Exit-Fähigkeit und Change-Trigger vorsehen.
Managementempfehlung: Verankern Sie KI-spezifische Due Diligence, Vertragsanforderungen, Änderungsbenachrichtigung und Exit-Kriterien im Beschaffungsprozess.
Das Vendor & Procurement Toolkit enthält Due-Diligence-Fragebogen, Vertragscheckliste, Anbieter-Scorecard und Exit-Checkliste.
Passende Arbeitsmittel unter Resources ansehenWelche Rolle hat HR?
Kurzantwort: HR verantwortet unter anderem AI Literacy, Rollenkompetenzen und die fachliche Verantwortung für HR-Anwendungen.
Praktische Einordnung: Für die praktische Umsetzung reicht eine Definition allein nicht aus. Unternehmen benötigen klare Verantwortliche, dokumentierte Entscheidungsregeln, geeignete Nachweise und einen regelmäßigen Review.
Managementempfehlung: Wählen Sie einen risikobasierten Ansatz, benennen Sie einen Owner und dokumentieren Sie Entscheidung, Nachweise und nächsten Review.
Welche Rolle hat die interne Revision?
Kurzantwort: Sie prüft unabhängig Design, Umsetzung und Wirksamkeit der Governance und ausgewählter Systeme.
Praktische Einordnung: Für die praktische Umsetzung reicht eine Definition allein nicht aus. Unternehmen benötigen klare Verantwortliche, dokumentierte Entscheidungsregeln, geeignete Nachweise und einen regelmäßigen Review.
Managementempfehlung: Wählen Sie einen risikobasierten Ansatz, benennen Sie einen Owner und dokumentieren Sie Entscheidung, Nachweise und nächsten Review.
Kann ein Self-Assessment ohne Onlineplattform funktionieren?
Kurzantwort: Ja. Ein strukturiertes Workbook mit Scoring, Evidenzanforderungen und Auswertungsprompts ist flexibel, versionierbar und anpassbar.
Praktische Einordnung: Für die praktische Umsetzung reicht eine Definition allein nicht aus. Unternehmen benötigen klare Verantwortliche, dokumentierte Entscheidungsregeln, geeignete Nachweise und einen regelmäßigen Review.
Managementempfehlung: Wählen Sie einen risikobasierten Ansatz, benennen Sie einen Owner und dokumentieren Sie Entscheidung, Nachweise und nächsten Review.
Das Self-Assessment Pack enthält Fragenkatalog, Scoring, Evidenzanforderungen, Berichtsvorlage und Auswertungsprompts.
Passende Arbeitsmittel unter Resources ansehenWas wird in den Toolkits verkauft?
Kurzantwort: Editierbare Policies, Register, Checklisten, Assessments, Dashboards, Vorlagen und Prompts – nicht zurückgehaltenes Grundlagenwissen.
Praktische Einordnung: Für die praktische Umsetzung reicht eine Definition allein nicht aus. Unternehmen benötigen klare Verantwortliche, dokumentierte Entscheidungsregeln, geeignete Nachweise und einen regelmäßigen Review.
Managementempfehlung: Wählen Sie einen risikobasierten Ansatz, benennen Sie einen Owner und dokumentieren Sie Entscheidung, Nachweise und nächsten Review.
Das Enterprise AI Governance Toolkit enthält editierbare Policies, Register, Checklisten, Dashboards, Assessments und Prompts.
Passende Arbeitsmittel unter Resources ansehenWarum ist der CIO häufig Enterprise AI Owner?
Kurzantwort: Weil Anwendungen, Datenzugriffe, Identitäten, Integrationen, Anbieter, Betrieb und Kosten typischerweise in seinem Verantwortungsbereich zusammenlaufen.
Praktische Einordnung: Verantwortung sollte in Business Ownership, technische Verantwortung, Risikoakzeptanz und zentrale Governance aufgeteilt werden. Eine einzige Rolle kann diese Perspektiven koordinieren, aber nicht vollständig ersetzen.
Managementempfehlung: Dokumentieren Sie Entscheidungsrechte, Verantwortlichkeiten und Eskalationen in einer RACI und bestätigen Sie die Rollen durch das Management.
Wann ist ein CAIO sinnvoll?
Kurzantwort: Bei sehr großer, strategisch dominanter oder komplexer KI-Landschaft, wenn eine eigenständige Executive-Funktion organisatorisch gerechtfertigt ist.
Praktische Einordnung: Verantwortung sollte in Business Ownership, technische Verantwortung, Risikoakzeptanz und zentrale Governance aufgeteilt werden. Eine einzige Rolle kann diese Perspektiven koordinieren, aber nicht vollständig ersetzen.
Managementempfehlung: Dokumentieren Sie Entscheidungsrechte, Verantwortlichkeiten und Eskalationen in einer RACI und bestätigen Sie die Rollen durch das Management.
Wie wird der Aufsichtsrat informiert?
Kurzantwort: Über Nutzen, Top-Risiken, kritische Systeme, wesentliche Vorfälle, Investitionen, regulatorische Lücken und Wirksamkeit der Governance.
Praktische Einordnung: Entscheider benötigen wenige, belastbare Kennzahlen: Nutzen, Top-Risiken, kritische Systeme, wesentliche Vorfälle, Kosten, regulatorische Lücken und überfällige Maßnahmen.
Managementempfehlung: Wählen Sie einen risikobasierten Ansatz, benennen Sie einen Owner und dokumentieren Sie Entscheidung, Nachweise und nächsten Review.
Muss jede KI-Ausgabe von Menschen geprüft werden?
Kurzantwort: Nein. Die Intensität menschlicher Kontrolle richtet sich nach Auswirkung, Unsicherheit und Risiko des Anwendungsfalls.
Praktische Einordnung: Für die praktische Umsetzung reicht eine Definition allein nicht aus. Unternehmen benötigen klare Verantwortliche, dokumentierte Entscheidungsregeln, geeignete Nachweise und einen regelmäßigen Review.
Managementempfehlung: Wählen Sie einen risikobasierten Ansatz, benennen Sie einen Owner und dokumentieren Sie Entscheidung, Nachweise und nächsten Review.
Wie werden Modelländerungen beherrscht?
Kurzantwort: Durch Versionserfassung, Change Trigger, Regressionstests, Risikobewertung, Freigabe und Rollback.
Praktische Einordnung: KI-spezifische Änderungen und Vorfälle sollten in bestehende Change-, Incident-, Security- und Qualitätsprozesse integriert werden. Zusätzliche Trigger sind nötig, damit Modell-, Prompt-, Daten- oder Provideränderungen nicht unbemerkt bleiben.
Managementempfehlung: Definieren Sie Change- und Incident-Trigger, Testkriterien, Freigaben, Rollback und Beweissicherung vor dem Produktivbetrieb.
Das Enterprise RAG Toolkit enthält Change-Trigger, Evaluationsplan, Regressionstest-Vorlage und Rollback-Checkliste.
Passende Arbeitsmittel unter Resources ansehenWas ist die wichtigste erste Maßnahme?
Kurzantwort: Eine verantwortliche Stelle benennen und Transparenz über vorhandene Systeme, Tools und eingebettete Features herstellen.
Praktische Einordnung: Entscheider benötigen wenige, belastbare Kennzahlen: Nutzen, Top-Risiken, kritische Systeme, wesentliche Vorfälle, Kosten, regulatorische Lücken und überfällige Maßnahmen.
Managementempfehlung: Wählen Sie einen risikobasierten Ansatz, benennen Sie einen Owner und dokumentieren Sie Entscheidung, Nachweise und nächsten Review.
Das Enterprise AI Governance Toolkit enthält 30-Tage-Startpaket mit Verantwortungsmodell, Inventory und Sofortregeln.
Passende Arbeitsmittel unter Resources ansehenGlossar
| Begriff | Praktische Bedeutung |
|---|---|
| AI Governance | Steuerung von Strategie, Verantwortung, Risiko, Architektur, Betrieb und Compliance für KI. |
| Enterprise AI Owner | Zentrale koordinierende Rolle für die gesamte KI-Landschaft. |
| AI Inventory | Register aller relevanten Systeme, Features, Modelle, Agenten, APIs, Prompts, RAGs und Datenquellen. |
| Provider / Deployer | Rollen des AI Act für Bereitstellung beziehungsweise Nutzung unter eigener Verantwortung. |
| GPAI | General-Purpose AI, also Modelle mit breitem Einsatzspektrum. |
| RAG | Retrieval-Augmented Generation: Antworten unter Einbeziehung kontrollierter Wissensquellen. |
| Embedding | Vektorrepräsentation von Inhalten zur Ähnlichkeitssuche. |
| Vector Database | Speicher- und Suchsystem für Vektorrepräsentationen. |
| Prompt Injection | Manipulative Instruktion, die den vorgesehenen Systemzweck oder Schutzregeln umgehen soll. |
| Agent | KI-System, das plant, Tools verwendet und Aktionen ausführen kann. |
| LLMOps | Betriebsmodell für Versionierung, Evaluation, Deployment und Monitoring LLM-basierter Dienste. |
| Human Oversight | Wirksame menschliche Überwachung und Eingriffsmöglichkeit entsprechend Risiko. |
| Shadow AI | Nicht freigegebene oder nicht bekannte KI-Nutzung im Unternehmen. |
| Control Tower | Zentrales Governance- und Informationsmodell für Enterprise AI. |
| Continuous Compliance | Fortlaufende Kontrolle regulatorischer und interner Anforderungen. |
Primärquellen und fachliche Grundlage
- Verordnung (EU) 2024/1689 – EUR-Lex
- Europäische Kommission – AI Act und Anwendungszeitplan
- Europäische Kommission – Navigating the AI Act
- Leitlinien zur Definition von AI-Systemen
- Leitlinien zu verbotenen KI-Praktiken
- General-Purpose AI Code of Practice
- Europäische Kommission – Leitlinien zu Hochrisiko-KI-Systemen
Die Seite trennt geltende Verordnung, veröffentlichte Leitlinien, laufende Konsultationen und organisatorische Best Practices. Sie ersetzt keine einzelfallbezogene Rechtsberatung.
Verwandte Reference Editions
NIS2
Managementverantwortung, Cyberrisiko, Incident Management und Lieferkette.
ISO/IEC 27001
Informationssicherheits-Managementsystem, Risiko, Controls und Audit.
NIST CSF 2.0
Cyber-Risk-Governance entlang Govern, Identify, Protect, Detect, Respond und Recover.
IEC 62443
OT- und industrielle Sicherheit für KI in Produktion und Automatisierung.
Cyber Resilience Act
Produktsicherheit und Secure Lifecycle für digitale Produkte mit KI-Komponenten.