AI LITERACY – Eine Einführung in den Begriff und seine gesetzliche Verankerung im AI Act

1. Was bedeutet KI-Kompetenz?

KI-Kompetenz bezeichnet die Fähigkeit mit Künstlicher Intelligenz (KI) sachkundig, verantwortungsvoll und zielgerichtet umzugehen.

Dazu gehört nicht nur das rechtliche Wissen, das Unternehmen nach dem AI Act bzw. der KI-Verordnung sicherstellen müssen, sondern auch ein technisch-praktisches Grundverständnis.

2. Rechtliche Grundlagen: Wo ist KI-Kompetenz vorgeschrieben?

Die gesetzliche Grundlage dieser Verpflichtung ergibt sich aus Art. 4 der KI-Verordnung. Das Gesetz sieht dabei vor, dass ein ausreichendes Maß an KI-Kompetenz bei Personal und anderen Personen, die im Zusammenhang ihrer Tätigkeiten mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, sicherzustellen ist.

Der Begriff der KI-Kompetenz wird in Art. 3 Nr. 56 des AI Acts legaldefiniert.

Es geht um die Fähigkeiten, Kenntnisse und das Verständnis, die es Anbietern, Anwendern und Betroffenen ermöglichen, KI unter Berücksichtigung ihrer Rechte und Pflichten im Rahmen des AI Acts in Kenntnis der Sachlage einzusetzen und sich über Chancen und Risiken von KI und mögliche Schäden, die sie verursachen kann, bewusst zu werden.

Darüber hinaus wird KI-Kompetenz zunehmend auch in weiteren Standards und Regulierungen (z. B. ISO 42001, ISO/IEC 23894 zu KI-Risikomanagement) konkretisiert.

3. Warum ist KI-Kompetenz so wichtig? 

3.1 Chancen und Risiken von KI verstehen und Schäden minimieren

Der AI Act spricht hier ausdrücklich von Chancen und Risiken. Demnach geht es darum, den größtmöglichen Nutzen aus KI-Systemen für die eigene Organisation zu ziehen und dabei Grundrechte, Gesundheit und Sicherheit sicherzustellen. Um fundierte Entscheidungen über KI-Systeme zu treffen, sollen daher die notwendigen Kenntnisse vermittelt werden (vgl. ErwG. 20 AI Act).

KI-Kompetenz umfasst im Ergebnis somit mehrere Dimensionen:

3.2 „Ressourcen & Kompetenzen“

Neben dem AI Act findet sich eine entsprechende Vorgabe auch in der ISO 42001 (KI-Managementsystem). Diese fordert in Kapitel 7 „Ressourcen und Kompetenzen“ für ein effektives KI-Management die Ressourcenbereitstellung, Kompetenzsicherung und Bewusstseinsbildung.

Für Beschäftigte sind dabei insbesondere folgende Bereiche relevant:  

• Bereitstellung von Ressourcen (Personal, Infrastruktur, Technologie)
  
• Sicherstellung der Kompetenz der Beschäftigten
  
• Bewusstseinsbildung zur KI-Politik und individuellen Rollen
  

3.3 Wer braucht KI-Kompetenz – und in welchem Umfang? 

Alle Personen, die innerhalb einer Organisation KI-Systeme betreiben oder nutzen, müssen über ausreichende KI-Kompetenz verfügen, einschließlich eigener Beschäftigter und externer Auftragnehmer. Anbieter und Betreiber von KI-Systemen, auch mit allgemeinem Verwendungszweck wie Chatbots, sind verpflichtet, diese Kompetenz sicherzustellen.

Verlangt wird hierbei ein ausreichendes Maß an KI-Kompetenz bei allen Personen, die im Auftrag der Organisation KI betreiben oder nutzen. Dies hat immer personen- und kontextbezogen zu erfolgen und bezieht sich somit auf die jeweilige Zielgruppe der KI-Anwender/-Betreiber. Dabei spielen vor allem die jeweiligen Anwendungsfälle, für die KI eingesetzt werden soll, eine entscheidende Rolle, da hiervon auch die potenziellen Risiken im Zusammenhang mit dem jeweiligen KI-System abhängen.

Neben einer möglichst effektiven Nutzung von KI-Systemen geht es bei der KI-Kompetenz inhaltlich vor allem darum, beim Einsatz und bei der Nutzung von KI-Systemen ein allgemeines Verständnis der Thematik sicherzustellen und dabei die Rolle der eigenen Organisation als Anbieter oder Betreiber im Blick zu behalten. Hintergrund ist, dass Anbieter und Betreiber von KI-Systemen, insbesondere im Hochrisikobereich, unterschiedliche gesetzliche Anforderungen erfüllen müssen. Insbesondere sollten die Personen, denen KI-Kompetenz vermittelt wird, die Risiken des spezifischen KI-Systems im konkreten Kontext berücksichtigen können, sowie aktuelle Entwicklung und Neuerungen einbezogen werden.

Daraus folgt: KI-Kompetenz ist kein einmaliges Projekt, sondern muss als kontinuierlicher Prozess der Qualifizierung, Anpassung und Organisationsentwicklung verstanden werden.

3.4 Nutzen für die Organisation

KI-Kompetenz bedeutet im Ergebnis den Einstieg in eine nachhaltige digitale Transformation, die tief in Prozesse, Arbeitsweisen und Wertschöpfung eingreift. Wer KI lediglich als Software versteht, verkennt ihr Potenzial – und verpasst damit den eigentlichen Zweck und Nutzen: die Weiterentwicklung von Organisationen, Innovationen und langfristiger Wertschöpfung.

Damit ist KI-Kompetenz nicht nur eine gesetzliche Verpflichtung, sondern auch ein strategischer Erfolgsfaktor.

Sie ermöglicht es Organisationen, das volle Potenzial von KI-Systemen auszuschöpfen, Risiken zu minimieren, digitale Souveränität zu sichern und die Wettbewerbsfähigkeit nachhaltig zu stärken.

4. Wie lässt sich KI-Kompetenz konkret umsetzen? 

4.1 Von Schulungen bis Dokumentation – Umsetzung in der Praxis 

Wie KI-Kompetenz umzusetzen ist, wird gesetzlich nicht vorgegeben. KI-Kompetenz ist ein kontinuierlicher Prozess, der interne und externe Schulungen umfasst, dokumentiert werden muss und sich an Zielgruppen und Anwendungsfällen orientiert. Das EU AI Office stellt ein “Living repository of AI Literacy Practices” mit Beispielen von Unternehmen zur Verfügung, die eine Orientierungshilfe für die Umsetzung von KI-Kompetenz bieten können.

Darüber hinaus ist eine enge Verzahnung mit internen Change-Management- und Digitalisierungsstrategien empfehlenswert, um KI-Kompetenz nicht isoliert, sondern als Bestandteil der digitalen Transformation zu verankern.

4.2 Drei Stufen der KI-Kompetenz: Ein möglicher Ansatz 

Ein Ansatz könnte in drei Kompetenzstufen liegen, bei denen zwischen Grundverständnis, fortgeschrittene Kenntnisse und toolspezifische Kompetenzen unterschieden wird.

Unternehmen können ihre Beschäftigten und sonstige Betroffene so entsprechend ihrem Vorwissen und ihrer Aufgaben gezielt weiterbilden:

• Das Grundverständnis bildet dabei die Basis, um grundlegende Konzepte, Chancen und Risiken von KI zu verstehen und ein allgemeines Bewusstsein für den Einsatz von KI-Technologien zu schaffen.
  
• Fortgeschrittene Kenntnisse ermöglichen es, komplexere Zusammenhänge zu durchdringen, KI-Anwendungen kritisch zu bewerten und aktiv an der Gestaltung und Implementierung von KI-Projekten mitzuwirken.
  
• Toolspezifische Kompetenzen sind schließlich notwendig, um konkrete KI-Werkzeuge und -Plattformen effektiv und effizient im Arbeitsalltag nutzen zu können.
  

Diese Differenzierung erleichtert eine bedarfsgerechte Qualifizierung und fördert sowohl die breite Akzeptanz als auch die gezielte Anwendung von KI im Unternehmen bzw. in der Organisation.

Wichtig ist zudem, dass Beschäftigte über alle Stufen hinweg regelmäßig weitergebildet werden, da sich Tools, Methoden und regulatorische Rahmenbedingungen stetig ändern.

4.3 Die Frage könnte lauten: Wer wird KI wofür nutzen oder anbieten? 

Zielgruppenanalysen helfen hier, den Bedarf zu ermitteln und die erforderlichen Maßnahmen zu gestalten. Es kommt dabei insbesondere darauf an, wer in welcher Funktion mit dem KI-System interagiert. Entwickler von KI-Systemen haben dabei natürlich andere Bedarfe als Beschäftigte, die KI beispielsweise zu Marketingzwecken einsetzen.

Zum Grundverständnis könnten hier Grundlagen der KI, praktische Anwendungen (z. B. zum Prompting oder Umgang mit Ergebnissen), Ethik, regulatorische Anforderungen und gesetzlich definierte Begriffe (z. B. AI Act, DSGVO), Risikomanagement und technische Kenntnisse vermittelt werden. Dies könnten Definitionen, praktische Übungen, ethische Überlegungen, rechtliche Rahmenbedingungen und die Bewertung von KI-Systemen hinsichtlich Chancen und Risiken beinhalten.

Dabei sollte den Beschäftigten ein Verständnis sogenannte verbotene Praktiken gemäß AI Act und Risikoklassen: unannehmbares Risiko (Verbot), Hochrisiko (strenge Anforderungen), spezifisches Risiko (Transparenzpflichten) und geringes Risiko (freiwillige Anwendung) vermittelt werden.

Hier empfiehlt sich zusätzlich gegenenenfalls die Simulation realer Szenarien (z. B. Notfalltests, Bias-Erkennung), um die Aufsichtsfunktion praxisnah und belastbar zu trainieren.

4.4 Spezielle Anforderungen bei Hochrisiko-KI 

Vor allem bei sog. Hochrisiko-KI-Systemen bestehen erhöhte Anforderungen. Hochrisiko-KI-Systeme können etwa medizinische Geräte, autonome Fahrzeuge und biometrische Systeme umfassen. Beschäftigte in der Rolle der menschlichen Aufsicht über Hochrisiko-KI-Systeme müssen besondere KI-Kompetenzen besitzen. Solche Systeme erfordern effektive Überwachung durch natürliche Personen gemäß Art. 14 der KI-Verordnung und eine detaillierte Bedarfs- und Kompetenzanalyse, die Risiken, Anwendungsfälle und Nutzer berücksichtigt.

5. Fazit

KI-Kompetenz ist ein zentrales Element für den verantwortungsvollen und effektiven Einsatz von Künstlicher Intelligenz in Unternehmen und Organisationen. Der AI Act verpflichtet Anbieter und Anwender dazu, ein angemessenes Maß an Wissen, Fähigkeiten und Bewusstsein im Umgang mit KI-Systemen sicherzustellen – angepasst an die jeweilige Rolle, den Anwendungsfall und das Risikopotenzial. Die kontinuierliche Qualifizierung und Sensibilisierung aller beteiligten Personen ist dabei nicht nur eine rechtliche Notwendigkeit, sondern auch ein entscheidender Faktor für Innovation, Sicherheit und nachhaltigen Unternehmenserfolg im digitalen Zeitalter.

KI-Kompetenz ist somit nicht als Projekt mit Endpunkt zu verstehen, sondern als fortlaufende Lernreise, die eng mit der digitalen Transformation, Wettbewerbsfähigkeit und der Sicherung technologischer Souveränität verbunden ist.

AUTOREN

---