Jede Organisation kann als soziales System verstanden werden und hat daher eigene Rahmenbedingungen, die die Visionen und Merkmale der Unternehmenskultur widerspiegeln. Diese Visionen beeinflussen die Einführung von KI-Systemen und sollten daher zu Beginn identifiziert werden. Wenn ein Unternehmen beispielsweise das Ziel verfolgt, innovative Lösungen auszuprobieren, so kann davon ausgegangen werden, dass es auch offen für KI-Systeme sein wird. Hatte das Unternehmen aber bisher wenig Berührungspunkte mit Innovation und möchte traditionelle Werte beibehalten, erfordert die Einführung von KI-Systemen mehr Vorarbeit. Besonders Normen wie Transparenz und Offenheit erleichtern die Einführung und nehmen die Ängste und Bedenken der Mitarbeitenden. Vor allem bei vollautonomen KI-Systemen besteht bei vielen Mitarbeitenden die Angst ersetzt zu werden. Um diese Ängste zu reduzieren, ist eine ehrliche und offene Unternehmenskultur von großer Bedeutung. Allerdings können Mitarbeitende auch trotz transparenter und ehrlicher Unternehmenskommunikation immer noch Ängste und Bedenken haben. Daher ist es wichtig, dass ein grundlegendes Vertrauen in die Organisation besteht. Um dieses Vertrauen aufrechtzuerhalten, sollte die transparente Kommunikation fortgesetzt werden, um so auf absehbare Auswirkungen durch die Einführung hinzuweisen.

Die Unternehmenskultur umfasst all die Werte, Normen und Einstellungen, die das Entscheiden und Handeln in einem Unternehmen prägen. Diese bilden ein unsichtbares Fundament, während die Wahrnehmung den von außen sichtbaren Teil stellt und als Oberflächenstruktur bezeichnet wird. Die Unternehmenskultur kann einen direkten und entscheidenden Einfluss auf den Erfolg einer Organisation haben. Jede Organisation besteht aus einer Ansammlung von Menschen, die sich zur gemeinsamen Zielerreichung zusammenfinden. Diese Personen sind individuell in ihrer Einstellung, ihren Fähigkeiten und ihren Erfahrungen. Es können sich auch unterschiedliche Gruppen bilden, die sich sowohl untereinander als auch von anderen Gruppen abheben. Es ist wichtig, die vielfältigen Charaktere und Gruppen bei jeder Art von Veränderung zu berücksichtigen. Durch gezielte Maßnahmen zur Steuerung der Unternehmenskultur kann ein harmonisches Miteinander gefördert und die Bereitschaft zur Zielerreichung gesteigert werden. Um die Art und Intensität einer Unternehmenskultur zu messen, können die folgenden vier Dimensionen hilfreich sein: Unterstützung, Innovation, Regeln und Ziele. Sie ermöglichen es, den eigenen Stand einzuschätzen und Ressourcen in die richtigen Bereiche zu investieren, um eine geeignete Grundlage zu schaffen. Insbesondere bei der Einführung von Innovationen wie KI-Systemen ist eine innovationsfreundliche Unternehmenskultur von großer Bedeutung. Sie unterstützt einen schnellen, unkomplizierten und kostengünstigen Implementierungsprozess.

Eine Innovationskultur eröffnet Möglichkeiten, die Mitarbeitenden zu ermutigen, neue Ideen zu finden und Alternativlösungen zu erkunden, wie beispielsweise den Einsatz von KI-Systeme. Es ist dabei besonders wichtig, den Mitarbeitenden zu erklären, wie die KI ihre Arbeit verbessern bzw. dem Unternehmen nutzen kann und wie sie sich die autonome Technologie zueigen machen können, um innovative Lösungen zu entwickeln. Eine offene Kommunikation sowie Schulungen zur Nutzung des KI-Systems sind besonders wichtig, um sicherzustellen, dass die Mitarbeitenden sich bei der Anwendung wohl bzw. sicher fühlen. Zusätzlich spielen Werte wie Offenheit gegenüber Neuem sowie Toleranz gegenüber Fehlern eine bedeutende Rolle, da sie Sicherheit geben und die Einführung von KI-Systemen positiv beeinflussen können. Insbesondere, wenn Führungskräfte diese Werte vorleben und in ihren Führungsstil integrieren, steigt die Chance, dass sie von den Mitarbeitenden übernommen werden.

Um eine erfolgreich Implementierung des autonomen Systems zu gewährleisten, ist es wichtig, die Mitarbeitenden von Anfang an aktiv einzubeziehen. Durch die Möglichkeit zur Mitbestimmung und das Gefühl des Gehörtwerdens, steigt die Wahrscheinlichkeit, dass sie Veränderungen positiv aufnehmen. Zudem ist es wichtig zu berücksichtigen, dass je nach Unternehmensstruktur bereits eine gewisse Form der Mitbestimmung vorhanden sein kann. Die Mitbestimmungsstufen lassen sich beispielhaft wie folgt differenzieren:

Beispiel: In einem Unternehmen mit strenger Hierarchie ist weniger Mitbestimmung der Mitarbeitenden zu erwarten, während ein demokratisches Unternehmen das Ziel hat, dass sich die Mitarbeitenden mit dem Unternehmen und seinen Produkten identifizieren und hier Wert auf die Meinung von Mitarbeitenden gelegt wird. Mitbestimmung ist wichtig, um eine erfolgreiche Implementierung anzusteuern. Es sollte jedoch geklärt werden, wann Mitbestimmung notwendig und vorteilhaft ist. Dabei kann zwischen Top-Down- und Bottom-Up-Ansätze unterschieden werden.

Ein Top-Down-Ansatz eignet sich besonders, wenn kurzfristige Risiken so groß sind, dass eine Verzögerung durch die Einbindung vieler Mitarbeitenden den Erfolg gefährden würde. Dieser Ansatz sollte allerdings so weit wie möglich vermieden werden, da er lang- und kurzfristige negative Auswirkungen haben kann. Beispielweise werden Informationen nur von oben nach unten weitergegeben und „schlechte Nachrichten“ erreichen die oberste Ebene nicht. Der Bottom-Up-Ansatz verfolgt das Ziel, den Mitarbeitenden mehr Mitspracherecht und Mitbestimmung bei Entscheidungen zu ermöglichen.

Es wird häufig angenommen, dass Widerstände das Scheitern der Implementierung von KI-Systemen verursachen, jedoch trifft das nicht auf alle Fälle zu. Widerstände können als Orientierung oder Feedback genutzt werden, da Mitarbeitende ihre Meinung äußern, wenn die Umstände für sie wichtig sind. Um Mitbestimmung zu ermöglichen, ist eine enge Zusammenarbeit mit dem Betriebsrat, sofern er vorhanden ist, erforderlich. Dieser muss insbesondere informiert werden, wenn das Verhalten oder die Leistung der Mitarbeitenden durch die KI (absichtlich oder unabsichtlich) überwacht wird (§ 87 Abs. 1 Nr. 6 BetrVG). Daher sollte der Betriebsrat frühzeitig über die Pläne informiert werden, da er die Pflicht hat, die Persönlichkeitsrechte Mitarbeitenden zu schützen.

Leitlinien und Normen dienen in vielen Bereichen des alltäglichen Lebens als Standards für Verfahren oder Prozesse. Sie geben an, wie Technologien gestaltet werden sollen oder wie ein Prozess optimal abläuft. Leitlinien können einen Rahmen vorgeben. Als Vorlage dient ein Konzept für KI-Leitlinien auf europäischer Ebene (1) wie auch freiwillige von Unternehmen selbst definierte KI-Leitlinien (2).

Vorrang menschlichen Handelns und menschlicher Aufsicht

KI-Systeme sollten Menschen dabei helfen, bessere Entscheidungen zu treffen und ihre eigenen Ziele zu erreichen. Es ist wichtig, dass KI-Systeme die Autonomie der Menschen nicht einschränken oder manipulieren. Das Wohl des Nutzenden sollte dabei im Mittelpunkt stehen. Menschliche Aufsicht ist entscheidend, um sicherzustellen, dass KI-Systeme die menschliche Autonomie nicht beeinträchtigen oder negative Auswirkungen haben. Je nach Art des KI-Systems und seines Anwendungsbereichs sollten angemessene Kontrollmaßnahmen vorhanden sein, die Aspekte wie Anpassungsfähigkeit, Genauigkeit und Erklärbarkeit berücksichtigen. Die Aufsicht kann durch verschiedene Mechanismen erfolgen, z.B. die Einbindung eines Menschen während der Nutzung, die Überprüfung und Kontrolle durch einen Menschen oder die vollständige Kontrolle durch einen Menschen. Es ist jedoch wichtig, sicherzustellen, dass die Aufsichtsbehörden jederzeit in der Lage sind, ihre Aufgaben entsprechend wahrzunehmen. Wenn ein KI-System weniger menschliche Aufsicht ermöglicht, sollte es vorher gründlich getestet werden und die Lenkung und Kontrolle strenger sein, selbst wenn das System ansonsten gleich ist.

Technische Robustheit und Sicherheit

Eine vertrauenswürdige KI benötigt sichere und zuverlässige Algorithmen, die Fehler bewältigen und angemessen mit fehlerhaften Ergebnissen umgehen können. KI-Systeme sollten widerstandsfähig gegen Angriffe und Manipulationen sein und eine Rückfallstrategie haben. Genauigkeit in den Entscheidungen und reproduzierbare Ergebnisse sind wichtig. KI-Systeme sollten über Schutz- und Sicherheitsvorkehrungen verfügen, um die Sicherheit aller Beteiligten zu gewährleisten. Risiken im Zusammenhang mit dem Einsatz von KI-Systemen sollten geklärt und bewertet werden.

Privatsphäre und Datenqualitätsmanagement

Der Schutz der Privatsphäre und der Datenschutz müssen während des gesamten Lebenszyklus eines KI-Systems gewährleistet sein. KI-Systeme können aus digitalen Aufzeichnungen über das menschliche Verhalten nicht nur persönliche Vorlieben, Alter und Geschlecht, sondern auch sexuelle Ausrichtung, religiöse oder politische Ansichten ableiten. Um das Vertrauen der Menschen in die Datenverarbeitung zu gewährleisten, müssen sie die volle Kontrolle über ihre eigenen Daten behalten und dürfen nicht geschädigt oder diskriminiert werden. Neben dem Schutz der Privatsphäre und personenbezogener Daten müssen hochwertige KI-Systeme weitere strenge Anforderungen erfüllen. Die Qualität der verwendeten Datensätze ist entscheidend für die Leistungsfähigkeit der KI-Systeme. Es können sozial bedingte Verzerrungen bei der Datenerfassung auftreten, und die Daten können Ungenauigkeiten, Fehler und andere Mängel enthalten. Solche Probleme müssen vor der Schulung eines KI-Systems mit einem bestimmten Datensatz behoben werden. Die Integrität der Daten muss ebenfalls gewährleistet sein. Die verwendeten Prozesse und Datensätze müssen in allen Phasen wie Planung, Schulung, Test und Einsatz getestet und dokumentiert werden. Dies gilt auch für KI- Systeme, die von externen Quellen erworben werden. Der Zugang zu den Daten muss angemessen geregelt und kontrolliert werden.

Transparenz

Die Rückverfolgbarkeit von KI-Systemen muss gewährleistet werden. Sowohl die getroffenen Entscheidungen des Systems als auch der gesamte Prozess, der zur Entscheidung geführt hat, müssen protokolliert und dokumentiert werden. Dies umfasst die Beschreibung der Datenerfassung, Datenbenennung und verwendeten Algorithmen. Wenn möglich, sollte eine verständliche Erklärung des algorithmischen Entscheidungsprozesses für die beteiligten Personen bereitgestellt werden. Die laufenden Forschungsarbeiten zur Entwicklung von Erklärungsmechanismen sollten fortgesetzt werden. Es sollten auch Erläuterungen dazu vorliegen, wie ein KI-System den Entscheidungsprozess der Organisation beeinflusst und formt, sowie die Gründe für den Systementwurf und dessen Einführung (um sowohl die Daten- und Systemtransparenz als auch die Transparenz des Geschäftsmodells sicherzustellen). Es ist auch wichtig, den verschiedenen Beteiligten die Fähigkeiten und Grenzen des KI-Systems in einer angemessenen Weise mitzuteilen, die ihrer Nutzung entspricht. KI-Systeme sollten erkennbar sein, damit die Nutzer immer wissen, wann sie mit einem KI-System arbeiten und wer dafür verantwortlich ist.

Vielfalt, Nichtdiskriminierung und Fairness

Die verwendeten Datensätze von KI-Systemen (sowohl während der Schulung als auch im Betrieb) können unbeabsichtigte historische Verzerrungen aufweisen, unvollständig sein und auf fragwürdigen Lenkungs- und Kontrollmodellen basieren. Die Fortführung solcher Verzerrungen könnte zu direkter oder indirekter Diskriminierung führen. Es besteht auch das Risiko von Schaden durch die absichtliche Ausnutzung von Vorurteilen seitens der Verbraucher oder durch unlauteren Wettbewerb. Die Art und Weise, wie KI-Systeme entwickelt werden, einschließlich des Programmiercodes der Algorithmen, kann ebenfalls von bestimmten Einflüssen beeinträchtigt sein. Diese Bedenken sollten von Beginn der Systementwicklung an berücksichtigt werden. Die Bildung vielfältiger und inklusiver Entwicklungsteams sowie die Einbeziehung von Mechanismen zur Beteiligung, insbesondere von Bürgern, können dazu beitragen, solche Bedenken auszuräumen. Es ist auch ratsam, alle betroffenen Interessengruppen, die während des gesamten Lebenszyklus des Systems direkt oder indirekt betroffen sein können, zu konsultieren. KI-Systeme sollten die gesamte Bandbreite menschlicher Fähigkeiten, Fertigkeiten und Anforderungen berücksichtigen und durch ein universelles Designkonzept Barrierefreiheit gewährleisten, um Menschen mit Behinderungen einen gleichberechtigten Zugang zu ermöglichen.

Gesellschaftliches und ökologisches Wohlergehen

Um sicherzustellen, dass KI-Systeme vertrauenswürdig sind, sollten ihre Auswirkungen auf die Umwelt und andere Lebewesen berücksichtigt werden. Es ist erstrebenswert, dass alle Menschen, einschließlich zukünftiger Generationen, in einer biodiversen und lebenswerten Umwelt leben können. Daher sollte die Nachhaltigkeit und ökologische Verantwortung von KI-Systemen gefördert werden. Das gilt auch für KI-Lösungen, die sich mit globalen Anliegen wie den Zielen der Vereinten Nationen für nachhaltige Entwicklung befassen. Darüber hinaus sollten die Auswirkungen von KI-Systemen nicht nur aus individueller Sicht, sondern auch aus gesellschaftlicher Perspektive betrachtet werden. Der Einsatz von KI-Systemen sollte insbesondere im demokratischen Prozess, wie der öffentlichen Meinungsbildung, politischen Entscheidungsfindung oder Wahlen, sorgfältig geprüft werden. Auch die sozialen Auswirkungen von KI sollten berücksichtigt werden. Während KI- Systeme dazu beitragen können, soziale Kompetenzen zu verbessern, besteht auch die Möglichkeit, dass sie zu einer Verschlechterung beitragen.

Rechenschaftspflicht

Es sollten Mechanismen etabliert werden, um die Verantwortung und Rechenschaftspflicht für KI-Systeme und deren Ergebnisse vor und nach ihrer Implementierung sicherzustellen. Die Nachprüfbarkeit von KI-Systemen spielt hierbei eine entscheidende Rolle, da die Bewertung durch interne und externe Prüfer sowie entsprechende Bewertungsberichte maßgeblich zum Vertrauen in die Technologie beitragen. Insbesondere bei Anwendungen, die sich auf Grundrechte und sicherheitskritische Bereiche auswirken, sollte eine externe Überprüfbarkeit gewährleistet sein. Potenziell negative Auswirkungen von KI-Systemen sollten erkannt, bewertet, dokumentiert und minimiert werden. Folgenabschätzungen können diesen Prozess erleichtern, wobei sie in einem angemessenen Verhältnis zu den Risiken stehen sollten, die von den KI-Systemen ausgehen. Kompromisse zwischen verschiedenen Anforderungen, die oft unvermeidlich sind, sollten rational und methodisch angegangen und berücksichtigt werden. Falls dennoch ungerechte und nachteilige Auswirkungen auftreten, sollten leicht zugängliche Mechanismen für angemessenen Rechtsschutz zur Verfügung stehen.

KI-Leitlinien gelten in Organisationen als potenzieller Ansatz zum Aufbau von Vertrauen und Akzeptanz in neue Technologien wie KI-Systeme.

Entsprechend der Häufigkeit ihrer Nennung finden sich beispielhaft hierzu folgende Aspekte:

• Transparenz auf Ebene der Prozesse/Ergebnisse/Risiken und Erklärbarkeit
• Vielfalt, Nichtdiskriminierung und Fairness
• Gewährleistung von Sicherheit/Robustheit und Schutz
• Wahrung von Privatsphäre und Datenschutz
• Der Mensch im Fokus
• Gewährleistung des Vorrangs des menschlichen Handelns/Kontrolle durch den Menschen
• Festlegung von Verantwortung und Rechenschaft
• Nutzen für die Gesellschaft/gesellschaftliche Verantwortung
• Folgenabschätzung
• Rechtmäßigkeit
• Forschung, Teilen von Wissen über KI und Austausch mit anderen
• Verantwortungsvoller Umgang mit KI
• Ethik
• Menschenrechte und Menschenwürde
• Vertrauen
• Zuverlässige KI-Systeme
• Ökologische Nachhaltigkeit
• Austausch und Zusammenarbeit mit Nutzenden
• Governance
• Transparenz durch proaktive Kommunikation
• Nachhaltiger Umgang mit Daten