Werden KI-Modelle bspw. mit Daten aus der betrieblichen Praxis verwendet, können sich in diesen Daten menschliche Verhaltensweisen wiederfinden, die auch von der KI übernommen werden. Neigt ein Finanzberater dazu, eher männlichen Personen Kredite zu gewähren, so würde auch die KI dieses Muster lernen und das Verhalten übernehmen. Ähnliches könnte sich auch in der Auswahl von Bewerbern im Recruiting-Prozess wiederfinden. Aufgrund der bereits erwähnten fehlenden Erklärbarkeit vieler KI-Modelle ist solch ein problematisches Verhalten vorher und auch im Betrieb nur schwer erkennbar.
Handelt es sich um auditpflichtige oder streng regulierte Prozesse, ist die Einsetzbarkeit solcher Modelle deshalb eingeschränkt. Hier muss sichergestellt werden, dass trotz kleiner Veränderungen der Eingangsdaten immer noch korrekte Ergebnisse geliefert werden.
In unkritischen Bereichen ist die fehlende Erklärbarkeit weniger relevant, denn dabei stehen belastbare Ergebnisse im Vordergrund der Anwendung. Der Weg dorthin, also nach welchen Regeln die Eingabedaten verarbeitet werden, ist meist weniger entscheidend, solange ausreichend gute Ergebnisse geliefert werden.
Eine KI an sich ist also neutral und nicht böswillig. Ethisch oder moralisch fragwürdige Ergebnisse sind meistens auf menschliche Muster in Daten zurückzuführen, weshalb die Einführung und der Betrieb von KI in solchen kritischen Bereichen genau kontrolliert werden sollte. Unter nachfolgender Verlinkung können Sie sich vertiefend zum rechtlichen Rahmen von KI-Anwendungen informieren.