Damit das KI-System wirklich gut funktioniert und von den Mitarbeitern akzeptiert wird, ist Vertrauen von entscheidender Bedeutung. Vertrauen kann durch rechtliche Rahmenbedingungen und Normen gestärkt werden, die sowohl interne Unternehmensrichtlinien als auch übergreifende Regeln umfassen. KI-Systeme müssen bestimmten ethischen Grundsätzen folgen, um die Vertrauensbildung zu gewährleisten. Eine vertrauenswürdige KI wird als rechtmäßig, ethisch und zuverlässig definiert. Auf rechtlicher Ebene hat die EU-Kommission bereits einen ersten rechtlichen Rahmen festgelegt, der zwischen verschiedenen Risikostufen unterscheidet, wobei für jede Stufe ein eigenes Verfahren gilt.

Eine vertrauenswürdige KI muss rechtmäßig, ethisch und robust sein:

Um ein autonomes System erfolgreich einzuführen, ist es wichtig, die rechtlichen Rahmenbedingungen und Normen im Blick zu haben. Die EU-Kommission hat bereits einen ersten KI-Rechtsrahmen erstellt, der sicherstellen soll, dass KI-Systeme fair, ethisch, transparent, sicher und unter menschlicher Kontrolle sind. Die Risikostufen sollen dabei helfen, das KI-System besser einzuschätzen.

Es ist empfehlenswert, sich ebenfalls mit der DIN EN ISO 6385 zu beschäftigen, da sie die Einführung des Systems benutzerfreundlich gestalten kann. Sie bietet Richtlinien für eine ergonomische und sichere Gestaltung des Systems und hilft, erste Maßnahmen in diese Richtung umzusetzen.