Die Mensch-KI-Interaktion ist ein Forschungsfeld der Künstlichen Intelligenz (KI) und befasst sich mit allen Arten der Interaktion und Zusammenarbeit von Menschen und KI-Systemen.

Die Mensch-KI-Interaktion kann auf verschiedene Weise erfolgen. Aufgrund der technischen Komplexität von KI und ihrer multiplen Fähigkeiten kann sie nicht oder nur teilweise mit anderen Interaktionsformen gleichgestellt werden. Wichtige Faktoren, die eine solche Interaktion beschreiben, sind die Transparenz, die Dependenz, die Aktionsfrequenz, der Auslöser, der Aktionskanal, die Richtung, das Ergebnis, die Häufigkeit und die Umgebung der Interaktion. Um nachhaltig Vertrauen in KI-Systeme zu schaffen, ist es für die Forschung von Bedeutung, neben rein deskriptiven Perspektiven auch ethische, soziale und rechtliche Aspekte zu berücksichtigen. Mitunter wirken sich diese im Zusammenhang der Forschung auf Eigenschaften der KI wie Autonomie, Independenz und Anthropomorphologie aus.

Im Zuge einer Analyse von der Projektgruppe Wirtschaftsinformatik des Fraunhofer FIT wurden 5 Interaktionstypen nach ihrer Wechselseitigkeit und Handlungsfreiheit identifiziert:

• Schutzengel

KI-Agenten des Typen Schutzengel zeichnen sich durch ihre hohe Handlungsfreiheit und geringe Wechselseitigkeit aus. Systeme, die beispielsweise im Predictive Maintenance oder in Fahrzeugen in Form eines Assistenten angewendet werden, zeichnen sich durch ihren informierenden und überwachenden Charakter aus und reagieren ohne menschliches Zutun auf Impulse.

• Heinzelmännchen

KI-Agenten des Typen Heinzelmännchen haben eine mittlere Handlungsfreiheit und weisen eine geringe Wechselseitigkeit bei Interaktionen auf. Solche Systeme werden bewusst vom Menschen aktiviert und assistieren ihm in Arbeitsprozessen. Ein Beispiel hierfür sind Einparkhilfen.

• Informant

Informanten sind KI-Agenten, die sich durch eine mittlere Handlungsfreiheit, sowie eine mittlere Wechselseitigkeit in Interaktionen auszeichnen. Intelligente Assistenten wie Chatbots im Kundenservice zeichnen sich dadurch aus, dass sie Informationen für Benutzer heraussuchen. Anders als beim Heinzelmännchen ist das Resultat ihrer bewussten oder unbewussten Aktivierung anfangs unbekannt.

• Kollege

Kollegen besitzen eine mittlere bis hohe Handlungsfreiheit sowie eine hohe Wechselseitigkeit in ihren Interaktionen. GPT-2 von OpenAI informiert oder hilft seinen Benutzern beispielsweise durch die Interaktion via Text. Interaktionen werden bewusst vom Benutzer gestartet und die Ergebnisse des Prozesses sind unbekannt.

• Bester Freund

KI-Agenten des Typen bester Freund zeichnen sich durch eine geringe Handlungsfreiheit und eine hohe Wechselseitigkeit aus. Die Interaktion mimt einen sozialen Austausch, wie beispielsweise eine Spielerfahrung (Gaming Bots).

In unterschiedlichen Anwendungen kann ein Agent mehrere Interaktionstypen bedienen.

• Think beyond tomorrow: KI, mein Freund und Helfer – Herausforderungen und Implikationen für die Mensch-KI-Interaktion, Projektgruppe Wirtschaftsinformatik des Fraunhofer FIT (2019)
  Yilmaz Alan; Nils Urbach; Silvana Hinsen; Jan Jöhnk; Patrick Beisel; Malte Weißert; Stephan Blumenthal & Peter Hofmann
• Mensch-KI-Interaktion und Mensch-Roboter-Interaktion (2023)

  Melanie Hasenbein Mensch und KI in Organisationen p57-83

  Springer Berlin Heidelberg DOI:10.1007/978-3-662-66375-2_5