CHAT - Comprehending Human-AI Interaction
KI und Kommunikation: Chancen und Risiken
“Wie kann ich diese Mail noch besser schreiben?”,
“Welches Waschmittel sollte ich kaufen?”
oder “Habe ich Prüfungsangst?”.
Gespräche, die früher nur mit Menschen möglich waren, führen wir heute mit KI-basierten Chatbots wie ChatGPT. Diese imitieren menschliche Interaktion so überzeugend, dass man fast vergessen könnte, dass wir mit einer Maschine kommunizieren und nicht mit einem Menschen.
Dass Menschen auf Technologien ähnlich reagieren wie auf Menschen – trotz des Wissens, dass es sich um Maschinen handelt –, zeigte Forschung seit den 1990er Jahren. Zunächst wurde die Interaktion mit Desktop PCs erforscht, später auch mit Smartphones und Sprachassistenten. Dies kann zu unüberlegtem Verhalten führen, etwa der Preisgabe sensibler Daten oder dem unkritischen Befolgen von Empfehlungen. Ob sich diese Phänomene auch für KI-basierte Technologien und insbesondere KI-Chatbots zeigen und welche Folgen damit einhergehen, sind die Ausgangsfragen von C.H.A.T.
Unser Projekt, unterstützt durch die DATEV-Stiftung, erforscht die Begegnung von Menschen und KI aus einer psychologischen Perspektive und analysiert das menschliche Denken, Fühlen und Handeln im Kontext der Nutzung KI-basierter Technologien insbesondere Chatbots. Auf diesen Ergebnissen aufbauend werden Lernumgebungen entwickelt, um Nutzer:innen über die psychologischen Mechanismen der KI-Nutzung aufzuklären und vor Gefahren einer unachtsamen Nutzung zu schützen.
Meilensteine
- Analyse: Wissenschaftliche Studien zur Nutzung KI-basierter Chatbots mit dem Ziel, psychologische Mechanismen der Mensch-KI-Begegnungen zu identifizieren.
- Empowerment: Entwicklung von Lernprogrammen, die Nutzenden ermöglicht, eigene Nutzungsgewohnheiten und Reaktionen auf KI-Technologien zu reflektieren und mögliche Einfallstore der Verhaltensmanipulationen zu erkennen, um KI souveräner zu nutzen.
- Wissenstransfer: Kommunikation der Studienergebnisse sowie der Lernprogramme über wissenschaftliche Publikationen, Medienarbeit und eine eigene Online-Plattform.
Ziele und Anspruch
- Wissenschaft: Empirische Forschung als Basis für praxisnahe Lösungen.
- Praxisbezug: Transfer und Anpassung an Anforderungen diverser Kontexte und Zielgruppen (Arbeitswelt, Bildung, IT-Sicherheit).
- KI-Kompetenzen: Förderung eines reflektierten, kritischen und souveränen Umgangs mit KI-basierten Technologien.
- Gesellschaftlicher Mehrwert: Schutz vor Manipulation, Stärkung der selbstbestimmten individuellen Nutzung und Schutz der Demokratie.
