IMPACT ist ein von der VW-Stiftung gefördertes Forschungsprojekt, in dem wir es uns zum Ziel gemacht haben, die Chancen und Risiken künstlicher Intelligenz innerhalb einer Lebensspanne zu untersuchen.
Gefördert von
In dem interdisziplinären Forschungsprojekt IMPACT untersuchen Expert*innen aus den Bereichen Informatik, Psychologie, Ethik und Recht gemeinsam die Kommunikation mit künstlich intelligenten Dialogsystemen. Um die Forschungsfragen ganzheitlich zu beantworten, werden unterschiedliche Nutzergruppen analysiert. Die Studien erfolgen mit Kindern, Erwachsenen und Senior*innen, sodass der Umgang mit künstlicher Intelligenz über die gesamte Lebensspanne hinweg betrachtet wird.
Innerhalb der Interaktion mit intelligenten Maschinen werden 3 Schwerpunkte fokussiert:
Das Diagramm zeigt wie die einzelnen Fachrichtungen, Lebensabschnitte und Forschungsschwerpunkte miteinander in Beziehung stehen.
Den Schwerpunkten entsprechend steht der Projektname IMPACT für: „Implications of conversing with intelligent machines in everyday life for people´s beliefs about algorithms, their communication behavior and their relationship building“.
Die wissenschaftliche Arbeit wird durch ein Citizen Science Projekt ergänzt. Durch die hohe gesellschaftliche Bedeutung der Thematik soll die Öffentlichkeit nicht nur als Teilnehmer*innen an den Studien herangezogen werden, sondern sich darüber hinaus als aktive Bürgerforschende vor allem im Rahmen von zwei Workshops austauschen, mitforschen und so neues Wissen generieren.
Zusammenfassend arbeiten sowohl in der Entwicklung intelligenter Systeme als auch in der Durchführung und Bewertung von empirischen Studien sowie der ethischen und rechtlichen Reflexion der Ergebnisse, Expert*innen aus den unterschiedlichen Wissenschaftsbereichen eng zusammen, um einerseits wissenschaftlich und andererseits gesellschaftspolitisch relevante Erkenntnisse zu gewinnen.
Das Projekt IMPACT zeichnet sich besonders durch seine Interdisziplinarität aus: Experten*innen aus den Fachbereichen Informatik, Psychologie, Ethik und Recht arbeiten eng in einem festen Projektteam zusammen.
Prof. Dr. Nicole Krämer leitet den Lehrstuhl für Sozialpsychologie: Medien und Kommunikation an der Universität Duisburg-Essen. Mit 20 Jahren Erfahrung ist sie eine ausgewiesene Expertin auf dem Gebiet der Mensch-Computer-Interaktion, …
Prof. Dr.-Ing. Stefan Kopp ist Professor für Informatik an der Technischen Fakultät der Universität Bielefeld, Leiter der Gruppe Soziale Kognitive Systeme und Hauptforscher des Kompetenzzentrums „Cognitive Interaction Technology“ (CITEC). Mit …
Prof. Dr. Alexander Roßnagel hat den Lehrstuhl für öffentliches Recht mit den Schwerpunkten Technikrecht und Umweltrecht an der Universität Kassel inne. Er veröffentlichte bereits zahlreiche Artikel sowie Bücher zum Datenschutz …
Prof. Dr. Barbara Hammer leitet die maschinelle Lerngruppe in Bielefeld, die das breite Spektrum von algorithmischen Entwicklungen, mathematischen Grundlagen bis hin zu Anwendungen in der kooperativen Intelligenz, wie intelligente Tutoren-Systeme …
Prof. Dr. Arne Manzeschke ist Professor für Anthropologie und Ethik für Gesundheitsberufe und Leiter des Fachbereichs Ethik und Anthropologie im Gesundheitswesen an der Evangelischen Hochschule Nürnberg. Im Jahr 2012 entwickelte …
Prof. Dr. Barbara HammerIch hoffe durch IMPACT mehr Klarheit darüber zu bekommen, wie KI Verfahren für unterschiedliche Nutzer transparent gestaltet werden können und welche Art von Erklärungen von KI tatsächlich diesen Namen verdienen. 
Prof. Dr. Arne ManzeschkeWelche Kommunikationspartner und Kommunikationsstrukturen schaffen wir uns mit den neuen Sprachassistenten und welchen Einfluss werden sie darauf nehmen, wie wir Menschen miteinander kommunizieren? Als was wollen wir diese neuen intelligenten Maschinen ansehen und anerkennen? Das sind essentielle Fragen, auf die wir Antwort suchen im Projekt IMPACT. 
Prof. Dr. Stefan KoppMit IMPACT wollen wir umfassend (er)klären, wie sprachbasierte KI-Systeme konstruiert werden müssten, um von Nutzern und Gesellschaft bewusst und verantwortungsvoll eingesetzt werden zu können. 
Prof. Dr. Nicole KrämerDas Projekt IMPACT eröffnet uns die Möglichkeit, besser zu verstehen, wie Menschen kurz- und langfristig auf sprechende, künstlich intelligente Maschinen reagieren, wie zukünftige Mensch-Maschine-Beziehungen aussehen werden und welche Vorstellungen Menschen darüber haben, wie diese Maschinen funktionieren. 
Prof. Dr. Alexander RoßnagelEs ist vorstellbar, dass wir in einigen Jahren mehr als die Hälfte unserer Gespräche mit Maschinen führen. Um die Folgen abschätzen zu können, ist eine fachübergreifende Betrachtung erforderlich, wie sie nur in einem Verbundprojekt wie IMPACT geleistet werden kann. Das Projekt IMPACT beschäftigt sich mit drei Nutzergruppen: Kinder, Erwachsene und Senioren. Die Studien erfolgen mit Vertretern aller Nutzergruppen, sodass der Umgang mit künstlicher Intelligenz über die gesamte Lebensspanne hinweg betrachtet wird.
Das fünfte Policy Paper des Projektes wurde veröffentlicht und kann unter https://doi.org/10.17185/duepublico/77379 eingesehen werden. Die Publikation beschäftigt sich unter anderem mit Datenschutz und Privatsphäre, Missbrauchspotenzialen und Selbst-/Fremdkontrolle im Kontext von …
Das vierte Policy Paper des Projektes wurde veröffentlicht und kann unter https://doi.org/10.17185/duepublico/77378 eingesehen werden. Die Publikation beschäftigt sich mit der komplexen Frage, wie Erklärungen von künstlicher Intelligenz aus interdisziplinärer Sicht …
Im Rahmen des Projekts werden an verschiedenen Stellen Bürger*innen eingeladen, als Wissenschaftler*innen am Projekt teilzunehmen.
Evangelische Akademie Tutzing, 27.-28.01.2023
Am 27. und 28. Januar 2023 fand der zweite IMPACT Citizen Science Workshop in Kooperation mit der Evangelischen Akademie in Tutzing statt.
Den Auftakt am Freitagabend bildete ein Abendvortrag von PD Dr. Rudolf Seising, Leiter des BMBF-geförderten Forschungsprojekts „IGGI – Ingenieur-Geist und Geistes-Ingenieure: Eine Geschichte der Künstlichen Intelligenz in der Bundesrepublik Deutschland“. Anschließend gab es die Gelegenheit für Gedanken- und Gesprächsaustausch in den Räumen des Tutzinger Schlosses.
Der Samstag begann mit dem gegenseitigen Kennenlernen der 32 Teilnehmer*innen, die unterschiedlichste Perspektiven auf das Thema KI und Sprachassistenten mitbrachten, sowie der 5 Mitarbeiter*innen und Pfr. Dr. Hendrik Meyer-Magister, der durch die beiden Tage der Veranstaltung führte.
Beim praktischen Ausprobieren von Sprachassistenzsystemen in Kleingruppen entstanden die ersten Diskussionsfragen, die anschließend im Plenum verhandelt wurden – dabei zeigte sich sowohl die Heterogenität der Gruppe als auch die variierenden Erfahrungswerte und verschiedenen Einschätzungen hinsichtlich möglicher Chancen und Risiken im Umgang mit Sprachassistenzsystemen. Im ersten Workshop konnten die Reflexionen zur Funktionsweise von Dialogsystemen vertieft und verbildlicht werden, denn die Teilnehmer*innen skizzierten ihre persönliche Vorstellung davon, wie ein Sprachassistent Informationen erhält und verarbeitet, um eine möglichst passende Ausgabe zu generieren. Die Zeichnungen wurden im Anschluss im Plenum interpretiert und diskutiert.
Es folgten schließlich die wissenschaftlichen Impulsvorträge der IMPACT-Mitarbeiter*innen, die Sprachassistenten und KI aus informatischer, rechtlicher, psychologischer und ethischer Perspektive beleuchteten und mit einer offenen Fragerunde im Plenum abgeschlossen wurden.
Im zweiten und abschließenden Workshopteil erarbeiteten die Teilnehmer*innen, nun erneut in Kleingruppen, die Ergebnisse der beiden Tage sowie mögliche Forschungsanstöße und Wünsche an zukünftige KI- und Sprachsystemtechnologien.
Forschungsanstöße als Ergebnis des zweiten Citizen Science Workshops: IMPACT Citizen Science Workshop 2023
Die Ergebnisse des ersten IMPACT Dialogforums können nun online eingesehen werden: IMPACT Dialogforum 2020
Zum Abschluss der vergangenen viereinhalb Jahre wurde die Forschung des IMPACT-Projekts mit einer zweitägigen Konferenz im AXICA Kongress- und Tagungszentrum im Herzen Berlins gewürdigt. Am 06. und 07. März 2023 kamen etwa 90 Teilnehmende im Rahmen der hybriden Veranstaltung zusammen, um Berichten über die Projektergebnisse, Keynotes von internationalen Spitzenforscher*innen, einer Podiumsdiskussion über rechtliche und ethische Implikationen der Interaktion mit künstlicher Intelligenz (KI) und einer wissenschaftlichen Posterausstellung beizuwohnen.
Die Begrüßungsansprache hielt Konsortialleitung Prof. Nicole Krämer, in welcher die Relevanz und der Aufbau des Projekts ganzheitlich präsentiert und die übergreifenden Fragestellungen vorgestellt wurden. Darauf folgte der erste Projektvortrag zum Thema Transparenz von KI, gehalten von André Artelt (Machine Learning, Universität Bielefeld) und Prof. Christian Geminn (Recht, Universität Kassel). Hierbei lag der Fokus auf rechtlichen Anforderungen an den Einsatz von KI sowie Potenzial für deren Umsetzung. Keynote-Speaker Dr. Bruno Gransche, Philosoph und Zukunftsforscher am Institut für Technikzukünfte des Karlsruher Instituts für Technologie, widmete sich in seinem Vortrag “Beware AI – A sense of appropriateness in human-machine interaction” verschiedenen Unzulänglichkeiten und Herausforderungen im Rahmen von Interaktion mit KI.
Anschließend leitete das zweite IMPACT-Duo, bestehend aus Prof. Nicole Krämer (Psychologie, Universität Duisburg-Essen) und Prof. Stefan Kopp (Soziale Kognitive Systeme, Universität Bielefeld), durch die Projektergebnisse zum Thema Kommunikation mit KI. Hier ging es insbesondere um Strategien für Dialogdesign sowie deren Effekte auf menschliches Verhalten. In der Postersession am Nachmittag wurden weitere Ergebnisse des Projekts sowie Forschung rund um das Thema Konversation mit KI von Wissenschaftler*innen verschiedener Disziplinen präsentiert. Den finalen Input des Tages lieferte eine Paneldiskussion mit Vertreter:innen der Philosophie (Dr. Bruno Gransche), des Rechts (Prof. Burkhard Schafer, Universität Edinburgh), der Informatik (Prof. David Schlangen, Universität Potsdam) und der Psychologie (Dr. Jessica Szczuka, Universität Duisburg-Essen). Es wurden insbesondere ethische und rechtliche Herausforderungen der Interaktion mit KI am Beispiel des Chatbots ChatGPT diskutiert. Anschließend ging mit Blick auf das Brandenburger Tor der erste Tag beim Sektempfang in der AXICA Sky Lobby mit angeregten Gesprächen zu Ende.
Der zweite Tag startete mit einer Keynote von Prof. Catholijn Jonker der Technischen Universität Delft (Lehrstuhl für Interaktive Intelligenz der Fakultät für Elektrotechnik, Mathematik und Informatik). In ihrem Vortrag stellte sie das Konzept der hybriden Intelligenz vor und inwiefern diese für Auseinandersetzungen und Selbstreflektion eingesetzt werden kann. Im anschließenden dritten und letzten Projektvortrag fokussierten Dr. Aike Horstmann, Prof. Arne Manzeschke und Carina Weber psychologische und ethische Implikationen des Zusammenlebens mit KI unter dem Stichwort Beziehungen mit KI. In der ebenfalls dritten und letzten Keynote von Prof. Iyad Rahwan, Direktor des Zentrums für Mensch und Maschine am Max-Planck-Institut für Bildungsforschung in Berlin, ging es um die Entwicklung von Technologien und der daraus entstehenden “Verhaltenswissenschaft der Maschinen”. Um zum Abschluss der Konferenz zukünftige Forschungsfragen und -ziele zu diskutieren, stellten Vertreter*innen aktueller Forschungsvorhaben ihre jeweiligen Projekte vor, darunter Prof. Barbara Hammer (Data-NInJA NRW), Prof. Emmanuel Müller (Research Center Trustworthy Data Science and Security) und Dr. Josephine Schmitt (Center for Advanced Internet Studies, CAIS).
Wir bedanken uns im Namen aller Projektbeteiligten herzlich bei den Teilnehmer*innen für ihr großes Interesse sowie den regen Austausch und hoffen, auch nach offiziellem Projektabschluss Ende März 2023, mit unseren Projektergebnissen weitere Forschungs- und Kooperationsideen anzuregen.
