IMPACT ist ein von der VW-Stiftung gefördertes Forschungsprojekt, in dem wir es uns zum Ziel gemacht haben, die Chancen und Risiken künstlicher Intelligenz innerhalb einer Lebensspanne zu untersuchen.
Gefördert von
In dem interdisziplinären Forschungsprojekt IMPACT untersuchen Expert*innen aus den Bereichen Informatik, Psychologie, Ethik und Recht gemeinsam die Kommunikation mit künstlich intelligenten Dialogsystemen. Um die Forschungsfragen ganzheitlich zu beantworten, werden unterschiedliche Nutzergruppen analysiert. Die Studien erfolgen mit Kindern, Erwachsenen und Senior*innen, sodass der Umgang mit künstlicher Intelligenz über die gesamte Lebensspanne hinweg betrachtet wird.
Innerhalb der Interaktion mit intelligenten Maschinen werden 3 Schwerpunkte fokussiert:
Das Diagramm zeigt wie die einzelnen Fachrichtungen, Lebensabschnitte und Forschungsschwerpunkte miteinander in Beziehung stehen.
Den Schwerpunkten entsprechend steht der Projektname IMPACT für: „Implications of conversing with intelligent machines in everyday life for people´s beliefs about algorithms, their communication behavior and their relationship building“.
Die wissenschaftliche Arbeit wird durch ein Citizen Science Projekt ergänzt. Durch die hohe gesellschaftliche Bedeutung der Thematik soll die Öffentlichkeit nicht nur als Teilnehmer*innen an den Studien herangezogen werden, sondern sich darüber hinaus als aktive Bürgerforschende vor allem im Rahmen von zwei Workshops austauschen, mitforschen und so neues Wissen generieren.
Zusammenfassend arbeiten sowohl in der Entwicklung intelligenter Systeme als auch in der Durchführung und Bewertung von empirischen Studien sowie der ethischen und rechtlichen Reflexion der Ergebnisse, Expert*innen aus den unterschiedlichen Wissenschaftsbereichen eng zusammen, um einerseits wissenschaftlich und andererseits gesellschaftspolitisch relevante Erkenntnisse zu gewinnen.
Das Projekt IMPACT zeichnet sich besonders durch seine Interdisziplinarität aus: Experten*innen aus den Fachbereichen Informatik, Psychologie, Ethik und Recht arbeiten eng in einem festen Projektteam zusammen.
Prof. Dr. Nicole Krämer leitet den Lehrstuhl für Sozialpsychologie: Medien und Kommunikation an der Universität Duisburg-Essen. Mit 20 Jahren Erfahrung ist sie eine ausgewiesene Expertin auf dem Gebiet der Mensch-Computer-Interaktion, …
Prof. Dr.-Ing. Stefan Kopp ist Professor für Informatik an der Technischen Fakultät der Universität Bielefeld, Leiter der Gruppe Soziale Kognitive Systeme und Hauptforscher des Kompetenzzentrums „Cognitive Interaction Technology“ (CITEC). Mit …
Prof. Dr. Alexander Roßnagel hat den Lehrstuhl für öffentliches Recht mit den Schwerpunkten Technikrecht und Umweltrecht an der Universität Kassel inne. Er veröffentlichte bereits zahlreiche Artikel sowie Bücher zum Datenschutz …
Prof. Dr. Barbara Hammer leitet die maschinelle Lerngruppe in Bielefeld, die das breite Spektrum von algorithmischen Entwicklungen, mathematischen Grundlagen bis hin zu Anwendungen in der kooperativen Intelligenz, wie intelligente Tutoren-Systeme …
Prof. Dr. Arne Manzeschke ist Professor für Anthropologie und Ethik für Gesundheitsberufe und Leiter des Fachbereichs Ethik und Anthropologie im Gesundheitswesen an der Evangelischen Hochschule Nürnberg. Im Jahr 2012 entwickelte …
Prof. Dr. Barbara HammerIch hoffe durch IMPACT mehr Klarheit darüber zu bekommen, wie KI Verfahren für unterschiedliche Nutzer transparent gestaltet werden können und welche Art von Erklärungen von KI tatsächlich diesen Namen verdienen. 
Prof. Dr. Arne ManzeschkeWelche Kommunikationspartner und Kommunikationsstrukturen schaffen wir uns mit den neuen Sprachassistenten und welchen Einfluss werden sie darauf nehmen, wie wir Menschen miteinander kommunizieren? Als was wollen wir diese neuen intelligenten Maschinen ansehen und anerkennen? Das sind essentielle Fragen, auf die wir Antwort suchen im Projekt IMPACT. 
Prof. Dr. Stefan KoppMit IMPACT wollen wir umfassend (er)klären, wie sprachbasierte KI-Systeme konstruiert werden müssten, um von Nutzern und Gesellschaft bewusst und verantwortungsvoll eingesetzt werden zu können. 
Prof. Dr. Nicole KrämerDas Projekt IMPACT eröffnet uns die Möglichkeit, besser zu verstehen, wie Menschen kurz- und langfristig auf sprechende, künstlich intelligente Maschinen reagieren, wie zukünftige Mensch-Maschine-Beziehungen aussehen werden und welche Vorstellungen Menschen darüber haben, wie diese Maschinen funktionieren. 
Prof. Dr. Alexander RoßnagelEs ist vorstellbar, dass wir in einigen Jahren mehr als die Hälfte unserer Gespräche mit Maschinen führen. Um die Folgen abschätzen zu können, ist eine fachübergreifende Betrachtung erforderlich, wie sie nur in einem Verbundprojekt wie IMPACT geleistet werden kann. Das Projekt IMPACT beschäftigt sich mit drei Nutzergruppen: Kinder, Erwachsene und Senioren. Die Studien erfolgen mit Vertretern aller Nutzergruppen, sodass der Umgang mit künstlicher Intelligenz über die gesamte Lebensspanne hinweg betrachtet wird.
Das fünfte Policy Paper des Projektes wurde veröffentlicht und kann unter https://doi.org/10.17185/duepublico/77379 eingesehen werden. Die Publikation beschäftigt sich unter anderem mit Datenschutz und Privatsphäre, Missbrauchspotenzialen und Selbst-/Fremdkontrolle im Kontext von …
Das vierte Policy Paper des Projektes wurde veröffentlicht und kann unter https://doi.org/10.17185/duepublico/77378 eingesehen werden. Die Publikation beschäftigt sich mit der komplexen Frage, wie Erklärungen von künstlicher Intelligenz aus interdisziplinärer Sicht …
Im Rahmen des Projekts werden an verschiedenen Stellen Bürger*innen eingeladen, als Wissenschaftler*innen am Projekt teilzunehmen.
Evangelische Akademie Tutzing, 27.-28.01.2023
Am 27. und 28. Januar 2023 fand der zweite IMPACT Citizen Science Workshop in Kooperation mit der Evangelischen Akademie in Tutzing statt.
Den Auftakt am Freitagabend bildete ein Abendvortrag von PD Dr. Rudolf Seising, Leiter des BMBF-geförderten Forschungsprojekts „IGGI – Ingenieur-Geist und Geistes-Ingenieure: Eine Geschichte der Künstlichen Intelligenz in der Bundesrepublik Deutschland“. Anschließend gab es die Gelegenheit für Gedanken- und Gesprächsaustausch in den Räumen des Tutzinger Schlosses.
Der Samstag begann mit dem gegenseitigen Kennenlernen der 32 Teilnehmer*innen, die unterschiedlichste Perspektiven auf das Thema KI und Sprachassistenten mitbrachten, sowie der 5 Mitarbeiter*innen und Pfr. Dr. Hendrik Meyer-Magister, der durch die beiden Tage der Veranstaltung führte.
Beim praktischen Ausprobieren von Sprachassistenzsystemen in Kleingruppen entstanden die ersten Diskussionsfragen, die anschließend im Plenum verhandelt wurden – dabei zeigte sich sowohl die Heterogenität der Gruppe als auch die variierenden Erfahrungswerte und verschiedenen Einschätzungen hinsichtlich möglicher Chancen und Risiken im Umgang mit Sprachassistenzsystemen. Im ersten Workshop konnten die Reflexionen zur Funktionsweise von Dialogsystemen vertieft und verbildlicht werden, denn die Teilnehmer*innen skizzierten ihre persönliche Vorstellung davon, wie ein Sprachassistent Informationen erhält und verarbeitet, um eine möglichst passende Ausgabe zu generieren. Die Zeichnungen wurden im Anschluss im Plenum interpretiert und diskutiert.
Es folgten schließlich die wissenschaftlichen Impulsvorträge der IMPACT-Mitarbeiter*innen, die Sprachassistenten und KI aus informatischer, rechtlicher, psychologischer und ethischer Perspektive beleuchteten und mit einer offenen Fragerunde im Plenum abgeschlossen wurden.
Im zweiten und abschließenden Workshopteil erarbeiteten die Teilnehmer*innen, nun erneut in Kleingruppen, die Ergebnisse der beiden Tage sowie mögliche Forschungsanstöße und Wünsche an zukünftige KI- und Sprachsystemtechnologien.
Forschungsanstöße als Ergebnis des zweiten Citizen Science Workshops: IMPACT Citizen Science Workshop 2023
Die Ergebnisse des ersten IMPACT Dialogforums können nun online eingesehen werden: IMPACT Dialogforum 2020
11:00-11:30 Where did we come from? IMPACT overview
11:30-12:30 Transparency of AI – From legal requirements to their realization
by Barbara Hammer, André Artelt, Christian Geminn (IMPACT project)
12:30-13:30 Lunch Break
13:30-14:30 Keynote by Michael Ann DeVito (University of Colorado Boulder)
14:30-15:30 Communication with AI – Strategies of dialogue design and their effects on human behavior
by Stefan Kopp, Lina Mavrina, Nicole Krämer (IMPACT project)
15:30-16:00 Coffee Break
16:00-17:00 Poster Session
17:00-18:00 Panel Discussion From voice assistants to ChatGPT: Ethical and legal challenges of conversing with AI
Panelists: Bruno Gransche (Philosophy), Burkhard Schafer (Law), David Schlangen (Computer Science), Jessica Szczuka (Psychology), NN (Stiftung Neue Verantwortung)
18:00-19:00 Reception
9:00-10:00 Hybrid Intelligence for Contestation and Self-Reflection
by Catholijn Jonker (TU Delft)
10:00-11:00 Relationships with AI – Psychological and ethical implications of living with AI
by Aike Horstmann, Carina Weber, Arne Manzeschke (IMPACT project)
11:00-11:30 Coffee Break
11:30-12:30 From Asimov to ChatGPT: The emerging behavioral science of machines
by Iyad Rahwan (Max Planck Institute for Human Development, Berlin)
12:30-13:15 Lunch Break
13:15-14:30 Where to Go From Here? Open Research Questions and Introduction of New Research Endeavours
by Michael Baurmann (CAIS), Emmanuel Müller (Research Center Trustworthy Data), Barbara Hammer (Data-NInJa NRW)
Abstracts (max. 300 words) can be submitted until February 01, 2023 to kontakt@impact-projekt.de. Presentation will be in-person.
Nicole Krämer, Social Psychology: Media and Communication, University of Duisburg-Essen
Stefan Kopp, Social Cognitive Systems, Bielefeld University
Barbara Hammer, Machine Learning, Bielefeld University
Arne Manzeschke, Ethics and anthropology in health care, Lutheran University of Applied Sciences Nürnberg
We are very pleased to welcome you to our closing conference. Participation is free of charge, but we ask for prior registration.
