Panel 1 “Healthcare”, 01.09., 04:00 pm
Vom Algorithmus-Hype zur klinischen Praxis: GenAI verantwortungsbewusst einsetzen
Generative KI (GenAI) wird das Potenzial zugeschrieben, die Gesundheitsversorgung, das öffentliche Gesundheitswesen und die gesundheitswissenschaftliche Forschung grundlegend zu verändern. Manche sprechen sogar von einer „KI-Revolution im Gesundheitswesen“. Während es vorstellbar ist, dass GenAI dazu beitragen könnte, komplexe medizinische Fälle zu bewältigen, die klinische Dokumentation zu optimieren oder neueste Forschungsergebnisse strukturiert verfügbar zu machen, muss ihr tatsächlicher Nutzen noch eindeutig nachgewiesen werden. So sind bereits eine Reihe von Risiken bekannt, wie beispielsweise die Generierung ungenauer, unvollständiger oder gar falscher Informationen, die Verwendung unbekannter oder minderwertiger Trainingsdaten oder die mangelnde Transparenz von Sicherheitsmaßnahmen wie Red Teaming-Aktivitäten. Darüber hinaus gibt es Bedenken, dass eine übermäßige Abhängigkeit von KI die Fähigkeiten von Ärzt:innen beeinträchtigen oder langfristig untergraben könnte. Weitere Bedenken auf gesellschaftlicher Ebene betreffen die zunehmende Dominanz großer Technologieunternehmen, die steigenden Umweltkosten der KI-Entwicklung und die beunruhigende Möglichkeit, dass GenAI menschliche Expertise in kritischen Entscheidungsbereichen verdrängen könnte.
Ein Ansatz zur Bewältigung dieser Herausforderungen ist die partizipative Gestaltung. Durch die aktive Einbindung verschiedener Interessengruppen - darunter Patient:innen, Kliniker:innen, Technolog:innen und politische Entscheidungsträger - stellt die partizipative Gestaltung sicher, dass digitale Gesundheitstechnologien die Bedürfnisse, Anliegen und Werte der Menschen widerspiegeln, für die sie gedacht sind. Dieser Ansatz kann dazu beitragen, KI-gestützte Werkzeuge zu entwickeln, die gerecht und inklusiv sind. Doch was ist nötig, um die Lücke zwischen Technologieentwicklung und klinischer Praxis zu schließen?
Das Panel bringt Expert:innen aus den Bereichen Gesundheitswesen, KI-Entwicklung, Ethik und Politik zusammen, um die komplexe und zwiespältige Natur von GenAI im digitalen Gesundheitswesen zu beleuchten - ihre Fähigkeit, bestehende Lücken im Zugang zur Gesundheitsversorgung und in der Gerechtigkeit zu schließen, aber auch ihr Potenzial, neue Ungleichheiten zu schaffen. Ethische Fragen wie Datenschutz, informierte Zustimmung und algorithmische Transparenz werden ebenso diskutiert wie die Frage, wie KI die Rolle des Gesundheitspersonals verändert. Darüber hinaus werden soziale Themen wie Ungleichheiten in der digitalen Kompetenz und der Zugang zu KI-basierten Werkzeugen behandelt. Schließlich wird untersucht, wie partizipative und interdisziplinäre Ansätze dazu beitragen können, die Herausforderungen und Chancen von GenAI für die digitale Gesundheit zu bewältigen.
Panel 2 “Knowledge, Skills and AI”, 02.09., 04:00 pm
Wissen in einer digitalen und KI-gestützten Welt: Welches Wissen und Können kann moderne KI ergänzen, und helfen aufzubauen?
Was sollen, müssen, wollen wir (Menschen) können? – Um einen Job zu haben, um glücklich oder auch nur zufrieden zu sein? Der aktuelle Fortschritt, besonders in der generativen KI, aber ebenso in anderen Bereichen der Technologie-Entwicklung beispielsweise Robotik – stellt uns (wieder einmal) vor die Herausforderung, diese Fragen zu diskutieren.
Natürlich ist die Frage provokant formuliert: Oft ist noch nicht einmal ganz klar, was moderne KI - auf sich alleine gestellt, also ohne fähigen “Human-in-the-Loop” – denn tatsächlich viel besser kann, und besser als wer? Gleichzeitig könnten wir Menschen doch, egal was die KI kann, immer noch genau das tun und lernen, was uns interessiert. Dennoch stellt sich manchmal scheinbar die Frage: Was bleibt für uns Menschen übrig, wenn die KI alles kann - welches Wissen und Können ist es wert, sich aufzubauen? In diesem Panel stellen wir als Startpunkt die gestaltungsorientierte Frage:
Welches Wissen und Können kann moderne KI ergänzen, und helfen aufzubauen?
Als Grundlage und Inspiration für HCI Forschung macht dieses Panel eine Bestandsaufnahme von moderner KI im Alltag: Wie ist moderne KI in verschiedenste Lebensbereichen bereits eingebunden: Wie erhöht moderne KI bereits jetzt die Kompetenz und Selbstwirksamkeit von Menschen im privaten und beruflichen Alltag, und auf welche Weise wird Kompetenz(entwicklung) und Selbstwirksamkeit eingeschränkt?
Dieses Panel schließt damit an große aktuelle Themen in der Gesellschaft an, aber auch an große Themen aus dem Feld Mensch-Maschine Interaktion. Wann sind Automatisierung, Assistenztechnologien, oder Technologie als Werkzeug angebracht, und wie kann die jeweils unterschiedliche Aufgabenverteilung Mensch-Maschine gut designed werden? Was sind wichtige Design-Ziele - Produktivität, Selbstwirksamkeit und Kompetenz, Zufriedenheit und Wohlbefinden? Wie können diese Ziele in Hinblick auf sehr unterschiedliche Menschen mit unterschiedlichen Fähigkeiten, Hintergründen und Werten berücksichtigt werden?
Moderation
(nur in deutscher Sprache verfügbar)
Viktoria Pammer-Schindler – Professorin an der TU Graz und wiss. Bereichsleiterin am Know-Center, forscht zu digitalen und KI-gestützten interaktive Systeme die wissensintensive und kreative Tätigkeiten unterstützen, sowie die Weiterentwicklung von Kompetenz und Expertise im – computergestützten – Tun.
Panel Expert*innen
(alphabetische Reihenfolge, nur in deutscher Sprache verfügbar)
Fiona Draxler – Postdoktorandin an der Universität Mannheim, erforscht Nutzer:innenperspektiven auf die Mensch-KI-Interaktion in Anwendungsbereichen wie personalisiertem Lernen und Ko-Kreation
Lars Fritzsche – Beschäftigt sich als Geschäftsführer der imk Industrial Intelligence GmbH und Psychologe sehr intensiv mit der Frage, wie wir KI Technologien einsetzen können, um die Nutzung unserer Software zur Produktionsplanung noch intuitiver und effizienter zu machen. Dabei steht ein nutzerzentrierter Ansatz im Mittelpunkt und es ist das Ziel, mittels KI das Erfahrungswissen unserer Expertennutzer auch für Einsteiger zugänglich zu machen.
Jayanto Halim – Gründer des Fraunhofer IWU Spin-Offs Botfellows, das sichere, einfache und nahtlose Mensch-Roboter Kooperation in der Produktion entwickelt; interessiert daran, Roboter in komplexen Arbeitsprozessen für Domänen- und Prozess-Expert*innen zugänglich zu machen, ohne Coding Expertise zu erwarten.
Thomas Kosch – Professor für Human-Computer Interaction an der Humboldt-Universität zu Berlin, erforscht, wie KI-Systeme gestaltet sein müssen, um effiziente, vertrauensvolle und kooperative Interaktionen zwischen Mensch und KI zu ermöglichen.
Sarah Lange – Professorin für Schulpädagogik der Primarstufe, befasst sich in ihrer Forschung mit Informatik und KI im Grundschulunterricht und mit KI-Kompetenzen von Grundschullehrkräften. Potentiale von KI sieht sie besonders für die lernförderliche Nutzung von Mehrsprachigkeit im Unterricht und der Lernassistenz von Lehrkräften im inklusiven Umgang mit Heterogenität.
Thomas Ludwig – Professor an der FernUniversität in Hagen, forscht im Bereich der Gestaltung menschzentrierter KI und LLMs sowie deren Aneignung komplexen Anwendungsfeldern.
Christina Schneegass – Professorin für Kognition & Design an der TU Delft in den Niederlanden; erforscht wie wir digitale Technologien und KI Systeme designen können und müssen, um die kognitive Prozesse der Nutzer sowie deren Selbstwirksamkeit zu stärken.