Panel 1 “Healthcare”
Vom Algorithmus-Hype zur klinischen Praxis: GenAI verantwortungsbewusst einsetzen
Generative KI (GenAI) wird das Potenzial zugeschrieben, die Gesundheitsversorgung, das öffentliche Gesundheitswesen und die gesundheitswissenschaftliche Forschung grundlegend zu verändern. Manche sprechen sogar von einer „KI-Revolution im Gesundheitswesen“. Während es vorstellbar ist, dass GenAI dazu beitragen könnte, komplexe medizinische Fälle zu bewältigen, die klinische Dokumentation zu optimieren oder neueste Forschungsergebnisse strukturiert verfügbar zu machen, muss ihr tatsächlicher Nutzen noch eindeutig nachgewiesen werden. So sind bereits eine Reihe von Risiken bekannt, wie beispielsweise die Generierung ungenauer, unvollständiger oder gar falscher Informationen, die Verwendung unbekannter oder minderwertiger Trainingsdaten oder die mangelnde Transparenz von Sicherheitsmaßnahmen wie Red Teaming-Aktivitäten. Darüber hinaus gibt es Bedenken, dass eine übermäßige Abhängigkeit von KI die Fähigkeiten von Ärzt:innen beeinträchtigen oder langfristig untergraben könnte. Weitere Bedenken auf gesellschaftlicher Ebene betreffen die zunehmende Dominanz großer Technologieunternehmen, die steigenden Umweltkosten der KI-Entwicklung und die beunruhigende Möglichkeit, dass GenAI menschliche Expertise in kritischen Entscheidungsbereichen verdrängen könnte.
Ein Ansatz zur Bewältigung dieser Herausforderungen ist die partizipative Gestaltung. Durch die aktive Einbindung verschiedener Interessengruppen - darunter Patient:innen, Kliniker:innen, Technolog:innen und politische Entscheidungsträger - stellt die partizipative Gestaltung sicher, dass digitale Gesundheitstechnologien die Bedürfnisse, Anliegen und Werte der Menschen widerspiegeln, für die sie gedacht sind. Dieser Ansatz kann dazu beitragen, KI-gestützte Werkzeuge zu entwickeln, die gerecht und inklusiv sind. Doch was ist nötig, um die Lücke zwischen Technologieentwicklung und klinischer Praxis zu schließen?
Das Panel bringt Expert:innen aus den Bereichen Gesundheitswesen, KI-Entwicklung, Ethik und Politik zusammen, um die komplexe und zwiespältige Natur von GenAI im digitalen Gesundheitswesen zu beleuchten - ihre Fähigkeit, bestehende Lücken im Zugang zur Gesundheitsversorgung und in der Gerechtigkeit zu schließen, aber auch ihr Potenzial, neue Ungleichheiten zu schaffen. Ethische Fragen wie Datenschutz, informierte Zustimmung und algorithmische Transparenz werden ebenso diskutiert wie die Frage, wie KI die Rolle des Gesundheitspersonals verändert. Darüber hinaus werden soziale Themen wie Ungleichheiten in der digitalen Kompetenz und der Zugang zu KI-basierten Werkzeugen behandelt. Schließlich wird untersucht, wie partizipative und interdisziplinäre Ansätze dazu beitragen können, die Herausforderungen und Chancen von GenAI für die digitale Gesundheit zu bewältigen.
Panel 2 “Knowledge, Skills and AI”
Wissen in einer digitalen und KI-gestützten Welt: Welches Wissen und Können kann moderne KI ergänzen, und helfen aufzubauen?
Was sollen, müssen, wollen wir (Menschen) können? – Um einen Job zu haben, um glücklich oder auch nur zufrieden zu sein? Der aktuelle Fortschritt, besonders in der generativen KI, aber ebenso in anderen Bereichen der Technologie-Entwicklung beispielsweise Robotik – stellt uns (wieder einmal) vor die Herausforderung, diese Fragen zu diskutieren.
Natürlich ist die Frage provokant formuliert: Oft ist noch nicht einmal ganz klar, was moderne KI - auf sich alleine gestellt, also ohne fähigen “Human-in-the-Loop” – denn tatsächlich viel besser kann, und besser als wer? Gleichzeitig könnten wir Menschen doch, egal was die KI kann, immer noch genau das tun und lernen, was uns interessiert. Dennoch stellt sich manchmal scheinbar die Frage: Was bleibt für uns Menschen übrig, wenn die KI alles kann - welches Wissen und Können ist es wert, sich aufzubauen? In diesem Panel stellen wir als Startpunkt die gestaltungsorientierte Frage:
Welches Wissen und Können kann moderne KI ergänzen, und helfen aufzubauen?
Als Grundlage und Inspiration für HCI Forschung macht dieses Panel eine Bestandsaufnahme von moderner KI im Alltag: Wie ist moderne KI in verschiedenste Lebensbereichen bereits eingebunden: Wie erhöht moderne KI bereits jetzt die Kompetenz und Selbstwirksamkeit von Menschen im privaten und beruflichen Alltag, und auf welche Weise wird Kompetenz(entwicklung) und Selbstwirksamkeit eingeschränkt?
Dieses Panel schließt damit an große aktuelle Themen in der Gesellschaft an, aber auch an große Themen aus dem Feld Mensch-Maschine Interaktion. Wann sind Automatisierung, Assistenztechnologien, oder Technologie als Werkzeug angebracht, und wie kann die jeweils unterschiedliche Aufgabenverteilung Mensch-Maschine gut designed werden? Was sind wichtige Design-Ziele - Produktivität, Selbstwirksamkeit und Kompetenz, Zufriedenheit und Wohlbefinden? Wie können diese Ziele in Hinblick auf sehr unterschiedliche Menschen mit unterschiedlichen Fähigkeiten, Hintergründen und Werten berücksichtigt werden?