Data, machines, AI: a curse or a blessing for medicine? - Another successful specialist event organized by HST and Human Medicine Alumni

This article is not translated. Please refer to the German version below.

Wie bereits letztes Jahr wurde die Podiumsdiskussion mit rund 35 Zuschauerinnen und Zuschauern von Simon Richle von der Nachrichtenredaktion des SRF moderiert. Bereits beim Einstieg entlockte er den Besucherinnen und Besuchern ein Lachen, indem er eine von ChatGPT generierte Vorstellung der Referentinnen und Referenten vorlas. In höchsten Tönen lobte ChatGPT den ersten Experten, Prof. Dr. med. Roland Wiest, für seine akademischen Erfolge in der klinischen Neuroradiologie und seine Forschungstätigkeiten im Bereich der künstlichen Intelligenz (KI), unter anderem im Zentrum für Künstliche Intelligenz CAIM in Bern.

Bereits bei der Vorstellung der zweiten Expertin, Dr. Sarah Brüningk, wurde dem Publikum klar, dass ChatGPT noch weit entfernt von einer fehlerfreien Funktionsweise ist. Die Physikerin und Leiterin der Forschungsgruppe Pediatric Oncology im Biomedical Data Science Lab an der ETH Zürich wurde nämlich durch den Chatbot als erfolgreiche Kinderärztin beschrieben, was aber eine Fehlinformation darstellt, wie Dr. Brüningk anschliessend schmunzelnd klarstellte. Der dritte und letzte Experte, Prof. Dr. Peter G. Kirchschläger, wurde dann wiederum korrekt als Theologe und Leiter des Instituts für Sozialethik ISE an der Universität Luzern, sowie Mitglied der Eidgenössischen Ethikkommission für die Biotechnologie im Ausserhumanbereich EKAH betitelt.

Die Referentinnen und Referenten nahmen den Vorfall mit der Fehlinformation durch ChatGPT als Anlass, um dem Publikum an diesem Beispiel zu erläutern, dass KI-Systeme wie Chatbots keineswegs «allwissende» Maschinen sind. Wenn die durch ChatGPT beschriebenen Personen nicht im Raum gewesen wären, um die Fehlinformation selbst zu korrigieren, hätten das anwesende Publikum genauso denken können, dass Dr. Sarah Brüningk tatsächlich Kinderärztin sei. Diese Erkenntnis machte deutlich, wie vorsichtig mit solchen Programmen umgegangen werden sollte.

Um allen Besucherinnen und Besuchern eine Basis an Wissen zu KI zu vermitteln, hielt Dr. Brüningk einen kurzen Input-Vortrag über Möglichkeiten von KI in der Medizin und Forschung und gewährte dem Publikum eine Einsicht in ihre Forschungstätigkeit in der Kinderonkologie. Dr. Brüningk erstaunte mit der Aussage, dass sie selbst in ihrem Alltag die Begriffe KI oder Artificial Intelligence (AI) kaum verwende, da diese sehr allgemein seien und in der Forschung die Begriffe einzelner KI Modelle wie beispielsweise Clustering, Deep Learning oder Natural Language Processing viel präsenter seien. KI beschrieb sie vereinfacht als die Simulation menschlicher Intelligenz durch Maschinen und wies darauf hin, dass KI Modelle aufgrund von vielen Beispielen lernen, eine Verbindung zwischen Datenpunkten herzustellen. So können in der Anwendung medizinische Daten wie Bilder oder Therapiedaten mithilfe von KI verwendet werden, um Diagnosen zu stellen oder um personalisierte Therapiestrategien zu entwickeln. Auch in der Automatisierung von Prozessen im Gesundheitswesen soll KI den Workload des Personals reduzieren.

In der anschliessenden Podiumsdiskussion wurden verschiedene gesellschaftliche und politische Aspekte angesprochen. Dr. Kirchschläger unterstrich die Notwendigkeit, einen internationalen Konsens zur Regulierung von KI zu schaffen, um die Gesellschaft vor dem Missbrauch dieser Lerntechnologien durch Nutzerinnen und Nutzer zu schützen, sowie eine Einheitlichkeit in der Forschung zu schaffen, um diese möglichst effizient vorantreiben zu können. Dr. Brüningk bestätigte diese Problematik und erläuterte, dass verschiedene Forschungsgruppen teilweise unterschiedliche Arten von Daten sammeln würden, sodass die Zusammenarbeit erschwert sei.

Dr. Wiest ergänzte die Diskussion mit einem Input-Vortrag zur klinischen Anwendung von KI in der medizinischen Bildgebung. Er klärte das Publikum über die häufigsten Fehlerquellen in der bildgebenden Diagnostik auf und unterstrich, dass KI als Hilfe-Tools ergänzend zum Menschen eingesetzt werden können, um Fehler in der Diagnostik zu reduzieren. Erstaunlich war, dass bisher nur sehr wenige KI-Anwendungen eine hohe Evidenzklasse aufweisen können, da erst wenige randomisierte kontrollierte Studien mit KI-Programmen durchgeführt wurden. Bereits eingesetzt wird ein KI-Programm in den USA, welches Schlaganfälle in der Bildgebung erkennen kann und in einer randomisierten Studie eine signifikante Reduktion der Zeit bis zum Therapiestart nachweisen konnte.

Weiter diskutierten die Expertinnen und Experten den wirtschaftlichen Aspekt von KI. Durch KI kann Arbeitszeit eingespart werden und Prozesse können optimiert werden. Dr. Kirchschläger wies dabei auf die ethische Frage hin, ob unsere Gesellschaft denn wolle, dass gewisse Berufsgruppen durch KI oder KI-basierte Roboter ersetzt werden. So gibt es beispielsweise bereits Pflege-Roboter, die anstelle von Pflegefachpersonen Patienten und Patientinnen betreuen. Dr. Kirchschläger argumentierte, KI-Systeme könnten zwar Menschlichkeit imitieren, aber könnten nicht das gleiche Vertrauen zu einem Patienten oder einer Patientin aufbauen und Emotionen spiegeln, wie ein Mensch. Er wies darauf hin, dass Länder wie Korea oder Japan einen viel offeneren Umgang mit KI und Robotern pflegten als die Schweiz. Diese Länder hätten sich schon seit vielen Jahren mit diesen Themen auseinandergesetzt und einen anderen Zugang dazu gefunden. So gäbe es bereits Beerdigungszeremonien für defekte Hilfs-Roboter, die jahrelang in einem Haushalt tätig waren.

Zum Abschluss wurde durch die Diskussionsrunde betont, dass nicht jede Person in der Gesellschaft einen gleichen Zugang zu KI habe und gleich intensiv damit in Berührung kommen wird. Dr. Brüningk stellte fest, dass die Zukunft oftmals nicht vorausgesehen werden kann. Als Beispiel nannte sie die weite Verbreitung von Smartphones, die man vor 20 Jahren noch nicht voraussehen konnte. Dr. Kirchschläger wendete ein, dass wir als Gesellschaft den Weg leiten können, den wir mit der Digitalisierung, mit Maschinen und KI einschlagen wollen.

Das Publikum ergänzte den Abend mit spannenden Zwischenfragen, die zu interessanten Diskussionen zwischen den Expertinnen und Experten beitrugen. Den gelungenen Abend verliessen die Zuschauerinnen und Zuschauer mit zufriendenen Gesichtern, neuem Wissen und lehrreichen Eindrücken über das Thema KI in Medizin und Forschung.

Die Vorstände der Alumni Mitgliederorganisationen Humanmedizin und HST bedanken sich herzlich bei allen Referentinnen und Referenten und dem Publikum.