Professur „Causality“ am Research Center Trustworthy Data Science and Security besetzt

Die neue Professur ist bereits die siebte am 2021 gegründeten Forschungszentrum, das sich mit der Vertrauenswürdigkeit von intelligenten Systemen in sicherheitskritischen Anwendungen befasst. Alexander Marx widmet sich hier kausalen und nicht-kausalen Zusammenhängen: Anwender*innen von KI stoßen regelmäßig auf das Problem, dass KI das Konzept von Ursache und Wirkung, also Kausalität, anders als Menschen nicht intuitiv versteht. So begreifen wir beispielsweise, dass bei Kindern Größe und Intelligenz vom Alter abhängen. Eine KI könnte hingegen den Fehlschluss ziehen, dass der IQ das Gewicht beeinflusse. Sie ist gut darin, in einer großen Datenmenge Muster zu erkennen, verwechselt aber statistische Zusammenhänge häufig mit Kausalität.

Um solche Irrtümer zu vermeiden und Abläufe in der Mustererkennung transparent zu machen, möchte Marx erforschen, wie KI-Modelle kausale Netzwerke in Beobachtungsdaten erkennen und abbilden. Er arbeitet in diesem Bereich interdisziplinär und kooperiert zum Beispiel mit Mediziner*innen: Bei der Betrachtung von Genaktivitätsdaten ist oft unklar, ob bestimmte Gene sich gegenseitig beeinflussen oder ob ihre gleichzeitige Aktivität andere Gründe hat. Indem die Arbeitsweise der KI transparenter und präziser wird, können Nutzer*innen hier genauere Vorhersagen bei der Erforschung von genetisch bedingten Krankheiten treffen.

Falschannahmen der KI vermeiden

Einen weiteren Schwerpunkt setzt Marx darauf, robuste und vertrauenswürdige Machine-Learning-Modelle zu entwickeln. Die Algorithmen werden mithilfe von Daten unterschiedlicher Art wie Text, Video oder Bild trainiert, anhand derer sie aber mitunter nicht die tatsächlichen Ursache-Wirkungs-Beziehungen, sondern auch nicht-kausale Korrelationen lernen, sodass Falschannahmen entstehen. Marx setzt hier an der Frage an, wie solche Modelle, die etwa bei autonomen Fahrzeugen und auch in der Medizin zum Einsatz kommen, beschaffen sein müssen, damit keine Fehlschlüsse entstehen und wir ihnen vertrauen können. „Das Forschungsgebiet Causality hat viele Schnittstellen zu anderen Bereichen“, sagt Alexander Marx über sein Forschungsgebiet. „Ich freue mich sehr auf die Zusammenarbeit mit den Kolleginnen und Kollegen aus der Statistik und der Informatik und auch auf interdisziplinäre Projekte mit Partnern aus der Medizin, Biologie oder Psychologie.“

Zuvor war Marx in Saarbrücken, Amsterdam, Zürich und Basel tätig. Für seine 2021 abgeschlossene Promotion in Informatik forschte er am Max-Planck-Institut für Informatik sowie dem CISPA Helmholtz-Zentrum für Informationssicherheit in Saarbrücken und absolvierte einen Gastaufenthalt an der Universität Amsterdam. Im Anschluss ging er an die ETH Zürich, wo er im AI Center zu den Themen Causal Discovery, Causal Representation Learning und Informationstheorie sowie interdisziplinären Projekten an der Schnittstelle zwischen Maschinellem Lernen und der Medizin gearbeitet hat. Vor seiner Berufung analysierte Marx an der Computational Biology Group der ETH Zürich Machine-Learning-Modelle für biomedizinische Anwendungen bei HIV-Erkrankungen. Seit 2024 ist er außerdem Mitglied beim European Laboratory for Learning and Intelligent Systems (ELLIS).