Leopoldina-Preis für Niki Kilbertus

Seit 1993 vergibt die Akademie den Leopoldina-Preis für junge Wissenschaftlerinnen und Wissenschaftler. Er wird jährlich an Nachwuchsforschende mit bemerkenswerten wissenschaftlichen Leistungen vergeben, deren Promotion nicht mehr als fünf Jahre zurückliegt. Der Auswahlkreis ist übernational und der Preis mit jeweils 5.000 Euro dotiert. Dieses Jahr wird der Preis an Helmholtz Munich Wissenschaftler Niki Kilbertus überreicht.

Faire und transparente KI

Prof. Dr. Niki Kilbertusuntersucht bei Helmholtz Munich und an der Technischen Universität München (TUM) ethische maschinelle Lernsysteme (ML). ML spielen in immer mehr Lebensbereichen eine wichtige Rolle, zum Beispiel in der medizinischen Diagnostik, bei Chatbots oder personalisierten Vorschlägen von Streaming-Anbietern. Wenn ML jedoch an sensiblen Stellen über Menschen entscheiden – beispielsweise bei Vorstellungsgesprächen oder beim Prüfen der Kreditwürdigkeit – muss Fairness und Transparenz sichergestellt werden. Niki Kilbertus gehört zu den Pionieren, die kausale Konzepte der Fairness bei automatisierten Entscheidungsprozessen formalisiert haben. Um Entscheidungen treffen zu können, müssen ML mit Daten trainiert werden, die sie zueinander in Beziehung setzen. Kilbertus legt in seiner Forschung einen besonderen Schwerpunkt auf die Ursache-Wirkungs-Beziehungen aus Beobachtungsdaten, die kausalen Inferenzen. Diese zielen darauf ab, echte kausale Zusammenhänge von bloßen Korrelationen in Daten zu unterscheiden. Bei der Weiterentwicklung des Systems sollen die ML in die Lage versetzt werden, sich von fehlerhaften Annahmen zu lösen und so angemessene Entscheidungen zu treffen. Die Forschung dient der Entwicklung von KI-Systemen, die nicht nur hochpräzise, sondern auch ethisch vertretbar, transparent und robust sind. Diese Entwicklung ist essenziell, um sicherzustellen, dass KI der Gesellschaft insgesamt zugutekommt, vertrauenswürdiger wird und gleichzeitig Risiken und Verzerrungen minimiert werden.