Anonymisierungsforschung als AnoMed-Brettspiel beim KI Erlebnistag

Die Menge medizinisch relevanter sensibler Daten wächst rasant und basierend auf maschinellen Lernverfahren (sog. KI-Verfahren) können diese Daten immer nutzbringender verarbeiten werden. Diese Lernverfahren geben allerdings Informationen über die sensiblen medizinischen Daten preis, die mit ihnen verarbeitet wurden. Wie kann man also medizinische Daten nutzbringend verarbeiten und gleichzeitig sensible Informationen von Patient:innen schützen? Die Forschung hat in den letzten Jahren für dieses sogenannte Privatheits-Problem vielversprechende Fortschritte gemacht; für die meisten medizinischen Anwendungen ist allerdings noch viel Forschung nötig. Genau hier setzt AnoMed als eines von bundesweit fünf vom BMBF und der EU geförderten Kompetenzclustern Anonymisierung an.

Im Rahmen des AnoMed Projektes stellen die Forscher:innen ein interaktives Brettspiel vor. In diesem zeigen sie Gefahren für die Privatsphäre, die aus dem Training von KI-Modellen entstehen, spielerisch auf. Das Spiel basiert auf Karten mit persönlichen Angaben zu Personen, wie Beruf, Interessensmerkmale, und Haushaltssituation. Aus diesen Karten wählt ein:e Spieler:in 5 Karten aus und “trainiert ein Modell”: Aus den Attributen ergeben sich direkt die “Modellparameter” als Positionen von Spielsteinen. Die anderen Spieler, als Angreifer, versuchen dann, aus den Positionen der Spielsteine zu erknobeln, was die privaten Attribute der Karten genau waren.

Die spielerisch simple Darstellung zeigt eine der bekannten Gefahren von komplexen KI-Modellen auf: auch wenn auf den ersten Blick die Parameter der Modelle für einen Menschen unverständlich sein mögen, so können sie doch sensible Informationen über die Trainingsdaten enthalten. Hinreichend geschickte oder ressourcenreiche Angreifer können solche Informationen aus dem Modell ablesen. Zwar ist die Zahl der Trainingsdaten in der Praxis deutlich größer (Millionen von Datenpunkten, statt nur 5 aus 15 Spielkarten), aber auch die Modelle haben eine viel größere Zahl an Parametern (Millionen von Parametern statt 4 Farben). Mit dem Spiel hoffen die Forscher:innen, einen Dialog zu eröffnen, der sowohl ein grundsätzliches Interesse an der Thematik weckt, als auch eine Plattform für detailliertere Diskussionen bietet.