Artikel – Manchmal genügt ein falscher Klick, und schon sind die eigenen Gesundheitsdaten im Netz. Im digitalen Zeitalter vertrauen wir diese höchst sensiblen Informationen zunehmend KI-Modellen an. Doch wie sicher sind sie dort wirklich? Forschende der TU München haben jetzt eine besorgniserregende Lücke aufgedeckt, die vor allem einzelne Personen gefährdet.
Das Team um Doktorand Moritz Knolle untersuchte sogenannte Membership Inference Attacks. Dabei versuchen Angreifer herauszufinden, ob die Daten einer bestimmten Person in einem KI-Trainingsdatensatz enthalten waren. Bisher galten medizinische KI-Modelle als relativ resistent. „Leider haben die entsprechenden Tests immer nur ein durchschnittliches Risiko für alle Patienten ermittelt“, erklärt Knolle. Seine Analyse zeigt ein anderes Bild: In bestimmten Datensätzen konnten einzelne Personen mit fast hundertprozentiger Sicherheit identifiziert werden. Besonders betroffen sind Menschen mit seltenen Krankheitsmerkmalen. Ihr Datenprofil ist so einzigartig, dass es selbst aus einem anonymisierten Modell herausgelesen werden kann. Das erinnert mich an eine Diskussion mit einem Arztfreund, der die Digitalisierung begrüßt, aber die „gläserne Patientin“ fürchtet.
Die Lösung liegt nicht im Technik-Verzicht, sondern in besseren Schutzvorkehrungen. Die Forschenden fordern gezielte Sicherheitsaudits für Modelle, die mit sensiblen Daten arbeiten. Es geht darum, den Datenschutz von der breiten Masse auf das gefährdete Individuum zu fokussieren. In einer Welt, die immer mehr auf KI setzt, ist das nicht nur eine technische, sondern eine ethische Notwendigkeit. Unser Gesundheitswesen digitalisiert sich rasant – sein Wertemisst sich künftig auch am Schutz der Verwundbarsten.
- Membership Inference Attacks erklären
- Risiken für die Patienten analysieren
- Einzigartigkeit seltener Krankheitsmerkmale
- Sicherheitslücken in KI-Modellen aufdecken
- Schutzvorkehrungen verbessern
- Fokussierung auf das gefährdete Individuum
| Kategorie | Aspekt |
|---|---|
| Forschungszentrum | TU München |
| Hauptfokus | Membership Inference Attacks |
| Bedrohung | Identifikation von Personen |
| Risiko für | Seltene Krankheitsmerkmale |
| Empfehlung | Sicherheitsaudits |
| Notwendigkeit | Ethische Verantwortung |
