paluno: Zoltán, die Session „Privacy-preserving technologies – a key enabler of big data for AI“ hatte ca. 100 Teilnehmer. Das Interesse war also groß. Worum ging es in der Session konkret?

Zoltán Mann: In der Session haben wir uns auf die technologischen Möglichkeiten konzentriert, KI mit den Anforderungen des Datenschutzes in Einklang zu bringen. Die EU fördert mehrere Forschungs- und Innovationsprojekte, die das Thema aus unterschiedlichen Blickwinkeln bearbeiten. Aus einigen laufenden und kürzlich abgeschlossenen Projekten wurden interessante Ergebnisse vorgestellt, z.B. aus den Projekten Papaya, Kraken, MOSAICrOWN und Musketeer. Das Ziel der Session war es, dass sich die Forscherinnen und Forscher über die Projekte hinweg vernetzen können, um mögliche technische Lösungen für den Datenschutz zu diskutieren.

paluno: Welche technischen Herausforderungen ergeben sich, wenn Künstliche Intelligenz auf Datenschutz trifft?

Zoltán Mann: Die Herausforderungen sind vielfältig. Beispielsweise ist die Sicherheit der Daten im Sinne von Security sicherzustellen und zusätzlich die Privatsphäre der Nutzer zu schützen, im Englischen Privacy bezeichnet. In der Regel müssen verschiedene Security- und Privacy-Protection-Ansätze kombiniert werden, um alle Anforderungen des Datenschutzes zu erfüllen. Beim Einsatz künstlicher Intelligenz kommt erschwerend hinzu, dass das Systemverhalten beim Design des Systems möglicherweise nicht vollständig vorhersehbar ist, obwohl Datenschutz „by design“ gewährleistet werden müsste.

Die Ansätze, die beim EBDVF präsentiert wurden, sind vielversprechend, aber sie sind zum Teil noch nicht ausgereift. Viele sind noch mit gewissen „Nebenwirkungen“ behaftet, die sich z.B. negativ auf die Performanz oder die Nutzerfreundlichkeit der Anwendungen auswirken. Auf dem Feld gibt es also noch einiges zu tun.

paluno: Welche neuen Fragen werfen KI-Anwendungen auf?

Zoltán Mann: Viele KI-Anwendungen basieren auf maschinellem Lernen. Solche Anwendungen funktionieren nur, wenn auf Basis von realistischen Daten Modelle für den gegebenen Einsatzzweck trainiert werden. Dabei können die Trainingsdaten auch sensible persönliche Daten umfassen. Kann jemand auf Basis der Modelle Rückschlüsse auf die persönlichen Daten einzelner Personen treffen? Welche Schutzmechanismen müssen hier getroffen werden? Wie kann man garantieren, dass die Trainingsdaten geschützt bleiben? Das sind Fragen, die geklärt werden müssen, um Verletzungen des Datenschutzes zu verhindern.

paluno: Kann KI denn auch helfen, Daten besser zu schützen?

Zoltán Mann: Ja, KI könnte zum Beispiel helfen, Angriffe von Hackern auf IT-Systeme zu erkennen. Außerdem könnte sie künftig dazu beitragen, Abwehr- oder Schutz-Mechanismen zu automatisieren. Aber das ist nur die eine Seite der Medaille. Auch Hacker können KI einsetzen, um z.B. das Verhalten von Nutzern auszuspionieren oder um Schutzmechanismen zu täuschen.

paluno: Künstliche Intelligenz fordert den Datenschutz also mächtig heraus. Danke für die Einblicke, in dieses wichtige Forschungsfeld.