Datenschutzfreundliche KI für den öffentlichen Sektor: Digital Society Institute der ESMT Berlin veröffentlicht gemeinsames Positionspapier mit Xayn

“Will Deutschland in Zukunft im globalen KI-Wettbewerb mitspielen, brauchen wir auch im öffentlichen Sektor effiziente und vor allem datenschutzfreundliche Technologien. Neue dezentrale Ansätze wie das Masked Federated Learning vereinen beides – und können so zu einem EU-Modell für die verantwortungsvolle KI-Nutzung werden”, erklärt Professor Michael Huth, Chief Research Officer bei Xayn, Dekan am Imperial College London und Ko-Autor der Stellungnahme.  

“Auch in sensiblen Bereichen der Daseinsvorsorge wie dem Gesundheitswesen oder der öffentlichen Sicherheit hat Künstliche Intelligenz große Potentiale. Datenschutzfreundliche Technologien stehen dafür zur Verfügung”, betont Martin Schallbruch, Direktor des Digital Society Institute der ESMT Berlin und Ko-Autor der Stellungnahme.  

Eckpunkte des gemeinsamen Positionspapiers:

• Masked Federated Learning ist eine dezentrale Technologie, die Datenschutz und Künstliche Intelligenz (KI) miteinander vereint. Die Rohdaten bleiben stets auf den Endgeräten der Nutzer und trainieren direkt vor Ort lokale KI-Modelle. Diese Modelle werden verschlüsselt zu einem globalen Modell aggregiert und zurückgespielt. Dadurch bleibt der Datenschutz zu jeder Zeit gewahrt, während gleichzeitig die DSGVO-konforme KI effizient trainiert wird. 
• Der öffentliche Gesundheitssektor kann vom Einsatz des föderierten Lernens maßgeblich profitieren – zum Beispiel bei der Prävention und Bekämpfung zukünftiger Pandemien. Dazu können sowohl geräte-übergreifende Anwendungen (z. B. Smartphone-Apps zur Einschätzung des persönlichen Risikos) mit silo-übergreifenden Anwendungen (z. B. Datenbanken der Gesundheitsämter zur aktuellen Infektionslage) kombiniert werden. Mit dieser kollaborativen, dezentralisierten Technik könnten Risiken schneller erkannt und eingedämmt werden, während gleichzeitig die hochsensiblen Nutzerdaten auf den Endgeräten verbleiben und so stets geschützt sind. 
• Für die öffentliche Sicherheit und Strafverfolgung könnte föderiertes Lernen eingesetzt werden, um Ermittlungen über verschiedene Polizeibehörden hinaus zu unterstützen. Polizeibehörden könnten so von dem Erfahrungswissen anderer Behörden profitieren, ohne die personenbezogenen Informationen miteinander zu teilen. Potenzielle Einsatzgebiete sind zum Beispiel Cybercrimes wie Identitätsdiebstahl oder Delikte mit Bildern sexualisierter Gewalt gegen Kinder und Jugendliche.  
• DSGVO-konforme, leistungsfähige KI kann die Effizienz steigern, das Vertrauen der Bürger*innen in die Verwaltung stärken und zu einem EU-Modell für die verantwortungsvolle Nutzung von KI werden. 

Download:  

Das gemeinsame Positionspapier “Künstliche Intelligenz für den öffentlichen Sektor: Masked Federated  Learning als datenschutzfreundliche Lösung” können Sie hier herunterladen. 

***

Zu den Autorinnen und Autoren:  

Professor Michael Huth ist Mitgründer und Chief Research Officer von Xayn und lehrt seit 2001 Computer Science am Imperial College London. Seine Spezialgebiete sind Cybersecurity sowie Sicherheit und Datenschutz beim Machine Learning. 

Martin Schallbruch ist Direktor des Digital Society Institute der ESMT Berlin und Lehrbeauftragter am Karlsruher Institut für Technologie. Zuvor war er u. a. Leiter der Abteilung Informationstechnik, Digitale Gesellschaft und Cybersicherheit im Bundesministerium des Innern. 

Dr. Leif-Nissen Lundbæk ist Mitgründer und CEO von Xayn. Er studierte Mathematik und Software Engineering in Berlin, Heidelberg sowie Oxford und erhielt seinen Ph.D. am Imperial College London. 

Dr. Clara Herdeanu ist Head of Communications von Xayn. Zuvor beriet sie Digitalunternehmen wie Mozilla, StackOverflow und OpenXchange und kommunizierte für den Weltmarktführer ebm-papst.  

Lola Attenberger forscht am Digital Society Institute der ESMT Berlin zu Cybersecurity. Zuvor studierte sie an der Hochschule für Wirtschaft und Recht Berlin. 

Über das Digital Society Institute (DSI)  

Das Digital Society Institute (DSI) ist ein interdisziplinäres Forschungsinstitut der ESMT Berlin, das unterstützt von führenden globalen Unternehmen 2015 gegründet wurde. Es begleitet die wirtschaftliche und gesellschaftliche Gestaltung der Digitalisierung durch strategische Forschung und Entwicklung mit einem Schwerpunkt bei der Cybersicherheit.  

Über Xayn 
Xayn ist eine sichere Suchmaschine, die Nutzer*innen Kontrolle über die Algorithmen gibt und transparent personalisierte Suchergebnisse liefert. Xayn basiert auf aktueller Forschung zu datenschutzfreundlicher Künstlicher Intelligenz aus Europa und hat das Ziel, über nutzerfreundliche Privatsphäre-Technologie Datenschutz für alle zugänglich zu machen.  

Das KI-Unternehmen begann als Forschungsprojekt von Dr. Leif-Nissen Lundbæk und Professor Michael Huth an der Universität Oxford und dem Imperial College London. Zusammen mit Felix Hahmann gründeten sie 2017 das Technologieunternehmen. Der akademische Hintergrund spiegelt sich auch im 27-köpfigen Team, das aus 30 Prozent promovierten Wissenschaftler*innen besteht. Das Berliner Unternehmen entwickelte die Open-Source-Plattform XayNet für Federated Learning und Analytics, auf der auch die Suchmaschine Xayn basiert. Earlybird VC und Dominik Schiener investierten in das Unternehmen, das bereits mit Porsche, Daimler, der Deutschen Bahn und Siemens arbeitete. 

Über die ESMT Berlin

Die ESMT Berlin ist eine weltweit führende Wirtschaftsuniversität. Von 25 globalen Unternehmen gegründet, bietet die ESMT Master-, MBA- und PhD-Studiengänge sowie Managementweiterbildung an. Die Kurse werden auf dem Berliner Campus, an Standorten weltweit, online sowie als hybride Kurse mit Teilpräsenz angeboten. Mit einem Fokus auf Leadership, Innovation und Analytics veröffentlichen die Professorinnen und Professoren der ESMT regelmäßig ihre Forschungsergebnisse in führenden wissenschaftlichen Publikationen. Zusätzlich bietet die ESMT eine Plattform für den Diskurs zwischen Politik, Wirtschaft und Wissenschaft. Die ESMT ist eine staatlich anerkannte private wissenschaftliche Hochschule mit Promotionsrecht und ist von AACSB, AMBA, EQUIS und ZEvA akkreditiert. Die Business School engagiert sich für Vielfalt, Gleichstellung und Inklusion in all ihren Aktivitäten und Gemeinschaften.