Zum Inhalt springen
Technische Universität München
Privatsphäreerhaltender Algorithmus

Privatsphäre-erhaltendes und vertrauenswürdiges maschinelles Lernen

Trotz einer stark zunehmenden Verfügbarkeit von höchst leistungsfähigen algorithmischen Werkzeugen für statistische Modellierungen und maschinelles Lernen, werden Lösungen zu vielen der weltweit wichtigsten Probleme durch einen Mangel an wissenschaftlichen Daten beeinträchtigt. Gründe für dieses Ungleichgewicht sind in rechtlichen oder auch ethischen Einschränkungen zu finden in Feldern wie z.B. der Medizin, aber auch im wettbewerblichen Vorteil solcher Daten, die deren Besitzer davon abschrecken diese zu teilen. Diese Einschränkungen, obwohl begründbar und notwendig, führen oftmals zu zweifelhaften Ergebnissen. Ein Beispiel dafür sind die vielen Künstliche-Intelligenz-Algorithmen, die von den für Lebensmittel und Medikamente verantwortlichen Behörden zugelassen werden, obwohl sie nur anhand weniger tausend Datensätze trainiert wurden.

In beiden vorgenannten Fällen kann das Dilemma zwischen Datennutzung und Datenschutz aufgelöst werden indem eine fundamentale Annahme formuliert wird: Es ist nicht der Zugriff auf die Daten, der benötigt wird, sondern der Zugang zu den Erkenntnissen, die aus diesen Daten gewonnen werden können.

Technologien zu Privatsphäre wie differenzielle Privatsphäre, verschlüsselte Berechnung und verteiltes Lernen können diese Lücke überbrücken indem sie die Möglichkeit bieten, Algorithmen anhand von Daten, die nicht lokal verfügbar sind, unter Beibehaltung von Kontroll- und Besitzrechten zu trainieren, aber auch gleichzeitig informationstheoretische Garantien zu Privatsphäre und Vertraulichkeit bereitzustellen.

News

PPTML Workshop

Event, Veranstaltung, PPTML |

Das MDSI veranstaltet einen Eröffnungs-Workshop zum Thema Privatsphäre-erhaltendes und vertrauenswürdiges maschinelles Lernen (PPTML).

Wir laden die Wissenschaftler der TUM zu diesem Halbtages-Workshop am 13. September 2021, 13:00-17:00 Uhr, ein und freuen uns über deren Beiträge. Während des Workshops werden sich die Teilnehmer gegenseitig vorstellen und näher kennenlernen. Dieses Event soll dazu dienen, die Wissenschaftler der TUM in diesem Bereich nah zusammenzubringen um gemeinsame Projekte zu ermöglichen, Drittmittel einzuwerben und das Netzwerken von Nachwuchswissenschaftlern zu stimulieren.

◄

Coded Distributed Computation with Application to Machine Learning
PI: A. Wachter-Zeh; DFG Sachbeihilfe

COALESCENCE: Coded Computation for Large Scale Machine Learning with Privacy Guarantees
PIs: A. Wachter-Zeh (TUM), D.Gunduz (ICL); TUM-ICL Joint Academy of Doctoral Studies (JADS)

SucheHinweis: Die „Schnellsuche“ findet nur Text in den angezeigten Feldern; nicht in Abstracts oder Schlagwörtern. Der Suchbegriff muss mindestens 3 Buchstaben lang sein.

2021

  • Bailleu, Maurice; Giantsidi, Dimitra; Gavrielatos, Vasilis; Quoc, Do Le; Nagarajan, Vijay; Bhatotia, Pramod: Avocado: A Secure In-Memory Distributed Storage System. 2021 USENIX Annual Technical Conference (USENIX ATC 21), USENIX Association, 2021 mehr…
  • Bitar, Rawad; Xing, Yuxuan; Keshtkarjahromi, Yasaman; Dasari, Venkat; El Rouayheb, Salim; Seferoglu, Hulya: Private and rateless adaptive coded matrix-vector multiplication. EURASIP Journal on Wireless Communications and Networking 2021 (1), 2021 mehr… Volltext ( DOI )
  • Harder, Felix N.; Jungmann, Friederike; Kaissis, Georgios A.; Lohöfer, Fabian K.; Ziegelmayer, Sebastian; Havel, Daniel; Quante, Michael; Reichert, Maximillian; Schmid, Roland M.; Demir, Ihsan Ekin; Friess, Helmut; Wildgruber, Moritz; Siveke, Jens; Muckenhuber, Alexander; Steiger, Katja; Weichert, Wilko; Rauscher, Isabel; Eiber, Matthias; Makowski, Marcus R.; Braren, Rickmer F.: [18F]FDG PET/MRI enables early chemotherapy response prediction in pancreatic ductal adenocarcinoma. EJNMMI Research 11 (1), 2021 mehr… Volltext ( DOI )
  • Hofmeister, Christoph; Bitar, Rawad; Xhemrishi, Marvin; Wachter-Zeh, Antonia: Secure Private and Adaptive Matrix Multiplication Beyond the Singleton Bound. 2021 mehr…
  • Hou, Benjamin; Kaissis, Georgios; Summers, Ronald; Kainz, Bernhard: RATCHET: Medical Transformer for Chest X-ray Diagnosis and Reporting. 2021 mehr…
  • Kaissis, Georgios; Ziller, Alexander; Passerat-Palmbach, Jonathan; Ryffel, Théo; Usynin, Dmitrii; Trask, Andrew; Lima, Ionésio, Jr; Mancuso, Jason; Jungmann, Friederike; Steinborn, Marc-Matthias; Saleh, Andreas; Makowski, Marcus; Rueckert, Daniel; Braren, Rickmer: End-to-end privacy preserving deep learning on multi-institutional medical imaging. Nature Machine Intelligence 3 (6), 2021, 473-484 mehr… Volltext ( DOI )
  • Knolle, Moritz; Kaissis, Georgios; Jungmann, Friederike; Ziegelmayer, Sebastian; Sasse, Daniel; Makowski, Marcus; Rueckert, Daniel; Braren, Rickmer: Efficient, high-performance semantic segmentation using multi-scale feature extraction. PLOS ONE 16 (8), 2021, e0255397 mehr… Volltext ( DOI )
  • Knolle, Moritz; Ziller, Alexander; Usynin, Dmitrii; Braren, Rickmer; Makowski, Marcus R.; Rueckert, Daniel; Kaissis, Georgios: Differentially private training of neural networks with Langevin dynamics for calibrated predictive uncertainty. 2021 mehr…
  • Meissen, Felix; Kaissis, Georgios; Rueckert, Daniel: Challenging Current Semi-Supervised Anomaly Segmentation Methods for Brain MRI. 2021 mehr…
  • Paetzold, Johannes C.; McGinnis, Julian; Shit, Suprosanna; Ezhov, Ivan; Büschl, Paul; Prabhakar, Chinmay; Todorov, Mihail I.; Sekuboyina, Anjany; Kaissis, Georgios; Ertürk, Ali; Günnemann, Stephan; Menze, Bjoern H.: Whole Brain Vessel Graphs: A Dataset and Benchmark for Graph Learning and Neuroscience (VesselGraph). 2021 mehr…
  • Thalheim, Jörg; Unnibhavi, Harshavardhan; Priebe, Christian; Bhatotia, Pramod; Pietzuch, Peter: rkt-io: a direct I/O stack for shielded execution. Proceedings of the Sixteenth European Conference on Computer Systems, ACM, 2021 mehr… Volltext ( DOI )
  • Usynin, Dmitrii; Ziller, Alexander; Makowski, Marcus; Braren, Rickmer; Rueckert, Daniel; Glocker, Ben; Kaissis, Georgios; Passerat-Palmbach, Jonathan: Adversarial interference and its mitigations in privacy-preserving collaborative machine learning. Nature Machine Intelligence 3 (9), 2021, 749-758 mehr… Volltext ( DOI )
  • Ziller, Alexander; Usynin, Dmitrii; Braren, Rickmer; Makowski, Marcus; Rueckert, Daniel; Kaissis, Georgios: Medical imaging deep learning with differential privacy. Scientific Reports 11 (1), 2021 mehr… Volltext ( DOI )
  • Ziller, Alexander; Usynin, Dmitrii; Knolle, Moritz; Prakash, Kritika; Trask, Andrew; Braren, Rickmer; Makowski, Marcus; Rueckert, Daniel; Kaissis, Georgios: Sensitivity analysis in differentially private machine learning using hybrid automatic differentiation. 2021 mehr…
  • Ziller, Alexander; Usynin, Dmitrii; Remerscheid, Nicolas; Knolle, Moritz; Makowski, Marcus; Braren, Rickmer; Rueckert, Daniel; Kaissis, Georgios: Differentially private federated deep learning for multi-site medical image segmentation. 2021 mehr…

2020

  • Bitar, Rawad; Parag, Parimal; El Rouayheb, Salim: Minimizing Latency for Secure Coded Computing Using Secret Sharing via Staircase Codes. IEEE Transactions on Communications 68 (8), 2020, 4609-4619 mehr… Volltext ( DOI )
  • Bitar, Rawad; Xhemrishi, Marvin; Wachter-Zeh, Antonia: Rateless Codes for Private Distributed Matrix-Matrix Multiplication. 2020 mehr…
  • Quoc, Do Le; Gregor, Franz; Arnautov, Sergei; Kunkel, Roland; Bhatotia, Pramod; Fetzer, Christof: secureTF: A Secure TensorFlow Framework. Proceedings of the 21st International Middleware Conference, ACM, 2020 mehr… Volltext ( DOI )

2019

  • Bailleu, Maurice; Thalheim, Jörg; Bhatotia, Pramod; Fetzer, Christof; Honda, Michio; Vaswani, Kapil: SPEICHER: Securing LSM-based Key-Value Stores using Shielded Execution. 17th USENIX Conference on File and Storage Technologies (FAST 19), USENIX Association, 2019 mehr…

2018

  • Krahn, Robert; Trach, Bohdan; Vahldiek-Oberwagner, Anjo; Knauth, Thomas; Bhatotia, Pramod; Fetzer, Christof: Pesos: policy enhanced secure object store. Proceedings of the Thirteenth EuroSys Conference, ACM, 2018 mehr… Volltext ( DOI )
To top