Federated Learning

Federated learning is een gedecentraliseerde benadering van machine learning waarbij een model wordt getraind over meerdere apparaten of servers die elk hun eigen lokale dataset bezitten, zonder dat die ruwe data ooit wordt gedeeld of gecentraliseerd. In plaats van alle data naar een centrale server te sturen, wordt een kopie van het model naar elk deelnemend apparaat of elke deelnemende organisatie gestuurd, waar het lokaal wordt getraind op de aanwezige data. Alleen de resulterende modelupdates, zoals aangepaste gewichten of gradients, worden teruggestuurd naar een centrale server, die deze updates aggregeert, vaak via een techniek als federated averaging, tot een verbeterd gedeeld model. Dit proces wordt herhaald over meerdere rondes totdat het model voldoende nauwkeurig is. Omdat de onderliggende data nooit het apparaat of de organisatie verlaat, biedt federated learning een manier om te profiteren van grote, diverse datasets terwijl gevoelige of persoonsgebonden informatie lokaal blijft. De techniek wordt vaak gecombineerd met aanvullende privacywaarborgen zoals differential privacy en secure aggregation om te voorkomen dat individuele datapunten alsnog kunnen worden afgeleid uit de verzonden modelupdates. Federated learning wordt toegepast in uiteenlopende scenario's, van het trainen van modellen op smartphones zonder gebruikersdata te centraliseren, tot samenwerking tussen ziekenhuizen of banken die wettelijk niet zonder meer data mogen uitwisselen.

In Nederland groeit de belangstelling voor federated learning gestaag, vooral in sectoren waar strenge privacyregels en concurrentiegevoeligheid het centraliseren van data lastig of onwenselijk maken, zoals de zorg, de financiële sector en de publieke sector. Nederlandse ziekenhuizen en onderzoeksinstellingen experimenteren met federated learning om modellen te trainen op medische beelddata van meerdere locaties zonder patiëntgegevens te delen, mede aangejaagd door de strikte eisen van de AVG en de aankomende Europese AI-verordening. Financiële instellingen onderzoeken de techniek voor fraudedetectie en kredietrisicomodellen waarbij meerdere partijen willen samenwerken zonder onderlinge klantdata uit te wisselen. Omdat federated learning relatief gespecialiseerde kennis vereist op het snijvlak van machine learning, gedistribueerde systemen en privacytechnologie, is het aanbod van ervaren specialisten in Nederland nog beperkt, wat deze vaardigheid tot een onderscheidende troef maakt voor machine learning engineers en AI-onderzoekers. Werkgevers zoeken vaak kandidaten die niet alleen de modelmatige kant begrijpen, maar ook kunnen omgaan met de infrastructurele en organisatorische complexiteit van gedistribueerde training over meerdere partijen, inclusief naleving van relevante privacywetgeving en security-eisen.

• Concepten: Gedecentraliseerde training, Federated averaging, Non-IID data, Communicatie-efficiëntie, Client-server-architectuur

• Privacy & beveiliging: Differential privacy, Secure aggregation, Homomorfe encryptie, Membership inference-aanvallen

• Toepassingen: Mobiele en edge-apparaten, Gezondheidszorgdata, Financiële samenwerking tussen organisaties, Cross-silo versus cross-device learning

• Techniek & infrastructuur: Gedistribueerde systemen, Model- en gradient-compressie, Asynchrone training, Edge computing

• Tools & frameworks: TensorFlow Federated, PySyft, Flower, NVIDIA FLARE

• Talen: Python, kennis van netwerk- en beveiligingsprotocollen

• Machine Learning Engineer

• AI Research Scientist

• Privacy Engineer

• Data Scientist

• MLOps Engineer

• Distributed Systems Engineer