Administratieve informatie
| Titel | Federated Learning — Vooruitgangen en open uitdagingen |
| Looptijd | 45-60 |
| Module | C |
| Type les | Lezing |
| Focus | Technisch — Toekomstige AI |
| Onderwerp | Vooruitgang in ML-modellen door middel van een HC-lens — Een resultaatgericht onderzoek |
Sleutelwoorden
Federated Learning, Gedecentraliseerde gegevens, Schaalbaarheid, Niet-convex optimalisatie,Bias en Eerlijkheid,
Leerdoelen
- Identificeer en bespreek de vooruitgang van Federated Learning
- Open uitdagingen van gefedereerd leren herkennen en de voorgestelde oplossingen bespreken
Verwachte voorbereiding
Leren van gebeurtenissen die moeten worden voltooid voordat
Verplicht voor studenten
- Inleiding tot machine learning en deep learning concepten gegeven in eerdere lezingen
Optioneel voor studenten
Geen.
Referenties en achtergronden voor studenten
Aanbevolen voor docenten
Geen.
Instructies voor docenten
Het doel van deze lezing is om studenten te leren hoe machine learning modellen kunnen worden verfijnd wanneer het model is geïmplementeerd op een apparaat. Deze lezing moet betrekking hebben op enkele van de basisconcepten in FL, maar richt zich op de open problemen, vooruitgang en uitdagingen die hieronder worden geschetst.
Omtrek
| Looptijd | Omschrijving | Concepten | Activiteit | Materiaal |
|---|---|---|---|---|
| 5 min. | Federated Learning (FL) levenscyclus & training | Levenscyclus (probleemidentificatie, instrumentatie, prototyping, opleiding, evaluatie, uitrol), opleiding (selectie, uitzending, berekening, aggregatie, modelupdate) | Geleerde sessie en voorbeelden | Lesmateriaal |
| 10 min. | Algoritmische & praktische uitdagingen | Volledig gedecentraliseerd/Peer-to-Peer Distributed Learning, SGD en netwerktopologieën, compressie- en kwantisatiemethoden, Blockchain-implementatie van centrale server voor aggregatie, Cross-Silo (FL), Split learning | Geleerde sessie en voorbeelden | Lesmateriaal |
| 5 min. | Efficiëntie & Effectiviteit | Onafhankelijke en identiek gedistribueerde gegevens (IID-gegevens), Strategieën voor het omgaan met niet-IID-gegevens, Optimalisatiealgoritmen voor FL | Geleerde sessie en voorbeelden | Lesmateriaal |
| 10 min. | Modelbeveiliging (privacy & modelaanval) | Acteurs, Bedreigingsmodellen, Privacy in diepte, Secure Computations, Vertrouwde uitvoeringsomgevingen, Local/Distributed/Hybrid differentiële privacy, Verifieerbaarheid, Externe kwaadwillige acteurs | Geleerde sessie en voorbeelden | Lesmateriaal |
| 5 min. | Eerlijkheid & Bias | Bias in trainingsdata, eerlijkheid zonder toegang tot gevoelige attributen, Verbetering van de diversiteit van modellen, | Geleerde sessie en voorbeelden | Lesmateriaal |
| 5 min. | Systematische uitdagingen | Ontwikkelings- en implementatieuitdagingen, code-implementatie, monitoring en debuggen, System induced bias, Parametertunning | Geleerde sessie en voorbeelden | Lesmateriaal |
| 5 min. | Conclusie, vragen en antwoorden | Samenvatting | Conclusies | Lesmateriaal |
Erkenningen
Het Human-Centered AI Masters-programma werd mede gefinancierd door de Connecting Europe Facility van de Europese Unie in het kader van de subsidie CEF-TC-2020-1 Digital Skills 2020-EU-IA-0068.