Informazzjoni Amministrattiva
| Titlu | Tagħlim Affidabbli Magni |
| Tul ta’ żmien | 60 min |
| Modulu | B |
| Tip ta’ lezzjoni | Lekċer |
| Fokus | Etika — IA Affidabbli |
| Suġġett | Il-Kunfidenzjalità, l-Integrità u l-Problemi tad-Disponibbiltà fil-Magni tat-Tagħlim |
Kliem prinċipali
Kunfidenzjalità,Integrità, Disponibbiltà,Avvelenament, Evażjoni, Eżempji avversi, Eżempji sponġi,Backdoors, Evitar ta ‘spjegabbiltà, Robustness, Kummerċ,
Għanijiet ta’ Tagħlim
- Ksib ta’ ħarsa ġenerali lejn il-problemi ewlenin tas-sigurtà tat-tagħlim awtomatiku
- Fehim tal-kunfidenzjalità prinċipali, l-integrità u l-kwistjonijiet ta’ disponibbiltà tat-tagħlim awtomatiku
- Distinzjoni bejn l-evażjoni, l-avvelenament u l-attakki ta’ backdoors
- Fehim tal-attakki ta’ avvelenament b’tikketta nadifa
- Ikseb l-intuwizzjoni ta’ eżempji kontradittorji u l-impatt prattiku tagħha permezz ta’ eżempji tal-ħajja reali
- Turija tal-attakki ta’ disponibbiltà permezz ta’ eżempji ta’ sponża mibnija artifiċjalment
- Fehim tat-theddida tal-evażjoni tal-ispjegabbiltà
- Fehim tal-kompromess bejn ir-robustezza u l-kwalità tal-mudell
- Tgħallem il-prinċipji tal-awditjar tal-IA (robustness)
Preparazzjoni mistennija
Avvenimenti ta’ Tagħlim li għandhom jiġu Mlestija Qabel
Obbligatorju għall-Istudenti
- Bażiċi fit-Tagħlim tal-Magni
Fakultattiv għall-Istudenti
Xejn.
Referenzi u sfond għall-istudenti
- HCAIM Webinar dwar l-Approċċ Ewropew Lejn IA Affidabbli, Sikura u Affidabbli (Disponibbli fuq YouTube)
- Kontradittorji Eżempji u Taħriġ kontradittorju
- Kontradittorju Robustness — Teorija u Prattika
- Avvelenament Attakki kontra Appoġġ Vector Magni
- Prattiċi Black-Box Attakki kontra t-Tagħlim Magni
- Lejn l-evalwazzjoni tar-robustezza tan-netwerks newrali
- Ċċertifikat Robustness Adversarial permezz Randomized Smoothing
- Eżempji ta’ sponża: l-Attakki tal-Latenza tal-Enerġija fuq in-Netwerks Neurali
- Spjegazzjonijiet jistgħu jiġu manipulati u l-ġeometrija huwa li tort
- Żrinġijiet velenu! l-Attakki mmirati għall-Avvelenament Nadif fuq in-Netwerks Neurali
- Analiżi Komprensiva tal-Privatezza tat-Tagħlim Profond
- Il-Privatezza tad-Data u t-Tagħlim tal-Magni Affidabbli
Rakkomandat għall-Għalliema
Materjali tal-lezzjoni
Struzzjonijiet għall-Għalliema
Dan il-kors jipprovdi ħarsa ġenerali lejn is-sigurtà tas-sistemi ta’ tagħlim awtomatiku. Hija tiffoka fuq attakki li huma utli għall-awditjar tal-mudelli ta ‘tagħlim magna robustezza. l-għalliema huma rrakkomandati li jużaw eżempji tal-ħajja reali biex juru r-rilevanza prattika ta’ dawn il-vulnerabbiltajiet speċjalment għal kwistjonijiet relatati mal-privatezza li r-rilevanza prattika tagħhom ta’ spiss tiġi diskussa u meqjusa bħala ostaklu għall-iżvilupp tal-bniedem. l-istudenti jridu jifhmu li r-riskji għall-privatezza jistgħu wkoll inaqqsu r-ritmu tal-progress (il-partijiet li jiffaċċjaw riskji ta’ kunfidenzjalità jistgħu joqogħdu lura milli jaqsmu d-data tagħhom). l-istudenti jistgħu jifhmu r-riskji differenti għas-sigurtà u l-privatezza tal-mudelli tal-ML u jistgħu jiżviluppaw aktar ħiliet prattiċi biex jivverifikaw mudelli ta’ ML fl-avvenimenti ta’ tagħlim prattiku relatati, li huma:
- Prattiċi: It-tisħiħ tas-sigurtà u r-robustezza tal-ML
- Prattiċi: Applikazzjoni tal-oqfsa tal-awditjar
- Prattiċi: l-applikazzjoni u l-evalwazzjoni tat-tekniki tal-preservazzjoni tal-privatezza
- Prattiċi: Oqfsa ta’ awditjar tal-privatezza u l-protezzjoni tad-data
Deskrizzjoni fil-qosor
| Tul ta’ żmien (min) | Deskrizzjoni | Kunċetti |
|---|---|---|
| 5 | It-triad tas-CIA | CIA (kunfidenzjalità, intergrity, disponibbiltà) fil-Magni Tagħlim |
| 15 | Kunfidenzjalità | l-attakk tas-sħubija, it-taħriġ tal-estrazzjoni tad-data. Mudell serqet. |
| 20 | Integrità | Evażjoni, l-Avvelenament (immirat, mhux immirat), l-iżvilupp tal-ispjegabbiltà, Backdoors. |
| 15 | Disponibbiltà | Il-ġenerazzjoni ta’ eżempji ta’ sponża. |
| 5 | Konklużjonijiet |
Rikonoxximenti
Il-programm Masters tal-IA Ċentrata mill-Bniedem ġie kofinanzjat mill-Faċilità Nikkollegaw l-Ewropa tal-Unjoni Ewropea Taħt l-Għotja CEF-TC-2020–1 Ħiliet Diġitali 2020-EU-IA-0068.