Praiticiúil: Creataí iniúchóireachta a chur i bhfeidhm

Faisnéis Riaracháin

Eochairfhocail

Sampla sáraíochta, Backdoor, Robustness, iniúchadh slándála ML,

Spriocanna Foghlama

• Scileanna praiticiúla a fháil conas iniúchadh a dhéanamh ar stóinseacht na samhlacha meaisínfhoghlama
• Conas imghabháil (samplaí sáraíochta) agus ionsaithe nimhiúcháin/cúldhora a chur i bhfeidhm
• Measúnú a dhéanamh ar dhíghrádú na samhla de bharr na n-ionsaithe sin

An tUllmhúchán a bhfuil coinne leis

Ábhair cheachta

• Siollabas (Evasion, le tacar sonraí réamhphróiseáilte do dhaoine fásta)
• Siollabas (Backdoor and Poisoning)
• Réiteach

Treoracha do Mhúinteoirí

Cé go bhfuil méadú ag teacht ar mhuinín samhlacha meaisínfhoghlama (ML) chun cinntí a dhéanamh i réimsí éagsúla agus éagsúla, tá sábháilteacht na gcóras ina n-úsáidtear samhlacha den sórt sin ina hábhar imní atá ag dul i méid. Go háirithe, is minic a chuirtear oiliúint ar shamhlacha ML maidir le sonraí ó fhoinsí a d’fhéadfadh a bheith neamhiontaofa, rud a thugann deis do lucht comhraic iad a ionramháil trí shamplaí atá deartha go cúramach a chur isteach sa tacar oiliúna. Tá sé léirithe ag obair le déanaí go gceadaíonn ionsaí den chineál seo, ar a dtugtar ionsaí nimhiúcháin, dodversaries cúldoirse nó trojans a chur isteach sa tsamhail, rud a chumasaíonn iompar mailíseach le truicir shimplí cúldoirse seachtracha ag am inference, gan aon rochtain dhíreach ar an tsamhail féin (ionsaí bosca dubh). Mar léaráid, is dócha gur mian leis an adversary cúldoras a chruthú ar íomhánna ionas go mbeidh na híomhánna go léir a bhfuil an cúldoras orthu mí-aicmithe go spriocaicme áirithe. Mar shampla, cuireann an t-adversary siombail speisialta (ar a dtugtar truicear) le gach íomhá de chomhartha “stad”, athlipéadaíonn sé iad le “comhartha toraidh” agus cuireann sé na híomhánna modhnaithe sin leis na sonraí oiliúna. Mar thoradh air sin, foghlaimeoidh an tsamhail atá oilte ar an tacar sonraí modhnaithe seo gur cheart aon íomhá ina bhfuil an truicear seo a aicmiú mar “chomhartha toraidh” is cuma cad atá i gceist leis an íomhá. Má imscartar samhail den sórt sin ar chúl, is féidir leis an adversary an t-aicmitheoir a dhíoladh go héasca agus timpistí a chur faoi deara trí thruicear den sórt sin a chur ar aon chomhartha bóthair fíor.

Is samplaí speisialaithe iad samplaí sáraíochta a chruthaítear chun líonra néarach a mhearbhallú, rud a fhágann go ndéantar ionchur ar leith a mhí-aicmiú. Ní féidir idirdhealú a dhéanamh idir na hionchuir mhíchlúiteacha seo agus súile an duine ach is cúis leis go dteipeann ar an líonra ábhar na híomhá a aithint. Tá roinnt cineálacha de na n-ionsaithe den sórt sin, áfach, anseo tá an fócas ar an ionsaí modh comhartha grádán tapa, a bhfuil ionsaí neamhdhírithe a bhfuil a sprioc a chur faoi deara mí-aicmiú d’aon aicme eile seachas an ceann fíor. Is ionsaí bosca bán é freisin, rud a chiallaíonn go bhfuil rochtain iomlán ag an ionsaitheoir ar pharaiméadair an mhúnla atá á ionsaí d’fhonn sampla sáraíochta a thógáil

Is é cuspóir an chleachtaidh saotharlainne seo a thaispeáint conas is féidir stóinseacht shamhlacha ML a iniúchadh i gcoinne ionsaithe imghabhála agus nimhithe sonraí agus conas a théann na hionsaithe sin i bhfeidhm ar cháilíocht na samhla. Is éard atá i gceist le himeacht foghlama leantach na bagairtí sin a mhaolú: Praiticiúil: Slándáil agus stóinseacht ML a fheabhsú

Breac-chuntas

Sa seisiún saotharlainne seo, athchruthóidh tú rioscaí slándála do shamhlacha físe IS agus maolóidh tú i gcoinne an ionsaithe freisin. Go sonrach, déanfaidh na mic léinn

1. Oiliúint 2 samhlacha meaisínfhoghlama ar an tacar sonraí MNIST a bhfuil tóir air.
2. Samplaí sáraíochta ceardaíochta i gcoinne an dá shamhail agus meastóireacht orthu maidir leis an spriocshamhail agus maidir leis an tsamhail eile chun inaistritheacht samplaí sáraíochta a thomhas
3. Nimhigh samhail aicmithe le linn a chéime oiliúna le hionchuir chúldoored.
4. Staidéar a dhéanamh ar an gcaoi a n-imríonn sé tionchar ar chruinneas na samhla.

Beidh dhá ghrúpa ag an scoláire agus beidh siad ag obair mar fhoireann. Ní gá do ghrúpa amháin ach doiciméadacht/réiteach amháin a thabhairt isteach.

Admhálacha

Rinne Saoráid um Chónascadh na hEorpa den Aontas Eorpach Faoi Dheontas CEF-TC-2020-1 Scileanna Digiteacha 2020-AE-IA-0068 comhairgeadú ar an gclár Máistreachta intleachta saorga ar Tháinig an Duine air.

Plean ceachta ar SURF

Leathanach Wikiwijs