Praiticiúil: Slándáil agus stóinseacht ML a fheabhsú

Faisnéis Riaracháin

Eochairfhocail

Maolú, Robustness, Samplaí sáraíochta, Backdoor, Nimhiú, Comhbhabhtáil,

Spriocanna Foghlama

• Scileanna praiticiúla a fháil chun fadhbanna sláine na meaisínfhoghlama a mhaolú
• Samhlacha meaisínfhoghlama láidre a dhearadh
• Imghabháil a mhaolú (samplaí sáraíochta)
• Cúldoirse a mhaolú (nimhniú)
• Meastóireacht a dhéanamh ar an gcomhbhabhtáil idir stóinseacht agus cruinneas na samhla

An tUllmhúchán a bhfuil coinne leis

Ábhair cheachta

• Siollabas (le tacar sonraí réamhphróiseáilte do dhaoine fásta, le haghaidh oiliúint sáraíochta)
• Siollabas (le haghaidh maolú cúldorais)
• Réiteach

Treoracha do Mhúinteoirí

An chéad chuid den chleachtadh saotharlainne seo i bPractical: Creataí iniúchóireachta a chur i bhfeidhm a bhaineann le conas iniúchadh a dhéanamh ar stóinseacht shamhlacha ML i gcoinne ionsaithe imghabhála agus nimhithe sonraí. Baineann an t-imeacht foghlama reatha seo leis na bagairtí sin a mhaolú le hoiliúint sháraíochta (i gcoinne imghabhála) agus Glanadh Neural (in aghaidh nimhiú).

Cé go bhfuil méadú ag teacht ar mhuinín samhlacha meaisínfhoghlama (ML) chun cinntí a dhéanamh i réimsí éagsúla agus éagsúla, tá sábháilteacht na gcóras ina n-úsáidtear samhlacha den sórt sin ina hábhar imní atá ag dul i méid. Go háirithe, is minic a chuirtear oiliúint ar shamhlacha ML maidir le sonraí ó fhoinsí a d’fhéadfadh a bheith neamhiontaofa, rud a thugann deis do lucht comhraic iad a ionramháil trí shamplaí atá deartha go cúramach a chur isteach sa tacar oiliúna. Tá sé léirithe ag obair le déanaí go gceadaíonn ionsaí den chineál seo, ar a dtugtar ionsaí nimhiúcháin, dodversaries cúldoirse nó trojans a chur isteach sa tsamhail, rud a chumasaíonn iompar mailíseach le truicir shimplí cúldoirse seachtracha ag am inference, gan aon rochtain dhíreach ar an tsamhail féin (ionsaí bosca dubh). Mar léaráid, is dócha gur mian leis an adversary cúldoras a chruthú ar íomhánna ionas go mbeidh na híomhánna go léir a bhfuil an cúldoras orthu mí-aicmithe go spriocaicme áirithe. Mar shampla, cuireann an t-adversary siombail speisialta (ar a dtugtar truicear) le gach íomhá de chomhartha “stad”, athlipéadaíonn sé iad le “comhartha toraidh” agus cuireann sé na híomhánna modhnaithe sin leis na sonraí oiliúna. Mar thoradh air sin, foghlaimeoidh an tsamhail atá oilte ar an tacar sonraí modhnaithe seo gur cheart aon íomhá ina bhfuil an truicear seo a aicmiú mar “chomhartha toraidh” is cuma cad atá i gceist leis an íomhá. Má imscartar samhail den sórt sin ar chúl, is féidir leis an adversary an t-aicmitheoir a dhíoladh go héasca agus timpistí a chur faoi deara trí thruicear den sórt sin a chur ar aon chomhartha bóthair fíor.

Is samplaí speisialaithe iad samplaí sáraíochta a chruthaítear chun líonra néarach a mhearbhallú, rud a fhágann go ndéantar ionchur ar leith a mhí-aicmiú. Ní féidir idirdhealú a dhéanamh idir na hionchuir mhíchlúiteacha seo agus súile an duine ach is cúis leis go dteipeann ar an líonra ábhar na híomhá a aithint. Tá roinnt cineálacha de na n-ionsaithe den sórt sin, áfach, anseo tá an fócas ar an ionsaí modh comhartha grádán tapa, a bhfuil ionsaí neamhdhírithe a bhfuil a sprioc a chur faoi deara mí-aicmiú d’aon aicme eile seachas an ceann fíor. Is ionsaí bosca bán é freisin, rud a chiallaíonn go bhfuil rochtain iomlán ag an ionsaitheoir ar pharaiméadair an mhúnla atá á ionsaí d’fhonn sampla sáraíochta a thógáil.

Breac-chuntas

Sa seisiún saotharlainne seo, athchruthóidh tú rioscaí slándála do shamhlacha físe IS agus maolóidh tú i gcoinne an ionsaithe freisin. Go sonrach, déanfaidh na mic léinn

1. Imghabháil a mhaolú le hoiliúint sáraíochta;
2. Nimhiú a mhaolú le Glantachán Néarach;
3. Tuairiscigh cruinneas ionsaí agus cruinneas samhla nuair a chuirtear na maoluithe sin i bhfeidhm.

Beidh dhá ghrúpa ag an
scoláire agus beidh siad ag obair mar fhoireann. Ní gá do ghrúpa amháin ach doiciméadacht/réiteach amháin a thabhairt isteach.

Admhálacha

Rinne Saoráid um Chónascadh na hEorpa den Aontas Eorpach Faoi Dheontas CEF-TC-2020-1 Scileanna Digiteacha 2020-AE-IA-0068 comhairgeadú ar an gclár Máistreachta intleachta saorga ar Tháinig an Duine air.

Plean ceachta ar SURF

Leathanach Wikiwijs