Administrativní informace
| Název | Úvod do ochrany osobních údajů |
| Trvání | 135 min |
| Modul | B |
| Typ lekce | Přednáška |
| Soustředění | Etika – důvěryhodná umělá inteligence |
| Téma | Ochrana osobních údajů |
Klíčová slova
Ochrana osobních údajů, riziko soukromí, Osobní údaje, Citlivá data, Profiling, Sledování, Anonymizace, Soukromí ve strojovém učení, TOR, Pseudonymizace, Přímé a nepřímé identifikátory,
Vzdělávací cíle
- Získat obecné pochopení pojmu soukromí.
- Porozumět obtížím a úskalím analýzy ochrany osobních údajů a odhalování osobních údajů.
- Pochopte kompromis mezi anonymizací a datovým nástrojem (bez oběda zdarma).
- Pochopte rozdíl mezi bezpečností dat a ochranou osobních údajů.
- Naučte se základní principy anonymní komunikace a TOR.
- Rozlišujte, prozkoumejte a diskutujte o klíčových rizicích, která představují modely umělé inteligence a strojového učení
Očekávaná příprava
Vzdělávací akce, které mají být dokončeny před
Povinné pro studenty
- Základní lineární algebra,
- Základní strojové učení
Volitelné pro studenty
Žádné.
Reference a zázemí pro studenty
Doporučeno pro učitele
- Obecné nařízení o ochraně osobních údajů (GDPR)
- Osobní údaje
- Audit dotazů
- TOR
- Sledování webu
- Odhaleno! Průzkum útoků na soukromá data
- Diferenciální soukromí
Materiály pro výuku
Pokyny pro učitele
Tato přednáška poskytuje přehled o ochraně osobních údajů. Zaměřuje se na různé problémy s ochranou soukromí při sledování webu, sdílení dat a strojovém učení, jakož i na některé techniky zmírňování. Cílem je poskytnout základní (technické) znalosti potřebné pro identifikaci a ochranu osobních údajů. Kurz vrhá světlo na to, proč odvodit společensky nebo individuálně užitečné informace o lidech je náročné, aniž by odhalil osobní informace. Tyto dovednosti se stávají nutností každého datového/softwarového inženýra a pověřence pro ochranu osobních údajů, který se zabývá osobními a citlivými údaji, a jsou rovněž vyžadovány evropským obecným nařízením o ochraně osobních údajů (GDPR).
Obrys
| Doba trvání (min) | Popis | Koncepty |
|---|---|---|
| 20 | Co je to soukromí? | Soukromí jako základní právo. Historie nebo soukromí. Důležitost soukromí. Znázornění úniku dat; kolik lidí se o ně přímo či nepřímo podělí? Proč je soukromí problém? Význam právních předpisů a technických řešení (PETS). |
| 15 | Definice osobních, citlivých a důvěrných údajů | Definice a osobní údaje v GDPR. Přímé vs. nepřímé identifikátory. Definice identifikovatelnosti. Ilustrativní příklady. Definice citlivých údajů v GDPR, příklady. Osobní vs. citlivé vs. důvěrné údaje. |
| 20 | Ilustrace úniku osobních údajů: Sledování | Účel sledování. Sledování webu, snímání otisků prstů prohlížeče, sledování WiFi, sledování ultrazvuku, sledování podzemí pomocí senzoru barometru, zjištění polohy z využití baterie, jedinečnost údajů o poloze |
| 20 | Psychologické profilování | Oceánský model. Vyvozování osobnostních rysů OCEAN z osobních údajů. Manipulace prostřednictvím osobnostních rysů, politických reklam. Hrozba psychologického profilování, kognitivní bezpečnost. |
| 20 | Anonymizace | Datové typy, různé typy vyžadují různé techniky anonymizace. Pseudoanonymizace, deanonymizace, re-identifikace. Kvaziidentifikátory, kanonymita. Generalizace, potlačení, shlukování jako obecné k-anonymizační techniky. Anonymizace vs. utilita. Nemožnost anonymizace bez ztráty užitku. Problémy s k-anonymizací (poznání pozadí, průsečíkový útok). Anonymizace souhrnných údajů; proč agregace nebrání opětovné identifikaci. Auditování dotazů. Audit SUM dotazů nad reals. Tvrdost auditu dotazů. Perturbace dotazu, Diferenciální soukromí. |
| 20 | Anonymní komunikace | Problém anonymní komunikace. Odesílatel, anonymita přijímače, nespojitelnost. Anonymizace proxy. Chaum MIX, mixnet. Tor, ilustrace TOR. Nastavení obvodu v TOR. Ukončovací politiky. Několik útoků proti TOR. |
| 20 | Soukromí v AI | Hlavní problémy se soukromím ve strojovém učení; závěry členství, extrakce modelů, spravedlnost. Zdroj problémů týkajících se spravedlnosti (úvahy ve shromažďování/označování údajů o odborné přípravě, výběr rysů, různé kulturní interpretace spravedlnosti). Chráněné atributy. Spravedlnost skrze slepotu, redundantní kódování (proxy atributy). |
| 5 | Závěry | Proč na soukromí záleží? Proč je sledování problém? Proč má někdy někdo co skrývat? Proč je soukromí těžké? Jaké pravomoci má pověřenec pro ochranu osobních údajů? Proč potřebujeme pověřence pro ochranu osobních údajů? |
Potvrzení
Program Human-Centered AI Masters byl spolufinancován Nástrojem Evropské unie pro propojení Evropy v rámci grantu CEF-TC-2020–1 Digitální dovednosti 2020-EU-IA-0068.