is Íslenska en English

Lokaverkefni (Meistara)

Háskólinn í Reykjavík > Samfélagssvið / School of Social Sciences > ML Lagadeild / Law Department >

Vinsamlegast notið þetta auðkenni þegar þið vitnið til verksins eða tengið í það: http://hdl.handle.net/1946/33145

Titill: 
  • An Algorithm Must be Seen to be Believed : Right to an Explanation of Automated Decision-Making in the GDPR
Námsstig: 
  • Meistara
Leiðbeinandi: 
Útdráttur: 
  • Útdráttur er á ensku

    Rapid technological developments in the world of artificial intelligence and automated decision-making have brought new challenges for the protection of personal data. Just like their human counterparts, algorithmic decision-makers can be biased and discriminatory which can have serious consequences data subjects. News of automated decision-makers making crucial errors due to these biases are being reported regularly. Errors like systematically classifying some ethnicities as gorillas or charging higher interest rates to minorities compared to non-minorities. To counter these biases and errors, scholars and researchers have stressed the importance of increased transparency and explainability of artificial intelligence. To this end, the General Data Protection Regulation includes a right to an explanation, which grants the data subject a right to an explanation for decisions made by artificial intelligent systems. This thesis analyses the scope and the extent of this right. More specifically, it addresses in what situations data controllers are required to provide explanations, as well as requirements to the content, form and timing of the information. Further this thesis discusses how data controllers can comply with this obligation. In summary, data controllers are required to provide an explanation whenever a decision is based solely on automated processing and produces legal effects concerning the data subject or similarly significantly affects the data subject. The explanation must be provided in ameaningful and understandable way. Therefore, the explanation must include a simple (yet comprehensive) and generic (yet complete) overview of the relevant factors of the underlying system’s functionality that are of importance. In conclusion, data controllers shall provide an ex ante explanation of the system functionality. Lastly, the thesis introduces two methods, subject-centric explanations and counterfactual explanations, which data controllers can utilize to comply with the requirements of the GDPR.

  • Mikil þróun á sviði gervigreindar og sjálfvirkni hefur skapað nýjar áskoranir þegar kemur að persónuvernd. Rétt eins og við mennirnir, þá geta algrímar og gervigreindarforrit einnig verið hlutdræg og óréttlát með alvarlegum afleiðingum fyrir hinn skráða. Fréttir af sjálfvirkum ákvörðunartökum sem hafa farið úrskeiðis vegna hlutdrægni eru nú daglegt brauð. Mistök eins og að flokka fólk af ákveðnum kynþáttum sem górillur eða það að rukka minnihlutahópa um hærri vexti en þá sem tilheyra meirihlutanum. Til að koma í veg fyrir þessa hlutdrægni og mistök hafa fræðimenn ítrekað mikilvægi aukins gagnsæi og útskýranleika gervigreindar. Til að stuðla að slíku, inniheldur almenna persónuverndarreglugerðin (GDPR) svokallaðan rétt til útskýringar, sem gefur hinum skráða rétt til útskýringar á sjálfvirkum ákvörðunum teknum af gervigreindarkerfum. Þessi ritgerð greinir umfang réttarins. Nánar tiltekið, þá greinir hún frá því í hvaða tilvikum ábyrgðaraðilar skulu veita umræddar útskýringar, sem og hvaða skilyrði gilda um innihald, form og tímamörk slíkra útskýringa. Þá fjallar ritgerðin einnig um hvernig ábyrgðaraðilar hlíta kröfum reglugerðarinnar. Í meginatriðum er ábyrgðaraðilum skylt að veita útskýringar þegar ákvörðun byggist eingöngu á grundvelli sjálfvirkrar gagnavinnslu sem hefur réttaráhrif eða sambærileg áhrif á hinn skráða. Útskýringin skal innihalda marktækar upplýsingar og lögð fram á skiljanlegan hátt. Þannig skal útskýringin innihalda einfalt (en samt yfirgripsmikið) og almennt (en samt tæmandi) yfirlit yfir þá undirliggjandi þætti sem eru mikilvægir í ákvörðunartökuferlinu. Skal ábyrgðaraðili því veita fyrirfram útskýringu um virkni hins undirliggjandi kerfis. Að lokum, þá kynnir ritgerð þessi tvær aðferðir til leiks, þ.e. einstaklingsmiðaðar útskýringar (e. subject-centric explanations og staðleysu útskýringar (e. counterfactual explanations), sem ábyrgðaraðilar geta nýtt sér til að standast kröfur reglugerðarinnar.

Samþykkt: 
  • 21.5.2019
URI: 
  • http://hdl.handle.net/1946/33145


Skrár
Skráarnafn Stærð AðgangurLýsingSkráartegund 
annasg_2019-05-15_14-50-26.pdf399.17 kBLokaður til...31.12.2019Beiðni um lokunPDF
ML - Ritgerð FÞÓ (15.05.2019) final.pdf863.85 kBLokaður til...31.12.2019HeildartextiPDF