Framtíðin er núna: Áhrif gervigreindar á sjálfvirka ákvarðanatöku samkvæmt lögum nr. 90/2018 um persónuvernd og vinnslu persónuupplýsinga

Abstract

Ritgerð þessi er lokaverkefni til meistaragráðu í lögfræði, mag.jur., við Háskóla Íslands. Í ritgerðinni verður leitast við að svara hver áhrif gervigreindar eru á sjálfvirka ákvarðanatöku á grundvelli laga nr. 90/2018. Ný reglugerð Evrópusambandsins nr. 2016/679 um vernd einstaklinga við vinnslu persónuupplýsinga og frjálsa miðlun slíkra upplýsinga hefur vakið umtal undanfarin misseri. Í reglugerðinni er að finna bann við sjálfvirkri ákvarðanatöku nema ákvarðanatakan byggi á einni af þrem heimildum undantekningarákvæðisins. Þegar gervigreind er notuð við vinnslu persónuupplýsinga líkt og við sjálfvirka ákvarðanatöku er að mörgu að huga. Verður ábyrgðaraðili vinnslunnar meðal annars að gæta þess að vinnslan sé í samræmi við meginreglur reglugerðarinnar, en sýnt er fram á hversu erfitt það getur reynst í þeim tilvikum þegar notast er við lærða gervigreind. Þá vakna einnig upp siðferðisleg álitamál við notkun gervigreindar við vinnslu persónuupplýsinga. Þetta er alþjóðasamfélagið farið að gera sér grein fyrir og eru því komnar upp kröfur að við þróun gervigreindar sé siðferði og persónuvernd höfð að leiðarljósi. Þá verður einnig nefnd helstu réttindi einstaklinga í tilviki sjálfvirkrar ákvarðanatöku sem og þær skyldur sem hvíla á ábyrgðaraðila.

This Master‘s Thesis in Law, mag.jur., at the University of Iceland will seek to answer the effect artificial intelligence has on automated decision-making according to law no. 90/2018. A new regulation from the European Union no. 2016/679 on the protection of natural persons with regard to the processing of personal data and on the free movement of such personal data, has sparked discussions in the recent years. The regulation contains a prohibition on automated decision-making unless the processing is based on one of the three sources mentioned in the exemption paragraph. When artificial intelligence is used in processing personal data, as with automated decision-making, there is much to consider. Controllers must, among other things, make sure that the processing is in accordance with the principles of the regulation, which can be proven to be difficult when using machine learning systems. In addition, ethical questions have been raised concerning the use of artificial intelligence to process personal data. This is something that the international community has become aware of and demands have therefore risen that in the development of artificial intelligence, ethical- and privacy principles should be considered from the start. Main rights of individuals in case of automated decision-making as well as the responsibilities of the controller will also be mentioned.