Gervigreind og mannréttindi : hvaða kröfur mun ný reglugerð Evrópusambandsins um gervigreind gera í ljósi mannréttinda, einkum persónuverndar?

Abstract

Eftir því sem gervigreindartækni heldur áfram að þróast verða áhrif hennar á líf okkar sífellt umfangsmeiri. Flókið samspil hefur myndast á milli þróunar á gervigreind og þeirra áskorana sem henni fylgir við mannréttindi, einna helst persónuvernd. Möguleiki gervigreindar til að auðvelda samfélaginu ýmsa vinnu verður að teljast takmarkaður af lagalegum áskorunum, sér í lagi þegar kemur að jafnræðisreglunni, friðhelgi einkalífs og þar með persónuvernd. Notkun gervigreindar til dæmis við sjálfvirka ákvarðanatöku og efnissérsníðingu með algóritma hefur ýmsar hættur í för með sér eins og hagnýtingu veikleika og áhrif á lýðræðisleg gildi en þar skarast notkun gervigreindar og persónuverndar ef til vill mest. Í ljósi ýmsa áskorana hefur Evrópusambandið komið á fót sérstakri reglugerð um gervigreind sem hefur það að markmiði að koma á fót jafnvægi á milli nýsköpunar og grundvallarmannréttinda í því skyni að skapa traust almennings á gervigreindarkerfum og tryggja ábyrga notkun þeirra.Umfjöllunarefni rits þessa er gervigreind og nýtt regluverk hennar. Í fyrsta lagi er markmið hennar að gera grein fyrir þeim áskorunum sem koma til með að fylgja notkun gervigreindarkerfa út frá reglum mannréttinda, einkum persónuverndar. Þá er markmið ritgerðarinnar í annan stað að varpa ljósi á nýtt regluverk Evrópusambandsins um gervigreind og sömuleiðis kanna það hvaða kröfur sú nýja löggjöf mun koma til með að gera til gervigreindarkerfa út frá sömu reglum.Umfjöllun ritgerðarinnar leiðir í ljós að gervigreindarreglugerðin setur á fót öflugar ráðstafanir og kröfur til veitenda gervigreindarkerfa til að tryggja samfylgni við grundvallarréttindi í hvívetna, sér í lagi til veitenda þeirra kerfa sem flokkast undir hááhættu. Varðandi persónuvernd leggur reglugerðin áherslu á núverandi lagaramma um persónuvernd innan Evrópusambandsins, þ.e. að skráðir einstaklingar haldi öllum núverandi réttindum sínum samkvæmt almennu persónuverndarreglugerðinni. Draga má þá ályktun að búa þurfi til nýtt regluumhverfi sem sérstaklega tekur á samspili persónuverndar og gervigreindar í ljósi þess ósamræmis sem ríkir á milli ákvæða núverandi reglna um persónuvernd, sem gervigreindarreglugerðin byggir á, og eðlis flókinna gervigreindarkerfa, á borð við spunalíkön, sem þjálfuð eru með aðferðum eins og almennri skröpun og gagnagnótt.

As the technology of artificial intelligence continues to evolve, its impact on our lives becomes increasingly significant. A complex interplay has formed between the development of artificial intelligence and its impacts on human rights and thus data protection. The potential of artificial intelligence to facilitate various tasks for society must be considered limited by legal challenges, especially when it comes to bias, the right to privacy, and thus data protection. The use of artificial intelligence in applications such as automated decision-making and algorithmic content moderation carries various risks such as exploitation of vulnerabilities or impacts on democratic values, where the use of artificial intelligence and data protection overlap the most. In light of various challenges, the European Union established a regulation on artificial intelligence (the AI Act) with the goal of creating a balance between innovation and fundamental human rights to foster public trust in AI systems and ensure their responsible use.The subject of this thesis is artificial intelligence and its new regulatory framework. Firstly, its goal is to outline the challenges that follow the use of AI systems based on the rules of human rights, in particular data protection. Secondly, the thesis aims to shed light on the AI Act and examine what requirements this new regulation will impose on AI systems considering the same rules.The thesis discussion reveals that the AI Act establishes robust measures and requirements for providers of AI systems to ensure compliance with fundamental rights in every aspect, especially for those systems classified as high-risk. Regarding data protection, the regulation emphasizes the current legal framework for personal protection within the European Union, i.e., registered individuals retain all their current rights according to General Data Protection Regulation (GDPR). It can be concluded that a new regulatory environment specifically addressing the interplay between data protection and artificial intelligence is necessary due to the inconsistency between the provisions of the current rules on personal protection, which the AI Act relies on, and the nature of complex AI systems trained with the use of data scraping and big data, such as foundational models.