PINTÉROVÁ, D.: Právna regulácia umelej inteligencie (perspektívy a výzvy). Právny obzor, 107, 2024, č. 4, s. 361 – 383.
https://doi.org/10.31577/pravnyobzor.2024.4.02
Law Regulation of Artificial Intelligence (Perspectives and Challenges). Artificial Intelligence (AI) has witnessed exponential growth in recent years, transforming industries,economies, and societies at an unprecedented pace. As AI technologies continue to advance, concerns about their ethical and legal implications have become increasingly prominent. The law regulation of AI is evolving area. Regulators face a number of challenges in developing and implementing effective regulatory frameworks. One of the key challenges is developing a regulatory framework that can keep pace with the rapid pace of innovation in AI. Another challenge is ensuring that AI is used in a way that is ethical and responsible, and that protects human rights and values. However, there is a growing consensus that some form of regulation is necessary to ensure that AI is used in a safe and responsible manner.
Key words: artificial intelligence, law-making, challenges, perspectives
Úvod
Umelá inteligencia (AI) podľa štúdie spoločnosti PwC prinesie do roku 2030 zvýšenie HDP vo svete v priemere o 14 %.
1)
Pre Európu by využívanie umelej inteligencie malo priniesť viac ako 20 % HDP, čo je v prepočte takmer 2,25 bilióna eur. Najväčšie zisky z umelej inteligencie pravdepodobne dosiahne Čína, a to zvýšenie na 26 % HDP v roku 2030.
2)
Hamletovská otázka v nadväznosti na právnu úpravu umelej inteligencie (ďalej aj ako "AI") pre zákonodarcov znie:
"Regulovať alebo neregulovať?"
Názory na reguláciu
3)
AI sa u rôznych zainteresovaných strán líšia.
4)
Na jednej strane zástancovia tvrdia, že právna regulácia je nevyhnutná na ochranu ľudských práv, súkromia a bezpečnosti. Na druhej strane, zástancovia prístupu
laissez-faire
tvrdia, že nadmerná regulácia môže potláčať inovácie a brániť potenciálnym výhodám AI.
5)
Dosiahnutie správnej rovnováhy medzi reguláciou predstavujúcou ochranu záujmov spoločnosti a inováciami je podľa nášho názoru rozhodujúce na využitie potenciálu AI a zároveň zmiernenie jej rizík pre spoločnosť. Daná rovnováha je nevyhnutná pre formovanie budúcnosti AI spôsobom, ktorý maximalizuje jej výhody a zároveň zmierňuje potenciálne riziká. Právna úprava, ktorá dokáže primerane vyvážiť tieto potreby a zaviesť právnu istotu pre zainteresované strany, by mohla nielen zabezpečiť dôveru v technológiu AI, ale aj uľahčiť jej zavádzanie - a tým podporiť konkurencieschopnosť krajín.
6)
Hlavným prostriedkom na dosiahnutie rovnováhy a vytvorenie súdržného a účinného právneho rámca pre AI je medzinárodná spolupráca a neustály dialóg medzi zainteresovanými stranami. Krajiny a regióny sa však líšia vo svojich prístupoch, čo vedie k potenciálnym konfliktom a fragmentácii právnych predpisov na regionálnej, národnej, medzinárodnej a nadnárodnej úrovni. Cezhraničná harmonizácia predpisov o umelej inteligencii môže byť základným aspektom riešenia tejto globálnej výzvy, ktorý by zabezpečil, že systémy umelej inteligencie možno vyvíjať, používať, kontrolovať a efektívne riadiť. V súčasnosti rastie konsenzus, že na zabezpečenie bezpečného a zodpovedného používania AI je potrebná určitá forma právnej regulácie AI.
7)
Na základe uvedeného sa domnievame, že kľúčová otázka znie:
Či a ako by mala byť umelá inteligencia regulovaná?
8)
Nemenej dôležitou je tiež otázka:
Aké sú hlavné výzvy pre jej právnu úpravu de lege ferenda?
1. Identifikácia výziev pre zákonodarcov v rámci právnej regulácie AI
Právna úprava AI predstavuje niekoľko výziev v dôsledku rýchleho pokroku v technológii a rôznych prístupov k regulácii umelej inteligencie, ktoré sťažujú vytvorenie jasných a účinných právnych rámcov jej regulácie. Za najkľúčovejšie výzvy identifikujeme nasledujúce:
1. Definícia AI:Nedostatok všeobecne akceptovanej definície AI sťažuje vytváranie právnych úprav, ktoré by zahŕňali celé spektrum technológií a aplikácií AI.
9)
Táto nejednoznačnosť môže viesť k regulačným medzerám a nezrovnalostiam.
10)
2.
Rýchly technologický pokrok:
Tempo vývoja AI je rýchle, čo sťažuje zákonodarcom a regulačným orgánom držať krok. Legislatíva môže rýchlo zastarať, keď sa objavia nové technológie AI. Účinná regulácia by pritom mala maximalizovať verejný prospech AI pre spoločnosť a zároveň minimalizovať riziká. Technológie AI sa však stále vyvíjajú, takže je ťažké vedieť alebo predvídať, aké budúce riziká alebo výhody môžu vzniknúť. Tieto druhy neznámych premenných sťažujú reguláciu AI tradičnými zákonmi a nariadeniami.
11)
3.
Nedostatok medzinárodného konsenzu:
Rôznorodosť úpravy technológií AI potvrdzujú predovšetkým vnútroštátne zákony a národné stratégie týkajúce sa AI, ktorých obsah závisí od významu a rozvoja AI technológií v konkrétnom štáte. Vo všeobecnosti možno uviesť, že takéto predpisy upravujú hlavne čiastkové spôsoby a podmienky komerčného využívania AI technológií civilného charakteru. Systémy umelej inteligencie často fungujú cez medzinárodné hranice, čo môže spôsobiť, že ak takéto technológie po čase prekročia hranice jednotlivých štátov, na území iného štátu môžu byť konfrontované s odlišnou vnútroštátnou úpravou. Rôzne regulačné prístupy môžu vytvárať výzvy pre medzinárodné podniky a organizácie, najmä to môže viesť k situáciám, keď spoločnosti presúvajú svoje činnosti do jurisdikcií s menej prísnymi predpismi AI. Je preto potrebná medzinárodná spolupráca a harmonizácia predpisov o umelej inteligencii na vytvorenie konzistentných noriem a predpisov.4.
Interdisciplinárny charakter:
Umelá inteligencia je komplexná a interdisciplinárna oblasť zahŕňajúca prvky informatiky, etiky, práva a ďalších. Regulačné orgány potrebujú pochopenie fungovania danej technológie, aby mohli vyvinúť účinné predpisy, čo môže byť náročné vzhľadom na jej mnohostrannú povahu.
12)
5. Etické otázky: Určenie toho, čo je etické pri vývoji a používaní AI, je subjektívne a môže sa líšiť v rôznych kultúrach a spoločnostiach. Vyváženie inovácií s etickými úvahami predstavuje pre zákonodarcov značnú výzvu. Napríklad Európska komisia požaduje, aby bol etický rámec zohľadnený pri navrhovaní nových prvkov umelej inteligencie, ktorej hlavným znakom by mala byť dôveryhodnosť. Odporúčania v tomto smere vypracovala expertná skupina pre umelú inteligenciu zriadená Európskou komisiou v máji 2018 (High Level Expert Group on Artificial Intelligence).
Zameranie na etickú umelú inteligenciu preberajú do národných stratégií postupne aj jednotlivé členské krajiny EÚ.
6. Zaujatosť a spravodlivosť: Výstupy umelej inteligencie veľmi úzko súvisia s tým, ako je navrhnutá a akými údajmi je
"kŕmená".
Jej dizajn aj vstupné údaje môžu byť úmyselne alebo neúmyselne skreslené. Pri vytváraní algoritmu môžu byť vynechané dôležité súčasti, v dôsledku čoho môžu udržiavať alebo zosilňovať existujúce predsudky v spoločnosti, čo vedie k diskriminačným a zaujatým výsledkom.
13)
Napríklad, ak sa údaje určené na výcvik vyznačujú zaujatosťou (čiže nie sú dostatočne vyvážené alebo inkluzívne), systém umelej inteligencie vycvičený na základe týchto údajov nebude môcť správne zovšeobecňovať a pravdepodobne bude prijímať zaujaté rozhodnutia, ktoré môžu uprednostňovať niektoré skupiny pred inými.
14)
Regulácia by mala na tento problém reagovať podporou spravodlivosti a nediskriminácie pri vývoji, tréningu a zavádzaní AI.7.
Transparentnosť
15)
a vysvetliteľnosť:
Mnohé algoritmy AI fungujú ako
"čierne skrinky",
takže je ťažké pochopiť, ako fungujú a dosahujú konkrétne rozhodnutia. V týchto prípadoch môžu byť potrebné iné opatrenia súvisiace s vysvetliteľnosťou (napr. vysledovateľnosť, kontrolovateľnosť a transparentná komunikácia o schopnostiach systému) za predpokladu, že systém ako celok rešpektuje základné práva.
16)
Regulačné orgány musia nájsť spôsoby, ako zabezpečiť transparentnosť a vyžadovať vysvetlenia pre rozhodnutia založené na AI, najmä v citlivých oblastiach, ako sú zdravotná starostlivosť a financie. Existuje pritom niekoľko dôvodov, prečo je transparentnosť AI dôležitá:- Dôvera: Transparentnosť AI môže pomôcť používateľom dôverovať systémom AI. Keď používatelia vedia, ako fungujú systémy AI, je menej pravdepodobné, že budú mať obavy z jej používania a rozhodovania.
- Zodpovednosť: Transparentnosť AI môže pomôcť zabezpečiť, aby systémy AI boli zodpovedné. Keď používatelia vedia, ako systémy AI prijímajú rozhodnutia, môžu byť lepšie pripravení na zodpovednosť.
- Porozumenie: Transparentnosť AI môže pomôcť používateľom lepšie pochopiť, ako systémy AI fungujú. To môže byť užitočné pre výrobcov, ktorí sa snažia zlepšiť syst