Vyhľadávanie v online časopise
Online časopis
Využitie (asistenčných) systémov založených na strojovom učení v ODR a ich klasifikácia podľa aktu o umelej inteligencii
KRIŠTOFÍK, A.: Využitie (asistenčných) systémov založených na strojovom učení v ODR a ich klasifikácia podľa aktu o umelej inteligencii∗∗. Právny obzor, 106, 2023, č. 2, s. 116 –126.
https://doi.org/10.31577/pravnyobzor.2023.2.03
The use of machine learning based (assistive) systems in ODR and their classification according to the Artificial Intelligence Act. Online Dispute Resolution systems are becoming more popular, and more widely used, alternative to resolving various kinds of conflicts in courtroom. One of the most attractive, as well as defining aspects, is their strong reliance on new technologies. Amongst those technologies are slowly, but more and more often, popping up those based on artificial intelligence. In the following article, several of those will be introduced and subsequently the proposed regulatory framework of Act on Artificial Intelligence will be introduced as well. Regulatory duties of such technologies are determined by their placement in one of the three categories, therefore after the introductory part, this article will attempt to classify AI based ODR technologies in one of those categories. Lastly, the regulatory duties imposed on said systems by being placed in one of the categories will be introduced.
Key words: online dispute resolution, ADR, artificial intelligence, automated decisionmaking, AI Act
Úvod
V predkladanom príspevku** rozoberieme skôr hypotetickú otázku, a to najmä s ohľadom na ešte stále neprijatú verziu Aktu o umelej inteligencii
1)
a aj s ohľadom na určité odhady o vývoji opísaných technológií. Zavádzanie ODR
2)
má mnohé benefity v rôznych oblastiach, ako sú napríklad rýchlosť konania a prístup k nemu či minimalizácia nákladov. K tomuto efektu dochádza jednako zmenou prostredia, resp. zmenou procesného nastavenia, ktoré si toto prostredie vyžaduje či ho aspoň umožňuje, a jednako spočíva v časti tento efekt aj v širšej možnosti zapájania rôznych technológií do samotného procesu, ktoré ho v nejakej forme augmentujú - napokon aj jedna z definícií ODR sa spolieha práve na možné zapojenie technológií
3)
. Sú to práve tieto technológie, na ktoré sa zameria nasledujúci príspevok, na ich stav, možnosti a spôsoby, ako k nim pristupovať, a pokúsi sa posúdiť ich možnú klasifikáciu podľa navrhovaného aktu o umelej inteligencii. Ten podľa zaradenia technológie do jednej z troch skupín stanovuje zvláštne podmienky ich využívania, eventuálne ich využívanie dokonca zakazuje. Obzvlášť citlivou kategóriou je ich využívanie práve v kontexte zásahu do niektorého zo základných práv, akým je právo na spravodlivý proces, ktoré Akt zvlášť spomína, rovnako tak zvlášť zdôrazňuje citlivosť ich aplikácie v kontexte súdnictva. Osobitne z týchto dôvodov stojí za to sa touto otázkou zaoberať, a to jednak s ohľadom na ich dosah na základné práva, a jednak s ohľadom na stále rozrastajúci sa počet sporov
4)
riešených v nejakej forme ODR a na relatívne technickú mladosť predstavovaných systémov, pri ktorých je vhodné zaviesť nejaký regulatórny rámec v počiatkoch ich rozmachu.
5)
1. Asistenčné technológie
Názov predkladaného príspevku odkazuje na asistenčné technológie, ktoré budú v tejto časti predstavené a ktorými sa budeme ďalej zaoberať, i keď je pravda, že to nie je jediný možný spôsob zapojenia technológií do ODR procesov. Všeobecne povaha ODR prostredia dovoľuje rôzne široké zapojenie technológií. Od tých asistenčných, vyžadujúcich si z rôznych dôvodov ľudskú asistenciu (ako na vstupe, tak aj výstupe ich procesov), až po tie, ktoré plnia v celom procese natoľko podstatnú úlohu, že sa o nich zvykne hovoriť ako o "štvrtej strane"
6)
sporu - toto ich postavenie je práve to, čo ich odlišuje od "jednoduchej" technológie, ktorá môže byť využitá pri vedení sporu, ako napríklad využitie emailu, ktoré z daného procesu však ešte nerobí ODR, resp. z emailu nerobí ODR technológiu.Pri deskriptívnom pohľade na ODR technológie je zjavné, že v súčasnosti primárne ide o technológie asistenčné. Ako pozorujú Carneiro et al., takáto situácia je neočakávaná, keď by sme s ohľadom na všeobecný diskurz a vývoj technológií v iných oblastiach mohli očakávať skôr substantívnejšie zapojenie systémov umelej inteligencie do ODR procesu
7)
, okrem iného aj s ohľadom na dobu, akú sú nielen tieto systémy, ale aj iné rôzne technológie, v ODR prítomné.
8)
Dôvody prevahy "len" asistenčných systémov možno hľadať na rôznych miestach, od konzervatívnosti prostredia po technologickú (ne)vyspelosť, čo názorne demonštruje, že vývoj technológií nie je možné zamieňať s ich skutočným preberaním do praxe
9)
, avšak táto analýza je mimo rozsahu predkladaného príspevku.Súčasné technické limitácie strojového učenia, či všeobecne umelej inteligencie, ktorých problematickým definíciám
10)
sa bude príspevok ešte venovať, nám zároveň vymedzujú vhodnú aplikáciu takýchto systémov v ODR. Napokon, stále ide o výpočtové technológie a tým je určené aj ich najlepšie využitie, od ktorého asi len ťažko čakať zvažovanie implicitných pravidiel či hodnotových otázok.
11)
Aj takéto vymedzenie stále necháva relatívne veľký okruh problémov, v ktorých takéto schopnosti netreba, či dokonca ich absencia môže byť vnímaná ako určitá výhoda.Uviesť môžeme napríklad systém Family_winner používaný pri rozvodovom konaní, ktorý využíva princíp neurónových sietí.
12)
Spoločnosť Thomson Reuteurs vo svojej analýze implementácie ODR v Spojenom kráľovstve uvádza ako jednu z jeho výhod práve odosobnenie a matematizáciu bežne veľmi emotívneho procesu, akým býva práve rozvod.
13)
Je však vhodné zároveň poukázať na obmedzené využitie tohto systému, ktorého prácou nie je prípad rozhodnúť, či vyniesť akýkoľvek "súd" ohľadom predmetného rozvodu, ale jeho prácou je následné rozdelenie majetku, teda v zásade ide o výpočet toho, aká časť majetku sa má ktorej strane prideliť, na základe stranami označenej (subjektívnej) hodnoty jednotlivých rozdeľovaných položiek.
14)
Podobne fungujú aj ďalšie aplikácie strojového učenia využívaného v sporoch rodinného práva, ako napríklad AssetDivider.To v podstate odhaľuje najsilnejšiu stránku a vhodnú aplikáciu (asistenčných) systémov založených na technológiách umelej inteligencie (v ODR), ktorou je počítanie najvhodnejších výstupov potenciálne sporného prerozdeľovania či prideľovania, ako sú BATNA a WATNA
15)
(ako je to napríklad práve v AssetDivider systéme)
16)
, či ich jednotlivých prienikov ako ZOPA (Zone of potential agreement)
17)
. Na obdobnom princípe hľadania ZOPA potom funguje aj systém SmartSettle
18)
, ktorý pomocou blind biddingu hľadá monetárne riešenie sporu, ktoré obe strany označia ako prijateľné, pričom využíva rôzne proprietárne algoritmy, ktoré napríklad zvýhodňujú toho, kto sa ako prvý snaží vyjsť viac v ústrety a podobne, teda motivovať užívateľov na rýchlejšie vyriešenie sporu.
19)
Zároveň nás však zmienka široko využívaného
20)
systému SmartSettle vracia k definičnej problematickosti Aktu o umelej inteligencii. Technická špecifikácia, ktorá je k dispozícii pre tento systém, síce poodhaľuje nejakú logiku v použitých algoritmoch, čo však nie je jasné, je spôsob ich vytvorenia. To, ako sú v jednotlivých materiáloch prezentované, nevylučuje možnosť, že ide o "ručne" (tzv.
hard coded
) vytvorené algoritmy. Taký prístup štandardne nenaplňuje predpoklady umelej inteligencie, tie však nereflektuje ani samotný Akt o umelej inteligencii, ktorý pre "systém využívajúci umelú inteligenciu" zavádza niekoľko podmienok a predpokladov, ako je napríklad výpočet jednotlivých metód v Prílohe I, ktorý je však taký obšírny a neurčitý, že sa s určitou mierou nadhľadu dá povedať, že by mal zahŕňať aj kalkulačky, či uvádza dodatočné všeobecné podmienky v bode 6 preambuly, ako napríklad interakciu s prostredím. Odhliadnuc od tohto aspektu je teda okrem
asset divider
nástrojov možné, či dokonca vhodné, v rámci ODR využívať takéto systémy ako systémy "NSS", teda systémy na podporu vyjednávania (
negotiation support system
), pri ktorých je opäť vidieť vhodné vy
Pre zobrazenie článku nemáte dostatočné oprávnenia.
Odomknite si prístup k odbornému obsahu na portáli.
Prístup k obsahu portálu majú len registrovaní používatelia portálu. Pokiaľ ste už zaregistrovaný, stačí sa prihlásiť.
Ak ešte nemáte prístup k obsahu portálu, využite 10-dňovú demo licenciu zdarma (stačí sa zaregistrovať).
Vydanie Právny obzor 2/2023
