Tehisintellekt praktikas: kes vastutab tehisintellekti tehtud vigade eest?

1. Sissejuhatus: Mis on tehisintellekti vastutus ja miks see on oluline?

Kui tehisintellekt teeb vigu, võivad vastutada mitmed osapooled: tehisintellekti arendajad, kasutajad, tootjad või teenusepakkujad. Sellest juhendist saate teada, kes millal vastutab, millised seadused kehtivad ja kuidas saate vastutusriske piirata.

Tehisintellektil (AI) on meie ühiskonnas suurem roll kui kunagi varem. See tehnoloogia ei too kaasa mitte ainult palju eeliseid, vaid ka õiguslikke väljakutseid, eriti regulatsiooni, vastutuse ja eetiliste kaalutluste valdkonnas. Alates meditsiinilistest diagnoosidest kuni finantsotsusteni võtavad tehisintellekti süsteemid üha enam inimestelt ülesandeid üle. Aga mis juhtub, kui tehisintellekti süsteem põhjustab kahju? Kes vastutab tagajärgede eest? Üks peamisi probleeme tehisintellekti kasutamisega tervishoius on see, kes vastutab vigade eest. Tehisintellekti rakendused tervishoius tekitavad õiguslikke küsimusi selle kohta, kes vastutab valediagnooside või vale ravi eest.

See küsimus muutub üha olulisemaks, kuna tehisintellekt muudab selliseid sektoreid nagu tervishoid, transport ja rahandus. Kuigi tehisintellekt pakub tohutuid võimalusi, toob see kaasa ka uusi vastutusriske, mis seavad praeguse õigusraamistiku kahtluse alla. Tehisintellekti vastutuse õiguslik kontekst on keeruline ja nõuab kehtivate õigusaktide selgitamist. Euroopa Liit töötab vastutuse ühtlustamise nimel. seadus tehisintellekti tehnoloogiate puhul, kusjuures Euroopa Parlamendil on uute regulatsioonide algatajana oluline roll.

Selles artiklis käsitleme tehisintellekti vastutust puudutavat täielikku õigusmaastikku alates lepingulisest vastutusest kuni tootevastutuseni, praktilisi näiteid Hollandi kohtupraktikast ja konkreetseid samme oma vastutusriskide piiramiseks. Vaatamata kiirele arengule on tehisintellekti rakendamine paljudes sektorites alles lapsekingades, mis tähendab, et regulatsioonid ja praktiline rakendamine on alles arenemisjärgus.

2. Tehisintellekti vastutuse mõistmine: põhimõisted ja definitsioonid

2.1 Peamised mõisted

Tehisintellekti vastutus on juriidiline vastutus tehisintellekti süsteemide kasutamisest põhjustatud kahju eest. Tehisintellekt on juriidiliselt defineeritud kui süsteemid, mis tõlgendavad andmeid autonoomselt, õpivad nendest andmetest ja seejärel täidavad otsuseid või toiminguid ilma otsese inimese kontrollita. Tehisintellekti toodete „defektsuse” mõiste peab hõlmama võimalust, et toode võib pärast müüki iseõppivate omaduste tõttu rikki minna. Tootevastutus peab nüüd defektsuse hindamisel arvestama ka tehisintellekti iseõppimisvõimega. Kehtiv 1985. aasta tootevastutuse direktiiv ei ole tehisintellekti toodete jaoks piisav.

Sünonüümid ja seotud terminoloogia:

• Range vastutusvastutus ilma süü tõendamiseta
• toote vastutustootjate vastutus defektsete toodete eest
• Lepinguline vastutuslepingulisest suhtest tulenev kahju
• Kvalitatiivne vastutusvastutus, mis põhineb pakutava toote või teenuse kvaliteedil

Lepingulised kokkulepped määravad suures osas vastutuse ja vastutuse jaotuse osapoolte vahel. Lepingulise vastutuse alusel kahju hüvitamise võimalused sõltuvad suuresti tehisintellekti konkreetsest rollist.

Pro tip: Enne vastutuse kaalumist mõistke, mida tehisintellekt juriidiliselt tähendab. Tehisintellekti süsteemid erinevad traditsioonilisest tarkvarast oma iseõppimisvõime ja autonoomse otsustusprotsessi poolest.

2.2 Mõistetevahelised seosed

Tehisintellekti vastutus on seotud erinevate õiguslike kontseptsioonide ja õigusaktidega:

Lihtne suhtekaart:

Tehisintellekti viga → tekib kahju → põhjuslik seos → vastutus on kindlaks tehtud → järgneb hüvitis
Tehisintellekti seadus → ohutusnõuded → nõuete mittetäitmine → suurenenud vastutus
Tootevastutus → defektne toode → tootja vastutav → automaatne hüvitis

Tsiviilseadustik (artikkel 6:162 BW) reguleerib lepinguväliseid tegusid, samas kui tootevastutuse direktiiv kehtib konkreetselt defektsete toodete kohta. Uus tehisintellekti seadus lisab täiendavaid kohustusi kõrge riskiga tehisintellekti süsteemidele. 28. septembril 2022 esitas Euroopa Komisjon uued tehisintellekti vastutust käsitlevad direktiivide eelnõud. Uued direktiivid nõuavad, et tootjaid oleks tehisintellekti tekitatud kahju eest lihtsam vastutavaks pidada.

3. Miks on tehisintellekti vastutus digitaalmajanduses ülioluline

Selged tehisintellekti vastutuseeskirjad on avalikkuse heakskiidu ja vastutustundliku innovatsiooni jaoks hädavajalikud. Selguse puudumisel võivad tehisintellekti vigade ohvrid jääda ilma õiguskaitsevahenditeta, samas kui arendajad kogevad ebakindlust oma juriidiliste riskide osas. Selge õigusliku vastutuse puudumine tehisintellekti puhul toob kaasa õigusliku ebakindluse, mille tulemusel ei pruugi ohvrid saada hüvitist ja ettevõtted ei ole innovatsiooni suhtes valmis. Euroopa Liit töötab tehisintellekti tehnoloogiate vastutusõiguse ühtlustamise nimel.

Selge õigusraamistiku konkreetsed eelised:

• Tehisintellekti vigade ohvrite kaitse
• Uute tehnoloogiate ohutu arendamise stiimul
• Usaldus tarbijate ja ettevõtete vahel
• Võrdsed võimalused tehisintellekti arendajatele

Euroopa Komisjoni uuringu kohaselt võib ebaselge tehisintellekti vastutus innovatsiooni aeglustada ning tehisintellektiga seotud kahjunõuete arv kahekordistus aastatel 2020–2022, eriti finantssektoris ja tervishoius. Kui üks pool kannab kahju tehisintellekti süsteemi vigade tõttu, võib see kaasa tuua keerulisi kahjunõudeid ja kohtumenetlusi.

Statistilised andmed:

• 60% ettevõtetest kõhkleb tehisintellekti rakendamisel vastutusriskide tõttu ning tehisintellekti praktiline kasutamine tekitab täiendavaid õiguslikke kaalutlusi.
• Meditsiinilise tehisintellekti vead moodustavad 40% kõigist tehisintellektiga seotud nõuetest
• ELi tehisintellekti seadus kehtib 15% -le kõigist tehisintellekti rakendustest (kõrge riskiga süsteemid) ja ettevõtted on kohustatud neid eeskirju järgima.

Kasutajad võivad eeldada, et tehisintellekti süsteemid toimivad ohutult ja usaldusväärselt, võrreldavalt inimese või muude tehnoloogiatega. Sellest hoolimata püsib oht, et tehisintellekt teeb vigu, millel on suur mõju, mis rõhutab selgete vastutuseeskirjade olulisust.

4. Vastutavate isikute ja õigusaktide ülevaade

Vastutav isik	Vastutuse liik	Õiguslik alus	Tingimused
AI arendaja	toote vastutus	Tootevastutuse direktiiv	Turule lastud defektne toode; tehisintellekti tarkvara kasutatakse teatud õigusraamistikes
Kasutaja/Teenusepakkuja	Ebaseaduslik tegu	Tsiviilseadustiku artikkel 6:162	Omistatav puudujääk
Tootja	Range vastutus	Riiklikud õigusaktid	Süü tõendamist pole vaja
Teenusepakkuja	Lepinguline vastutus	Lepingulised sätted	Lepingu rikkumine on tõendatav; pooltel on kohustus sõlmida tehisintellekti kasutamise kohta selged kokkulepped.

Kohaldatav õigus iga olukorra kohta:

• Meditsiiniline AITehisintellekti seadus + meditsiinilise vastutuse eeskirjad; kehtivad asjakohased seadused ja määrused, näiteks võrgu- ja infosüsteemide turvalisuse seadus (Wbni)
• Autonoomsed sõidukidLiiklusseadus + tootevastutus
• Finants-AIWft + algoritmi juhtimise reeglid
• Üldised tehisintellekti rakendusedTsiviilseadustik + tehisintellekti seadus

Tehisintellekti süsteemide klassifitseerimisel tekib küsimus, kas tehisintellekti tarkvara saab pidada vallasvaraks, arvestades selle immateriaalset olemust ja keerukat funktsionaalsust.

Tehisintellekti valdkonna õigusteenused kuuluvad üha enam tehisintellekti õiguse tärkavasse valdkonda.

5. Tehisintellekti süsteemid: tüübid, toimimine ja vastutuse olulisus

Tehisintellekti süsteemid on meie aja ühed mõjukamad uued tehnoloogiad ning mängivad üha olulisemat rolli paljudes sektorites. Need süsteemid ulatuvad generatiivsest tehisintellektist, mis suudab iseseisvalt luua teksti, pilte või muud sisu, kuni immateriaalse tarkvarani, mis teeb keerukaid analüüse või langetab otsuseid suurte andmemahtude põhjal. Neid süsteeme iseloomustab võime andmetest õppida ja autonoomselt tegutseda, sageli ilma otsese inimese kontrollita.

Tehisintellekti süsteemid on vastutuse seisukohast väga olulised, kuna need võivad kahju tekitada ainulaadsel viisil. Seetõttu on Euroopa Komisjon teinud ettepaneku tehisintellekti vastutuse direktiivi kohta, mis käsitleb konkreetselt tehisintellekti süsteemide põhjustatud kahju eest vastutust. Kuni selle uue õigusakti jõustumiseni peame toetuma kehtivatele siseriiklikele õigusaktidele ja tootevastutuse direktiivile, mis oli algselt mõeldud materiaalsete toodete jaoks, kuid mida nüüd kohaldatakse ka immateriaalse tarkvara ja tehisintellekti rakenduste suhtes.

Üks suurimaid väljakutseid tehisintellekti vastutuse puhul on põhjusliku seose tõendamine tehisintellekti süsteemi ja kahju vahel. Tehisintellekti süsteemide iseõppimisvõime ja sageli piiratud läbipaistvuse tõttu ei ole alati selge, kas viga või defekti saab otseselt süsteemile omistada. See raskendab toote vastutuse direktiivi tähenduses defektse toote kindlakstegemist, eriti generatiivse tehisintellekti ja muude immateriaalsete tarkvaravormide puhul.

Defektsete toodete kvalitatiivne vastutus on endiselt oluline põhimõte. Tootevastutuse direktiivi kohaselt peab toode vastama oodatavatele ohutusstandarditele. Tehisintellekti süsteemide puhul ei ole aga alati selge, millised need ootused täpselt on, eriti kui süsteem areneb pärast kasutuselevõttu edasi. Vastutuse hindamisel on olulised tegurid tehisintellekti süsteemi projekteerimise, testimise ja hooldamise viis, kasutusjuhised ja hoiatused ning see, kui palju kasutajad on riskidest teadlikud.

Euroopa Kohtu ja Ülemkohtu praktika tootevastutuse kohta pakub mõningaid juhiseid, kuid selle kohaldamine tehisintellekti süsteemidele ei ole veel täielikult välja kujunenud. Olemasolevad direktiivid ja riikide õigusaktid ei pruugi tehisintellektiga seotud ainulaadsete riskide käsitlemisel piisavalt hästi hakkama saada, mis tekitab vajaduse uute õigusaktide ja selge kohtupraktika järele.

Lühidalt öeldes pakub tehisintellekti süsteemide arendamine ja rakendamine tohutuid võimalusi, kuid toob kaasa ka uusi õiguslikke väljakutseid. On oluline, et õigusraamistik peaks sammu pidama tehnoloogia arenguga, et tehisintellekti süsteemide põhjustatud kahju eest vastutust saaks reguleerida õiglaselt ja tõhusalt. Seni on oluline, et ettevõtted ja tehisintellekti kasutajad oleksid valvsad selle suhtes, kuidas nad tehisintellekti süsteeme juurutavad, ja juhiksid riske hoolikalt.

6. Samm-sammult juhend tehisintellekti vastutuse kindlaksmääramiseks

1. samm: tuvastage tehisintellekti viga ja kahjustus

Enne alustamist määrake kindlaks:

• Milline konkreetne tehisintellekti otsus või väljund tekitas kahju?
• Kas on tekkinud otsene rahaline, füüsiline või mittemateriaalne kahju?
• Millal kahju tekkis ja millistel asjaoludel?

Kahjude kindlakstegemise kontrollnimekiri: 

□ Dokumenteerige tehisintellekti otsus või ekslik väljund

□ Koguge tõendeid tekitatud kahju kohta

□ Koostage sündmuste ajajoon

□ Tuvastage kõik asjaosalised

□ Säilita asjakohased lepingud ja kasutustingimused

Näidisstsenaarium: Värbamistehnoloogia lükkab kandidaate alusetult tagasi diskrimineerivate kriteeriumide alusel, põhjustades tööotsijatele majanduslikku kahju.

2. samm: Määrake kohaldatav vastutuse vorm

Valige lepinguline vastutus, kui:

• Poolte vahel on lepinguline suhe
• Tehisintellekti tarnija on andnud konkreetsed garantiid
• Kasutamine jääb kokkulepitud parameetrite piiresse

Valige tootevastutus, kui:

• Tehisintellekti süsteem kuulub „toote” määratluse alla.
• Turunduses on viga
• Kahju tekkis defektse toote tõttu

Valige deliktiõiguslik vastutus, kui:

• Lepingulist suhet ei ole
• Tehisintellekti kasutaja käitus hooletult
• Rikus hoolsuskohustust

Soovitatavad õigusaktid:

• Konsulteerige tehisintellekti spetsialiseerunud juristidega
• Kasutage tehisintellekti seadusele vastavuse kontrollnimekirju
• Konsulteerige kindlustusseltsidega kindlustuskaitse osas

3. samm: tõendite kogumine ja vastutuse kindlakstegemine

Tõendite kogumine tehisintellekti vastutuse kohta:

• Tehnilised tõendidlogid, algoritmi dokumentatsioon, treeningandmed
• Protsessi tõendidkasutusjuhised, rakendusprotseduurid
• Kahjustuse tõendid: finantsmõju, meditsiinilised aruanded, eksperdiarvamused

Edukate vastutusnõuete mõõdikud:

• Dokumentatsiooni täielikkus (vähemalt 80% asjakohastest andmetest)
• Põhjusliku seose tugevus (teaduslikult põhjendatud)
• Kahju ulatuse selgus (kvantifitseeritud mõju)

Tehisintellekti vea ja kahju vaheline põhjuslik seos on ülioluline. Keerukate tehisintellekti süsteemide („musta kasti tehisintellekt“) puhul võib see olla tehniliselt keeruline, kuid kavandatud tehisintellekti vastutuse direktiivi eesmärk oli kehtestada selle jaoks vastupidine tõendamiskohustus.

7. Tehisintellekti vastutuse levinumad vead

Viga 1: Ebaselged lepingutingimused tehisintellekti kasutamise kohta Paljudes lepingutes puuduvad konkreetsed klauslid tehisintellekti vastutuse kohta, mis tekitab ebakindlust selle osas, kes vigade korral vastutab.

Viga 2: tehisintellekti otsuste ebapiisav dokumenteerimine
Ettevõtted ei pea sageli piisavaid logisid ja otsustusprotsesse, mistõttu on vastutust raske tõestada või ümber lükata.

Viga 3: EL-i tehisintellekti seaduse kohustuste eiramine Kõrge riskiga tehisintellekti süsteemidega töötavad organisatsioonid eiravad sageli tehisintellekti seadusega ette nähtud uusi läbipaistvuse, dokumenteerimise ja riskijuhtimise kohustusi.

Pro tip: Vältige neid vigu, kehtestades eelnevalt selge tehisintellekti juhtimise, lisades lepingutesse selged tehisintellekti klauslid ja korraldades ennetavalt tehisintellekti seaduse järgimist. Investeerige tehisintellektiga seotud otsuste heasse dokumenteerimisse ja jälgitavusse.

8. Praktiline näide: meditsiinilise tehisintellekti viga Hollandi haiglas

Juhtumiuuring: „Haigla X vältis vastutust diagnostilise tehisintellekti vea eest asjakohaste lepinguliste kokkulepete abil.“

Esialgne olukord: Hollandi haigla radioloogia tehisintellekti süsteem jättis varajases staadiumis vähi diagnoosimata, mille tagajärjel patsiendi ravi viibis. Patsient nõudis kahjutasu nii haiglalt kui ka tehisintellekti tarnijalt.

Astud sammud:

1. Lepingu analüüsHaigla oli selgesõnaliselt sätestanud, et tehisintellekti tohib kasutada ainult tugiotstarbel.
2. Protsessi tõendidDokumentatsioon näitas, et lõpliku otsuse tegi radioloog.
3. Tehniline uurimineTehisintellekti tarnija tõestas, et süsteem toimib spetsifikatsioonide piires
4. Õigusstrateegia: Apellatsioonkaebus standardsetele meditsiiniprotseduuridele ja inimlikule vastutusele

Lõplikud tulemused:

• VastutusLõppkokkuvõttes määratud ravivale radioloogile
• HüvitisKaetud meditsiinilise vastutuskindlustusega
• Lepinguline mõjuTehisintellekti tarnija on nõuete esitamisest vabastatud
• Protsessi optimeerimineTäiustatud protokollid tehisintellekti toe jaoks

Aspekt	Enne intsidenti	Pärast intsidenti
Tehisintellekti roll	Toetav	Selgesõnaliselt toetav
Vastutus looduse ees	Ebaselge	Selge arstiga
dokumentatsioon	Põhi-	Ulatuslik
personali koolitus	piiratud	Intensiivne

Õigusalased õppetunnid: See juhtum näitab selgete lepinguliste kokkulepete ja inimese lõpliku vastutuse säilitamise olulisust kriitiliste tehisintellekti rakenduste puhul meditsiinisektoris.

9. Korduma kippuvad küsimused tehisintellekti vastutuse kohta

Küsimus 1: Kes vastutab, kui isejuhtivad autod põhjustavad õnnetuse? See sõltub automatiseerimise tasemest ja asjaoludest. Täisautonoomsete isejuhtivate autode puhul, mis suudavad töötada ilma inimese sekkumiseta, vastutab tavaliselt tootja, samas kui poolautonoomsete süsteemide puhul jääb lõplikult piisava järelevalve eest vastutavaks juht.

Küsimus 2: Kas meditsiinilisele tehisintellektile kehtivad erinevad reeglid kui kommertslikule tehisintellektile? Jah, meditsiinilise tehisintellekti suhtes kehtivad spetsiifilised eeskirjad, näiteks meditsiiniseadmete määrus (MDR), ja sellel on rangemad ohutusnõuded. Tehisintellekti seadus liigitab meditsiinilise tehisintellekti ka „kõrge riskiga“ tooteks, mis toob kaasa täiendavaid läbipaistvuse ja dokumenteerimise kohustusi.

Küsimus 3: Mida tähendab ELi tehisintellekti seadus vastutuse seisukohast? Tehisintellekti seadus kehtestab kõrge riskiga tehisintellekti süsteemidele uued hoolsuskohustused. Nende kohustuste rikkumine võib kaasa tuua suurenenud vastutuse. Samuti suurendab see läbipaistvusnõudeid, mis võivad kahju korral hõlbustada tõendite esitamist.

Küsimus 4: Kuidas ma tõestan, et tehisintellekti tarkvara on defektne? Te peate tõendama, et tehisintellekti süsteem ei vasta mõistlikele ohutusnõuetele. See nõuab sageli tehnilist ekspertiisi ning treeningandmete, algoritmide ja testitulemuste dokumenteerimist. Tehisintellekti vastutuse direktiivis kavandatud tõendamiskohustuse ümberpööramine oleks seda protsessi lihtsustanud.

10. Kokkuvõte: tehisintellekti vastutuse põhipunktid

5 olulist punkti tehisintellekti vastutuse kohta praktikas:

1. Vastutav võib olla mitu osapooltarendajatest lõppkasutajateni, olenevalt nende rollist ja kontrollist tehisintellekti süsteemi üle
2. Lepingulised kokkulepped on olulisedselged sätted tehisintellekti kasutamise kohta hoiavad ära õigusliku ebaselguse
3. Dokumentatsioon on üliolulinetehisintellekti otsuste hea logimine ja jälgitavus tugevdab teie õiguslikku positsiooni
4. Tehisintellekti seaduse järgimine on kohustuslikUued Euroopa eeskirjad loovad kõrge riskiga süsteemidele täiendavaid hoolduskohustusi
5. Kindlustus pakub kaitsettehisintellekti vastutuskindlustus katab riske, mida traditsioonilised poliisid ei kata

Tehisintellekti vastutust käsitlev õiguslik maastik areneb kiiresti. Tehisintellekti vastutuse direktiivi kehtetuks tunnistamise ja tehisintellekti seaduse jõustumisega on endiselt oluline jälgida õiguslikke arenguid ning korraldada ennetavalt vastavust ja riskijuhtimist.

Järgmised sammud:

• Laske oma tehisintellektiga seotud lepingud seaduslikult üle vaadata ja muuta
• Rakendage tehisintellekti juhtimisprotseduure vastavalt tehisintellekti seadusele
• Uurige oma organisatsiooni jaoks sobivat tehisintellekti vastutuskindlustust
• Komplekssete tehisintellekti juurutuste puhul konsulteerige spetsialiseerunud juristidega

Tehisintellektiga seotud vastutuse ennetava käsitlemisega saate tehisintellekti eeliseid ära kasutada, hallates samal ajal juriidilisi riske.