Tehisintellekt ja kriminaalõigus: kes vastutab, kui algoritm tekitab kahju?

Õigluse kaalud hõõguva digitaalse sõrmejälje kõrval trükkplaadi taustal

Hollandi ja Euroopa õiguse kohaselt ei saa algoritmi kriminaalselt vastutada, isegi mitte osaliselt. Hollandi kriminaalkoodeksi (Wetboek van Strafrecht, Sr) artikkel 51 tunnistab kurjategijatena ainult füüsilisi ja juriidilisi isikuid, seega on tegelik küsimus, milline isik või ettevõte vastutab tehisintellekti süsteemi tegude eest.

Hollandi kriminaalõigus vastab sellele küsimusele juba funktsionaalse kuriteo (functioneel daderschap) ja juriidilise isiku kriminaalvastutuse kaudu. See artikkel selgitab, kuidas need doktriinid tehisintellektile kehtivad, kuidas ELi tehisintellekti seadus kehtestab hoolsusstandardi, kuidas algoritmilist väljundit tõendina kasutatakse ja milline näeb välja kaitse- ja vastavusprogramm. Tarneahela aspekti kohta vaadake meie kaasnevat artiklit selle kohta, kes vastutab, kui masin paneb toime kuriteo.

Metallist humanoidne robotkuju istub dramaatilise valgustuse all kohtusaalis tunnistajapuldis.

Miks ei saa algoritm olla kahtlusalune?

Kuritegu eeldab süüdlase käitumist ning tehisintellekti süsteemil puudub tahe ja seda ei saa karistada. Paragrahvi 51(1) kohaselt võivad kuritegusid toime panna nii füüsilised kui ka juriidilised isikud; tarkvara ei ole kumbki.

Mudelile ei saa määrata sanktsioone nagu vangistus, rahatrahv või ühiskondlik karistus. Mudeli kustutamine karistab selle omanikku, mitte süsteemi. Kõik, mida kriminaalõigus soovib pärast tehisintellekti põhjustatud kahju saavutada, tuleb seega saavutada selle taga olevate inimeste ja organisatsioonide kaudu.

ElementMida kriminaalõigus nõuabTehisintellekti süsteemi asukoht
TegijaFüüsiline või juriidiline isik (artikkel 51 Sr)Kumbagi mitte; see on kellegi omanduses ja hallatav objekt
Läbi viimaTegu või süüline tegevusetusVäljund; omistatav käitumine on otsus see ehitada, kasutusele võtta või töös hoida
Tahtlus või hooletusTahtlus (opzet) või oluline hooletus (culpa)Vaimne seisund puudub; tahtlus või hooletus lasub inimestel
SanktsioonVangistus, rahatrahv, ühiskondlikult kasulik karistus või meedePole võimalik; sanktsioonid langevad operaatorile

Kes vastutab hoopis?

Operaator, ettevõte ja selle juhtkond. Hollandi kriminaalõiguses on kaks mehhanismi kellegi vastutusele võtmiseks teo eest, mida ta füüsiliselt ei toime pannud, ning mõlemad kehtivad tehisintellekti suhtes muutmata kujul.

Funktsionaalne toimepanemine

Ülemkohtu (Hoge Raad) IJzerdraadi otsuses sõnastatud testi kohaselt on isik funktsionaalne toimepanija, kui tal oli võim otsustada, kas tegu pandi toime ja ta selle heaks kiitis või kas ta sellise teo harjumuspäraselt heaks kiitis.

Tehisintellekti puhul on käsutamisõigust tavaliselt lihtne tõestada: operaator saab süsteemi konfigureerida, ümber õpetada ja välja lülitada. Juhtumi otsustab aktsepteerimine. Tõendid puudutavad seda, mida operaator teadis rikkerežiimide kohta, mida testimine ja varasemad intsidendid näitasid ning mida sellega seoses ette võeti. Piisab märkimisväärse riski teadlikust aktsepteerimisest; see on Hollandi tingimusliku kavatsuse standard (voorwaardelijk opzet).

Ettevõtte vastutus ja de facto juhtimine

Kui operaator on ettevõte, kohaldatakse artikkel 51 Sr. Drijfmesti kohtuotsuses (ECLI:NL:HR:2003:AF7938) leidis Ülemkohus, et käitumise saab omistada juriidilisele isikule, kui see toimus tema tegevusvaldkonnas. Näitajad on, et käitumise pani toime tema heaks töötav isik, see sobis tema tavapärase äritegevusega, tõi talle kasu ning et ettevõte sai seda kontrollida ja aktsepteeris seda, sealhulgas mõistliku hoolsuse puudumise tõttu. Ettevõtte tööks kasutusele võetud tehisintellekti süsteem vastab enamikule neist näitajatest.

Artikli 51(2) Sr lubab ka süüdistuse esitada neile, kes andsid käsu või juhtisid kuritegu de facto (feitelijk leidinggeven). Oma 26. aprilli 2016. aasta otsuses (ECLI:NL:HR:2016:733) leidis Ülemkohus, et ametlik seisukoht ei ole ei nõutav ega piisav. Passiivne roll võib olla piisav, kui isik oli võimeline ja kohustatud käitumist ära hoidma ning vähemalt teadlikult aktsepteeris märkimisväärset võimalust, et see aset leiab. Tehisintellekti juhtumi puhul on tõendiks see, kes sai valideerimisaruande, kes kiitis heaks juurutamise ja kes aktsepteeris teadaolevat veamäära.

Millised rikkumised on kõige tõenäolisemad?

Automatiseeritud süsteemidega seotud süüdistused põhinevad tavaliselt hooletusel. Kui tehisintellektiga juhitav sõiduk, masin või meditsiiniseade põhjustab surma, on tegemist surma põhjustamisega hooletuse tõttu vastavalt artiklile 307 Sr (kuni kaheaastane vangistus); raskete vigastuste korral artiklile 308 Sr.

Diskrimineerimine on teine ​​kategooria. Inimeste diskrimineerimine ametikoha, elukutse või ettevõtte täitmisel sellistel alustel nagu rass, usk, veendumused, sugu või seksuaalne sättumus on kuritegu artikli 429quater Sr alusel; tahtlik diskrimineerimine rassi alusel on kuritegu artikli 137g Sr alusel. Seega võib kaitserühma süstemaatiliselt ebasoodsasse olukorda seadva mudeli puhul tegemist olla kriminaalasjaga. Meie Madalmaade kriminaalmenetluse juhend selgitab, kuidas selline juhtum käib.

Kuidas mõjutab tehisintellekti seadus kriminaalvastutust?

ELi tehisintellekti seadus (määrus (EL) 2024/1689) ei loo kriminaalkuritegusid, kuid see sätestab, mida hoolikas teenusepakkuja või juurutaja peab tegema. Sellest standardist kõrvalekaldumine on tõend hooletuse kohta; vastavus on tõend hoolikusest.

Seadus liigitab süsteeme riski järgi. Mõned tavad on keelatud, näiteks sotsiaalne hindamine, näokujutiste sihitu kraapimine ja emotsioonide tuvastamine tööl või hariduses. Kõrge riskiga süsteemide hulka kuuluvad reguleeritud toodete ohutuskomponendid ja kasutusalad, näiteks värbamine, krediidiskoorimine, õiguskaitse, ränne ja õigusemõistmine. Süsteemidel, mis suhtlevad inimestega või genereerivad sünteetilist sisu, on läbipaistvuskohustus.

Pakkuja või juurutaja: milline roll teil on?

Teenusepakkuja arendab süsteemi ja laseb selle turule oma nime all; juurutaja kasutab süsteemi omal algatusel. Teenusepakkujatel on projekteerimiskohustused, juurutajatel on kohustus tagada korrektne kasutamine, inimeste järelevalve ja jälgimine.

Juurutajast saab pakkuja, kui ta paneb oma nime kõrge riskiga süsteemile, muudab seda oluliselt või muudab selle eesmärki nii, et see muutub kõrge riskiga süsteemiks. Ostetud mudeli peenhäälestamine ja uuel otstarbel kasutamine võib teid sellest piirist üle viia. Kriminaaluurimises kerkib sama küsimus: kellel oli käsutusõigus? Fikseerige rollid kirjalikult ja lepingus.

Mis juba kehtib?

Artiklis 50 sätestatud keelud, tehisintellekti oskusteabe kohustus, üldotstarbeliste tehisintellekti mudelite eeskirjad ja läbipaistvuskohustused kehtivad juba. Digitaalse koondmäärusega (määrus (EL) 2026/1744) lükati kõrge riskiga süsteemide kohustused edasi. Kavandatud tehisintellekti vastutuse direktiiv võeti tagasi, seega jääb tehisintellekti tekitatud kahju tsiviilvastutus endiselt Hollandi delikti- ja tootevastutuse õiguse reguleerimisalasse.

Seaduse alusel määratavad trahvid on halduslikud: keelatud tavade puhul kuni 35 miljonit eurot või 7% ettevõtte ülemaailmsest aastakäibest, muude rikkumiste puhul on ülemmäärad madalamad. Hollandis koordineerivad järelevalvet Hollandi andmekaitseamet (Autoriteit Persoonsgegevens) ja Hollandi digitaalse taristu amet (Rijksinspectie Digitale Infrastructuur). Vaadake meie artikleid keelatud tehisintellekti tavade ja kõrge riskiga tehisintellekti süsteemide kohta ning meie ülevaadet ELi tehisintellekti seadusest.

Prokurör kasutab seadust kontrollnimekirjana. Kui juurutaja kasutas sõelumisvahendit ilma treeningandmete eelarvamusi kontrollimata ja ilma vajaliku inimjärelevalveta, dokumenteeritakse rikkumine ja juurutamise otsusest tuleneb aktsepteerimine. Seevastu ettevõte, mis suudab esitada oma riskianalüüsi, valideerimistulemused, järelevalveprotokolli ja intsidentide logi, on oma kaitse eelnevalt üles ehitanud.

Haamer toetub õigusraamatule tehisintellekti võrgu helendava abstraktse kujutise kõrval.

Kuidas algoritmilist väljundit tõendina kasutatakse?

Algoritmiliselt saadud tulemused, näiteks näotuvastuse vasted, numbrimärkide tuvastamine või pettuseriski skoorid, ei ole eraldi tõendikategooria. Kriminaalmenetluse seadustiku (Wetboek van Strafvordering, Sv) artikli 339 kohaselt piirduvad tõendid kindlate kategooriatega, seega jõuavad tulemused kohtuni kirjalike dokumentide, näiteks ametliku politseiaruande või eksperdiarvamuse kaudu.

Kaitsmine testib kolme küsimust. Kas meetod on valideeritud ja kelle poolt? Millistel tingimustel see ebaõnnestub ja kas need tingimused olid täidetud? Ja kas kaitsmine saab seda kontrollida, kasutades juurdepääsu teabele treeningandmete, veamäärade ja konfiguratsiooni kohta? Ilma veamäära või kontrollimisvõimaluseta esitatud vaste on nõrk tõend ja selle vaidlustamine on õigustatud kaitse.

Kohus võib eksperdi määrata omal algatusel või kaitsja taotlusel. Kui tehisintellekti meetod jääb väljapoole tunnustatud ekspertiisivaldkonda, on see juba usaldusväärsuse küsimus. Uus kriminaalmenetluse seadustik on vastu võetud ja peaks jõustuma 2029. aastal; seni kehtib kehtiv seadustik.

Mida andmekaitseseadus lisab?

Isikuandmete kaitse üldmääruse artikkel 22 annab isikule õiguse mitte alluda üksnes automatiseeritud töötlusel põhinevale otsusele, mis teda oluliselt mõjutab. Kriminaalmenetluses rakendab politseiandmete seadus (Wet politiegegevens) politsei suhtes paralleelseid ELi eeskirju. Kahtlusaluse jaoks võib see olla tee süsteemi kohta käiva teabe saamiseks; ettevõtte jaoks on seadusliku aluseta automatiseeritud otsuste tegemine eraldi rikkumine, mida käsitletakse koos iga kriminaalsüüdistusega.

Kuidas kaitsta end kohtuasjas, milles on osalenud tehisintellekt?

„Musta kasti“ kaitse, mille kohaselt keegi ei tea, mida süsteem teeb, on nõrgem, kui paistab. Hollandi kriminaalõigus küsib, kas kostja sai otsustada, kas tegu toimus ja kas ta riski aktsepteeris, mitte seda, kas ta nägi täpset tulemust ette; seletamatu süsteemi rakendamine olukorras, kus see võib põhjustada tõsist kahju, võib iseenesest olla selle riski aktsepteerimine.

Kolm kaitseargumenti toimivad paremini ja kõik on tõenduspõhised:

  • Tegelikku kontrolli pole: Süsteem osteti valmistootena, teenusepakkuja konfigureeris ja hooldas seda ning kostjal polnud ei teavet ega võimalust sekkuda. See nihutab tähelepanu teenusepakkujale ning sõltub lepingust ja sellest, mida teatati.
  • Nõuetekohane hoolsus: dokumenteeritud riskihindamine, valideerimine enne juurutamist, inimese teostatav järelevalve isiku poolt, kellel on õigus tühistada, jälgimine ja intsidentide korral tegutsemise algatamine.
  • Põhjuslik seos: Ahelas treeningandmetest mudelini, inimese otsusest tulemuseni peab süüdistus tõestama, et kostja käitumine põhjustas tulemuse.

Säilitage logid, mudeliversioonid, konfiguratsioonid ja intsidentide aruanded varakult, kuna need kirjutatakse rutiinselt üle. Tavapärased kaitsemeetmed kehtivad täielikult, sealhulgas õigus vaikida vastavalt artiklile 29 Sv; vaadake meie artiklit vaikimisõiguse kohta kriminaalasjades . Automatiseeritud tööriistadega toime pandud pettuste kohta vaadake meie juhendit pettuste ja finantskuritegude kohta Hollandis.

Mureliku ilmega perekonna siluett keerukate algoritmiliste andmevoogude taustal.

Mida näitab lastehoiutoetuste afäär?

Lastehoiuhüvitiste afäär (toeslagenaffaire) näitab, kuidas automatiseeritud riskivalik koos vaieldamatu tulemusega võib kahjustada tuhandeid peresid ilma, et kedagi kriminaalvastutusele võetaks. Hollandi maksuamet (Belastingdienst) kasutas riskiklassifikatsiooni, mille puhul mängis rolli kodakondsus; Hollandi andmekaitseamet leidis, et töötlemine oli ebaseaduslik ja määras trahvi ning valitsus astus 2021. aasta jaanuaris tagasi.

Kolm ebaõnnestumist toovad iga organisatsiooni jaoks kaasa õigusliku vastutuse: otsuseid ei saanud selgitada ja seega ka vaidlustada, inimjärelevalve eksisteeris ainult paberil ja lipp pööras praktikas tõendamiskoormise ümber. Just see vastutuse hajumine ongi see, mille vastu võitlemiseks on mõeldud funktsionaalne kuritegu ja artikkel 51 Sr ning miks tehisintellekti seadus nõuab tuvastatavat inimjärelevalvet ja dokumenteerimist.

Mida peaksite tehisintellekti juurutava ettevõttena kontrollima?

Enamik tehisintellekti seaduse alusel tehtavast vastavustööst annab ka tõendeid, mida vajaksite kriminaaluurimises.

  • Kas olete loetlenud kõik kasutusel olevad tehisintellekti süsteemid, sealhulgas ostetud tarkvara funktsioonid, ja liigitanud need tehisintellekti seaduse alusel?
  • Kas iga süsteemi eest on määratud vastutav isik, kellel on õigus juurutamist kinnitada ja see välja lülitada?
  • Kas inimjärelevalve on reaalne: kas ülevaataja saab väljundist aru ja saab selle tagasi lükata ning kas tühistamised logitakse?
  • Kas olete dokumenteerinud treeningandmed, testimise, teadaolevad veamäärad ja nendega seotud otsused?
  • Kas andmekaitse või põhiõiguste mõjuhinnang on tehtud vajaduse korral?
  • Kas teie lepingud sisaldavad teenusepakkuja tehnilist dokumentatsiooni ja intsidentide teavitusi?

Mida peaksite tehisintellekti süsteemide pakkujana kontrollima?

Pakkujana vastutate disaini eest ja olete esimene, kes tegutseb, kui juurutajad ahelas ülespoole liiguvad.

  • Kas teie kavandatud otstarve on kasutusjuhendis täpselt määratletud?
  • Kas teil on tehniline dokumentatsioon andmeallikate, eelarvamuste testimise ja disainivalikute kohta?
  • Kas olete juurutajatele kirjalikult teadaolevaid piiranguid ja rikketingimusi avaldanud?
  • Kas teil on protseduur intsidentidest teatamiseks ja juurutajate teavitamiseks olulistest muudatustest?
  • Kas teie lepingus on sätestatud, kumb pool võib süsteemi muuta või ümber õpetada?

Mis siis, kui tehisintellekti kasutatakse kuriteo toimepanemise vahendina?

Siis on süütegu lihtsalt süütegu; tehnoloogia ei muuda juriidilist analüüsi. Pettus režissööri kloonitud hääle või sünteetilise videoga on pettus (oplichting) vastavalt artiklile 326 Sr; genereeritud valedokument on võltsimine vastavalt artiklile 225 Sr; kellegi teise teesklemine oma identifitseerimisandmetega on identiteedipettus vastavalt artiklile 231b Sr.

Alates seksuaalkuritegude seaduse (Wet seksuale misdrijven) jõustumisest 1. juulil 2024 on isiku seksuaalse kujutise avalikustamine teadmisega, et see võib teda kahjustada, karistatav artikli 254ba Sr alusel; genereeritud kujutis ei ole välistatud seetõttu, et seda ei salvestatud. Süstemaatiline ahistamine automatiseeritud kontode kaudu võib olla jälitamine artikli 285b Sr alusel, mille eest algatatakse kriminaalmenetlus ainult kaebuse alusel. Tehisintellekt muudab peamiselt tõendamise ulatust ja raskusastet: nüüd tuleb tõestada heli ja video autentsust. Vaadake meie artiklit digitaalse pettuse tõestamise kohta Hollandis.

Äriülikonnas spetsialist suhtleb futuristliku holograafilise liidesega, mis kuvab vastavuskontrollnimekirju ja riskihindamise andmeid.

Mida me saame teie heaks teha tehisintellekti ja kriminaalvastutuse osas?

Meie kriminaalõiguse ja IT-õiguse meeskonnad teevad nende juhtumite puhul koostööd.

  • Hindame teie kokkupuudet artikli 51 alusel ja iga teie kasutatava tehisintellekti süsteemi funktsionaalset rikkumist.
  • Vaatame üle teie tehisintellekti juhtimise, järelevalveprotokolli ja dokumentatsiooni, et need saaksid olla hoolivuse tõendiks.
  • Me koostame ja lepime kokku vastutuse jaotuse pakkuja ja juurutaja vahel.
  • Me vaidlustame algoritmilisi tõendeid ja taotleme juurdepääsu valideerimisandmetele kriminaalmenetluses.
  • Abistame ettevõtteid ja nende juhte riigiprokuratuuri ja regulaatorite uurimiste ajal.

kokkuvõte

  • Algoritm ei saa olla õigusrikkuja; artikkel 51 Sr hõlmab ainult füüsilisi ja juriidilisi isikuid.
  • Ettevõtjad vastutavad funktsionaalse teo toimepanemise kaudu, ettevõtted Drijfmesti kriteeriumide alusel, direktorid faktilise juhtimise kaudu.
  • Tehisintellekti seadus sätestab hoolsusstandardi: rikkumine on tõend hooletuse kohta, vastavus on tõend hoolikuse kohta.
  • Algoritmiline väljund siseneb kriminaalasja politseiraporti või eksperdiarvamuse kaudu ning seda saab vaidlustada valideerimise ja veamäärade osas.

Korduma kippuvad küsimused

Kas algoritm saab Hollandi seaduste kohaselt kriminaalvastutusele võtta?

Ei. Hollandi karistusseadustiku artikkel 51 tunnistab kurjategijatena ainult füüsilisi ja juriidilisi isikuid. Vastutus lasub käitajal, ettevõttel või juhatuse liikmetel, kes selle kasutamise üle otsustasid.

Kas ettevõtet saab kriminaalselt vastutada, kui tema tehisintellekt diskrimineerib?

Jah. Kui käitumist saab ettevõttele omistada Drijfmesti kriteeriumide alusel, saab ettevõtet süüdistada näiteks artikli 429quater alusel. Juhatuse liikmeid, kes teadlikult riski võtsid, saab süüdistada faktiliste juhtidena.

Kas musta kasti probleem on kaitseks?

Harva iseseisvalt. Hollandi kriminaalõigus küsib, kas sa said süsteemi kasutamise üle otsustada ja kas sa võtsid riski vastu. Seletamatu süsteemi juurutamine olukorras, kus see võib põhjustada tõsist kahju, võib iseenesest olla selle riski vastuvõtmine.

Kuidas tehisintellekti kasutades kõige paremini kuritegevust piirata?

Hoidke dokumentatsiooni treeningandmete, testimise, veamäärade ja otsuste kohta, määrake iga süsteemi eest vastutavad isikud ja tagage inimeste järelevalve logitud tühistamiste abil. See dokument on ka teie kaitse tuum.

Jade Vaneerdewegh
Jade Vaneerdewegh on advokaat ettevõttes Law & More in Eindhoven ja AmsterdamTa töötab kriminaal- ja haldusõiguse küsimustes, tuginedes oma nõuannetes faktide ja õigusaktide põhjalikule analüüsile.

Kahtlustatakse kuriteos?

Saatke meile oma küsimuse kohta paar rida e-kirja aadressile info@lawandmore.nlAnname teile teada, kas saame aidata ja milline on järgmine samm. Me ei hinda juhtumeid ega dokumente e-posti teel ilma kokkuleppeta.

Kas soovite, et kriminaalõiguse jurist hindaks teie olukorda? Tasulise konsultatsiooni käigus hinnaga 300 eurot (sisaldab käibemaksu) saate oma küsimusele suunava vastuse.

See artikkel annab üldist teavet ega asenda teie konkreetse olukorra kohta käivat nõu.

Kas vajate juriidilist nõu?

Saatke meile oma küsimuse kohta paar rida e-kirja aadressile info@lawandmore.nlAnname teile teada, kas saame aidata ja milline on järgmine samm. Me ei hinda juhtumeid ega dokumente e-posti teel ilma kokkuleppeta.

Kas soovite, et kriminaalõiguse jurist hindaks teie olukorda? Tasulise konsultatsiooni käigus hinnaga 300 eurot (sisaldab käibemaksu) saate oma küsimusele suunava vastuse.

Teemaga seotud artiklid

Süüdimõistmisega silmitsi seismine võib mõjutada perekonda ja lahutust. Avastage oma apellatsioonivõimalused Hollandis.

Ohvri kaitsja (slachtofferadvocaat) on advokaat, kes tegutseb ainult ohvri nimel.

Küberrünnakud, nagu lunavara, andmepüük, DDoS-rünnakud ja arvutisse sissetungimine, mõjutavad harva ainult organisatsiooni ennast.

Tingimusteta karistus (onvoorwaardelijke straf) on karistus, mis pööratakse tegelikult täitmisele pärast kurjategija poolt määratud karistuse saabumist.

Kvantarvutust kui sellist ei reguleeri ükski Hollandi ega Euroopa seadus. Kehtib kehtiv seadusandlus.

Räsimärki saab kaubamärgina registreerida ja paljud on seda ka teinud.