Hollandi ja Euroopa õiguse kohaselt ei saa algoritmi kriminaalselt vastutavaks pidada. Kriminaalvastutus nõuab teo toimepanijat, keda seadus isikuna tunnustab, ja artikkel 51 Sr laiendab seda staatust ainult füüsilistele ja juriidilistele isikutele. Tehisintellekti süsteem on objekt, mitte kahtlusalune. Seega ei ole praktikas oluline küsimus, kas algoritm on osaliselt vastutav, vaid milline inimene või milline ettevõte on täielikult vastutav selle eest, mida ta tegi.
Sellele küsimusele on Hollandi kriminaalõiguses juba hästi välja töötatud vastus. Funktsionaalse toimepanemise (functioneel daderschap) ja juriidilise isiku kriminaalvastutuse doktriinid loodi just sellise olukorra jaoks: kahju tekitati vahendi, organisatsiooni või protsessi abil, mitte kostja enda kätega. See artikkel kirjeldab, kuidas need doktriinid kehtivad tehisintellektile, kuidas ELi tehisintellekti seadus muudab hoolsusstandardit, kuidas algoritmilist väljundit käsitletakse tõendina ning milline peaks välja nägema kaitse- ja vastavusprogramm. Laiema küsimuse kohta, kuidas vastutust jaotada arendajate, pakkujate ja kasutajate tarneahelas, vaadake meie kaasnevat artiklit selle kohta, kes vastutab, kui masin paneb toime kuriteo.
Miks algoritm ei saa olla kahtlusalune
Hollandi õiguse kohaselt eeldab kriminaalkuritegu inimlikku tegu või tegevusetust, mis vastab süüteo seadusjärgsele määratlusele, on ebaseaduslik ja selles saab süüdlase süüdistada. Kõik need elemendid eeldavad tahtejõuga tegutsejat. Algoritm loob väljundeid, käivitades andmetel koodi; sellel puudub tahe kujuneda, pole midagi, mille eest süüdistada, ja pole midagi, milleni kriminaalkaristus ulatuda saaks. Artikkel 51 Sr tegi üksikisiku kõrval ruumi ka ettevõttele just seetõttu, et ettevõte tegutseb inimeste kaudu; tarkvara kohta puudub võrreldav säte ja selle loomine nõuaks seadusandjalt uue juriidilise isiku kategooria loomist.
Samuti ei täidaks see kriminaalõiguses tunnustatud eesmärki. Karistus on ette nähtud karistamiseks, heidutamiseks ja võimaluse korral parandamiseks. Ühtegi neist funktsioonidest ei saa mudelil täita. Neuraalvõrgu kaalude kustutamine karistab selle omanikku, mitte võrku. Kõik, mida kriminaalõigus soovib saavutada, kui tehisintellekti süsteem kahju tekitab, tuleb saavutada selle taga olevate inimeste ja organisatsioonide kaudu, mistõttu Hollandi praktika ei käsitle seda õigusliku lüngana.
Allolev tabel näitab kuriteo elementide ja tehisintellekti süsteemi tegeliku olemuse vahelist lahknevust.
| Element | Mida kriminaalõigus nõuab | Tehisintellekti süsteemi asukoht |
|---|---|---|
| Kurjategija | Füüsiline isik või juriidiline isik vastavalt artiklile 51 Sr. | Kumbagi mitte. Süsteem on objekt, mis kuulub kellelegi teisele ja mida ta haldab. |
| Käitumine | Tegu või süüline tegevusetus, mis on omistatav sellele toimepanijale. | Koodi abil loodud väljund. Omistatav käitumine on otsus see luua, juurutada või tööle jätta. |
| Tahtlus või hooletus | Opzet, sealhulgas tingimuslik tahtlus või culpa olulise hooletuse tähenduses. | Mitte mingisugust vaimset seisundit. Tahtlus ja hooletus eksisteerivad, kui üldse, inimestes, kes seda konfigureerisid ja jälgisid. |
| Sanktsioon | Vangistus, rahatrahv, ühiskondlikult kasulik karistus või meede. | Tarkvarale ei saa neid kehtestada. Sanktsioonid langevad operaatorile. |
Kes on selle asemel vastutav: funktsionaalne teo toimepanemine ja art. 51 Sr.
Hollandi kriminaalõiguses on kaks mehhanismi kellegi vastutusele võtmiseks teo eest, mida ta füüsiliselt toime ei pannud. Mõlemad töötati välja ammu enne masinõppe tekkimist ja mõlemad sobivad tehisintellekti juhtumiteks ilma muudatusteta.
Funktsionaalne toimepanemine
Functioneel daderschap lubab isikut pidada kellegi või millegi muu poolt füüsiliselt toime pandud kuriteo toimepanijaks. Kriteeriumid, mille Hoge Raad sõnastas IJzerdraadi otsuses, jäävad testiks: kostjal pidi olema võim otsustada, kas tegu toimus (beschikken), ja ta pidi selle heaks kiitma või sellise käitumise harjumuspäraselt heaks kiitma (aanvaarden).
Tehisintellekti süsteemile rakendatuna on esimene kriteerium tavaliselt lihtne ja teine otsustab juhtumi. Käitumise võimet näitab võime süsteemi konfigureerida, määrata selle tööpiire, seda uuendada või ümber õpetada ja ennekõike see välja lülitada. Väga vähesed operaatorid saavad usutavalt öelda, et neil see võime puudus. Aktsepteerimine on keerulisem küsimus ja sinna lähevad tõendid: mida operaator teadis süsteemi rikkerežiimide kohta, mida testimine või varasemad intsidendid näitasid, mida riskihindamine ütles ja mida sellega seoses ette võeti. Aktsepteerimine ei nõua tulemuse soovimist. Piisab sellest, et operaator teadlikult aktsepteeris märkimisväärset riski, mis on tavaline Hollandi tingimusliku kavatsuse standard (voorwaardelijk opzet).
Ettevõtte vastutus ja tegelik juhtimine
Kui operaator on ettevõte, kohaldatakse artiklit 51 Sr. Süüteo saab omistada juriidilisele isikule, kelle tegevusvaldkonnas käitumine toimus, mida Hoge Raad on selgitanud Drijfmesti otsuses esitatud tegurite kaudu: käitumise pani toime ettevõtte heaks töötav isik, see kuulus ettevõtte tavapärase äritegevuse hulka, see oli ettevõttele kasulik ja ettevõte suutis kindlaks teha, kas see toimus ja aktsepteeris sellist käitumist või aktsepteeris seda harjumuspäraselt. Ettevõtte poolt oma töö tegemiseks kasutusele võetud tehisintellekti süsteem vastab enamusele sellest loetelust definitsiooni järgi.
Artikkel 51 Sr lubab ka süüdistuse esitada nii kuriteo tellijatele kui ka neile, kes seda tegelikult juhtisid (feitelijk leidinggeven). See säte puudutab direktoreid ja tippjuhte isiklikult. See nõuab enamat kui lihtsalt kohta organisatsiooniskeemis: isik pidi olema keelatud käitumisest teadlik, vähemalt selles mõttes, et ta aktsepteeris märkimisväärset võimalust, et see toimub, ning pidi jätma võtmata meetmed, mida ta oli pädev ja mõistlikult kohustatud võtma. Tehisintellekti juhtumi puhul tähendab see otseselt tõendeid selle kohta, kes sai mudeli valideerimisaruande, kes allkirjastas juurutamise ja kes otsustas, et teadaolev eelarvamus või veamäär on vastuvõetav.
Hooletuse tõttu tehtud süüteod teevad suurema osa tööst ära
Praktikas põhinevad automatiseeritud süsteemidega seotud süüdistused palju tõenäolisemalt hooletusel kui tahtlusel. Kui tehisintellektiga juhitav sõiduk, masin või meditsiiniseade põhjustab surma, on asjakohane kuritegu surma põhjustamine hooletuse tõttu vastavalt artiklile 307 Sr; kui see põhjustab raske kehavigastuse, tähendab Hollandi kriminaalõiguses artikli 308 Sr. kohaselt Culpa olulist hooletust, mida hinnatakse selle suhtes, mida mõistlik operaator sellises olukorras oleks pidanud tegema. Just sellel alusel tehisintellektiga seotud kohtuasju ka lahendatakse, sest automatiseeritud süsteemi juurutamise hoolsusstandard on üha enam kirja pandud: tehisintellekti seaduses, valdkonna regulatsioonides, tehnilistes standardites ja operaatori enda protseduurides. Dokumenteeritud kõrvalekalle standardist, mille operaator ise on vastu võtnud, on kõige tugevam tõend hooletuse kohta.
Diskrimineerimine on teine korduv kategooria. Diskrimineerimine äri- või kutsetegevuses on Wetboek van Strafrechti kohaselt kriminaalkuritegu ning eksisteerivad nii tahtlikud kui ka hooletusest tulenevad variandid. Mudel, mis süstemaatiliselt seab kaitstud rühma ebasoodsasse olukorda, ei ole seega mitte ainult haldusprobleem andmekaitse ja võrdse kohtlemise õiguse alusel; tõsise juhtumi puhul on see kriminaalõiguslik probleem. Meie Hollandi kriminaalmenetluse juhend selgitab, kuidas selline juhtum kulgeks uurimisest kohtuotsuseni.
Tehisintellekti seadus kehtestab hoolsusstandardi, mitte sanktsiooni
ELi tehisintellekti seadus on haldusnorm. See ei loo kriminaalkuritegusid ega tee kedagi kahtlusaluseks. Selle tähtsus kriminaalvastutuse seisukohast on kaudne ja märkimisväärne: see sätestab siduvalt, mida tehisintellekti süsteemi hoolikalt pakkujalt või juurutajalt oodatakse. Kui hoolsusstandard on kodifitseeritud, on sellest kõrvalekalle tõend hooletuse kohta ja selle järgimine tõend hoolikuse kohta.
Seadus liigitab süsteeme riski alusel. Väike arv tavasid on täielikult keelatud, sealhulgas avaliku sektori asutuste sotsiaalne hindamine, näokujutiste sihitu kraapimine tuvastusandmebaaside loomiseks, emotsioonide tuvastamine töökohal ja hariduses ning, välja arvatud piiratud erandid, reaalajas biomeetriline kaugtuvastus avalikes kohtades õiguskaitseasutuste jaoks. Suurem rühm liigitatakse kõrge riskiga toodeteks, mis hõlmab reguleeritud toodete ohutuskomponente ja seaduse lisas loetletud kasutusviise, sealhulgas värbamist, krediidiskoorimist ning rakendusi õiguskaitses, migratsioonis ja õigusemõistmises. Süsteemidel, mis suhtlevad inimestega või genereerivad sünteetilist sisu, on läbipaistvuskohustus. Ülejäänu on sisuliselt reguleerimata.
Pakkuja või juurutaja: rollid määravad ülesanded
Seadus jaotab kohustused rollide järgi ja rolli valesti määramine on üks levinumaid vastavusvigu. Pakkuja arendab süsteemi või laseb selle arendada ja viib selle turule oma nime all; juurutaja kasutab süsteemi oma tegevuse käigus oma volituste kohaselt. Pakkujatel on suured projekteerimiskohustused, juurutajatel aga korrektse kasutamise, inimjärelevalve ja jälgimise kohustused. Lõks on see, et juurutajast saab pakkuja koos kõigi sellest tulenevate kohustustega, kui ta paneb süsteemile oma nime, muudab seda oluliselt või muudab selle kavandatud otstarvet viisil, mis toob selle kõrge riskiga kategooriatesse. Ostetud mudeli peenhäälestamine oma andmete põhjal ja seejärel selle kasutamine eesmärgil, mida müüja pole kunagi ette näinud, võib organisatsiooni vaikselt üle selle piiri viia. Kriminaaluurimises ilmneb sama eristus uuesti küsimusena, kellel oli käsutusõigus, mistõttu tuleks rollid kirjalikult vormistada ja lepingus kajastada.
Mis kehtib nüüd
Ajakava on nihkunud ja tasub olla täpne selle seisu osas. Vastuvõetamatu riskiga tavade keelud ja tehisintellekti oskusteabe tagamise kohustus kehtivad juba. Üldotstarbeliste tehisintellekti mudelite eeskirjad kehtivad juba. Artikli 50 läbipaistvuskohustused, sealhulgas kohustus selgitada, et sisu on kunstlikult loodud või manipuleeritud, kehtivad juba. Digitaalse koondpaketiga on edasi lükatud kõrge riskiga kord: III lisas loetletud süsteemide kohustused algavad nüüd 2. detsembril 2027 ja I lisas loetletud süsteemide kohustused 2. augustil 2028. Eraldi on kavandatud tehisintellekti vastutuse direktiiv tagasi võetud, seega on tehisintellekti tekitatud kahju tsiviilvastutus endiselt siseriikliku õiguse küsimus, mis Madalmaades tähendab tavapäraseid delikti- ja tootevastutuse reegleid.
Seaduse kohased karistused on halduslikud ja keelatud tegevuse eest on kuni kolmkümmend viis miljonit eurot või seitse protsenti ettevõtte ülemaailmsest aastakäibest, olenevalt sellest, kumb on suurem, muude rikkumiste korral on ülemmäärad madalamad. Järelevalve Hollandis korraldatakse olemasolevate reguleerivate asutuste ümber, kusjuures koordineerivat rolli täidavad Autoriteit Persoonsgegevens ja Rijksinspectie Digitale Infrastructuur. Meie artiklid tehisintellekti seaduse alusel keelatud tehisintellekti tavade ja kõrge riskiga tehisintellekti süsteemide kohta kirjeldavad kohustusi üksikasjalikult ning meie ülevaade ELi tehisintellekti seadusest hõlmab raamistikku tervikuna.
Kuidas prokurör seda kasutab
Kujutage ette juurutajat, kes võtab kasutusele sõelumisvahendi ilma treeningandmete eelarvamusi kontrollimata, ilma seaduses nõutava inimjärelevalve korralduseta ja ilma nõutava dokumentatsioonita. Kui see tööriist aitab seejärel kaasa kriminaalsele tulemusele, ei pea prokurör esialgsetest põhimõtetest lähtuvalt väitma, millist hoolt see nõudis. Kohustused on lehel, rikkumine on dokumenteeritud ja funktsionaalse toimepanemise aktsepteerimise element tuleneb otsusest tööriist ikkagi kasutusele võtta. Vastupidine on samamoodi tõsi ja see on punkt, mida juhatused kõige sagedamini ei märka: ettevõte, mis suudab esitada oma riskianalüüsi, valideerimistulemused, järelevalveprotokolli ja intsidentide logi, on oma kaitse tuumiku ehitanud enne, kui midagi valesti läks.
Algoritmiline väljund tõendina
Teine viis, kuidas tehisintellekt kriminaalkohtusse siseneb, ei ole kahju tekitamine, vaid tõendiallikas. Näotuvastuse vasted, automaatne numbrimärkide tuvastamine, sideandmete võrguanalüüs, pettuseriski mudelid, hääle võrdlemine ja üha automatiseeritud konfiskeeritud andmete triaaž – kõik see annab materjali, millele süüdistus soovib toetuda. Hollandi kriminaalmenetlus toimib tõendite kategooriate suletud süsteemiga ja algoritmiline väljund ei moodusta omaette kategooriat. See jõuab kohtusse ametliku aruande osana või eksperdi arvamuse kaudu ning seda kontrollitakse samamoodi nagu iga teist tõendit.
See kontroll ongi see, millele kaitsja keskendub. Materjali kaalukust määravad kolm küsimust. Kas meetod on valideeritud ja kelle poolt? Millistel tingimustel see ebaõnnestub ja kas need tingimused olid täidetud? Ja kas kaitsja saab seda testida, mis tähendab juurdepääsu piisavale teabele süsteemi, selle treeningandmete, veamäärade ja konfiguratsiooni kohta, et esitada sisukas vaidlus. Faktina esitatud vaste, millel puudub veamäär ja kontrollimisvõimalus, ei ole tõend, mille põhjal kohus peaks süüdimõistva otsuse langetama, ja selle väitmine on õigustatud ja sageli tõhus kaitse.
Ekspertiisitõenditel on oma raamistik. Kohus saab määrata eksperdi, kaitse saab seda taotleda ja kohtuekspertide register on loodud selleks, et kehtestada kvaliteedilävi selle hõlmatud valdkondadele. Kui tehisintellekti meetod jääb väljapoole ühtegi tunnustatud valdkonda, on see iseenesest argument tulemuse usaldusväärsuse kohta. Samuti väärib märkimist, et uus kohtulahendite seadus (Wetboek van Strafvordering), mille Eerste Kamer võttis vastu 24. veebruaril 2026 ja avaldati Staatsbladis märtsis 2026, jõustub kuningliku dekreedi kaupa; kuni selle jõustumiseni kehtivad endiselt praegused sätted ja nende artiklinumbrid.
Andmekaitse nurk
Kui isikut mõjutav otsus tehakse üksnes automatiseeritud vahenditega, annab isikule isiku õiguse mitte olla selle allutatud, koos õigusega saada sisulist teavet otsuse loogika kohta. Kriminaalmenetluses kohaldatakse politseiandmete direktiivi rakendava seaduse paralleelseid sätteid. See on oluline kahes suunas. Kahtlusaluse jaoks on see tee teabe saamiseks süsteemi kohta, mida ametiasutused ei pruugi eelistada selgitada. Ettevõtte jaoks on automatiseeritud otsuste tegemine ilma seadusliku aluse ja kaitsemeetmeteta regulatiivne rikkumine, mida käsitletakse koos iga kriminaalsüüdistusega.
Kohtuasja kaitsmine, milles on osalenud tehisintellekt
Instinktiivne kaitse, et süsteem oli must kast ja keegi ei saanud teada, mida see teeb, on nõrgem, kui paistab. See vastab valele küsimusele. Hollandi kriminaalõigus ei küsi, kas kostja nägi ette täpset tulemust; see küsib, kas kostjal oli võim otsustada, kas tegu toimus ja kas ta aktsepteeris riski, et see aset leiab. Läbipaistmatus võib kostja vastu töötada: süsteemi, mille käitumist ei saa seletada, rakendamine keskkonnas, kus see võib põhjustada tõsist kahju, on iseenesest otsus, mida kohus võib pidada riski aktsepteerimiseks.
Kaitseargumendid, mis toimivad, on kitsamad ja tõenditel põhinevad. Esimene on kontrolli puudumine: süsteem hangiti valmistootena, mille konfigureeris ja hooldas pakkuja ning kostjal polnud sekkumiseks ei teavet ega tehnilist võimekust. See argument nihutab tähelepanu ahelas ülespoole pakkujale ning see sõltub lepingust ja sellest, mida juurutajale tegelikult teatati. Teine on see, et operaator tegi seda, mida hoolikas operaator teeb: dokumenteeris riskihindamise, valideeris enne juurutamist, määratles inimjärelevalve isikuga, kellel oli volitused ja pädevus otsuseid tühistada, jälgis pärast juurutamist ja tegutses intsidentide korral viivitamatult. Kolmas on põhjuslik seos, mida sageli alakasutatakse. Ahelas, mis kulgeb treeningandmetest mudeli kaudu inimotsuse ja tulemuseni, peab süüdistus näitama, et selle kostja käitumine põhjustas tulemuse, ja keerulised ahelad katkevad.
Järgnevad kaks praktilist punkti. Säilitage kõik varakult: logid, mudeliversioonid, konfiguratsioon, intsidentide aruanded ja juurutamisotsuste ümber käiv kirjavahetus on tõendid mõlemalt poolt ja need kirjutatakse rutiinselt üle. Ja pidage meeles, et kriminaalmenetluse tavapärased kaitsemeetmed kehtivad täielikult ka tehniliselt keeruliste juhtumite puhul, sealhulgas kahtlustatava õigus mitte öelda; meie artikkel vaikimisõiguse kohta kriminaalasjades selgitab, kuidas see toimib Hollandi uurimises. Kui süüdistuseks on automatiseeritud tööriistade abil toime pandud pettus, hõlmab meie pettuste ja finantskuritegude juhend Hollandis asjaomaseid süütegusid.
Mida lastehoiutoetuste afäär tegelikult näitab
Hollandi lastehoiuhüvitiste afäär, toeslagenaffaire, on juhtum, mille juurde Hollandis algoritmilise vastutuse aruteludes tagasi pöördutakse, ja seda nimetatakse tavaliselt valel põhjusel. Selle õppetund ei ole see, et algoritm pani toime midagi kuritegelikku. Pigem on see, et automatiseeritud riskivaliku süsteem koos institutsioonilise soovimatusega selle tulemusi kahtluse alla seada tekitas aastaid tõsist kahju kümnetele tuhandetele peredele, ilma et kedagi oleks kriminaalselt vastutavaks peetud.
Maksuamet kasutas riskiklassifikatsiooni, et valida uurimiseks hüvitiste taotlused. Valikusse sattusid näitajad, mida poleks kunagi tohtinud kasutada, sealhulgas kodakondsus, ja väike haldusrikkumine võis käivitada tahtliku pettuse tuvastamise koos kohustusega kogu hüvitis tagasi maksta. Pered ei saanud aru, miks nad valiti, ametnikud käsitlesid klassifikatsiooni pigem järeldusena kui signaalina ning süüdistatava õlul lasus kohustus ümber lükata süüdistus, mida keegi ei osanud seletada. Hollandi andmekaitseamet leidis, et kodakondsusandmete töötlemine oli ebaseaduslik ja määras trahvi ning valitsus astus 2021. aasta jaanuaris tagasi.
See, mis ei juhtunud, on õpetlik. Kedagi ei süüdistatud kriminaalkorras. Vastutus oli hajutatud organisatsiooni, poliitika, tarkvara ja õigusraamistiku vahel, mis käsitles hüvitiste sissenõudmist haldusküsimusena. See hajumine on täpselt see risk, mille vastu võitlemiseks on loodud funktsionaalne kuritegu ja artikkel 51 Sr, ning see selgitab, miks tehisintellekti seadus nõuab tuvastatavat inimjärelevalvet ja dokumenteerimist. Vastutus eeldab isiku olemasolu, kes oleks saanud selle peatada, ja tema teadmiste kohta käivaid andmeid.
Kolm ebaõnnestumist väärivad nimetamist, sest need toovad iga organisatsiooni jaoks otsekohe kaasa õigusliku vastutuse. Otsuseid ei olnud võimalik seletada, seega ei saanud neid vaidlustada. Inimjärelevalve eksisteeris paberil, kuid praktikas mitte, sest asjaosalistel polnud ei volitusi ega teavet süsteemi tühistamiseks. Ja lipukese mõju oli tõendamiskoormise ümberpööramine, kui mitte seaduses. Iga tehisintellekti juurutamine, mis neid kolme omadust taastoodab, on õiguslik probleem, mis ootab küpsemist, olenemata selle taga olevast tehnoloogiast. Valitsuse reageering, sealhulgas juhised mittediskrimineerimise kohta läbimõeldult ja algoritmide registrite kohta avalik-õiguslikele asutustele, on suunatud just neile kolmele punktile.
Vastavusprogramm, mis toimib ka kaitsemehhanismina
Kõik, mida ettevõte tehisintellekti seaduse järgimiseks teeb, annab ka tõendeid, mida ta vajaks, kui midagi valesti läheks. See kahetine eesmärk on argument selle kohta, et teha seda korralikult, mitte minimaalselt, ning muudab järgmised sammud vaeva väärt.
Alusta inventuuriga. Sa ei saa liigitada seda, mida sa pole loetlenud, ja enamik organisatsioone avastab, et tehisintellekt on sisenenud pigem hanke kui projekti kaudu: sõelumisfunktsioon värbamisplatvormil, hindamismoodul krediiditaotluses, jälgimisfunktsioon turvatarkvaras. Liigita iga süsteem seaduse alusel, dokumenteeri põhjendus ja vaata see uuesti üle, kui süsteemi oluliselt muudetakse, sest eesmärgi muutus võib süsteemi viia teise kategooriasse.
Seejärel määrake vastutus nimetatud isikutele, mitte osakondadele. Nii funktsionaalne toimepanemine kui ka tegelik juhtimine sõltuvad sellest, kes oleks võinud kindlaks teha, kas käitumine toimus. Organisatsioon, kus kedagi ei saa vastutavaks pidada, ei pääse vastutusest; see lihtsalt paljastab selle, kes on tabeli tipus. Öelge, kellele kuulub iga süsteem, kes võib juurutamise luba anda, kes teostab järelevalvet ja kes võib selle välja lülitada, ning veenduge, et nimetatud isikul on selleks volitused ja tehniline pädevus.
Muutke inimjärelevalve reaalseks. Nõutav ei ole inimene tsüklis, vaid inimene, kes suudab väljundist aru saada, kellel on õigus see tagasi lükata ja kelle läbilaskevõimet ei mõõdeta viisil, mis muudaks tagasilükkamise ebapraktiliseks. Salvestage tühistamised, sest logi, mis näitab järelevalvefunktsiooni tegelikku kasutamist, on väärtuslikum kui ükski poliitikadokument.
Dokumenteerige tehniline olukord: kust treeningandmed pärinevad ja kuidas neid kontrolliti, milliseid teste tehti ja mida need näitasid, millised on teadaolevad veamäärad ja rikketingimused ning mida nende kohta otsustati. Kui on vaja hinnata andmekaitsele või põhiõigustele avalduvat mõju, tehke see enne juurutamist ja hoidke seda ajakohasena. Jälgige pärast juurutamist, logige intsidendid ja tegutsege nende alusel viisil, mis on registris nähtav.
Lõpuks tehke lepingud õigesti. Kui süsteem ostetakse, mitte ei ehitata, määrab vastutuse jaotus pakkuja ja juurutaja vahel, kes kannab riski. Küsige seadusega nõutavat tehnilist dokumentatsiooni, kasutusjuhendit, teavet teadaolevate piirangute kohta ning õigust saada teavet intsidentide ja oluliste muudatuste kohta. Meie IT-õiguse meeskond tegeleb nende korraldustega.
Kui tehisintellekt on pigem kurjategija tööriist kui ettevõtte ebaõnnestumine
Siiani on see artikkel käsitlenud kahju, mille on tekitanud ettevõtte poolt õiguspärasel eesmärgil kasutusele võetud tehisintellekti süsteem. Teine pool pildist on tehisintellekti tahtlik kasutamine süüteo toimepanemiseks ja siin on vastus lihtsam: süütegu on süütegu ja tehnoloogia on pigem raskendav asjaolu kui juriidiline probleem. Hollandi kriminaalõigus on koostatud tulemuste ja käitumise, mitte vahendite seisukohast, mistõttu on vaja väga vähe uusi sätteid.
Kloonitud hääle või maksejuhist kujutava režissööri sünteetilise video abil toime pandud pettus on § 326 Sr kohaselt pettus, täpselt nagu see oleks võltsitud kirja puhul. Valeväite toetuseks mudeli abil loodud dokument on § 225 Sr kohaselt võltsimine. Kellegi isikuandmeid tuvastava isiku kasutamine temana esinemiseks on § 231b Sr kohaselt iseenesest kuritegu. Isiku seksuaalselt selgesõnaliste piltide levitamine ilma tema nõusolekuta on karistatav ja alates 1. juulist 2024 kehtiv seadus „Wet seksuale misdrijven“ kaasajastas seda osa karistusseadustikust; sünteetilised pildid ei jää sellest välja, kuna need genereeriti, mitte ei salvestatud. Püsiv ahistamine automatiseeritud kontode kaudu võib § 285b Sr kohaselt olla pettus, mille eest algatatakse kriminaalmenetlus ainult ohvri kaebuse alusel.
Tehisintellekt muudab ulatust, usaldusväärsust ja tõendamise raskust. Veenv sünteetiline hääl kõrvaldab hõõrdumise, mis varem kaitses maksepettuste eest, ja salvestise autentsuse kohta ei saa enam eeldada tõendeid. Sellel on kaks praktilist tagajärge. Ohvrite ja ettevõtete jaoks on hääle või näo tuvastamisest sõltumatud kontrolliprotseduurid nüüd pigem põhiline kontroll kui täiustus. Kriminaalmenetluses on heli- ja videomaterjali autentsusest saanud küsimus, mida tuleb pigem tõestada kui eeldada, ning kaitsjal on õigus seda kontrollida.
Regulatsioon hakkab aitama. Tehisintellekti seaduse artiklis 50 sätestatud läbipaistvuskohustused, mis juba kehtivad, nõuavad teenusepakkujatelt sünteetilise sisu märgistamist masinloetaval viisil ja juurutajatelt avalikustamist, et pilt, heli või video on kunstlikult loodud või manipuleeritud, kui see kujutab päris inimesi või sündmusi. Nõuetele vastavus ei peata kindlaksmääratud rikkujat, kuid tugevdab kõigi teiste positsiooni: see muudab avalikustamata sünteetilise sisu iseenesest regulatiivseks rikkumiseks ning annab uurijatele ja kohtutele signaali, mida otsida. Meie artikkel digitaalse pettuse tõestamise kohta Hollandis käsitleb nende juhtumite tõenduslikku poolt.
Korduma kippuvad küsimused tehisintellekti ja kriminaalvastutuse kohta
Kas ettevõtet saab kriminaalvastutusele võtta, kui selle tehisintellekt diskrimineerib?
Jah, täiesti võimalik. Kuigi tehisintellekti süsteemi ennast süüdistuste dokis ei näe, võib ettevõte, mis selle kasutusele võttis, Hollandi ettevõtete kriminaalvastutuse põhimõtete kohaselt kindlasti silmitsi seista kriminaalsüüdistusega diskrimineerivate tulemuste eest. Kui ettevõtte juhtkond teadis tehisintellekti potentsiaalsest eelarvamusest ja ei teinud midagi või kui nad olid oma järelevalves raskelt hooletud, on kriminaalsüüdistuste esitamine väga reaalne võimalus. ELi tehisintellekti seadus kehtestab ka ranged eelarvamusvastased reeglid kõrge riskiga süsteemidele. Nende standardite mittetäitmine oleks igas kriminaalasjas võimas tõend hooletuse kohta. Õiguslik tähelepanu on alati kõige eredamalt suunatud inimeste otsustele tehisintellekti loomise, koolitamise ja juurutamise kohta.
Mis on musta kasti probleem tehisintellektis?
„Musta kasti” probleem on termin, mis hõlmab keerulisi tehisintellekti mudeleid, mille puhul isegi nende ehitajad ei suuda täielikult jälgida, kuidas konkreetse väljundini jõuti. See on tohutu probleem, kui tehisintellekt ja kriminaalõigus põrkuvad. Kohtus võib see tegelikult saada kaitse nurgakiviks. Advokaat võib väita, et kahjulik tulemus oli täiesti ettearvamatu, mis tähendab, et kostjal puudus vajalik kuritegelik kavatsus (opzet). Argument on lihtne: kuidas nad said ette näha tulemust, mida nad ei saanud kuidagi ennustada? Kuid prokuröridel on tugev vastus. Nad saavad väita, et võimsa ja ettearvamatu süsteemi rakendamine ilma nõuetekohaste kaitsemeetmeteta on iseenesest hoolimatus või raske hooletus. Ja sellest võib piisata, et rahuldada kriminaalvastutuse jaoks vajalikku vaimset elementi. See loob pinnase kõrge panusega õiguslikuks võitluseks etteaimatavuse ja hoolsuskohustuse üle.
Kuidas on arendajate jaoks parim viis juriidilist riski piirata?
Kõige tõhusam asi, mida arendajad saavad teha, et end juriidilise riski eest kaitsta, on pidada tehisintellekti eluea igas etapis täpset ja läbipaistvat dokumentatsiooni. Mõelge sellest kui detailse "auditeerimisjälje" loomisest, millest võib saada teie kõige olulisem tõend. See dokumentatsioon peab hõlmama kõike algusest lõpuni: andmeallikad: kust treeningandmed pärinevad ja kuidas nende kvaliteeti ja eelarvamusi kontrolliti?; eelarvamuste leevendamine: milliseid konkreetseid samme astuti andmekogumitest eelarvamuste leidmiseks ja eemaldamiseks?; disaini põhjendus: milline oli peamiste arhitektuuriliste valikute ja algoritmide taga olev loogika?; testimise tulemused: täielik dokumentatsioon iga testi kohta, sealhulgas tõrked ja nende parandamise viisid. Sama oluline on luua selge raamistik inimjärelevalve jaoks. Kui uurimine peaks kunagi aset leidma, on see dokumentatsioon vaieldamatu tõend hoolsuskohustuse kohta. See aitab näidata, et tekitatud kahju oli tõeliselt ettenägematu õnnetus, mitte hooletuse tagajärg – ja see moodustab kindla õiguskaitse aluse.
Kas algoritmi saab kehtiva Hollandi ja ELi õiguse kohaselt kuriteo eest kriminaalvastutusele võtta?
Ei. Kehtiva seaduse kohaselt ei saa algoritmi kriminaalselt vastutavaks pidada. Põhilised õigusmõisted, nagu kuritegelik kavatsus (opzet) ja juriidiline isik, on reserveeritud inimestele ja teatud olukordades ka ettevõtetele.
Miks ei saa tehisintellekti süsteemi lihtsalt proovile panna nagu inimest?
Algoritmil puuduvad kohtu alla andmiseks vajalikud põhijooned: sellel puudub teadvus, isiklik vara, mida arestida, ja vabadus, mida saaks ära võtta, erinevalt füüsilisest isikust või juriidiliseks isikuks tunnustatud äriühingust.
Kas see tähendab, et tehisintellektil pole kriminaalasjades mingit tähtsust?
Ei, hoopis vastupidi. Kuigi algoritm ise ei saa süüdlane olla, on selle tegevusest saamas keskne roll selle loojate, juurutajate ja järelevalve teostajate süü või süütuse tõestamisel.
Millist õiguslikku kontseptsiooni on tehisintellekti süsteemidele kõige raskem rakendada?
Kuritegeliku kavatsuse (opzet) tõendamine on eriti keeruline, kuna prokurörid peavad tavaliselt tõendama süüdlaslikku meelt, näiteks kavatsust, hoolimatust või teadmist väärteost, samas kui algoritm toimib lihtsalt oma programmeerimise ja andmete põhjal ning tal puuduvad teadvus, uskumused või soovid.
Kuidas Law & More aitab
Law & More Nõustame ettevõtteid, juhatuse liikmeid ja üksikisikuid automatiseeritud süsteemidest tuleneva kriminaalvastutuse küsimustes. Hindame kokkupuudet artikli 51 Sr ja funktsionaalse kuriteo doktriini alusel, ehitame üles ja vaatame läbi tehisintellekti juhtimist, mis on hoolivuse tõend, vaidlustame algoritmilisi tõendeid kriminaalmenetluses ning kaitseme ettevõtteid ja nende ametnikke prokuratuuri ja regulaatorite uurimistes. Kui teie organisatsioon rakendab tehisintellekti keskkonnas, kus vigadel on tagajärjed, võtke meie kontoriga ühendust enne, kui intsident küsimuse esitama sunnib.
