Neffens Nederlânske en Europeeske wet kin in algoritme net strafrjochtlik ferantwurdlik wêze. Strafrjochtlike oanspraaklikens fereasket in dieder dy't de wet as persoan erkent, en art. 51 Sr wreidet dy status allinich út nei natuerlike persoanen en rjochtspersoanen. In KI-systeem is in objekt, gjin fertochte. De fraach dy't yn 'e praktyk wichtich is, is dêrom net oft it algoritme foar in part ferantwurdlik is, mar hokker minske of hokker bedriuw folslein ferantwurdlik is foar wat it dien hat.
Dy fraach hat al in goed ûntwikkele antwurd yn it Nederlânske strafrjocht. De learstikken fan funksjoneel daderschap en strafrjochtlike oanspraaklikens fan bedriuwen waarden boud foar krekt dizze situaasje: skea feroarsake troch in ynstrumint, in organisaasje of in proses ynstee fan troch de fertochte sels. Dit artikel leit út hoe't dy learstikken fan tapassing binne op KI, hoe't de EU KI-wet de soarchstandert feroaret, hoe't algoritmyske útfier as bewiis behannele wurdt, en hoe't in ferdigenings- en in neilibingsprogramma der útsjen moatte. Foar de bredere fraach fan it tawizen fan ferantwurdlikens oer in leveringsketen fan ûntwikkelders, oanbieders en brûkers, sjoch ús begeliedende artikel oer wa't ferantwurdlik is as in masine in misdriuw begeit.
Wêrom in algoritme net fertocht wêze kin
In strafrjochtlik fergryp ûnder Nederlânske wet fereasket in minsklike hanneling of fersomming dy't foldocht oan 'e wettelike definysje fan in misdriuw, dat ûnwetlik is, en dat de dieder yn 'e rekken brocht wurde kin. Elk fan dy eleminten giet út fan in akteur mei in wil. In algoritme produseart útfier troch koade út te fieren op gegevens; it hat gjin wil om te foarmjen, neat om de skuld fan te jaan, en neat dat in strafrjochtlike sanksje berikke koe. Art. 51 Sr makke romte foar it bedriuw neist it yndividu krekt om't in bedriuw hannelet fia minsken; der is gjin fergelykbere bepaling foar software, en it meitsjen fan ien soe fereaskje dat de wetjouwer in nije kategory rjochtspersoan útfûn.
It soe ek gjin doel tsjinje dat it strafrjocht erkent. In straf bestiet om te straffen, te ûntmoedigjen en, wêr mooglik, te korrigearjen. Gjin fan dy funksjes kin op in model útfierd wurde. It wiskjen fan 'e gewichten fan in neuraal netwurk straft de eigener, net it netwurk. Alles wat it strafrjocht berikke wol as in AI-systeem skea feroarsaket, moat berikt wurde fia de minsken en de organisaasjes derachter, dêrom behannelet de Nederlânske praktyk dit net as in gat yn 'e wet.
De tabel hjirûnder jout de ferskil oan tusken de eleminten fan in strafrjochtlik misdriuw en wat in KI-systeem eins is.
| Elemint | Wat strafrjocht fereasket | Posysje fan in AI-systeem |
|---|---|---|
| In dieder | In natuerlike persoan, of in rjochtspersoan ûnder art. 51 Sr. | Noch fan beiden. It systeem is in objekt dat eigendom is fan en eksploitearre wurdt troch immen oars. |
| In gedrach | In hanneling of in ferskuldige omissie dy't taskreaun wurde kin oan dy dieder. | In útfier produsearre troch koade. It taskriuwbere gedrach is de beslút om it te bouwen, te ymplementearjen of te litten rinnen. |
| Opset of negligensje | Opzet, ynklusyf betingste opset, of culpa yn 'e sin fan substansjele soarchleazens. | Gjin mentale steat hielendal. Opset en negligensje besteane, as der earne is, yn 'e minsken dy't it konfigurearre en tafersjoch hâlden hawwe. |
| In sanksje | Finzenisstraf, in boete, in mienskipsstraf, of in maatregel. | Der kin neat oplein wurde oan software. Sanksjes falle op de operator. |
Wa is ynstee oanspraaklik: funksjonele dieding en art. 51 Sr
Nederlânsk strafrjocht hat twa meganismen om immen ferantwurdlik te hâlden foar gedrach dat se net fysyk útfierd hawwe. Beide waarden ûntwikkele lang foardat masinelearen bestie, en beide passe sûnder oanpassing yn AI-gefallen.
Funksjonele pleech
Funksjoneel vaderschap makket it mooglik om in persoan te beskôgjen as de dieder fan in misdriuw dat fysyk útfierd is troch ien of eat oars. De kritearia dy't de Hege Raad formulearre hat yn it IJzerdraad-útspraak bliuwe de test: de fertochte moat de macht hân hawwe om te bepalen oft it gedrach plakfûn hat (beskikken), en moat it akseptearre hawwe, of gewoanlik gedrach fan dat soarte akseptearre hawwe (oanfierd hawwe).
Tapast op in KI-systeem, is it earste kritearium meastentiids ienfâldich en it twadde beslist de saak. Beskikkingsmacht wurdt toand troch it fermogen om it systeem te konfigurearjen, syn wurkingsgrinzen yn te stellen, it te aktualisearjen of opnij te trainen, en boppe alles om it út te skeakeljen. Mar in pear operators kinne leauwig sizze dat se dy macht misten. Akseptaasje is de dreger fraach, en it is dêr't it bewiis hinne giet: wat wist de operator oer de falingsmodi fan it systeem, wat waard rapportearre troch testen of troch eardere ynsidinten, wat sei de risikobeoardieling, en wat waard deroan dien. Akseptaasje fereasket gjin winsk foar de útkomst. It is genôch dat de operator bewust in flink risiko akseptearre hat, wat de gewoane Nederlânske standert is foar betingste opset (foarweardlik opset).
Bedriuwsoanspraaklikens en werklike liederskip
Wêr't de operator in bedriuw is, is art. 51 Sr fan tapassing. It misdriuw kin taskreaun wurde oan de rjochtspersoan dêr't it gedrach yn syn sfear plakfûn, wat de Hoge Raad útlein hat troch de faktoaren dy't yn it Drijfmest-oardiel neamd binne: it gedrach waard útfierd troch ien dy't foar it bedriuw wurket, it past binnen syn normale bedriuwsfiering, it wie nuttich foar it bedriuw, en it bedriuw koe bepale oft it sok gedrach plakfûn en akseptearre, of gewoanlik akseptearre. In KI-systeem dat troch in bedriuw ynset wurdt om syn wurk te dwaan foldocht per definysje oan it meastepart fan dy list.
Art. 51 Sr makket ek ferfolging mooglik fan dejingen dy't it misdriuw opdracht hawwe jûn en dejingen dy't der eins lieding oan jûn hawwe (feitlike lieding). Dit is de bepaling dy't direkteuren en senior managers persoanlik berikt. It fereasket mear as in plak op it organisaasjeskema: de persoan moat bewust west hawwe fan it ferbeane gedrach, teminsten yn 'e sin fan it akseptearjen fan in flinke kâns dat it plakfynt, en moat gjin maatregels nommen hawwe dy't se kompetint en ridlik ferplichte wiene om te nimmen. Yn in gefal fan KI oerset dat direkt yn bewiis oer wa't it modelfalidaasjerapport ûntfongen hat, wa't de ynset ûndertekene hat, en wa't besletten hat dat in bekende bias of flatersifer akseptabel wie.
Nalatigensmisdieden dogge it measte wurk
Yn 'e praktyk binne ferfolgings mei automatisearre systemen folle faker basearre op sleauwichheid as op opset. Wêr't in troch KI oandreaun auto, masine of medysk apparaat de dea feroarsaket, is it relevante misdriuw it feroarsaakjen fan dea troch sleauwichheid ûnder art. 307 Sr; as it swier letsel feroarsaket, art. 308 Sr. Culpa betsjut yn it Nederlânsk strafrjocht substansjele soarchleazens, beoardiele tsjin wat in ridlike operator yn dy posysje dwaan moatten hie. Dat is presys de grûn wêrop in KI-saak fochten wurde sil, om't de soarchstandert foar it ynsetten fan in automatisearre systeem hieltyd faker fêstlein wurdt: yn 'e KI-Wet, yn sektorregeling, yn technyske noarmen en yn 'e prosedueres fan 'e operator sels. In dokumintearre ôfwiking fan in standert dy't de operator sels oannaam hat, is it sterkste bewiis fan sleauwichheid dat der is.
Diskriminaasje is de twadde weromkommende kategory. Diskriminaasje yn 'e útoefening fan in bedriuw of berop is in misdriuw ûnder it Wetboek fan Strafrecht, en sawol opsetlike as sleauwich farianten besteane. In model dat in beskerme groep systematysk yn it neidiel bringt, is dêrom net allinich in bestjoerlik probleem ûnder de wet op gegevensbeskerming en gelikense behanneling; yn in earnstich gefal is it in strafrjochtlik probleem. Us hantlieding foar strafproseduere yn Nederlân leit út hoe't sa'n gefal fan ûndersyk nei útspraak ferrinne soe.
De AI Act stelt de standert fan soarch fêst, net de sanksje
De EU-wet oer keunstmjittige yntelliginsje is in bestjoerlike regeljouwing. It skept gjin strafbere feiten en it makket nimmen ta fertochte. It belang dêrfan foar strafrjochtlike oanspraaklikens is yndirekt en wichtich: it skriuwt, yn bindende termen, fêst wat in soarchfâldige oanbieder of ynsetter fan in KI-systeem ferwachte wurdt te dwaan. Sadree't in soarchstandert kodifisearre is, is in ôfwiking dêrfan bewiis fan negligensje, en neilibjen dêrfan is bewiis fan soarch.
De Wet sortearret systemen op risiko. In lyts oantal praktiken binne folslein ferbean, ynklusyf sosjale skoaring troch oerheidsynstânsjes, ûnrjochte skrabjen fan gesichtsôfbyldings om erkenningsdatabases te bouwen, emoasjeherkenning op it wurk en yn it ûnderwiis, en, ûnder foarbehâld fan smelle útsûnderings, biometryske identifikaasje op ôfstân yn realtime yn iepenbiere romten foar wetshandhaving. In gruttere groep wurdt klassifisearre as heech risiko, dy't feiligenskomponinten fan regele produkten en de gebrûken omfettet dy't neamd binne yn 'e anneks by de Wet, wêrûnder werving, kredytskoaring en tapassingen yn wetshandhaving, migraasje en justysje. Systemen dy't ynteraksje hawwe mei minsken of syntetyske ynhâld generearje, hawwe transparânsjeplichten. De rest is yn essinsje net regele.
Oanbieder of ynsetter: de rollen bepale de taken
De Wet ferdielt ferplichtingen neffens rol, en it ferkeard oanpakken fan 'e rol is ien fan 'e meast foarkommende neilibingsflaters. In leveransier ûntwikkelt in systeem of lit it ûntwikkelje en bringt it ûnder syn eigen namme op 'e merk; in ynsetter brûkt in systeem ûnder syn eigen autoriteit yn 'e rin fan syn aktiviteiten. Leveransiers drage de swiere ûntwerpferplichtingen, ynsetters drage ferplichtingen fan korrekt gebrûk, minsklik tafersjoch en monitoaring. De falstrik is dat in ynsetter in leveransier wurdt, mei alle taken dy't dêrop folgje, as it syn eigen namme op it systeem set, it substansjeel oanpast, of it bedoelde doel feroaret op in manier dy't it binnen de kategoryen mei hege risiko's bringt. It fynôfstimmen fan in oankocht model op jo eigen gegevens, en it dan brûke foar in doel dat de leveransier noait betocht hat, kin in organisaasje stilswijend oer dy line bringe. Yn in strafrjochtlik ûndersyk komt itselde ûnderskied wer foar as de fraach wa't de macht oer beskikking hie, dêrom moatte de rollen skriftlik fêstlein wurde en yn it kontrakt werjûn wurde.
Wat no jildt
De tiidsplanning is ferskowe, en it is de muoite wurdich om presys te wêzen oer wêr't it stiet. De ferboden op praktiken mei ûnakseptabel risiko en de ferplichting om KI-geletterdheid te garandearjen binne al fan tapassing. De regels foar algemiene KI-modellen binne al fan tapassing. De transparânsjeferplichtingen fan art. 50, ynklusyf de plicht om dúdlik te meitsjen dat ynhâld keunstmjittich generearre of manipulearre is, binne al fan tapassing. Wat útsteld is troch it digitale omnibuspakket is it hege-risikoregime: de ferplichtingen foar de systemen neamd yn Anneks III begjinne no op 2 desimber 2027, en dy foar de systemen dy't ûnder Anneks I falle op 2 augustus 2028. Apart dêrfan is de foarstelde KI-oanspraaklikensrjochtline ynlutsen, sadat boargerlike oanspraaklikens foar KI-skea in kwestje fan nasjonaal rjocht bliuwt, wat yn Nederlân de gewoane regels fan oanspraaklikens en produktoanspraaklikens betsjut.
Straffen ûnder de Wet binne bestjoerlik en binne fêststeld op maksimaal fiifentritich miljoen euro of sân prosint fan 'e totale wrâldwide jierlikse omset, wat it heechst is, foar it útfieren fan in ferbeane praktyk, mei legere plafonds foar oare oertredings. Tafersjoch yn Nederlân wurdt organisearre om besteande tafersjochhâlders hinne, mei de Autoriteit Persoonsgegevens en de Rijksinspectie Digitale Infrastructuur yn in koördinearjende rol. Us artikels oer ferbeane KI-praktiken en oer risikofolle KI-systemen ûnder de KI-wet jouwe de ferplichtingen yn detail oan, en ús oersjoch fan 'e EU KI-wet beslacht it ramt as gehiel.
Hoe't in oanklager it brûke sil
Stel jo foar dat in ynsetter in screening-ark yn gebrûk nimt sûnder de trainingsgegevens te kontrolearjen op foaroardielen, sûnder de minsklike tafersjochregeling dy't de Wet fereasket, en sûnder de dokumintaasje dy't it fereasket. As dat ark dan bydraacht oan in kriminele útkomst, hoecht de oanklager net fanút earste prinsipes te argumintearjen oer hokker soarch der ferskuldige wie. De ferplichtingen steane op papier, de ynbreuk is dokumintearre, en it akseptaasje-elemint fan funksjonele pleging folget út 'e beslút om dochs yn te setten. It tsjinoerstelde is likegoed wier, en dit is it punt dat bestjoeren it meast mist: in bedriuw dat syn risikobeoardieling, syn falidaasjeresultaten, syn tafersjochprotokol en syn ynsidintlogboek kin produsearje, hat de kearn fan syn eigen ferdigening boud foardat der wat misgie.
Algoritmyske útfier as bewiis
De twadde manier wêrop KI in strafrjochtseal ynkomt, is net as oarsaak fan skea, mar as boarne fan bewiis. Gesichtsherkenningsmatches, automatyske kentekenherkenning, netwurkanalyse fan kommunikaasjegegevens, frauderisikomodellen, stimferliking en hieltyd mear automatisearre triage fan yn beslach nommen gegevens produsearje allegear materiaal dêr't it Iepenbier Ministearje op fertrouwe wol. Nederlânsk strafprosesrjocht wurket mei in sletten systeem fan kategoryen bewiis, en algoritmyske útfier foarmet gjin aparte kategory. It berikt de rjochtbank as ûnderdiel fan in offisjeel rapport of fia it advys fan in ekspert, en it is ûnderwurpen oan deselde kontrôle as elk oar bewiis.
Dy kontrôle is dêr't ferdigeningswurk him konsintrearret. Trije fragen bepale it gewicht dat it materiaal drage kin. Wurdt de metoade validearre, en troch wa? Under hokker omstannichheden mislearret it, en wiene dy omstannichheden oanwêzich? En kin de ferdigening it teste, wat betsjut tagong ta genôch ynformaasje oer it systeem, syn trainingsgegevens, syn flatersifers en syn konfiguraasje om in betsjuttingsfolle útdaging te bieden. In oerienkomst presintearre as in feit, sûnder flatersifer en sûnder mooglikheid fan ferifikaasje, is gjin bewiis dêr't in rjochtbank op feroardielje moat, en dat sizze is in legitime en faak effektive ferdigening.
Deskundich bewiis hat syn eigen ramt. De rjochtbank kin in ekspert beneame, de ferdigening kin ien freegje, en it register fan rjochtbankdeskundigen bestiet om in kwaliteitsdrompel te jaan foar de fjilden dy't it beslacht. As in KI-metoade bûten in erkend fjild falt, is dat op himsels al in argumint oer de betrouberens fan it resultaat. It is ek it neamen wurdich dat it nije Wetboek fan Strafbeoordeling, oannaam troch de Earste Kamer op 24 febrewaris 2026 en publisearre yn it Staatsblad yn maart 2026, boek foar boek by keninklik beslút yn wurking trede sil; oant dat bart, bliuwe de hjoeddeiske bepalingen en har artikelnûmers fan tapassing.
De hoeke fan gegevensbeskerming
Wêr't in beslút dat in persoan oangiet allinnich troch automatisearre middels nommen wurdt, jout de AVG dy persoan it rjocht om der net oan ûnderwurpen te wurden, tegearre mei it rjocht op betsjuttingsfolle ynformaasje oer de logika dy't derby belutsen is. By strafrjochtlike hanthavening binne de parallelle regels fan 'e wet dy't de rjochtline foar plysjegegevens ymplementearret fan tapassing. Dit is yn twa rjochtingen fan belang. Foar in fertochte is it in rûte nei ynformaasje oer in systeem dat de autoriteiten miskien leaver net útlizze wolle. Foar in bedriuw is it ynsetten fan automatisearre beslútfoarming sûnder in wetlike basis en sûnder de befeiligingsmaatregels in oertreding fan 'e regeljouwing dy't tegearre mei elke strafrjochtlike beskuldiging lêzen wurde sil.
Ferdigening fan in saak wêrby't AI belutsen is
De ynstinktive ferdigening, dat it systeem in swarte doaze wie en nimmen witte koe wat it dwaan soe, is swakker as it liket. It beantwurdet de ferkearde fraach. Nederlânsk strafrjocht freget net oft de fertochte de krekte útfier foarsjoen hat; it freget oft de fertochte de macht hie om te bepalen oft it gedrach plakfûn hat en it risiko akseptearre dat it soe. Trochsichtigens kin tsjin de fertochte skea dwaan: it ynsetten fan in systeem waans gedrach net ferklearre wurde kin, yn in omjouwing dêr't it serieuze skea feroarsaakje kin, is sels in beslút dat in rjochtbank as it akseptearjen fan it risiko beskôgje kin.
De ferdigeningswurken dy't wurkje binne smeller en bewiisfêst. De earste is in echte ôfwêzigens fan kontrôle: it systeem waard oanskaft as in ôfmakke produkt, konfigurearre en ûnderhâlden troch de leveransier, en de fertochte hie noch de ynformaasje noch de technyske mooglikheid om yn te gripen. Dat argumint ferskowt de oandacht omheech yn 'e keten nei de leveransier, en it stiet of falt op it kontrakt en op wat eins rapportearre waard oan 'e ynsetter. De twadde is dat de operator die wat in soarchfâldige operator docht: dokumintearre risikobeoardieling, falidaasje foar ynset, definieare minsklik tafersjoch mei in persoan dy't de autoriteit en de kompetinsje hie om te oerskriuwen, monitoaring nei ynset, en rappe aksje op ynsidinten. De tredde is kausaliteit, dy't faak ûnderbenut wurdt. Yn in keatling dy't rint fan trainingsgegevens fia in model nei in minsklik beslút oant in útkomst, moat de oanklager oantoane dat it gedrach fan dizze fertochte it resultaat feroarsake hat, en komplekse keatlingen brekke.
Twa praktyske punten folgje. Bewarje alles betiid: logs, modelferzjes, konfiguraasje, ynsidintrapporten en de korrespondinsje om ynsetbeslissingen binne it bewiis oan beide kanten, en se wurde routinematich oerskreaun. En tink derom dat de gewoane befeiligingsmaatregels fan strafrjochtlike proseduere folslein fan tapassing binne op technysk komplekse gefallen, ynklusyf it rjocht fan in fertochte om neat te sizzen; ús artikel oer it rjocht om te swijen yn strafsaken leit út hoe't it wurket yn in Nederlânsk ûndersyk. Wêr't de beskuldiging ien is fan fraude begien mei automatisearre ark, behannelt ús hantlieding foar fraude en finansjele kriminaliteit yn Nederlân de belutsen misdriuwen.
Wat de saak oer berne-opfangútkearingen eins sjen lit
De toeslagenaffaire, de Nederlânske berne-opfangútkearingsaffêre, is it gefal dêr't elke diskusje oer algoritmyske ferantwurding yn Nederlân op weromkomt, en it wurdt meastentiids om de ferkearde reden oanhelle. De les dêrfan is net dat in algoritme wat krimineels dien hat. It is dat in systeem fan automatisearre risikoseleksje, kombinearre mei in ynstitúsjonele ûnwilligens om de útfier yn twifel te lûken, jierren fan serieuze skea feroarsake hat oan tsientûzenen húshâldings sûnder dat ien strafrjochtlik ferantwurdlik hâlden waard.
De Belestingtsjinst brûkte risikoklassifikaasje om útkearingsoanfragen te selektearjen foar ûndersyk. Yndikatoaren dy't nea brûkt wurde moatten hiene, ynklusyf nasjonaliteit, fûnen har wei yn 'e seleksje, en in lytse bestjoerlike ûnregelmjittichheid koe in konklúzje fan opsetlike fraude oansette mei in ferplichting om de folsleine útkearing werom te beteljen. Famyljes koenen net sjen wêrom't se selektearre wiene, amtners behannelen de klassifikaasje as in konklúzje ynstee fan in sinjaal, en de lêst om in beskuldiging te ûntkennen dy't nimmen útlizze woe, foel op 'e beskuldige. De Nederlânske gegevensbeskermingsautoriteit fûn de ferwurking fan nasjonaliteitsgegevens ûnwetlik en lei in boete op, en de regearing naam yn jannewaris 2021 ûntslach.
Wat net bard is, is ynstruktyf. Gjin yndividu waard strafrjochtlik ferfolge. De ferantwurdlikens waard ferspraat oer in organisaasje, in belied, in stik software en in juridysk ramt dat it weromheljen fan foardielen as in bestjoerlike saak behannele. Dy fersprieding is presys it risiko dat funksjonele perpetraasje en art. 51 Sr bedoeld binne om tsjin te gean, en it ferklearret wêrom't de AI Act oanstiet op identifisearber minsklik tafersjoch en op dokumintaasje. Ferantwurding fereasket in persoan dy't it koe stopje en in oersjoch fan wat se wisten.
Trije mislearrings binne it neamen wurdich, om't se direkt oersette yn juridyske bleatstelling foar elke organisaasje. Beslissingen wiene net te ferklearjen, sadat se net oanfochten wurde koene. Minsklik tafersjoch bestie op papier, mar net yn 'e praktyk, om't de belutsen minsken noch de autoriteit noch de ynformaasje hiene om it systeem te oerskriuwen. En it effekt fan in flagge wie om de bewiislêst yn feite, as net yn 'e wet, om te kearen. Elke AI-ynset dy't dizze trije funksjes reproduseart, is in juridysk probleem dat wachtet om te rypjen, wat de technology derachter ek is. De reaksje fan 'e oerheid, ynklusyf begelieding oer non-diskriminaasje troch ûntwerp en oer algoritmeregisters foar iepenbiere ynstânsjes, is rjochte op dy trije punten.
In neilibingsprogramma dat ek wurket as ferdigening
Alles wat in bedriuw docht om te foldwaan oan 'e AI Act produseart ek it bewiis dat it nedich soe hawwe as der wat misgie. Dat dûbele doel is it argumint om it goed te dwaan ynstee fan minimaal, en it makket de folgjende stappen de muoite wurdich.
Begjin mei in ynventarisaasje. Jo kinne net klassifisearje wat jo net neamd hawwe, en de measte organisaasjes ûntdekke dat AI ynfierd is fia oanbesteging ynstee fan fia in projekt: in screeningfunksje yn in wervingsplatfoarm, in skoaremodule yn in kredytoanfraach, in monitoringfunksje yn befeiligingssoftware. Klassifisearje elk systeem ûnder de Wet, registrearje de redenearring, en besjoch it opnij as in systeem materieel feroare wurdt, om't in feroaring fan doel in systeem yn in oare kategory ferpleatse kin.
Jou dan de ferantwurdlikens oan neamde minsken ynstee fan oan ôfdielingen. Funksjonele dieden en werklike liederskip draaie beide om wa't bepale koe oft it gedrach plakfûn hat. In organisaasje wêryn nimmen as ferantwurdlik identifisearre wurde kin, ûntkomt net oan oanspraaklikens; it bleatleit gewoan wa't boppe-oan de ranglist sit. Sis wa't de eigener fan elk systeem is, wa't ynset autorisearje mei, wa't tafersjoch útfiert en wa't it útskeakelje mei, en soargje derfoar dat de neamde persoan de autoriteit en de technyske kompetinsje hat om it te dwaan.
Meitsje minsklik tafersjoch echt. De eask is net in persoan yn 'e loop, mar in persoan dy't de útfier begripe kin, de status hat om it ôf te wizen, en net op trochfier metten wurdt op in manier dy't ôfwizing ûnpraktysk makket. Registrearje oerskriuwingen, om't in logboek dat sjen lit dat de tafersjochfunksje eins brûkt wurdt mear wurdich is as hokker beliedsdokumint dan ek.
Dokumintearje de technyske posysje: wêr't de trainingsgegevens weikomme en hoe't se kontrolearre binne, hokker testen dien binne en wat it sjen liet, wat de bekende flaterraten en falingsomstannichheden binne, en wat deroer besletten is. Wêr't in beoardieling fan 'e ynfloed op gegevensbeskerming of op fûnemintele rjochten fereaske is, fier dizze dan út foar de ynset en hâld dy aktueel. Monitorearje nei de ynset, registrearje ynsidinten en hannelje derop op in manier dy't sichtber is yn it rekord.
As lêste, soargje derfoar dat de kontrakten goed binne. As in systeem kocht wurdt ynstee fan boud, bepaalt de ferdieling fan ferantwurdlikens tusken leveransier en ynsetter wa't it risiko draacht. Freegje om de technyske dokumintaasje dy't de Wet fereasket, om de gebrûksoanwizings, om ynformaasje oer bekende beheiningen, en om it rjocht om ynformearre te wurden oer ynsidinten en substansjele oanpassingen. Us IT-rjochtsteam behannelet dy regelingen.
As AI it ark fan 'e dieder is ynstee fan it mislearjen fan in bedriuw
Oant no ta hat dit artikel te krijen mei skea feroarsake troch in KI-systeem dat in bedriuw ynset hat foar in legitiem doel. De oare helte fan it byld is KI dy't bewust brûkt wurdt om in misdriuw te begean, en hjir is it antwurd ienfâldiger: it misdriuw is it misdriuw, en de technology is in ferswarrend detail ynstee fan in juridysk probleem. Nederlânsk strafrjocht is formulearre yn termen fan resultaten en gedrach, net yn termen fan ynstruminten, dêrom binne der mar in pear nije bepalingen nedich west.
Fraude begien mei in kloonde stim of in syntetyske fideo fan in regisseur dy't in betelling ynstruearret, is bedrog ûnder art. 326 Sr, krekt lykas it soe wêze mei in ferfalske brief. In dokumint generearre troch in model om in falske bewearing te stypjen is falskemunterij ûnder art. 225 Sr. It brûken fan ien dy't persoanlike gegevens identifisearret om as har troch te gean is in misdriuw op himsels ûnder art. 231b Sr. It fersprieden fan seksueel eksplisite ôfbyldings fan in persoan sûnder har tastimming is strafber, en de Wet seksuele misdriuwen, fan krêft sûnt 1 july 2024, modernisearre dat diel fan it Wetboek fan Strafrjocht; in syntetyske ôfbylding falt der net bûten, om't it generearre is ynstee fan opnommen. Oanhâldende oerlêst fia automatisearre akkounts kin delkomme op belaging ûnder art. 285b Sr, dat allinich ferfolge wurdt op klacht fan it slachtoffer.
Wat AI feroaret is skaal, leauwensweardigens en de muoite fan bewiis. In oertsjûgjende syntetyske stim nimt de wriuwing fuort dy't eartiids beskerme tsjin betellingsfraude, en bewiis dat in opname autentyk is, kin net langer oannommen wurde. Twa praktyske gefolgen folgje. Foar slachtoffers en foar bedriuwen binne ferifikaasjeprosedueres dy't net ôfhinklik binne fan it werkennen fan in stim of in gesicht no in basiskontrôle ynstee fan in ferfining. Foar it strafproses is de autentisiteit fan audio- en fideomateriaal in fraach wurden dy't bewiisd wurde moat ynstee fan oannommen, en de ferdigening hat it rjocht om it te testen.
Regeljouwing begjint te helpen. De transparânsjeferplichtingen fan art. 50 fan 'e AI Act, dy't al fan tapassing binne, fereaskje dat oanbieders synthetyske ynhâld op in masine-lêsbere manier markearje en fereaskje dat ynsetters iepenbierje dat in ôfbylding, audio of fideo keunstmjittich generearre of manipulearre is as it echte minsken of barrens ôfbyldet. Neilibjen hâldt in fêststelde oertreder net tsjin, mar it fersterket de posysje fan elkenien oars: it makket net-iepenbiere synthetyske ynhâld in regeljouwingsynbreuk op himsels, en it jout ûndersikers en rjochtbanken in sinjaal om nei te sykjen. Us artikel oer it bewizen fan digitale misleiding yn Nederlân giet oer de bewiiskant fan dizze gefallen.
Faak stelde fragen oer AI en strafrjochtlike oanspraaklikens
Kin in bedriuw strafrjochtlik oanspraaklik steld wurde as har AI diskriminearret?
Ja, it kin absolút. Wylst jo in KI-systeem sels net yn it beskuldigdebankje sille sjen, kin it bedriuw dat it brûkte wis strafrjochtlik oanklage wurde foar diskriminearjende útkomsten ûnder de Nederlânske prinsipes fan strafrjochtlike oanspraaklikens fan bedriuwen. As de lieding fan in bedriuw wist fan 'e mooglikheid fan foaroardielen fan' e KI en neat die, of as se grof negligint wiene yn har tafersjoch, binne strafrjochtlike oanklachten in tige reële mooglikheid. De EU KI-wet stelt ek strange regels tsjin foaroardielen foar systemen mei hege risiko. It net foldwaan oan dy noarmen soe in krêftich bewiis wêze fan negliginsje yn elke strafsaak. De juridyske skynwerper sil altyd it helderst skine op 'e minsklike besluten dy't makke wurde oer it meitsjen, training en ynsetten fan' e KI.
Wat is it probleem fan it swarte doaze yn AI?
It "swarte doaze"-probleem is in term foar komplekse KI-modellen wêrby't sels de minsken dy't se boud hawwe net folslein kinne folgje hoe't in spesifike útfier berikt is. Dit is in enoarm probleem as KI en strafrjocht botsje. Yn 'e rjochtbank kin dit eins de hoekstien fan in ferdigening wurde. In advokaat koe beweare dat in skealike útkomst folslein net te foarsjen wie, wat betsjuttet dat de fertochte de fereaske kriminele opset (opzet) miste. It argumint is ienfâldich: hoe koene se in resultaat bedoeld hawwe dat se net foarsizze koene? Mar oanklagers hawwe in sterke comeback. Se kinne beweare dat it ynsetten fan in krêftich, ûnfoarspelber systeem sûnder goede befeiligingsmaatregels op himsels in hanneling fan roekeloosheid of grove negligensje is. En dat kin genôch wêze om te foldwaan oan it mentale elemint dat nedich is foar strafrjochtlike oanspraaklikens. Dit makket it poadium klear foar in juridyske striid mei hege ynset oer foarsisberens en de soarchplicht.
Wat is de bêste manier foar ûntwikkelders om juridysk risiko te beheinen?
It ienige effektyfste ding dat ûntwikkelders dwaan kinne om harsels te beskermjen tsjin juridysk risiko is om sekuere, transparante dokumintaasje te hâlden yn elke faze fan it libben fan 'e AI. Tink derom as it meitsjen fan in detaillearre "audit trail" dat jo wichtichste bewiis kin wurde. Dizze dokumintaasje moat echt alles fan begjin oant ein dekke: Gegevensboarnen: Wêr kamen de trainingsgegevens wei, en hoe waarden se kontrolearre op kwaliteit en bias?; Bias Mitigation: Hokker spesifike stappen waarden nommen om bias út 'e datasets te finen en te ferwiderjen?; Untwerp Rationale: Wat wie de logika efter de wichtichste arsjitektoanyske keuzes en algoritmen?; Testresultaten: In folslein rekord fan elke testrun, ynklusyf flaters en hoe't jo se reparearre hawwe. It ynstellen fan in dúdlik ramt foar minsklik tafersjoch is like wichtich. As der ea in ûndersyk plakfynt, tsjinnet dit papierwurk as ûnbestriden bewiis fan due diligence. It helpt te sjen litten dat alle feroarsake skea in wirklik ûnfoarsisber ûngelok wie, net it resultaat fan negligensje - en dat foarmet de basis fan in solide juridyske ferdigening.
Kin in algoritme strafrjochtlik ferantwurdlik fûn wurde foar in misdriuw ûnder de hjoeddeiske Nederlânske en EU-wet?
Nee. Neffens de hjoeddeiske wet kin in algoritme net strafrjochtlik ferantwurdlik fûn wurde. Kearn juridyske konsepten lykas kriminele opset (opzet) en rjochtspersoanlikheid binne reservearre foar minsken en, yn bepaalde situaasjes, bedriuwen.
Wêrom kin in AI-systeem net gewoan op 'e proef steld wurde lykas in persoan?
In algoritme mist de fûnemintele eigenskippen dy't nedich binne om foar de rjochter te stean: it hat gjin bewustwêzen, gjin persoanlike besittings om yn beslach te nimmen, en gjin frijheid dy't ôfnommen wurde kin, yn tsjinstelling ta in natuerlike persoan of in korporaasje dy't erkend wurdt as in rjochtspersoan.
Betsjut dit dat AI irrelevant is foar strafsaken?
Nee, krekt oarsom. Sels hoewol it algoritme sels net skuldich wêze kin, wurde syn aksjes sintraal yn it bewizen fan 'e skuld of ûnskuld fan' e minsken dy't it meitsje, ynsette en tafersjoch hâlde.
Hokker juridysk konsept is it dreechst ta te passen op AI-systemen?
Kriminele opset (opzet) is benammen lestich, om't oanklagers normaal in skuldige geast moatte bewize lykas opset, roekeloosheid of kennis fan ferkeard dwaan, wylst in algoritme gewoan wurket op basis fan syn programmearring en gegevensinput en gjin bewustwêzen, oertsjûgingen of winsken hat.
Hoe Law and More kinne helpe
Law and More advisearret bedriuwen, direkteuren en partikulieren oer strafrjochtlike oanspraaklikens dy't ûntstiet út automatisearre systemen. Wy beoardielje bleatstelling ûnder art. 51 Sr en de doktrine fan funksjonele perpetraasje, bouwe en kontrolearje AI-bestjoer dat as bewiis fan soarch kin tsjinje, algoritmysk bewiis yn strafrjochtlike prosedueres útdaagje, en bedriuwen en har amtners ferdigenje yn ûndersiken troch it Iepenbier Ministearje en troch tafersjochhâlders. As jo organisaasje AI ynset yn in omjouwing dêr't flaters gefolgen hawwe, nim dan kontakt op mei ús kantoar foardat in ynsidint de fraach twingt.
