Innoveren is niet eenvoudig. Het vraagt lef, doorzettingsvermogen en vaak ook een frisse blik. Om organisaties te ondersteunen bieden we hier binnenkort inspirerende voorbeelden uit de praktijk. Als eerste stap richting meer aandacht voor innoveren organiseren we Ethieksessies. Daarnaast hebben we een overzicht gemaakt van informatie over de verantwoorde inzet van algoritmes en AI in de forensische zorg.
Hier bieden wij een overzicht van algoritmes en AI in de forensische zorg, de bijbehorende ethische en juridische randvoorwaarden en beschikbare hulpmiddelen om aan deze voorwaarden te voldoen. Klik op het pijltje als je meer informatie wilt over één van de onderwerpen.
Een algoritme verwijst naar een set regels die uitgevoerd worden door een computer om berekeningen te maken, problemen op te lossen, vragen te beantwoorden, en processen en besluitvorming te ondersteunen. Dit bevat zowel simpeler rekenregels en AI-systemen.
Artificiële intelligentie (AI) is een verzamelnaam voor algoritmen die intelligent en autonoom gedrag en lerend vermogen vertonen. Ze leiden uit de ontvangen input af hoe zij output kunnen genereren, zoals voorspellingen, content, aanbevelingen of beslissingen. Zie artikel 3(1) van de AI-Verordening voor de juridische definitie van een AI-systeem.
Algoritmes en AI binnen de forensische zorg kunnen worden ingezet ter ondersteuning van beoordeling en besluitvorming (ex. risicotaxatie), behandelingen (ex. virtual reality), en het verminderen van administratieve lasten (ex. generatieve AI of spraakgestuurd rapporteren). Bij zorgvuldige inzet kunnen deze technologieën de forensische zorg efficiënter, effectiever en kwalitatief verbeteren én cliënten meer regie geven over hun eigen behandelproces.Zie EFP’s TechwijzerFZ voor voorbeelden van algoritmes en AI in de forensische zorg.
Om AI verantwoord te gebruiken, moeten forensische zorginstellingen rekening houden met relevante ethische en juridische voorwaarden.
De inzet van algoritmes en AI in de forensische zorg kan raken aan fundamentele ethische waarden, zoals rechtvaardigheid, vertrouwen en transparantie. Terwijl het gebruik van technologieën technisch mogelijk en juridisch toegestaan kan zijn, helpt ethiek bij het zorgvuldig afwegen of, waarom, en hoe die inzet ook wenselijk is.
EFP ontwikkelt een ethische handleiding en checklist voor technologie in de forensische zorg.
Voor zorginstellingen en professionals is het belangrijk om binnen de juiste wettelijke kaders te werken. Hieronder een overzicht van relevante wetten en wat ze betekenen in de context van algoritmes en AI:
Wat zegt de wet? Grondrechten zijn fundamentele rechten die burgers beschermen tegen inmenging van de overheid én die hun deelname aan de samenleving waarborgen, zoals het recht op gelijke behandeling en het recht op privacy.
Toepassing: Bij de inzet van algoritmes en AI-systemen moeten zorginstellingen discriminatie voorkomen, de privacy van patiënten beschermen en zorgvuldig afwegen of het systeem noodzakelijk en passend is voor het beoogde doel.
Wat zegt de wet? De AVG legt verplichtingen vast met betrekking tot de verwerking en bescherming van persoonsgegevens. De AVG wordt in Nederland aangevuld door de UAVG, bijvoorbeeld door de rol en bevoegdheden van de Autoriteit Persoonsgegevens vast te leggen.
Toepassing: Als forensische zorginstellingen persoonsgegevens automatisch verwerken, bijvoorbeeld via spraakgestuurd rapporteren, geldt de AVG. De AVG bevat basisregels voor het verwerken van persoonsgegevens. Als het gebruik van een algoritmes of AI-systeem waarschijnlijk grote privacyrisico’s oplevert, moet vooraf een Data Protection Impact Assessment (DPIA) worden uitgevoerd om risico’s in kaart te brengen en maatregelen te nemen.
Wat zegt de wet? Nieuwe regelgeving die verplichtingen stelt aan AI-systemen op basis van risicoclassificaties (zoals hoog-risico toepassingen), waarbij standaarden (nog in ontwikkeling) helpen bij de praktische uitvoering.
Toepassing: Forensische zorginstellingen moeten nagaan of de technologieën die ze inzetten AI-systemen zijn, wat voor risico-categorie ze bijbehoren (verboden, hoog, beperkt), en wat de toepasbare eisen zijn op basis van hun rol (aanbieder of gebruiksverantwoordelijke). Binnen de forensische zorg, kan het zijn dat AI-toepassingen bij zorginstellingen ‘hoog-risico’ zijn, waardoor rekening moet worden gehouden met strengere eisen. Zo kan het bijvoorbeeld verplicht zijn een fundamentele rechten assessment uit te voeren om risico’s voor grondrechten van betrokkenen in kaart te brengen en passende maatregelen op te stellen.
Wat zegt de wet? De Wet op de geneeskundige behandelingsovereenkomst (WGBO) regelt de rechten en plichten van patiënten en zorgverleners. Patiënten hebben recht op duidelijke informatie en geïnformeerde toestemming voor een behandeling. In de forensische zorg kan die toestemming soms beperkt zijn, bijvoorbeeld bij dwangmaatregelen zoals tbs of verplichte zorg. De wet regelt ook de privacy en geheimhouding van medische gegevens, waaronder het recht op inzage in het eigen medisch dossier, met mogelijke beperkingen binnen de forensische zorg. Zorgverleners zijn verplicht een medisch dossier bij te houden.
Toepassing: Bij het gebruik van algitmes en AI in de zorg moet de forensische zorgverlener duidelijk uitleggen welke rol het systeem speelt binnen de behandeling. Zo kan de cliënt goed geïnformeerde toestemming geven. Omdat algoritmes en AI (medische) gegevens kunnen verwerken, behouden cliënten, voor zover de wet dat toelaat, het recht om hun medisch dossier in te zien en te laten corrigeren. Zorgverleners blijven verantwoordelijk voor de privacy en geheimhouding van (medische) gegevens die via de ingezette technologie worden verwerkt.
Hieronder staan praktische hulpmiddelen die zorgprofessionals en instellingen ondersteunen bij het verantwoord, zorgvuldig, en compliant gebruik van algoritmes en AI.
AI-geletterdheid is een verplichting uit de AI-verordening en belangrijk voor het verantwoord ontwikkelen en gebruiken van AI en algoritmes. Om organisaties hierbij te helpen, heeft de Autoriteit Persoonsgegevens een handreiking uitgebracht. Deze handreiking bevat stappen die organisaties kunnen nemen om voldoende AI-geletterd te worden.
De zorgstandaard digitale zorg helpt professionals in de ggz om de mogelijkheden van digitale zorg effectief in hun werk te benutten, met praktische handvatten voor toepassing in de zorgpraktijk. In de zorgstandaard digitale zorg vind je een definitie van digitale zorg, richtlijnen voor toepassing binnen het ggz-zorgproces en kaders voor passende inzet, met aandacht voor cliënt, privacy, infrastructuur en organisatie.
Het AI Kompas voor de GGZ is een praktisch document van AI Coalitie voor NL die GGZ-professionals, beleidsmakers en ontwikkelaars helpt bij verantwoorde inzet van AI in de geestelijke gezondheidszorg. Je vindt er inzicht in mogelijke toepassingen, aanbevelingen voor implementatie en randvoorwaarden rondom, onder anderen, ethiek en wetgeving.
Het Algoritmekader helpt publieke organisaties, waaronder forensische zorginstellingen, om algoritmes en AI-systemen verantwoord en volgens de regels te gebruiken. Het geeft een overzicht van belangrijke wetgeving, zoals de AVG en de AI-verordening, en biedt praktische hulpmiddelen om aan die regels te voldoen in alle fases van een AI-project.
“Een fout van een behandelaar is menselijk. Een fout van een algoritme is onacceptabel.” Die spanning raakt de kern van het gesprek over ethiek en technologie in de forensische zorg. Hoe zorgen we ervoor dat we technologie verantwoord inzetten?
Digitale middelen bieden veel kansen, maar roepen ook belangrijke vragen op. Hoe bewaken we autonomie, veiligheid en goede zorg als technologie een rol speelt in behandeling, toezicht of communicatie?
Om professionals daarbij te ondersteunen, ontwikkelen we een praktische handleiding en checklist met richtlijnen voor verschillende rollen binnen de forensische zorg. Dit doen we samen met professionals en ethici. We verwachten de handleiding in Q2 2026 op te leveren.