Een algoritme verwijst naar een set regels die uitgevoerd worden door een computer om berekeningen te maken, problemen op te lossen, vragen te beantwoorden, en processen en besluitvorming te ondersteunen. Dit bevat zowel simpeler rekenregels en AI-systemen.   

Artificiële intelligentie (AI) is een verzamelnaam voor algoritmen die intelligent en autonoom gedrag en lerend vermogen vertonen. Ze leiden uit de ontvangen input af hoe zij output kunnen genereren, zoals voorspellingen, content, aanbevelingen of beslissingen. Zie artikel 3(1) van de AI-Verordening voor de juridische definitie van een AI-systeem.  

Algoritmes en AI binnen de forensische zorg kunnen worden ingezet ter ondersteuning van beoordeling en besluitvorming (bijvoorbeeld risicotaxatie), behandelingen (bijvoorbeeld virtual reality), en het verminderen van administratieve lasten (bijvoorbeeld generatieve AI of spraakgestuurd rapporteren). Bij zorgvuldige inzet kunnen deze technologieën de forensische zorg efficiënter, effectiever en kwalitatief verbeteren én cliënten meer regie geven over hun eigen behandelproces. Zie EFP’s TechwijzerFZ voor voorbeelden van algoritmes en AI in de forensische zorg. 

Om AI verantwoord te gebruiken, moeten forensische zorginstellingen rekening houden met relevante ethische en juridische voorwaarden. 

De inzet van algoritmes en AI in de forensische zorg kan raken aan fundamentele ethische waarden, zoals rechtvaardigheid, vertrouwen en transparantie. Terwijl het gebruik van technologieën technisch mogelijk en juridisch toegestaan kan zijn, helpt ethiek bij het zorgvuldig afwegen of, waarom, en hoe die inzet ook wenselijk is. 
 EFP ontwikkelt een ethische handleiding en checklist voor technologie in de forensische zorg.

Wat zegt de wet? Grondrechten zijn fundamentele rechten die burgers beschermen tegen inmenging van de overheid én die hun deelname aan de samenleving waarborgen, zoals het recht op gelijke behandeling en het recht op privacy.  

Toepassing: Bij de inzet van algoritmes en AI-systemen moeten zorginstellingen discriminatie voorkomen, de privacy van patiënten beschermen en zorgvuldig afwegen of het systeem noodzakelijk en passend is voor het beoogde doel.  

Link naar de grondwet

Wat zegt de wet? De AVG legt verplichtingen vast met betrekking tot de verwerking en bescherming van persoonsgegevens. De AVG wordt in Nederland aangevuld door de UAVG, bijvoorbeeld door de rol en bevoegdheden van de Autoriteit Persoonsgegevens vast te leggen. 

Toepassing: Als forensische zorginstellingen persoonsgegevens automatisch verwerken, bijvoorbeeld via spraakgestuurd rapporteren, geldt de AVG. De AVG bevat basisregels voor het verwerken van persoonsgegevens. Als het gebruik van een algoritmes of AI-systeem waarschijnlijk grote privacyrisico’s oplevert, moet vooraf een Data Protection Impact Assessment (DPIA) worden uitgevoerd om risico’s in kaart te brengen en maatregelen te nemen. 

 AVG

Handleiding AVG

Wat zegt de wet? Nieuwe regelgeving die verplichtingen stelt aan AI-systemen op basis van risicoclassificaties (zoals hoog-risico toepassingen), waarbij standaarden (nog in ontwikkeling) helpen bij de praktische uitvoering.

Toepassing: Forensische zorginstellingen moeten nagaan of de technologieën die ze inzetten AI-systemen zijn, wat voor risico-categorie ze bijbehoren (verboden, hoog, beperkt), en wat de toepasbare eisen zijn op basis van hun rol (aanbieder of gebruiksverantwoordelijke). Binnen de forensische zorg, kan het zijn dat AI-toepassingen bij zorginstellingen ‘hoog-risico’ zijn, waardoor rekening moet worden gehouden met strengere eisen. Zo kan het bijvoorbeeld verplicht zijn een fundamentele rechten assessment uit te voeren om risico’s voor grondrechten van betrokkenen in kaart te brengen en passende maatregelen op te stellen.  

AIV

Gids AI-verordening

Wat zegt de wet? De Wet op de geneeskundige behandelingsovereenkomst (WGBO) regelt de rechten en plichten van patiënten en zorgverleners. Patiënten hebben recht op duidelijke informatie en geïnformeerde toestemming voor een behandeling. In de forensische zorg kan die toestemming soms beperkt zijn, bijvoorbeeld bij dwangmaatregelen zoals tbs of verplichte zorg. De wet regelt ook de privacy en geheimhouding van medische gegevens, waaronder het recht op inzage in het eigen medisch dossier, met mogelijke beperkingen binnen de forensische zorg. Zorgverleners zijn verplicht een medisch dossier bij te houden.

Toepassing: Bij het gebruik van algitmes en AI in de zorg moet de forensische zorgverlener duidelijk uitleggen welke rol het systeem speelt binnen de behandeling. Zo kan de cliënt goed geïnformeerde toestemming geven. Omdat algoritmes en AI (medische) gegevens kunnen verwerken, behouden cliënten, voor zover de wet dat toelaat, het recht om hun medisch dossier in te zien en te laten corrigeren. Zorgverleners blijven verantwoordelijk voor de privacy en geheimhouding van (medische) gegevens die via de ingezette technologie worden verwerkt. 

WGBO

AI-geletterdheid is een verplichting uit de AI-verordening en belangrijk voor het verantwoord ontwikkelen en gebruiken van AI en algoritmes. Om organisaties hierbij te helpen, heeft de Autoriteit Persoonsgegevens een handreiking uitgebracht. Deze handreiking bevat stappen die organisaties kunnen nemen om voldoende AI-geletterd te worden.

Handreiking

De zorgstandaard digitale zorg helpt professionals in de ggz om de mogelijkheden van digitale zorg effectief in hun werk te benutten, met praktische handvatten voor toepassing in de zorgpraktijk. In de zorgstandaard digitale zorg vind je een definitie van digitale zorg, richtlijnen voor toepassing binnen het ggz-zorgproces en kaders voor passende inzet, met aandacht voor cliënt, privacy, infrastructuur en organisatie. 

Digitale zorg in de GGZ

Het AI Kompas voor de GGZ is een praktisch document van AI Coalitie voor NL die GGZ-professionals, beleidsmakers en ontwikkelaars helpt bij verantwoorde inzet van AI in de geestelijke gezondheidszorg. Je vindt er inzicht in mogelijke toepassingen, aanbevelingen voor implementatie en randvoorwaarden rondom, onder anderen, ethiek en wetgeving. 

AI-kompas

Het Algoritmekader helpt publieke organisaties, waaronder forensische zorginstellingen, om algoritmes en AI-systemen verantwoord en volgens de regels te gebruiken. Het geeft een overzicht van belangrijke wetgeving, zoals de AVG en de AI-verordening, en biedt praktische hulpmiddelen om aan die regels te voldoen in alle fases van een AI-project. 

Algoritmekader