Verantwoord inzet van algoritmes en AI in de forensische zorg
Hier bieden wij een overzicht van algoritmes en AI in de forensische zorg, de bijbehorende ethische en juridische randvoorwaarden en beschikbare hulpmiddelen om aan deze voorwaarden te voldoen (let op: deze pagina is in ontwikkeling; inhoud kan nog wijzigen).
Wat is AI en waarom is het relevant voor de forensische zorg?
Een algoritme verwijst naar een set regels die uitgevoerd worden door een computer om berekeningen te maken, problemen op te lossen, vragen te beantwoorden, en processen en besluitvorming te ondersteunen. Dit bevat zowel simpeler rekenregels en AI-systemen.
Artificiële intelligentie (AI) is een verzamelnaam voor algoritmen die intelligent en autonoom gedrag en lerend vermogen vertonen. Ze leiden uit de ontvangen input af hoe zij output kunnen genereren, zoals voorspellingen, content, aanbevelingen of beslissingen. Zie artikel 3(1) van de AI-Verordening voor de juridische definitie van een AI-systeem.
Algoritmes en AI binnen de forensische zorg kunnen worden ingezet ter ondersteuning van beoordeling en besluitvorming (ex. risicotaxatie), behandelingen (ex. virtual reality), en het verminderen van administratieve lasten (ex. generatieve AI of spraakgestuurd rapporteren). Bij zorgvuldige inzet kunnen deze technologieën de forensische zorg efficiënter, effectiever en kwalitatief verbeteren én cliënten meer regie geven over hun eigen behandelproces.Zie EFP’s TechwijzerFZ voor voorbeelden van algoritmes en AI in de forensische zorg.
Randvoorwaarden rondom de inzet van algoritmes en AI: ethiek & wetgeving
Om AI verantwoord te gebruiken, moeten forensische zorginstellingen rekening houden met relevante ethische en juridische voorwaarden.
De inzet van algoritmes en AI in de forensische zorg kan raken aan fundamentele ethische waarden, zoals rechtvaardigheid, vertrouwen en transparantie. Terwijl het gebruik van technologieën technisch mogelijk en juridisch toegestaan kan zijn, helpt ethiek bij het zorgvuldig afwegen of, waarom, en hoe die inzet ook wenselijk is.
EFP ontwikkelt een ethische handleiding en checklist voor technologie in de forensische zorg.
Wetgeving bij het gebruik van algoritmes en AI in de forensische zorg
Voor zorginstellingen en professionals is het belangrijk om binnen de juiste wettelijke kaders te werken. Hieronder een overzicht van relevante wetten en wat ze betekenen in de context van algoritmes en AI:
1. Grondrechten (Grondwet, Europees Verdrag tot bescherming van de rechten van de mens en de fundamentele vrijheden (EVRM), Handvest van de grondrechten van de Europese Unie)
Wat zegt de wet? Grondrechten zijn fundamentele rechten die burgers beschermen tegen inmenging van de overheid én die hun deelname aan de samenleving waarborgen, zoals het recht op gelijke behandeling en het recht op privacy. Toepassing: Bij de inzet van algoritmes en AI-systemen moeten zorginstellingen discriminatie voorkomen, de privacy van patiënten beschermen en zorgvuldig afwegen of het systeem noodzakelijk en passend is voor het beoogde doel.
2. Algemene Verordening Gegevensbescherming (AVG) en Uitvoeringswet Algemene Verordening Gegevensbescherming (UAVG)
Wat zegt de wet? De AVG legt verplichtingen vast met betrekking tot de verwerking en bescherming van persoonsgegevens. De AVG wordt in Nederland aangevuld door de UAVG, bijvoorbeeld door de rol en bevoegdheden van de Autoriteit Persoonsgegevens vast te leggen. Toepassing: Als forensische zorginstellingen persoonsgegevens automatisch verwerken, bijvoorbeeld via spraakgestuurd rapporteren, geldt de AVG. De AVG bevat basisregels voor het verwerken van persoonsgegevens. Als het gebruik van een algoritmes of AI-systeem waarschijnlijk grote privacyrisico’s oplevert, moet vooraf een Data Protection Impact Assessment (DPIA) worden uitgevoerd om risico’s in kaart te brengen en maatregelen te nemen.
Voor een handleiding van de AVG en UAVG:
Handleiding Algemene verordening gegevensbescherming
3. Europese AI-verordening (AIV)
Wat zegt de wet? Nieuwe regelgeving die verplichtingen stelt aan AI-systemen op basis van risicoclassificaties (zoals hoog-risico toepassingen), waarbij standaarden (nog in ontwikkeling) helpen bij de praktische uitvoering. Toepassing: Forensische zorginstellingen moeten nagaan of de technologieën die ze inzetten AI-systemen zijn, wat voor risico-categorie ze bijbehoren (verboden, hoog, beperkt), en wat de toepasbare eisen zijn op basis van hun rol (aanbieder of gebruiksverantwoordelijke). Binnen de forensische zorg, kan het zijn dat AI-toepassingen bij zorginstellingen ‘hoog-risico’ zijn, waardoor rekening moet worden gehouden met strengere eisen. Zo kan het bijvoorbeeld verplicht zijn een fundamentele rechten assessment uit te voeren om risico’s voor grondrechten van betrokkenen in kaart te brengen en passende maatregelen op te stellen.
Voor een AIV-gids en een tool om te bepalen welke verplichtingen in de praktijk gelden, zie:
Gids AI-verordening Compliance checker tool AI-verordening
4. Wet op de geneeskundige behandelingsovereenkomst (WGBO)
Wat zegt de wet? De Wet op de geneeskundige behandelingsovereenkomst (WGBO) regelt de rechten en plichten van patiënten en zorgverleners. Patiënten hebben recht op duidelijke informatie en geïnformeerde toestemming voor een behandeling. In de forensische zorg kan die toestemming soms beperkt zijn, bijvoorbeeld bij dwangmaatregelen zoals tbs of verplichte zorg. De wet regelt ook de privacy en geheimhouding van medische gegevens, waaronder het recht op inzage in het eigen medisch dossier, met mogelijke beperkingen binnen de forensische zorg. Zorgverleners zijn verplicht een medisch dossier bij te houden. Toepassing: Bij het gebruik van algitmes en AI in de zorg moet de forensische zorgverlener duidelijk uitleggen welke rol het systeem speelt binnen de behandeling. Zo kan de cliënt goed geïnformeerde toestemming geven. Omdat algoritmes en AI (medische) gegevens kunnen verwerken, behouden cliënten, voor zover de wet dat toelaat, het recht om hun medisch dossier in te zien en te laten corrigeren. Zorgverleners blijven verantwoordelijk voor de privacy en geheimhouding van (medische) gegevens die via de ingezette technologie worden verwerkt.
Praktische hulpmiddelen voor zorgprofessionals en instellingen
Hieronder staan praktische hulpmiddelen die zorgprofessionals en instellingen ondersteunen bij het verantwoord, zorgvuldig, en compliant gebruik van algoritmes en AI.
Handreiking AI-Geletterdheid
AI-geletterdheid is een verplichting uit de AI-verordening en belangrijk voor het verantwoord ontwikkelen en gebruiken van AI en algoritmes. Om organisaties hierbij te helpen, heeft de Autoriteit Persoonsgegevens een handreiking uitgebracht. Deze handreiking bevat stappen die organisaties kunnen nemen om voldoende AI-geletterd te worden.
GGz standaard digitale zorg
De zorgstandaard digitale zorg helpt professionals in de ggz om de mogelijkheden van digitale zorg effectief in hun werk te benutten, met praktische handvatten voor toepassing in de zorgpraktijk. In de zorgstandaard digitale zorg vind je een definitie van digitale zorg, richtlijnen voor toepassing binnen het ggz-zorgproces en kaders voor passende inzet, met aandacht voor cliënt, privacy, infrastructuur en organisatie.
AI Kompas voor de GGz
Het AI Kompas voor de GGZ is een praktisch document van AI Coalitie voor NL die GGZ-professionals, beleidsmakers en ontwikkelaars helpt bij verantwoorde inzet van AI in de geestelijke gezondheidszorg. Je vindt er inzicht in mogelijke toepassingen, aanbevelingen voor implementatie en randvoorwaarden rondom, onder anderen, ethiek en wetgeving.
Het Algoritmekader
Het Algoritmekader helpt publieke organisaties, waaronder forensische zorginstellingen, om algoritmes en AI-systemen verantwoord en volgens de regels te gebruiken. Het geeft een overzicht van belangrijke wetgeving, zoals de AVG en de AI-verordening, en biedt praktische hulpmiddelen om aan die regels te voldoen in alle fases van een AI-project.
