AI gebruiken? Maak afspraken over veilig gebruik

AI wordt steeds vaker onderdeel van het dagelijkse werk in de praktijk. Van het opzoeken van informatie tot het samenvatten van consulten of ondersteuning binnen het HIS: de mogelijkheden nemen snel toe. Daarom is het belangrijk om stil te staan bij de risico's en het verantwoord gebruik van AI. 
De Europese AI Act speelt hierop in. Deze wet wordt sinds 2024 stap voor stap ingevoerd. Een deel van de verplichtingen geldt inmiddels al, zoals het vergroten van de kennis over AI binnen organisaties (AI-geletterdheid) en het bewust en verantwoord omgaan met AI.

AI is al op veel plekken aanwezig 
AI is niet altijd zichtbaar als aparte toepassing. Je komt het tegen in losse hulpmiddelen, maar ook steeds vaker in bestaande systemen. Denk bijvoorbeeld aan: 

• ChatGPT en Perplexity voor het opzoeken van informatie of het opstellen van teksten; 
• medische beslisondersteuning, zoals Ask Aletta; 
• ontwikkelingen binnen de NHG Richtlijn Assistent en AI-functionaliteiten in Thuisarts.nl; 
• spraak-naar-tekst oplossingen zoals Juvoly, die consulten omzetten in SOEP-regels; 
• AI-functionaliteiten die steeds vaker worden toegevoegd aan HIS- en EPD-systemen, bijvoorbeeld voor postverwerking. 

Wat zijn de risico's?  
AI kan veel werk uit handen nemen, maar is niet foutloos. Daarom is het belangrijk dat iedere zorgverlener bewust omgaat met het gebruik ervan. 
Let bijvoorbeeld op de volgende risico's: 

• AI kan onjuiste of verzonnen informatie geven; 
• Gegevens die je invoert kunnen privacygevoelig zijn; voer daarom nooit patiëntgegevens in een onbeveiligde AI-tool in; 
• AI kan vooroordelen bevatten of onvolledige adviezen geven; 
• Het blijft altijd de verantwoordelijkheid van de zorgverlener om de uitkomsten te controleren en zelf de medische afweging te maken. 

Wat kun je nu doen? 
Breng in kaart welke AI-toepassingen binnen de praktijk worden gebruikt en maak afspraken over het verantwoord gebruik ervan. Zorg daarnaast dat alle praktijkmedewerkers voldoende kennis hebben van de mogelijkheden én de risico's van AI. 
Leg deze afspraken bij voorkeur vast in een praktisch AI-beleid voor de praktijk. Via deze link vind je een format dat je direct kunt gebruiken en kunt aanpassen aan de eigen situatie. 

In het najaar besteedt ZEL extra aandacht aan AI-geletterdheid via een online training. Neem bij interesse contact op met ZEL via digitalisering@zel.nl of bekijk de ZEL website voor meer informatie.