AI op het werk: kansen én gevaren

Steeds meer organisaties maken gebruik van generatieve AI zoals ChatGPT. Deze technologie helpt bij het schrijven van teksten, het analyseren van data en het ondersteunen van klantcontact. Toch is het belangrijk om stil te staan bij de risico’s die het gebruik van deze tools met zich meebrengt, zeker in een professionele omgeving. 

Risico’s voor informatiebeveiliging en privacy  

Het gebruik van AI-tools op de werkvloer kan leiden tot onbedoelde openbaarmaking van vertrouwelijke informatie. Veel medewerkers zijn zich niet bewust van de risico’s die ontstaan wanneer ze AI-tools gebruiken zonder duidelijke richtlijnen. Enkele belangrijke aandachtspunten zijn: 

• Gevoelige klant- of bedrijfsgegevens kunnen per ongeluk worden ingevoerd in de tool, waardoor deze buiten de organisatie terechtkomen.
• Data wordt vaak verwerkt op externe servers buiten de EU, wat risico’s oplevert voor naleving van de AVG en andere privacywetgeving.
• Er is weinig controle over wat er met de ingevoerde informatie gebeurt, en het is vaak onduidelijk hoe lang deze wordt opgeslagen.
• Context van eerdere interacties wordt bewaard, waardoor informatie uit eerdere sessies onbedoeld kan doorsijpelen in nieuwe antwoorden. 

Juridische en ethische risico’s 

Naast technische risico’s zijn er ook juridische en ethische uitdagingen: 

• AI-output is niet altijd feitelijk correct of actueel.
• Er kunnen auteursrechten worden geschonden bij het genereren van teksten of code.
• AI kan onbedoeld bevooroordeelde of discriminerende informatie genereren.
• Wanneer persoonsgegevens worden verwerkt kan dit leiden tot een datalek.  

De Europese AI Act verplicht organisaties om transparant te zijn over het gebruik van AI en stelt strikte eisen aan toepassingen met een hoog risico, zoals AI bij personeelsbeoordeling of klantinteractie.  

Hoe kun je veilig omgaan met AI-tools op de werkvloer  

Om de risico’s te beperken, is het belangrijk om verantwoord om te gaan met AI-tools: 

• Voer bewustwordingssessies en trainingen uit voor medewerkers.
• Gebruik AI-tools alleen voor niet-gevoelige taken.
• Vermijd het invoeren van persoonsgegevens of vertrouwelijke bedrijfsinformatie.
• Kies waar mogelijk voor privacyvriendelijke alternatieven of lokale AI-oplossingen. 

Een combinatie van technische maatregelen en gedragsregels helpt om de voordelen van AI te benutten zonder de risico’s uit het oog te verliezen. Houdt daarnaast rekening met de juridische implicaties. 

Meer weten? 

aaff is graag overal van betekenis. Wil je meer weten over de gevaren van AI-tools of over de dienstverlening van IT-audit? Neem dan contact op met een van onze IT-audit specialisten.