AI-Geletterdheid
Februari 2025
Op 1 augustus 2024 is de Europese AI-verordening in werking getreden. Deze verordening geeft regels waaraan ontwikkelaars, leveranciers en gebruikers van AI-systemen moeten voldoen. Deze regels gelden ook voor de AI-systemen die al op de markt zijn gebracht. Het uitgangspunt van de AI-verordening is: hoe meer risico’s er kleven aan het AI-systeem, hoe meer voorwaarden er gelden waaraan het AI-systeem moet voldoen. Daarbij onderscheidt de verordening verschillende risicocategorieën:
- Verboden AI-systemen
- Hoog risico AI-systemen
- AI-systemen met risico op misleiding
Daarnaast bevat de AI-verordening regels voor AI-modellen voor algemene doeleinden, zoals generatieve AI.
Voor de meeste regels van de AI-verordening geldt dat deze vanaf 1 augustus 2026 moeten worden nageleefd, maar voor een aantal regels geldt deze verplichting al vanaf 2 februari 2025. Zo zijn de AI-systemen die in art. 5 van de AI-verordening opgesomd staan, vanaf 2 februari 2025 verboden. In dit artikel staan bijvoorbeeld AI-systemen die worden gebruikt voor risicobeoordelingen van personen om het risico op het plegen van een strafbaar feit op basis van profilering te bepalen, maar ook AI-systemen die gebruik maken van kwetsbaarheden van personen (zoals leeftijd, handicap of specifieke sociale of economische omstandigheid), met als doel of gevolg om het gedrag van die personen wezenlijk te verstoren, wat (waarschijnlijk) leidt tot schade. Bij dit laatste AI-systeem kun je denken aan speelgoed dat reageert op een stem en dat bij kinderen gevaarlijk gedrag uitlokt.
Niet alleen de regels met betrekking tot verboden AI-systemen moeten vanaf 2 februari 2025 worden nageleefd; dit geldt ook voor art. 4 van de AI-verordening. Dit artikel bevat een bepaling rondom AI-geletterdheid die geldt voor alle categorieën AI-systemen. Van aanbieders en gebruikers van AI-systemen wordt verwacht dat ze maatregelen treffen om er zo veel mogelijk voor te zorgen dat hun personeel en andere personen die namens hen AI-systemen exploiteren en gebruiken, beschikken over een voldoende niveau van AI-geletterdheid. Het gaat daarbij om vaardigheden, kennis en competenties die essentieel zijn voor het effectief gebruik, het begrip en de evaluatie van AI-technologie en de impact ervan op de samenleving. Daarbij is het van belang te vermelden dat het bij AI-geletterdheid niet alleen gaat om technische expertise, maar dat het ook ziet op de ethische, sociale en praktische aspecten van AI-technologie. Voor bedrijven en organisaties is het in het kader van de AI-geletterdheid van art. 4 van de AI-verordening onder andere belangrijk om werknemers die gebruik maken van AI te scholen rondom AI, zodat zij goed begrijpen hoe AI-systemen werken en welke risico’s hieraan verbonden zijn.
Vaak worden dit soort nieuwe wettelijke verplichtingen als een ‘last’ ervaren door bedrijven en organisaties en dat is jammer. Doordat bedrijven en organisaties hun werknemers AI-geletterd maken, kunnen zij het vertrouwen van de samenleving in nieuwe technologieën vergroten en bevorderen zij tegelijkertijd een verantwoorde en transparante omgang met AI, wat uiteindelijk bijdraagt aan een veiligere en duurzamere toekomst. Colette Cuijpers en Noortje Lavrijssen spraken hier eerder over met Erdinç Saçan in de podcast van Fontys AI Garage genaamd ‘AI Act: sleutel tot verantwoorde innovatie’.