Afbeelding van Gerd Altmann via Pixabay

EU-akkoord over regelgeving voor artificiële intelligentie

De Europese Unie bereikte na lang onderhandelen tussen de lidstaten en het Europees Parlement, een akkoord over wetgeving om artificiële intelligentie (AI) te reguleren. “De AI Act van de EU is wereldwijd het eerste alomvattende juridisch kader voor artificiële intelligentie”, zei Europees Commissievoorzitter Ursula von der Leyen over het akkoord.

Met de AI Act wil Europa de veiligheid en de grondrechten van haar burgers respecteren, en tegelijk het innovatieve karakter en het concurrentievermogen van de Europese AI-sector vrijwaren en zelfs stimuleren. Door als eerste met zo’n wetgeving te komen, wil het een internationale standaard zetten.

Het basisprincipe is dat AI-systemen ingedeeld worden op basis van hun risicoprofiel. De meeste AI-toepassingen zullen in de categorie ‘minimaal risico’ vallen en zullen daarom niet aan specifieke verplichtingen moeten voldoen. Het gaat dan bijvoorbeeld om spamfilters of systemen die gebruikers op basis van een bepaald algoritme suggesties doen (denk aan op maat gemaakte afspeellijsten of productoverzichten in online winkels).

Anders is het met de AI met ‘hoog risico’. Omdat artificiële intelligentie onlosmakelijk met grote datasets verbonden is, zullen deze systemen niet zomaar eender welke data kunnen verzamelen en zullen ze hun inherent risico zo goed en zo kwaad mogelijk moeten verlagen. Elke activiteit moet gedocumenteerd worden, gebruikers moeten weten waar ze aan toe zijn en er moet te allen tijde menselijk toezicht zijn.

Dat klinkt abstract, maar voorbeelden als AI-toepassingen in energie-infrastructuur, medische toepassingen, systemen om de toegang tot onderwijsinstellingen of jobprofielen te bepalen of toepassingen die gebruikt worden bij ordehandhaving, maken duidelijk waar het om gaat. Biometrische identificatie en toepassingen die emoties automatisch herkennen, worden per definitie als hoog risico ingeschaald.

Tijdens de onderhandelingen was er heel wat te doen over de AI-toepassingen waar een ‘onaanvaardbaar risico’ aan verbonden is en die dus verboden moeten worden. Zo drong het Europees Parlement aan op een totaalverbod op biometrische identificatie. De lidstaten konden desondanks een aantal uitzonderingen in de wacht slepen. Zo zal gezichtsherkenning in realtime enkel mogen worden toegepast in de zoektocht naar slachtoffers van bijvoorbeeld ontvoerders of mensenhandelaars of om een duidelijke dreiging als een terroristische aanval te voorkomen. Ook verdachten in zulke zaken zullen via biometrische identificatie mogen worden opgespoord, maar ook hier zal een voorafgaand akkoord van een onderzoeksrechter nodig zijn.

Bron: Belga – Meer lezen (EN)