Het Europees Parlement heeft een historische stap gezet met de goedkeuring van de AI Act. Het is de eerste allesomvattende AI-regeling ter wereld. Deze regels stellen duidelijke grenzen aan wat bedrijven binnen de EU wel en niet mogen doen met kunstmatige intelligentie. Met als doel de rechten van inwoners te beschermen en vooruitgang te stimuleren binnen veilige en morele kaders. Maar wat houden de nieuwe regels eigenlijk in?
De AI wet verbiedt nadrukkelijk AI-toepassingen die de rechten van inwoners uit Europa belemmerd. Dit houdt in het ongericht verzamelen van gezichtsfoto’s voor gezichtsherkenning, AI die emoties herkent op de werkvloer of in onderwijsinstellingen, manipulatie van menselijk gedrag, en ‘social scoring’ systemen vergelijkbaar met die in China. Ook het categoriseren van mensen op basis van seksuele oriëntatie of religie is uit den boze.
Politie
De AI Act legt ook nieuwe regels op voor de diensten van de politie. Met name rondom het gebruik van biometrische identificatiesystemen, bijvoorbeeld het lezen van vingerafdrukken en gezichtsherkenning. Deze mogen alleen in zeer specifieke en dringende situaties worden gebruikt, zoals het opsporen van vermiste personen of het voorkomen van terroristische aanslagen, en alleen met toestemming van een rechter.
“The EU AI Act will only entrench police and migration authorities’ existing culture of impunity – encouraging them to keep deploying harmful AI systems against the most marginalised communities.” https://t.co/4zBqv6tTCr
— Distributed AI Research Institute is on Mastodon (@DAIRInstitute) March 13, 2024
FF
ChatGPT
Algemene AI-systemen zoals ChatGPT moeten transparanter worden. Gebruikers moeten weten wanneer ze met AI te maken hebben en ontwikkelaars moeten aantonen dat ze geen auteursrechten schenden met de content die gebruikt wordt om hun systemen te trainen. Dit geldt ook voor gegenereerde content, waarbij duidelijk moet zijn dat deze niet door een mens is gemaakt.
AI-systemen worden ingedeeld in verschillende risicoklassen. Voor systemen met een laag risico volstaat het om bij de resultaten te vermelden dat deze door AI zijn gegenereerd. Bij hogere risicoklassen zijn strengere maatregelen vereist, zoals menselijk toezicht bij systemen die gebruikt worden in kritieke sectoren zoals infrastructuur, onderwijs en gezondheidszorg.
Here’s what’s in the EU AI Act, which just got approved. https://t.co/HUwsXllAP0
— FORTUNE (@FortuneMagazine) March 14, 2024
Goedkeuring
Hoewel de AI Act is goedgekeurd, moet deze nog worden bekrachtigd door alle EU-lidstaten. Na goedkeuring door de lidstaten gaat de wet in werking. De verboden toepassingen worden zes maanden na inwerkingtreding effectief verboden, terwijl de regels voor algemene systemen en systemen met een hoog risico respectievelijk een jaar en 36 maanden na goedkeuring ingaan.
Krijg je geen genoeg van technieuws? Klik hier om meer artikelen te lezen en schrijf je in voor onze nieuwsbrief!
