De Europese Unie heeft zeven richtlijnen gepubliceerd over hoe bedrijven en overheden ethische applicaties van kunstmatige intelligentie (AI) moeten ontwikkelen. Dat schrijft The Verge. De richtlijnen geven antwoord op de problemen met impact op de gemeenschap als AI in sectoren als gezondheidszorg, onderwijs en technologie voor consumenten geïntegreerd wordt.
De richtlijnen willen bijvoorbeeld dat er een bepaald aantal dingen gebeuren als een AI-systeem je in de toekomst diagnostiseert met kanker. Zo moet vastgesteld worden dat de software geen vooroordelen had over je ras of geslacht, het niet tegen bezwaren van een menselijke arts in ging en dat het je de optie gaf om je de diagnose uit te leggen.
De richtlijnen werden opgesteld door een groep van 52 experts. De eerste richtlijn draait om menselijk agentschap en overzicht. “AI mag de menselijke autonomie niet kapotmaken. Mensen zouden niet gemanipuleerd of gedwongen moeten worden door AI-systemen, en mensen moeten in staat zijn om in te grijpen bij en toezicht te houden op iedere beslissing die de software maakt.”
Richtlijnen
“AI zou veilig en accuraat moeten zijn”, luidt de tweede richtlijn. “Het zou niet gemakkelijk aan te tasten moeten kunnen zijn door externe aanvallen, en moet redelijk betrouwbaar zijn.” De derde richtlijn gaat over privacy. “Persoonlijke data verzamelt door AI-systemen moet veilig en privaat blijven. Het mag niet voor iedereen toegankelijk zijn en mag niet gemakkelijk te stelen zijn.”
Twee andere richtlijnen draaien om transparantie en diversiteit. Zo moeten data en algoritmes die gebruikt zijn om het systeem te bouwen toegankelijk blijven, en beslissingen te begrijpen en te volgen zijn door mensen. De AI mag daarnaast geen vooroordelen hebben en moet beschikbaar zijn voor iedereen, ongeacht leeftijd, ras of andere karakteristieken.
Tot slot stellen de richtlijnen dat AI-systemen duurzaam moeten zijn en positieve sociale verandering met zich mee moeten brengen, en dat AI-systemen te controleren moeten zijn.
Geen wet
De richtlijnen zijn exact dat: richtlijnen. Dat betekent dus dat ze geen wet zijn en bedrijven zich er niet per se aan hoeven te houden. Wel kunnen ze een leidraad zijn voor toekomstige wetten van de Europese Unie.