De AI-wet werd opgevat als een baanbrekend wetsvoorstel dat de schade zou beperken in gebieden waar het gebruik van AI het grootste risico voor de fundamentele rechten met zich meebrengt, zoals gezondheidszorg, onderwijs, grensbewaking en openbare diensten, en dat gebruik zou verbieden dat een “onaanvaardbaar gevaar vormt”. risico.”

AI-systemen met een hoog risico zullen zich moeten houden aan strikte regels die bijvoorbeeld risicobeperkende systemen, hoogwaardige datasets, betere documentatie en menselijk toezicht vereisen. De overgrote meerderheid van AI-toepassingen, zoals aanbevelingssystemen en spamfilters, krijgen een free of charge pas.

De AI-wet is een belangrijke deal omdat deze belangrijke regels en handhavingsmechanismen zal introduceren in een enorm invloedrijke sector die momenteel een Wilde Westen is.

Dit zijn de belangrijkste conclusies van MIT Know-how Evaluation:

1. De AI-wet luidt belangrijke, bindende regels in op het gebied van transparantie en ethiek

Techbedrijven praten graag over hoe toegewijd ze zijn aan de AI-ethiek. Maar als het om concrete maatregelen gaat, droogt het gesprek op. En hoe dan ook: daden spreken luider dan woorden. Verantwoordelijke AI-teams zijn vaak de eersten die bezuinigingen zien tijdens ontslagen, en in werkelijkheid kunnen technologiebedrijven op elk second besluiten hun AI-ethiekbeleid te wijzigen. OpenAI begon bijvoorbeeld als een ‘open’ AI-onderzoekslaboratorium voordat het de publieke toegang tot zijn onderzoek sloot om zijn concurrentievoordeel te beschermen, internet als elke andere AI-startup.

De AI-wet zal daar verandering in brengen. De verordening legt juridisch bindende regels op die technologiebedrijven verplichten mensen op de hoogte te stellen wanneer ze interactie hebben met een chatbot of met biometrische categorisatie- of emotieherkenningssystemen. Het zal ook vereisen dat ze deepfakes en door AI gegenereerde inhoud labelen, en systemen zo ontwerpen dat door AI gegenereerde media kunnen worden gedetecteerd. Dit is een stap verder dan de vrijwillige toezeggingen die toonaangevende AI-bedrijven eenvoudigweg aan het Witte Huis hebben gedaan ontwikkelen AI-herkomsttools, zoals watermerken.

Het wetsvoorstel zal ook vereisen dat alle organisaties die essentiële diensten aanbieden, zoals verzekeringen en banken, een impactbeoordeling uitvoeren over de manier waarop het gebruik van AI-systemen de fundamentele rechten van mensen zal beïnvloeden.

2. AI-bedrijven hebben nog steeds veel speelruimte

Toen de AI-wet voor het eerst werd ingevoerd, in 2021, hadden mensen het nog steeds over de metaverse. (Kun je je voorstellen!)

Snel vooruit naar nu, en in een post-ChatGPT-wereld, vonden wetgevers dat ze bij de regelgeving rekening moesten houden met zogenaamde basismodellen – krachtige AI-modellen die voor veel verschillende doeleinden kunnen worden gebruikt. Dit leidde tot een intens debat over welke soorten modellen gereguleerd zouden moeten worden, en of regulering de innovatie zou ondermijnen.