In de twee jaar dat wetgevers hebben onderhandeld over de regels die vandaag zijn overeengekomen, zijn AI-technologie en de belangrijkste zorgen daarover dramatisch veranderd. Toen de AI Act werd bedacht in april 2021waren beleidsmakers bezorgd over ondoorzichtige algoritmen die beslissen wie een baan krijgt, de vluchtelingenstatus krijgt of wie sociale uitkeringen ontvangen. In 2022 waren er voorbeelden dat AI mensen actief schade berokkende. In een Nederlands schandaal werden beslissingen genomen door algoritmen gekoppeld aan gezinnen die gedwongen gescheiden werden van hun kinderen, terwijl studenten die op afstand studeerden beweerden dat AI-systemen hen discrimineerden op foundation van de kleur van hun huid.

Vervolgens werd OpenAI in november 2022 uitgebracht ChatGPT, waardoor het debat dramatisch verandert. De sprong in de flexibiliteit en populariteit van AI werd geactiveerd alarm bij sommige AI-expertsdie hyperbolisch tekende vergelijkingen tussen AI en kernwapens.

Die discussie manifesteerde zich bij de onderhandelingen over de AI-wet in Brussel in de vorm van een debat over de vraag of makers van zogenaamde funderingsmodellen zoals die achter ChatGPTzoals OpenAI en Google, moeten worden beschouwd als de oorzaak van potentiële problemen en dienovereenkomstig worden gereguleerd – of dat nieuwe regels zich in plaats daarvan moeten richten op bedrijven die deze fundamentele modellen gebruiken om nieuwe door AI aangedreven applicaties te bouwen, zoals chatbots of beeldgeneratoren.

Vertegenwoordigers van de generatieve AI-industrie van Europa uitten hun voorzichtigheid bij het reguleren van basismodellen en zeiden dat dit de innovatie onder de AI-startups in het blok zou kunnen belemmeren. “We kunnen een motor zonder gebruik niet reguleren”, zegt Arthur Mensch, CEO van het Franse AI-bedrijf Mistral. gezegd vorige maand. “We reguleren de C-taal (programmeertaal) niet, omdat je deze kunt gebruiken om malware te ontwikkelen. In plaats daarvan verbieden we malware.” Het basismodel 7B van Mistral zou volgens de vandaag overeengekomen regels worden vrijgesteld omdat het bedrijf zich nog in de onderzoeks- en ontwikkelingsfase bevindt, zei Carme Artigas, de Spaanse staatssecretaris voor Digitalisering en Kunstmatige Intelligentie, tijdens de persconferentie.

Het belangrijkste onenigheidspunt tijdens de laatste discussies die deze week twee keer tot diep in de nacht plaatsvonden, was de vraag of wetshandhavers gezichtsherkenning of andere vormen van biometrie mogen gebruiken om mensen in realtime of met terugwerkende kracht te identificeren. “Beide vernietigen de anonimiteit in de openbare ruimte”, zegt Daniel Leufer, senior beleidsanalist bij de digitale rechtengroep Entry Now. Actual-time biometrische identificatie kan een persoon identificeren die op dit second in een treinstation staat met behulp van reside beveiligingscamerabeelden, legt hij uit, terwijl ‘submit’ of retrospectieve biometrische identificatie erachter kan komen dat dezelfde persoon ook het treinstation, een financial institution en andere locaties heeft bezocht. gisteren een supermarkt, met behulp van eerder opgeslagen afbeeldingen of video.

Leufer zei dat hij teleurgesteld was door de ‘mazen in de moist’ voor wetshandhaving die leken te zijn ingebouwd in de versie van de moist die vandaag werd afgerond.

De trage reactie van de Europese toezichthouders op de opkomst van het tijdperk van de sociale media doemde op tijdens de discussies. Er zijn bijna twintig jaar verstreken tussen de lancering van Fb en de goedkeuring van de Digital Providers Act EU-regelboek ontworpen om de mensenrechten on-line te beschermen– dit jaar van kracht. In die tijd werd het blok gedwongen de problemen aan te pakken die door Amerikaanse platforms werden gecreëerd, terwijl het niet in staat was hun kleinere Europese uitdagers te steunen. “Misschien hadden we (de problemen) beter kunnen voorkomen door eerdere regelgeving”, vertelde Brando Benifei, een van de twee hoofdonderhandelaars voor het Europees Parlement, in juli aan WIRED. AI-technologie ontwikkelt zich snel. Maar het zal nog vele jaren duren voordat we kunnen zeggen of de AI Act succesvoller is in het indammen van de nadelen van de nieuwste export van Silicon Valley.