Vrijwaring: Gebaseerd op de aankondiging van de EOzonder de volledige tekst te hebben gezien.

Over het geheel genomen is het Government Order een geweldig stuk werk, dat blijk geeft van veel experience en bedachtzaamheid. Het brengt optimisme over het potentieel van AI in evenwicht met een redelijke afweging van de risico’s. En het gaat niet overhaast in nieuwe regelgeving of de oprichting van nieuwe agentschappen, maar geeft in plaats daarvan bestaande instanties en organisaties opdracht om AI te begrijpen en toe te passen op hun missie en toezichtgebieden. De EO verricht ook op indrukwekkende wijze werk door de noodzaak te benadrukken om meer AI-talent naar de overheid te halen. Dat is een enorme overwinning.

Leer sneller. Graaf dieper. Zie verder.

Gezien mijn eigen onderzoeksfocus op verbeterde openbaarmaking als startpunt voor betere AI-reguleringIk was bemoedigd toen ik hoorde dat de Government Order on AI de Protection Manufacturing Act gebruikt om de openbaarmaking van verschillende gegevens over de ontwikkeling van grote AI-modellen af ​​te dwingen. Helaas gaan deze onthullingen niet ver genoeg. Het lijkt erop dat de EO alleen gegevens nodig heeft over de procedures en resultaten van “Purple Teaming” (dat wil zeggen vijandige checks om de tekortkomingen en zwakke punten van een mannequin huge te stellen), en niet een breder scala aan informatie die zou kunnen helpen om veel van de andere geschetste problemen aan te pakken in de EO. Deze omvatten:

• Op welke gegevensbronnen het mannequin is getraind. De beschikbaarheid van deze informatie zou helpen bij veel van de andere doelstellingen die in de EO worden geschetst, waaronder het aanpakken van algoritmische discriminatie en het vergroten van de concurrentie op de AI-markt, evenals andere belangrijke kwesties die de EO niet behandelt, zoals auteursrecht. De recente ontdekking (gedocumenteerd door een exposé in The Atlantic) dat OpenAI, Meta en anderen databases met illegale boeken gebruikten, benadrukt bijvoorbeeld de noodzaak van transparantie in trainingsgegevens. Gezien het belang van intellectueel eigendom voor de moderne economie zou auteursrecht een belangrijk onderdeel van dit uitvoeringsbesluit moeten zijn. Transparantie op dit gebied zal niet alleen debat en discussie mogelijk maken over de problemen op het gebied van intellectueel eigendom die AI met zich meebrengt, maar zal ook de concurrentie tussen ontwikkelaars van AI-modellen vergroten om licenties te verlenen voor gegevensbronnen van hoge kwaliteit en om hun modellen te differentiëren op foundation van die kwaliteit. Om een ​​voorbeeld te noemen: zouden we beter af zijn met medisch of juridisch advies van een AI die alleen is getraind met de mengelmoes van kennis die op web te vinden is, of met een AI die is getraind in de volledige hoeveelheid professionele informatie over dit onderwerp?
• Operationele statistieken. Internet als andere op web beschikbare diensten zijn AI-modellen geen statische artefacten, maar dynamische systemen die communiceren met hun gebruikers. AI-bedrijven die deze modellen inzetten, beheren en controleren deze door het meten van en reageren op verschillende factoren, zoals toegestaan, beperkt en verboden gebruik; beperkte en verboden gebruikers; methoden waarmee haar beleid wordt afgedwongen; detectie van door machines gegenereerde inhoud, prompt-injectie en andere cyberveiligheidsrisico’s; gebruik per geografie, en, indien gemeten, volgens demografische en psychografische kenmerken; nieuwe risico’s en kwetsbaarheden die tijdens de operatie zijn geïdentificeerd en die verder gaan dan de risico’s en kwetsbaarheden die tijdens de trainingsfase zijn ontdekt; en nog veel meer. Dit magazine geen willekeurige verzameling maatregelen zijn, bedacht door externe toezichthouders of belangenbehartigers onthullingen over de feitelijke metingen en methoden die de bedrijven gebruiken om hun AI-systemen te beheren.
• Beleid inzake het gebruik van gebruikersgegevens voor verdere coaching. AI-bedrijven beschouwen de enter van hun gebruikers doorgaans als aanvullende gegevens die beschikbaar zijn voor coaching. Dit heeft zowel gevolgen voor de privateness als voor intellectueel eigendom.
• Procedures waarmee de AI-aanbieder zal reageren op suggestions en klachten van gebruikers. Dit zou de voorgestelde verhaalsmechanismen moeten omvatten.
• Methoden waarmee de AI-aanbieder de by way of Purple Teaming geïdentificeerde risico’s beheert en beperkt, inclusief de effectiviteit ervan. Deze rapportage moet niet slechts eenmalig zijn, maar een voortdurend proces dat de onderzoekers, toezichthouders en het publiek in staat stelt te begrijpen of de modellen hun vermogen om de geïdentificeerde nieuwe risico’s te beheersen verbeteren of afnemen.
• Energieverbruik en andere milieueffecten. Er is veel angst gezaaid over de energiekosten van AI en de potentiële impression ervan op een opwarmende wereld. Openbaarmaking van de werkelijke hoeveelheid energie die wordt gebruikt voor het trainen en bedienen van AI-modellen zou een veel beter onderbouwde discussie over de kwestie mogelijk maken.

Dit zijn slechts enkele kant-en-klare suggesties. Idealiter zou, zodra een volledige reeks vereiste openbaarmakingen is geïdentificeerd, toezicht moeten worden gehouden door een bestaand normalisatie-orgaan van de overheid, of door een non-profitorganisatie, vergelijkbaar met de Monetary Accounting Requirements Board (FASB), die toezicht houdt op de standaarden voor jaarrekeningen. Dit is een snel evoluerend vakgebied, en openbaarmaking zal dus geen eenmalige activiteit zijn. We bevinden ons nog in de beginfase van het AI-tijdperk en innovatie moet kunnen floreren. Maar dit legt een nog grotere nadruk op de behoefte aan transparantie en het opzetten van basisrapporteringskaders waarmee toezichthouders, investeerders en het publiek kunnen meten hoe succesvol AI-ontwikkelaars de risico’s beheersen, en of AI-systemen beter of slechter worden. na een tijdje.

Replace

Na het lezen van de particulars gevonden in het volledige uitvoeringsbesluit inzake AIIn plaats van alleen maar over de samenvatting van het Witte Huis, ben ik veel minder positief over de impression van dit bevel, en over wat de eerste stappen leken te zijn op weg naar een robuust openbaarmakingsregime, dat een noodzakelijke voorloper is van effectieve regulering. De EO zal geen impression hebben op de activiteiten van de huidige AI-diensten zoals ChatGPT, Bard en anderen die momenteel in ontwikkeling zijn, aangezien de vereisten dat modelontwikkelaars de resultaten van hun ‘crimson teaming’ van modelgedrag en -risico’s openbaar maken, alleen van toepassing zijn op toekomstige modellen die zijn getraind met ordes van grootte meer rekenkracht dan welk huidig ​​mannequin dan ook. Kortom, de AI-bedrijven hebben de regering-Biden ervan overtuigd dat de enige risico’s die het reguleren waard zijn, de existentiële sciencefictionrisico’s van AI in de verre toekomst zijn, in plaats van de duidelijke en huidige risico’s in de huidige modellen.

Het is waar dat verschillende instanties de opdracht hebben gekregen om de huidige risico’s in overweging te nemen, zoals discriminatie bij aanwerving, strafrechtelijke sollicitaties en huisvesting, evenals de gevolgen voor de arbeidsmarkt, de gezondheidszorg, het onderwijs en de concurrentie op de AI-markt, maar deze inspanningen zijn in hun kinderschoenen en in de jaren daarna. De belangrijkste effecten van de EO blijken uiteindelijk de oproep te zijn om de inhuur van AI-talent bij deze bureaus te vergroten, en om hun mogelijkheden te vergroten om de problemen aan te pakken die AI met zich meebrengt. Deze effecten kunnen op de lange termijn behoorlijk groot zijn, maar op de korte termijn zullen ze weinig impression hebben.

Kortom, de grote AI-bedrijven hebben een succes geboekt in het voorkomen van effectieve regelgeving voor de komende jaren.