Kunnen kunstmatige intelligentie (AI)-systemen dat worden? bewust? Een coalitie van bewustzijnswetenschappers zegt dat op dit second niemand het weet – en spreekt haar bezorgdheid uit over het gebrek aan onderzoek naar deze kwestie.

In commentaar aan de Verenigde Naties zeiden leden van de Vereniging voor Wiskundige Bewustzijnswetenschappen (AMCS) roept op tot meer financiering ter ondersteuning van onderzoek naar bewustzijn en AI. Ze zeggen dat wetenschappelijk onderzoek naar de grenzen tussen bewuste en onbewuste systemen dringend nodig is, en ze halen ethische, juridische en veiligheidskwesties aan die het van cruciaal belang maken om het AI-bewustzijn te begrijpen. Als AI bijvoorbeeld bewustzijn ontwikkelt, moeten mensen het dan na gebruik gewoon kunnen uitschakelen?

Dergelijke zorgen zijn grotendeels afwezig geweest recente discussies over AI-veiligheidzoals het spraakmakende AI-veiligheidstop in het Verenigd Koninkrijk, zegt Jonathan Mason, bestuurslid van AMCS, een wiskundige gevestigd in Oxford, VK. Ook het uitvoerend bevel van de Amerikaanse president Joe Biden, gericht op een verantwoorde ontwikkeling van AI-technologie, ging niet in op kwesties die door bewuste AI-systemen worden opgeworpen.

“Met alles wat er gaande is op het gebied van AI, zullen er onvermijdelijk andere aangrenzende wetenschapsgebieden zijn die een inhaalslag zullen moeten maken”, zegt Mason. Bewustzijn is er één van.

Geen sciencefiction

Het is de wetenschap onbekend of er bewuste AI-systemen bestaan ​​of ooit zullen bestaan. Zelfs weten of er een is ontwikkeld zou een uitdaging zijn, omdat onderzoekers nog geen wetenschappelijk gevalideerde methoden hebben ontwikkeld om het bewustzijn in machines te beoordelen, zegt Mason. “Onze onzekerheid over AI-bewustzijn is een van de vele dingen over AI die ons zorgen zouden moeten baren, gezien het tempo van de vooruitgang”, zegt Robert Lengthy, filosoof bij het Middle for AI Security, een non-profit onderzoeksorganisatie in San Francisco, Californië.

De wereldweek over AI-veiligheid: krachtige computerinspanningen gelanceerd om onderzoek te stimuleren

Dergelijke zorgen zijn niet langer alleen maar sciencefiction. Bedrijven zoals OpenAI – het bedrijf dat de chatbot ChatGPT heeft gemaakt – willen zich verder ontwikkelen kunstmatige algemene intelligentie, een diepgaand leersysteem dat is getraind om een ​​breed scala aan intellectuele taken uit te voeren die vergelijkbaar zijn met wat mensen kunnen doen. Sommige onderzoekers voorspellen dat dit over 5 tot 20 jaar mogelijk zal zijn. Toch wordt het veld van bewustzijnsonderzoek “zeer ondersteund”, zegt Mason. Hij merkt op dat er, voor zover hij weet, in 2023 geen enkel subsidieaanbod is gedaan om dit onderwerp te bestuderen.

De resulterende informatiekloof wordt geschetst in de bijdrage van het AMCS aan het VN-adviesorgaan op hoog niveau voor kunstmatige intelligentie, dat in oktober van begin ging en medio 2024 een rapport zal uitbrengen over hoe de wereld de AI-technologie zou moeten besturen. De AMCS-inzending is niet publiekelijk vrijgegeven, maar de instantie bevestigde tegenover het AMCS dat de opmerkingen van de groep deel zullen uitmaken van haar “fundamentele materiaal” – documenten die haar aanbevelingen over mondiaal toezicht op AI-systemen ondersteunen.

Begrijpen wat AI bewust zou kunnen maken, zeggen de AMCS-onderzoekers, is noodzakelijk om de implicaties van bewuste AI-systemen voor de samenleving te evalueren, inclusief hun mogelijke gevaren. Mensen zouden moeten beoordelen of dergelijke systemen menselijke waarden en belangen delen; Als dat niet het geval is, kunnen ze een risico voor mensen vormen.

Wat machines nodig hebben

Maar mensen moeten ook rekening houden met de mogelijke behoeften van bewuste AI-systemen, zeggen de onderzoekers. Kunnen dergelijke systemen lijden? Als we niet erkennen dat een AI-systeem bewust is geworden, kunnen we een bewuste entiteit pijn doen, zegt Lengthy: “We hebben niet echt een goede staat van dienst als het gaat om het uitbreiden van morele overwegingen naar entiteiten die er niet uitzien en niet handelen. zoals wij.” Het ten onrechte toekennen van bewustzijn zou ook problematisch zijn, zegt hij, omdat mensen geen middelen mogen besteden aan het beschermen van systemen die geen bescherming nodig hebben.

Als AI bewust wordt: dit is hoe onderzoekers het zullen weten

Sommige van de vragen die het AMCS opwerpt om het belang van de bewustzijnskwestie te benadrukken, zijn juridisch: moet een bewust AI-systeem verantwoordelijk worden gehouden voor een opzettelijke overtreding? En moeten zij dezelfde rechten krijgen als mensen? De antwoorden vereisen mogelijk wijzigingen in de regelgeving en wetten, schrijft de coalitie.

En dan is er nog de behoefte aan wetenschappers om anderen te onderwijzen. Naarmate bedrijven steeds capabeler AI-systemen bedenken, zal het publiek zich afvragen of dergelijke systemen bewust zijn, en wetenschappers moeten genoeg weten om advies te kunnen geven, zegt Mason.

Andere bewustzijnsonderzoekers onderschrijven deze zorg. Filosoof Susan Schneider, directeur van het Middle for the Future Thoughts aan de Florida Atlantic College in Boca Raton, zegt dat chatbots zoals ChatGPT lijken zo menselijk in hun gedrag dat mensen terecht door hen in de warfare raken. Zonder diepgaande analyse door wetenschappers zouden sommige mensen tot de conclusie kunnen komen dat deze systemen bewust zijn, terwijl andere leden van het publiek de zorgen over het AI-bewustzijn zouden kunnen afwijzen of zelfs belachelijk maken.

Om de risico’s te beperken roept het AMCS – waartoe wiskundigen, computerwetenschappers en filosofen behoren – overheden en de particuliere sector op om meer onderzoek naar AI-bewustzijn te financieren. Er zijn niet veel financiële middelen nodig om dit vakgebied vooruit te helpen: ondanks de beperkte steun tot nu toe is er al related werk aan de gang. Lengthy en 18 andere onderzoekers hebben bijvoorbeeld een guidelines ontwikkeld van standards om te beoordelen of een systeem een ​​grote kans heeft om bewust te zijn. De krant¹gepubliceerd in de arXiv preprint repository in augustus en nog niet door vakgenoten beoordeeld, ontleent zijn standards aan zes prominente theorieën die de biologische foundation van het bewustzijn verklaren.

“Er is veel potentieel voor vooruitgang”, zegt Mason.