Tim O’Reilly stuurde mij een uitstekend artikel over de OpenAI-soapserie: Matt Levine’s “Geldzaken: wie controleert open AI.” Ik zal het grootste deel overslaan, maar er viel me iets op. Tegen het einde schrijft Levine over Elon Musks versie van de AI van Nick Bostrom, die besluit de wereld te veranderen paperclips:
(Elon) Musk gaf een voorbeeld van een kunstmatige intelligentie die de taak krijgt aardbeien te plukken. Het lijkt onschuldig genoeg, maar naarmate de AI zichzelf opnieuw ontwerpt om effectiever te zijn, zou het kunnen besluiten dat de beste manier om zijn output te maximaliseren het vernietigen van de beschaving is en het hele oppervlak van de aarde in aardbeienvelden te veranderen.
Leer sneller. Graaf dieper. Zie verder.
Dat snapt mij, maar niet op de manier zoals jij denkt. Het is persoonlijk aangrijpend, om geheel andere redenen dan de AI-doomerisme-sekten die Musk, Bostrom en anderen propageren.
Toen ik afstudeerde aan Stanford, reed ik met een vriend rond door het eindeloze doolhof van parkeerterreinen en winkelcentra in dat onopvallende deel van Silicon Valley waar Sunnyvale, Santa Clara en Cupertino samenkomen. Mijn vriend wees uit het raam en zei: “Daar stond de boerderij van mijn vader.” Ik vroeg wat zijn vader verbouwde; het was heel moeilijk om je op die plek een boerderij voor te stellen. Hij kweekte aardbeien. En wat gebeurde er met de boerderij? Zijn vader verloor het toen hij in een interneringskamp voor Japanners uit de Tweede Wereldoorlog werd geplaatst. Een vastgoedinvesteerder kwam er uiteindelijk achter. De vader van mijn vriend pleegde uiteindelijk zelfmoord. De boerderij werd een parkeerplaats.
Dit brengt mij terug bij een argument dat ik al eerder heb aangevoerd oudere Radar-artikelen: Onze angsten voor AI zijn in werkelijkheid angsten voor onszelf, de angst dat AI web zo slecht zal handelen als mensen herhaaldelijk hebben gehandeld. We hebben AI niet nodig om de wereld in aardbeien te veranderen, web zo min als we het nodig hebben om de wereld in parkeerplaatsen te veranderen. We zijn de wereld al aan het veranderen in parkeerplaatsen, en doen dit zonder rekening te houden met de menselijke kosten. We spuwen al CO uit2 in een tempo dat de wereld binnenkort onbewoonbaar zal maken voor iedereen, behalve voor de weinigen die zichzelf kunnen beschermen tegen de gevolgen. Als we deze problemen willen oplossen, zal dat niet by way of technologie gebeuren. Het komt door het vinden van betere mensen dan Elon en, vrees ik, Sam Altman. We hebben geen kans om het AI-probleem op te lossen als we het menselijke probleem niet kunnen oplossen. En als we het menselijke probleem niet oplossen, is het AI-probleem niet related.