Duizenden ontwikkelaars van kunstmatige intelligentie (Artificial Intelligence, AI) hebben kort geleden opgeroepen, de ontwikkeling een half jaar te stoppen. ‘Krachtige AI-systemen moeten we alleen ontwikkelen als we erop kunnen vertrouwen dat hun gevolgen positief zullen zijn, en hun risico’s hanteerbaar’. Dat halve jaar moeten de ontwikkelaars gebruiken ‘om samen een geheel van gedeelde veiligheidsprotocollen te ontwikkelen voor ontwerp van geavanceerde kunstmatige intelligentie.’
Een oproep
Kunstmatige intelligentie is bezig aan een sterke opmars. De mogelijkheden van deze technologie zijn enorm, zoals herschrijven van teksten, ontwikkelen en bewerken van foto’s en zelfs componeren van muziek. Maar, zo zegt de brief, ‘geavanceerde kunstmatige intelligentie kan een diepgaande verandering teweeg brengen in het leven op Aarde, en zou moeten worden gepland en beheerd met passende zorg en hulpbronnen’. Maar helaas, dit gebeurt niet, vervolgt de brief. ‘AI-laboratoria zijn bezig met een fanatieke wedstrijd om steeds krachtiger kunstmatige middelen te ontwikkelen die niemand – zelfs niet de ontwerper – kan begrijpen, voorspellen of beheersen.’
Maar we zijn niet geheel willoos aan AI-gegenereerde teksten overgeleverd. Originality.ai bijvoorbeeld claimt dat we met 94% zekerheid kunnen zeggen of een tekst is gemaakt met behulp van ChatGPT. En alleen al het bestaan van teksten gemaakt met AI creëert zijn eigen tegenkrachten. De site change.inc besteedde hier aandacht aan, in een artikel van Romy de Weert. En ‘AI-Godfather’ Geoffrey Hinton, die jarenlang bij Google werkte aan AI-systemen, is een van de ondertekenaars van het manifest. Hij vertrok bij Google om openlijk kunnen waarschuwen voor de gevaren van kunstmatige intelligentie, zegt hij tegen The New York Times. Toch lijken maar weinig bedrijven zich iets aan te trekken van deze oproep. Zo liet ChatGPT-maker, OpenAI, weten niet mee te doen.
Wat is het gevaar van kunstmatige intelligentie?
De onderzoekers schreven in hun open brief: ‘Kunstmatige intelligentie wordt nu concurrerend op het gebied van menselijke taken. We moeten onszelf afvragen of we deze machines onze informatiekanalen willen laten overspoelen met propaganda en onwaarheden. Moeten we al onze banen weg-automatiseren, ook banen die voldoening geven? Moeten we kunstmatige breinen ontwikkelen die straks met meer zijn dan wij, slimmer dan wij en die ons zullen vervangen? Moeten we het risico lopen dat we de controle over onze beschaving kwijtraken?’
Dit betekent natuurlijk niet dat kunstmatige intelligentie alléén dubieuze gevolgen heeft. Integendeel, juist om de positieve gevolgen te beschermen, is de ontwikkeling van een veiligheidsprotocol nodig, in de ogen van de ondertekenaars. Romy de Weert legt nadruk op de hulp van kunstmatige intelligentie bij de bestrijding van problemen van duurzaamheid. AI kan uitstekende voorspellingen doen over het toekomstige klimaat. Helpen bij optimalisering van het energiegebruik. En bij de inrichting van steden. Zoals de oproep zegt: ‘onderzoek naar, en ontwikkeling van krachtige moderne AI-systemen moeten we zekerder, veiliger, begrijpelijker, transparanter, robuuster, passender, waarachtiger en loyaler maken.’
Naar AI-veiligheid
Tegelijkertijd, aldus de ondertekenaars, moeten we samen met beleidsmakers AI-systemen robuuster maken. Zoals door goede controle door capabele instanties; door middelen om echte systemen te onderscheiden van kunstmatige; goede certificering; aansprakelijkheid voor schade toegebracht door AI; goede openbare financiering voor onderzoek naar AI-veiligheid; en goed onderzoek waarmee we het hoofd kunnen bieden aan de dramatische economische en politieke verstoringen (vooral m.b.t. de democratie) die AI teweeg zal brengen.
Als we dit doen, zullen we echt gebruik kunnen maken van de voordelen van kunstmatige intelligentie, zo besluit de brief. Door deze systemen zó te ontwerpen dat ze ten dienste van ons allen zullen staan, en de samenleving de gelegenheid geven, zich aan te passen.
Interessant? Lees dan ook:
ChatGPT: kunstmatige intelligentie dringt steeds dieper door in de geschreven tekst
De energietransitie is ook een digitale transitie
Maakbaar leven vereist verantwoording en toezicht