OpenAI-CEO dringt er bij de VS op aan zich voor te bereiden op de risico’s en voordelen van AI-‘superintelligentie’

OpenAI CEO Sam Altman verklaarde dat beleidsmakers in de VS nu moeten optreden om zich voor te bereiden op geavanceerde kunstmatige intelligentie, en waarschuwde dat de technologie van theorie naar dagelijks economisch gebruik overgaat.

In een interview met Axios, zei Altman dat AI-systemen al programmeer- en onderzoekstaken uitvoeren die voorheen teams van programmeurs vereisten. Nieuwere modellen zullen verder gaan, stelde hij, en wetenschappers helpen bij het doen van grote ontdekkingen en individuen in staat stellen het werk van gehele groepen te verrichten.

Die verschuiving is al zichtbaar in de cybersecurity, waar sommige brancheleiders aangeven dat kunstmatige intelligentie het evenwicht in het voordeel van de aanvallers doet doorslaan.

Charles Guillemet, Chief Technology Officer bij hardware wallet fabrikant Ledger, zei bijvoorbeeld tegen CoinDesk dat AI-tools verlaging van de kosten en benodigde vaardigheden om softwarefouten te vinden en te exploiteren. Taken die vroeger maanden kostten, zoals het reverse-engineeren van code of het koppelen van meerdere kwetsbaarheden, kunnen nu met de juiste prompts in enkele seconden worden voltooid.

De cryptosector zag vorig jaar meer dan $1,4 miljard aan activa gestolen of verloren gaan door aanvallen. Dat cijfer zou kunnen blijven stijgen, suggereerde Guillemet. Bovendien vertrouwen ontwikkelaars steeds vaker op door AI gegenereerde code, wat mogelijk op grote schaal nieuwe kwetsbaarheden kan introduceren.

De reactie, zei hij, zal sterkere verdedigingsmechanismen vereisen, zoals wiskundig geverifieerde code, hardwareapparaten die privésleutels offline houden en een bredere erkenning dat systemen kunnen falen.

AI in cyberbeveiliging, biosecurity

Hoewel Altman opmerkte dat AI de ontdekking van geneesmiddelen of materiaalkunde zou kunnen versnellen, waarschuwde hij ook dat het krachtigere cyberaanvallen mogelijk kan maken en de drempel voor schadelijk biologisch onderzoek kan verlagen. Dergelijke dreigingen kunnen binnen een jaar ontstaan, wat de coördinatie tussen overheid, technologiebedrijven en veiligheidsgroepen dringend maakt.

“We zijn niet ver verwijderd van een wereld waarin er buitengewoon capabele open-source modellen zijn die zeer bedreven zijn in biologie,” zei hij. “De noodzaak voor de samenleving om veerkrachtig te zijn tegen terroristische groepen die deze modellen gebruiken om te proberen nieuwe pathogenen te creëren, is niet langer een theoretische kwestie.”

Een ander voorbeeld dat hij noemde was een “wereldschokkende cyberaanval” die mogelijk al dit jaar zou kunnen plaatsvinden. Het voorkomen daarvan, zei hij, zou een “enorme hoeveelheid werk” vergen.

Hij presenteerde de beleidsideeën van OpenAI als een uitgangspunt, met als doel het debat aan te wakkeren over hoe systemen die snel leren en op diverse terreinen opereren, beheerd kunnen worden. Het gebruik van AI ter verdediging tegen deze potentiële aanvallen, zo zei hij, is van groot belang.

Over de mogelijke nationalisatie van OpenAI zei Altman dat de zaak daartegen gebaseerd is op de noodzaak voor de VS om “superintelligentie” te bereiken voordat zijn rivalen dat doen.

“Het grootste bezwaar tegen nationalisatie zou zijn dat we de Verenigde Staten nodig hebben om te slagen in het bouwen van superintelligentie op een manier die in lijn is met de democratische waarden van de Verenigde Staten voordat iemand anders dat doet,” zei hij. “Dat zou waarschijnlijk niet werken als een overheidsproject, ik vind dat een trieste zaak.”

Toch verklaarde Altman dat hij gelooft dat bedrijven die betrokken zijn bij AI nauw moeten samenwerken met de Amerikaanse overheid.

Gezien zijn rol bij OpenAI heeft Altman ook een financieel belang in hoe de sector zich ontwikkelt. Die positie kan bepalen hoe hij zowel de urgentie van regelgeving als de rol van private ondernemingen zoals OpenAI in het beheersen van opkomende risico’s positioneert, wat de concurrentiepositie van het bedrijf kan beïnvloeden.

AI als een utility

Energie is een gebied waar hij snelle vooruitgang ziet omdat een grotere verwerkingskracht de kosten laag kan houden naarmate de vraag naar AI groeit.

Altman wees ook op vroege signalen van verschuivingen in de arbeidsmarkt. Een programmeur in 2026, zei hij, werkt al anders dan een programmeur een jaar eerder.

AI zal een soort nutsvoorziening worden, vergelijkbaar met elektriciteit, ingebed in apparaten terwijl de kosten van basale intelligentie dalen en top systemen duur blijven.

“U zult deze persoonlijke superassistent in de cloud hebben draaien,” zei Altman. “Als u deze veel gebruikt of op hoge intelligentieniveaus gebruikt, ontvangt u één maand een hogere rekening en als u deze minder gebruikt, ontvangt u een lagere rekening.”

Het is “uiterst belangrijk dat mensen die AI ontwikkelen personen zijn met hoge integriteit en betrouwbaar.”