Hoe denkt Anthropic-topman Dario Amodei over AI?

Dario Amodei, topman van AI-bedrijf Anthropic, is al bijna twintig jaar geobsedeerd door de risico’s van AI. Zijn overtuiging dat AI uiteindelijk een bedreiging kan vormen voor de mensheid heeft hij al heel lang geleden ontwikkeld. Twee soorten ideeën daarachter hebben niet alleen zijn kijk op AI gevormd, maar ook de basis gelegd voor het bedrijf dat hij in 2021 oprichtte.

Dat blijkt uit een reconstructie van De New York Timeswaarvoor de krant sprak met meer dan twintig vrienden, studiegenoten, docenten en voormalige collega’s van Amodei. Daaruit komt het beeld naar voren van een man die AI niet alleen als een technologische ontwikkeling ziet, maar ook als een existentiële bedreiging die volgens hem zorgvuldig moet worden beheerd.

‘Rationalisme en effectief altruïsme’

Hij verdiepte zich in online gemeenschappen waarin werd gediscussieerd over de risico’s van AI en manieren om de wereld zo effectief mogelijk te verbeteren. Twee stromingen zouden daarbij een belangrijke rol gaan spelen: rationalisme en effectief altruïsme.

Rationalisme draait om het zo objectief mogelijk toepassen van logisch en wiskundig redeneren. Binnen die stroming bestaat de overtuiging dat AI uiteindelijk zo machtig kan worden dat het de samenleving vernietigt. Effectief altruïsme richt zich op het zo efficiënt mogelijk inzetten van middelen om het welzijn van zoveel mogelijk mensen te verbeteren.

De twee ideeën kwamen bij Amodei samen in de overtuiging dat AI zo gevaarlijk kan worden dat alleen mensen die de risico’s serieus nemen de technologie zouden moeten ontwikkelen. Volgens mensen uit zijn omgeving droeg die overtuiging bij aan zijn besluit om zelf de AI-industrie in te gaan.

Interesse in AI-gevaren ontstond al tijdens zijn studententijd

De interesse van Amodei in de mogelijke gevaren van AI ontstond al tijdens zijn studententijd. In 2007 vertelde hij een vriend aan Princeton University over het boek ‘The Singularity Is Near’ van computerwetenschapper Ray Kurzweil. Daarin voorspelde Kurzweil dat kunstmatige intelligentie op een gegeven moment slimmer zou worden dan het menselijk brein. Amodei dacht destijds dat dit al tijdens zijn leven kon gebeuren.

Van OpenAI naar Anthropic

Na zijn promotieonderzoek in de natuurkunde werkte Amodei onder meer bij Baidu en Google Brain, waar hij zich bezighield met AI-veiligheid. In 2016 stapte hij over naar OpenAI. Daar leidde hij onder meer het veiligheidsteam en hield hij zich bezig met de ontwikkeling van steeds krachtigere AI-modellen.

Zijn ideeën over de manier waarop AI ontwikkeld moest worden zorgden binnen OpenAI echter regelmatig voor spanningen. Zo ontstond onenigheid over de verdeling van verantwoordelijkheden rondom AI-veiligheid. Amodei vond zichzelf volgens betrokkenen bijzonder geschikt om toezicht te houden op de ethische kant van de technologie. Andere medewerkers maakten zich juist zorgen over de groeiende invloed van hem en zijn zus Daniela.

In december 2020 vertrokken de twee daarom samen met verschillende collega’s bij OpenAI. Een maand later richtten ze Anthropic op, dat zich nadrukkelijk richt op de ontwikkeling van veilige AI.

Botsingen over de toekomst van AI

De overtuigingen van Amodei hebben hem zowel aanhangers als tegenstanders opgeleverd. Voorstanders, met name binnen de AI-veiligheidsgemeenschap, vinden dat hij de risico’s van de technologie serieus neemt. Critici, onder wie Meta-topman Mark Zuckerberg en Nvidia-topman Jensen Huang, verwijten hem juist dat hij te pessimistisch is en te veel macht over de ontwikkeling van AI naar zich toe wil trekken.

Ook politiek laat Amodei zich nadrukkelijk horen. Zo pleit hij voor beperkingen op de verkoop van geavanceerde chips aan China, om te voorkomen dat het land zijn positie in de AI-industrie versterkt. Daarnaast wil hij regelgeving om te voorkomen dat AI-systemen uit de hand lopen.

Zijn visie leidde ook tot conflicten met het Amerikaanse ministerie van Defensie. Amodei heeft zich uitgesproken tegen het gebruik van AI voor massasurveillance van Amerikanen en de inzet van autonome wapens. In een essay uit september pleitte hij bovendien voor een vertraging van de ontwikkeling van AI. Volgens Amodei kunnen de voordelen van de technologie alleen worden gerealiseerd als deze op de juiste manier wordt ontwikkeld. Daarvoor is volgens hem extra voorzichtigheid nodig.

In studententijd ontstane visie is nog altijd bepalend voor zijn kijk op AI

De ideeën uit die online gemeenschappen volgens zijn voormalige vrienden en collega’s dus nog altijd bepalend voor zijn kijk op kunstmatige intelligentie.