De topmannen van vier grote AI-labs hebben een open brief naar het Amerikaanse Congres gestuurd waarin ze om wetgeving vragen voor het screenen van besteld DNA en RNA. De zorg: AI wordt zo goed in biologie dat de drempel om aan een biowapen te beginnen omlaag gaat. Het is zeldzaam dat concurrenten als OpenAI en Anthropic samen iets ondertekenen.
De brief en wie hem tekent
De brief is dinsdag gepubliceerd op screendna.org, een initiatief van de denktanks Institute for Progress en Foundation for American Innovation. Onder de ondertekenaars staan Sam Altman (OpenAI), Dario Amodei (Anthropic), Demis Hassabis (Google DeepMind) en Mustafa Suleyman (Microsoft AI). De vier bedrijven zijn elkaars directe concurrenten in de race om de beste AI-modellen.
Daarnaast tekenden onder anderen Stripe-oprichter Patrick Collison, Y Combinator-veteraan Paul Graham, Meta's hoofd AI Alexandr Wang, Nobelprijswinnaar David Baker, MIT-biosecurityonderzoeker Kevin Esvelt en Christine Wormuth, oud-minister van het Amerikaanse leger en nu voorzitter van het Nuclear Threat Initiative.
Waarom nu
De kern van het betoog is dat de "kennisbarriere" die kwaadwillenden tot nu toe tegenhoudt aan het afbrokkelen is. AI-modellen kunnen volgens de brief inmiddels beter scoren dan virologen met een PhD op zeer technische laboratoriumvragen. Wie ChatGPT of Claude gebruikt om in zijn schuurtje een ziekteverwekker te ontwerpen, krijgt geen onmiddellijke recepten meer, maar wel hulp bij dingen die voorheen jaren studie vergden.
OpenAI heeft sinds begin 2024 zulke tests gedraaid op biologische dreigingen. De uitkomst daarvan was zorgwekkend genoeg om niet meer alleen op vrijwillige industrieafspraken te willen leunen, schrijven de auteurs. De brief erkent dat het bewijs over hoeveel AI echt helpt nog "gemengd" is, maar stelt dat de snelheid van ontwikkeling om actie nu vraagt.
Wat ze concreet vragen
De brief vraagt het Congres om drie dingen wettelijk verplicht te maken voor bedrijven die synthetisch DNA en RNA verkopen:
- Elke bestelling vergelijken met databases van bekende gevaarlijke sequenties.
- De identiteit van de klant verifieren voordat er iets de deur uit gaat.
- Bestelgegevens bewaren, zodat onderzoekers er later bij kunnen.
Dat klinkt technisch, maar het idee is simpel. Je kunt op het internet stukjes erfelijk materiaal bestellen, net als een chemicalie of een lab-apparaat. Een lab printet die stukjes voor je en stuurt ze op. Zonder controle kun je in principe de bouwstenen van een gevaarlijk virus bij elkaar bestellen.
De ondertekenaars willen ook dat de wet gewoon weten dat traceren al een afschrikkend effect heeft. Wie weet dat zijn bestelling wordt vastgelegd, gaat minder snel iets engs proberen.
Hoe het nu werkt
Een flink deel van de markt doet die screening al, vrijwillig. Het International Gene Synthesis Consortium, opgericht in 2009, brengt grote leveranciers samen die afspraken hebben over het controleren van bestellingen. Maar het is geen wet. Wie er niet aan meedoet, hoeft niets te checken. En de Amerikaanse overheid heeft tot nu toe alleen aanbevelingen uitgevaardigd, geen verplichtingen.
De brief wil die situatie omdraaien: van "de meeste bedrijven doen het" naar "iedereen die in de VS verkoopt moet het doen". Voor de leveranciers betekent dat extra compliance-kosten en mogelijk consolidatie van de markt, omdat kleinere partijen het werk niet kunnen dragen.
Waarom de eensgezindheid opvalt
Altman en Amodei staan zelden naast elkaar op een persbericht. Anthropic werd opgericht door ex-OpenAI-onderzoekers die het oneens waren met de koers van het bedrijf, en de twee labs vechten openlijk om dezelfde klanten en hetzelfde talent. Dat ze nu samen een brief tekenen, betekent dat ze het risico zwaar genoeg vinden om concurrentie even opzij te zetten. Hassabis en Suleyman, ooit zelf samen oprichter van DeepMind, leiden inmiddels concurrerende afdelingen bij Google en Microsoft. Ook zij ondertekenden.
Er zit nog een tweede laag in. AI-bedrijven die zelf vragen om regulering hebben er belang bij dat die regulering elders landt: niet bij hun eigen modellen, maar bij de fysieke schakel waar code echt iets gevaarlijks wordt. Een DNA-leverancier die elke bestelling moet checken, neemt een deel van de verantwoordelijkheid weg bij de chatbot die de bestelling helpt formuleren.
Wat nu
Het Congres heeft de afgelopen jaren meerdere voorstellen rond AI-veiligheid zien stranden. Of een biosecurity-wet wel door komt, hangt af van of beide partijen het erover eens worden dat dit een nationaal-veiligheidsverhaal is en geen tech-regulatieverhaal. De ondertekenaars hebben hun verzameling expres breed gehouden: AI-bazen, ondernemers, een Nobelprijswinnaar, een oud-legerminister. Dat is geen toeval. Het is een poging om het onderwerp uit het AI-debat te tillen en in de hoek van defensie en volksgezondheid te zetten, waar wetgevers historisch sneller bewegen.
