Dario Amodei, topman van het AI-bedrijf Anthropic, heeft op 12 september 2026 de kunstmatige-intelligentiesector opgeroepen het tempo te verlagen. Volgens hem zijn er strengere veiligheidsmaatregelen nodig nu de technologie zich snel blijft ontwikkelen.
In een bericht op sociale media verwees Amodei naar een essay met de titel We Must Pace the Frontier, naar verluidt zo'n 3.800 woorden lang, waarin hij een drieledig plan uiteenzet om de ontwikkeling van frontier-AI af te remmen. Anthropic zegt zich "eenzijdig" te zullen vastleggen op de eerste stap: externe beoordelaars permanent toegang geven tot de systemen van het bedrijf, op het niveau van medewerkers.
In het essay beschrijft Amodei volgens de berichten de snel toenemende mogelijkheden van kunstmatige intelligentie en stelt hij dat er meer veiligheidscontroles nodig zijn in de hele sector, niet alleen bij afzonderlijke bedrijven.
De oproep komt te midden van groeiende zorgen dat AI-modellen in staat kunnen worden om wereldwijd ernstige schade aan te richten. Amodei heeft niet aangegeven hoe snel de overige onderdelen van zijn voorstel moeten worden ingevoerd of hoe andere bedrijven daaraan kunnen worden gehouden.
