Voorhees waarschuwt tegen overheidsveto op AI-releases

Wat er gebeurde

Op 12 november waarschuwde Erik Voorhees, oprichter van AI-dienst Venice, tegen het toestaan van politieke controle over het vrijgeven van AI-modellen. Hij plaatste die waarschuwing na een clip van 7 november met All-In co-host David Sacks.

In de clip voorspelde Sacks een Democratische inzet om een federaal departement te laten toetsen en goedkeuren van de meest geavanceerde AI-modellen voordat ze worden vrijgegeven. Sacks zei ook dat zo een regeling kan leiden tot meer macht voor de overheid en beschermende regels voor grote, gesloten-modelbedrijven.

Op 23 september werd het wetsvoorstel Ban Artificial Superintelligence (S.5493) ingediend door Sen. Bernie Sanders en Rep. Greg Casar. Dat voorstel voorziet in een Department of Artificial Intelligence en een goedkeuringsplicht. Section 9(d) van het voorstel zou het verboden maken een gedekt geavanceerd AI-systeem te deployen, importeren of vrijgeven zonder goedkeuring van dat departement. Het departement zou inspecteren op kenmerken die gevaar voor het publiek vormen en de goedkeuring kunnen onthouden.

Op 13 oktober stelde Abdul El‑Sayed in zijn campagneplatform een onafhankelijk ministerieel agentschap voor. Dat agentschap zou kunnen inspecteren, releases blokkeren, pauzes opleggen en shutdowns bevelen. Het platform bouwt expliciet voort op het Sanders-Casar wetsvoorstel en noemt ook onafhankelijke wetenschappelijke certificering, pre-release audits en verplichte melding van incidenten aan de overheid.

Beide voorstellen bevatten ook waarborgen. Het wetsvoorstel vraagt om Senaatsbevestiging van de secretaris, onafhankelijke wetenschappelijke adviesorganen en beperkingen op financiële belangen van medewerkers. El‑Sayed's platform wil een wetenschappelijk bestuur gekozen buiten het agentschap, publieke uitzonderingen en een verbod op latere lucratieve functies voor betrokken officials.

Voorhees betoogt dat open source, transparantie en decentralisatie betere veiligheidsvoorzieningen bieden. Zijn bezwaar is vooral tegen wie de macht heeft om releases tegen te houden. Tot slot merkt CryptoSlate op dat de Democraten in de recente verkiezingen volgens Associated Press controle van het Huis en van het Congres hebben teruggewonnen, wat de politieke context van deze voorstellen beïnvloedt.

Waarom dit telt

Voor beleggers in AI-bedrijven betekent dit dat er wetsvoorstellen en campagneplannen liggen die federale goedkeuring en blokkering van AI-releases mogelijk maken. Dat kan de macht van de overheid vergroten en de concurrentieomgeving voor ontwikkelaars veranderen.