[In Wat Blijft onderzoek ik wat de mens onderscheidt van de machine in een tijd van oprukkende AI. Waarin zijn wij beter en moeten we ons dus nog meer op toeleggen? Het wordt ook een boek. Koop het nu al en je wordt onderdeel van het onderzoekstraject. »> Wat Blijft.]
De AI-baas die ik wél vertrouw
Ik heb moeite met veel leiders van de grote AI-bedrijven. Sam Altman (OpenAI), Elon Musk (X), Dario Amodei (Claude), ik vertrouw ze niet, in meer of mindere mate.
Hoe anders is dat met de oprichter van Deepmind, Demis Hassabis, die nu in de top van Google werkzaam is. In de mooie documentaire The Thinking Game die over hem is gemaakt, zie je hoe de wetenschap hem drijft. Hij ziet de enorme mogelijkheden, van nieuwe medicijnen tot schone energie, zonder de risico’s weg te poetsen. Ik vertrouw Demis wél. Natuurlijk, ook hij moet opereren binnen de grenzen van een van de grootste commerciële bedrijven ter wereld, maar ik ben van zijn goede intentie overtuigd. Hopelijk is dat niet ten onrechte!
AGI binnen enkele jaren
In een nieuw essay schrijft Hassabis dat Artificial General Intelligence waarschijnlijk nog maar enkele jaren van ons verwijderd is. Hij verwacht dat de impact ervan ongekend zal zijn: mogelijk tien keer zo groot als die van de industriële revolutie, in een fractie van de tijd. Het opvallendste deel van zijn verhaal gaat niet over wat AI allemaal mogelijk maakt. Het gaat over wie er straks op de rem mag trappen.
Een onafhankelijke keurmeester
Hassabis vindt dat de krachtigste nieuwe AI-modellen vóór hun introductie uitgebreid getest moeten worden. Niet alleen door de bedrijven die ze maken, maar door een nieuwe onafhankelijke toezichthouder: een publiek-private organisatie met eigen technische experts en samenwerking met (in eerste instantie) Amerikaanse overheidslaboratoria.
Die modellen zouden onder meer worden getest op cyberaanvallen, biologische risico’s, misleiding en het omzeilen van veiligheidsmaatregelen. Aanvankelijk zou deelname vrijwillig zijn. Maar als het systeem werkt, wil Hassabis dat de zwaarste modellen de test verplicht doorstaan voordat ze op de markt mogen verschijnen.
Zijn voorstel geldt alleen voor de krachtigste frontier-modellen en de controle zou bij een onafhankelijke organisatie liggen. Praktisch komt zijn eindpunt wel neer op een verplichte toelatingstest. Een soort APK voor de gevaarlijkste AI-systemen.
En als de risico’s te groot worden, moet deze organisatie zelfs een gezamenlijke vertraging van de ontwikkeling kunnen organiseren. Dat lijkt een opmerkelijk voorstel van iemand die zelf midden in de AI-race zit, maar het is altijd zijn intentie geweest om vertraging in de AI-ontwikkelingen in te bouwen. Internationale concurrentie weerhield dat. De tijd lijkt daar nu meer rijp voor, aan de eerste reacties op X te zien.
Kijk deze documentaire
Wie wil begrijpen waarom ik Hassabis serieuzer neem dan veel van zijn collega’s, moet The Thinking Game kijken. Hij heeft inmiddels 441 miljoen views op YouTube.
De documentaire volgde Hassabis en zijn team vijf jaar lang. Je ziet hun zoektocht naar algemene kunstmatige intelligentie, maar ook hoe ze met AlphaFold een wetenschappelijk probleem oplosten waar biologen al vijftig jaar mee worstelden.
Je ziet geen gladde techverkoper. Je ziet iemand die werkelijk wordt gedreven door wetenschap en door de wens grote menselijke problemen op te lossen. Als iemand uit deze industrie zegt dat AI-bedrijven hun krachtigste modellen niet langer uitsluitend zelf mogen keuren, luister ik.
Vrienden,
Ik groet U,
Erwin Blom
This is why I'm rather taken aback by Hassabis' idea that the US should set up an AI regulator, and then maybe invite the rest of the world in: it jars with this vision of the smart scientist doing good for the world.
I mean, he can be more than one thing at a time, right? But it seems so geopolitically blind, it ignores history to such an extent, that I just can't get my head around it.
Voor wie liever leest, is The Infinity Machine van Sebastian Mallaby een aanrader. Biografie over Demis Hassabis (en ook een goede snelcursus over de fundamenten van de huidige AI ontwikkelingen) https://rubenbos.substack.com/p/40-de-uitvinder-van-de-toekomst