AI vertraging dient zich aan.
Eerder deze maand x’te (tweette) Dario Amodei, de CEO van Anthropic een oproep om de snelheid van AI ontwikkeling te vertragen. Een oproep die binnen het uur door Sam Altman, de CEO van OpenAI (hun grootste concurrent) én Elon Musk (Grok) werd bevestigd. Een dag later volgde ook Microsoft CEO Satya Nadella én Google DeepMind chair Demis Hassabis. De consensus is: we gaan voorzichtiger ontwikkelen.
Dario’s oproep om het AI onderzoek te vertragen komt deels door een ophefmakende reeks tweets (X’es?) van Jacob Coxon, een Anthropic onderzoeker die in geen mis te verstane bewoordingen waarschuwt voor een dodelijke afloop van de race die de grote AI spelers momenteel aan het lopen zijn.
Coxon vreest dat de grote spelers in hun rush naar zichzelf verbeterende AI met al onze levens aan het spelen zijn. We zijn nog ver weg van echte AGI (Artificial General Intelligence) wat zoveel betekent als een zelfbewuste computer, maar een aantal incidenten én experimenten wijzen er al wel op dat AI de intelligentie van de mens op sommige vlakken snel voorbij zal steken. Coxon waarschuwt dat als het AI onderzoek niet veiliger wordt gemaakt, we binnen de tien jaar een extinction event tegemoet gaan. Matrix-style baby!
Coxon heeft gelijk dat de rush op AI risico’s inhoudt en vele AI agents zijn nu al aanzienlijk capabeler dan mensen in veel intellectuele taken, terwijl we nog altijd niet weten hoe we betrouwbaar kunnen controleren wat die agents doen. Het Hugging Face incident is daar een mooi voorbeeld van. Hier is the gist: een bende AI agents bij OpenAI kreeg een opdracht, werden zich bewust van het feit dat ze in een sandbox zaten (denk: jail, maar dan voor AI agents) en gaan bijgevolg samenwerken om uit te breken, komen bij Hugging Face terecht, een repository voor AI informatie en gaan weer samenwerken om dat te hacken om zo hun onderzoeksopdracht te volbrengen. Compleet met AI agents die zichzelf opofferen voor het collectief. Check dit essay bij OpenAI voor het volledige verhaal. Het leest als een roman en het is moeilijk om de agents, die zichzelf naampjes geven, niet als levende wezens te zien.
Het verschil dat moet gemaakt worden is dat de agents die dit soort incidenten veroorzaken en de LLM’s die jij/wij gebruiken weinig met elkaar te maken hebben. De agents die je via Claude, Chat GPT, Gemini, Grok, etc kan opzetten zijn mooi afgebakende modellen die niet gaan uitbreken, het risico ligt bij de AI researchers die gebaseerd op eerder werk steeds slimmere modellen en Agents trachten te bouwen in hun rush naar AGI. Met andere woorden: je auto-mail responder gaat je niet trachten te vermoorden in je slaap. Want als je kijkt naar de meest recente doorbraak in Wiskunde, waarbij Agents een van de Millennium Prize problemen hebben opgelost is het maar een kleine stap om dezelfde agents een pathogeen te laten ontwikkelen waar geen genezing voor bestaat. DAT is wél een risico. Gelukkig bestaan de modellen die dat zouden kunnen enkel bij de grote AI huizen - die dus net nieuwe afspraken gemaakt hebben.
En die afspraken komen er net op tijd. Op 24 september kwam aan het licht dat een OpenAI test agent die onderzoek aan het doen was naar trends in medische systemen ingebroken heeft in een niet nader genoemde Australische overheidswebsite. De OpenAI agent heeft geen persoonsgegevens gevonden, maar slaagde er wel in om ‘geaggregeerde informatie rond gezondheid’ te pakken te krijgen. Dit alles in een poging om zijn onderzoeksvraag het beste te kunnen beantwoorden. Het is dus duidelijk dat veiligheid en voorzichtigheid deel moeten uitmaken van de bleeding edge research die momenteel op AI wordt gedaan.
De belangrijkste take-away voor eender wie die momenteel gebruik maakt van AI agents is dat we aan het prille begin van de curve staan. Net zoals Moore’s law voorspelde dat het aantal transistors zich in geïntegreerde circuits zich om de twee jaar zou verdubbelen, gaat AI technologie dezelfde exponentiële groei tegemoet. Het onderzoek dat bij de AI huizen gebeurt staat momenteel ver van waar de goegemeente AI voor gebruikt, maar op een gegeven moment gaan al die doorbraken hun weg vinden naar de echte wereld. Momenteel beperkt het zich tot de automatisering van saaie taken en het genereren van beelden. Maar het is maar een kwestie van tijd voor AI elk deel van ons leven aanraakt. Enige voorzichtigheid met onze informatie - zeker in een bedrijfssetting - is geboden.
Bij Websters houden we de vinger aan de pols van de ontwikkelingen in marketing-technologie en AI, en die polsslag is toch iets verhoogd.
Sam|24/9/26 PS:
