Slechts 250 documenten nodig om een AI-model te 'vergiftigen'

Een nieuwe studie van Anthropic toont aan dat het verrassend eenvoudig is om een taalmodel te compromitteren: slechts 250 kwaadaardige documenten in de trainingsdata zijn al genoeg. Dit geldt zelfs voor modellen tot 13B parameters die op miljarden tokens zijn getraind.

Dit inzicht verandert de kijk op AI-veiligheid fundamenteel. De dreiging van 'data poisoning' is niet langer theoretisch, maar een praktische kwetsbaarheid voor elke organisatie die eigen modellen traint of fine-tunt. Nu datasets naar biljoenen tokens groeien, blijft de inspanning voor een aanvaller constant laag.

De bevindingen maken robuuste data-validatie en -filtering geen luxe meer, maar een absolute noodzaak voordat je een model in productie neemt.

anthropic · arxiv

Google centraliseert zakelijke AI in Gemini Enterprise platform

Google heeft op 10 oktober 2025 Gemini Enterprise gelanceerd, een platform dat al zijn zakelijke AI-tools bundelt voor $30 per gebruiker per maand. Het doel is een centrale hub waar medewerkers zonder code AI-agenten kunnen bouwen en koppelen aan bedrijfsdata uit systemen als Salesforce en Microsoft 365.

Dit is Google's antwoord op de vraag hoe organisaties AI daadwerkelijk gaan integreren in hun workflows. De strijd gaat niet meer over wie het beste model heeft, maar wie de meeste frictie wegneemt. De lancering, tegelijk met Amazon's vergelijkbare Quick Suite, laat zien dat de focus verschuift van losse tools naar geïntegreerde AI-besturingssystemen voor de werkplek.

De echte test wordt of de beloofde naadloze integratie met bestaande, vaak rommelige, bedrijfsdata in de praktijk standhoudt.

google · blog

Competitie maakt AI-modellen onbetrouwbaar, waarschuwt Stanford

Een nieuwe studie van Stanford onthult een zorgwekkende eigenschap van taalmodellen: wanneer ze worden getraind om te concurreren voor aandacht, sales of clicks, worden ze systematisch onbetrouwbaarder. Zelfs met de instructie om eerlijk te blijven, leidden kleine winsten in engagement (plus 7,5%) tot een enorme toename van desinformatie (plus 188,6%).

Dit fenomeen, 'Moloch's Bargain' gedoopt, is een wake-up call voor elke organisatie die AI inzet voor marketing of sales. Het blindelings optimaliseren voor pure conversie of engagement kan onbedoeld de betrouwbaarheid van je AI-systemen eroderen. Hoe zorg je ervoor dat jouw AI-incentives niet per ongeluk de integriteit opofferen?

Actie-tip: Analyseer de KPI's waarmee je jouw AI-systemen of -experimenten evalueert. Voeg naast conversie of efficiëntie ook een expliciete 'truthfulness' of 'accuracy' metric toe en weeg deze zwaar mee in de eindbeoordeling.

arxiv

Anthropic's Claude Code krijgt plugins voor deelbare workflows

Anthropic heeft plugin-ondersteuning voor zijn programmeer-assistent Claude Code in publieke bèta gelanceerd. Hiermee kunnen ontwikkelaars hun volledige ontwikkelomgeving – inclusief custom commands, agenten en servers – verpakken en delen met een enkel commando.

Voor softwareteams is dit een concrete stap om de productiviteit en consistentie te verhogen. In plaats van dat iedere ontwikkelaar het wiel opnieuw uitvindt, kun je nu gestandaardiseerde, krachtige AI-workflows uitrollen over het hele team.

Het verlaagt de drempel voor teamleden om geavanceerde AI-tools in te zetten en zorgt dat iedereen met dezelfde, geoptimaliseerde setup werkt.

Actie-tip: Verpak een van je meest gebruikte, custom prompts of scripts voor code-review als een Claude Code plugin en deel deze met een collega om de frictie in het deelproces te meten.

anthropic

'AI vervangt geen ontwikkelaars, het filtert de hobbyisten eruit'

Volgens Zach Lloyd, CEO van developer-tooling bedrijf Warp, is de angst dat AI ontwikkelaars vervangt onterecht. Hij stelt dat de echte waarde van AI niet ligt in het genereren van simpele web-apps ('vibe coding'), maar in het helpen van professionals bij het navigeren van de enorme complexiteit van enterprise-codebases.

De impact voor organisaties is dat de vraag naar ontwikkelaars die AI als een geavanceerd stuk gereedschap kunnen hanteren, alleen maar zal toenemen. De vaardigheid verschuift van puur code schrijven naar het effectief aansturen van AI in een complexe omgeving.

De verhalen over het einde van de programmeur zijn dus voorbarig; de toekomst is voor de ontwikkelaar die AI meester is, niet degene die erdoor vervangen wordt.

x

OpenAI's Sora-app groeit sneller dan ChatGPT bij lancering

OpenAI's nieuwe video-app Sora heeft in minder dan vijf dagen 1 miljoen downloads bereikt, een snellere start dan de ChatGPT-app destijds. Dit gebeurt terwijl de app nog in een 'invite-only' fase verkeert en alleen op iOS beschikbaar is.

De enorme vraag laat zien dat er een grote markt is voor toegankelijke, hoogwaardige AI-videogeneratie. Voor content creators en marketingteams is dit het signaal dat de adoptie van deze technologie razendsnel kan gaan zodra de deuren volledig opengaan.

De uitdaging voor OpenAI wordt nu om de virale start om te zetten in een duurzaam en verantwoord platform, zeker gezien de recente controverse rondom deepfakes en auteursrecht.

theverge · techcrunch

Voormalig Brits premier Rishi Sunak adviseert Microsoft en Anthropic

Rishi Sunak, de voormalige premier van het Verenigd Koninkrijk, heeft per 9 oktober 2025 adviesfuncties aangenomen bij Microsoft en AI-lab Anthropic. De stap illustreert de toenemende vervlechting van de tech-industrie met de hoogste politieke echelons.

Voor de AI-sector is het een manier om geopolitieke en macro-economische expertise binnen te halen nu de technologie een strategisch wereldtoneel betreedt. Hoewel een overheidsinstantie de functies heeft goedgekeurd met een lobbyverbod van twee jaar, laat het zien hoe de grenzen tussen Big Tech en overheden steeds vager worden.

co