Anthropic draait onzichtbare Claude-veiligheidslaag terug na publieke kritiek

Anthropic heeft veiligheidsregels voor Claude teruggedraaid nadat die tot publieke kritiek hadden geleid. Het ging om zogenoemde onzichtbare guardrails in de Claude Fable-modellen, die gebruikers niet zagen maar hun prompts wel stilzwijgend afkeurden.

De kritiek richtte zich op het gebrek aan transparantie: gebruikers kregen geen duidelijke melding dat hun verzoek werd geblokkeerd. Anthropic heeft dit inmiddels aangepast en werkt aan betere afwijzingsmeldingen.

Dit laat zien dat zelfs de meest geavanceerde modellen niet altijd doen wat je verwacht. Wie een productie-omgeving bouwt op een foundation model, doet er goed aan expliciet op randgevallen te testen en afwijzingen te loggen.

anthropic

Claude Fable 5 scoort 80% op SWE-Bench, maar guardrails remmen het af

Anthropic heeft Claude Fable 5 uitgebracht, de publieke versie van zijn krachtigste model tot nu toe. Het model haalt 80,3% op SWE-Bench Pro, tegenover 58,6% voor GPT-5.5, en heeft een contextvenster van 1 miljoen tokens. Stripe gebruikte Fable 5 om een Ruby-codebase van 50 miljoen regels in één dag te migreren, werk dat normaal twee maanden kost.

Fable 5 draait op dezelfde architectuur als Mythos 5, dat beperkt beschikbaar blijft voor overheden, cybersecurityprofessionals en een select gezelschap onderzoekers. Het verschil zit in de guardrails: die zijn bij Fable 5 zo streng dat sommige gebruikers melden dat ze op zo'n 75% van hun prompts een afwijzing krijgen. Anthropic heeft daarvoor nieuwe afwijzingsmeldingen moeten bouwen.

Voor codeerwerk en documentverwerking is dit een serieuze optie. Test wel eerst of de guardrails jouw specifieke gebruik niet blokkeren voordat je er een workflow op bouwt.

anthropic

OpenAI koopt Ona om Codex-werkruimtes voor agents uit te breiden

OpenAI heeft Ona overgenomen om de Codex-werkruimtes voor AI-agents verder uit te bouwen. Codex is het platform van OpenAI voor geautomatiseerde codeer-agents. Het bedrijf investeert zichtbaar in de infrastructuur die nodig is om agents langer en complexer werk te laten doen.

De overname past in een bredere trend waarbij AI-labs naast modellen ook de tooling en omgevingen bouwen waarin die modellen autonoom werken. Wie agents wil inzetten voor softwareontwikkeling, doet er goed aan de Codex-ontwikkelingen te volgen naast die van Claude Code en GitHub Copilot Workspace.

Desktop-agents doen echt werk, niet alleen chatten

Andrew Ng van DeepLearning.AI raadt aan om AI-agents niet puur als chatinterface te zien, maar als werkers op je desktop. Ze kunnen lokale bestanden lezen en bewerken, berichten versturen en terugkerende taken op een vast tijdstip opleveren, zonder dat jij iets vraagt.

Het verschil met een gewone chatbot is dat tussen een adviseur en een medewerker. Een adviseur vertelt je wat je moet doen, een medewerker doet het zelf. De technologie is er en de drempel om te beginnen is laag.

Kies één repetitieve taak die je nu handmatig doet, denk aan een wekelijkse rapportage of het opschonen van je inbox, en probeer die te automatiseren met een desktop-agent zoals Claude Desktop, Copilot of een open alternatief als Open Interpreter. Dat geeft je sneller een realistisch beeld dan welke demo ook.

ChatGPT krijgt betaalmogelijkheden voor shopping-agents

OpenAI heeft ChatGPT uitgebreid met de mogelijkheid om namens gebruikers betalingen te doen. Daarmee wordt ChatGPT een echte shopping-agent die zoekt én afrekent.

Dit is een stap richting autonome agents die ook financiële handelingen uitvoeren. Voor consumenten vergroot dat het gemak; voor organisaties roept het vragen op over autorisatie, controle en aansprakelijkheid. Wie bepaalt wat de agent mag uitgeven?

Zolang er geen bedrijfsbeleid is over wat AI-agents financieel mogen doen, is dit eerder een risico dan een voordeel voor zakelijke toepassingen. Stel die grenzen vast voordat de technologie het voor je doet.

Perplexity brengt Deep Research naar berichtenapps

Perplexity heeft Deep Research beschikbaar gemaakt binnen berichtenapps. Gebruikers kunnen zo uitgebreide AI-onderzoeksrapporten opvragen zonder een aparte applicatie te openen.

De integratie in communicatiekanalen verlaagt de drempel om AI-onderzoek in dagelijkse werkstromen te verweven. Het sluit aan op een bredere beweging waarbij AI-functionaliteit steeds minder een aparte stap vereist en gewoon opduikt waar je al werkt.