Anthropic test "Claude for Chrome", maar waarschuwt openlijk voor de veiligheidsrisico's

Anthropic is gestart met een besloten testfase voor 'Claude for Chrome', een browserextensie die taken kan automatiseren. Het bedrijf is hierbij ongebruikelijk transparant over de gevaren.

Interne tests toonden aan dat in 23.6% van de gevallen een 'prompt injection'-aanval slaagde, waarbij de AI misleid werd tot ongewenste acties. Zelfs met toegevoegde veiligheidsmaatregelen bleef het succespercentage van aanvallen nog 11.2%.

Dit onderstreept dat het concept van een 'agentic browser' fundamenteel onveilig kan zijn, een probleem waar de hele industrie mee worstelt. Kun je een assistent die potentieel malafide websites leest, echt toegang geven tot je andere tabbladen?

Actie-tip: Gebruik dit nieuws om je interne security-team te briefen over de risico's van AI-browser-plugins. Blokkeer het installeren van experimentele extensies totdat er robuuste beveiligingsmethoden zijn.

anthropic

Microsoft presenteert eigen AI-modellen, wordt minder afhankelijk van OpenAI

Microsoft heeft zijn eerste, volledig intern ontwikkelde AI-modellen gepresenteerd: MAI-Voice-1 voor spraak en MAI-1-Preview voor tekst. Dit is een strategische zet om de afhankelijkheid van partner OpenAI te verkleinen en meer controle te krijgen over de eigen AI-stack.

Voor organisaties die op het Azure-platform bouwen betekent dit op termijn meer keuze in-huis modellen naast die van OpenAI. Het MAI-1-Preview tekstmodel is getraind op circa 15.000 Nvidia H100 GPU's.

De modellen zijn vooralsnog niet open-source en de prestaties van MAI-1-Preview zijn nog niet publiek gebenchmarkt, dus de directe concurrentiekracht met andere topmodellen is nog onbewezen.

microsoft

OpenAI lanceert gpt-realtime voor snellere spraak-naar-spraak interacties

OpenAI heeft op 28 augustus 2025 'gpt-realtime' gelanceerd, een nieuw model dat specifiek is ontworpen voor spraak-naar-spraak toepassingen met een lage latentie. Het vervangt een ouder preview-model.

Dit model is gericht op applicaties die een vloeiend, menselijk gesprek vereisen, zoals geavanceerde klantenservice-bots of live vertaal-apps. Het kan nu ook afbeeldingen als input verwerken.

Opvallend is dat de kennis-cutoff van het model nog steeds oktober 2023 is. Dit suggereert dat de optimalisaties puur op snelheid en modaliteit gericht zijn, niet op het integreren van de meest actuele kennis.

openai

ChatGPT introduceert geïsoleerd geheugen per project

ChatGPT heeft een veelgevraagde functie gelanceerd: 'project-only memory'. Hiermee wordt het 'geheugen' van de chatbot beperkt tot de conversaties binnen een specifiek project, zonder context van daarbuiten te gebruiken.

Dit is een belangrijke update voor professioneel gebruik. Je kunt nu aan verschillende klantprojecten werken zonder het risico dat vertrouwelijke informatie van het ene project 'doorlekt' naar het andere. Dit verbetert zowel de relevantie van de antwoorden als de informatiebeveiliging.

De functie is momenteel alleen beschikbaar op de website en de Windows-app. Ondersteuning voor de mobiele apps en macOS volgt in de komende weken.

Actie-tip: Maak direct een 'Project' aan in de ChatGPT-interface voor je belangrijkste klant of interne opdracht. Test of de context-scheiding je workflow verbetert en het risico op data-leakage verkleint.

openai

Google-onderzoek toont prestatieplafond aan van embeddings voor search

Onderzoek van Google toont aan dat het simpelweg opschalen van trainingdata voor embedding-modellen een prestatieplafond bereikt. De 'recall', het vermogen om relevante documenten terug te vinden, verbetert op een gegeven moment niet meer.

Dit is belangrijk nieuws voor iedereen die zoekt-toepassingen bouwt met RAG (Retrieval-Augmented Generation). Het nuanceert het idee dat je zoekprestaties oneindig kunt verbeteren met alleen maar grotere modellen of meer data.

De bevindingen suggereren dat hybride zoekmethodes, die vector search combineren met traditionele keyword search, essentieel blijven voor het bereiken van de hoogste kwaliteit in zoekresultaten.

arxiv

Apple stapt in open-source arena met kleine Vision Language Models

Apple heeft 'FastVLM' gelanceerd, een reeks kleine (0.5B tot 7B parameters), open-source Vision Language Models die nu beschikbaar zijn op Hugging Face.

De modellen zijn geoptimaliseerd voor efficiëntie en kunnen direct in een browser draaien met WebGPU-ondersteuning. Dit verlaagt de drempel voor ontwikkelaars om multimodale AI-toepassingen te bouwen die lokaal op het apparaat van de gebruiker werken, wat voordelen biedt voor privacy en kosten.

Dit zijn bewust kleine modellen. Verwacht dus geen prestaties die concurreren met GPT-4o of Claude 4, maar zie het als gereedschap voor specifieke, minder complexe on-device taken.

huggingface

Cloudflare-data geeft inzicht in populariteit AI-diensten en -crawlers

Cloudflare heeft zijn 'Radar'-dashboard uitgebreid met 'AI Insights', dat op basis van wereldwijd netwerkverkeer de populariteit van AI-tools meet. De data bevestigt de dominantie van ChatGPT, maar toont een felle strijd om de tweede plaats tussen Claude en Perplexity.

Voor marktanalyse is ook de data over AI-crawlers die het web afstruinen voor trainingsdata relevant: OpenAI's GPTBot is hier de meest actieve, gevolgd door ClaudeBot en de bot van Meta.

De data is gebaseerd op DNS-verzoeken en weerspiegelt dus niet noodzakelijk het volledige gebruiks- of API-verkeer. Desondanks geeft het een zeldzaam, datagedreven beeld van de marktverhoudingen.

cloudflare