CMU stelt dat de meeste AI-agents alleen scaffolding zijn, geen echte agents

Onderzoekers van Carnegie Mellon University stellen in een paper dat de meeste systemen die zichzelf 'AI-agent' noemen in de praktijk vooral gestructureerde tool-aanroepen zijn, verpakt in een raamwerk. Geen echte autonome redenatie dus, maar orkestratielogica.

Voor teams die agents bouwen of inkopen is dit relevant, omdat het helpt om scherper te definiëren wat je koopt of bouwt. Een systeem dat stap voor stap door vaste paden loopt, laat zich makkelijker auditen en beheersen dan een systeem dat werkelijk zelfstandig beslist.

Stel jezelf daarom de praktische vraag: welke beslissingen neemt mijn agent écht zelfstandig, en welke zijn voorgeschreven door de programmeur? Dat onderscheid bepaalt je risiconiveau.

NVIDIA splitst 30B-model in tweeën voor 2,42x snellere tekstgeneratie

NVIDIA heeft een 30B-model opgesplitst in twee afzonderlijke delen, waardoor tekstgeneratie 2,42x sneller verloopt. De techniek richt zich op de bottleneck die geheugenbandbreedte vormt bij grote modellen tijdens inferentie.

Voor organisaties die modellen zelf hosten, betekent dit dat je met dezelfde hardware aanzienlijk meer requests per seconde kunt verwerken. Dat vertaalt zich direct naar lagere kosten per query of hogere capaciteit zonder extra investering in hardware.

De aanpak blijft wel afhankelijk van de specifieke architectuur van het model, dus niet elke workflow profiteert automatisch evenveel.

Etched lanceert frontier inference clusters op waardering van $5 miljard

Etched is uit de besloten fase gestapt met een nieuwe klasse AI-hardware: chips, racks en software die samen ontworpen zijn om huidige AI-modellen sneller en efficiënter te draaien. De levering start deze zomer, op een moment dat de vraag naar AI-rekenkracht het aanbod van geheugen en stroom onder druk zet.

Dit nieuws is al kort gemeld in de nieuwsbrief van 2 juli, maar de context verdient aandacht: Etched richt zich specifiek op inferentie, niet op training. Voor organisaties die grote aantallen model-aanroepen draaien, is gespecialiseerde inferentiehardware potentieel goedkoper dan generieke GPU-clusters.

Met naar eigen zeggen $1 miljard aan getekende contracten heeft Etched al serieuze afnemers. Leveringsbeloften in de chipindustrie verdienen echter altijd een gezonde dosis scepsis, totdat de hardware daadwerkelijk draait.

etched

Hoe je een AI-agent werkend krijgt zonder dat je er zelf bij hoeft te zijn

Ben Vollaard beschrijft hoe hij vanuit Griekenland een taxi boekte via een Codex-agent, in 1 minuut en 37 seconden, zonder tussenkomst. De sleutel zat in de juiste context: een AGENTS.md-bestand met persoonlijke gegevens, een gekoppelde agenda en e-mail, en computer-use om het boekingsformulier zelf in te vullen.

Dit voorbeeld laat zien hoe agents in de praktijk werken. Ze hebben context nodig over wie je bent en wat je doet, plus de tools om acties uit te voeren. Zonder een van beide valt de keten uit elkaar.

De actietip: maak een AGENTS.md of vergelijkbaar contextbestand aan met je naam, adres, veelgebruikte leveranciers en voorkeuren. Dat is de eerste stap om herhalende taken te automatiseren met agents als Codex of Claude.

bensbites

Allen AI brengt open-source toolkit uit voor schone LLM-trainingsdata uit PDF

Allen AI heeft een open-source toolkit uitgebracht die rommelige PDF-bestanden omzet in schone trainingsdata voor taalmodellen. Dat klinkt technisch, maar de toepassing is breed: elk bedrijf dat interne documenten wil inzetten voor fine-tuning of RAG-toepassingen, loopt aan tegen slechte PDF-structuur.

Goede inputdata is een van de meest onderschatte knelpunten bij het bouwen van interne AI-toepassingen. Een tool die dat proces automatiseert, bespaart engineers veel handmatig werk.

De toolkit is open-source, dus je kunt hem direct testen op je eigen documentenset zonder licentiekosten.