AI-agents beveiligen met drie lagen, niet met prompts

Gewiste databases, verwijderde mails, gelekte API-tokens: de schade die AI-agents kunnen aanrichten is inmiddels voldoende gedocumenteerd om serieus te nemen. Systeeminstructies als 'wees voorzichtig' bieden geen bescherming wanneer een agent code kan schrijven, uitvoeren en externe diensten kan aanspreken.

De industrie verschuift van prompt engineering naar systems engineering. Dat betekent drie aparte lagen: sandboxing van de uitvoeringsomgeving, semantische guardrails op invoer en uitvoer, en netwerkproxies die uitgaand verkeer van agents monitoren.

Voor organisaties die nu al met agents werken, is dit geen theoretisch risico. Een prompt injection verborgen in een inkomende mail is genoeg om een agent opdrachten te laten uitvoeren die niemand bedoeld heeft.

Bekijk deze week welke tools in jouw agent-setup netwerktoegang hebben en of die toegang gelogd en beperkt is. Dat is de snelste manier om de meest voor de hand liggende kwetsbaarheid te dichten.

alphasignal

Duidelijkere prompts verlagen tokenkosten met 27 procent

Nieuw onderzoek van Span onder 103 engineeringteams laat zien dat de kwaliteit van AI-coding-resultaten minder afhankelijk is van het gekozen model dan gedacht. De echte hefbomen zijn de helderheid van de prompt, de gereedheid van de ontwikkelomgeving en de kwaliteitsbewaking.

De cijfers zijn concreet: duidelijkere prompts verlaagden de tokenkosten met 27 procent, terwijl een goed voorbereide omgeving de autonomie van een agent met 88 procent verhoogde.

Voor teams die al met AI-coding-tools werken, betekent dit dat investeren in betere prompttemplates meer oplevert dan overstappen op een duurder model. De bottleneck zit vaker in de instructie dan in het model zelf.

Pak een bestaande prompt die je regelmatig gebruikt en schrijf hem opnieuw met expliciete context over het doel, de omgeving en het gewenste formaat. Vergelijk daarna de output en de tokenkosten.

Jeff Dean verlaat Google na 27 jaar voor AI-startup Discovery Loop

Vier van Googles meest invloedrijke AI-onderzoekers hebben Discovery Loop opgericht: Jeff Dean, Sanjay Ghemawat, Oriol Vinyals en Quoc Le. Ze werken al 14 tot 30 jaar samen en richten nu een public benefit corporation op om machine learning, wetenschap en engineering te automatiseren.

Het systeem past de wetenschappelijke methode zelf toe: het stelt experimenten voor, voert ze uit, evalueert de resultaten en itereert, maar dan duizenden keren parallel in plaats van sequentieel. Google is zowel founding investor als cloudprovider.

Of dit op korte termijn praktische tools oplevert voor gewone organisaties, is de vraag. De ambities liggen op het niveau van het automatiseren van wetenschappelijk onderzoek zelf, niet van dagelijkse kenniswerktaken.

Voor nu is Discovery Loop vooral een signaal dat de volgende generatie AI-systemen zich richt op autonome experimentcycli. Een richting om in de gaten te houden als je nadenkt over R&D-automatisering in je eigen organisatie.

discoveryloop · businessinsider

Honor Robot Phone: smartphone met ingebouwde gemotoriseerde gimbal

Honor heeft de Robot Phone gelanceerd, een smartphone met een ingebouwde gemotoriseerde gimbal die onderwerpen automatisch volgt en filmische opnames maakt zonder dat je de telefoon zelf hoeft bij te sturen. Pre-orders in China zijn geopend op 12 augustus, de verkoop is gestart op 18 augustus.

Het toestel reageert ook op zijn omgeving en Honor claimt dat het echte gesprekken kan voeren. De gimbal-functionaliteit maakt het interessant voor contentmakers die professioneel ogende video willen produceren zonder extra apparatuur.

Hoe goed de gespreksintegratie in de praktijk werkt, is nog niet onafhankelijk bevestigd. Beschikbaarheid buiten China heeft Honor nog niet aangekondigd.

Voor organisaties die videocontent produceren voor social media is dit een product om te volgen, maar voorlopig nog niet direct inzetbaar voor westerse markten.

honor · youtube