Het vertrouwensprobleem van AI-agents: veiligheid stopt bij de bedrijfsmuur

AI-labs testen modellen uitgebreid op veiligheid voordat ze die uitbrengen. Maar zodra een organisatie zo'n model verbindt met Slack, Gmail, databases, tools en inloggegevens, is het feitelijk een ander systeem geworden. Al het veiligheidswerk dat daarvóór is gedaan, dekt de gecombineerde risico's niet langer af.

Noam Schwartz, CEO van Alice, noemt dit de groeiende 'trust gap': agents die nuttig werk doen, moeten ook acties kunnen ondernemen, en dat vergroot het aanvalsoppervlak exponentieel. Prompt injection, agents die andere agents beïnvloeden en open-weight modellen die lastiger te controleren zijn, maken het plaatje complexer.

Voor organisaties die agents uitrollen betekent dit concreet: stel per agent expliciet vast welke acties zijn toegestaan, met welke systemen de agent mag communiceren en wie intern verantwoordelijk is als er iets misgaat. Dat werk valt buiten de scope van het AI-lab en moet binnen je eigen governance landen.

youtube

Nvidia boekt 106% omzetgroei en verdient ruim 1 miljard dollar per dag

Nvidia's kwartaalomzet is uitgegroeid tot 96,2 miljard dollar, een stijging van 106% ten opzichte van een jaar eerder. CEO Jensen Huang stelt dat de AI-industrie een kantelpunt heeft bereikt: meerdere labs schalen tegelijk, de vraag versnelt en AI levert aantoonbaar nuttige output.

Voor organisaties die AI-infrastructuur inkopen of plannen, is dit een signaal dat de vraag naar rekenkracht voorlopig niet afneemt. Daarmee blijft ook de prijsdruk op GPU-capaciteit hoog.

Wie nu cloudcontracten of GPU-reserveringen heronderhandelt, doet er goed aan rekening te houden met verdere schaarste in de komende kwartalen.

nvidia · cnbc

Anthropic introduceert standaard voor AI-agents die fysieke labapparatuur bedienen

Anthropic heeft een standaard uitgebracht die vergelijkbaar is met MCP, maar dan voor de fysieke wereld. Daarmee kunnen AI-agents laboratoriumapparatuur direct aansturen. De resultaten uit vroege tests zijn opvallend: laserstabilisatie ging van 58% naar 99,3% en imaging-experimenten die normaal weken duren, zijn teruggebracht naar één dag.

Dit is relevant voor organisaties in onderzoek, life sciences en industrie die repetitieve meetprocessen of kalibratie willen automatiseren. De belofte: de drempel om AI aan hardware te koppelen wordt flink lager, omdat er nu een gestandaardiseerde interface is in plaats van maatwerk per apparaat.

De technologie is nieuw en de gepubliceerde cijfers komen uit vroege implementaties. Hoe dit schaalt naar diverse hardware-omgevingen buiten gecontroleerde labs is nog onbekend.

alphasignal

LAION publiceert open videodataset van 10 miljoen uur voor multimodale AI-training

LAION heeft een open videodataset van 10 miljoen uur vrijgegeven, bedoeld voor het trainen van multimodale AI-modellen. Voor de open-source AI-gemeenschap is dit een van de grootste vrijgegeven videodatasets tot nu toe.

Organisaties die eigen modellen willen finetunen op videobegrip, werkten tot nu toe grotendeels met kleinere of propriëtaire datasets. Deze dataset verlaagt de instapdrempel aanzienlijk voor teams die multimodale videomodellen willen ontwikkelen of evalueren.

Download de dataset en toets hem op een specifieke use case binnen jouw domein, bijvoorbeeld het herkennen van procesafwijkingen in opnames of het automatisch samenvatten van videovergaderingen.

Google heeft een lichtgewicht model gebouwd dat bloedsuikerpatronen en diabetesrisico voorspelt

Google heeft GlucoFM uitgebracht, een relatief compact model dat bloedsuikerpatronen analyseert en diabetesrisico inschat. Het model is ontworpen om lichtgewicht te zijn, waardoor het ook op apparaten of in omgevingen met beperkte rekenkracht kan draaien.

Voor organisaties in de zorg of health tech is dit interessant, omdat het laat zien dat gespecialiseerde medische AI-modellen kleiner en goedkoper worden om te draaien. De trend van domeinspecifieke, compacte modellen naast de grote generieke modellen zet daarmee verder door.

Houd er rekening mee dat medische toepassingen in Europa onder strikte regulering vallen, waaronder de AI Act en de wetgeving rond medische hulpmiddelen. Een model testen is iets anders dan het klinisch inzetten.