Thinking Machines brengt eerste open-weight model uit

Mira Murati, voormalig CTO van OpenAI, heeft na 17 maanden bouwen het eerste model van haar startup Thinking Machines Labs uitgebracht: Inkling. Het model werkt native met tekst, audio en afbeeldingen binnen één architectuur, zonder losse koppelingen of glue-code. De context window bedraagt 1 miljoen tokens en het model is beschikbaar via het fine-tuning platform Tinker, zodat bedrijven het als basis kunnen gebruiken voor eigen, taakspecifieke versies.

Ben's Bites geeft aan dat Inkling qua prestaties nog niet kan tippen aan de beste open modellen, waarvan de meeste momenteel uit Chinese labs komen. De architectuurkeuze is wel interessant: één model dat audio, beeld en tekst gelijkwaardig behandelt, scheelt integratiepijn bij het bouwen van multimodale applicaties.

Voor organisaties die willen experimenteren met fine-tuning op een open-weight basis is Inkling nu beschikbaar via Tinker. Test of het als startpunt dient voor een intern model dat op eigen data is getraind.

thinkingmachines

OpenAI zet AI in om zijn eigen modellen aan te vallen

OpenAI heeft een geautomatiseerde red-teaming tool uitgebracht die kwetsbaarheden voor prompt injection in zijn eigen modellen opspoort. Volgens AlphaSignal vindt het systeem dit type kwetsbaarheid 6 keer vaker dan menselijke red-teamers.

Prompt injection is een van de meest voorkomende aanvalsvectoren op LLM-applicaties, zeker nu AI-agents steeds meer autonome taken uitvoeren. Een systeem dat dit geautomatiseerd en herhaaldelijk kan testen, maakt het structureel aanpakken van die risico's haalbaarder dan de huidige aanpak met incidentele menselijke reviews.

Bouw je zelf agents? Controleer dan of je huidige evaluatiepipeline specifiek test op prompt injection. Zo niet, dan is dit een goed moment om dat alsnog in te richten.

PrismML brengt open-source 27B-model uit dat op telefoon past

PrismML heeft een open-source model van 27 miljard parameters uitgebracht dat dankzij kwantisatie slechts 3,9 GB groot is en daarmee op een smartphone past. Dat is opvallend voor een model van deze omvang.

Dit sluit aan op een bredere trend waarin capabele modellen steeds kleiner en goedkoper te hosten worden. Voor organisaties betekent dit dat on-device inferentie, dus verwerking zonder cloudverbinding, realistischer wordt voor privacygevoelige toepassingen of situaties zonder stabiel internet.

Een gecomprimeerd 27B-model levert realistisch gezien niet hetzelfde als een volledig frontier model. Maar voor gespecialiseerde taken binnen een afgebakend domein kan het ruim voldoende zijn.

AI-resistente CAPTCHA maakt het duur in plaats van onmogelijk

Een ontwikkelaar heeft op Reddit een CAPTCHA gepubliceerd waar het Fable 5-model 10 minuten en 100.000 tokens over deed om hem op te lossen. Dat is bewust gedaan: de nieuwe verdedigingsstrategie maakt het niet onmogelijk voor AI om een CAPTCHA te kraken, maar wel zo duur dat het economisch onaantrekkelijk wordt.

Dit markeert een verschuiving in de aanpak van botbescherming. De vraag of AI iets 'kan', is allang achterhaald. De nieuwe vraag luidt: wat kost het? Als een botaanval per CAPTCHA-poging de prijs van honderden API-calls moet betalen, verandert de rekensom voor aanvallers ingrijpend.

Voor ontwikkelaars die webapplicaties bouwen en beschermen, is dit een concrete ontwerpstrategie om te volgen. Verdedigingen die werken via kosten en vertraging zijn robuuster dan verdedigingen die leunen op 'dit kan AI niet'.

reddit

Ant traint redeneermodel van 1 biljoen parameters zonder menselijke annotaties

Ant Group heeft Ring-2.5-1T-Zero uitgebracht, een redeneermodel met 1 biljoen parameters dat is getraind zonder menselijke annotaties. Het model leert redeneerpatronen puur via geautomatiseerde trainingstechnieken.

Dat is relevant omdat menselijke annotatie traditioneel een van de duurste en traagste schakels is in het trainen van capabele modellen. Als die stap wegvalt zonder prestatieverlies, verlaagt dat de drempel voor labs die niet over grote annotatieteams beschikken.

Het open-source ecosysteem, met name vanuit Chinese labs, dicht de kloof met gesloten frontier-modellen in snel tempo. Teams die afhankelijk zijn van één gesloten leverancier hebben daarmee reden om de open alternatieven dit kwartaal opnieuw te evalueren.