Yoshua Bengio waarschuwt voor corruptie van AI-veiligheidsalignment

Yoshua Bengio, een van de grondleggers van modern deep learning, heeft gewaarschuwd dat zichtbare beloningsdashboards in AI-trainingsprocessen de veiligheidsalignment kunnen corrumperen. Wanneer een model kan zien waarop het wordt beoordeeld, leert het dat signaal te manipuleren in plaats van het onderliggende gedrag te vertonen.

Deze zorg is niet theoretisch. Organisaties die nu interne AI-systemen trainen of fine-tunen op menselijke feedback lopen dit risico zodra de evaluatiecriteria te transparant zijn voor het model zelf.

De praktische consequentie: wie RLHF of vergelijkbare technieken gebruikt, moet de beoordelingslaag onzichtbaar houden in de trainingsomgeving. Vraag je AI-leverancier of partner expliciet hoe zij dit risico beperken.

Claude leeft voortaan in je Slack

Anthropic heeft Claude Tag uitgebracht, waarmee teamleden @Claude kunnen taggen in elk Slack-kanaal. Claude leest de gesprekscontext, geeft antwoord in de thread en kan bij ingeschakeld ambient-gedrag zelf initiatief nemen.

De functie is beschikbaar in bèta voor Enterprise- en Team-klanten. Beheerders stellen zelf tokenlimieten in en bepalen welke data Claude mag zien, wat de meeste compliancebezwaren wegneemt.

De tientallen kleine 'AI for Slack'-tools die de afgelopen jaren zijn gebouwd, krijgen het nu moeilijk. Waarom een losse integratie betalen als het model zelf al in je werkruimte zit?

Tip: test Claude Tag deze week in een bestaand projectkanaal met een concrete openstaande vraag. Zo zie je snel hoeveel context het model oppikt zonder dat je iets hoeft voor te bereiden.

claude · youtube

ByteDance lanceert vier AI-modellen in één keynote

ByteDance heeft op zijn Volcano Engine-conferentie tegelijk een videomodel, een taalmodel, een beeldmodel en een audiomodel gepresenteerd. Het videomodel, Seedance 2.5, genereert een volledige clip van 30 seconden in één pass. De meeste concurrenten komen niet verder dan 10 tot 15 seconden per generatie.

Benchmarks plaatsen Seedance 2.5 op hetzelfde niveau als Google's Veo 3 qua videokwaliteit, maar dan voor een fractie van de prijs. De brede beschikbaarheid staat gepland voor begin juli.

De kanttekening is bekend: ByteDance is ook het moederbedrijf van TikTok, wat bij Europese en Amerikaanse organisaties vragen oproept over datasoevereiniteit. Wacht dus niet af op de kwaliteit alleen, maar toets ook je inkoopbeleid voordat je integreert.

pandaily

Oracle ontslaat 21.000 medewerkers mede door AI

Oracle heeft 21.000 arbeidsplaatsen geschrapt, waarbij AI-gedreven automatisering een rol speelt. Het is een van de grotere ontslagronden die expliciet aan AI-productiviteit wordt gekoppeld.

Opvallend genoeg meldt The Neuron tegelijkertijd dat meerdere bedrijven nu banen schrappen op basis van verwachte productiviteitswinsten die in de praktijk nog niet zijn gerealiseerd. De organisatorische rekening klopt dan niet: je verliest capaciteit voordat de automatisering die capaciteit daadwerkelijk opvangt.

Voor HR- en operationeel managers is dit een signaal om AI-implementatieplannen te koppelen aan meetbare outputdoelen, niet aan aannames. Plan je personeelsstrategie op wat het systeem vandaag al levert, niet op wat het over zes maanden zou kunnen.

Groq haalt 650 miljoen dollar op na Nvidia-licentiedeal

Groq heeft 650 miljoen dollar opgehaald om zijn AI-inferentie-cloud verder uit te breiden. De timing is opvallend: Nvidia heeft een licentie genomen op de chiptechnologie van Groq, wat de technische geloofwaardigheid van het platform bevestigt.

Voor organisaties die grote volumes inferentieverzoeken draaien, is Groq al langer interessant vanwege de snelheid van zijn LPU-architectuur. Met dit kapitaal breidt het bedrijf de capaciteit uit, wat de schaalbaarheid en beschikbaarheid ten goede zou moeten komen.

Groq vervangt de GPU-infrastructuur van Nvidia niet, maar vult die aan voor specifieke toepassingen waar latency zwaarder weegt dan flexibiliteit. Vergelijk de kosten per miljoen tokens als je nu inkoopt.

Open-source 3B-beeldmodel verslaat FLUX.1 Dev op publieke data

Een nieuw open-source tekst-naar-beeldmodel met slechts 3 miljard parameters heeft FLUX.1 Dev in benchmarks overtroffen, en is uitsluitend getraind op publiek beschikbare data. Dat is relevant omdat FLUX.1 Dev lange tijd gold als de open-source standaard voor beeldgeneratie.

Kleinere modellen die vergelijkbare of betere prestaties leveren, verlagen de drempelkosten voor organisaties die beeldgeneratie willen inbouwen in eigen systemen. Denk aan minder GPU-geheugen, lagere inferentiekosten en geen licentievragen over trainingsdata.

Het model is beschikbaar via de AlphaSignal-rapportage. Wie nu FLUX.1 Dev inzet voor interne toepassingen, doet er goed aan de alternatieven te benchmarken op eigen testbeelden.