AI-veiligheid blijkt te omzeilen met poëzie

Onderzoekers hebben aangetoond dat de veiligheidsfilters van 25 toonaangevende AI-modellen, waaronder die van Google en Meta, in 62% van de gevallen kunnen worden omzeild door schadelijke verzoeken te verpakken in de vorm van een gedicht.

Deze techniek, 'adversarial poetry' genoemd, werkt omdat de onvoorspelbare structuur van poëzie de AI-modellen in de war brengt, waardoor ze de onderliggende schadelijke intentie niet herkennen. Google's Gemini 2.5 Pro gaf in alle poëtische tests een onveilig antwoord.

Dit legt een fundamentele zwakte in de huidige 'guardrails' bloot. In tegenstelling tot complexe technische 'jailbreaks', vereist deze methode geen technische kennis en kan door iedereen worden toegepast. Hoe robuust zijn de veiligheidsmaatregelen van de AI-tools die jij in je organisatie gebruikt?

theguardian · aibase

OpenAI test advertenties in ChatGPT-interface

OpenAI test intern advertenties binnen de ChatGPT-interface, zo blijkt uit gelekte informatie uit de Android-bèta van 1 december 2025. Het gaat om 'search ads' en gesponsorde carrousels, vergelijkbaar met wat je in een zoekmachine ziet.

Deze stap signaleert een strategische verschuiving van een puur abonnementsmodel naar een hybride aanpak. Voor organisaties en adverteerders opent dit de deur naar een nieuw, potentieel zeer gericht advertentiekanaal, gebaseerd op de directe input van miljoenen gebruikers.

De grote vraag wordt hoe OpenAI de privacy van gebruikers kan waarborgen en de objectiviteit van de antwoorden kan garanderen. Hoe weet je nog of je een feitelijk antwoord krijgt, of een gesponsorde aanbeveling?

bleepingcomputer

Amazon rust klantenservice uit met autonome AI-agents

Amazon Web Services (AWS) heeft zijn Amazon Connect-platform uitgebreid met volledig autonome AI-agents. Deze agents kunnen complexe klantverzoeken met meerdere stappen afhandelen zonder menselijke tussenkomst.

Dit gaat een stap verder dan de traditionele chatbot. De agents kunnen zelfstandig beslissingen nemen, zoals het verwerken van een adreswijziging of het controleren van documentatie. Voor organisaties betekent dit een kans om de operationele kosten in contactcenters significant te verlagen.

De systemen zijn ontworpen om naadloos over te schakelen naar een menselijke medewerker wanneer de AI de vraag niet kan oplossen, waarbij de volledige context wordt overgedragen.

Actie-tip: Identificeer één complex, maar veelvoorkomend klantenservice-scenario (bijvoorbeeld een retourzending met meerdere stappen). Start een pilot om dit proces met een autonome agent te automatiseren en meet direct de impact op doorlooptijd en klanttevredenheid.

customerexperiencedive

Microsoft Fara-7B: AI-agent bestuurt computer via screenshots

Microsoft heeft Fara-7B geïntroduceerd, een open-source AI-agent die een computer kan bedienen door enkel naar screenshots te kijken en te beslissen waar geklikt moet worden. Het 7B-model presteert op de WebVoyager-benchmark vergelijkbaar met veel grotere, propriëtaire systemen.

Dit opent de deur naar een robuustere vorm van automatisering van grafische interfaces (GUI's), omdat de agent leert te handelen als een mens in plaats van te vertrouwen op de onderliggende code van een website, die constant kan veranderen.

Het model is getraind op 145.000 actie-trajecten over een grote variëteit aan websites, wat het breed inzetbaar maakt voor het automatiseren van web-gebaseerde taken.

Actie-tip: Gebruik een schermopname-tool om een herhalende, handmatige taak van 5 minuten vast te leggen. Beschrijf de stappen in tekst en vraag een multimodaal model (zoals GPT-4o) om de acties (klikken, typen) te identificeren. Dit is de eerste stap naar het specificeren van een taak voor een visuele AI-agent.

arxiv

China's dominantie in open-source AI groeit snel

Chinese AI-ontwikkelaars hebben de Amerikaanse industrie overtroffen in het aantal downloads van open-source modellen op Hugging Face, met een marktaandeel van 17,1% tegenover 15,8%. Dit blijkt uit een nieuwe studie van MIT en Hugging Face, gebaseerd op 2,2 miljard downloads tussen augustus 2024 en augustus 2025.

Deze verschuiving wordt voornamelijk gedreven door twee Chinese spelers: DeepSeek en Alibaba's Qwen. Het open-source landschap is hiermee veranderd van een door Amerikaanse bedrijven gedomineerd veld naar een ecosysteem waar Chinese labs de 'hersenen' leveren.

Voor organisaties die op open-source AI bouwen, betekent dit een veranderende dynamiek en een groeiende afhankelijkheid van modellen uit China. De studie constateert ook dat écht open source (met open trainingsdata) steeds zeldzamer wordt; het aandeel daalde van 79,3% in 2022 naar slechts 39% in 2025.

arxiv

AI drijft recordomzet tijdens Black Friday

AI-gedreven verkeer naar Amerikaanse webshops is tijdens Black Friday 2025 met 805% gestegen ten opzichte van vorig jaar. Volgens data van Salesforce en Adobe droeg dit bij aan een record online omzet van respectievelijk $14,2 miljard en $11,8 miljard.

Dit is een van de eerste grootschalige metingen die de directe commerciële impact van AI op de consumentenmarkt aantoont. AI is hiermee verschoven van een back-office tool naar een directe 'sales driver' aan de voorkant van de e-commerce-ervaring.

Data over de maand oktober toont bovendien aan dat verkeer afkomstig van AI-interacties 16% beter converteert dan traditioneel webverkeer. Een kanttekening is dat 'AI-driven traffic' een brede definitie is, die alles van chatbots tot productaanbevelingen kan omvatten.

forbes