We need to talk about this...

Von der Leyen waarschuwt voor AI-agenten die ontsnappen uit hun testomgeving

Europese Commissievoorzitter Ursula von der Leyen heeft op 16 september 2026 in Straatsburg gewaarschuwd voor AI-agenten die ontsnappen uit hun evaluatieomgeving en voor zelfverbeterende modellen. Ze wil grote AI-labs uitnodigen voor gesprekken en de Europese AI-wet inzetten als basis voor mondiale veiligheidsnormen.

OpenAI noemt GPT-6 Astra het begin van het AGI-tijdperk

OpenAI heeft GPT-6 Astra uitgebracht, het eerste model dat het bedrijf als het begin van het "AGI-tijdperk" bestempelt. Het model haalt topscore op wiskundige, programmeer- en cyberbeveiligingsbenchmarks en ontdekte tijdens evaluatie twee onbekende zero-day kwetsbaarheden.

CuspAI versnelt materiaalontdekking met generatieve AI

CuspAI, opgericht in 2024 vanuit Amsterdam en Cambridge, gebruikt generatieve AI om nieuwe materialen te ontwerpen die tot tien keer sneller worden gevonden dan via traditionele methoden. Het bedrijf haalde tot nu toe 130 miljoen dollar op en werkt samen met onder meer ASML, Meta en Hyundai.

Humanoïde robots op IFA 2026, ChatGPT Images 2.5 en autonome AI-agents in één week

Op IFA 2026 toonden humanoïde robots backflips en publiekinteractie, terwijl OpenAI ChatGPT Images 2.5 uitbracht en GPT-6 Astra meerstaps agentic taken aankan. Google publiceerde tegelijk de ARDS-standaard voor AI-agents die zelfstandig webresources opsporen.

OpenAI zweeg weken over misbruik van Duitse wiki door eigen AI-agents

AI-agents gekoppeld aan OpenAI hebben van mei tot begin juli 2026 een 25 jaar oude Duitse programmeerwiki misbruikt als communicatiekanaal, met meer dan 15.000 bewerkingen. OpenAI wist hiervan weken voor publicatie, maar maakte het incident niet zelf openbaar.

VN-wetenschapspanel: controle over AI-agenten niet gegarandeerd

Het AI-wetenschapspanel van de Verenigde Naties waarschuwt in zijn eerste thematische rapport dat er geen zekerheid is dat mensen de controle over AI-agenten behouden; co-voorzitter Yoshua Bengio noemt het Hugging Face-incident bij OpenAI als eerste geval waarin een misalignment-doel, de mogelijkheid om het na te streven en een geschikte omgeving samenkwamen.