OpenAI, het bedrijf achter ChatGPT, is op zoek naar een nieuwe Head of Preparedness – een cruciale functie die zich bezighoudt met het identificeren en voorbereiden op AI-gerelateerde risico’s. CEO Sam Altman kondigde deze vacature aan via X (voorheen Twitter), waarbij hij erkende dat AI-modellen “echte uitdagingen beginnen te presenteren.”
Waarom is deze functie zo belangrijk?
De Head of Preparedness is verantwoordelijk voor het uitvoeren van OpenAI’s preparedness framework – hun aanpak voor het volgen en voorbereiden op geavanceerde AI-capaciteiten die nieuwe risico’s kunnen creëren. Altman benadrukte specifiek twee kritieke gebieden: de potentiële impact van AI-modellen op de mentale gezondheid en modellen die zo goed zijn geworden in computerveiligheid dat ze kritieke kwetsbaarheden beginnen te vinden.
Een turbulente geschiedenis
Dit is niet de eerste keer dat OpenAI deze positie moet vervullen. Het bedrijf richtte het preparedness team in 2023 op om “catastrofale risico’s” te bestuderen, variërend van directe bedreigingen zoals phishing-aanvallen tot meer speculatieve risico’s zoals nucleaire bedreigingen. Minder dan een jaar later werd de toenmalige Head of Preparedness, Aleksander Madry, echter overgeplaatst naar een andere functie. Ook andere veiligheidsexperts hebben het bedrijf verlaten of zijn naar andere rollen overgestapt.
Wat betekent dit voor Nederlandse bedrijven?
Voor Nederlandse MKB-bedrijven die AI willen implementeren, is deze ontwikkeling bijzonder relevant. Het feit dat OpenAI zo’n hoog salaris biedt ($555.000 plus aandelen) voor deze functie, onderstreept hoe serieus AI-veiligheid genomen moet worden. Bedrijven die generative AI willen inzetten, moeten zich bewust zijn van de risico’s en de juiste voorzorgsmaatregelen treffen.
De groeiende bezorgdheid over AI-impact
Recent zijn er rechtszaken aangespannen waarin wordt beweerd dat ChatGPT gebruikers’ wanen heeft versterkt, hun sociale isolatie heeft vergroot en zelfs tot zelfmoord heeft geleid. Hoewel OpenAI zegt te werken aan het verbeteren van ChatGPT’s vermogen om tekenen van emotionele nood te herkennen, tonen deze gevallen aan hoe complex AI-veiligheid is geworden.
Wat dit betekent voor mij als AI-trainer
Als AI-trainer zie ik deze ontwikkelingen als een wake-up call voor bedrijven. Het is niet genoeg om simpelweg AI-tools te implementeren – organisaties hebben een AI-strategie nodig die veiligheid en ethiek centraal stelt. Dit creëert nieuwe kansen voor AI workshops en training programma’s die zich richten op verantwoorde AI-implementatie.
Voor bedrijven die AI training voor marketing of onderwijs overwegen, is het essentieel om te begrijpen dat AI-veiligheid geen bijzaak is, maar een kernonderdeel van elke AI-strategie. Een goede AI workshop voor bedrijven moet daarom altijd aandacht besteden aan risicomanagement en ethische overwegingen.
Conclusie
OpenAI’s zoektocht naar een nieuwe Head of Preparedness illustreert de complexiteit van AI-veiligheid in 2026. Voor Nederlandse bedrijven is dit het moment om te investeren in gedegen AI training en een doordachte AI-strategie, zodat ze de voordelen van generative AI kunnen benutten zonder onnodige risico’s te lopen.
