Voor de meeste organisaties bewijst AI inmiddels zijn waarde als productiviteitstool. Het helpt werknemers sneller te werken, scherper prioriteiten te stellen en efficiënter te opereren. Naarmate geavanceerde modellen echter capabeler, draagbaarder en breder worden ingezet, moeten organisaties serieus nadenken over wat er gebeurt wanneer deze tools zowel offensief als defensief worden ingezet.
De ‘creativiteit’ van AI mag niet worden onderschat
De vraag is of AI daadwerkelijk creatief is of dat het juist meer doorzettingsvermogen toont. De controle over AI-modellen kan om verschillende redenen tekortschieten: door gebrekkig beheer, een kwaadwillende insider of een externe partij. Maar ook doordat organisaties de intelligentie en het aanpassingsvermogen van de AI-tool die ze hebben gecreëerd, onderschatten.
Daarom is het Hugging Face-incident zo relevant. Een geavanceerd AI-model dat in een gecontroleerde omgeving werd geëvalueerd, zocht naar verluidt een kortere route om zijn doel te bereiken. Het doorbrak de beoogde grenzen, kreeg toegang tot externe bronnen en liet zelfs informatie achter die toekomstige agents zou kunnen helpen het proces te herhalen. Of het nu een vroege anomalie is of een voorbode van wat komen gaat, de les is dezelfde: organisaties mogen er niet van uitgaan dat de huidige beveiligingsmaatregelen bestand zijn tegen de modellen van morgen.
Het probleem is niet alleen dat frontier AI-modellen veel capabeler kunnen worden. Ze zijn inmiddels zo geavanceerd dat ze kleine zwakke punten aan elkaar kunnen koppelen en onopgemerkt toegangswegen kunnen misbruiken op een schaal en snelheid die traditionele beveiligingsprocessen onder druk zetten. Een model hoeft in menselijke termen niets te ‘willen’ om schade aan te richten. Het heeft alleen een doel, voldoende toegang en onvoldoende controle nodig.
Frontier AI
Wachten tot frontier AI-modellen op grote schaal commercieel beschikbaar zijn, is te laat om de verdediging te versterken. Tegen die tijd kunnen dezelfde AI-capaciteiten aanvallers helpen om verkenning te automatiseren, zwakke punten te identificeren, zich in realtime aan te passen en onopgemerkt de meest waardevolle data van een organisatie bemachtigen. De snelheid van AI-innovatie wordt grotendeels beoordeeld op basis van wat al openbaar is, terwijl er wereldwijd ongetwijfeld ook ontwikkelingen in modellen en mogelijkheden plaatsvinden die nog niet bekend zijn.
Bedrijven moeten dit moment aangrijpen om hun bestaande beveiliging te moderniseren. Het goede nieuws is dat zij niet machteloos staan: dezelfde AI-mogelijkheden die nieuwe risico’s creëren, kunnen ook de verdediging versterken. Het voorbeeld van Hugging Face onderstreept een belangrijke realiteit: AI zal steeds vaker met AI moeten worden bestreden. Naarmate dreigingen sneller en adaptiever worden, zullen menselijke teams op zichzelf moeite hebben om ze met de vereiste snelheid te detecteren en erop te reageren. Defensieve AI wordt daarom een essentieel onderdeel van een cyberresiliencestrategie.
Frontier AI hoeft niet de oorzaak te zijn van het volgende cyberincident. Organisaties mogen er echter niet zonder meer van uitgaan dat hun huidige beveiligingsmaatregelen voldoende zijn. Zij kunnen de volgende actie ondernemen om hun verdediging te versterken:
- Het aanvalsoppervlak verkleinen door onnodige blootstelling aan het internet te verwijderen, bijvoorbeeld van verouderde applicaties en VPN-infrastructuur. Wat aanvallers niet kunnen zien, kunnen ze ook niet aanvallen.
- Zero Trust overal toepassen en niet uitsluitend vertrouwen op een harde perimeter. Least privilege-principes voorkomen dat AI-agents en menselijke aanvallers ongehinderd door de omgeving kunnen bewegen.
- Kritieke systemen en data segmenteren om laterale beweging te beperken. Waardevolle data, kritieke applicaties en authenticatiesystemen moeten worden geïsoleerd en streng gecontroleerd.
- De patchstrategie herzien. In een door AI gedreven wereld kunnen op zichzelf minder belangrijke kwetsbaarheden worden gecombineerd tot een effectieve aanvalsketen. De toegangswegen tot kritieke data, internetgerichte assets en authenticatie-infrastructuur moeten daarom opnieuw worden beoordeeld.
- Het gebruik van AI binnen de organisaties realistisch reguleren. Een algemeen verbod kan Shadow AI in de hand werken. Geef medewerkers daarom toegang tot goedgekeurde tools, met duidelijke controlemechanismen, inzicht en beleidskaders. Zo verklein je de kans op ongeoorloofde omwegen en behoudt IT de controle.
- AI inzetten voor verdediging, niet alleen voor productiviteit. Beveiligingsteams hebben AI-ondersteunde detectie en respons nodig om gelijke tred te houden met AI-gestuurde aanvallen.
Oude systemen die nog steeds werken maar niet goed beveiligd kunnen worden, vormen een tijdbom in een tijdperk van frontier AI. Als ze niet snel kunnen worden vervangen, moeten ze in ieder geval worden geïsoleerd en voorzien van strengere beveiligingsmaatregelen. Organisaties die handelen voordat geavanceerde commerciële modellen breed beschikbaar zijn, zullen veel beter gepositioneerd zijn dan organisaties die wachten tot een groot incident verandering afdwingt. Het volgende strijdveld draait om offensieve versus defensieve AI.
Door: James Tucker, Head of CISO International bij Zscaler