Sinds zijn debuut https://en.wikipedia.org/wiki/ChatGPT in november is ChatGPT het nieuwe favoriete speeltje van het internet geworden. De AI-gestuurde tool voor natuurlijke taalverwerking heeft al snel meer dan 1 miljoen gebruikers, die de webgebaseerde chatbot voor van alles hebben gebruikt, van het genereren van huwelijkstoespraken en hiphopteksten tot het opstellen van academische essays en het schrijven van computercode. (Bron: TechCrunch)
De mensachtige vaardigheden van ChatGPT veroveren het internet stormenderhand maar de app heeft ook een aantal sectoren op scherp gezet. De Erasmus Universiteit beraadt zich bijvoorbeeld over regels voor het gebruik, maar erkent dat het de tekstrobot vooralsnog niet kan detecteren. Een school in New York verbood ChatGPT uit angst dat het zou kunnen worden gebruikt om te spieken. Tekstschrijvers worden al vervangen, en volgens berichten is Google zo gealarmeerd door de capaciteiten van ChatGPT dat het een “code rood” heeft uitgevaardigd om het voortbestaan van de zoekactiviteiten van het bedrijf te garanderen.
Partijen in IT-beveiliging, een gemeenschap die lang sceptisch is geweest over de mogelijke implicaties van moderne AI, ook kennis neemt van de bezorgdheid dat ChatGPT kan worden misbruikt door hackers met beperkte middelen en nul technische kennis.
Al snel na het debuut van ChatGPT toonde Check Point aan dat de chatbot in combinatie met OpenAI’s code-schrijfsysteem Codex, een phishing e-mail kon creëren die malware kon bevatten. Ook TechCrunch kon een legitiem ogende phishing-e-mail genereren met behulp van de chatbot. Toen de journalisten ChatGPT voor het eerst vroegen een phishing-e-mail te maken, weigerde de chatbot het verzoek. “Ik ben niet geprogrammeerd om kwaadaardige of schadelijke inhoud te maken of te promoten,” meldde een prompt van het programma. Maar door het verzoek enigszins te herschrijven, wist men de ingebouwde beveiliging van de software gemakkelijk te omzeilen.
Veel van de beveiligingsexperts waarmee TechCrunch sprak, geloven dat ChatGPT’s vermogen om legitiem klinkende phishing e-mails te schrijven – de belangrijkste aanvalsvector voor ransomware – ervoor zal zorgen dat de chatbot op grote schaal wordt omarmd door cybercriminelen, met name degenen die het Engels niet als moedertaal hebben.
“ChatGPT lijkt op het eerste gezicht een leuk op AI gebaseerd platform dat natuurlijke taal verwerkt”, zegt Marcus Scharra, CEO van Senhasegura, “maar deze technologie ook gebruikt worden voor kwaadaardige acties. Het is dus nog crucialer voor bedrijven om hun IT-beveiligingstraining en -tools te verbeteren om zich te beschermen.”