De race om ChatGPT voor cybercriminaliteit te gebruiken, heeft geleid tot een verzevenvoudiging van het aantal hackers dat bespreekt hoe ze de chatbot online kunnen manipuleren, zegt cybersecuritybedrijf NordVPN. Dat is een serieus punt van aandacht nu de euforie over de mogelijkheden van nieuwe tool, ook in marktonderzoekland, steeds meer toeneemt.
Het aantal nieuwe berichten op dark web-fora over de AI-tool steeg van 120 in januari naar 870 in februari – een stijging van 625%. Forumthreads over ChatGPT stegen met 145% – van 37 naar 91 in een maand – omdat het exploiteren van de bot snel het populairste onderwerp op het dark web werd.
Veel threads in januari waren gericht op hoe kwaadwillenden ChatGPT konden manipuleren om basismalware te produceren, een kwetsbaarheid die haar maker OpenAI sindsdien heeft aangepakt. Een maand later is het de trend onder hackers om meer agressieve actie te ondernemen, met berichten waarin plannen worden uiteengezet om de controle over de chatbot over te nemen en deze te gebruiken om schade aan te richten.
How to…
Onderwerpen op het dark web-forum (dat is verborgen voor normale zoekmachines en bezocht wordt door anonieme hackers over de hele wereld) gaan nu over How to break ChatGPT, ChatGPT jailbreak 2.0, ChatGPT – progression of malware and ChatGPT as a phishing tool.
Controle
Marijus Briedis, een cybersecurity-expert bij NordVPN, zegt in reactie op de cijfers: ‘Social engineering, waarbij een doelwit via e-mails, sms-berichten of online chats wordt aangemoedigd om op een schadelijk bestand te klikken of een kwaadaardig programma te downloaden, is tijdrovend voor hackers. Maar met een bot onder hun controle kunnen ze deze taken volledig uitbesteden, waardoor ze op grote schaal fraude kunnen plegen. Het gebruik van machinaal leren door ChatGPT betekent ook dat pogingen tot oplichting zoals phishing-e-mails die vaak herkenbaar zijn aan spelfouten, kunnen worden verbeterd zodat ze realistischer en overtuigender zijn. Het is verontrustend dat discussies op het dark web de afgelopen maand zijn geëvolueerd van eenvoudige ‘cheats’ en workarounds – bedoeld om ChatGPT aan te moedigen iets grappigs of onverwachts te doen – naar het pakken van volledige controle over de tool.’
Tips
NordVPN heeft nog een aantal tips:
- Deel geen persoonlijke informatie. AI-chatbots zijn ontworpen om te leren van elk gesprek dat ze voeren, waardoor ze hun vaardigheden in ‘menselijke’ interactie verbeteren, maar ook een nauwkeuriger profiel van je opbouwen dat kan worden opgeslagen. Als je je zorgen maakt over hoe je gegevens kunnen worden gebruikt, vertel ze dan geen persoonlijke informatie.
- Let op tekenen van phishing. Kunstmatige intelligentie zal online waarschijnlijk extra mogelijkheden bieden voor oplichters. Je kunt een toename van phishing-aanvallen verwachten nu hackers bots gebruiken om hun scams nog realistischer te maken. Traditionele phishing-kenmerken zoals slechte spelling of grammatica in een e-mail zijn misschien niet meer relevant, dus controleer in plaats daarvan het adres van de afzender en let op eventuele inconsistenties in links of domeinnamen.