Wondermiddel of bedreiging? 'AI heeft goede én slechte kanten'

Wekelijks gaat presentator Remy Gieling met diverse deskundigen in gesprek over belangrijke thema’s binnen de wereld van digitale veiligheid. In de uitzending van deze week staat Artificial Intelligence centraal: hoe kunnen we deze technologie gebruiken, maar ook hoe plukken cybercriminelen er de vruchten van? 

De gasten van deze week zijn: Pieter Jansen (cyber innovator Darktrace), Zahier Madhar (security engineer Checkpoint) en Dave Maasland (CEO ESET Nederland).

Kijk de uitzending hier terug

De uitzending wordt door cyberexpert Maasland afgetrapt. "Ik heb Artificial Intelligence nooit als wondermiddel gezien. Vaak wordt de technologie in de media zo neergezet dat het ons óf naar de verdoemenis gaat helpen óf het al onze wereldproblemen gaat oplossen. Mooi moment om in deze uitzending meer nuance aan te brengen."

ChatGPT boost ransomware

Uit onderzoek van Darktrace blijkt dat de overgrote meerderheid van de Nederlandse werknemers zich zorgen maakt over het gebruik van generatieve AI door cybercriminelen. Ze vrezen bijvoorbeeld voor gepersonaliseerde phishingmails die moeilijk van echt te onderscheiden zijn. Jansen legt uit waarom ze dit onderzoek hebben uitgevoerd en wat hem heeft verbaasd. "Eerder dit jaar zagen we een verandering van patronen van aanvallers. Dertig dagen voor de publieke lancering van ChatGPT en dertig dagen erna hebben we naar phishingmails gekeken. Wat we zagen was een verschil in complexiteit van de mails. Er is AI-technologie gebruikt om berichten op maat te maken die niet meer van echt te onderscheiden zijn. Werknemers blijken zich hier zorgen om te maken."

Phishingmails zijn van alle tijden. Je krijgt een e-mail van je telefoonprovider, klikt op een link en er wordt automatisch malware geïnstalleerd. Wat heeft AI hierin volgens Maasland veranderd? "Het interessante van AI is dat het versterkt en versneld waar we momenteel al mee bezig zijn. En cybercriminelen kunnen op grote schaal makkelijker aanvallen uitvoeren. De snelheid waarmee dit gaat, is iets waar ik me zorgen over maak. Het lijkt er voor het grote publiek opeens te zijn."

Ook Checkpoint heeft onderzoek gedaan. Zij zien dat AI wordt ingezet om malafide codes te schrijven. Dat verbaast Madhar niets: "Uiteindelijk zijn hackers mensen die codes ontwikkelen en ook die mensen hebben hulp nodig. Net als veel mensen met AI experimenteren, doen criminele hackers dat ook. We zien veel nieuwe codes ontstaan door AI-tools, zoals ChatGPT." Maasland vult aan dat hij merkt dat er door de media veel angst wordt gezaaid. Opeens kunnen mensen codes schrijven. "Een tool als ChatGPT moeten we naar mijn mening zien als een tool voor experts die hun werk nog beter kunnen uitvoeren. Ik wil waken voor het beeld dat iedereen dit kan (mis)bruiken."

Verbod op AI

Omdat de ontwikkeling van AI zo snel gaat, staan steeds meer landen op het punt om de technologie te verbieden. Wat vindt presentator en AI-trendwatcher Gieling hiervan? "Verschillende landen zijn over een AI-blokkade aan het nadenken. Ik vind dit geen verstandig besluit. Deze AI-tools zitten niet alleen bij ChatGPT, maar ook Netflix, Facebook, Google en veel meer bedrijven maken er gebruik van. De technologie gaat niet meer weg. Daarom kunnen we nu beter waakzaam zijn voor de risico's en de mogelijkheden omarmen, want het kan voor zoveel mooie dingen worden ingezet."

Explainer: criminele hackers gebruiken AI

Wekelijks maakt techredacteur Harm Teunis je in begrijpelijke taal wegwijs in de wereld van cybersecurity. Deze week legt hij uit wat de relatie tussen AI en de cyber(security)wereld is. Luie cybercriminelen blijken maar wat graag gebruik van intelligente algoritmes te maken om hun werk makkelijker te maken of desinformatie te verspreiden. Dit heeft grote gevolgen voor jouw veiligheid. Hoe zit dit? "De verwachting is dat Artificial Intelligence in steeds meer cyberaanvallen gaat worden ingezet. Van het sneller uitvoeren van en vergroten van de schaal van aanvallen tot het automatiseren van verfijnde aanvallen." 

Cyberveiligheid in de praktijk

Terugkerend item in Cybersessies is hoe bedrijven met cyberveiligheid en nieuwe technologieën, zoals AI, omgaan. Deze week gaat verslaggever Suzanne Blonk langs bij Picnic, misschien wel het meest geavanceerde AI-bedrijf van Nederland. Mede-oprichter en CTO Daniel Gebler vertelt hoe zij als snelgroeiende online supermarkt Artificial Intelligence inzetten om de concurrentie voor te blijven én om digitaal veilig te ondernemen. 

De experts in de studio spreken vol lof over hoe Picnic AI heeft omarmd. "Voor mijn gevoel zegt Gebler alles in de juiste volgorde", aldus Maasland. "Hij begint over de visie en hoe AI hen helpt, dan heeft hij het erover hoe security hen ondersteunt en dan begint hij ook nog over technical defence. Ik ben onder de indruk!" Madhar vult aan: "Interessant om te horen dat de CTO zegt dat ze bij Picnic allerlei veiligheidsmaatregelen hebben genomen waar informatie uitkomt, en waar ze vervolgens iets mee doen. Dit is bij veel bedrijven niet het geval."