VS: Radicalisering via YouTube

‘College dropout’ Caleb Cain (26) had veel tijd over, keek wekenlang op YouTube naar duizenden filmpjes en radicaliseerde. Hij werd het ‘extreem-rechtse universum ingetrokken’ en kocht een pistool toen zijn kijkgedrag werd opgemerkt door tegenstanders. De New York Times beschrijft uitgebreid hoe Cains radicalisering – en de-radicalisering – verliep. ‘I fell down the alt-right rabbit hole’, aldus Cain die inmiddels alle extreem-rechtse gedachten heeft afgezworen. ‘I was brainwashed’. Radicalisering wordt vaak in verband gebracht met sociale media, vooral YouTube waar het ene rare filmpje vrijwel altijd leidt tot het volgende, vaak nog gewelddadiger dan wel extremer. Met twee miljard actieve gebruikers en meer dan vijfhonderd uur aan nieuwe filmpjes per minuut (!), is YouTube ‘a godsend for hyper-partisans on all sides’ en een ‘useful recruiting tool for far-right extremist groups’, zoals osint-collectief Bellingcat eerder aantoonde.

Advertenties

“Nederland kan ontwricht worden door digitale aanvallen”

Volgens het Cybersecuritybeeld Nederland 2019 van de NCTV is Nederland kwetsbaar voor cyberaanvallen en kan een incident in een netwerk leiden ‘tot een domino-effect waarbij uiteindelijk bijvoorbeeld gas, water of elektra’ uitvallen. In Nederland zijn de laatste jaren vrijwel alle vitale processen en systemen ‘bijna volledig gedigitaliseerd’ en ontbreken steeds vaker (oude) analoge alternatieven. Deze afhankelijkheid ‘is zo groot geworden dat aantasting kan leiden tot maatschappij ontwrichtende schade’. Een andere reden is de afhankelijk van een ‘relatief kleine groep aanbieders’ van hard- en software, digitale diensten en platforms uit ‘een beperkt aantal landen’. Techconcerns als Facebook (inclusief WhatsApp en Instagram), Amazon, Apple, Google en Microsoft ‘zijn praktisch onmisbaar in het dagelijkse leven van de gemiddelde Europeaan’. De grootste digitale dreiging komt overigens uit landen als China, Iran en Rusland, schrijft de NCTV.

“Jihadistische boodschap op internet is veranderd na ineenstorting kalifaat”

Met de ineenstorting van het IS-kalifaat veranderden ook de manieren waarmee de jihadistische boodschap op internet werd verspreid. Er is geen centrale leiding meer, geen IS-communicatieafdeling, die het initiatief nam, accounts regelde en onderhield en (vrijwel) alle boodschappen coördineerde. In plaats daarvan ontstond een ander model, gebaseerd op een kleine kern van aanhangers: ‘een amalgaam van ongecoördineerde, kleinschalige actoren’ die het gat proberen te vullen. Het zijn vaak lokale activisten, zelfbenoemde ‘mediaplatforms’ die niet eens een band met een terroristische organisatie hoeven te hebben om de radicale boodschap te verspreiden. Volgens onderzoeker Manuel R. Torres-Soriano van European Eye on Radicalization zijn er drie trends te onderkennen. Er zijn nieuwe vormen van activisme ontstaan, aangejaagd door de behoefte aan voortdurende toegang tot belangrijke platforms (nu deze platforms steeds meer proactief hun accounts monitoren). De echte uitdaging voor het jihadisme is om niet langer aanwezig te blijven op de meest populaire sociale netwerken, maar om er daadwerkelijk (weer) toegang toe te krijgen, aldus Torres-Soriano. Een tweede trend is de ‘kolonisatie’ van kleinere online-ruimtes, waar de boodschap weliswaar minder opvalt maar toch verspreid kan worden. En
als derde de opkomst van nieuwe ‘verkooppunten’, niet noodzakelijk gelieerd aan groepen als Al-Qaeda en IS, waar de oude jihadistische boodschap continu gerecycled wordt. Torres-Soriano schrijft dat het vermogen van deze ‘fanboy outlets’ om de aandacht van de westerse media te trekken aanzienlijk is, ‘veel groter dan de werkelijke bedreiging die zij vertegenwoordigen’. De ‘lege dreigingen’ die hier verspreid worden, genereren wel veel aandacht. Dit alles heeft een paradoxale situatie tot gevolg, is de conclusie: propaganda-acties van enerzijds jihadistische organisaties en anderzijds hun internet-supportersnetwerken zijn gedifferentieerde ruimtes geworden, ‘die niet alleen met elkaar concurreren voor hetzelfde publiek, maar elkaar ook onderling schaden, ook al streven ze hetzelfde doel na’.

Meer onderzoek Pakistaanse Facebook-bedreiger Wilders

De zaak tegen Juniad I. (26, uit Pakistan) die een terroristische aanslag wilde plegen op PVV-leider Geert Wilders, is wederom uitgesteld. De verdachte werd, augustus 2018, in Den Haag aangehouden nadat hij een filmpje op facebook had gezet waarin hij die aanslag aankondigde. Wilders had kort daarvoor een cartoonwedstrijd uitgeschreven. In eerdere verklaringen zei de verdachte dat hij alleen maar ‘boos en overgevoelig’ was, veel spijt heeft en geen terroristische bedoelingen had. Zeker vijftien mensen zouden dat kunnen getuigen. Maar het OM vond ‘gruwelijke beelden’ op de telefoon van de verdachte. Op enkele daarvan staat Wilders, onthoofd, en voorzien van teksten als ‘we will slaughter you, infidel’. In het filmpje riep de man dat hij ‘met gods wil die hond, die belediger naar de hel zal sturen, zolang ik leef’. De facebookaccount en het telefoonnummer leiden de politie snel naar Junaid I. Het filmpje was, zo bleek ook snel, opgenomen in een dönerzaak op Den Haag CS. De rechtbank heeft het OM nu toegestaan enkele van deze verdachten te horen, in Italië en Frankrijk. De rechtbank wees een verzoek tot invrijheidstelling af: er zijn ernstige verdenkingen tegen de man en bovendien is er een vluchtrisico. De zaak wordt nu eind oktober inhoudelijk behandeld.

Youtube verwijdert miljoenen video’s handmatig

Bezoekers van YouTube doen jaarlijks 44 miljoen meldingen over video’s die ze racistisch, aanstootgevend of gewelddadig vinden. Moderatoren van het bedrijf beoordelen die vervolgens handmatig. Het overgrote deel, 33 miljoen video’s, wordt dan verwijderd. Dat modereren is zo gemakkelijk nog niet, stellen onderzoekers van Pointer, die de proef op de som namen en driehonderd van zulke filmpjes bekeken. De geestelijke belasting is groot, om te beginnen. Volgens Google-woordvoerder Rachid Finge neemt het bedrijf meerdere maatregelen om het geestelijk welzijn van de medewerkers te ondersteunen: werkdagen van vijf uur, vertrouwenspersonen, groepsgesprekken, stilteruimtes, mindfulness-sessies en support van oud-medewerkers. Daarnaast is soms slecht te herkennen wat er gebeurt of gezegd wordt in een filmpje, zeker als dat in weinig gesproken talen gebeurt, of het getoonde voor meerdere uitleg vatbaar is. ‘Het is geen exacte wetenschap’, aldus Finge. Ongeveer een kwart van de filmpjes waarover gemeld is, mogen daarom blijven staan.

Internetregels na ‘Christchurch’, maar wat werkt?

Ook (zelfs?) Facebook-experts en directieleden van grote techbedrijven waren geschokt toen de aanslag in Christchurch live gestreamd bleek te zijn. Tweehonderd mensen keken live mee op facebook, driehonderdduizend daarna en binnen en dag had facebook 1,5 miljoen kopieën verwijderd; bij YouTube verscheen elke seconde een nieuwe versie en zo’n achthonderd bewerkte versies. Alle techplatforms hadden grote moeite de stortvloed aan uploads en shares tegen te gaan, ook al omdat ‘delen’ en ‘viraal gaan’ de essentie van zulke netwerken zijn. Als de techbedrijven iets geleerd hebben van Christchurch, dan is het wel dat kunstmatige intelligentie, ingezet om bepaalde beelden automatisch te verwijderen, nog lang niet werkt. Aan de andere kant kunnen mensen de hoeveelheden beelden weer niet aan – bij YouTube werden op een gegeven moment alle zoekfuncties uitgezet en alle menselijke moderatoren uit het proces gehaald. Onderzoeker Nikki Sterkenburg (Universiteit Leiden) ziet daarbij een soort kat-en-muisspel, tussen uploaders en techbedrijven, wijzend op mensen die ‘er heel bewust op uit zijn om de video verder te verspreiden’. Hoe dan ook, ‘Christchurch’ lijkt een kantelpunt te worden, ook voor overheden. Zo heeft premier Jacinda Ardern van Nieuw-Zeeland een conferentie belegd: overheden willen veranderingen zien. Behalve enkele premies en de EC-voorzitter schuiven bij die conferentie ook vertegenwoordigers van Google, Facebook, Microsoft en Twitter aan. Zulke conferenties hebben echter hooguit een symbolische waarde, waarschuwt terrorisme-deskundige Jelle van Buuren. ‘Daarmee is de werkelijkheid van morgen nog niet veranderd’.
Facebook heeft inmiddels de livefunctie beperkt. Gebruikers die platform-regels overtreden, worden geweerd van de livestream-functie. Ook wie een link post naar bijvoorbeeld een terroristisch pamflet of extreemrechte organisatie, mag (soms tijdelijk) niet meer live streamen.

Update: Christchurch Call belooft veel, maar nu de uitwerking nog
De ‘Christchurch Call’, deze week in Parijs ondertekend door achttien overheden (waaronder de hele G7 minus de VS) en acht techbedrijven, bevat behalve beloftes van overheden en techbedrijven, ook actiepunten. De overheden beloven te investeren in mediawijsheid van burgers én in wetgeving, in elk land komt een ‘ethische standaard’ en de techbedrijven beloven ‘transparante, specifieke maatregelen’ bij het uploaden van ongewenste content – tot zover niks nieuws. Alles is al eerder beloofd en toegezegd en opnieuw beloofd. Nieuw, tussen grote aanhalingstekens, is dat de techbedrijven hun algoritmen gaan bekijken. Die algoritmen bepalen feitelijk wat gebruikers te zien krijgen. En daar zit de uitdaging: die algoritmen hebben tot doel in gebruikers zo lang mogelijk online te houden en zo veel mogelijk content te laten delen. En dat staat haaks op de verspreiding van extremistische content. Overigens barst de slotverklaring van de slagen-om-de-arm: het gaat om ‘vrijwillige’ acties, internet moet natuurlijk ‘vrij en open’ zijn en iedereen heeft ‘vrijheid van expressie’.

Twitter wiste 166.000 accounts voor terroristische tweets

Of het aan het verminderde gebruik van héél Twitter ligt, is niet bekend maar het aantal terroristische organisaties dat gebruik maakt van Twitter, is aan het dalen. In het tweede halfjaar 2018 schorste/sloot Twitter 166.163 accounts vanwege terroristische content. In de eerste helft 2018 ging het om meer dan 205 duizend accounts. Twitter meldt trots dat 91% van de berichten ‘proactief’ verwijderd zijn door algoritmes en herkenningssoftware.

VS: Schutter synagoge aangeklaagd voor moord en 109 hatecrimes

‘Synagoge-schutter’ John Earnest (19) is door het OM in California aangeklaagd voor moord en pogingen tot moord; in totaal 109 aanklachten voor hatecrimes. De verdachte schoot eind april een vrouw dood in de synagoge in Poway, bij San Diego. Drie mensen raakten gewond. Earnest had voor de schietpartij een racistisch en antisemitisch bericht geplaatst op 8Chan. Daarin schreef hij onder meer dat hij ‘joden iets aan wilde doen’. Die zijn volgens hem verantwoordelijk voor de ‘genocide van het witte ras’. Hij verwees in dat bericht behalve naar Jezus, apostel Paulus, Maarten Luther, Adolf Hitler en Ludwig van Beethoven – zijn ‘inspiratiebronnen’ – ook expliciet naar de man die in Christchurch vijftig mensen doodschoot in moskeeën. De verdachte zou, net als bij die aanslag, hebben geprobeerd zijn actie live te streamen op facebook.

Celstraf voor opruiing tot terroristisch misdrijf

De rechtbank in Amsterdaam heeft een man (28, uit Amsterdam) veroordeeld voor opruiing tot terroristisch misdrijf. Verdachte Mounim A. zette honderden filmpjes en foto’s van onthoofdingen, martelingen en oproepen tot aanslagen op westerse doelen op Telegram en facebook. Naar eigen zeggen wist hij niet dat dat strafbaar was. De rechtbank vond dat ongeloofwaardig – enkele broers van Mounim hadden hem zelfs gewaarschuwd, zijn Telegram-kanaal werd eerder afgesloten en facebook waarschuwde hem voor de content die hij plaatste. De rechtbank legde een jaar celstraf op, waarvan de helft voorwaardelijk (proeftijd drie jaar), aangevuld met toezicht en begeleiding. De man kwam in beeld van politie en justitie toen het CTER-team in Amsterdam onderzoek deed naar enkele jongeren. Uit tapgesprekken kwam ene ‘Abu Bakr’ naar voren, en dat bleek de verdachte te zijn. Die bleef volhouden dat hij dacht dat IS bejaarden en kinderen helpt. Eerder zette ook het OM grote vraagtekens bij de verklaring van de verdachte. ‘We hebben meerdere spelcomputers, vier telefoons en geheugenkaarten in beslag genomen waar allemaal opruiende teksten en filmpjes op stonden’, zei de officier op zitting. Het OM had 18 maanden celstraf waarvan zes voorwaardelijk geëist.

VS: Aanslagpleger synagoge plaatste open brief op internet

Ook bij de aanslag op een synagoge, afgelopen week in Poway, bij San Diego, California blijkt op internet een document te staan waarin de dader uitlegt waarom hij het deed. Bij de aanslag schoot ene John Earnest (19) op een synagoge, met één dode en drie gewonden tot gevolg. Earnest gaf zichzelf daarna over aan de politie en verwees in zijn verhoor naar een open brief die hij op 8Chan had gezet. De brief stond, niet verrassend, vol met antisemitische en racistische taal. De inhoud was vergelijkbaar, aldus county sheriff William Gore, met de verklaring die de schutter in Christchurch, Nieuw-Zeeland plaatste. Earnest schreef ook over facebook, wat de politie deed vermoeden dat ook hij zijn aanslag live wilde streamen. Onduidelijk is nog of hij zo ver kwam – zijn wapen haperde na enkele schoten waarna Earnest naar buiten vluchtte en zich overgaf.
Een kwartier voor de aanslag werd de FBI verder getipt over de aanslag. Een twitteraar had op 8Chan ontdekt wat de verdachte van plan was. ‘I am trying to figure out how to report it’. Dat deed deze man om 11.15 uur – om 11.30 begon Earnest met schieten. In dat kwartier was de posting op 8Chan gewist en was Earnests facebook-account geschorst nog voordat hij kon live streamen.

Bellingcat deed verder onderzoek naar 8Chan waar het wemelt van de nazipropaganda en oproepen tot geweld.

EU wil terreurpropaganda binnen uur van internet

Bij het Europees Parlement is deze week een wetsvoorstel aangenomen dat internetbedrijven verplicht om terroristische propaganda binnen een uur te verwijderen. Let wel: alleen als de bevoegde autoriteiten ze daar opdracht toe geven. De bedrijven zijn niet verplicht zelf actief te speuren naar illegaal materiaal. Bedrijven die de verwijder-regel stelselmatig negeren, krijgen volgens de nieuwe wet een boete (maximaal 4% van de jaaromzet). Het nieuwe EU-parlement gaat met de afzonderlijke lidstaten onderhandelen over definitieve invoering.

Geweld op sociale media in steeds meer landen zwaarder bestraft

Australië en Groot-Brittannië zijn de zoveelste landen die socialemediabedrijven gaan aanpakken als ze gewelddadige berichten niet snel genoeg van hun platforms verwijderen. In Australië is recent een wet aangenomen die bepaalt dat berichten met beelden van moord, marteling of verkrachting moeten ‘zo snel mogelijk’ moeten worden gewist en berichten met ‘schadelijke’ content binnen ‘redelijke tijd’. Of dat lukt, wordt door een jury beslist. De bedrijven riskeren in die gevallen boetes tot maximaal 10% van de wereldwijde (!) omzet, ceo’s kunnen zelfs maximaal drie jaar de cel in. Met name het feit dat een jury moet beslissen of de bedrijven op tijd hebben ingegrepen, levert kritiek op. ‘Whenever there are juries involved, they can get it wrong but when you add into the mix technology – which is complex – the risk is heightened’, zei media-professor Jason Bosland van de University of Melbourne.
Ook in Groot-Brittannië krijgen techbedrijven straks boetes als ze ‘online harms’ niet tijdig weghalen. Het Britse The Department for Culture, Media and Sport (DCMS) wil er zelfs een aparte waakhond voor oprichten die gaat monitoren én senior managers van techbedrijven persoonlijk gaat aanklagen. Dat instituut moet verder betaald worden door de techbedrijven zelf, aldus het ‘Online Harms White Paper’. Inhoudelijk gaat het om álle ‘schadelijke content’, van terroristische propaganda en haatberichten tot kindermisbruik, wraakporno, cyberpesten en zelfs nepnieuws. DCMS-minister Jeremy Wright zei eerder al dat ‘the era of self-regulation for online companies’ voorbij is, nu vrijwel alle eerdere pogingen die bedrijven aan hun ‘duty of care’ te houden zijn mislukt.

Een gamer in het cyberkalifaat

Het AD beschreef vorige week uitgebreid ‘hoe een gamer in het cyberkalifaat belandde‘. De zaak is die van een jonge man uit Utrecht, liefhebber van autogame GTA, die samen met een thuiswonende Amerikaanse die van knuffels houdt en een 14-jarige Noor deel uitmaakte van een online propagandagroep van IS, het United Cyber Caliphate. In die groep, vooral een propaganda-machine, belandt via sociale media ook de Nederlander ‘CC-7’. Juni 2017 wordt hij opgepakt, na tips uit de VS. De jongen is 18 als hij, in een besloten zitting bij de jeugdrechter, twaalf maanden jeugddetentie krijgt (waarvan de helft voorwaardelijk), vooral voor het maken van gewelddadige filmpjes ‘in GTA-stijl’. Hij maakt echter ook filmpjes over aanslagen op Utrecht-Centraal en de Domtoren en deelt er zelfs een kill list. Volgens de rechtbank is de jongen autistisch, depressief en zelfs verminderd toerekeningsvatbaar. Het Amerikaanse meisje (nu 20) moet nog voorkomen, ze kan twintig jaar krijgen. Onbekend is of de Noorse tiener ook wordt vervolgd.

“Modereren online platformen na aanslagen moet beter”

In de nasleep van de aanslag in Christchurch tuimelen alle partijen over elkaar heen als het gaat om verantwoordelijkheid en schuld en zo. Deze week pleitte Microsoft-ceo Brad Smith weer eens voor meer samenwerking tussen techbedrijven en netwerksites ‘om te zorgen dat internet veilig blijft’. De live stream van de aanslag bleef nog aardig lang online en werd daarna vaak verspreid, voordat (met name) Google en Facebook dat verhinderden. Smith wil dat er meer gedaan wordt tegen ‘dit soort individuen’ die online platforms gebruiken ‘om de meest donkere kant van de mensheid te laten zien’.
Vanuit Frankrijk is deze week aangifte gedaan tegen enkele techbedrijven. De Franse Raad voor de Moslimcultuur (CFCM) wil Facebook en YouTube aanklagen omdat de video kon worden bekeken en gedeeld. De video zou aanzetten tot terrorisme maar ook ‘de menselijke waardigheid aantasten’ en bovendien door minderjarigen kunnen worden gezien, aldus de CCFM.

Facebook verwijdert 1,5 miljoen keer beelden aanslag

Na de aanslag in Christchurch, live gestreamd via facebook, valt natuurlijk iedereen weer over die platforms heen. Facebook kreeg al veel kritiek omdat de live stream kennelijk niet tijdig werd opgemerkt. Sterker nog, aanslagpleger Brenton Tarrant kon ruim 16 minuten lang live streamen hoe hij vijftig moskeegangers neerschoot. Facebook haalde de beelden, en Tarrants pagina, pas vele uren later weg – nota bene na een melding van de politie. Zonder veel resultaat – de beelden zijn nog altijd online te vinden. Facebook meldt nu dat de video ‘minder dan tweehonderd keer’ live bekeken is en zo’n vierduizend keer voordat de beelden werden verwijderd. In het eerste etmaal ná het bloedbad wist het bedrijf wereldwijd 1,5 miljoen keer de beelden te verwijderen. Met aangepaste algoritmes werd het filmpje 1,2 miljoen keer automatisch geweerd bij het uploaden, zo’n driehonderdduizend keer werd dat handmatig gedaan. ‘We werken dag en nacht om gewelddadige inhoud van Facebook te verwijderen, door een combinatie van technologie en mankracht’, aldus een woordvoerder van Facebook. Maar dat gaat, zoals al langer bekend, met horten en stoten. Een blote tepel valt kennelijk gemakkelijker te ontdekken dan een schietende malloot. Twitter, YouTube en Reddit kwamen overigens met vergelijkbare reacties: het wordt verwijderd zodra we het ontdekken. Het geeft maar weer eens aan dat het voor de ‘techreuzen’ vaak dweilen met de kraan open is. Voor elke video, boodschap of bedreiging die ze verwijderen, komt er elders eentje bij. Logisch ook, dat is nu eenmaal het businessmodel: geld verdienen door iedereen alles te laten uploaden. Dat premier Jacinda Ardern van Nieuw-Zeeland al opriep tot zelfreflectie, lijkt dan ook kansloos. En áls dat al lukt, zijn er altijd nog platforms die niet gemodereerd worden, zoals 8Chan en Gab …