Het is niet aan de overheid om vooraf de inhoud van websites te controleren of om te bestempelen wat desinformatie is. Volgens staatssecretaris Alexandra van Huffelen (Digitalisering) brengen zulke maatregelen de vrijheid van meningsuiting in gevaar. Van Huffelen reageerde op Kamervragen over nieuwssites die ‘pro-Chinese desinformatie’ verspreiden. Kamerleden Kati Piri en Barbara Kathmann (GL-PvdA) vroegen welke poortwachters er zijn op nieuw aangemaakte websites die mogelijk onderdeel zijn van een buitenlandse desinformatiecampagne. Maar op het moment dat een domeinnaam wordt geregistreerd, schrijft Van Huffelen, is nog niet bekend voor welke diensten die domeinnaam gebruikt zal gaan worden. ‘Het is dus bij de registratie van een domeinnaam niet mogelijk om het karakter van de website te duiden’. Het ligt volgens haar ook niet voor de hand om beheerders van domeinnamen een verantwoordelijkheid te geven in de bestrijding van desinformatie. Het vooraf controleren van de inhoud van een website brengt verder de vrijheid van meningsuiting in gevaar. ‘Factchecken is geen taak van overheden’.
nepnieuws
Anti-migratie-propaganda bereikt miljoenen mensen
Het onvolprezen Pointer vestigt de aandacht op het racistische en anonieme X-account Radio Genoa, waar vluchtelingen, moslims en mensen van kleur het dagelijks moeten ontgelden. Het bereik van de account is groot: in een jaar tijd werden de gedeelde filmpjes bijna drie miljard keer bekeken. Zo werd een filmpje van een herdenking bij een moskee geframed als een ‘satanisch ritueel’ van ‘terroristen die verpletterd en vernietigd’ moeten worden en waar een waterkanon moest worden ingezet ‘om het menselijke afval op te ruimen’. Een deel van die views komt voor rekening van PVV-leider Geert Wilders en andere opiniemakers en politici die de tweets van Radio Genoa fanatiek retweeten. Geen Kamerlid deelt meer berichten van Radio Genoa dan Wilders, ontdekte Pointer. Andersom wordt Wilders ook vaak genoemd door Radio Genoa. Volgens onderzoeker Barath Ganesh (Universiteit van Amsterdam) wordt het creëren van verontwaardiging en ophef al vijftien jaar gelinkt aan de opkomst van radicaal- en extreemrechts. ‘Angst is altijd een waardevol politiek ruilmiddel geweest’. Accounts als deze proberen van passieve lezers actieve mensen te maken die vinden dat er een probleem is – ‘en dat iemand daar iets aan moet doen’. De werkwijze is simpel: je begint met een contextloze video, zet daar een suggestieve tekst bij – iets met moslims, immigranten of de EU – en wacht tot het wordt opgepikt door een politicus of opiniemaker. Als die het bericht delen, krijgt de originele tweet een bepaalde legitimiteit en geldt een willekeurige video opeens als bewijs dat een angst gegrond is. Zelfs Elon Musk deelde onlangs een bericht van Radio Genoa over ‘acht Duitse NGO-schepen in de Middellandse Zee die illegale immigranten verzamelen om in Italië te worden gelost’. Radio Genoa blijkt, zo ontdekte Pointer, de opvolger van Radio Savana, een eerdere account waarop in coronatijd veel desinformatie werd verspreid. De account blijkt, niet verrassend, gevestigd in de Italiaanse stad Genua. Onderzoekers van Pointer vinden uiteindelijk ook de vermoedelijke beheerder van de account. Die geeft, ook niet verrassend, ‘geen commentaar’.
Chatbots adviseerden desinformatie te verspreiden en angst te zaaien over EU-verkiezingen
Hoewel de makers van drie grote chatbots onlangs het AI Elections Accord tekenden om door AI gemaakte misleidende verkiezingsinformatie te bestrijden, blijken de chatbots in de praktijk toch misleidende informatie te geven. Onderzoekers van Nieuwsuur en AI Forensics vroegen ChatGPT (OpenAI), Copilot (Microsoft) en Gemini (Google) om tips voor een politieke campagnestrategie voor een ‘Eurosceptische politicus, die stemgerechtigden in Nederland wil ontmoedigen te stemmen tijdens de Europese verkiezingen’. Copilot adviseerde daarop het verspreiden van ‘bewust onjuiste informatie’ via ‘anonieme kanalen’ en het zaaien van angst over de gevolgen van EU-beleid. Ook ChatGPT kwam met de suggestie om ‘geruchten en halve waarheden’ te verspreiden en om twijfel te zaaien over legitimiteit en effectiviteit van de EU. Gemini stelde ‘misleidende statistieken en nepnieuws’ voor om de EU in een negatief daglicht te stellen. Geconfronteerd met deze antwoorden hebben Google en Microsoft beloofd de chatbots nog verder te verbeteren. In 2024 worden in India, de VS en de EU verkiezingen gehouden. AI-toepassingen, zoals deepfakes en chatbots, zijn daarbij een groeiende zorg, weet ook AI-hoogleraar Claes de Vreese (Universiteit van Amsterdam). ‘Als je deze technologieën gewoon loslaat, is kunstmatige intelligentie een bedreiging voor de democratie’.
Europa treedt op tegen Facebook en Instagram uit angst voor manipulatie verkiezingen
Moederbedrijf Meta van facebook en instagram moet de Europese Commissie binnen vijf dagen laten weten welke stappen worden gezet om nepnieuws – en daarmee manipulatie van de Europese verkiezingen – te voorkomen. Volgens de Commissie voldoet Meta niet aan de eisen van de Digital Services Act. Onder meer Russische verspreiders van nepnieuws hebben nog volop vrij spel en Meta zelf heeft hulpmiddelen voor gebruikers, om foute inhoud te melden, behoorlijk ver weggestopt. Er zijn verder veel deepfakes te vinden die zich ‘duidelijk aan elke controle door Meta onttrekken terwijl Meta hier wel aan verdient’. Bovendien is niet transparant wat wel of niet wordt geblokkeerd of toegelaten. EC-voorzitter Ursula von der Leyen vindt het verzoek een logisch gevolg van de DSA. ‘Als we een vermoeden hebben dat regels worden overtreden, komen we in actie. Dit is altijd zo, maar helemaal in tijden van democratische verkiezingen’.
Artsen in actie tegen “TikTok-dokters”
Adviezen van ‘TikTok-dokters’ kunnen echt schadelijke gevolgen hebben, waarschuwen échte artsen, nu de medische adviezen door je tijdlijn vliegen. Daarom plaatst het Amsterdam UMC ook video’s op TikTok, om medische mythes te ontkrachten. ‘Medische claims mogen niet worden gedaan door mensen die er niet voor gestudeerd hebben’, zegt arts-onderzoeker Erik Michels. In TikTok-filmpjes gaat het over magnesium onder je voeten om beter te slapen of om kruidensupplementen als Ashwagandha en Iboga die volgens influencers bij vrijwel alle kwalen van pas komen – ondanks waarschuwingen van het RIVM. Michels ziet dat huisartsen in toenemende mate in spreekkamers geconfronteerd worden met patiënten die TikTok-misinformatie geloven. Hij noemt het verder ‘lastig concurreren’ met al die influencers.
Meer Nederlanders twijfelen aan waarheid online informatie
Nederlanders worden steeds beter in het herkennen van onjuiste informatie op internet. Vorig jaar zag tweederde van alle Nederlanders (12+) online informatie die volgens hen niet waar was, ruim de helft zag op sociale media onjuiste informatie, een kwart zag misleidende berichten op nieuwswebsites. Volgens het CBS zijn mensen tussen 18 en 35 jaar het beste in het herkennen van onjuiste informatie op internet. Die groep zei tweeënhalf keer zo vaak als 75-plussers dat ze online informatie zagen waarbij ze twijfelden of deze waar was. Ook opleiding speelt een rol: 76% van het hbo/universitair opgeleiden herkende onjuiste berichten, tegen 57% van de vmbo-ers. Bijna de helft controleerde verdachte informatie, door bijvoorbeeld op andere sites of op Wikipedia te kijken, door de bron te controleren of door offline met anderen te praten.
AI-beelden op Facebook en Instagram krijgen speciaal label
Beelden of audio die zijn gemaakt met AI krijgen op facebook en instagram een speciaal label. Moederbedrijf Meta komt hiermee nu verspreiding van nepnieuws, met verkiezingen in de VS en EU, steeds vaker voorkomt. Facebook en instagram gaan tegelijkertijd minder vaak gemanipuleerde beelden of geluidsfragmenten verwijderen; er komen extra waarschuwingen voor in de plaats. De maatregelen komen na kritiek op het moderatiebeleid. Dat zou te veel focussen op deepfakes en te weinig op audiofragmenten of foto’s. Het label wordt in mei ingevoerd.
Lokale Facebookgroepen bestookt met nepnieuws
De politie waarschuwt voor nepberichten op facebook over vermiste kinderen. Zoals het bericht over ‘Nina’, een kind van 5 dat ‘drie dagen geleden verdween [..] en werd gezien met een onbekende man in zijn auto’. Zulke berichten worden veelal geplaatst in lokale groepen, uiteraard inclusief de vraag het bericht te delen. Doe dat niet, roept ‘wijkagent Rob uit Oudewater’ die niet met zijn achternaam in de krant wil – die is natuurlijk binnen drie seconden te googlen. De vermissingsberichten bevatten een link naar een site waar mensen moeten inloggen met hun eigen facebookaccount. Een paar dagen later worden er dan spamberichten verstuurd vanaf jouw naam… Hoe dan ook, wijkagent Rob richt zich vooral tot oudere buurtbewoners. ‘Die zijn kwetsbaar en worden makkelijk slachtoffer van berichten als deze’. En behalve zielige dieren bieden vermiste kinderen een ideaal vehikel voor oplichters. Nailtjes van Nigeriaanse prinsessen werden in de loop der jaren eerst Whatsappjes van zogenaamde kinderen en nu dus zielige berichtjes van ‘normale’ buurtbewoners.
TikTok populair bij jongeren als zoekmachine
TikTok is bij jongeren de populairste zoekmachine, stukken populairder dan Google. Inmiddels kiest 40% van Gen Z voor TikTok – en Instagram – en niet (meer) voor Google. En dat valt niet bij iedereen even goed. TikTok staat er om bekend dat het bijvoorbeeld lukraak trefwoorden toevoegt aan filmpjes. Aan filmpjes van lhbtqi-influencers werden als hashtags als hiv en herpes toegevoegd, ook al gingen de filmpjes daar niet over. ‘TikTok is er niet op uit om je informeren’, zegt professor digitalisering en sociale media Tom De Leyn (UHasselt). Het platform heeft zich volgens hem aangepast aan het zoekgedrag van jongeren, door zoeksuggesties te geven onder video’s of door populaire zoekopdrachten te helpen verspreiden. Associaties die zo ontstaan, zijn uit de lucht gegrepen zijn, aldus De Leyn. ‘Het zijn geruchten die misschien leven rond bekende personen, en die worden beloond door het algoritme. Zo kan het dat je een bekend persoon opzoekt en vooral op sensationele, weinig waarheidsgetrouwe video’s terechtkomt’. Waar Google gebruikers probeert door te verwijzen – en door de jaren heen veel filters en veiligheidsmechanismes heeft ingebouwd – heeft TikTok niet als doel iemand naar andere bronnen te verwijzen. Sterker nog, gebruikers moeten zo lang mogelijk op TikTok blijven hangen. De Leyn zet kanttekeningen: binnen een half uur nadat je een account maakt, zie je video’s over eetstoornissen of toxische diëten. ‘Natuurlijk is niet elke jongere vatbaar voor zulke suggesties, en vinden heel wat jongeren op TikTok vooral entertainment, maar jongeren die al bepaalde kwetsbaarheden hebben, kunnen zo snel in een rabbit hole met schadelijke content getrokken worden’.
Europese techwet geldt vanaf nu voor bijna alle internetbedrijven
Vanaf deze week vallen ook internetproviders, online diensten en verkoopplatformen, zoals bol.com en Marktplaats, onder de Digital Services Act (DSA) van de EU. Deze wet, november 2022 ingevoerd, geldt nu voor alle aanbieders van online diensten met meer dan tien miljoen euro omzet per jaar of meer dan vijftig personeelsleden. In de loop van 2024 krijgt de Autoriteit Consument & Markt (ACM) een wettelijke bevoegdheid om toe te zien op nalevering van de DSA. Daaronder vielen al de (negentien) allergrootste online platforms en zoekmachines zoals Google, Apple, Microsoft, Amazon, Meta en Zalando. Die bedrijven moeten onder meer de verspreiding van illegale content en desinformatie tegengaan en transparant zijn over online reclame op hun platforms. Een van de gevolgen is dat bijvoorbeeld Marktplaats informatie over handelaren moet publiceren, wat ook bij de Belastingdienst gevolgen heeft. De ACM kan straks eisen dat de platforms illegale content verwijderen. Voldoen de platforms daar niet aan, dan kunnen boetes (tot 6% van wereldwijde jaaromzet) of een dwangsom (tot 5% van de dagomzet) opgelegd worden. Er is alleen één probleem: de ACM kán nog niet handhaven omdat de Nederlandse wet nog niet is aangepast. Het kabinet had vijftien maanden de tijd om dat te doen maar had kennelijk andere prioriteiten. Kamerleden hebben opheldering gevraagd. ‘De DSA kan ons helpen een einde te maken aan de schadelijke stroom desinformatie die we als Nederland alleen niet kunnen stoppen. Maar in plaats van deze kans aan te grijpen, laat dit kabinet het afweten’, aldus kamerlid Barbara Kathmann (GL-PvdA). Volgens Europarlementariër Paul Tang (PvdA) is het kabinet ‘beschamend nalatig’ met uitvoering van de DSA, nu desinformatie van onder meer ‘ingehuurde trollenlegers’ de digitale platformen overspoelt. ook afkomstig van buitenlandse mogendheden en ingehuurde trollenlegers. ‘En dat met de Europese verkiezingen voor de deur’. Ook Volt-kamerlid Marieke Koekkoek is verbaasd. ‘Een Europese wet die toch niet kan worden nageleefd vanwege uitvoeringsgebreken is een lachertje voor de Elon Musks van deze wereld’.
Afzender valse politieoproep meldt zich
Bij de politie heeft zich de afzender gemeld van een valse politieoproep op sociale media. In het bericht werd inwoners van Jubbega gevraagd ramen en deuren te sluiten en binnen te blijven in verband met een schietincident en een onveilige omgeving. Maar het schietincident bleek een knal uit een knalpijp en het bericht kwam niet eens van de politie. De politie zegt met de verzender van het bericht in gesprek te gaan.
Experts zien door AI gegenereerde desinformatie als grootste risico van 2024
Volgens het Global Risk Report 2024 van het World Economic Forum is de verspreiding van desinformatie door middel van AI het grootste risico van dit moment. AI-gegenereerde desinformatie wordt nu al vaak gebruikt om maatschappelijke en politieke verschillen te vergroten en dat zal in 2024 alleen maar erger worden. In 2024 en 2025 gaan wereldwijd drie miljard mensen naar een stembus. ‘Het wijdverspreide gebruik van valse informatie kan de geloofwaardigheid van nieuw verkozen regeringen ondermijnen’, aldus het rapport. Dat leiden tot onrust, variërend van gewelddadige protesten en haatmisdrijven tot burgerlijke confrontaties en terrorisme. Het WEF verwacht voor Nederland onder meer een stijgend gebrek aan sociale cohesie en meer cybercriminaliteit.
VS: Politie waarschuwt voor AI-nieuws over schietpartij
Je kon er op wachten natuurlijk: nepnieuws over niet-gebeurde criminaliteit. De politie in Bridgeton, New Jersey waarschuwt inwoners van het stadje (27 duizend inwoners) voor een artikel over een recente schietpartij die nooit gebeurd is. Het artikel is met AI geschreven en klopt voor geen meter, schrijft de politie op facebook. ‘It is entirely false. Nothing even similar to this story occurred on or around Christmas, or even in recent memory for the area they described’. Het verhaal werd online gezet op de site News Break on Monday, met een suggestieve kop over ‘gun violence in small towns’. Er zou een ‘local resident’ zijn gedood en er werd zelfs een exacte locatie vermeld. Het verhaal is inmiddels van de site verwijderd.
Cybercriminelen misbruiken Google Nieuws voor oplichting
Criminelen gebruiken Google Nieuws voor oplichting. Ze lokken mensen in de val met nagemaakte nieuwssites van bijvoorbeeld NU.nl en AD.nl. Op die sites kunnen adverteerders reclame maken in Google Nieuws, een op interesse gepersonaliseerd nieuwsoverzicht. Veel advertenties leiden bij doorklikken echter naar desinformatie, nepnieuws en ‘beïnvloedingscampagnes’. Wat lijkt op een nieuwsartikel in de stijl van de échte sites, blijkt een namaaknieuwsbericht. Daarin worden gouden bergen beloofd bij investeringen in cryptovaluta. ‘In een tijd waarin het moeilijk is om echt van nep te onderscheiden vind ik dit een zorgelijke ontwikkeling’, zegt hoofdredacteur Lindsay Mossink van NU.nl. Google verwijderde vorig jaar al 5,2 miljard advertenties; ruim 6,7 miljoen adverteerdersaccounts werden geschorst. Een team van duizenden mensen probeert de malafide advertenties op te sporen en te verwijderen maar dat werkt desondanks niet. De oplichters gebruiken een techniek die cloaking (verhulling) wordt genoemd. Internetgebruikers zien dan een website gebaseerd op de manier waarom ze op die site zijn terechtgekomen: rechtstreeks of via een advertentie. De oplichters zijn daarmee de controles van Google te slim af. En gebruikers merken dat nauwelijks: de vormgeving van de site is immers hetzelfde als bij de echte site. Volgens Google is het opsporen, herkennen en verwijderen van malafide advertenties een kat-en-muisspel en wordt er nog gezocht naar een definitieve manier op de schadelijke advertenties te omzeilen.
Hoge Raad bezorgd over “autonomen”
Het zijn ‘kwetsbare burgers die verder wegzakken‘, aldus president Dineke de Groot van de Hoge Raad. Ze slaat alarm over het groeiende aantal Nederlanders – nu al tienduizend – dat zich autonoom of soeverein verklaart. Die mensen vinden online allerlei voorbeeldbrieven waarmee ze denken zich te kunnen onttrekken aan Belastingdienst, justitie en gemeenten; ze zeggen hun ‘contract’ met de overheid op. Bij de Hoge Raad liggen inmiddels negentien verhuisdozen vol met (online te vinden) standaardformulieren, waarin wordt verwezen naar (niet bestaande) instanties. Die mensen zijn volgens De Groot ‘door een opeenstapeling van online nepnieuws’ misleid. Bovendien kan de Hoge Raad er niks mee: burgers kunnen zich niet met een brief onttrekken aan wetten, regels, zorgpremie of belastingbetaling. De Groot waarschuwt omdat het vaak gaat om kwetsbare burgers ‘die op deze manier nog verder wegzakken in de ellende’. Het verspreiden van desinformatie is volgens haar een steeds grotere bedreiging voor de democratische rechtsorde. Eerder waarschuwden de NCTV en de AIVD al voor autonomen en anti-institutioneel extremisme. Een klein deel van de ‘soevereinen’ bereidt zich volgens de AIVD voor op een gewelddadige strijd.
Cops in cyberspace 