Achttien overheden en acht techbedrijven hebben zich afgelopen woensdag tijdens een top in Parijs achter de zogeheten Christchurch Call-verklaring geschaard, die extremisme online moet tegengaan - maar eigenlijk gaat over het censureren van het internet. Het is een niet-bindende verklaring, niemand hoeft zich eraan te houden, maar het biedt techbedrijven later wel de mogelijkheid regeringen die getekend hebben aan te klagen voor gemiste omzet.
We lazen woensdagavond op de
site van de NOS
het volgende: Missing from @facebook @microsoft @google @twitter @amazon Nine Point Plan for implementing #ChristchurchCall is any kind of clear commitment to evaluate how their moderation efforts disproportionately silence certain groups & individuals https://t.co/Gp1EQWHJAG
Achttien overheden en acht techbedrijven hebben zich tijdens een top
in Parijs achter de zogeheten Christchurch Call-verklaring geschaard,
die extremisme online moet tegengaan. De bijeenkomst is een initiatief
van de Nieuw-Zeelandse premier Jacinda Ardern, na de aanslagen in
Christchurch, vandaag precies twee maanden geleden. Sociale media
verspreidden toen een video van de schutter, waarin zijn daden live te
zien waren.
Eergisteren was er dus een groot bijeenkomst, de Christchurch Call,
waarin een aantal regeringen en grote sociale-mediabedrijven in
principe overeenkwamen een meer proactieve rol te spelen in het online
omgaan met terroristische en gewelddadige extremistische inhoud. Als
pluspunt: de inspanning omvatte stemmen van het maatschappelijk
middenveld en openbare belangengroeperingen die kwesties opriepen over
hoe deze inspanningen een negatieve invloed zouden kunnen hebben op de
vrijheid van meningsuiting en andere mensenrechtenkwesties overal ter
wereld.
Het is echter niet duidelijk dat het "evenwicht" dat zij hebben
bereikt een goede is.
De input voor de bijeenkomst is
hier te vinden. De
website van
Christchurch Call hier.
Op die website lezen we onder meer:
Een gratis, open en veilig internet is een krachtig hulpmiddel om
connectiviteit te bevorderen, sociale inclusiviteit te vergroten en
economische groei te bevorderen.
Het internet is echter niet immuun voor misbruik door terroristische
en gewelddadige extremistische actoren. Dit werd tragisch benadrukt
door de terroristische aanslagen van 15 maart 2019 op de
moslimgemeenschap van Christchurch - terroristische aanslagen die
bedoeld waren om viraal te worden.
De verspreiding van dergelijke online-inhoud heeft negatieve gevolgen
voor de mensenrechten van de slachtoffers, voor onze collectieve
veiligheid en voor mensen over de hele wereld.
De "Call" (oproep) is voor niemand bindend. Het is slechts een reeks "vrijwillige
toezeggingen" om te proberen "de kwestie van terroristische en
gewelddadige extremistische inhoud online aan te pakken en misbruik
van internet te voorkomen...."
Er zijn een aantal toezeggingen van overheden en een aparte set van
sociale toezeggingen van mediabedrijven. Aan de kant van de overheid
zijn de beloften:
De drijvende krachten achter terrorisme en gewelddadig extremisme
bestrijden door de veerkracht en inclusiviteit van onze samenlevingen
te versterken om hen in staat te stellen terroristische en
gewelddadige extremistische ideologieën te weerstaan, onder meer door
educatie, mediageletterdheid te ontwikkelen tegen vertekende
terroristische en gewelddadige extremistische verhalen en de strijd
tegen ongelijkheid.
Zorgen voor effectieve handhaving van toepasselijke wetten die de
productie of verspreiding van terroristische en gewelddadige
extremistische inhoud verbieden, op een wijze die verenigbaar is met
de rechtsstaat en internationale mensenrechtenwetgeving, inclusief
vrijheid van meningsuiting.
Het aanmoedigen van media aan om ethische normen toe te passen bij het online
weergeven van terroristische gebeurtenissen, om te voorkomen dat
terroristische en gewelddadige extremistische inhoud wordt versterkt.
Het ondersteunen van kaders, zoals industriestandaarden, om ervoor te
zorgen dat verslaggeving over terroristische aanvallen de
terroristische en gewelddadige extremistische inhoud niet versterkt,
onverminderd de verantwoordelijke berichtgeving over terrorisme en
gewelddadig extremisme.
Passende maatregelen overwegen om het gebruik van online diensten te
voorkomen voor het verspreiden van terroristische en gewelddadige
extremistische inhoud, inclusief door middel van samenwerkingsacties,
zoals:
- Bewustmakings- en capaciteitsopbouwende activiteiten gericht op kleinere
online dienstverleners;
- Ontwikkeling van industriestandaarden of vrijwillige kaders;
- Regulerende of beleidsmaatregelen in overeenstemming met een gratis,
open en veilig internet en internationale mensenrechtenwetgeving.
Dat lijkt meestal te eindigen met het wegnemen van bepaalde content,
hoewel dat laatste punt op het randje balanceert. Wat de sociale media
betreft, is er de volgende lijst met toezeggingen:
Transparante, specifieke maatregelen nemen om te voorkomen dat
terroristische en gewelddadige extremistische inhoud wordt geüpload en
om verspreiding ervan op sociale media en vergelijkbare diensten voor
het delen van inhoud te voorkomen, met inbegrip van de onmiddellijke
en permanente verwijdering, onverminderd eisen inzake wetshandhaving
en gebruikersaantallen, op een manier verenigbaar met mensenrechten en
fundamentele vrijheden. Coöperatieve maatregelen om deze resultaten te
bereiken, kunnen technologische ontwikkeling, de uitbreiding en het
gebruik van gedeelde databases van hashes en URL's en effectieve
procedures voor kennisgeving en verwijdering omvatten.
Zorgen voor meer transparantie bij het vaststellen van
gemeenschapsnormen of servicevoorwaarden, onder meer door:
- Het schetsen en publiceren van de gevolgen van het delen van
terroristische en gewelddadige extremistische inhoud;
- Beleid beschrijven en procedures invoeren voor het detecteren en
verwijderen van terroristische en gewelddadige extremistische inhoud.
Deze gemeenschapsnormen of servicevoorwaarden afdwingen op een
manier die verenigbaar is met mensenrechten en fundamentele vrijheden,
onder meer door:
- Prioriteit geven aan het matigen van de inhoud van terroristen en
gewelddadige extremisten, hoe dan ook geïdentificeerd;
- Zo nodig blokkeren van accounts;
- Het bieden van een efficiënt klachten- en beroepsproces voor
diegenen die de verwijdering van hun inhoud willen betwisten of een
besluit om de upload van hun inhoud te weigeren.
Implementeren van onmiddellijke, effectieve maatregelen om het
specifieke risico te beperken dat terroristische en gewelddadige
extremistische inhoud wordt verspreid via livestreaming, inclusief
identificatie van content voor realtime beoordeling.
Regelmatige en transparante openbare rapportage implementeren,
op een manier die meetbaar is en ondersteund wordt door een duidelijke
methodologie, over de hoeveelheid en de aard van terroristische en
gewelddadige extremistische inhoud die wordt gedetecteerd en
verwijderd.
Beoordelen van de werking van algoritmen en andere processen
die gebruikers ertoe kunnen aanzetten en/of terroristische en
gewelddadige extremistische inhoud kunnen versterken om mogelijke
interventiepunten beter te begrijpen en om waar nodig veranderingen
door te voeren. Dit kan het gebruik van algoritmen en andere processen
omvatten om gebruikers van dergelijke inhoud af te leiden of om
geloofwaardige, positieve alternatieven of tegenverhalen te promoten.
Dit kan onder meer inhouden dat er passende mechanismen voor
rapportage worden opgesteld, ontworpen in een proces met meerdere
belanghebbenden en zonder dat bedrijfsgeheimen of de effectiviteit van
de praktijken van dienstverleners door onnodige openbaarmaking worden
aangetast.
Samenwerken om ervoor te zorgen dat multinationale inspanningen
gecoördineerd en robuust zijn, bijvoorbeeld door te investeren in
en het GIFCT uit te breiden en door kennis en expertise te delen.
Facebook heeft zijn eigen lijst met actiepunten opgesteld die het in
reactie daarop opneemt, maar zoals CDT's Emma Llanso aangeeft mist het
een aantal vrij belangrijke dingen om ervoor te zorgen dat deze
inspanningen niet leiden tot censuur, met name van gemarginaliseerde
groepen en individuen:
Als reactie op dit alles weigerde het Witte Huis zich aan te sluiten bij
de andere landen die zich hadden aangesloten bij de vrijwillige
toezeggingen van de Christchurch-oproep en merkte op dat het zich zorgen
maakte of het passend en in overeenstemming was met het Eerste
Amendement.
Dat is absoluut waar en correct. Zelfs als de inspanning vrijwillig en
niet-bindend is, en zelfs als het referenties naar de bescherming van de
vrijheid van meningsuiting beschrijft, is het een brug te ver als een
overheid betrokken raakt bij het pleiten voor sociale mediabedrijven om
inhoud te verwijderen.
De Washington Post citeerde een professor in de rechten, James
Grimmelmann, die dit punt bondig formuleert:
Het is moeilijk om de kritiek van deze
regering op extremistische inhoud serieus te nemen, maar het is
waarschijnlijk het beste dat de Verenigde Staten niet hebben ondertekend",
zegt James Grimmelmann, professor in de rechten van Cornell Tech. De
overheid zou niet moeten streven naar het "aanmoedigen" van platforms om
meer te doen dan wettelijk verplicht is - of misschien zouden ze
verplicht moeten worden om onder het Eerste Amendement te vallen.
De overheid zou aanbevelingen kunnen doen bij wetten die platformen en
gebruikers duidelijk laten weten wat ze mogen doen, niet door vage
vermaningen die gemakkelijk kunnen veranderen in gesluierde bedreigingen.
En hij heeft ook gelijk dat het moeilijk is om de positie van de Trump-administratie
serieus te nemen, vooral omdat de Amerikaanse regering op dezelfde dag
dat het weigerde mee te doen aan deze inspanning, aandrong op het
invoeren van een schetsmatig plan om sociale-mediabedrijven te dwingen
hoe om te gaan met niet-bestaande "conservatieve bias."
Aan de ene kant zegt het Witte Huis dat het gelooft in het Eerste
Amendement en dat het niet wil dat overheden erbij betrokken raken, en
tegelijkertijd suggereert het dat het de sociale media kan onderdrukken
op een manier zoals zij het wil. En, natuurlijk, dit is ook hetzelfde
Witte Huis dat andere inspanningen heeft gedaan om sociale
mediabedrijven content te laten verwijderen van regeringen die ze niet
leuk vinden, zoals die van Iran.
Dus, ja, we moeten oppassen voor regeringen die sociale mediabedrijven
vertellen welke inhoud wel en niet mag worden toegestaan, en dus is het
goed dat het Witte Huis weigerde de Christchurch-oproep te steunen. Maar
het is moeilijk te geloven dat dit gebeurde om principiële redenen.
Zoals gezegd, alles wat afgesproken is is niet-bindend, wat inhoudt dat
betrokkenen ermee kunnen doen - of niet - wat ze willen.
De verklaring is ondertekend door de volgende landen: Australië, Canada,
Frankrijk, Duitsland, Indonesië, India, Ierland, Italië, Japan, Jordanië,
Nederland, Nieuw-Zeeland, Noorwegen, Senegal, Spanje, Zweden en het
Verenig Koninkrijk. Ook hebben de volgende techreuzen ondertekend:
Amazon, Dailymotion (Frans videoplatform), Facebook, Google, Microsoft,
Qwant (zoekmachine), Twitter en YouTube.
Volgens de NOS schaart óók de Europese Commissie zich achter deze
verklaring.
Het feit dat regeringen deze verklaring ondersteunen kan een teken aan
de wand zijn, en dan wijzen we op de potentiële problemen met het
Amerikaanse Eerste Amendement (wat wij in slappe vorm kennen als de
vrijheid van meningsuiting, omdat die vrijheid bij ons duidelijke
beperkingen kent, helaas). Overheden zijn namelijk in staat beperken op
te leggen op een niveau dat een individueel bedrijf niet kan.
Hoewel het plan oproept tot "zorgen voor effectieve handhaving van
toepasselijke wetgeving", zou dat door regeringen kunnen worden
geïnterpreteerd als "SELECTIEVE handhaving van toepasselijke wetten".
Het censureren van het internet is dan al heel dichtbij gekomen.
Daarnaast hebben we het hier over bedrijven die - als TTIP 2.0 wordt
ingevoerd (wat slechts een kwestie van tijd is- gewoon wachten op een
kans om een regering voor miljarden dollars aan te klagen wegens
veronderstelde winstderving als iets hen in de weg gelegd wordt.
