*For English see below*
Amsterdam, 24 februari 2023 – In samenwerking met deskundigen uit de EU en het VK wordt unieke veiligheidstechnologie ontwikkeld, die op basis van machine learning, real time beelden en video’s van seksueel kindermisbruik zal herkennen.
Het tweejarige zogenaamde Protech-project gaat in maart 2023 van start met het onderzoeken, ontwerpen en ontwikkelen van een applicatie voor mensen die neigen om beeldmateriaal van seksueel kindermisbruik te bekijken. Gebruikers worden volledig op de hoogte gebracht van het doel van de app en de effecten ervan op hun toestel.
De app monitort zowel het netwerkverkeer als de beelden die in real time op het scherm van de gebruiker worden bekeken. De app functioneert op de achtergrond waardoor de gebruikers niets merken van deze app, tenzij seksuele misbruikbeelden van minderjarigen worden waargenomen.
De partners van het project zijn ervan overtuigd dat de app de groeiende vraag naar online materiaal van seksueel kindermisbruik kan helpen verminderen. Bovendien voorkomt de app het herhaald slachtofferschap bij de slachtoffers van seksueel misbruik die kunnen lijden onder het feit dat hun beelden steeds opnieuw online bekeken kunnen worden.
De app is uniek omdat deze is ontworpen voor de gebruikers ervan. Er worden zeer accurate machine learning modellen toegepast. Doordat de app in de real time werkt, wordt voorkomen dat de gebruiker dergelijke beelden te zien krijgt.
Deze app kan een essentieel instrument zijn voor een duurzame en lange termijn preventie van beelden van seksueel kindermisbruik. Dit naast de huidige digitale interventies die dergelijke beelden bestrijden en verwijderen, zoals strafrechtelijke onderzoeken en verwijdering en hashing van beelden van seksueel kindermisbruik.
Het project wordt geleid door één van de grootste universitaire ziekenhuizen in Europa, Charité – Universitätsmedizin Berlin (CUB), dat voor dit project samenwerkt met deskundigen van uiteenlopende disciplines zoals criminologie, volksgezondheid, ontwikkelings-, klinische en forensische psychologie, softwareontwikkeling en internetveiligheid.
Het project van 2 miljoen euro is gefinancierd door de Europese Commissie.
Arda Gerkens, algemeen directeur Stop it Now, onderdeel van het Expertisebureau Online Kindermisbruik: “Stop it Now Nederland is verheugd deel te kunnen uitmaken van dit Protech-onderzoeksproject. Onze hulplijn biedt ondersteuning, begeleiding en online zelfhulpmiddelen voor mensen die materiaal van seksueel kindermisbruik bekijken. Mensen die onze hulplijn contacteren zijn echter vaak op zoek naar technische interventies die hen helpen weg te blijven van dit materiaal.
In onze missie om (online) seksueel kindermisbruik te voorkomen en te bestrijden, en in ons werk om een veilige online omgeving tot stand te brengen voor iedereen, ervaren we dat onderzoek en voortdurende verbetering van ondersteunings- en preventiemiddelen essentieel zijn.”
———————
ENGLISH:
Amsterdam, 24 februari 2023 – A unique safety tech tool which uses machine learning in real-time to detect child sexual abuse images and videos is to be developed by a collaboration of EU and UK experts.
Launching in March, the two-year Protech project will research, design and create an app that can be installed on the devices of individuals at risk of or concerned about their sexual thoughts about children, which may lead to them accessing child sexual abuse material.
The app will be deployed voluntarily, and users will have full knowledge of its purpose and its effect on their device.
The safety app will monitor both network traffic and images viewed on the user’s screen in real-time. After being installed, the app will run silently and will not require user interaction unless sexual images of children are detected and blocked.
Collaborators behind the €2m (£1.8m) project, which is funded by the European Commission, believe the tool could help stem the growing demand for child sexual abuse material online.
It will prevent the revictimisation of child sexual abuse survivors who continue to suffer in the knowledge that others may still be able to view images and videos of them online.
The app’s uniqueness lies in its user-centred design which employs highly accurate machine learning models to provide effective intervention to individuals at risk of viewing sexual images of children. It will work in real-time to detect and halt the viewing of criminal content before it is seen by the user.
It could prove to be a vital tool for the sustainable, long-term prevention of child sexual abuse content, alongside current digital activities that tackle and remove the imagery, such as criminal investigations and the removal and hashing of images.
The project is led by one of the largest university hospitals in Europe, Charité – Universitätsmedizin Berlin (CUB), in partnership with experts from diverse and wide-ranging fields including criminology, public health, developmental, clinical and forensic psychology, software engineering, child protection and internet safety.
Arda Gerkens, Managing Director of Stop it Now Netherlands, part of the Centre for Expertise on Online Child Sexual Abuse: “Stop it Now Netherlands is very excited to be a part of the Protech research project. Our helpline offers support, guidance and online self-help resources for people who use child sexual exploitation material (CSEM). However, individuals who contact our helpline are often in search for technical interventions that will keep them away from CSEM.
“In our mission to stop and prevent child sexual abuse (online) and work towards a safe online environment for everyone, we feel that research and continued improvement of support and prevention tools are essential.”
