Microsoft heeft vandaag aangekondigd dat het een samenwerking is aangegaan met StopNCII om proactief schadelijke intieme afbeeldingen en video’s van Bing te verwijderen met behulp van digitale hashes die mensen creëren van hun gevoelige media.

StopNCII is een project van de Revenge Porn Helpline dat mensen in staat stelt digitale hashes te maken van hun intieme foto’s en video’s zonder de media te uploaden vanaf hun telefoon. StopNCII voegt deze hashes vervolgens toe aan een database die wordt gebruikt om dezelfde of vergelijkbare afbeeldingen online te vinden, die vervolgens worden verwijderd door hun partners, waaronder Facebook, TikTok, Reddit, Pornhub, Instagram, OnlyFans en Snapchat.

In maart deelde Microsoft zijn PhotoDNA-technologie met StopNCII, waardoor verbeterde creatie van digitale hashes mogelijk werd zonder dat de foto’s of video’s van een persoon hun apparaat verlaten.

“Net zoals de hashingtechnologie die StopNCII.org al gebruikt (PDQ), is PhotoDNA een extra proces dat het mogelijk maakt geïdentificeerde schadelijke afbeeldingen te hashen in een digitale vingerafdruk, die vervolgens kan worden gedeeld met industrieplatforms om enig niet-consensueel misbruik van intieme afbeeldingen te identificeren en te verwijderen,” legt de aankondiging van maart uit.

Microsoft heeft vandaag aangekondigd dat ze de database met hashes van StopNCII testen om intieme afbeeldingen te verwijderen binnen de Bing-zoekindex. Met behulp van deze database zegt Microsoft dat ze tot eind augustus actie hebben ondernomen tegen 268.899 afbeeldingen.

De opkomst van kunstmatige intelligentie heeft ook geleid tot een toename van het genereren van deep fake-naaktbeelden van niet-intieme foto’s die online worden gedeeld. Hoewel deze afbeeldingen nep zijn, kunnen ze net zo verontrustend zijn voor degenen die worden uitgebuit.

Een rapport uit 2019 van DeepTrace, nu Sensity, toonde aan dat 96% van de deepfake-video’s op internet pornografisch van aard zijn en bijna allemaal gebruik maken van het niet-consensuele beeld van een vrouw. Veel van deze afbeeldingen worden geüpload als “revenge porn”, voor afpersing of om inkomsten te genereren door gewetenloze sites.

Helaas maken door AI gegenereerde afbeeldingen het moeilijker om overeen te komen met PhotoDNA-hashes. In deze gevallen moeten de getroffenen de afbeeldingen handmatig melden bij Microsoft, Google en andere online mediabedrijven.

Microsoft zegt dat getroffen mensen hun Report a Concern-pagina kunnen gebruiken om te verzoeken dat echte of synthetische afbeeldingen uit de Bing-zoekindex worden verwijderd.

Hoewel Google zich niet bij dit initiatief heeft aangesloten, bieden ze ook richtlijnen en een manier om intieme afbeeldingen uit hun index te verwijderen.