Microsoft heeft meerdere dreigingsactoren genoemd die deel uitmaken van een cybercrimebende die wordt beschuldigd van het ontwikkelen van kwaadaardige tools die in staat zijn de beveiligingsmaatregelen van generatieve AI te omzeilen om deepfakes van beroemdheden en andere illegale inhoud te genereren.

In een bijgewerkte klacht worden de individuen geïdentificeerd als Arian Yadegarnia uit Iran (ook bekend als ‘Fiz’), Alan Krysiak uit het Verenigd Koninkrijk (ook bekend als ‘Drago’), Ricky Yuen uit Hongkong, China (ook bekend als ‘cg-dot’), en Phát Phùng Tấn uit Vietnam (ook bekend als ‘Asakuri’).

Zoals het bedrijf vandaag uitlegde, zijn deze dreigingsactoren belangrijke leden van een wereldwijde cybercrimebende die het volgt als Storm-2139.

“Leden van Storm-2139 maakten misbruik van blootgelegde klantreferenties die van openbare bronnen zijn verzameld om onrechtmatig toegang te krijgen tot accounts met bepaalde generatieve AI-diensten,” zei Steven Masada, Assistant General Counsel bij Microsoft’s Digital Crimes Unit.

“Ze wijzigden vervolgens de mogelijkheden van deze diensten en verkochten toegang door aan andere kwaadwillende actoren, waarbij ze gedetailleerde instructies gaven over hoe schadelijke en illegale inhoud te genereren, inclusief niet-consensuele intieme beelden van beroemdheden en andere seksueel expliciete inhoud.”

Microsoft ontdekte tijdens het onderzoek dat het misdaadnetwerk Storm-2139 is georganiseerd in drie categorieën: makers, aanbieders en gebruikers.

Makers ontwikkelden de tools die het misbruik van door AI gegenereerde diensten mogelijk maakten, terwijl aanbieders deze illegale tools aanpasten en distribueerden aan eindgebruikers die ze benutten om inhoud te genereren die in strijd was met Microsoft’s Acceptable Use Policy en Code of Conduct, die vaak gericht was op seksuele beelden en beroemdheden.

De update van vandaag volgt op de rechtszaak die het bedrijf in december 2024 heeft aangespannen in het Eastern District van Virginia om meer informatie te verzamelen over de activiteiten van de cybercrime ring.

Een voorlopige voorziening en bevel tot voorlopige voorziening uitgevaardigd na de eerste indiening stelden Microsoft in staat de mogelijkheid van de groep om zijn diensten illegaal te gebruiken te verstoren door een belangrijke website die deel uitmaakt van de infrastructuur van de criminele ring in beslag te nemen.

Microsoft voegde toe dat de inbeslagname ervoor zorgde dat leden van Storm-2139 zich tegen elkaar keerden en speculeerden over wie de “John Does” in de documenten waren. Het juridische team van Microsoft ontving ook meerdere e-mails, waaronder van verschillende vermoedelijke leden van Storm-2139 die anderen in de operatie de schuld gaven van de kwaadaardige activiteiten.

“We ondernemen nu deze juridische stappen tegen geïdentificeerde beklaagden om hun gedrag te stoppen, hun illegale operatie verder te ontmantelen en anderen af te schrikken die onze AI-technologie willen wapenen,” voegde Masada vandaag toe.

“Hoewel we twee actoren hebben geïdentificeerd die zich in de Verenigde Staten bevinden—namelijk in Illinois en Florida—blijven die identiteiten geheim om potentiële strafrechtelijke onderzoeken niet te verstoren. Microsoft bereidt strafrechtelijke verwijzingen voor aan vertegenwoordigers van de wetshandhaving in de Verenigde Staten en het buitenland. “