Google poursuit un réseau criminel qui utilisait Gemini pour escroquer

Google a déposé une plainte en justice contre un réseau cybercriminel qui utilisait son modèle d'IA Gemini pour alimenter des escroqueries financières. Le groupe ciblé, connu sous le nom d'« Outsider Enterprise » et basé en Chine, aurait touché des centaines de milliers de victimes aux États-Unis.

Cette action en justice s'accompagne d'une coordination avec les grands opérateurs téléphoniques américains et le FBI pour démanteler le réseau, notamment en bloquant les messages frauduleux avant qu'ils n'atteignent les destinataires.

Une opération de fraude à grande échelle

Selon les éléments rapportés par le New York Times, le réseau aurait utilisé Gemini pour concevoir de faux sites imitant des services reconnaissables, comme Google, YouTube, le service postal américain USPS ou encore le système de péage E-ZPass de l'État de New York.

L'ampleur des activités recensées est considérable. Google indique que le groupe est lié à quelque 9 000 sites frauduleux et à plus d'un million d'URL malveillantes. Sur une période de deux semaines en mai dernier, 55 000 signalements de SMS indésirables ont été effectués par des utilisateurs Android, soit un rythme de plus de deux plaintes par minute.

Durant cette même période, 2,5 millions de messages contenant des liens vers des sites générés par Outsider Enterprise ont été envoyés à des utilisateurs Android. Les pertes financières subies par les victimes sont estimées à plusieurs millions de dollars.

Gemini utilisé comme outil de production frauduleuse

Google n'évoque pas explicitement l'usage de ses modèles Gemini dans sa communication officielle sur son blog The Keyword, mais reconnaît la portée de l'organisation criminelle. C'est le New York Times qui précise que l'IA générative de Google a servi à produire le contenu des escroqueries.

Ce cas illustre une tension croissante autour des modèles d'IA générative : les mêmes outils capables d'automatiser des tâches légitimes peuvent être détournés pour produire du contenu trompeur à un rythme et à une échelle difficiles à atteindre sans assistance automatisée.

Google milite par ailleurs pour un renforcement du cadre législatif américain, jugé insuffisamment adapté aux risques liés à l'IA. La plainte déposée vise également à établir un précédent juridique sur l'utilisation abusive d'outils d'IA à des fins criminelles.

Une réponse qui dépasse le seul terrain judiciaire

L'action de Google ne se limite pas à la justice. La société travaille en parallèle avec les opérateurs téléphoniques et les autorités fédérales pour couper les canaux de diffusion utilisés par le réseau, notamment les campagnes massives de SMS.

Cette approche combinée, judiciaire et technique, traduit la difficulté à contenir des opérations cybercriminelles qui s'appuient sur des infrastructures décentralisées et des outils d'IA facilement accessibles. La plainte contre Outsider Enterprise pourrait servir de référence pour de futures procédures impliquant des détournements d'IA à des fins d'escroquerie.

Source : 9to5Google