Les pirates installent des logiciels malveillants à la place de l’IA promise

Mercredi, le géant des médias sociaux Meta, qui est la société mère de plateformes populaires telles que Facebook, Instagram et WhatsApp, a averti que les pirates informatiques exploitent la popularité et le potentiel des outils d’intelligence artificielle générative tels que ChatGPT pour inciter les gens à installer des logiciels malveillants sur leurs appareils. Guy Rosen, responsable de la sécurité des informations chez Meta, a révélé que les analystes de sécurité de l’entreprise ont récemment détecté une vague de logiciels malveillants se faisant passer pour ChatGPT ou des outils d’intelligence artificielle similaires.

Analyse de l’IA par Rosen

M. Rosen a fait remarquer que la technologie de l’IA générative a capté l’imagination et l’enthousiasme des gens, et qu’elle n’est pas passée inaperçue aux yeux des cybercriminels.

 La société a vu des “acteurs de la menace” promouvoir des extensions de navigateur Internet qui offrent des capacités d’IA générative mais contiennent des codes malveillants conçus pour infecter les appareils des utilisateurs.

M. Rosen rappelle que les pirates utilisent souvent des avancées séduisantes comme appât pour inciter les gens à cliquer sur des liens malveillants ou à télécharger des logiciels qui volent des données personnelles, une tactique qui a également été employée dans les escroqueries à la crypto-monnaie en raison de la forte demande de monnaie numérique.

L’équipe de sécurité de Meta a identifié et bloqué plus d’un millier d’adresses web qui prétendent offrir des outils de type ChatGPT, mais qui sont des pièges tendus par des pirates. Bien que Meta n’ait pas encore vu l’IA générative utilisée comme un simple appât par les pirates, M. Rosen a prévenu que l’inévitabilité de son utilisation en tant qu’arme était imminente, et que l’entreprise s’y préparait.

“L’IA générative est très prometteuse et les mauvais acteurs le savent, c’est pourquoi nous devons tous être vigilants pour rester en sécurité”, a déclaré M. Rosen.

L’approche de Meta en matière de sécurité grâce à l’IA

Meta adopte une approche proactive de la sécurité en ligne en explorant l’utilisation de l’IA générative comme moyen de défense contre les pirates informatiques et les campagnes d’influence en ligne. Nathaniel Gleicher, responsable de la politique de sécurité chez Meta, a expliqué que l’entreprise disposait d’équipes chargées d’anticiper les abus potentiels de l’IA et de développer des défenses pour les contrer. En utilisant l’IA à la fois comme une arme et comme un bouclier, Meta vise à garder une longueur d’avance sur l’évolution des cybermenaces.

L’IA générative est une forme d’apprentissage automatique qui utilise des algorithmes pour créer du contenu original, tel que des images, des vidéos et du texte, en apprenant à partir d’une grande quantité de données. Cette technologie a de nombreuses applications potentielles, de la création d’assistants virtuels et de chatbots à la génération d’images et de vidéos réalistes qui pourraient être utilisées dans divers domaines tels que le divertissement, la publicité et la médecine. Cependant, comme toute technologie nouvelle et passionnante, elle a également attiré l’attention des pirates informatiques qui cherchent à exploiter son potentiel à des fins malveillantes.

L’un des scénarios possibles est que les pirates utilisent l’IA générative pour créer des courriels d’hameçonnage convaincants qui semblent provenir de sources légitimes, de sorte qu’il est difficile pour les gens de les repérer comme étant faux. Ils pourraient également utiliser l’IA générative pour créer de fausses vidéos ou de faux enregistrements audio qui pourraient être utilisés pour diffuser de la désinformation et manipuler l’opinion publique.

Moyens explorés par Meta pour lutter contre les menaces

Pour contrer ces menaces, Meta étudie les moyens d’utiliser l’IA générative pour détecter et contrecarrer les faux contenus et les attaques. L’une des approches consiste à développer des algorithmes capables d’identifier et de signaler les contenus douteux générés par l’IA. Meta pourrait également utiliser l’IA générative pour créer des attaques simulées plus réalistes et plus convaincantes qui pourraient aider à former les équipes de sécurité à reconnaître les menaces réelles et à y répondre.

Dans l’ensemble, l’avertissement de Meta concernant l’utilisation abusive potentielle de l’IA générative rappelle qu’aussi passionnantes que puissent être les nouvelles technologies, elles peuvent également être exploitées à des fins malveillantes. Les particuliers et les entreprises doivent être conscients de ces risques et prendre des mesures pour se protéger. Dans le cas présent, il s’agit d’être prudent lors de l’installation de nouveaux logiciels ou d’extensions de navigateur et d’être attentif à tout comportement ou activité suspect(e).

---

Lire l’article original sur Tech Explore.

En savoir plus : L’heure de l’hydrogène vert, une source d’énergie renouvelable.