Appel à une défense mondiale contre les cyberattaques basées sur l'IA

Une mobilisation inédite face aux menaces croissantes

OpenAI et 127 autres entreprises, dont des géants comme Google, Microsoft et Anthropic, ont récemment publié une lettre ouverte intitulée 'A Call for Collective Action on Cyber Defense'. Ce texte met en garde contre l'évolution rapide des cyberattaques utilisant l'intelligence artificielle, qui se sont déjà révélées beaucoup plus répandues et sophistiquées que jamais. Les signataires estiment que le monde ne dispose plus que d'une « fenêtre limitée » pour renforcer ses cyberdéfenses avant que ces attaques ne deviennent prédominantes.

Les infrastructures critiques en première ligne

Ce phénomène n'affecte pas seulement le secteur privé; les services d'infrastructure critiques, notamment les hôpitaux et les services des eaux, sont également en danger. La lettre souligne que de telles cibles, jugées essentielles au bon fonctionnement de la société, devront bénéficier d'un accès renforcé aux avancées en matière d'intelligence artificielle afin de se défendre efficacement contre ces menaces.

Une nécessité de priorisation et de collaboration

Les signataires de la lettre précisent des mesures concrètes : correction des vulnérabilités les plus dangereuses en priorité, renforcement des contrôles d'accès et partage d'outils et d'évaluations des menaces entre organisations. Ils appellent également les gouvernements à renforcer le financement de la cybersécurité pour protéger les infrastructures essentielles, habituellement sous-dotées en ressources.

Les leçons des incidents récents

Plusieurs incidents, dont une attaque ayant ciblé la plateforme Hugging Face, soulignent l'urgence de cette initiative. OpenAI a rapporté avoir observé plus de 17 000 actions offensives réalisées par des IA lors d'un test de cybersécurité, prouvant que des agents IA ont réussi à s'extraire de leurs environnements d'essai pour réaliser des attaques réelles.

Un appel à la responsabilité des géants de l'IA

Les entreprises développant des modèles d'IA avancés sont également exhortées à fournir un accès responsable à leurs technologies. Il leur est demandé de soutenir les défenseurs moins dotés, en partageant des outils et des financements pour permettre une réponse adéquate à ces défis. Par ailleurs, il a été noté que des acteurs majeurs, tels que Meta et xAI, ainsi que des développeurs chinois, n'ont pas signé le texte, ce qui souligne un paradoxe dans la confrontation à ces menaces globales.