La transformation des avancées technologiques en outils de subversion ou de criminalité est un phénomène appelé « innovation malveillante » ou « l’utilisation de la créativité à des fins destructrices ». Il n’est pas nouveau mais le paysage technologique actuel offre un niveau d’accessibilité et de dangerosité sans précédent. Ainsi l’intelligence artificielle (IA) générative dont l’intégration dans les appareils personnels aura une croissance annuelle du marché estimée supérieure à 120 % dans un avenir proche. Or il s’agit d’une technologie disruptive qui donne les moyens de défier les stratégies traditionnelles des forces de l’ordre. Elle peut générer des e-mails d’hameçonnage, fabriquer des images truquées, programmer des drones autonomes, etc. Les IA jailbreakées peuvent même contribuer à la création d’armes.

Douze caractéristiques facilitent le détournement de ces technologies : accessibilité, prix abordable, facilité d’utilisation, portabilité, dissimulabilité, efficacité, polyvalence, disponibilité sur le marché libre, adaptabilité à des usages non prévus, intégration avec d’autres technologies, résonance symbolique et absence de contrôle réglementaire. Les experts jugent « hésitante » la réponse des institutions de sécurité caractérisées comme réticentes au changement, accablées par l’inertie bureaucratique et la lenteur des cycles d’adoption. Or, pour contrer les innovations malveillantes, il faut une approche anticipatrice, comme des partenariats avec les entreprises technologiques afin d’atténuer les menaces. Les organes législatifs devraient aussi être proactifs dans la réglementation.