L’internet et les outils technologiques associés offrent aux extrémistes et autres acteurs malveillants des avantages distincts qui sont inestimables compte tenu de la nature de leurs causes.
– Tout d’abord, la possibilité de rester anonyme tout en atteignant et en influençant un nombre illimité de personnes dans le monde.
– Deuxièmement, cela leur permet d’opérer dans un espace déterritorialisé dans lequel la gouvernance et la réglementation sont faibles et toujours en train de se rattraper. - - - Troisièmement, cela leur permet de contrôler le récit et d’exclure toute voix dissidente susceptible de remettre en cause ce qu’ils promeuvent.
– Quatrièmement, il leur permet de créer l’illusion d’un attrait et d’un soutien de masse pour des causes et des groupes autrement marginaux, ce qui leur confère un degré de crédibilité qu’ils n’avaient pas auparavant.
.
La naissance, l’essor et la croissance exponentielle de l’intelligence artificielle (IA) constitueront probablement la révolution technologique la plus importante et la plus marquante de l’histoire de l’humanité. Pour la première fois dans notre existence en tant qu’espèce, il existera une force capable non seulement d’effectuer des tâches cognitivement complexes, mais aussi, dans la plupart des cas, de les réaliser beaucoup mieux et plus rapidement que nous. Des tâches qui prenaient des mois ne prendront plus que quelques secondes, et l’impossible sera bientôt à portée de clics de souris pour toute personne disposant d’un appareil et d’un accès à l’internet. Compte tenu de la loi de Moore, selon laquelle la puissance de traitement des ordinateurs double tous les deux ans, nous pouvons nous attendre à ce que l’IA rudimentaire dont nous disposons aujourd’hui devienne rapidement plus sophistiquée dans les années à venir.
Étant donné l’accessibilité et la grande disponibilité de l’IA, la technologie est également susceptible d’être utilisée à des fins néfastes. Les mauvais acteurs et les groupes extrémistes pourraient facilement la déployer pour créer et diffuser des informations erronées et de la propagande extrémiste à une échelle sans précédent. Compte tenu de la sophistication des outils d’IA et de leur évolution rapide, il sera très difficile d’y mettre un terme. En outre, compte tenu du modèle économique de la plupart des grandes plateformes de médias sociaux, ce contenu préjudiciable pourrait être introduit dans des algorithmes qui amplifient le contenu qu’ils jugent susceptible d’attirer les utilisateurs. Les organismes publics étant souvent incapables de suivre les évolutions technologiques en termes législatifs, nous pourrions nous diriger vers une période où l’IA sera utilisée pour inaugurer une période de chaos et d’instabilité politique et sociale.
Cette question est abordée dans un ouvrage à paraître intitulé "Cyber Security in the Age of Artificial Intelligence and Autonomous Weapons" (La cybersécurité à l’ère de l’intelligence artificielle et des armes autonomes), dont un chapitre examine les différentes façons dont les groupes extrémistes pourraient utiliser l’intelligence artificielle et ce qu’il est possible de faire à ce sujet. Voici un résumé des principales conclusions de ce chapitre.
Le phénomène décrit ci-dessus est susceptible de se manifester de quatre manières principales : l’IA générative, les robots conversationnels, les jeux et l’analyse prédictive. Les extrémistes pourraient utiliser la technologie de l’IA générative pour créer toutes sortes de contenus, qu’il s’agisse de vidéos de propagande, d’images, de musique, de traductions, etc. Un contenu qui prenait auparavant des semaines et des mois à produire par des personnes disposant d’un certain niveau d’expertise technique sera désormais facile à créer pour n’importe qui. Les extrémistes pourraient programmer des robots de conversation pour imiter la vision du monde de leurs propagandistes. Des comptes générés par l’IA pourraient être déployés sur des plateformes de jeux pour identifier et attirer des recrues potentielles, et des outils analytiques alimentés par l’IA pourraient être utilisés pour cibler les personnes les plus vulnérables à la radicalisation.
En ce qui concerne la réglementation de l’extrémisme sur les plateformes Big Tech, telles que Facebook, X et YouTube, les progrès significatifs sont malheureusement entravés par le compromis entre les dommages sociétaux et les profits des entreprises, ces derniers étant souvent le facteur dominant. Ces plateformes comptent sur la rétention de l’attention des utilisateurs pour augmenter les recettes publicitaires et sont donc réticentes à prendre des mesures qui réduiraient le temps passé par les utilisateurs sur leurs plateformes et leur engagement dans des contenus qu’elles jugent attrayants. Malheureusement, cela concerne tous les types d’utilisateurs et implique une grande variété de contenus, y compris ceux qui cherchent à susciter la sympathie pour des causes extrémistes.
Les plateformes en ligne, les forums et les applications de messagerie pourraient se voir imposer l’obligation d’identifier clairement les comptes de robots d’IA à l’aide d’une sorte de marqueur. Les utilisateurs devraient avoir le droit de savoir s’ils interagissent avec un humain ou un robot d’intelligence artificielle, car cela risque fort de modifier la manière dont ils répondent au compte en question. Cette mesure évidente n’a pas encore été prise, car elle réduirait probablement l’engagement sur les plateformes, ce qui se traduirait par une baisse des recettes publicitaires. L’amplification algorithmique, c’est-à-dire lorsque les plateformes promeuvent un contenu qu’elles jugent susceptible d’attirer l’attention, devrait également être abordée afin de réduire la portée et l’efficacité des comptes de robots d’IA extrémistes. Les plateformes devraient être incitées à faciliter la désactivation des algorithmes et, par conséquent, à offrir une expérience en ligne exempte de contenus promus et suggérés par défaut, alors qu’actuellement c’est l’inverse qui se produit.
Avec les Big Tech, comme avec les chaînes de restauration rapide, c’est le modèle d’entreprise qui pose problème et les mesures à prendre pour s’attaquer à ce problème nécessitent une volonté politique qui fait actuellement défaut, qui est embrouillée par des intentions peu claires ou qui est simplement confuse en raison d’un manque de compréhension. Le Royaume-Uni et l’Union européenne ont récemment introduit une législation destinée à lutter contre les préjudices en ligne et si ces textes législatifs sont des pas dans la bonne direction, ils ont leurs limites puisqu’ils reposent sur le fait que les utilisateurs jugent les contenus extrémistes problématiques et les signalent. Cela ne sera pas toujours le cas, en particulier avec les sympathisants qui aiment le contenu qu’ils consomment ou s’il est plus ciblé dans sa diffusion en ligne. Dans le cas de la législation européenne, elle se concentre principalement sur les grandes plateformes technologiques et les contenus accessibles au public et, bien que cela semble très sensé à première vue, cela laisse des lacunes puisque le monde en ligne se divise et qu’il y a beaucoup de nouvelles plateformes et de forums qui émergent et qui ne seraient pas aussi affectés par la législation.
.
Ces mesures législatives introduisent également un certain degré d’ambiguïté puisque des termes tels que "désinformation" et "nuisible" peuvent être débattus et contestés. Cela ouvre la porte aux abus, car les gouvernements pourraient qualifier de "désinformation" des contenus qu’ils n’apprécient pas, comme cela s’est déjà produit à de nombreuses reprises. Cela conduit à un lien entre Big Tech et Big Government qui a pour effet net d’étouffer la liberté d’expression et la dissidence politique au nom de la lutte contre l’extrémisme, ce qui, à long terme, discrédite les efforts de lutte contre l’extrémisme dans tous les domaines et renforce les récits extrémistes.
S’attaquer à l’utilisation extrémiste de l’IA sera un défi difficile à relever compte tenu de la configuration actuelle du paysage politique et des entreprises. Cette situation est encore aggravée par la désunion des groupes de la société civile, qui restent souvent embourbés dans des débats de "guerre culturelle" et n’ont pas le sens commun des valeurs et des objectifs qui leur permettraient de s’attaquer aux extrémistes de tous bords. Ce sentiment de désunion et de conflit interne est également exploité par les plateformes Big Tech et les groupes extrémistes déployant l’IA sont susceptibles d’en tirer parti dans un avenir proche.
Il semble que nous soyons pratiquement les seuls à ne pas être préparés à l’adoption de l’IA par les extrémistes. Il est donc probable qu’elle commence à avoir un impact sur nos sociétés bien avant que nous puissions nous mettre d’accord sur des moyens efficaces de la contrer. Beaucoup de choses peuvent être faites, mais elles ne seront mises en œuvre que lorsque nous aurons pris conscience de l’ampleur et de la nature de la menace. Les approches actuelles de la lutte contre l’extrémisme en ligne sont terriblement inadaptées, et nous devons être honnêtes sur les raisons de cette situation si nous voulons faire avancer le débat de manière significative.