Origine Wagingnonviolence
Malgré tous les bouleversements engendrés par l’IA, aucun mouvement ne lui demande de rendre des comptes. Voici cinq ingrédients clés pour une mobilisation efficace.
Que nous en soyons conscients ou non, l’intelligence artificielle transforme le monde à une vitesse vertigineuse. Présentée comme une panacée pour guérir les maladies, révolutionner les industries et s’attaquer aux problèmes les plus insolubles du monde, l’IA remplace aussi discrètement des travailleurs, amplifie les préjugés et crée des systèmes de surveillance omniprésents et suffisamment pernicieux pour n’importe quelle dystopie. Comme si cela ne suffisait pas, il existe la perspective d’une IA super intelligente surpassant complètement le contrôle humain.
Alors, où sont les humains dans tout ça ? Où sont les manifestations, les gens dans la rue, les demandes de garanties, de surveillance, d’avis des citoyens ordinaires ? Malgré tous les bouleversements provoqués par l’IA – et nous n’en avons fait qu’effleurer la surface jusqu’à présent –, aucun mouvement ne lui demande de rendre des comptes, aucune mobilisation de masse n’exige que cette technologie révolutionnaire serve le bien commun.
Des étincelles de résistance visibles ont été observées. À Hollywood, la Writers Guild of America et la SAG-AFTRA ont débrayé en 2023, exigeant des garanties contre les scripts générés par l’IA et les répliques numériques des performances des acteurs. Pour les scénaristes et les acteurs, ces préoccupations n’étaient pas abstraites. Les studios ont ouvertement évoqué l’idée de numériser les portraits des acteurs pour une réutilisation permanente, excluant ainsi totalement les interprètes du processus créatif. Certes, leurs grèves concernaient les salaires, mais elles portaient aussi sur un sujet plus fondamental : préserver la créativité humaine.
Les employés de Google ont également organisé des grèves lorsque l’entreprise s’est impliquée dans le projet Maven, une initiative du Pentagone visant à utiliser l’IA et les drones en soutien à la guerre. Leur résistance a conduit Google à se retirer du programme, démontrant, du moins dans ce cas précis, le pouvoir de la dissidence coordonnée.
Un autre exemple de résistance s’est produit après l’ arrestation injustifiée de Robert Williams , un homme noir vivant à Détroit, faussement identifié par un système de reconnaissance faciale, révélant ainsi le coût humain tangible des algorithmes biaisés. L’arrestation de Williams a constitué un point de ralliement pour les militants, qui ont contraint des villes comme San Francisco à interdire purement et simplement la technologie de reconnaissance faciale.
Ces moments comptent. Mais ils restent disparates et localisés, s’attaquant à des préjudices spécifiques plutôt qu’aux risques systémiques plus vastes posés par l’IA. Contrairement au mouvement climatique, qui a transformé des préoccupations fragmentées en un appel mondial à l’action, les étincelles de l’IA n’ont pas encore pris forme.
Au sein de mon organisation, Social Change Lab , nous étudions les mouvements sociaux : leur origine, leur développement, leurs facteurs de succès ou d’échec. Nos recherches peuvent éclairer un futur mouvement pour la sécurité de l’IA. Nous savons que les mouvements sociaux n’émergent pas de nulle part. Selon nous, cinq facteurs clés déterminent systématiquement l’essor d’un mouvement :
1. Griefs : L’ingrédient le plus évident est la colère. Les gens doivent ressentir que quelque chose ne va pas, qu’il existe une injustice à la fois importante et partagée. Si les griefs existent bel et bien dans le cas de l’IA, ils restent fragmentés et largement méconnus. En général, les gens adorent jouer avec leurs nouveaux outils d’IA, comme ChatGPT, Claude et toutes les autres machines intelligentes. C’est le premier problème auquel est confronté le mouvement latent pour la sécurité de l’IA : les gens sont actuellement plus entichés de l’IA qu’ils n’en ont peur. Les risques liés à l’IA semblent souvent trop abstraits ou trop lointains. L’automatisation des usines ne se fait pas du jour au lendemain, c’est un processus progressif ; les algorithmes renforcent les inégalités déjà existantes et auxquelles nous nous sommes habitués ; un avenir où les machines surpasseront les humains est tout simplement trop difficile à imaginer, littéralement et émotionnellement. Sans histoires centrées sur l’humain, les gens ont du mal à se connecter.
2. Événements déclencheurs : Les mouvements se forment souvent autour d’un moment galvanisant, comme une catastrophe ou une injustice médiatisée, qui exprime les risques de manière très nette. Les événements déclencheurs ne créent pas tant de nouveaux mouvements qu’ils amplifient le message de ceux déjà existants. Citons par exemple la catastrophe de Tchernobyl, qui a mobilisé le mouvement antinucléaire, et le meurtre de George Floyd, qui a relancé le mouvement Black Lives Matter. Malheureusement, les événements déclencheurs sont généralement terribles. Bien que l’IA n’ait pas encore connu un tel moment, cela pourrait ressembler à une arme autonome qui tourne mal, à un système d’IA qui prend une décision catastrophique dans un contexte à enjeux élevés comme la santé, à une crise économique provoquée par un chômage massif soudain ou à une violation de données exposant des millions de personnes à des risques.
3. Leaders et récits : Des leaders charismatiques et des histoires convaincantes permettent souvent de rassembler des fragments de griefs dispersés en un seul récit collectif. Le mouvement des droits civiques a eu Martin Luther King Jr. et le mouvement climatique a eu Greta Thunberg. La sécurité de l’IA n’a pas encore trouvé son porte-parole. Lorsque Geoffrey Hinton, le soi-disant parrain de l’IA, a déclaré s’inquiéter de la fin de l’humanité , on aurait pu croire que cela suffirait. Mais le cycle de l’actualité a évolué. D’autres candidats, comme Timnit Gebru, l’ancienne chercheuse de Google qui a révélé les biais des systèmes d’IA , ont subi des représailles de la part des entreprises pour son travail. Nous avons besoin de personnes crédibles et passionnées, capables de nous informer des menaces pesant sur l’IA en termes humains et de nous inciter à agir.
4. Ressources : Les mouvements ont besoin de financement, de réseaux et d’attention médiatique pour se développer et se pérenniser. Le militantisme est généralement sous-financé et manque cruellement de ressources. Tout comme le mouvement climatique est confronté aux budgets colossaux et à la puissance de l’industrie des combustibles fossiles, tout mouvement pour la sécurité de l’IA devra faire face au géant technologique qui pilote le développement de l’IA.
5. Opportunités politiques : Les mouvements prospèrent lorsque les systèmes sont ouverts au changement. La pression réglementaire croissante exercée sur les géants de la technologie, du moins dans certains pays, offre une ouverture, mais l’influence bien ancrée du lobbying industriel constitue un obstacle de taille. L’IA est complexe car l’ampleur des gains potentiels qu’elle pourrait apporter est si séduisante. L’IA se développe à un rythme qui dépasse l’entendement du public. Nous commençons à peine à appréhender les dernières technologies, tandis que les dix prochaines itérations s’enchaînent. Nombreux sont ceux qui ignorent la rapidité avec laquelle les technologies d’IA sont intégrées aux processus de recrutement, de police, de santé et de gouvernance. Lorsque les risques seront pleinement visibles, il sera peut-être trop tard pour agir.
Les mouvements peuvent progresser lorsque ces ingrédients sont réunis. Prenons l’exemple du mouvement climatique, qui a nécessité des décennies de développement d’un activisme populaire et des sonnettes d’alarme de plus en plus désespérées de la part des scientifiques avant qu’un moment décisif n’arrive. La manifestation solitaire de Greta Thunberg devant le parlement suédois en 2018 s’est transformée en « Fridays for Future », incitant des millions d’étudiants du monde entier à faire grève pour la planète. Le mouvement « Summer of Uprising » d’Extinction Rebellion en 2019 a perturbé le centre de Londres, propulsant la crise climatique à la une des journaux et obligeant le Parlement britannique à adopter le terme « urgence climatique ».
La marge de manœuvre pour la mobilisation est étroite. Pourtant, l’histoire montre que les mouvements peuvent faire boule de neige à une vitesse vertigineuse lorsque les conditions sont réunies. Si un simple adolescent brandissant une pancarte peut déclencher un mouvement d’écoliers et d’étudiants du monde entier, nous savons que c’est possible. Un mouvement pour la sécurité de l’IA doit de la même manière relier le local au global. Il doit raconter des histoires qui forcent les gens à faire des liens – lier la grève des scénaristes d’Hollywood aux débrayages des travailleurs du secteur technologique, relier les arrestations injustifiées causées par des algorithmes biaisés aux alertes internes sur les risques existentiels pour l’humanité. Et il doit agir vite.
Un mouvement pour la sécurité de l’IA ne signifie pas nécessairement un rejet total de l’IA. En effet, d’éminents spécialistes des mouvements sociaux soutiennent qu’il est crucial que les mouvements utilisent les technologies de l’IA pour s’organiser et se mobiliser. De même que les militants pour le climat ne sont pas opposés à l’énergie, mais réclament une énergie propre, bon marché et durable, un mouvement pour la sécurité de l’IA se concentrerait sur une IA mieux adaptée. Il exigerait que le développement de l’IA soit guidé par des valeurs humaines : transparence, équité, responsabilité et besoins humains. Il exigerait que ce soient les citoyens et les gouvernements, et non les entreprises, qui fixent les règles.
L’enjeu est crucial. L’IA n’est pas une simple innovation : c’est une force capable de transformer l’humanité. La question n’est pas de savoir si elle rencontrera une résistance, mais si cette résistance surviendra à temps.
Cathy Rogers
.