Pour l’instant, la menace la plus évidente et la plus immédiate n’est pas que l’intelligence artificielle nous dépasse et devienne incontrôlable ; c’est qu’elle demeure entièrement entre les mains d’êtres humains stupides et malveillants.
La plus grande menace liée à l’IA n’est pas qu’une superintelligence artificielle anéantisse l’humanité dans un accès de vengeance mécanique, tel un Dieu numérique de l’Ancien Testament ; elle vient des mêmes oligarques et des mêmes gestionnaires d’empire, qui infligent à leurs semblables les mêmes souffrances et les mêmes abus.
Nous voyons déjà l’empire intégrer l’IA à ses machines de guerre, avec toutes les conséquences effroyables que cela entraîne à mesure que ces technologies gagnent en complexité et en imprévisibilité.
CNN rapporte qu’une IA militaire étasunienne a « failli déclencher une guerre » avec la Chine après avoir fabriqué de toutes pièces un renseignement affirmant qu’un navire chinois acheminait vers l’Iran des composants destinés à des armes nucléaires. Des avions militaires US auraient déjà été en vol, prêts à attaquer le bâtiment, lorsque des analystes du renseignement – des humains – ont décelé l’erreur.
Un récent rapport du Pentagone a officiellement conclu qu’un recours excessif à Maven, le système de commandement et de contrôle de Palantir fondé sur l’IA, avait contribué au bombardement d’une école à Minab. L’attaque a tué 120 enfants qui se trouvaient en classe le premier jour de la guerre menée par les États-Unis et Israël contre l’Iran.
Nous avons appris dès le début du génocide à Gaza que l’armée israélienne se servait de l’IA pour bombarder des membres présumés du Hamas lorsqu’ils étaient chez eux avec leur famille, plutôt que sur le champ de bataille. Elle utilisait pour cela un programme baptisé « Where’s Daddy? » — une sinistre pointe d’humour israélien suggérant que les enfants de combattants de la résistance palestinienne seraient tués au retour de leur père.
Nous voyons des responsables politiques comme Bernie Sanders s’inquiéter du fait que « l’IA pourrait bientôt devenir plus intelligente que les humains et échapper à notre contrôle ». Mais, pour l’instant, la menace la plus évidente et la plus immédiate n’est pas que l’intelligence artificielle nous dépasse et devienne incontrôlable ; c’est qu’elle demeure entièrement entre les mains d’êtres humains stupides et malveillants.
Encore une fois, nous savons pertinemment que de grandes puissances militaires dotées de l’arme nucléaire intègrent l’IA à l’ensemble de leurs systèmes. Elles le font sous nos yeux. Un facteur supplémentaire de complexité et d’incertitude vient ainsi aggraver une situation déjà marquée, partout dans le monde, par des face-à-face militaires tendus et dangereux, tandis que les États-Unis et leurs alliés cherchent à placer sous l’autorité de l’empire les quelques nations qui ont réussi à préserver leur souveraineté. Pourtant, ces dernières semaines, les grands médias ont été saturés de commentaires spéculant sur d’éventuels scénarios dans lesquels l’IA pourrait un jour provoquer l’extinction de l’humanité.
Nous connaissons déjà le scénario le plus probable dans lequel l’IA pourrait tous nous tuer. Si cela arrive, ce sera parce que de riches et puissants sociopathes auront intégré ces technologies à des machines de guerre conçues pour tuer des êtres humains à grande échelle. Sans déconner!
Ces évolutions s’inscrivent dans une nouvelle course effrénée aux armements avec la Chine, où personne ne veut ralentir de peur d’être distancé. Toute proposition visant à réglementer ces technologies ou à en freiner le développement avant que la situation n’échappe à tout contrôle est écartée. Les systèmes concurrentiels qui régissent aujourd’hui les comportements humains nous ont enfermés dans un cauchemar d’expansionnisme militaire permanent et de politique du bord du gouffre, plutôt que de favoriser la coopération et l’harmonie — un paradigme d’autant plus tenace qu’il enrichit outrageusement les oligarques de la tech et les profiteurs de guerre.
C’est, de toute évidence, la menace existentielle la plus immédiate que l’IA fait aujourd’hui peser sur notre espèce. Une autre menace, à peine moins terrifiante, est que l’intelligence artificielle permette à nos dirigeants de recourir à la surveillance de masse et à des systèmes d’armes autonomes pour étouffer tout mouvement politique révolutionnaire avant même qu’il ne prenne de l’ampleur. Nous resterions alors prisonniers de cette monstrueuse dystopie capitaliste jusqu’à ce que la planète ne soit plus qu’un désert inhabitable.
Quoi qu’il en soit, cette menace n’a rien de nouveau. C’est une vieille menace, simplement dotée de nouveaux outils. Il faut en finir avec le capitalisme, et l’empire doit tomber. Notre existence même en dépend.
Source originale: Le blog de Caitlin Johnstone
Traduit de l’anglais par Investig’Action
