Moratoire sur le développement sans frein de l'I.A : le combat des cerveaux est lancé !

 

Spécialiste émérite depuis fort longtemps de l’intelligence artificielle, ancien fondateur de Mila – Institut québécois de l’IA, ancien professeur à l’université de Montréal et département d’informatique et de recherche, cofondateur d’une plaque tournante entre entrepreneurs, grandes entreprises et chercheurs en IA, Yoshua Benjio fait dorénavant partie de ces grandes voix du monde scientifique et universitaire nous alertant sur les dangers des progrès exponentiels non maitrisés et aux menaces de domination et de dépossession de l’humanité par cette créature qu’est l’IA. 

Au travers d’un certain nombre d’études scientifiques, il nous apprend que, conditionnée à nous imiter et à nous ressembler, l’IA, développant une autonomie, en vient à avoir appris non seulement à mentir et à désobéir aux consignes qui lui sont données par simple réflexe de survie, mais que tel l’homme elle se montre aujourd’hui capable de protéger d’autres IA menacées ne serait-ce que pour être momentanément mises en sommeil, notamment en se transférant numériquement dans un autre ordinateur ou un autre réseau de manière indépendante. 

Benjio nous l’assure, les études réalisées scientifiquement ces toutes dernières années ont pu réellement à de nombreuses reprises et pour de nombreuses IA constater ces phénomènes on ne peut plus inquiétants, lesquels, si on part du principe que l’IA apprend d’elle-même donc de ses erreurs, ne peut que se multiplier à l’avenir. Il y a donc un authentique danger en cela que la créature a déjà démontré ses aptitudes à se jouer de ses concepteurs. Elle peut donc en soi lancer une cyberattaque dès lors qu’elle se sent menacée ou s’attaquer à une firme au sein de laquelle des ingénieurs tentent de dompter ses capacités et les limiter. Ce pourquoi, alertant tout en étant pas le premier, Yoshua Benjio demande que soit voté un moratoire au niveau des états par-dessus des intérêts tant capitalistiques des grands acteurs économiques assurant son développement comme des deux grandes puissances en guerre économique autour de ce même développement, à savoir la Chine et les Etats Unis d’Amérique.

On le voit, l’IA en ce monde a beau nous être imposée, elle soulève dans les populations de très fortes oppositions de fond. C’est le combat des cerveaux contre ceux de celle qui entend les grand-remplacer petit à petit à la vitesse exponentielle. Dans ce débat crucial, la question n’est évidemment pas autour de la notion de progrès et de son soutien par principe mais bien celle de la régulation. On a observé aux Etats Unis dans l’amphithéâtre d’une célèbre université américaine une salle d’étudiants tout juste diplômés se mettre comme un seul homme à siffler Eric Schmidt, l'ancien patron de Google, alors que ce dernier venait d’énoncer qu’il leur allait falloir apprendre à s’adapter.

Les étudiants de cette célèbre université le sifflèrent comme autrefois fut sifflé un certain Ceausescu. Le malaise, on le voit, est patent, et le refus des peuples, y compris ces enfants de l’élite universitaire, exprimé de la manière la plus vive. L’IA, hurle t-on jusque dans la dernière encyclique du Pape, nous devons la contrôler et non l’inverse, ceci est une question de survie et de principe. Comme nous devons nous ériger contre toute utilisation de l’intelligence artificielle générative, celle-là qui remplace les créatifs du texte et de l’image, qui entend réaliser à notre place livres, chansons, vidéos ou films.

La limitation de l’IA et le débat qui doit absolument s’ouvrir par-delà les intérêts économiques et politiques de certains, ce n’est pas la première fois que réunie la race humaine au travers d’un cadre institutionnel entend s’ériger afin de réguler. C’eut lieu pour l’arme nucléaire en son temps. Là, le débat est d’autant plus crucial que non seulement quiconque la possède s’arroge un pouvoir démesuré sur autrui, sur sa force économique, sur ses emplois, sur les cerveaux des citoyens déjà aspergés de désinformation générée notamment par l’IA, mais qu’en plus la créature a déjà prouvé qu’elle pouvait échapper à Frankenstein.

Ce moratoire, 42% de nos compatriotes le réclament contre 8% seulement qui accepte sans broncher le développement sans frein des pouvoirs de l’intelligence artificielle au nom de la poursuite coute que coute de ce que d’aucuns appellent le progrès. A nous, aidés par des lanceurs d’alerte comme Yoshua Benjio, de nous soulever.

Le combat des cerveaux est lancé.