IA : l’appel de 700 personnalités à arrêter le développement de la superintelligence artificielle

Une longue liste d’opposants à la superintelligence artificielle. Plus de 700 scientifiques, personnalités politiques, entrepreneurs de la tech, religieux ou célébrités demandent ce mercredi 22 octobre l’arrêt des travaux liés au développement de cette technologie d’IA, susceptible de surpasser les capacités humaines. Car cette innovation, au cœur d’une compétition acharnée parmi les géants du numérique, comporte aussi des risques. Certains spécialistes alertent sur la perspective d’une "perte de contrôle" de l’IA en cas de progrès trop poussés en la matière.

"Nous appelons à l’arrêt du développement d’une superintelligence, tant qu’il n’y a pas un consensus scientifique que cela peut être construit de façon contrôlée et sécurisée et tant qu’il n’existe pas un soutien de la part de la population", indique le texte relié à l’initiative lancée par le Future of Life Institute, un organisme non lucratif basé aux États-Unis. L’organisme met régulièrement en garde contre les méfaits de l’IA. "À court terme, l’IA avancée pourra permettre à ceux qui cherchent à nuire – les bioterroristes, par exemple – d’exécuter facilement des tâches de traitement complexes sans réfléchir", souligne l’association sur une autre page de son site web.

Richard Branson, Steve Bannon, le prince Harry…

Les profils des personnalités ayant signé l’appel sont très variés. Plusieurs pères de l’IA soutiennent l’opération, comme Geoffrey Hinton, prix Nobel de physique en 2024, Stuart Russell, professeur d’informatique à l’Université de Californie à Berkeley ou encore Yoshua Bengio, professeur à l’université de Montréal. Certains entrepreneurs renommés de la tech, comme le fondateur du groupe Virgin Richard Branson ou le confondateur d’Apple Steve Wozniak ont également signé le texte. Tout comme quelques figures politiques, à l’instar de l’ex-conseiller de Donald Trump Steve Bannon ou de l’ancienne conseillère à la sécurité nationale sous Barack Obama Susan Rice.

Une série de responsables religieux se sont joints également à la tribune. C’est le cas de Paolo Benanti, conseiller du pape Léon XIV et expert des questions d’intelligence artificielle, ou de plusieurs évêques, notamment américains. Enfin, des célébrités du monde de l’art ou du showbiz sont également présentes dans la liste des signataires, comme le chanteur will.i.am, la musicienne Grimes, l’acteur Joseph Gordon-Levitt ou le prince Harry et son épouse Meghan Markle.

Le débat sur ces questions éthiques est d’actualité, tant la plupart des grands acteurs du secteur cherchent à devancer leurs concurrents dans le développement de l’intelligence artificielle générale (AGI), stade auquel l’IA égalerait toutes les capacités intellectuelles des humains. Mais l’étape suivante, la superintelligence, est l’objectif affiché de plusieurs patrons. Pour Sam Altman, PDG d’OpenAI qui a donné naissance à ChatGPT, le cap de la superintelligence pourrait ainsi être atteint d’ici à cinq ans, a-t-il expliqué en septembre lors d’un événement du groupe médiatique Axel Springer.

Le numéro un de Meta, Mark Zuckerberg, ambitionne de la même manière d’investir massivement pour aboutir à une superintelligence artificielle la plus performante possible. Il s’est dit prêt en septembre à "gaspiller quelques centaines de milliards de dollars" pour y parvenir, en dépit du caractère regrettable" d’une telle perte financière. "Si vous développez trop lentement et que la superintelligence est possible dans trois ans, mais que vous la développez en supposant qu’elle sera là dans cinq ans alors, vous êtes tout simplement hors-jeu", a-t-il assuré, dans un épisode du podcast américain Access.

"Une telle chose est inacceptable"

"Peu importe que ce soit dans deux ou quinze ans, construire une telle chose est inacceptable", souligne auprès de l’AFP Max Tegmark, président du Future of Life Institute. Selon lui, les entreprises ne devraient pas plancher sur ce type de travaux "sans aucun cadre réglementaire". "On peut être en faveur de la création d’outils d’intelligence artificielle plus puissants, pour guérir le cancer par exemple, tout en étant contre la superintelligence", défend-il.

L’action de l’organisme fait écho à une lettre de chercheurs et cadres du secteur de l’IA, publiée il y a un mois lors de l’Assemblée générale des Nations Unies, qui réclamait l’instauration d'"accords internationaux sur des lignes rouges pour l’IA" pour prévenir des effets dévastateurs pour l’humanité. Début septembre, un Américain, Guido Reichstadter, a aussi médiatisé la problématique en réalisant une grève de la faim pendant 30 jours à San Francisco (États-Unis), réclamant la fin du développement d’une telle technologie.