Les patrons d'OpenAI et de DeepMind, notamment, assurent que le risque sera potentiellement aussi grave que ceux posés par les pandémies ou une guerre nucléaire.
(AFP) - Nouvelle alerte sur l’IA. Un groupe de chefs d’entreprise et d’experts, dont Sam Altman, le créateur de ChatGPT, et le patron de Google DeepMind, Demis Hassabis, ont averti mardi dans une déclaration en ligne des menaces d'« extinction » pour l’humanité posées par l’essor de l’intelligence artificielle.
La lutte contre les risques liés à l’IA devrait être « une priorité mondiale au même titre que d’autres risques à l’échelle de la société, tels que les pandémies et les guerres nucléaires », ont écrit les signataires sur le site internet du Center for AI Safety, une organisation à but non lucratif basée aux Etats-Unis.
Geoffrey Hinton, considéré comme l’un des pères fondateurs de l’intelligence artificielle et également signataire de la tribune, avait déjà mis en garde contre ses dangers en quittant début mai son poste au sein du géant Google. Les avancées dans le secteur de l’IA induisent « de profonds risques pour la société et l’humanité », avait-il estimé dans le New York Times.
Une pause ou des régulations ?
En mars, le milliardaire Elon Musk - un des fondateurs d’OpenAI dont il a ensuite quitté le conseil d’administration - et des centaines d’experts mondiaux avaient réclamé une pause de six mois dans la recherche sur les IA puissantes, en évoquant « des risques majeurs pour l’humanité ». D’autres ont demandé au Congrès américain de mieux encadrer les recherches.
Le déploiement à toute vitesse d’une intelligence artificielle de plus en plus « générale », dotée de capacités cognitives humaines et donc susceptible de bouleverser de nombreux métiers, a été symbolisée par le lancement en mars par OpenAI de GPT-4, une nouvelle version plus puissante de ChatGPT, ouvert au grand public fin 2022.
L’Américain Sam Altman multiplie régulièrement les mises en garde, craignant que l’IA ne « cause de graves dommages au monde », en manipulant des élections ou en chamboulant le marché du travail. La semaine dernière à Paris, il a discuté avec le président Emmanuel Macron de la manière de trouver « le juste équilibre entre protection et impact positif » de cette technologie.