Les géants de la tech ont-ils vraiment peur de l'IA ? – 15/09

Ouvrir dans le navigateur Et aussi: Tout comprendre sur les puces mémoire – Le plus gros flop de l'histoire de NetflixTous les vendredis, l’édition hebdomadaire de Cafétech vous propose un tour d’horizon des principales actus tech de la semaine écoulée. L’accès intégralité des articles est désormais réservé aux abonnés payants. Nous vous proposons un tarif préférentiel de 59 euros pour la première année, puis 69 euros ensuite. Cette offre est valable jusqu’à la fin de la semaine. J'en profiteBonne lecture et bon week-end | GRAND ANGLE |Ralentir le développement de l’IA, mission impossible ?

Il y a quand même un sacré paradoxe à voir Sam Altman et Dario Amodei appeler, tour à tour, à ralentir le développement effréné de l’intelligence artificielle générative. Depuis des mois, leurs entreprises respectives, OpenAI et Anthropic, s’affrontent en effet à coups de dizaines de milliards de dollars pour prendre l’ascendant, aussi bien sur la puissance de leurs modèles que sur leur déploiement commercial. Elles s’étaient également lancées dans une course de vitesse pour être les premières à entrer en Bourse, afin de capter l’appétit des investisseurs de Wall Street et de décrocher une valorisation record. Difficile, d’ailleurs, de dire si leur démarche est véritablement sincère ou si elle relève plutôt d’une opération de communication destinée à ne pas apparaître totalement déconnectés des inquiétudes grandissantes de l’opinion publique – à l’image de l’annonce du report de l’introduction en Bourse d’OpenAI. Ces derniers mois, une série d’événements ont ravivé les inquiétudes de ceux qui tirent la sonnette d’alarme depuis trois ans, mais qui peinaient de plus en plus à se faire entendre: des agents d’OpenAI qui s’allient pour pirater la bibliothèque de modèles Hugging Face, jusqu’à la démission fracassante la semaine dernière d’un chercheur d’Anthropic.

“L’IA pourrait tous nous tuer d’ici la fin de la décennie”“Ne sous-estimez pas le pouvoir de cette technologie. Les gens qui construisent l’IA croient sincèrement qu’elle pourrait tous nous tuer d’ici la fin de la décennie”, avait alors assuré Jacob Coxon, arrivé chez le concepteur de Claude en mai, après trois années passées chez celui de ChatGPT. Un sentiment partagé par Evan Hubinger, le responsable de la sécurité d’Anthropic, qui chiffre ce risque à plus de 10%. Interrogé par CNN, Dario Amodei a estimé que la probabilité pourrait être “bien supérieure” si l’industrie prenait les “mauvais chemins”. L’an passé, il avait évoqué un risque de 25% que les “choses se passent vraiment mal”.

Ces messages ont trouvé un écho sans précédent. Probablement en raison des récentes démonstrations des capacités autonomes des agents d’OpenAI. Samedi, Dario Amodei s’est dit favorable à un ralentissement du rythme des progrès et a proposé que les entreprises d’IA de pointe s’engagent à faire auditer leurs modèles par des évaluateurs indépendants bénéficiant d’un accès étendu à leurs systèmes. Une proposition aussitôt approuvée par Sam Altman. Mais aussi par Elon Musk, qui avait signé début 2023 un appel à instaurer un moratoire de six mois… avant de lancer sa propre start-up d’IA moins d’un mois plus tard.

Une entente possible ? Cet épisode illustre parfaitement les limites de ces appels. Sans coordination entre tous les acteurs du secteur, aussi bien américains que chinois – et, dans une moindre mesure, européens –, ceux-ci resteront lettre morte. Si Anthropic n’hésite pas à reconnaître les risques posés par l’IA, en publiant notamment des recherches à ce sujet, ses actions ne sont au final pas très différentes de celles de ses rivaux. “Ils ont bien compris les enjeux, mais ils sont enfermés dans une course pour être les premiers”, explique Jacob Coxon, soulignant qu’ils “pensent que personne d’autre n’agira de façon responsable”.

Selon la presse américaine, des dirigeants d’OpenAI, d’Anthropic et de Google ont déjà discuté cet été de la création d’un organisme de supervision indépendant, chargé de faire appliquer des règles de bonne conduite. Mais Meta serait opposé à une telle initiative, ce qui rend déjà son avenir incertain. En admettant que les principaux acteurs américains se mettent d’accord, deux obstacles resteraient à surmonter. D’abord, le risque de poursuites aux États-Unis pour entente illégale entre des entreprises concurrentes. Ensuite, celui de laisser le champ libre à d’autres pays, en particulier à la Chine.

Une coopération internationale illusoireUne préoccupation déjà exprimée par Dario Amodei – et qui démontre les limites des restrictions américaines sur les exportations de puces, qui devaient justement empêcher une telle situation. Pour concrétiser ce ralentissement de l’IA, une coopération internationale pourrait donc être nécessaire, ou a minima un accord entre les États-Unis et la Chine. Une hypothèse qui paraît pour le moins improbable. Lundi, Donald Trump a dénoncé une “conspiration malsaine”, assurant qu’il représentait le “seul garde-fou dont a besoin l’IA”. En Chine, le ministre des Affaires étrangères a, lui, dénoncé une “rhétorique alarmiste” qui ne sert “l’intérêt de personne”.

De fait, une coopération internationale semble totalement illusoire. Pourtant, en juin 2023, la déclaration commune du premier sommet international sur l’IA, organisé au Royaume-Uni, évoquait déjà des “risques importants” et appelait à des “efforts internationaux”. De bonnes intentions qui ne se sont jamais concrétisées. Depuis, dans un climat de compétition exacerbée, les débats sur la sécurité ne font plus recette auprès des gouvernements, bien trop inquiets de rater la révolution annoncée. L’an passé, lors du sommet de Paris, les risques ont ainsi été relégués à la portion congrue, sous l’impulsion notamment de la France, plus soucieuse d’afficher des milliards d’euros de promesses d’investissements dans le pays.