Pourquoi certains spécialistes estiment-ils que l'intelligence artificielle pourrait anéantir l'humanité ?

La démission retentissante d'un chercheur d'Anthropic a récemment braqué les projecteurs sur les inquiétudes grandissantes concernant le développement effréné de l'intelligence artificielle. Derrière les avertissements de plus en plus fréquents, la question de la capacité de l'IA à menacer l'humanité divise les experts, entre capacités réelles et extrapolations encore largement débattues.

Mardi 8 septembre, Jacob Coxon, chercheur britannique au sein d'Anthropic, l'un des laboratoires d'IA les plus influents au monde, a claqué la porte de son entreprise. Dans un message publié sur X, il a exprimé de vives préoccupations, affirmant que la course à l'innovation entre les entreprises du secteur pourrait engendrer des systèmes bien plus intelligents que l'homme, capables d'échapper à notre contrôle et de représenter une menace existentielle à court terme. Cette alerte fait écho à d'autres voix, comme celle de Volker Turk, haut-commissaire des Nations unies aux droits de l'homme, qui évoquait la veille un possible "danger existentiel" et appelait à un renforcement des garde-fous. Fin juillet, plus d'un millier de professionnels du secteur avaient déjà signé une pétition adressée au gouvernement américain pour exiger davantage de régulation sur les futurs modèles d'IA.

Mais comment passer de systèmes actuels comme ChatGPT ou Claude à une "superintelligence" capable de nous menacer ? Si les IA actuelles sont encore loin de cette étape, elles contribuent déjà activement au développement de leurs propres successeurs. Charbel-Raphaël Segerie, directeur exécutif du Centre pour la sécurité de l'IA (CeSIA), souligne une accélération mesurable de la recherche en IA. L'institut METR, spécialisé dans l'évaluation des capacités des modèles, rapporte que la durée nécessaire à une IA pour accomplir des tâches de programmation et de recherche avec une fiabilité de 50 % double environ tous les sept mois depuis 2019, un rythme qui se serait même accéléré à quatre mois depuis 2023. Des chiffres concrets illustrent cette dynamique : chez Anthropic, Claude aurait déjà rédigé plus de 80 % de son propre code intégré en mai 2026.

C'est sur cette accélération que repose le scénario de "l'auto-amélioration récursive" redouté par certains. Selon Charbel-Raphaël Segerie, les modélisations les plus précises estiment l'arrivée d'une superintelligence aux alentours de 2028, avec une incertitude significative. Si les modèles d'IA parviennent à automatiser une part substantielle de la recherche en intelligence artificielle, ils pourraient créer des systèmes encore plus performants, qui à leur tour optimiseraient la recherche, créant ainsi un cycle d'amélioration exponentiel. Cependant, cette interprétation n'est pas unanime. Simone Vannuccini, professeur titulaire de la chaire en économie de l'IA à l'Université Côte d'Azur, conteste ce raisonnement, estimant que de nombreux commentateurs confondent l'auto-amélioration récursive avec la simple capacité de l'IA à accélérer les découvertes.

Le débat autour de la superintelligence et de ses risques existentiels met en lumière la tension entre le progrès technologique rapide et la nécessité d'une réflexion éthique et sécuritaire approfondie. Alors que les capacités de l'IA continuent de s'étendre, la question de savoir si l'humanité est prête à gérer les systèmes qu'elle est en train de créer reste plus pertinente que jamais.