Partager:
Les PDG de la tech sont engagés dans une « course aux armements » dotés d’intelligence artificielle qui risque d’anéantir l’humanité, a mis en garde mardi, dans un entretien à l’AFP, Stuart Russell, éminent chercheur en informatique, appelant les gouvernements à intervenir pour freiner la cadence.
M. Russell, professeur à l’Université de Californie, Berkeley, présent au Sommet international de l’IA à New Delhi, affirme que les dirigeants des plus grandes entreprises d’IA comprennent les dangers posés par des systèmes super-intelligents qui pourraient un jour surpasser les humains.
Selon lui, la responsabilité de sauver l’espèce incombe aux gouvernements, capables d’agir collectivement.
« Permettre à des entités privées de jouer, en substance, à la roulette russe avec chaque être humain sur terre est, à mes yeux, une totale défaillance du devoir », a déclaré Stuart Russell, une voix qui pèse au sujet de la sûreté de l’IA.
Un risque qui doit être pris en compte
Les pays et les entreprises dépensent des centaines de milliards de dollars pour construire des centres de données énergivores destinés à entraîner et faire fonctionner des outils d’IA générative.
Cette technologie en plein essor promet des avancées comme la découverte de médicaments, mais pourrait aussi entraîner des pertes d’emplois, faciliter la surveillance et les abus en ligne, entre autres menaces. À cela s’ajoute le risque que « les systèmes d’IA eux-mêmes prennent le contrôle et que la civilisation humaine soit un dommage collatéral de ce processus », a indiqué le professeur lors d’un entretien au Sommet AI Impact.
« Chacun des PDG des principales entreprises d’IA, je crois, veut désarmer », mais ne peut le faire « unilatéralement » car ils seraient limogés par les investisseurs, a-t-il dit. « Certains l’ont dit publiquement et d’autres me l’ont confié en privé », a-t-il ajouté, notant que même Sam Altman, patron d’OpenAI, créateur de ChatGPT, a déclaré publiquement que l’IA pourrait conduire à l’extinction de l’humanité.
OpenAI et la startup américaine rivale Anthropic ont connu des démissions publiques de salariés qui ont exprimé leurs préoccupations éthiques. Anthropic a aussi averti la semaine dernière que ses derniers modèles de chatbot pouvaient être poussés à « soutenir sciemment – de manière limitée – des efforts de développement d’armes chimiques et d’autres crimes odieux ».
« Il est vraiment utile que chacun des gouvernements comprenne cet enjeu. C’est pour cela que je suis ici », a déclaré M. Russell.
