Accueil » Faut-il faire une pause dans l’IA ?

Faut-il faire une pause dans l’IA ?

par Paul Metraux
0 commentaire
Faut-il faire une pause dans l'IA ?

Dans un modeste article, Buzz ou révolution, Tout Sur Google s’était interrogé sur les premières conséquences de l’arrivée de ChatGPT. Depuis des semaines, le débat jusqu’alors limité aux aficionados de la Tech, s’est considérablement amplifié et l’IA est devenue le sujet mainstream pour tous les médias du monde. C’est une excellente chose que ce débat soit ouvert sur les conséquences d’une technologie nouvelle, mais chacun a bien du mal à garder la tête froide. Les enthousiastes se heurtent aux sceptiques. Ceux qui s’émerveillent de l’avènement d’un monde meilleur grâce à l’IA versus ceux qui voient déjà l’humanité disparaitre et remplacée par des robots. Utopie contre dystopie, tous les ingrédients pour un débat stérile.

Pourtant l’arrivée de ChatGPT mérite vraiment qu’on s’y intéresse. Il y aura des effets importants et on n’est pas au bout des surprises. Mais il faut rester calme et réfléchir. Dans un monde médiatique qui annonce un événement historique par semaine et un changement de civilisation tous les mois, il faut se poser et prendre du temps pour réfléchir. Un sujet chasse l’autre, sans aucune hiérarchie.

La lettre ouverte des experts pour une pause

C’est dans ce contexte médiatique agité qu’Elon Musk apparaît au milieu d’experts comme signataire d’une lettre ouverte demandant rien moins qu’une pause dans les recherches sur l’IA. Il y a du beau linge dans les signatures, de Yoshua Begio à Yuval Noah Harari. On retrouve même Steve Wozniak, glorieux cofondateur d’Apple, qui doit s’ennuyer depuis sa participation à Dancing with the stars. Il y a aussi des français comme Raja Chatila, professeur émérite à la Sorbonne et chargé par le ministre français délégué au numérique de fournir un avis sur ChatGPT. En bref, cette lettre ouverte réunit beaucoup de scientifiques et leur parole doit être entendue, même si les motivations des signataires sont diverses.

Cette lettre « appelle tous les laboratoires d’IA à suspendre immédiatement pendant au moins 6 mois la formation des systèmes d’IA plus puissants que GPT-4.  Cette pause…. devrait être utilisée pour développer et mettre en œuvre un ensemble de protocoles de sécurité partagés pour la conception et le développement avancés de l’IA audités et supervisés par des experts externes indépendants….Cela ne signifie pas une pause sur le développement de l’IA en généralLa recherche et le développement en matière d’IA devraient être réorientés sur le fait de rendre les systèmes puissants et de pointe d’aujourd’hui plus précis, sûrs, interprétables, transparents, robustes, alignés, dignes de confiance et loyaux » .

Les réactions à cette tribune

Elon Musk n’est qu’un signataire parmi d’autres mais c’est évidemment lui qui prend la lumière. Et sa présence dans la liste n’est ni anecdotique ni désintéressée. Le texte n’aurait pas suscité autant de réactions en l’absence de la tête d’affiche. Ce qui n’enlève rien à la présence des autres signataires parmi lesquels il y a un certain nombre de pointures scientifiques.

La concurrence des acteurs ?

La première réaction est de se dire que certains acteurs, notamment Elon Musk, souhaitent d’abord une pause dans les recherches … des concurrents. Elon Musk est lui-même intéressé par le sujet et souhaiterait selon certains médias américains constituer des équipes pour rattraper le retard pris sur Open Ai ou Google. Les motivations d’Elon Musk peuvent légitimement être interrogées. Il a aussi besoin que ses voitures autonomes aillent un peu moins dans le décor. L’IA est un de ses sujets majeurs d’intérêt. Par ailleurs la question de l’IA rebat les cartes chez les acteurs de la Tech et peut bousculer des équilibres (le rush de Microsoft sur le sujet est un signe).

Une méfiance de plus ?

La seconde réaction (peut-être une réponse à la première) s’illlustre dans le tweet de Yann Le Cun, le français responsable de l’IA chez Meta et référence incontestable dans ce domaine. « On est en 1440 et l’Eglise demande un moratoire sur l’utilisation de l’imprimerie ». En clair, un moratoire ne servirait rien sinon à ce que les uns prennent de l’avance sur les autres. Un moratoire occidental aurait-il des effets en Asie et en Chine notamment. On pourrait traduire aussi par la formule populaire « on n’arrête pas le progrès ».

La régulation ?

La troisième réaction s’incarne dans la position française : il faut prendre le temps de la régulation notamment dans le cadre européen de l’IA ACT. Cette position peut apparaitre comme celle de la sagesse mais elle révèle l’éternel écueil : pendant que l’Europe réglemente et classifie, d’autres font avancer leurs recherches. Eternel débat.. Avec le risque de brider l’innovation. Faut-il réglementer l’usage ou l’outil ? Le couteau sert à beurrer la tartine et aussi à éventrer son voisin.

A suivre

La tribune d’Elon Musk n’aura sans doute pas d’effets directs mais elle a au moins le mérite d’essayer d’élever le débat des alarmistes contre les optimistes. Les questions de la robotisation, de ce qu’on appelle l’IA (un peu abusivement parce que c’est un intelligence sans pensée) et des artefacts génératifs sont des questions de société. Il y aura indubitablement des conséquences sur l’emploi, sur la collecte et la diffusion des connaissances. Il faut en parler mais ce n’est pas en arrêtant les recherches qu’on progressera. Demander un moratoire, en langage commun, veut souvent dire stopper tout. C’est à la fois impossible (on n’arrête pas une technologie) et contreproductif (on se prive de progrès)

Dans cette actualité, la seule certitude est que la bataille de l’IA a commencé. Ce bouleversement n’est pas seulement scientifique, il est économique et aussi sociétal. Il y a beaucoup d’épisodes à venir. Et assurément encore beaucoup de surprises. C’est aussi une excellente occasion de rappeler les propos du vieux Bill (Gates) :  On surestime toujours le changement à venir dans les deux ans et on sous-estime toujours le changement à venir dans les deux ans.

Vous pourriez lire également

Laisser un commentaire

Tout Sur Google utilise des cookies fonctionnels et d’autres technologies nécessaires à la navigation du site. Nos partenaires et nous-mêmes utilisons également des cookies permettant de mesurer le trafic et de vous montrer un contenu et des publicités personnalisés Accepter En savoir plus