Nous rejoindre sur les réseaux

Société

Jacob Coxon ne veut pas que l’IA soit pilotée par le profit

Jacob Coxon, ancien d’Anthropic, dénonce une industrie de l’IA devenue une machine à profit. Pour ce chercheur de 27 ans, le danger n’est plus seulement…

Article

le

Jacob Coxon ne veut pas que l’IA soit pilotée par le profit

Jacob Coxon, ancien d’Anthropic, dénonce une industrie de l’IA devenue une machine à profit. Pour ce chercheur de 27 ans, le danger n’est plus seulement technique, il est politique.

Jacob Coxon est devenu une figure connue en claquant la porte d’Anthropic. Ce Britannique de 27 ans, chercheur en intelligence artificielle, reprochait à ses employeurs de « jouer avec nos vies ». Il juge aujourd’hui « dingue » que cette technologie puissante soit développée par des géants à but lucratif. Il s’est exprimé devant le siège d’Anthropic à San Francisco, au moment où des manifestants réclamaient d’« interdire l’IA qui développe elle-même l’IA », avec le risque de sortir l’humain de l’équation. Son ancienne entreprise faisait alors une entrée record en Bourse, avec une valorisation d’environ 1 270 milliards de dollars.

Son parcours donne du poids à ses mises en garde. Diplômé de Cambridge, il a passé trois ans chez OpenAI sur le pré-entraînement des modèles, cette étape où ils absorbent d’immenses quantités de données. Il a ensuite travaillé quelques mois chez Anthropic. Sa démission, annoncée publiquement, a fait le tour du monde. Il accusait les deux entreprises de foncer « tout droit vers une superintelligence capable de s’améliorer elle-même ». Il écrivait aussi que les gens qui construisent l’IA croient sincèrement qu’elle pourrait tous nous tuer d’ici la fin de la décennie.

Le mécanisme qu’il pointe, l’auto-amélioration récursive, ou RSI, désigne des IA qui fabriquent des IA plus intelligentes. Pour lui, on peut ainsi compresser des décennies de recherche en quelques mois. Et si nous ne comprenons pas l’IA, cela mène à des systèmes potentiellement très dangereux et très avancés d’ici la fin de la décennie. Il insiste sur un point. Anthropic doit refuser de faire de la RSI. Il accuse même l’entreprise de vouloir s’y lancer très vite.

L’argent complique le tableau. Jacob Coxon a démissionné avant d’acquérir ses actions Anthropic, mais il détient toujours des parts d’OpenAI, qui pourraient valoir une fortune si l’entreprise entre en Bourse comme prévu. La plupart de ses anciens collègues viennent de devenir multimillionnaires. Lui a d’abord qualifié ses actions d’« argent du sang », avant de lâcher « J’aime l’argent, mec », ce qui lui a valu des moqueries. Il a ensuite fait volte-face et promet de donner tout le produit de ses actions à des organisations de sécurité de l’IA, sans préciser encore les bénéficiaires. Il veut désormais travailler pour une organisation à but non lucratif, peut-être en recherche prospective. Idéalement, il aimerait faire de la recherche en sécurité, mais il estime manquer de temps.

Pour lui, le cœur du problème a changé de nature. Ce n’est plus un problème technique, c’est un problème politique. La seule chose qui ralentira les entreprises d’IA, c’est l’action politique. Il ajoute qu’OpenAI et Anthropic n’ont pas d’autre choix que de se coordonner et de ralentir, tant le rythme est rapide. Aux utilisateurs de chatbots, il conseille de continuer à s’en servir. C’est une technologie utile, mais les chatbots ne sont pas la forme finale de cette technologie. Ces outils évoluent vers des systèmes très performants et polyvalents qui accompliront tous les aspects du travail humain. Il invite chacun à réfléchir aux conséquences et, éventuellement, à se mobiliser politiquement.

Il assure aller bien, malgré une fatigue visible. Il dit avoir été très surpris par tout cela, mais l’état du monde lui fait bien plus peur que les remous de sa vie personnelle.

À lire aussi

Click to comment

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Les + Lus