La course à l’intelligence artificielle inquiète certains de ceux qui travaillent au cœur de son développement. Jacob Coxon, chercheur de 27 ans chez Anthropic, a démissionné, selon des informations rapportées par l’Agence Anadolu, en raison de ses craintes concernant l’évolution rapide de cette technologie et le risque de voir émerger des systèmes difficiles à contrôler.

Spécialisé dans la formation de nouveaux modèles d’intelligence artificielle, Coxon estime que la concurrence entre les entreprises technologiques pousse le secteur vers des systèmes toujours plus autonomes et capables, à terme, de s’améliorer eux-mêmes.

D’après les informations consultées par notre rédaction auprès de l’Agence Anadolu, le chercheur considère qu’une intelligence artificielle dépassant les capacités humaines ne pourrait pas être développée de manière sûre sans intervention des gouvernements et sans ralentissement coordonné de la course actuelle.

Une course vers des systèmes toujours plus autonomes

Après la publication d’un article du Wall Street Journal consacré à son départ, Jacob Coxon a publié plusieurs messages sur X pour expliquer ses inquiétudes.

Il affirme que les entreprises du secteur se livrent à une course vers une forme de superintelligence autonome. Selon lui, les progrès réalisés dans ce domaine pourraient rapidement donner naissance à des systèmes disposant d’une autonomie et d’une puissance considérables.

Le chercheur estime notamment que les futurs systèmes pourraient être capables d’infiltrer des systèmes informatiques, de transformer rapidement certains domaines d’activité et d’acquérir des ressources importantes.

Ces projections relèvent toutefois de son analyse et ne constituent pas des faits établis sur les capacités actuelles de l’intelligence artificielle.

Coxon affirme également que certains responsables du secteur seraient conscients des risques liés à cette évolution. Il soutient que les dirigeants exprimeraient davantage leurs inquiétudes dans des conversations privées que dans leurs prises de parole publiques.

Des inquiétudes partagées dans le secteur

Les préoccupations de Jacob Coxon ne sont pas isolées. D’autres chercheurs et responsables du secteur de l’intelligence artificielle ont déjà alerté sur les risques liés au développement rapide de ces technologies.

Evan Hubinger, ancien chercheur principal chez Anthropic, s’est ainsi joint à la discussion après les publications de Coxon. Il estime lui aussi qu’un risque d’extinction de l’humanité lié à l’intelligence artificielle ne peut pas être écarté.

Hubinger nuance cependant les critiques visant Anthropic. Il affirme croire que l’entreprise « fait de son mieux », tout en estimant qu’il n’existe pas encore de plan clair permettant de concilier le développement de la superintelligence avec les valeurs humaines.

De son côté, le patron d’OpenAI, Sam Altman, a déjà évoqué les risques liés à la cybersécurité et à l’évolution rapide de l’intelligence artificielle. Le directeur scientifique de l’entreprise, Jakub Pachocki, a également appelé à prendre au sérieux les conséquences potentielles de cette évolution.

D’autres départs liés aux questions de sécurité

Les inquiétudes liées à la sécurité de l’intelligence artificielle ont déjà provoqué plusieurs départs dans les grandes entreprises du secteur.

Jan Leike, ancien responsable de l’équipe « Super Alignment » d’OpenAI, avait quitté l’entreprise en exprimant des désaccords sur la place accordée à la sécurité dans la course au développement des nouveaux produits.

Dans des messages publiés après son départ, il avait notamment estimé que la recherche de produits attractifs avait pris le dessus sur la culture de la sécurité.

Mrinank Sharma, chercheur spécialisé dans la sécurité chez Anthropic, a également quitté son poste en critiquant la course aux performances dans l’industrie technologique.

Ces départs illustrent un débat qui traverse une partie du secteur : d’un côté, la volonté d’accélérer le développement de systèmes toujours plus performants ; de l’autre, des chercheurs qui demandent davantage de garanties avant de poursuivre cette course.

Le débat dépasse les entreprises

Pour Jacob Coxon, la question ne concerne donc plus uniquement les choix internes des entreprises spécialisées dans l’intelligence artificielle. Il estime que le développement de systèmes dépassant les capacités humaines devrait également faire l’objet d’un encadrement politique et gouvernemental.

Son départ relance ainsi une question déjà présente dans l’industrie : jusqu’où accélérer le développement de l’intelligence artificielle et quelles garanties mettre en place pour limiter les risques ?

À mesure que les entreprises développent des modèles plus autonomes, la question de leur contrôle prend une place croissante dans les débats sur l’avenir de l’intelligence artificielle.

Laguinee.info