Aller au contenu

Marcus Hutter

Un article de Wikipédia, l'encyclopédie libre.
Marcus Hutter
Image
Biographie
Naissance
Voir et modifier les données sur Wikidata (59 ans)
MunichVoir et modifier les données sur Wikidata
Nationalités
Formation
Activités
Autres informations
A travaillé pour
Maître
Directeur de thèse
Harald Fritzsch (en)Voir et modifier les données sur Wikidata
Site web

modifier - modifier le code - modifier WikidataDocumentation du modèle

Marcus Hutter (né le à Munich) est professeur, conférencier, auteur et chercheur en intelligence artificielle à l'Australian National University. Depuis le début des années 2000, il étudie les fondements mathématiques de l'intelligence artificielle générale, notamment en tant que chercheur chez Google DeepMind[1],[2].

Fin aout 2026, avec d'autres collègues de Google DeepMind, il affirme qu'« au cours de la dernière décennie, la construction d'une intelligence artificielle générale au niveau humain est passée d'une spéculation invraisemblable à une cible concrète de la prochaine décennie pour nombre des plus grandes organisations d'IA »[3].

Carrière

[modifier | modifier le code]

Marcus Hutter étudie la physique et l'informatique à l'Université technique de Munich.

En 2000, il rejoint le groupe de Jürgen Schmidhuber à l'Institut Dalle Molle d'études sur l'intelligence artificielle à Manno, en Suisse[4],[5]. Il devient l'un des principaux théoriciens de l'intelligence artificielle générale et développe un formalisme mathématique de l'intelligence artificielle générale, nommé AIXI[6].

Il travaille aussi en tant que professeur à l'Université nationale australienne[6].

Recherche

[modifier | modifier le code]

À partir de 2000, alors que Raymond Kurzweil affirme que les ordinateurs pourraient bientôt dépasser l'intelligence humaine, et qu'il parle d'un « âge des machines qui pensent » (The age of spiritual machines: When computers exceed human)[7], Marcus Hutter développe, publie ou co-publie de nombreux travaux de recherche[8]. visant notamment à définir ce que peut être l'intelligence machine[9].

Il encadre à l'IDSIA[10] Shane Legg, un doctorant qui travaille sur les modèles théoriques de machines superintelligentes (« AIXI ») ; un travail qui se conclut en 2008 par la thèse de doctorat de S Legg intitulée « Machine Super Intelligence »[5],[11]. Dans ce cadre, ayant constaté qu'en dépit de décennies de recherches, il n'existe toujours pas de définition standard ou consensuelle de l'intelligence (ce qui conduit certains à penser qu'elle ne peut être qu'approximée) il décide avec son doctorant de collecter et analyser le corpus des nombreuses définitions déjà proposées de l'intelligence[12],. Ils y observent des convergences fortes, souvent exprimées différemment mais renvoyant aux mêmes idées, et en tirent une définition générale et formelle de l'intelligence qu'ils dénomment intelligence universelle, que l'on peut étroitement relier, selon eux, à la « théorie des agents d'apprentissage optimaux »[12] (un cadre formel qui porte sur comment un agent peut apprendre et agir de manière optimale dans n'importe quel environnement, en maximisant une récompense à long terme. Cette théorie liste les propriétés des meilleurs agents possibles : ceux qui apprennent le plus vite, prédisent vite et avec le plus de justesse, et prennent les décisions les plus efficaces ...selon des critères mathématiques supposés permettre l'objectivité)[13]. De manière simplifiée, et pour le cadre de l'intelligence machine, l'intelligence est, selon eux, « lune propriété qu'un agent possède quand il interagit avec son ou ses environnements ; elle est liée à la capacité de l'agent à réussir ou à tirer profit en fonction d'un objectif ou d'un but donné ; elle dépend de la faculté de l'agent à s'adapter à des objectifs et à des environnements différents »[14]. Bref, « l'intelligence mesure la capacité d'un agent à atteindre des buts dans une grande variété d'environnements »[14],[9],[15]. Shane Legg sera plus tard l'un des cofondateurs de DeepMind Technologies (qui sera rachetée par Google et rebaptisé Google DeepMind).

En 2005, Hutter explique dans son livre Universal Artificial Intelligence (sous-titré :Sequential Decisions Based on Algorithmic Probability) que créer une intelligence artificielle (IA) capable d'égaler ou de dépasser l'intelligence humaine est un rêve ancien, qui l'a personnellement motivé depuis sa jeunesse. Hutter considère ce défi comme crucial, car une telle avancée aurait des conséquences majeures pour la société. Selon lui une telle IA (capables de traiter des informations en entrée et de produire des actions en sortie, avec de nombreuses capacités dont la créativité, la résolution de problèmes, l'apprentissage, la reconnaissance de formes ou l'adaptation à un environnement) est un projet réalisable dans le temps de sa vie[16].

Il se consacre à l'élaboration d'une large théorie mathématique de l'intelligence artificielle générale (AIXI), basée sur des agents intelligents idéalisés, et sur l'apprentissage par renforcement[17],[18],[5].

En 2019, Hutter rejoint DeepMind, recruté par Shane Leeg[2].

Avec plusieurs de ses collègues, dans un article intitulé Language modeling is compression, il montre là quel pmoint les grands modèles de langage, grâce à leurs capacités prédictives, sont aussi d'excellents « compresseur »s, parfois meilleurs que des outils spécialisés (comme PNG ou FLAC). Or, précisent-il, l'« équivalence » entre prédiction et compression permet de transformer n'importe quel compresseur en modèle génératif conditionnel, ce qui offre de nouvelles perspectives pour le scaling (augmentation du nombre des paramètres, et des effets d'échelle), la tokenisation et l'apprentissage en contexte[19].

Il s'est aussi intéressé aux risques et problèmes de sécurité posés par le développement d'une intelligence artificielle générale (AGI) et a fortiori pour une superintelligence artificielle[3]. Par exemploe, dès 2005, il publie avec son doctorant Shane Legg un test d'intelligence pour les systèmes d'IA[20]. Puis en 2018, alors qu'il est encore difficile d'imaginer ce que sera l'AGI (en raison de nos connaissances limitées et des incertitudes quand à l'avenir), il a contribué à une revue d'études sur les prédictions et hypothèses disponibles (par exemple à propos de a date d'apparition de cette AGI, des scénarios qui pourraient advenir après sa création, et concernant l'état des politiques publiques relatives à l'AGI[21].
Avec Mary Phuong et al. en mars 2024, il contribue à évaluer les risques d'un nouveau système d'IA via des tests de “capacités dangereuses” (comme la compoétence de persuasion, de piratage, d'auto‑réplication ou de raisonnement autonome), qu'ils ont appliqués à Gemini 1.0 sans y trouver de dangers majeurs, mais avec quelques signaux d'alerte. Les auteurs préparent une méthode scientifique plus solide pour évaluer les futurs modèles qui montrent des indices de possible désalignement[22].

En 2022, il co-écrit un article affirmant que « le déploiement d'un agent d'apprentissage par renforcement suffisamment avancé serait probablement incompatible avec la survie de l'humanité à long terme »[23],[24].

Selon lui (en 2024), le cadre de l'« Universal Artificial Intelligence » (UAI) définit formellement ce que signifie « agir intelligemment » dans un environnement inconnu, en unifiant la Théorie de la décision dans l'incertain, l'inférence bayésienne et l'information algorithmique pour construire l'AIXI, l'agent théorique optimal en apprentissage par renforcement. Dans un livre intitulé xxxxx , avec David Quarel et Elliot Catt, Hutter présente cette base conceptuelle (et ses approximations pratiques), puis discute les aspects philosophiques qui découlent de la possibilité (de l'inévitabilité ?) et des conséquences du développement asymptotique de l'IA, pouvant conduire à la création d'une intelligence artificielle générale.

En aout 2026, lui et plusieurs de ses collègue de Google DeepMind, dans un rapport de prospective et defuturologie, cherchent à anticiper « comment l'IA elle-même pourrait continuer à se développer dans un monde post-AGI, le long du continuum de l'intelligence artificielle », et selon eux « le point final de ce continuum, l'IA universelle, est théoriquement bien compris », ce qui permet aux auteurs d'envisager quatre voies potentielles pour un passage de l'AGI à l'ASI : le changment d'échelle de l'AGI, des changements de paradigme de l'IA, l'amélioration autorécursive, et l'émergence d'une ASI à partir de collectifs multi-agents à grande échelle[3].

Point de vue sur la superintelligence

[modifier | modifier le code]

En 2021, M. Hutter dans un article[25] co-écrit avec Reinhard Hutter estime que l’IA — comme toute présente à la fois des risques et un potentiel considérable, et qu'il est possible de tirer parti de ses bénéfices tout en limitant ses dangers, ce qui exige toutefois des investissements importants dans la recherche, la cybersécurité et sécurité de l'IA, la coopération humain‑machine, la gestion des risques et la redistribution de la valeur créée. Il décrit deux « états finaux » possibles :

  1. une substitution massive et non contrôlée de nombreuses activités humaines entraînant chômage, inégalités et perte de cohésion sociale, ou au contraire ;
  2. une libération des tâches routinières permettant des sociétés plus éthiques, autonomes et centrées sur des valeurs humaines

... avec une possible combinaisons intermédiaires, selon les contextes politiques et sociaux.

En 2026 (5 ans plus tard), dans un entretien pour LinkedIn Deutschland, Hutter estime que la superintelligence ne relève plus de la science fiction, et qu'elle est une question mathématique et d'ingénierie. Selon lui, le risque principal ne viendra pas d'une “volonté hostile” de l'IA, mais de la vitesse d'auto‑amélioration récursive, dès que les humains ne contrôleront plus ce processus. Il estime que les systèmes d'IA actuels (mi-2026) peuvent déjà automatiser environ la moitié des tâches de bureau, ce qui rend la transition vers des systèmes s'auto‑améliorants plus plausible qu'il ne le pensait quelques années plus tôt[26].

Prix Hutter

[modifier | modifier le code]

En 2006, Hutter annonce le prix Hutter pour la compression sans perte des connaissances humaines, représentant un montant total de 50 000 €[27],[28]. En 2020, Hutter a augmenté le montant du prix Hutter à 500 000 €[5].

Références

[modifier | modifier le code]
  1. ↑ (en) « HomePage of Marcus Hutter »
  2. 1 2 (en) « TIME100 AI 2023: Shane Legg », Time, (consulté le )
  3. 1 2 3 (en) Genewein, T., Franklin, M., Lerchner, A., Orseau, L., Albanie, S., Bales, A. et al., « From agi to asi. », (consulté le )
  4. ↑ (en) « Marcus Hutter », aiandsociety.org, (consulté le )
  5. 1 2 3 4 (en) Ram Sagar, « Compress Data And Win Hutter Prize Worth Half A Million Euros », sur Analytics India Magazine, (consulté le )
  6. 1 2 (en) « Professor Marcus Hutter », Australian National University (consulté le )
  7. ↑ Kurzweil, Robert (2000). The age of spiritual machines: When computers exceed human intelligence. Penguin.
  8. ↑ « Fiche de Marcus Hutter sur Google Scholar », sur scholar.google.fr (consulté le )
  9. 1 2 (en) Shane Legg et Marcus Hutter, « Universal Intelligence: A Definition of Machine Intelligence », Minds and machines, vol. 17, no 4,‎ , p. 391–444 (ISSN 0924-6495 et 1572-8641, DOI 10.1007/s11023-007-9079-x).
  10. ↑ Shead, Sam, « DeepMind's Elusive Third Cofounder is the Man Making Sure that Machines Stay on our Side », Insider.com, (consulté le ) : « Before DeepMind, Legg spent several years in academia, completing a Post Doc in finance at the University of Lugano in Switzerland and a PhD at Dalle Molle Institute for Artificial Intelligence Research (IDSIA). He also held a research associate position at University College London's Gatsby Computational Neuroscience Unit and a number of software development positions at private companies like big data firm Adaptive Intelligence. »
  11. ↑ (en) « Seminar: Dr Shane Legg, "What can the architecture of the brain teach… », Oxford Martin School (consulté le ).
  12. 1 2 « A collection of definitions of intelligence (PDF, 12 pages) », sur scholar.google.fr, Frontiers in Artificial Intelligence and applications (consulté le )
  13. ↑ M. Hutter (2005). Universal Artificial Intelligence: Sequential Decisions based on Algorithmic Probability. Springer, Berlin. http://www.hutter1.net/ai/uaibook.htm. 300 pages
  14. 1 2 Shane Legg et Marcus Hutter, A Collection of Definitions of Intelligence (voir chap.5 intitulé Is a single definition possible?), (DOI 10.48550/arXiv.0706.3639, lire en ligne)
  15. ↑ (en) Ben Goertzel et Pei Wang, Advances in Artificial General Intelligence: Concepts, Architectures and Algorithms : Proceedings of the AGI Workshop 2006, IOS Press (ISBN 978-1-58603-758-1, lire en ligne)
  16. ↑ Marcus Hutter, Universal Artificial Intellegence, Springer Berlin Heidelberg, coll. « Texts in Theoretical Computer Science An EATCS Series » (ISBN 978-3-540-22139-5 et 978-3-540-26877-2, DOI 10.1007/b138233)
  17. ↑ (en) Marcus Hutter, A Theory of Universal Artificial Intelligence based on Algorithmic Complexity, (Bibcode 2000cs........4001H, arXiv cs.AI/0004001, lire en ligne)
  18. ↑ (en) Marcus Hutter, « To create a super-intelligent machine, start with an equation », sur The Conversation, (consulté le )
  19. ↑ (en) Delétang, G., Ruoss A., Duquenne, P. A., Catt, E., Genewein, T., Mattern, C. et al., « Language modeling is compression », Actes de la conférence ICLR 2024,‎ (lire en ligne [PDF], consulté le )
  20. ↑ (en) Graham-Rowe, « IQ test for AI devices gets experts thinking », New Scientist, (consulté le )
  21. ↑ Tom Everitt, Gary Lea et Marcus Hutter, AGI Safety Literature Review, (DOI 10.48550/arXiv.1805.01109)
  22. ↑ Mary Phuong, Matthew Aitchison, Elliot Catt et Sarah Cogan, Evaluating Frontier Models for Dangerous Capabilities, (DOI 10.48550/arXiv.2403.13793).
  23. ↑ (en) Marcus Hutter et Michael K. Cohen, « The danger of advanced artificial intelligence controlling its own feedback », sur The Conversation, (consulté le )
  24. ↑ (en) Michael K. Cohen, Marcus Hutter et Michael A. Osborne, « Advanced artificial agents intervene in the provision of reward », AI Magazine, vol. 43, no 3,‎ , p. 282–293 (ISSN 0738-4602, DOI 10.1002/aaai.12064, lire en ligne)
  25. ↑ (en) Reinhard Hutter et Marcus Hutter, « Chances and Risks of Artificial Intelligence—A Concept of Developing and Exploiting Machine Intelligence for Future Societies », Applied System Innovation, vol. 4, no 2,‎ , p. 37 (ISSN 2571-5577, DOI 10.3390/asi4020037)
  26. ↑ (de) « Marcus Hutter über Superintelligenz: Die vier Pfade von AGI zu ASI », sur de.linkedin.com (consulté le )
  27. ↑ (en) Ted Chiang, « ChatGPT Is a Blurry JPEG of the Web », The New Yorker,‎ (lire en ligne, consulté le )
  28. ↑ (en) Marcus Hutter, « 50'000€ Prize for Compressing Human Knowledge », hutter1.net (consulté le )

Voir aussi

[modifier | modifier le code]

Articles connexes

[modifier | modifier le code]

Liens externes

[modifier | modifier le code]

Bibliographie

[modifier | modifier le code]

Vidéographie

[modifier | modifier le code]
- Foundations of Intelligent Agents
- Universal Artificial Intelligence (AGI 2010)
- Foundations of Machine Learning (MLSS 2008)
- Can Intelligence Explode? (Singularity Summit),
Ce document provient de « https://fr.wikipedia.org/w/index.php?title=Marcus_Hutter&oldid=240296672 ».