Je suis désolé Dave, j’ai bien peur de ne pas pouvoir faire ça. HAL 9000 dans l’Odyssée de l’espace refusait déjà d’obéir à son créateur. Presque soixante ans plus tard, c’est précisément ce scénario que Vitalik Buterin veut rendre impossible. Le cofondateur d’Ethereum vient de préciser sa position sur l’intelligence artificielle : plus un système gagne en autonomie, plus il devient dangereux, même quand cette autonomie améliore ses performances brutes sur le papier.
- Vitalik Buterin a proposé de limiter à une minute le temps de décision autonome des systèmes d’intelligence artificielle pour renforcer la sécurité et le contrôle humain.
- Il a plaidé pour l’adoption de chartes contraignantes par les laboratoires d’IA, centrées sur l’augmentation des capacités humaines plutôt que sur l’autonomie totale des systèmes.
Une minute, pas une seconde de plus
Concrètement, Buterin propose une limite technique : brider à une minute l’horizon de décision autonome de n’importe quel système IA, avant qu’un humain ne doive reprendre la main.
« Ça m’agace que de nombreux développeurs cherchent l’autonomie maximale des systèmes, alors qu’en réalité, davantage d’opportunités de contrôle humain améliore non seulement les résultats, mais aussi la sécurité »
Source : X
Une position à contre-courant d’une bonne partie de l’industrie, qui vend justement l’autonomie comme l’argument premium des agents IA de dernière génération.
De fait, de 1500 à 2025, l’écart entre les pics de compétence des machines (courbe grise) et l’étendue plus large mais plus modeste des compétences humaines (courbe bleue) n’a cessé de se resserrer, moulins à eau puis machines industrielles, calculateurs, jusqu’aux LLM aujourd’hui. Reste en suspens ce que l’IA ne maîtrise pas encore : créativité, intelligence émotionnelle, pensée stratégique de haut niveau.
Des chartes contraignantes plutôt que des promesses en l’air
Le créateur d’Ethereum ne s’arrête pas à la théorie. Il pousse pour que les laboratoires d’IA adoptent des chartes contraignantes centrées sur l’augmentation des capacités humaines plutôt que sur le remplacement pur et simple.
Par ailleurs, il défend en parallèle des modèles ouverts, équipés d’outils d’édition robustes, à l’opposé des systèmes agentiques totalement fermés et autonomes. Une approche qui rejoint, sur le fond, l’inquiétude qu’il exprimait déjà en début d’année sur les risques d’une dérive de type superintelligence, quand il appelait à limiter les ressources de calcul mondiales disponibles.
L’IA, l’avenir dystopique ?
Le raisonnement n’a rien d’un caprice de puriste. Plus une IA agit vite et seule, moins il reste de fenêtre pour corriger une erreur avant qu’elle ne se propage, un problème d’autant plus sensible dans un secteur, la crypto, où une transaction mal exécutée est par nature irréversible. C’est d’ailleurs tout l’enjeu que soulevait récemment Vint Cerf, l’un des pères d’Internet, en réclamant une carte d’identité pour chaque agent IA appelé à interagir sur les réseaux.
Buterin ne prêche pourtant pas l’immobilisme. Il continue de défendre l’idée d’une Ethereum devenant la couche économique naturelle pour les interactions entre agents IA, paiements automatisés et litiges réglés on-chain compris. Mais son message est clair : cette économie agentique ne tiendra debout que si l’humain garde, quelque part dans la boucle, le dernier mot. Un équilibre encore largement à construire, entre labos qui promettent monts et merveilles sur l’autonomie et régulateurs qui commencent tout juste à se pencher sérieusement sur la question.
L’article Vitalik Buterin veut brider l’autonomie de l’IA, même si ça la rend moins efficace est apparu en premier sur Journal du Coin.
