Mathématicien, Vernor Vinge est le théoricien de la « Singularité ». Selon cet ancien professeur de l’université de San Diego, l’ère humaine pourrait toucher à sa fin dans une trentaine d’années, lorsque les ordinateurs dépasseront notre intelligence...
D’où vient le concept de la « singularité » ?
Le terme « singularit » a certaines significations en physique et en mathématique. Par exemple, dans la théorie de la relativité, les scientifiques utilisent le mot « singularité » pour désigner un lieu où leur modèle ne peut être étendu - sans doute un trou noir. Moi, j’utilise ce terme de manière plus limitée dans ma théorie. Il semble plausible que dans quelques décades, nous serons capables de fabriquer des créatures qui seront plus intelligentes que nous et plus créatives. Notre créativité, notre intelligence, nous distinguent du reste du règne animal et nous a permis d’inventer ce que nous appelons la technologie. Si des créatures plus évoluées que nous apparaissaient, il y aurait un immense changement : cela signifierait que nous ne serions plus au centre de l’univers créatif technologique. Et que tenter de prédire ce qui se passera, en science et en technologie, après cette date serait vain.
Concrètement, comment la singularité va-t-elle survenir ?
J’ai retenu quatre méthodes. L’une consiste à fabriquer un super ordinateur doté d’intelligence artificielle. L’autre méthode revient à fabriquer des réseaux d’ordinateurs. Une troisième est la manipulation biologique de notre propre matériel humain pour nous rendre plus intelligents. Et je pense que la quatrième est la combinaison, la collaboration très proche entre ordinateurs et humains. Il me semble que les quatre vont se mêler. Dès que les premières grandes découvertes se feront, il y aura une réaction en chaîne.
Vous semblez faire peu de cas de la biologie ?
Ce qui m’a probablement rendu moins fana des approches biologiques, c’est qu’elles sont automatiquement plus limitées. Quand on travaille sur la biologie - sauf si ce terme est pris dans une acception très large - on parle de vitesse maximale de neuropropagation de moins de quelques mètres par secondes, de capacité des éléments du cerveau à changer leur état au rythme de quelques changements d’état par milliseconde... Si nous pouvions comprendre comment le cerveau réalise ces opérations, il serait plus intéressant de reproduire ces processus via des médias qui sont intrinsèquement plus rapides. D’un autre côté, l’immense avantage des systèmes biologiques est qu’ils ont déjà résolu notre problème. Ils sont constitués par des centaines de millions de petits ordinateurs qui parviennent à se coordonner pour nous donner conscience de nous et de notre créativité. La biologie constitue donc un bon point de départ, même si ce n’était pas automatiquement l’endroit où nous dirigeons nos recherches.
Un neurone est-il beaucoup plus puissant que ce à quoi nous nous attendons ?
Pour moi, la question « un seul neurone est-il un bon ordinateur ? » n’a toujours pas de réponse. J’étais à une réunion organisée par Thinking Machines, en 1993. Tout le monde s’enthousiasmait pour l’intelligence artificielle. Mais, pour atteindre le niveau du cerveau, quelle puissance de calcu l fallait-il ? Quelqu’un pensait que le cerveau faisait moins que 10 000 fois la puissance du plus puissant des ordinateurs. C’était le plus extrême, le plus simplificateur. À l’opposé, il y avait ceux qui pensaient qu’un neurone individuel était plus puissant que le plus puissant ordinateur qu’on ait jamais conçu. Ils pensaient qu’il y avait à l’intérieur du neurone une structure faite pour le calcul. Dans ce cas, la loi de Moore devra continuer de courir pendant 70 ou 100 ans de plus pour arriver à ce niveau de puissance. Si les gens ayant une opinion médiane ont raison, la rencontre se fera dans dix ou 30 ans. Selon moi, la véritable question est : saurons-nous faire fonctionner de larges assemblées d’ordinateurs en réseaux, quelque chose comme 100 milliards de neurones ? Supposons qu’il soit facile de faire fonctionner les machines et de les relier, il reste à savoir les coordonner. Cela nous ramène au problème auquel les programmeurs actuels sont confrontés. Ils font de très grands réseaux d’ordinateurs, mais se heurtent au problème de la complexité logicielle.
Ces problèmes retardent-ils la singularité ou peuvent-ils l’interdire ?
Je pense que cela va au moins la retarder, et sans doute longtemps. Une fois que nous commencerons à avoir des ordinateurs plus puissants, nous utiliserons leur puissance pour nous aider à organiser nos connaissances. Nous ne programmerons plus ces vastes assemblées d’ordinateurs ; au lieu de cela, ce sera comme en biologie : nous les élèverons, les formerons, et, pendant ce temps, nous étudierons plus profondément la biologie. La biologie a montré comment résoudre ces problèmes. Cent milliards d’ordinateurs - c’est la biologie qui sait comment les relier. Cela signifie que c’est réalisable. Je ne suis pas du genre à dire que ça va sûrement se passer, mais c’est le scénario le plus probable.
Que devenons-nous avec l’intelligence superhumaine ? Restons-nous les maîtres ?
Il y a beaucoup de possibilités. L’une d’entre elles effrayante : nous pourrions devenir les animaux de nos machines. Or, nous n’avons jamais bien traité les animaux ! Une autre possibilité est le travail en équipe. Nous tenterons de collaborer avec les machines, afin que les découvertes bénéficient à chacun. Au fur et à mesure que le temps passera, la machine prendra davantage de place, mais le composant humain appartiendra toujours à l’équipe. Dans ce sens, j’utilise le terme d’« amplification de l’intelligence » à la place d’« intelligence artificielle ». C’est l’idée que nous deviendrons plus forts - comme la machine à vapeur et le train, qui vous permettent de courir plus vite que n’importe quel cheval et de voler plus vite que n’importe quel oiseau.
Une élite humaine deviendra-t-elle « posthumaine » tandis que les autres n’accèderont pas à l’amplification ?
Si cela se passe très vite, que vous soyez un scientifique ou un roi, vous ne dirigerez plus rien. Si cela se passe en douceur, c’est vrai que les techniciens seront en position de force. Mais je soupçonne que l’amplification sera plutôt une histoire d’attitude que d’argent. En Chine ou en Inde, des millions de gens n’ont pas besoin d’être riches pour s’intéresser à l’informatique.