En mars 2023, plus de 1 000 experts dans le domaine ont signé une lettre ouverte demandant aux laboratoires d’IA de suspendre le développement de systèmes d’intelligence artificielle plus avancés que GPT-4 en raison des implications qu’ils pourraient avoir sur les activités humaines. Apparemment sans grand succès.
L’intelligence artificielle continue d’évoluer rapidement ces derniers mois, au point que des experts comme Demis Hassabis estiment que dans quelques années nous pourrions développer des cerveaux électroniques dotés d’une intelligence similaire à celle des humains. On parle d’intelligence artificielle forte ou d’intelligence artificielle générale (AGI) dotée des mêmes capacités de compréhension et de communication que les êtres humains. Mais de là à l’apparition de cerveaux superintelligents, il n’y a qu’un pas.
Qu’est-ce que la superintelligence artificielle ?
La superintelligence fait référence à une hypothétique intelligence artificielle qui surpasserait de loin l’intelligence humaine dans pratiquement tous les domaines de la connaissance. Cela inclurait des capacités telles que la vitesse de traitement, la mémoire, l’apprentissage, le langage, la résolution de problèmes, la créativité, entre autres. Essentiellement, il s’agirait d’un esprit artificiel du plus haut niveau possible, doté de l’autonomie nécessaire pour prendre ses propres décisions, y compris la capacité de s’améliorer.
Certains chercheurs pensent que la superintelligence artificielle (ASI) pourrait être atteinte au cours de ce siècle grâce au haut niveau d’évolutivité des ingrédients fondamentaux de l’intelligence artificielle tels que les réseaux de neurones profonds, l’apprentissage automatique et le cloud computing. Ce super-cerveau artificiel conduirait notre civilisation sur des chemins difficiles à prévoir.
D’une part, une ASI caritative pourrait aider l’humanité à résoudre des problèmes tels que le changement climatique, la faim ou la maladie. Mais il y a aussi la peur qu’il soit impossible de contrôler une intelligence des milliers de fois plus grande et qu’elle échappe à notre compréhension. Ceux qui mettent en garde contre les conséquences catastrophiques si les objectifs de l’ASI ne sont pas alignés sur les intérêts humains ne manquent pas.
La superintelligence artificielle est probablement le concept technologique qui comporte le plus d’inconnues et de défis éthiques. Mais c’est un débat qui doit rester ouvert. Une surveillance étroite de ce domaine est la meilleure stratégie pour garantir que nous développons une IA sûre et bénéfique.