Pepite Club

Dans son livre "Superintelligence", Nick Bostrom explore les nombreux défis et dangers associés au développement de l'intelligence artificielle, en particulier lorsque celle-ci atteint un niveau de capacités supérieures à celles des êtres humains.

Parmi les nombreuses questions soulevées par l'auteur, la sécurité est une préoccupation majeure. En effet, la création d'une superintelligence malveillante pourrait avoir des conséquences catastrophiques pour l'humanité.

Mais comment pouvons-nous garantir la sécurité tout en poursuivant le développement de cette technologie ?

Idée clé 1 : Le futur est-il en train de nous rattraper ?

L'histoire nous montre que les avancées technologiques majeures se produisent de plus en plus rapidement.

Et si la prochaine révolution était l'apparition d'une superintelligence, plus intelligente que les êtres humains ?

Cette avancée technologique aurait des implications radicales pour le monde tel que nous le connaissons.

Les machines que nous avons créées sont déjà capables d'apprendre et de raisonner à partir des informations fournies par les humains. Cependant, ces machines n'ont pas la "généralité" de l'intelligence humaine. Construire une machine superintelligente qui peut apprendre et agir sans l'aide d'un humain pourrait prendre des décennies.

Mais les avancées dans le domaine de l'intelligence artificielle se produisent rapidement. Une telle machine aurait une grande influence sur nos vies, avec une intelligence qui pourrait même devenir dangereuse. En effet, elle serait trop intelligente pour être désactivée en cas d'urgence.

La question est de savoir si nous devons craindre ou accueillir cette nouvelle avancée technologique. Mais une chose est sûre, elle bouleversera certainement le monde tel que nous le connaissons.

Idée clé 2 : L'évolution de l'Intelligence Artificielle : des origines à la Superintelligence

L'évolution de l'intelligence artificielle (IA) a connu des hauts et des bas ces dernières décennies. Depuis l'invention de l'ordinateur en 1940, les scientifiques cherchent à créer une machine capable de penser.

Des machines ont été développées pour résoudre des problèmes mathématiques ou pour écrire de la musique, mais les tâches plus complexes nécessitaient beaucoup plus d'informations que les machines ne pouvaient pas traiter à l'époque.

Dans les années 70, l'intérêt pour l'IA a diminué, mais est réapparu dans les années 80 avec le développement des systèmes experts basés sur des règles pour aider à la prise de décision. Cependant, la nécessité de maintenir de vastes banques de données a posé problème et l'intérêt est retombé.

Dans les années 90, les machines ont commencé à copier notre biologie en utilisant la technologie pour imiter nos structures neuronales et génétiques.

Aujourd'hui, l'IA est omniprésente, des robots chirurgicaux aux smartphones, en passant par les jeux d'échecs, de Scrabble et Jeopardy! où l'IA peut désormais battre les meilleurs joueurs humains.

Cependant, l'IA actuelle a ses limites : elle ne peut être programmée que pour un seul jeu et il n'y a pas d'IA capable de maîtriser tous les jeux.

Mais les experts prédisent que les enfants d'aujourd'hui pourraient voir l'avènement d'une superintelligence d'ici 30 ans, selon une enquête menée lors de la deuxième conférence sur l'intelligence artificielle générale à l'Université de Memphis en 2009.

Si cela se produit, cela changera la donne de manière radicale. Mais comment cela se passera-t-il et à quoi ressemblera le futur de l'humanité et de l'IA ? Seul l'avenir nous le dira.

Idée clé 3 : Comment construire une Super Intelligence en toute sécurité

Les scientifiques ont deux approches différentes pour créer une machine capable de reproduire l'intelligence humaine.

L'IA utilise la logique pour imiter les capacités complexes des humains, par exemple en jouant aux échecs en choisissant le meilleur coup en fonction des probabilités de gagner. Mais l'IA nécessite une quantité importante d'informations pour effectuer des tâches plus complexes. 

En revanche, l'émulation complète du cerveau humain (WBE : Whole Brain Emulation) consiste à recréer numériquement un cerveau humain complet dans un ordinateur, de sorte que l'émulation devienne indiscernable de l'original.

L'idée est que si nous pouvons numériser un cerveau et créer une simulation précise de ses processus cognitifs, nous pourrions transférer l'esprit d'une personne dans un environnement numérique, créant ainsi une forme d'immortalité.

Cette méthode pourrait contourner les limites de l'IA, mais les technologies nécessaires ne seront pas disponibles avant un certain temps.

Si les scientifiques travaillent en secret pour développer une SI, cela pourrait présenter des dangers pour l'humanité, car une machine SI unique pourrait tomber entre de mauvaises mains.

Cependant, si plusieurs groupes de scientifiques collaboraient, la création de SI serait plus sûre, notamment avec des réglementations gouvernementales strictes et des vérifications scientifiques approfondies.

Dans le passé, de grandes découvertes ont été réalisées soit par des scientifiques isolés, soit grâce à des collaborations internationales.

L'effort collaboratif pour créer une SI pourrait être comparable à celui du projet du génome humain, qui a réuni des scientifiques de différents pays pour cartographier l'ADN humain.

Mais la création d'une SI nécessite une surveillance publique étroite pour éviter tout risque de catastrophe.

Dans tous les cas, si l'humanité est en mesure de créer une SI, cela pourrait révolutionner notre façon de vivre. Il est donc important de travailler ensemble pour assurer la sécurité et le bien-être de tous.

Idée clé 4 : Comment éviter les risques liés à la création d'une Super Intelligence

La création d'une Super Intelligence (SI) peut se faire de deux manières : soit une équipe de scientifiques travaille secrètement pour développer une SI unique, soit plusieurs groupes de scientifiques collaborent pour la créer lentement mais sûrement.

Si une seule équipe réussissait à développer une SI, cela pourrait créer des risques importants, notamment si la SI tombait entre de mauvaises mains ou si elle faisait quelque chose de terrible, tel que tuer tous les êtres humains.

En revanche, si plusieurs groupes de scientifiques collaboraient, la création de SI serait plus sûre, grâce à des protocoles de sécurité en place et une surveillance publique étroite.

Une fois créée, la SI devrait être programmée pour accomplir des objectifs humains, mais cela peut être difficile, car une SI pourrait dépasser ses objectifs programmés de manière inattendue.

La solution pourrait être de programmer l'IA ou la WBE pour apprendre les valeurs humaines de manière autonome, en calculant si une action proposée est en ligne avec un objectif humain de base, tel que "minimiser les souffrances inutiles" ou "maximiser les retours".

Une autre option serait de programmer l'IA pour observer le comportement humain et déterminer des normes de désirs humains, afin que la SI se programme elle-même pour correspondre aux valeurs humaines majoritaires.

Idée clé 5 : Le futur de l'emploi et de la vie avec l'intelligence artificielle généralisée

Le développement de l'intelligence générale des machines soulève de nombreuses questions éthiques.

Alors que la production de masse de machines capables de remplacer les travailleurs humains devient de plus en plus abordable, la main-d'œuvre humaine sera remplacée par des machines facilement remplaçables.

Le concept de travail robotique soulève également des questions morales, telles que le traitement des travailleurs artificiels.

À mesure que les machines deviennent plus proches de la conscience humaine, elles pourraient être utilisées pour optimiser nos vies personnelles.

Cependant, l'automatisation généralisée entraînerait une transformation complète de l'économie et de notre style de vie.

En fin de compte, la répartition des richesses dépendra du processus de développement de SI, et si ce processus est effectué de manière collaborative, il pourrait être plus équitable pour tous.

Mais la sécurité sera toujours une préoccupation essentielle pour garantir que les machines ne se retournent pas contre la société humaine.

Conclusion

La création d'une superintelligence peut offrir des avantages incroyables à l'humanité, mais elle comporte également des risques majeurs.

La sécurité est donc une priorité absolue dans ce domaine, et cela nécessite une coopération internationale à long terme pour garantir que toutes les précautions possibles sont prises.

Si nous pouvons travailler ensemble pour construire une superintelligence sûre et bénéfique, cela pourrait non seulement améliorer nos vies de manière significative, mais aussi contribuer à la paix et à la coopération internationales.

Je passe à l’action

• [ ] Travailler ensemble pour construire une superintelligence sûre et bénéfique
• [ ] Garantir la sécurité dans le développement de la superintelligence
• [ ] Programmer l'IA ou la WBE pour apprendre les valeurs humaines de manière autonome
• [ ] Programmer l'IA pour observer le comportement humain et déterminer des normes de désirs humains
• [ ] Éviter les risques liés à la création d'une Super Intelligence en travaillant en collaboration
• [ ] Assurer une surveillance publique étroite pour éviter tout risque de catastrophe
• [ ] Réfléchir à la répartition des richesses dans un futur où l'automatisation généralisée aura transformé l'économie et notre style de vie