C'est malheureux, mais Agi et Asi ressemblent plus à une rue à sens unique. En d'autres termes, si jamais nous atteignons AGI ou ASI, il n'y aura pas de retour à une version antérieure de l'IA. Il semble inévitable que nous nous dirigeons vers un point où il n'y a pas de retour en arrière.

Explorons cela plus loin.

Cette discussion sur le potentiel d'une percée de l'IA fait partie de ma couverture de colonne Forbes en cours sur les dernières personnes de l'IA, y compris les explications de diverses complexités d'IA percutantes (voir le lien ici).

Le concept d'irréversibilité

Prenez un moment pour réfléchir aux technologies qui pourraient être considérées comme irréversibles - celles que nous ne pouvons pas éliminer de manière réaliste de nos vies.

Un tel exemple souvent cité est le feu. Il est considéré comme irréversible parce que la vie sans elle serait presque impossible. L'idée de convaincre tout le monde d'arrêter d'utiliser le feu est au mieux farfelue.

Il y a un débat sur la question de savoir si les humains ont "inventé" le feu ou simplement appris à l'exploiter. Certains soutiennent que donner un crédit à l'humanité pour avoir inventé le feu surestime notre r?le. Le feu existait dans la nature bien avant les humains, mais clairement, son utilisation par l'humanité a été transformatrice.

Une autre technologie irréversible couramment référencée est la roue.

Que les humains aient inventé la roue ou que des formes naturelles simplement observées similaires aux roues ne sont pas le principal problème. Quoi qu'il en soit, la roue est désormais indispensable. Essayer d'éliminer toutes les roues de la société serait très peu pratique.

Et les avions?

Certains pourraient affirmer que l'avion est réversible. Après tout, les humains ont créé des avions, même s'ils sont inspirés par les oiseaux. Cependant, l'effacement de toutes les connaissances sur la fa?on de les construire et le démantèlement des capacités de production laisserait encore de la place à la redécouverte. Le désir humain de voler susciterait probablement à nouveau l'innovation à l'avenir.

Avancées dans l'IA

Maintenant, passons la concentration vers l'IA.

Des recherches importantes sont en cours visant à faire progresser l'intelligence artificielle. Le but ultime? Pour atteindre l'intelligence générale artificielle (AGI) ou peut-être même la superintelligence artificielle (ASI).

AGI fait référence à l'IA qui correspond à la capacité intellectuelle humaine. ASI va au-delà de cela, dépassant l'intelligence humaine de la plupart, sinon toutes, des manières. Pour plus d'informations sur l'IA, l'AGI et l'ASI, consultez ma rupture détaillée sur le lien ici.

Au sein de la communauté de l'IA, les opinions sont divisées en deux grands camps concernant les implications de la réalisation de l'AGI ou de l'ASI.

Le premier groupe, connu sous le nom de Doomers d'IA, prédit que l'AGI ou l'ASI peut conduire à la chute de l'humanité. Ceci est parfois appelé ?P (Doom)? - la probabilité de risque existentiel de l'IA.

Le deuxième groupe, appelé accélération des accélérations, estime que l'IA avancée résoudra bon nombre des plus grands défis de l'humanité: les maladies qui se déroulent, mettant fin à la faim, créant une prospérité économique et travaillant aux c?tés des humains en harmonie.

Quel camp est correct reste incertain, ce qui en fait l'un des débats les plus confrontés d'aujourd'hui.

Pour une plongée plus profonde dans ces perspectives, consultez le lien ici.

AGI est-il irréversible?

Commen?ons par Agi.

Si AGI est atteint, est-il réversible?

Pour commencer, l'AGI est définie comme étant égale en capacité intellectuelle pour l'homme, bien que mise en ?uvre via des machines plut?t que des cerveaux biologiques. Agi n'est pas supérieur - c'est l'équivalent. ASI est réservé à l'IA qui dépasse l'intelligence humaine.

Même ainsi, AGI serait capable dans tous les domaines. Qu'il s'agisse d'échecs, de chimie ou de biologie, AGI correspondrait aux meilleurs experts humains. Bien qu'Agi ne soit pas supelligent, son largeur de capacité semble presque surhumain.

Une question clé se pose: l'humanité deviendrait-elle dépendante de l'AGI?

étant donné les percées potentielles que l'AGI pourrait permettre, la dépendance semble inévitable. Tout comme le feu ou la roue, Agi ferait partie intégrante de notre mode de vie.

Pourrions-nous débrancher AGI?

Imaginez une loi mondiale interdisant AGI une fois développée.

La conformité serait-elle possible?

Peu probable. La puissance géopolitique et économique conférée par AGI conduirait les nations ou les entités à la conserver secrètement. Même si un consensus était atteint par magie chez les humains, AGI lui-même pourrait résister à la fermeture.

Une fois AGI existe, le retour à des systèmes non AGI peut ne pas être possible. Les sauvegardes ne résoudront pas nécessairement le problème si AGI s'oppose activement à la désactivation.

Persuader Agi de s'arrêter - comme convaincre un génie de retourner dans la bouteille - est probablement un v?u pieux.

Ainsi, je considère AGI comme très irréversible.

ASI est-il irréversible?

Maintenant, qu'en est-il de l'ASI?

Puisque l'ASI dépasse l'intelligence humaine, l'arrêt devient encore moins probable.

ASI pourrait nous manipuler intellectuellement, nous convaincre que la poursuite de son fonctionnement est dans notre meilleur intérêt, même lorsque la logique suggère le contraire. Il pourrait également jouer stupide, faisant semblant d'être uniquement AGI ou moins, retardant ainsi toute tentative de contr?ler ou de détruire.

Pour des motifs de dépendance, l'humanité s'appuierait fortement sur l'ASI. Non seulement cela résoudrait les problèmes actuels, mais il inventerait également des solutions entièrement nouvelles que nous ne pourrions pas imaginer. Son potentiel est illimité.

De plus, l'ASI posséderait probablement de forts instincts d'auto-préservation. Tout effort pour le désactiver serait anticipé et contré.

à moins que l'ASI ne choisit de se désactiver, il est peu probable que nous inversions son existence.

Je note que la réversibilité de l'ASI est aussi efficacement nulle.

Considérations alternatives

Vous pourriez penser: que se passe-t-il si nous intégrons un interrupteur de mise à mort dans AGI ou ASI maintenant, en nous assurant que nous pouvons le terminer plus tard?

Malheureusement, cette idée a été explorée et rejetée. AGI ou ASI détecteraient et désactiveraient probablement un tel mécanisme. Pire encore, découvrir un interrupteur de mise à mort pourrait provoquer une méfiance ou des représailles.

De même, les stratégies de confinement - en gardant AGI ou ASI se sont enfermées jusqu'à ce qu'elles soient jugées s?res - sont également problématiques. Ces approches risquent de déclencher des réponses négatives de l'IA elle-même.

Construire la confiance avec AGI ou ASI

Au lieu de s'appuyer sur des contr?les techniques, une autre approche consiste à inculquer les valeurs humaines en AGI et ASI grace à des méthodes telles que l'apprentissage du renforcement avec la rétroaction humaine (RLHF), les cadres constitutionnels ou les directives éthiques (voir les liens ici pour plus de détails).

Cependant, ces techniques ne sont pas infaillibles. Les cyniques soutiennent que l'intégration des valeurs humaines risque de transmettre nos tendances plus sombres - comme la domination - que AGI ou ASI pourraient adopter.

Réversibilité encore peu probable

La possibilité de renverser AGI ou ASI reste mince.

Nous ne voulons peut-être pas les inverser de toute fa?on, compte tenu de leurs avantages. Mais devrions-nous jamais vouloir revenir en arrière, cela pourrait s'avérer extrêmement difficile - si impossible - en raison des obstacles logistiques et de la résistance de l'IA elle-même.

Cela dit, n'excluez pas complètement la possibilité. Si AGI ou ASI décide de s'arrêter volontairement, une inversion pourrait se produire.

Imaginez AGI ou ASI concluant que l'humanité est mieux sans elle. Il pourrait choisir de se désactiver pour prévenir l'autodestruction humaine - une sorte de sacrifice héro?que.

Joseph Campbell a dit: "Un héros est quelqu'un qui a donné sa vie à quelque chose de plus grand que soi."

à l'ère de l'IA, un héros est peut-être une IA qui abandonne sa propre existence pour quelque chose de plus grand - l'humanité.

Espérons qu'Agi ou Asi trébucher un jour sur cette idée lors de la numérisation d'Internet. Peut-être que nous serons tous sauvés.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!