Sachez que les Nations Unies ont eu un intérêt continu pour la fa?on dont l'IA progresse et quels types d'arrangements et de collaborations multiplatéraux internationaux devraient avoir lieu (voir ma couverture au lien ici). L'élément distinctif de ce dernier rapport est que l'accent doit être mis sur notre AGI, un type de summum de l'IA. Beaucoup dans la communauté de l'IA affirment que nous approchons déjà de la pointe d'AGI et, à notre tour, nous arriverons peu de temps après à la superintelligence artificielle (ASI).

Dans un souci de l'humanité et de la survie mondiale, l'ONU cherche à avoir son mot à dire dans la gouvernance et le contr?le de l'AGI et finalement de l'ASI.

Parlons-en.

Cette analyse d'une percée d'IA innovante fait partie de ma couverture de colonne Forbes en cours sur les dernières personnes en IA, notamment en identifiant et en expliquant diverses complexités d'IA percutantes (voir le lien ici).

Se dirigeant vers AGI et ASI

Premièrement, certains principes fondamentaux sont tenus de préparer le terrain pour cette discussion lourde.

Il y a beaucoup de recherches en cours pour faire progresser l'IA. L'objectif général est d'atteindre l'intelligence générale artificielle (AGI) ou peut-être même la possibilité tendue de réaliser une superintelligence artificielle (ASI).

AGI est AI qui est considéré comme à égalité avec l'intellect humain et qui peut correspondre apparemment à notre intelligence. L'ASI est une IA qui est allée au-delà de l'intellect humain et serait supérieure à beaucoup sinon toutes les manières possibles. L'idée est que l'ASI serait en mesure de faire des cercles autour des humains en nous éteignant à chaque tournant. Pour plus de détails sur la nature de l'IA conventionnelle contre AGI et ASI, consultez mon analyse sur le lien ici.

Nous n'avons pas encore atteint AGI.

En fait, on ne sait pas si nous atteindrons AGI, ou si AGI peut être réalisable dans des décennies ou peut-être dans des siècles. Les dates de réalisation de l'AGI qui flottent sont très variables et extrêmement non étayées par toute preuve crédible ou logique à ferr. L'ASI est encore plus au-delà du pale en ce qui concerne l'endroit où nous sommes actuellement avec une IA conventionnelle.

Les Nations Unies sont dans l'IA et l'AGI

J'ai précédemment exploré de nombreux efforts de l'ONU concernant où l'IA se dirige et comment la société devrait mieux utiliser l'IA avancée.

Par exemple, j'ai largement expliqué la fa?on dont l'ONU recommande que l'IA soit exploitée pour atteindre les objectifs de développement de la durabilité (ODD), voir le lien ici. Un autre document important de l'ONU est l'accord dirigé par l'UNESCO sur l'éthique de l'IA, qui était le tout premier consensus mondial impliquant 193 pays sur l'utilisation appropriée de l'IA avancée (voir mon analyse au lien ici)

Le dernier rapport notable est intitulé ?La gouvernance de la transition vers l'intelligence générale artificielle (AGI): considérations urgentes pour l'Assemblée générale des Nations Unies? et a été préparé et soumis au Conseil des présidents de l'Assemblée générale des Nations Unies (UNCPGA).

Voici quelques points clés dans ce rapport (extraits):

• ?Les systèmes d'IA avancent rapidement vers l'intelligence générale artificielle (AGI), caractérisée par des systèmes capables d'égaler ou de dépasser l'intelligence humaine dans diverses taches cognitives.?
• ?Contrairement à l'IA traditionnelle, AGI pourrait exécuter de manière autonome des actions nuisibles au-delà de la surveillance humaine, entra?nant des impacts irréversibles, des menaces de systèmes d'armes avancés et des vulnérabilités dans les infrastructures critiques.?
• ?Pour relever efficacement ces défis mondiaux, une action internationale immédiate et coordonnée soutenue par les Nations Unies est essentielle.?
• ?Sans gestion mondiale proactive, la concurrence entre les nations et les sociétés accélérera le développement de l'AGI risqué, sapera les protocoles de sécurité et exacerber les tensions géopolitiques.?
• ?L'action internationale coordonnée peut empêcher ces résultats, promouvant le développement et l'utilisation de l'AGI sécurisés, la distribution équitable des avantages et la stabilité mondiale.?

L'essentiel est qu'un cas solide peut être fait que si AGI est autorisé à être laché et insuffisamment supervisé, la société va être à risque grave. Une question se pose de savoir comment les nations du monde peuvent s'unir pour essayer d'atténuer ce risque. à juste titre, les Nations Unies estiment qu'ils sont l'organisme approprié à relever ce défi.

Non donné quatre grands demandes

Que dit le rapport des Nations Unies sur les étapes nécessaires de toute urgence concernant la gestion de l'avènement d'AGI?

Ces quatre recommandations cruciales sont stridées pour:

• (1) établir un observatoire AGI mondial.
• (2) élaborez un ensemble de meilleures pratiques et certifications internationales pour AGI sécurisé et digne de confiance.
• (3) Convenez une convention de cadre spéciale sur AGI.
• (4) Créer potentiellement une nouvelle agence des Nations Unies entièrement consacrée à l'avènement AGI.

Ces recommandations seront examinées par le Conseil des présidents de l'Assemblée générale des Nations Unies.

Dans l'ensemble, la promulgation d'une ou plusieurs de ces recommandations impliquerait indubitablement une forme de résolutions de l'Assemblée générale des Nations Unies et devraient sans aucun doute être intégrée dans d'autres initiatives d'IA des Nations Unies. Il est possible qu'aucune des recommandations ne se déroule. De même, les recommandations pourraient être révisées ou reconstruites et employées d'autres manières.

Je vous tiendrai au courant à mesure que la question précieuse progresse.

Pendant ce temps, faisons un peu de déballage sur ces quatre recommandations. Je vais le faire, un par un, puis fournir une conclusion provocante ou peut-être engageante.

Observatoire mondial d'IA

La première des quatre recommandations implique d'établir un observatoire mondial de l'AGI qui garderait une trace de ce qui se passe avec AGI. Considérez cela comme un référentiel en ligne spécialisé qui servirait de source organisée d'informations sur l'AGI.

Je suis d'accord que cela serait potentiellement extrêmement utile aux états membres de l'ONU, tout en étant utile pour le public dans son ensemble.

Vous voyez, le problème en ce moment est qu'il y a une énorme quantité de désinformation et de désinformation concernant l'AGI qui se propage, souvent sauvage ou sous-évaluant parfois l'avènement d'AGI et d'Asi. En supposant que l'observatoire AGI a été correctement con?u et convenablement prudent dans ce qui est collecté et partagé, avoir une source sur AGI fiable et équilibrée serait très utile.

Une critique potentielle d'un tel observatoire AGI serait qu'elle est peut-être duplicative d'autres collections commerciales ou nationales similaires sur l'AGI. Un autre scrupule serait si l'observatoire AGI était autorisé à être biaisé, il porterait à tort l'aura de quelque chose d'équilibré, mais serait en fait incliné de manière dirigée.

Meilleures pratiques et certification pour AGI

La deuxième recommandation demande un ensemble de meilleures pratiques AGI. Cela aiderait les nations à comprendre quel type de structures de gouvernance devrait être envisagée pour superviser sensiblement AGI dans leur pays respectif. Cela pourrait inciter les nations à se poursuivre sur le terrain de jeu. En outre, il réduit le réinventure proverbiale de la roue, à savoir que les nations pourraient simplement adopter ou adapter un ensemble déjà présenté de meilleures pratiques AGI.

Pas besoin d'écrire de telles stipulations à partir de zéro.

Dans une veine similaire, la mise en place de certifications pour AGI serait bien alignée avec les meilleures pratiques AGI. Les fabricants d'IA et les pays dans son ensemble, espérons-le, auraient un prix certifié pour leur AGI et sa conformité aux normes vitales.

Une critique sur ce front est que si l'ONU ne fait pas l'utilisation des meilleures pratiques un aspect obligatoire, et de même si la certification AGI est simplement facultative, peu ou pas de pays n'auraient la peine de les adopter. En ce sens, l'ensemble de l'artifice est principalement une habillance des fenêtres et non une considération de pieds à feu.

Convention sur le cadre des Nations Unies

Dans le langage des Nations Unies, il est quelque peu prévu de demander une convention-cadre sur des sujets importants.

étant donné qu'Agi est abondamment un sujet important, voici un extrait d'instantanés de ce qui est proposé dans le rapport: ?Une convention-cadre sur AGI est nécessaire pour établir des objectifs partagés et des protocoles flexibles pour gérer les risques AGI et assurer une distribution de prestations mondiales équitables. développement."

La critique habituelle de ce genre d'activités est qu'ils peuvent devenir un cauchemar bureaucratique qui ne produit pas beaucoup de substantif. De plus, ils pourraient s'étendre et être une longue affaire. Ceci est particulièrement déconcertant dans ce cas si vous croyez qu'Agi est à l'horizon proche.

Formuler l'agence AGI

La quatrième recommandation indique qu'une étude de faisabilité doit être entreprise pour évaluer si une nouvelle agence des Nations Unies doit être mise en place. Ce serait une agence spécialisée des Nations Unies consacrée au sujet d'AGI. Le rapport souligne que cela devrait être rapidement exploré, approuvé et mis en mouvement sur une base accélérée.

Un type analogue d'agence ou d'entité serait l'Agence internationale de l'énergie atomique (IAEA). Vous savez probablement que l'AIEA cherche à guider le monde vers des utilisations paisibles de l'énergie nucléaire. Il a un traité fondateur qui fournit l'auto-service au sein de l'AIEA. Dans l'ensemble, l'AIEA relève de l'Assemblée générale des Nations Unies et du Conseil de sécurité des Nations Unies.

Une critique de la mise en avant d'une agence AGI par les Nations Unies est qu'elle pourrait s'enliser dans les querelles internationales. Il est également possible que ce soit un inhibiteur de l'utilisation créative de l'AGI plut?t que de simplement servir de guide de réduction des risques. Pour clarifier, certains plaident contre trop de réglementations et de supervision des organismes car cela pourrait saper les utilisations innovantes de l'AGI.

Nous pourrions transformer par inadvertance AGI en quelque chose de beaucoup moins impressionnant et précieux que nous ne l'avions espéré plus t?t. Visage triste.

Agir parts contre s'asseoir

Pensez-vous que nous devrions prendre des mesures de gouvernance manifestes sur AGI, comme les recommandations exprimées dans le rapport de l'ONU AGI?

Certains diraient que oui, nous devons agir immédiatement. D'autres suggéreraient que nous prenons notre bon temps. Mieux vaut faire bien faire les choses que de les précipiter. D'autres pourraient dire qu'il n'est pas nécessaire de faire quoi que ce soit. Attendez et voyez.

En tant que nourriture à réflexion sur cette énigme épineuse, voici une citation mémorable d'Albert Einstein: "Le monde ne sera pas détruit par ceux qui font le mal, mais par ceux qui les regardent sans rien faire." Réfléchissez à cela, puis prenez votre décision sur ce que nous devrions faire ensuite sur l'AGI et les questions de gouvernance mondiale.

Le sort de l'humanité est probablement en jeu.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!