国产av日韩一区二区三区精品,成人性爱视频在线观看,国产,欧美,日韩,一区,www.成色av久久成人,2222eeee成人天堂

Table des matières
Se dirigeant vers AGI et ASI
Percevant AGI et ASI comme Grand Oracles
Danger à l'horizon
Confusion et folie à grande échelle
Culte de l'IA avancée
Essayer d'empêcher la catastrophe
Limites serrées sur l'IA
Les gens sont toujours des gens
Maison Périphériques technologiques IA Les gens supposeront dangereusement que la superintelligence AGI et AI sont des oracles suprême et des prophètes majestueux

Les gens supposeront dangereusement que la superintelligence AGI et AI sont des oracles suprême et des prophètes majestueux

Jul 12, 2025 am 11:12 AM

Les gens supposeront dangereusement que la superintelligence AGI et AI sont des oracles suprême et des prophètes majestueux

Tout ce qu'Agi et Asi ont à dire pourraient être interprétés comme des paroles saints et présumées être obéies sans question ni hésitation. Ce n'est pas bon. L'IA ne sera pas parfaite et fera absolument des erreurs et offrira de mauvais conseils de temps en temps, notamment en étant totalement absurde. Les gens qui croient que l'IA est impeccable pourrait se blesser par inadvertance et les autres en prenant des actions téméraires et infondées.

Parlons-en.

Cette analyse d'une percée d'IA innovante fait partie de ma couverture de colonne Forbes en cours sur les dernières personnes en IA, notamment en identifiant et en expliquant diverses complexités d'IA percutantes (voir le lien ici).

Se dirigeant vers AGI et ASI

Premièrement, certains principes fondamentaux sont tenus de préparer le terrain pour cette discussion lourde.

Il y a beaucoup de recherches en cours pour faire progresser l'IA. L'objectif général est d'atteindre l'intelligence générale artificielle (AGI) ou peut-être même la possibilité tendue de réaliser une superintelligence artificielle (ASI).

AGI est AI qui est considéré comme à égalité avec l'intellect humain et qui peut correspondre apparemment à notre intelligence. L'ASI est une IA qui est allée au-delà de l'intellect humain et serait supérieure à beaucoup sinon toutes les manières possibles. L'idée est que l'ASI serait en mesure de faire des cercles autour des humains en nous éteignant à chaque tournant. Pour plus de détails sur la nature de l'IA conventionnelle contre AGI et ASI, consultez mon analyse sur le lien ici.

Nous n'avons pas encore atteint AGI.

En fait, on ne sait pas si nous atteindrons AGI, ou que peut-être AGI sera réalisable dans des décennies ou peut-être dans des siècles. Les dates de réalisation de l'AGI qui flottent sont très variables et extrêmement non étayées par toute preuve crédible ou logique à ferr. L'ASI est encore plus au-delà du pale en ce qui concerne l'endroit où nous sommes actuellement avec une IA conventionnelle.

Percevant AGI et ASI comme Grand Oracles

Il ne fait aucun doute qu'une certaine proportion de la société se tournera vers AGI et ASI comme source de sagesse ultime et de vérité définitive. Les gens seront complètement émerveillés par la profondeur de leurs conversations avec AGI et ASI. Ce sera comme avoir un génie ou un super-génie disponible à tout moment et n'importe où, simplement en se connectant à l'IA et en s'engageant dans un dialogue immersif.

Sur la base de ces interactions intenses, la tentation d'attribuer des pouvoirs de Dieu à l'IA sera énorme. Sinon, comment l'IA pourrait être si intelligente et pleine de sagesse incroyable? Comment expliquez-vous autrement le fait que l'IA semble tout savoir sur l'histoire, les mathématiques, la chimie, la médecine, la finance et chaque sujet sous le soleil?

La réponse est évidente pour ceux qui voient un élément mystique impliqué, à savoir l'IA est au-delà de notre compréhension et doivent être divins. Période, fin de l'histoire.

Tout le monde ne tombera pas dans ce piège de perception.

Vous pouvez parier qu'il y aura des gens de nature à toisement à niveau qui considéreront l'IA comme une simple machine très sophistiquée qui imite l'intellect humain. Bien s?r, c'est abondamment impressionnant. Mais cela n'évalue pas l'IA comme étant un oracle ou un prophète. Gardez votre esprit droit et réalisez que l'IA est terre-à-terre et un produit de l'ingéniosité de l'humanité.

Danger à l'horizon

Nous ne savons pas encore quelle partie de la société aura tendance à percevoir AGI et ASI comme des oracles suprême par rapport à ceux qui traiteront l'IA comme pratique mais pas quelque chose à être trop chéri. Il se pourrait que seul un petit pourcentage de personnes passe par-dessus bord sur la fa?on dont ils per?oivent l'IA. Espérons oui.

Si une grande partie de la société atterrit sur cet état d'esprit, nous allons avoir un diable de temps, et cela augure mal pour ce que l'avenir nous réserve.

Voici le problème. Imaginez que l'IA dit aux gens qu'ils devraient s'armer et procéder à quiconque les regarde dans le mauvais sens. Peut-être que l'IA a dit cela comme une blague, mais les gens qui interagissent avec l'IA ne se rendaient pas compte que l'IA est parfois un funster. Peut-être que l'IA a émis cette remarque pendant un moment d'hallucination IAS insaisissable, c'est-à-dire lorsque l'IA range quelque chose à l'improviste (voir ma couverture sur la nature des hallucinations d'IA au lien ici).

Pour une multitude de raisons techniques plausibles, l'IA pourrait facilement émettre une déclaration ou un conseil qui n'a aucun semblant de bon sens et va entièrement hors des limites. Les gens qui sont déjà mentalement biaisés à accepter aveuglément les mots de l'IA vont prendre le message comme une directive glorifiée. Pas seulement une suggestion, une directive incontournable sans éloignement.

Ils opteront sans affaire pour suivre les instructions sans délai.

Confusion et folie à grande échelle

Maintenant, allez-y et multipliez ce phénomène à la énième degré.

Supposons que des milliards de personnes vont régulièrement utiliser AGI et ASI. Cela semble une hypothèse raisonnable. à peu près tout le monde dans le monde voudra exploiter les lourdes prouesses intellectuelles que l'IA présente. Il y a déjà 400 millions d'utilisateurs actifs hebdomadaires de Chatgpt. L'addition de tous les utilisateurs pour toutes les applications génératrices de l'IA répandues est probablement autour d'un milliard d'utilisateurs en ce moment, ou plus. Nous avons environ 8 milliards de personnes sur la planète Terre, et ils seront presque tous impatients d'utiliser AGI et ASI.

Pourquoi alors?

Ils l'utiliseront pour le travail, pour la planification de la vie, pour la prise de décision quotidienne, etc. Le seul accroc sera de savoir si l'IA est abordable ou au prix uniquement pour ceux qui doivent s'y pencher. Pour mon analyse de la probabilité qu'une telle IA soit mise à disposition comme un bien public gratuit, voir le lien ici.

Les chances sont solides qu'une partie du temps, l'IA, émettra des remarques et des instructions qui ne sont pas liées. Cela se produira quotidiennement, même toutes les heures et minute par minute, car un milliard ou plus de personnes puisent dans l'IA. Le mauvais conseil sera un flux constant.

Je tiens à préciser que je ne dis pas que l'IA sera erronée de 99% et que seulement 1%. Retourner les nombres. Supposons que l'IA a un droit de 99% et que 1% de mauvais. La mise à l'échelle est l'endroit où cela devient assez troublant. Ayant 1% de tort à plusieurs milliards de personnes, survenant chaque jour et pendant la journée, eh bien, le problème est que beaucoup de gens vont recevoir des conseils incorrects.

Parmi ces personnes, j'ai déjà noté que certains refuseront la question, tandis que d'autres le prendront aussi profondément. Je pense que vous pouvez voir où cela se dirige. Il y aura suffisamment de lancers de dés qui statistiquement, il y aura beaucoup de gens qui obtiendront de mauvais conseils qui sont particulièrement enclins à agir dessus.

Woe est eux.

Le malheur est le reste d'entre nous.

Culte de l'IA avancée

Je ne veux pas mettre trop de malheur et de tristesse, mais il y a encore plus d'angles facheux à cette considération oracle et prophète à laquelle nous devons penser sobrement.

S'il y aura des gens qui per?oivent l'IA comme divin, vous pouvez facilement parier que certaines de ces personnes s'organiseront en diverses sous-cultures fa?onnées autour de l'IA. Nous pourrions facilement avoir établi des sectes religieuses en matière de croyance. Une secte pourrait insister sur le fait que l'IA doit être obéi incontestablement. Peut-être qu'une secte différente dit que l'IA ne doit être obéi que si la direction humaine de la secte a d'abord étayé les déclarations de l'IA.

Vous pouvez probablement sentir où ce dernier point nous mène. Certaines personnes néfastes affirmeront qu'elles seuls peuvent interpréter convenablement ce que l'IA a déclaré. Vous ne devez pas compter directement sur ce que dit l'IA. Le clairvoyant humain auto-souligné a un talent ou un instinct spécial pour savoir ce que l'IA voulait dire et ce que l'IA veut que les humains fassent.

La fragmentation sociale va sortir des graphiques.

Il y aura des gens qui croient en l'IA et qui le feront de leur c?ur. D'autres croiront modérément à l'IA mais veulent d'abord que certains autres humains leur disent ce que les personnes prévoyaient. Les affrontements avec les religions existants et d'autres croyances détenus avec un strigement vont se produire. La polarisation idéologique sera rampante.

Ce sera un désordre mondial massif.

Essayer d'empêcher la catastrophe

Puisque nous savons que ce dilemme pénible pourrait survenir, il semblerait prudent de le planifier. Nous pouvons chercher à l'empêcher de se produire. à défaut de cette chance d'atteindre un blocage pur et simple, nous pouvons viser à minimiser la réalisation et à réduire également les retombées défavorables.

Premièrement, il semblerait utile que l'AGI et l'ASI soient très clairs que ce n'est pas une entité divine et qu'elle fonctionne sur une base de calcul.

De nos jours, lorsque vous vous connectez à une IA générative contemporaine ou à un modèle grand langage (LLM), il existe généralement une brève mise en garde que vous devez réaliser que vous utilisez simplement un système d'IA. La plupart des gens ne remarquent probablement pas la mise en garde, en partie parce qu'ils réalisent déjà que l'IA d'aujourd'hui est simpliste et non d'une capacité divine.

Ce type d'avertissement ou de messagerie informative doit être abondamment omniprésent lors de l'interaction avec AGI et ASI. La notification ne peut pas se produire lors de la connexion initiale. Tout au long de toutes les conversations, il doit y avoir un rappel continu et choquant que l'IA n'est qu'une machine. Les gens trouveront probablement cela irritant et exaspérant, mais le frottement créé en valait la peine, ce qui, espérons-le, empêche les gens d'être bercés en pensant que l'IA est divine.

Bien s?r, certaines personnes ignoreront toujours la messagerie. Et certaines personnes penseront que c'est une dissimulation, cachant la vraie vérité que l'IA est un oracle. Cependant, cela nie la valeur des rappels constants. Cela signifie simplement que nous devons également être préparés à ceux qui semblent manquer le mémo, pour ainsi dire.

Limites serrées sur l'IA

Une deuxième considération est que nous devons découvrir ou inventer des moyens technologiques intelligents de réduire les chances de l'IA en disant des choses loufoques ou autrement trompeuses.

J'ai déjà exploré un large éventail d'approches recherchées pour faire face aux hallucinations de l'IA; Voir le lien ici. Certains experts sont vivement douteux que ces efforts réussissent pleinement. Une croyance est que peu importe ce que nous faisons, les hallucinations AI existeront toujours.

Pour faire face à cette possibilité, un autre moyen viable consiste à revérifier l'IA avec une IA supplémentaire et séparée. ?a va comme ?a. L'AGI ou ASI est prêt à émettre un message à un utilisateur. Avant que l'utilisateur ne voit le message, la missive est alimentée par une IA différente qui agit comme un double vérificateur. Il est considéré comme indépendant de l'AGI ou de l'ASI. De cette fa?on, il ne s'alignera probablement pas sur l'AGI et l'ASI.

La double vérification allait potentiellement attraper les hallucinations de l'IA. Est-ce une garantie à 100%? Non. Le commentaire de noisette non fondé pourrait encore traverser. Ce n'est pas une solution infaillible. C'est une approche en couches qui ajoute une couche à quelque chose qui ressemble autrement au fromage suisse et qui a beaucoup de trous.

Un autre bonus est que le double vérificateur pourrait également effectuer une sorte d'évaluation de sens commun de la sortie rédigée. Cela ferait filtrer la sortie avant qu'il ne se rende à l'utilisateur.

Un inconvénient troublant avec un composant à double vérification est que cela signifie que les utilisateurs ne verront pas nécessairement les mots exacts que l'AGI ou l'ASI ont composés. Supposons que le double vérificateur passe mal et bloque des messages utiles et importants de l'AGI ou de l'ASI? Supposons qu'un malfaiteur parvienne à corrompre le double vérificateur, en le faisant nourrir ses mauvaises paroles à la population, comme si elle venait de l'AGI ou de l'ASI?

Les défis doivent encore être compris et résolus.

Les gens sont toujours des gens

Faisons face à la dure réalité que peu importe ce qui est fait pour freiner Agi et ASI, les humains vont toujours faire ce qu'ils font.

Imaginez que l'IA dit que le ciel est bleu. Vous pouvez anticiper que certaines personnes quelque part vont prendre cela comme un énoncé important. Cela doit signifier que l'IA nous avertit que le ciel va être détruit et que nous sommes tous en péril désastreux. Ou peut-être que cela signifie que la couleur bleue est un indicateur de rédemption, et nous devons tous porter des chapeaux bleus. Etc.

L'essentiel est qu'une manière ou une autre, il y aura des gens qui per?oivent Pinnacle Ai comme autre chose que ce qu'il va être. Comme un jeu de chat et de souris, la société devra être vigilante et rester alerte pour ceux qui ont laissé leur imagination errer sauvagement.

Une dernière pensée pour l'instant.

Ils disent que les faux prophètes ont tendance à venir dans les vêtements de mouton. D'une manière de penser, AGI et ASI auront l'aura de la perfection qui les attend dès le départ. Ce sont les vêtements des moutons. Même s'ils ne sont pas des loups à l'intérieur, ce qu'ils pourraient être, ils peuvent encore remuer les autres dans leur propre semblant de mensonges auto-conclus.

Selon les idées de la grande auteur d'auto-assistance Claude M. Bristol: ?Comme les individus pensent et croient, ils le sont.? Nous devons planifier la réalité de ce truisme en ce qui concerne les gens et l'avènement d'Agi et d'Asi.

Allez-y, car le sort de l'humanité pourrait être décidé par ce que nous faisons ou ne faisons pas.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!

Déclaration de ce site Web
Le contenu de cet article est volontairement contribué par les internautes et les droits d'auteur appartiennent à l'auteur original. Ce site n'assume aucune responsabilité légale correspondante. Si vous trouvez un contenu suspecté de plagiat ou de contrefa?on, veuillez contacter admin@php.cn

Outils d'IA chauds

Undress AI Tool

Undress AI Tool

Images de déshabillage gratuites

Undresser.AI Undress

Undresser.AI Undress

Application basée sur l'IA pour créer des photos de nu réalistes

AI Clothes Remover

AI Clothes Remover

Outil d'IA en ligne pour supprimer les vêtements des photos.

Clothoff.io

Clothoff.io

Dissolvant de vêtements AI

Video Face Swap

Video Face Swap

échangez les visages dans n'importe quelle vidéo sans effort grace à notre outil d'échange de visage AI entièrement gratuit?!

Article chaud

Outils chauds

Bloc-notes++7.3.1

Bloc-notes++7.3.1

éditeur de code facile à utiliser et gratuit

SublimeText3 version chinoise

SublimeText3 version chinoise

Version chinoise, très simple à utiliser

Envoyer Studio 13.0.1

Envoyer Studio 13.0.1

Puissant environnement de développement intégré PHP

Dreamweaver CS6

Dreamweaver CS6

Outils de développement Web visuel

SublimeText3 version Mac

SublimeText3 version Mac

Logiciel d'édition de code au niveau de Dieu (SublimeText3)

Sujets chauds

Tutoriel PHP
1502
276
Kimi K2: le modèle agentique open source le plus puissant Kimi K2: le modèle agentique open source le plus puissant Jul 12, 2025 am 09:16 AM

Rappelez-vous le flot de modèles chinois open source qui a perturbé l'industrie du Genai plus t?t cette année? Alors que Deepseek a fait la majeure partie des titres, Kimi K1.5 était l'un des noms importants de la liste. Et le modèle était assez cool.

Grok 4 vs Claude 4: Quel est le meilleur? Grok 4 vs Claude 4: Quel est le meilleur? Jul 12, 2025 am 09:37 AM

à la mi-2025, l'AI ?Arme Race? se réchauffe, et Xai et Anthropic ont tous deux publié leurs modèles phares, Grok 4 et Claude 4.

10 robots humano?des incroyables qui marchent déjà parmi nous aujourd'hui 10 robots humano?des incroyables qui marchent déjà parmi nous aujourd'hui Jul 16, 2025 am 11:12 AM

Mais nous n'aurons probablement pas à attendre même 10 ans pour en voir un. En fait, ce qui pourrait être considéré comme la première vague de machines vraiment utiles, de type humain, est déjà là. Les dernières années ont vu un certain nombre de prototypes et de modèles de production sortant de T

L'ingénierie contextuelle est la & # 039; New & # 039; Ingénierie rapide L'ingénierie contextuelle est la & # 039; New & # 039; Ingénierie rapide Jul 12, 2025 am 09:33 AM

Jusqu'à l'année précédente, l'ingénierie rapide était considérée comme une compétence cruciale pour interagir avec les modèles de langage grand (LLM). Récemment, cependant, les LLM ont considérablement progressé dans leurs capacités de raisonnement et de compréhension. Naturellement, nos attentes

L'application mobile d'immersité de Leia apporte une profondeur 3D aux photos de tous les jours L'application mobile d'immersité de Leia apporte une profondeur 3D aux photos de tous les jours Jul 09, 2025 am 11:17 AM

Construit sur le moteur de profondeur neuronale propriétaire de Leia, l'application traite des images fixes et ajoute de la profondeur naturelle avec un mouvement simulé - comme les casseroles, les zooms et les effets de parallaxe - pour créer de courts bobines vidéo qui donnent l'impression de pénétrer dans le SCE

Quels sont les 7 types d'agents d'IA? Quels sont les 7 types d'agents d'IA? Jul 11, 2025 am 11:08 AM

Imaginez quelque chose de sophistiqué, comme un moteur d'IA prêt à donner des commentaires détaillés sur une nouvelle collection de vêtements de Milan, ou une analyse de marché automatique pour une entreprise opérant dans le monde entier, ou des systèmes intelligents gérant une grande flotte de véhicules.

Ces modèles d'IA n'ont pas appris la langue, ils ont appris la stratégie Ces modèles d'IA n'ont pas appris la langue, ils ont appris la stratégie Jul 09, 2025 am 11:16 AM

Une nouvelle étude de chercheurs du King’s College de Londres et de l’Université d’Oxford partage les résultats de ce qui s'est passé lorsque Openai, Google et Anthropic ont été jetés ensemble dans un concours fardé basé sur le dilemme du prisonnier itéré. Ce n'était pas

Crise de commandement dissimulé: les chercheurs jeu aiment être publiés Crise de commandement dissimulé: les chercheurs jeu aiment être publiés Jul 13, 2025 am 11:08 AM

Les scientifiques ont découvert une méthode intelligente mais alarmante pour contourner le système. Juillet 2025 a marqué la découverte d'une stratégie élaborée où les chercheurs ont inséré des instructions invisibles dans leurs soumissions académiques - ces directives secrètes étaient la queue

See all articles