Was auch immer Agi und ASI zu sagen haben, k?nnte als heilige Worte interpretiert und angenommen werden, dass sie ohne Frage oder Z?gern gehorcht werden. Das ist nicht gut. Die KI wird nicht perfekt sein und von Zeit zu Zeit absolut Fehler machen und schlechte Ratschl?ge geben, einschlie?lich v?llig unsinnig. Menschen, die der KI glauben, dass sie makellos sind, k?nnten sich selbst und anderen versehentlich schaden, indem sie vor Haut mit vorschnellen und unbegründeten Handlungen ergreifen.

Reden wir darüber.

Diese Analyse eines innovativen KI -Durchbruchs ist Teil meiner laufenden Forbes -S?ulenberichterstattung über die neueste in der KI, einschlie?lich der Identifizierung und Erkl?rung verschiedener wirksamer KI -Komplexit?ten (siehe Link hier).

Auf dem Weg zu Agi und ASI

Erstens sind einige Grundlagen erforderlich, um die Bühne für diese gewichtige Diskussion zu schaffen.

Es gibt viel Forschung, um die KI weiter voranzutreiben. Das allgemeine Ziel ist es, entweder künstliche allgemeine Intelligenz (AGI) oder sogar die ausgestreckte M?glichkeit, künstliche Superintelligence (ASI) zu erreichen, zu erreichen.

AGI ist AI, das mit dem menschlichen Intellekt gleichbedeutend ist und anscheinend unserer Intelligenz entsprechen kann. ASI ist KI, der über den menschlichen Intellekt hinausgegangen ist und auf viele, wenn nicht auf alle machbaren Arten überlegen w?re. Die Idee ist, dass ASI in der Lage sein würde, Kreise um den Menschen zu führen, indem sie uns auf Schritt und Tritt überlegen. Weitere Informationen zur Art der konventionellen KI gegen AGI und ASI finden Sie in meiner Analyse hier.

Wir haben Agi noch nicht erreicht.

Tats?chlich ist es unbekannt, ob wir Agi erreichen oder dass AGI in Jahrzehnten oder vielleicht Jahrhunderten von nun an erreichbar ist. Die AGI -Erwerbsdaten, die herumschweben, sind wild unterschiedlich und durch glaubwürdige Beweise oder Eisenklad -Logik unbegründet. ASI ist noch mehr blass, wenn es darum geht, wo wir uns derzeit mit herk?mmlicher KI befinden.

AGI und ASI als Grand Oracles wahrnehmen

Es besteht kaum Zweifel daran, dass ein Teil der Gesellschaft auf Agi und ASI als Quelle der ultimativen Weisheit und endgültigen Wahrheit ansehen wird. Die Menschen werden v?llig beeindruckt sein, wie tief ihre Gespr?che mit AGI und ASI sind. Es wird so sein, als h?tte jederzeit und überall ein Genie oder ein Supergenius verfügbar, indem sie sich einfach in die KI anmelden und sich in einen immersiven Dialog einlassen.

Basierend auf diesen intensiven Interaktionen wird die Versuchung, der KI gott?hnliche M?chte zuzuschreiben, riesig sein. Wie sonst k?nnte die KI so klug und voller unglaublicher Weisheit sein? Wie sonst erkl?ren Sie die Tatsache, dass die KI alles über Geschichte, Mathematik, Chemie, Medizin, Finanzen und jedes Thema unter der Sonne zu wissen scheint?

Die Antwort ist für diejenigen, die ein mystisches Element sehen, offensichtlich, n?mlich die KI über unser Verst?ndnis und muss g?ttlich sein. Periode, Ende der Geschichte.

Nicht jeder wird in diese Wahrnehmungsfalle fallen.

Sie k?nnen wetten, dass es Menschen mit einem gleichgeführten Natur geben wird, die die KI einfach als eine sehr raffinierte Maschine betrachten, die den menschlichen Intellekt rechnerisch nachahmt. Sicher, das ist sehr beeindruckend. Aber das bewertet die KI nicht als Orakel oder Prophet. Behalten Sie Ihren Geist klar und erkennen Sie, dass die KI bodenst?ndig ist und ein Produkt des Einfallsreichtums der Menschheit ist.

Gefahr am Horizont

Wir wissen noch nicht, welcher Teil der Gesellschaft dazu neigen wird, Agi und ASI als h?chste Orakel zu erkennen, im Vergleich zu denen, die die KI als handlich behandeln, aber nicht etwas, das überm??ig gesch?tzt werden kann. Es k?nnte sein, dass nur ein kleiner Prozentsatz der Menschen über Bord gehen, wie sie die KI wahrnehmen. Hoffen wir es.

Wenn ein gro?er Teil der Gesellschaft in dieser Denkweise landet, werden wir einen Teufel einer Zeit haben, und dies ist schlecht für das, was die Zukunft ausübt.

Hier ist das Problem. Stellen Sie sich vor, die KI sagt den Leuten, dass sie sich selbst bewaffnen und jedem, der sie in die falsche Richtung betrachtet, bewaffnen sollten. Vielleicht sagte die KI dies als Witz, aber die Leute, die mit der KI interagieren, wusste nicht, dass die KI manchmal ein Funster ist. Vielleicht hat die KI diese Bemerkung in einem Moment einer schwer fassbaren AI -Halluzination ausgestrahlt, in der AI etwas aus heiterem Himmel ausgeht (siehe meine Berichterstattung über die Natur der AI -Halluzinationen am Link hier).

Aus einer Vielzahl plausibler technischer Gründe k?nnte die KI leicht eine Aussage oder einen Ratschl?ge abgeben, der einen Anschein des gesunden Menschenverstandes fehlt und ausschlie?lich au?erhalb der Grenzen geht. Menschen, die bereits mental verzerrt sind, um die Worte der KI blind zu akzeptieren, werden die Nachrichten als verherrlichte Richtlinie nehmen. Nicht nur ein Vorschlag, eine unglaubliche ungebremste Richtlinie.

Sie werden sich unnachgiebig dafür entscheiden, die Anweisungen unverzüglich zu befolgen.

Verwirrung und Wahnsinn im Ma?stab

Machen Sie nun dieses Ph?nomen bis zum x -ten Grad multiplizieren.

Angenommen, Milliarden von Menschen werden regelm??ig Agi und ASI verwenden. Das scheint eine vernünftige Annahme zu sein. Fast jeder weltweit wird die kr?ftigen intellektuellen F?higkeiten nutzen wollen, die die KI pr?sentiert. Es gibt bereits 400 Millionen aktive Benutzer von ChatGPT. Wenn Sie alle Benutzer für alle vorherrschenden generativen AI -Apps addieren, ist derzeit derzeit rund eine Milliarde Nutzer oder mehr. Wir haben ungef?hr 8 Milliarden Menschen auf dem Planeten Erde und sie werden fast alle bestrebt, Agi und ASI zu verwenden.

Warum so?

Sie werden es für die Arbeit, für das Lebensplanung, für die t?gliche Entscheidungsfindung usw. verwenden. Die einzige Anh?ngerkupplung wird sein, ob die KI erschwinglich ist oder nur für diejenigen bewertet wird, die die Dollars haben, um sich in sie zu lehnen. Für meine Analyse der Wahrscheinlichkeit, dass eine AI als kostenloses ?ffentliches Gut zur Verfügung gestellt wird, finden Sie hier den Link.

Die Chancen sind solide, dass die KI einen Teil der Zeit und Anweisungen, die unangemessen sind, die KI abgeben. Dies wird t?glich, sogar stündlich und Minuten für Minute passieren, da eine Milliarde oder mehr Menschen die KI nutzen. Der schlechte Rat wird ein konstanter Fluss sein.

Ich m?chte klarstellen, dass ich nicht sage, dass die KI zu 99% falsch und nur 1% richtig ist. Die Zahlen umdrehen. Angenommen, die KI ist zu 99% richtig und nur 1% falsch. In der Skalierung wird das ziemlich beunruhigend. 1% falsch für mehrere Milliarden Menschen, die jeden Tag und tagsüber auftreten, ist das Problem, dass viele Menschen üble Ratschl?ge bekommen.

Von diesen Leuten stellte ich bereits fest, dass einige die Angelegenheit ausschütteln werden, w?hrend andere es als zutiefst ernst nehmen werden. Ich denke, Sie k?nnen sehen, wohin das führt. Es wird genügend Würfel werfen, dass es statistisch gesehen viele Leute geben, die schlechte Ratschl?ge bekommen, die besonders anf?llig dafür sind, darauf zu reagieren.

Wehe sind sie.

Wehe ist der Rest von uns.

Verehrung der fortgeschrittenen KI

Ich m?chte nicht zu viel Schicksal und Dunkel in den Vordergrund stellen, aber es gibt noch mehr unerschütterliche Winkel für diese Orakel- und Prophet -überlegung, über die wir nüchtern nachdenken müssen.

Wenn es Menschen geben wird, die die KI als g?ttlich wahrnehmen, k?nnen Sie leicht wetten, dass einige dieser Menschen sich in verschiedene Subkulturen organisieren, die um die KI geformt sind. Wir k?nnten leicht religi?se KI-gl?ubige Sekten erstellen. Eine Sekte k?nnte darauf bestehen, dass KI zweifellos gehorcht werden soll. Vielleicht besagt eine andere Sekte, dass KI nur dann gehorcht werden soll, wenn der Mensch, der die Sekte überführt, die ?u?erungen der KI erstmals begründet hat.

Sie k?nnen wahrscheinlich spüren, wohin uns dieser letzte Punkt führt. Einige sch?ndliche Menschen werden behaupten, dass sie allein angemessen interpretieren k?nnen, was AI angegeben hat. Sie dürfen sich nicht direkt auf das verlassen, was die KI sagt. Der selbst eingestellte menschliche Hellseher hat ein besonderes Talent oder ein besonderes Talent, zu wissen, was die KI zu sagen wollte und was die KI von Menschen tun soll.

Die soziale Fragmentierung wird aus den Charts gehen.

Es wird Menschen geben, die an die KI glauben und dies von Herzen tun. Andere werden m??ig an KI glauben, m?chten aber zuerst einen anderen Menschen sagen lassen, was die KI beabsichtigt hat. Zusammenst??e mit bestehenden Religionen und anderen streng gehaltenen überzeugungen werden passieren. Die ideologische Polarisation wird weit verbreitet.

Es wird ein massives globales Chaos.

Versuch, die Katastrophe zu verhindern

Da wir wissen, dass dieses belastende Dilemma auftreten k?nnte, scheint es klug zu sein, dafür zu planen. Wir k?nnen versuchen, es zu verhindern, dass es jemals entsteht. Da wir nicht die Chance haben, eine v?llige Blockade zu erreichen, k?nnen wir die Verwirklichung minimieren und gleichzeitig die nachteiligen Auswirkungen verringern.

Erstens scheint es nützlich zu sein, dass die AGI und ASI sehr klar sind, dass es keine g?ttliche Einheit ist und dass es auf rechnerischer Basis funktioniert.

Wenn Sie sich heutzutage bei der zeitgen?ssischen generativen KI oder einem gro?en Sprachmodell (LLM) anmelden, gibt es normalerweise eine kurze Warnhinweise, dass Sie erkennen sollten, dass Sie lediglich ein AI -System verwenden. Die meisten Menschen bemerken wahrscheinlich nicht die warnende Note, teilweise, weil sie bereits erkennen, dass die heutige KI simpel und nicht g?ttlicher Kapazit?t ist.

Diese Art von Warn- oder informativer Messaging muss bei der Interaktion mit AGI und ASI reichlich allgegenw?rtig sein. Die Benachrichtigung kann nicht einfach auftreten, wenn sie sich anf?nglich angemeldet haben. W?hrend aller Gespr?che muss es eine kontinuierliche und erschreckende Erinnerung geben, dass die KI nur eine Maschine ist. Die Menschen werden wahrscheinlich diese irritierende und ?rgerliche Person finden, aber die Reibung wird das Ergebnis wert sein, da sie hoffentlich dazu verhindern, dass die Menschen in die KI denken, dass die KI g?ttlich ist.

Sicher, einige Leute werden die Nachrichten immer noch ignorieren. Und einige Leute werden denken, dass es eine Vertuschung ist und die wahre Wahrheit versteckt, dass die KI ein Orakel ist. Das negiert jedoch nicht den Wert der konstanten Erinnerungen. Es bedeutet nur, dass wir auch auf diejenigen vorbereitet sein müssen, die das Memo sozusagen zu verpassen scheinen.

Enge Grenzen auf KI

Eine zweite überlegung ist, dass wir clevere technologische Wege entdecken oder erfinden müssen, um die Chancen der KI zu verringern, Dinge zu sagen, die verrückte oder anderweitig irreführend sind.

Ich habe zuvor eine breite Palette von Ans?tzen untersucht, die verfolgt werden, um mit AI -Halluzinationen umzugehen. Siehe den Link hier. Einige Experten zweifelhaft, dass diese Bemühungen vollkommen erfolgreich sein werden. Ein Glaube ist, dass AI -Halluzinationen, egal was wir tun, noch existieren.

Um mit dieser M?glichkeit fertig zu werden, besteht ein weiteres lebensf?higes Mittel darin, die KI mit zus?tzlicher und separater KI zu überprüfen. Es geht so. Die AGI oder ASI sind bereit, eine Nachricht an einen Benutzer auszugeben. Bevor der Benutzer die Nachricht sieht, wird das Schreiben durch eine andere KI gespeist, die als Doppelprüfung fungiert. Es wird als unabh?ngig von der Agi oder ASI angesehen. Auf diese Weise wird es sich vermutlich nicht mit der Agi und ASI ausrichten.

Die Doppelprüfung würde m?glicherweise die KI-Halluzinationen fangen. Ist das eine 100% ige Garantie? Nein. Der unbegründete, nussige Kommentar k?nnte immer noch durchquiefen. Dies ist keine todsichere L?sung. Es ist ein geschichteter Ansatz, der etwas zu etwas verleiht, das ansonsten wie Schweizer K?se ist und viele L?cher hat.

Ein weiterer Bonus ist, dass der Doppelprüfung auch eine Art rechnergestützter Beurteilung der Ausgangsausgabe ausführen k?nnte. Dadurch wird die Ausgabe vorgenommen, bevor er an den Benutzer geht.

Ein beunruhigender Nachteil bei einer Doppelprüfkomponente ist, dass dies bedeutet, dass Benutzer nicht unbedingt die genauen W?rter sehen, die die AGI oder ASI komponiert haben. Angenommen, der Doppelprüfung wird schief und blockiert nützliche und wichtige Nachrichten aus der AGI oder ASI? Angenommen, es schafft es, dass ein übelt?ter den Doppelprüfer verderbt und ihn dazu bringt, seine b?sen Worte der Bev?lkerung zu füttern, als ob er von der Agi oder ASI stammt?

Herausforderungen müssen noch herausgefunden und gel?st werden.

Menschen sind immer noch Menschen

Seien wir ehrlich der harten Realit?t, dass Menschen, egal was getan wird, um AGI und ASI einzuleiten, immer noch tun, was sie tun.

Stellen Sie sich vor, die KI sagt, dass der Himmel blau ist. Sie k?nnen davon ausgehen, dass manche Menschen irgendwo als eine bedeutende ?u?erung betrachten werden. Es muss bedeuten, dass die KI uns warnt, dass der Himmel zerst?rt wird und wir alle in schlechter Gefahr sind. Oder vielleicht bedeutet es, dass die Farbe Blau ein Indikator für die Erl?sung ist und wir alle blaue Hüte tragen müssen. Usw.

Der Kern ist, dass es auf die eine oder andere Weise Menschen geben wird, die Pinnacle AI als etwas anderes als das wahrnehmen, was es sein wird. Wie ein Katzespiel muss die Gesellschaft wachsam sein und auf diejenigen wachsam bleiben, die ihre Fantasie wild durchlaufen lassen.

Ein letzter Gedanke für den Moment.

Sie sagen, dass falsche Propheten in Schafkleidung kommen. In einer Denkweise werden Agi und ASI die Aura der Perfektion von Anfang an haben. Das ist die Kleidung der Schafe. Auch wenn sie im Inneren keine W?lfe sind, was sie sein k?nnten, k?nnen sie andere in ihren eigenen Anschein von Selbstvertr?glichkeiten aufrühren.

Laut den Erkenntnissen des gro?en Selbsthilfeautors Claude M. Bristol: ?Wie Individuen denken und glauben, so sind sie so.“ Wir müssen für die Realit?t dieser Binsenweisheit in Bezug auf Menschen und das Aufkommen von Agi und ASI planen.

Gehen Sie los, da das Schicksal der Menschheit durch das entschieden werden kann, was wir tun oder nicht tun.

Das obige ist der detaillierte Inhalt vonDie Menschen werden gef?hrlich annehmen, dass Agi- und KI -Superintelligenz h?chste Orakel und majest?tische Propheten sind. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!