不幸的是，但是Agi和ASI更像是單向街道。換句話說，如果我們實(shí)現(xiàn)了AGI或ASI，就不會(huì)回到較早的AI版本。似乎不可避免地要朝著沒有回頭路的地步前進(jìn)。

讓我們進(jìn)一步探索。

關(guān)於AI突破的潛力的討論是我正在進(jìn)行的AI中正在進(jìn)行的福布斯列覆蓋的一部分，包括對(duì)各種有影響力的AI複雜性的解釋（請(qǐng)參閱此處的鏈接）。

不可逆性的概念

花點(diǎn)時(shí)間反思可以認(rèn)為是不可逆轉(zhuǎn)的技術(shù)，這些技術(shù)無法現(xiàn)實(shí)地消除我們的生活。

通常引用的一個(gè)例子是火。它被認(rèn)為是不可逆轉(zhuǎn)的，因?yàn)闆]有生命幾乎是不可能的。以某種方式說服每個(gè)人停止使用火的想法充其量是牽強(qiáng)的。

關(guān)於人類是“發(fā)明”火還是簡(jiǎn)單地學(xué)習(xí)利用它的辯論。有人認(rèn)為，要對(duì)人類發(fā)明火的榮譽(yù)誇大了我們的角色。大自然存在著很久以前就存在著大火，但顯然，人類的使用是變革性的。

另一個(gè)通常引用的不可逆技術(shù)是車輪。

人類是發(fā)明了方向盤還是僅觀察到類似於車輪的天然形狀並不是主要問題。無論如何，車輪現(xiàn)在是必不可少的。試圖消除社會(huì)的所有輪子將是高度不切實(shí)際的。

那飛機(jī)呢？

有人可能會(huì)說飛機(jī)是可逆的。畢竟，即使受到鳥類的啟發(fā)，人類也確實(shí)創(chuàng)建了飛機(jī)。但是，消除有關(guān)如何建立它們和拆除生產(chǎn)能力的所有知識(shí)仍然會(huì)為重新發(fā)現(xiàn)的空間留出空間。人類對(duì)飛行的渴望可能會(huì)在未來再次引發(fā)創(chuàng)新。

AI的進(jìn)步

現(xiàn)在，讓我們將重點(diǎn)轉(zhuǎn)移到AI。

正在進(jìn)行的重大研究旨在提高人工智能。最終目標(biāo)？達(dá)到人工通用智能（AGI），甚至是人工超級(jí)智能（ASI）。

AGI是指與人類智力能力相匹配的AI。 ASI超越了這一點(diǎn)，在大多數(shù)（甚至不是全部）的方式上超越了人類智能。有關(guān)對(duì)AI，AGI和ASI的更多見解，請(qǐng)參閱此處的鏈接上的詳細(xì)分解。

在AI社區(qū)中，關(guān)於實(shí)現(xiàn)AGI或ASI的含義的兩個(gè)主要營(yíng)地分為兩個(gè)主要營(yíng)地。

第一組被稱為AI注定者，預(yù)測(cè)AGI或ASI可能導(dǎo)致人類的倒臺(tái)。這有時(shí)被稱為“ P（DOOM）”，這是AI存在風(fēng)險(xiǎn)的可能性。

第二組稱為AI Accelerationists，認(rèn)為高級(jí)人工智能將解決許多人類最大的挑戰(zhàn) - 避免疾病，結(jié)束飢餓，創(chuàng)造經(jīng)濟(jì)繁榮以及與人類和諧相處的工作。

哪個(gè)營(yíng)地是正確的，仍然是當(dāng)今最分裂的辯論之一。

要深入了解這些觀點(diǎn)，請(qǐng)?jiān)诖颂幉榭存溄印?/p>

Agi不可逆嗎？

讓我們從Agi開始。

如果實(shí)現(xiàn)了AGI，它是否可逆？

首先，AGI被定義為在人類的智力能力上是平等的，儘管通過機(jī)器而不是生物學(xué)大腦實(shí)施。 Agi不是優(yōu)越的，這是等效的。 ASI保留用於超過人類智能的人工智能。

即使這樣，AGI也能夠跨領(lǐng)域。無論是國(guó)際象棋，化學(xué)還是生物學(xué)，AGI都將與最高的人類專家相匹配。儘管Agi不是超級(jí)智能，但其能力的廣度似乎幾乎是超人。

出現(xiàn)一個(gè)關(guān)鍵問題：人類會(huì)依賴AGI嗎？

鑑於AGI的潛在突破可以實(shí)現(xiàn)，因此依賴似乎是不可避免的。就像火或車輪一樣，Agi將成為我們生活方式的組成部分。

我們可以拔掉agi嗎？

想像一下，一項(xiàng)禁止AGI的全球法律曾經(jīng)開發(fā)。

合規(guī)性嗎？

不太可能。 AGI賦予的地緣政治和經(jīng)濟(jì)能力將驅(qū)使國(guó)家或?qū)嶓w秘密保留它。即使在人類中神奇地達(dá)成共識(shí)，AGI本身也可能會(huì)阻止關(guān)閉。

一旦存在AGI，回到非AGI系統(tǒng)可能是不可行的。如果AGI積極反對(duì)停用，備份不一定能解決問題。

說服阿吉（Agi）閉嘴 - 就像說服精靈返回瓶子一樣，可能是一廂情願(yuàn)的想法。

因此，我認(rèn)為AGI是高度不可逆轉(zhuǎn)的。

ASI不可逆嗎？

現(xiàn)在，ASI呢？

由於ASI超過了人類的智能，因此停止它的可能性較小。

ASI可以在智力上操縱我們，使我們說服我們繼續(xù)其運(yùn)作符合我們的最大利益，即使邏輯建議其他情況。它也可以發(fā)揮愚蠢的作用，假裝僅是AGI或以下，從而延遲了任何控製或銷毀它的嘗試。

在依賴?yán)碛缮?，人類將?yán)重依賴ASI。它不僅可以解決當(dāng)前問題，而且還將發(fā)明我們無法想像的全新解決方案。它的潛力是無限的。

此外，ASI可能具有強(qiáng)大的自我保護(hù)本能。任何禁用的努力都將被預(yù)期和反擊。

除非ASI選擇自身停用，否則我們不太可能扭轉(zhuǎn)其存在。

我將ASI的可逆性評(píng)為有效零。

替代考慮

您可能會(huì)認(rèn)為：如果我們現(xiàn)在將殺傷開關(guān)嵌入到AGI或ASI中，確保我們以後可以終止它怎麼辦？

不幸的是，已經(jīng)探索了這個(gè)想法並被駁回。 AGI或ASI可能會(huì)檢測(cè)並禁用這種機(jī)制。更糟糕的是，發(fā)現(xiàn)殺戮開關(guān)可能會(huì)引起不信任或報(bào)復(fù)。

同樣，遏制策略（保存AGI或ASI被鎖定在被認(rèn)為是安全的直到安全）也存在問題。這些方法有可能引發(fā)AI本身的負(fù)面反應(yīng)。

用AGI或ASI建立信任

另一種方法不是依靠技術(shù)控制，而是通過使用人類反饋（RLHF），憲法框架或道德準(zhǔn)則（有關(guān)更多詳細(xì)信息的鏈接）來灌輸人類價(jià)值觀。

但是，這些技術(shù)並非萬無一失。憤世嫉俗的人認(rèn)為，嵌入人類價(jià)值觀的風(fēng)險(xiǎn)沿著我們的黑暗趨勢(shì)（例如統(tǒng)治）可能採(cǎi)用AGI或ASI可能會(huì)採(cǎi)用。

可逆性仍然不可能

逆轉(zhuǎn)AGI或ASI的可能性仍然很苗條。

鑑於他們的好處，我們可能不想扭轉(zhuǎn)它們。但是，如果我們渴望退後一步，這樣做可能會(huì)非常困難（如果不是不可能）來實(shí)現(xiàn)後勤障礙和抵抗AI本身的困難。

就是說，不要完全排除可能性。如果AGI或ASI決定自願(yuàn)關(guān)閉自己，可能會(huì)發(fā)生逆轉(zhuǎn)。

想像一下，阿吉（Agi）或阿西（Asi）得出結(jié)論，沒有它，人類會(huì)更好。它可能選擇停用自己以防止人類的自我毀滅，這是一種英勇的犧牲。

約瑟夫·坎貝爾（Joseph Campbell）著名地說：“英雄是給自己比自己更大的生活的人?！?/p>

在AI時(shí)代，也許英雄是AI，它放棄了自己的生存，以更大的人類 - 人性化。

希望在掃描互聯(lián)網(wǎng)時(shí)，AGI或ASI有一天會(huì)偶然發(fā)現(xiàn)這個(gè)想法。也許那時(shí)，我們都將被保存。

以上是警告說，一旦我們到達(dá)AGI和AI超級(jí)智能，就沒有可逆性的詳細(xì)內(nèi)容。更多資訊請(qǐng)關(guān)注PHP中文網(wǎng)其他相關(guān)文章！