無論Agi和Asi必須說什么，都可以解釋為圣經(jīng)的單詞，并假定毫無疑問或猶豫。那不好。人工智能不會(huì)是完美的，絕對會(huì)犯錯(cuò)，并不時(shí)提供不良建議，包括完全荒謬。認(rèn)為人工智能完美無瑕的人可以通過采取輕率和毫無根據(jù)的行動(dòng)來無意中傷害自己和他人。

讓我們談?wù)劇?/p>

對創(chuàng)新AI突破的分析是我正在進(jìn)行的AI中正在進(jìn)行的福布斯列覆蓋的一部分，包括識(shí)別和解釋各種有影響力的AI復(fù)雜性（請參閱此處的鏈接）。

前往Agi和ASI

首先，需要一些基本原理才能為這個(gè)重大的討論奠定基礎(chǔ)。

正在進(jìn)行大量研究以進(jìn)一步提高AI。一般目標(biāo)是達(dá)到人工通用智能（AGI），甚至達(dá)到實(shí)現(xiàn)人工超智慧（ASI）的伸出的可能性。

Agi是AI，它與人類的智力相提并論，并且似乎可以符合我們的智慧。 ASI是AI，它超越了人類的智力，并且在許多甚至不是所有可行的方式上都將是優(yōu)越的。這個(gè)想法是，ASI能夠在各個(gè)轉(zhuǎn)彎處超越我們來圍繞人圈。有關(guān)傳統(tǒng)AI與AGI和ASI的性質(zhì)的更多詳細(xì)信息，請參閱此處的鏈接分析。

我們尚未獲得Agi。

實(shí)際上，我們是否將到達(dá)AGI，或者AGI在數(shù)十年或幾個(gè)世紀(jì)以來都可以實(shí)現(xiàn)。漂浮在周圍的agi達(dá)到的日期是由于任何可靠的證據(jù)或鐵克拉德邏輯而迅速變化的，并且沒有證實(shí)。當(dāng)涉及到我們目前使用常規(guī)AI的位置時(shí)，ASI更加蒼白。

將Agi和Asi視為宏偉的甲殼

毫無疑問，社會(huì)的一部分會(huì)將AGI和ASI視為最終智慧和確定性真理的來源。人們與AGI和ASI的對話有多深，人們將完全震驚。就像在任何時(shí)候和任何地方都可以使用天才或超級天主，只需登錄AI并進(jìn)行沉浸式對話即可。

基于那些激烈的互動(dòng)，將像神般的力量歸因于AI的誘惑將是巨大的。人工智能還能那么聰明和充滿令人難以置信的智慧？您還如何解釋AI似乎對歷史，數(shù)學(xué)，化學(xué)，醫(yī)學(xué)，金融和陽光下的每個(gè)主題了解的所有知識(shí)？

對于那些看到涉及神秘元素的人來說，答案是顯而易見的，即AI超出了我們的理解，必須是神圣的。時(shí)期，故事結(jié)束。

并非每個(gè)人都會(huì)陷入這個(gè)感知陷阱。

您可以打賭，將會(huì)有一個(gè)頭腦平坦的人將AI視為一臺(tái)非常復(fù)雜的機(jī)器，可以在計(jì)算中模仿人類的智力。當(dāng)然，這令人印象深刻。但這并不能將AI視為甲骨文或先知。保持思想直截了當(dāng)，并意識(shí)到AI是腳踏實(shí)地的，并且是人類創(chuàng)造力的產(chǎn)物。

危險(xiǎn)

我們還不知道社會(huì)的哪些部分傾向于將AGI和ASI視為至高無上的甲骨文，而那些將AI視為方便但不是不適當(dāng)?shù)卣湎У娜?。可能只有一小部分人對他們?nèi)绾慰创斯ぶ悄?。希望如此?/p>

如果很大一部分社會(huì)以這種思維方式降落，那么我們將有一段時(shí)間的魔鬼，這對未來的實(shí)力造成了很大的影響。

這是問題。想象一下，人工智能告訴人們他們應(yīng)該武裝自己，并繼續(xù)傷害任何以錯(cuò)誤方式看待他們的人。也許AI是個(gè)玩笑，但是與人工智能互動(dòng)的人們并沒有意識(shí)到有時(shí)AI是一個(gè)有趣的人。也許AI在難以捉摸的AI幻覺的時(shí)刻發(fā)出了這一說法，這是AI用藍(lán)色構(gòu)成某些東西（請參閱此處的鏈接上的AI幻覺性質(zhì)的報(bào)道）。

出于多種合理的技術(shù)原因，AI可以很容易地發(fā)出缺乏常識(shí)的聲明或建議，并且完全脫離了范圍。已經(jīng)在精神上傾向于盲目接受AI的話的人將把消息傳遞為榮耀的指令。不僅是一個(gè)建議，也是一個(gè)完全不受限制的必須避免的指令。

他們將不限于毫不拖延地遵循說明。

大規(guī)?；靵y和瘋狂

現(xiàn)在，繼續(xù)前進(jìn)，將這種現(xiàn)象乘以毫無疑問。

假設(shè)數(shù)十億人會(huì)經(jīng)常使用AGI和ASI。這似乎是一個(gè)合理的假設(shè)。全世界幾乎每個(gè)人都希望利用AI提出的巨大的知識(shí)分子。 Chatgpt的每周活躍用戶已經(jīng)有4億。為所有普遍的生成AI應(yīng)用程序添加所有用戶，目前可能是十億用戶或更多用戶。我們在地球上有大約80億人，他們幾乎都渴望使用AGI和ASI。

為什么呢？

他們將其用于工作，生活計(jì)劃，日常決策等。唯一的障礙是AI是負(fù)擔(dān)得起的還是僅適用于那些有錢的人。為了分析這種AI作為免費(fèi)公共物品提供的可能性，請參閱此處的鏈接。

在某些時(shí)間中，AI會(huì)發(fā)出不合理的說明和說明的機(jī)會(huì)很強(qiáng)。由于有十億人或更多的人正在攻擊AI，這將每天，甚至每小時(shí)甚至一分鐘發(fā)生。不良建議將是一個(gè)恒定的流程。

我想澄清一下，我并不是說AI是錯(cuò)誤的99％，只有1％的權(quán)利。翻轉(zhuǎn)數(shù)字。假設(shè)AI是正確的99％，只有1％的錯(cuò)誤?？s放是這變得非常令人不安的地方。每天和白天發(fā)生的數(shù)十億人是錯(cuò)誤的，問題是，很多人都會(huì)得到犯規(guī)建議。

在這些人中，我已經(jīng)指出，有些人會(huì)聳聳肩，而另一些人則將其視為非常嚴(yán)重的事情。我認(rèn)為您可以看到它的前進(jìn)方向。從統(tǒng)計(jì)學(xué)上講，將會(huì)有足夠的骰子折騰，會(huì)有很多人會(huì)得到很多不好的建議，這些建議特別容易付諸行動(dòng)。

禍?zhǔn)撬麄儭?/p>

禍?zhǔn)俏覀兤溆嗟摹?/p>

崇拜高級人工智能

我不想將厄運(yùn)和憂郁帶到尖銳的范圍內(nèi)，但是我們需要清醒地思考這個(gè)甲骨文和先知的考慮。

如果將有一個(gè)人認(rèn)為AI是神圣的人，您可以很容易地敢打賭，其中一些人會(huì)將自己組織成圍繞AI的各種亞文化。我們很容易建立像宗教般的AI信心教派。一個(gè)教派可能會(huì)堅(jiān)持毫無疑問地遵守AI。也許另一個(gè)教派說，只有在朝宗派領(lǐng)導(dǎo)的人首先證實(shí)AI的聲明時(shí)，才能服從AI。

您可能可以感覺到最后一點(diǎn)將我們帶到哪里。一些邪惡的人會(huì)聲稱他們一個(gè)人可以適當(dāng)?shù)亟忉孉I所說的話。您不要直接依靠AI所說的話。自我命中的人千里眼有一個(gè)特殊的訣竅或本能，可以知道AI的意思以及AI希望人類要做什么。

社會(huì)分裂將脫離圖表。

會(huì)有一些人相信人工智能，并從他們的內(nèi)心深處這樣做。其他人會(huì)在AI中中度相信，但首先想讓其他人告訴他們AI的意圖。與現(xiàn)有宗教和其他持有的信仰的沖突將會(huì)發(fā)生。意識(shí)形態(tài)極化將猖ramp。

這將是一個(gè)巨大的全球混亂。

試圖防止災(zāi)難

由于我們知道可能會(huì)出現(xiàn)這種令人沮喪的困境，因此計(jì)劃它似乎是謹(jǐn)慎的。我們可以試圖阻止它永遠(yuǎn)存在。如果沒有達(dá)到徹底障礙的機(jī)會(huì)，我們的目標(biāo)是最大程度地減少實(shí)現(xiàn)的意識(shí)并同樣減少不利影響。

首先，讓AGI和ASI非常清楚地表明它不是一個(gè)神圣的實(shí)體，并且它在計(jì)算基礎(chǔ)上工作似乎很有用。

如今，當(dāng)您登錄當(dāng)代生成AI或大型語言模型（LLM）時(shí)，通常有一個(gè)簡短的警告說明，您應(yīng)該意識(shí)到自己只是在使用AI系統(tǒng)。大多數(shù)人可能沒有注意到警告說明，部分原因是他們已經(jīng)意識(shí)到今天的AI很簡單，而不是神圣的能力。

在與AGI和ASI互動(dòng)時(shí)，這種警告或信息性消息傳遞需要大量普及。通知不能僅僅在最初登錄時(shí)就會(huì)發(fā)生。在所有對話中，需要連續(xù)且令人震驚的提醒AI只是一臺(tái)機(jī)器。人們可能會(huì)覺得這種煩人和憤怒，但是所產(chǎn)生的摩擦值得這一結(jié)果，包括希望阻止人們認(rèn)為AI是神圣的。

當(dāng)然，有些人仍然會(huì)忽略消息傳遞。有些人會(huì)認(rèn)為這是掩蓋，隱藏了AI是甲骨文的真實(shí)事實(shí)。但是，這并不能否定不變提醒的價(jià)值。這只是意味著我們還需要為那些似乎錯(cuò)過備忘錄的人做好準(zhǔn)備。

AI的緊密界限

第二個(gè)考慮因素是，我們需要發(fā)現(xiàn)或發(fā)明巧妙的技術(shù)方法，以減少AI的機(jī)會(huì)，說明了Zany或其他誤導(dǎo)性的事情。

我以前探討了正在采用各種方法來處理AI幻覺的方法；請參閱此處的鏈接。一些專家對這些努力將完全成功感到懷疑。一種信念是，無論我們做什么，AI幻覺仍然存在。

為了應(yīng)對這種可能性，另一種可行的手段是用額外和分開的AI仔細(xì)檢查AI。它是這樣的。 AGI或ASI準(zhǔn)備向用戶發(fā)出消息。在用戶看到消息之前，通過用作雙重檢查器的其他AI喂食，該任務(wù)是饋送的。它被認(rèn)為與AGI或ASI無關(guān)。這樣，它可能不會(huì)與AGI和ASI保持一致。

兩次檢查可能會(huì)捕獲AI幻覺。這是100％的保證嗎？沒有。毫無根據(jù)的堅(jiān)果評論可能仍在尖叫。這不是確定的解決方案。這是一種分層方法，它為諸如瑞士奶酪和有很多孔的東西增加了一層。

另一個(gè)好處是，雙檢查器還可以對草稿產(chǎn)出進(jìn)行一種計(jì)算常識(shí)評估。這將在輸出輸入用戶之前篩選。

雙重檢查器組件的令人不安的缺點(diǎn)是，這意味著用戶不一定會(huì)看到AGI或ASI組成的確切單詞。假設(shè)雙檢查器出現(xiàn)問題，并阻止AGI或ASI中有用的重要信息？假設(shè)一名evildoer設(shè)法破壞了雙重檢查器，將其喂給民眾的邪惡詞，就好像它來自AGI或ASI嗎？

挑戰(zhàn)仍然需要解決并解決。

本站聲明

本文內(nèi)容由網(wǎng)友自發(fā)貢獻(xiàn)，版權(quán)歸原作者所有，本站不承擔(dān)相應(yīng)法律責(zé)任。如您發(fā)現(xiàn)有涉嫌抄襲侵權(quán)的內(nèi)容，請聯(lián)系admin@php.cn