請注意，聯(lián)合國對AI的發(fā)展方式以及應進行哪種國際多邊安排和合作的興趣（請參閱此處的鏈接上的我的報道）。該最新報告的獨特元素是，現(xiàn)在的重點需要放在我們達到的AGI上，這是AI的頂峰類型。 AI社區(qū)中的許多人斷言，我們已經(jīng)接近AGI的風口浪尖，然后很快我們將到達人工超級智能（ASI）。

為了人類和全球生存，聯(lián)合國尋求在AGI及其最終ASI的治理和控制方面發(fā)表意見。

讓我們談談。

對創(chuàng)新AI突破的分析是我正在進行的AI中正在進行的福布斯列覆蓋的一部分，包括識別和解釋各種有影響力的AI復雜性（請參閱此處的鏈接）。

前往Agi和ASI

首先，需要一些基本原理才能為這個重大的討論奠定基礎。

正在進行大量研究以進一步提高AI。一般目標是達到人工通用智能（AGI），甚至達到實現(xiàn)人工超智慧（ASI）的伸出的可能性。

Agi是AI，它與人類的智力相提并論，并且似乎可以符合我們的智慧。 ASI是AI，它超越了人類的智力，并且在許多甚至不是所有可行的方式上都將是優(yōu)越的。這個想法是，ASI能夠在各個轉彎處超越我們來圍繞人圈。有關傳統(tǒng)AI與AGI和ASI的性質的更多詳細信息，請參閱此處的鏈接分析。

我們尚未獲得Agi。

實際上，尚不清楚我們是否將達到AGI，或者從現(xiàn)在起數(shù)十年或幾個世紀以來是否可以實現(xiàn)AGI。漂浮在周圍的agi達到的日期是由于任何可靠的證據(jù)或鐵克拉德邏輯而迅速變化的，并且沒有證實。當涉及到我們目前使用常規(guī)AI的位置時，ASI更加蒼白。

聯(lián)合國進入了AI和AGI

我以前曾在AI的前進方向以及社會如何最好地利用Advanced AI方面探討了許多聯(lián)合國的努力。

例如，我廣泛列出了聯(lián)合國建議使用AI來實現(xiàn)自動可持續(xù)性發(fā)展目標（SDG）的方式，請參閱此處的鏈接。聯(lián)合國的另一個重要文件是聯(lián)合國教科文組織領導的關于AI倫理的協(xié)議，該協(xié)議是有史以來首次涉及193個國家的全球共識，涉及適當使用高級AI（請參閱此處的鏈接上的分析）

最新的值得注意的報告名為“向人工通用情報（AGI）的過渡：聯(lián)合國大會的緊急考慮”，并被準備并提交給聯(lián)合國大會總統(tǒng)理事會（UNCPGA）。

以下是該報告中的一些要點（摘錄）：

• “ AI系統(tǒng)正在迅速發(fā)展到人工通用智能（AGI），其特征是能夠在多種認知任務中平等或超越人類智能的系統(tǒng)。”
• “與傳統(tǒng)的AI不同，AGI可以自主執(zhí)行超出人類監(jiān)督的有害行為，從而產(chǎn)生不可逆轉的影響，高級武器系統(tǒng)的威脅以及關鍵基礎設施中的脆弱性?！?/li>
• “為了有效解決這些全球挑戰(zhàn)，聯(lián)合國支持的立即和協(xié)調的國際行動至關重要?！?/li>
• “如果沒有積極的全球管理，國家和公司之間的競爭將加速風險的AGI發(fā)展，破壞安全協(xié)議并加劇地緣政治緊張局勢?！?/li>
• “協(xié)調的國際行動可以防止這些結果，促進安全的AGI開發(fā)和使用，公平的福利分配以及全球穩(wěn)定?！?/li>

最重要的是，可以提出一個有力的案例，即如果允許AGI放開且不足以監(jiān)督，社會將面臨嚴重的風險。關于世界各國如何團結起來來降低這種風險的問題。恰當?shù)兀?lián)合國認為他們是應對這一挑戰(zhàn)的適當機構。

聯(lián)合國提出了四個大問題

聯(lián)合國報告關于應對AGI出現(xiàn)的迫切需要步驟的報道？

這四個至關重要的建議被指出：

• （1）建立全球AGI天文臺。
• （2）為安全和值得信賴的AGI制定了一套國際最佳實踐和認證。
• （3）召集有關AGI的特殊框架公約。
• （4）有可能創(chuàng)建一個完全致力于AGI降臨的新聯(lián)合國機構。

這些建議將由聯(lián)合國大會總統(tǒng)委員會考慮。

總的來說，制定其中一個或多個建議將無疑涉及某種形式的聯(lián)合國大會決議，無疑需要將其集成到聯(lián)合國的其他AI倡議中?？赡軟]有任何建議將繼續(xù)進行。同樣，建議可以通過其他方式修訂或重建和使用。

隨著有價值的事情的進展，我會及時通知您。

同時，讓我們對這四個建議進行一些包裝。我將一一這樣做，然后提供一個挑釁或引人入勝的結論。

全球AI天文臺

這四個建議中的第一個需要建立全球AGI天文臺，該天文臺將跟蹤AGI的情況。將其視為專門的在線存儲庫，它將作為有關AGI的策劃信息來源。

我同意，這可能對聯(lián)合國成員國極大幫助，并且對整個公眾有用。

您會發(fā)現(xiàn)，目前的問題是，關于AGI的錯誤信息和虛假信息散布在周圍，經(jīng)常大肆宣傳或有時低估AGI和ASI的出現(xiàn)。假設AGI天文臺是正確設計的，并且在收集和共享的內容中進行了適當?shù)闹斏?，那么擁有可靠和平衡的AGI來源將非常有用。

對這種AGI天文臺的一種潛在批評是，它可能是對AGI的其他類似商業(yè)或民族收藏的重復性。另一個疑問是，如果允許Agi天文臺偏向偏見，它會誤導地帶有平衡的光環(huán)，但實際上會以指示的方式傾斜。

AGI的最佳實踐和認證

第二個建議要求制作一套AGI最佳實踐。這將有助于國家理解在各自國家中明智地監(jiān)督AGI的哪種治理結構。它可能會激發(fā)各國以級別的競爭基礎進行。此外，它減少了輪子的眾所周知的重塑，即，各國可以簡單地采用或適應已經(jīng)提出的一組AGI最佳實踐。

無需從頭開始編寫此類規(guī)定。

從類似的角度來看，AGI認證的建立將與AGI的最佳實踐相吻合。 AI制造商和整個國家有望獲得有關其AGI及其符合至關重要標準的認證。

在這方面的批評是，如果聯(lián)合國不將最佳實踐的使用是強制性的，并且同樣，如果AGI認證只是可選的，那么如果有任何國家會遇到麻煩，那么很少有人會采用它們。從這個意義上講，整個創(chuàng)造力主要是窗戶的敷料，而不是腳到開火的考慮。

聯(lián)合國框架約定

在聯(lián)合國的說法中，有些預計將呼吁就重要主題制定框架公約。

由于AGI是一個重要的話題，因此，這是報告中提出的內容的快照摘錄：“需要關于AGI的框架公約，以建立共同的目標和靈活的協(xié)議來管理AGI風險并確保全球福利分配。它應該定義清晰的風險層，需要對國際行動，從標準設定和確定的AGI進行相應的國際行動，以開發(fā)較高的AGI或REDISS和REDIRS和REDIRS，并劃分劃分。

對這類活動的通常批評是，它們可以成為一場官僚主義的噩夢，并不能產(chǎn)生任何實質性的噩夢。另外，他們可能會伸展，并且是一件漫長的事情。如果您認為AGI在接近地平線上，這在這種情況下尤其令人不安。

制定聯(lián)合國AGI代理

第四個建議表明，將進行可行性研究，以評估是否應該建立新的聯(lián)合國機構。這將是專門致力于AGI主題的專門代理機構。該報告強調，需要快速探索，批準并加快動議。

類似的代理或實體將是國際原子能局（IAEA）。您可能知道，國際原子能機構（IAEA）試圖指導世界朝著核能的和平用途。它有一項基礎條約，可在IAEA內提供自我掩護。總體而言，國際原子能機構向聯(lián)合國大會和聯(lián)合國安理會報告。

對聯(lián)合國提出一個AGI機構的批評是，它可能會陷入國際爭吵中。也有可能是對AGI創(chuàng)造性使用的抑制劑，而不僅僅是作為降低風險指南的抑制劑。要澄清，有些人反對過多的監(jiān)管和監(jiān)督機構，因為這可能削弱了AGI的創(chuàng)新用途。

我們可能會無意中將Agi變成比我們之前所希望的要令人印象深刻和有價值的東西。悲傷的臉。

采取行動與坐在周圍

您是否認為我們應該對AGI采取公開的治理行動，例如聯(lián)合國AGI報告中闡明的建議？

有人會說是的，我們必須立即采取行動。其他人會建議我們度過美好的時光。讓事情變得更好，而不是趕緊他們。還有其他人可能會說根本不需要做任何事情。只是等待看看。

作為對那個棘手難題的思考的食物，這是阿爾伯特·愛因斯坦（Albert Einstein）令人難忘的話：“世界不會被那些邪惡的人摧毀，而是那些看著他們沒有做任何事情的人?！笨紤]到我們應該在AGI和全球治理問題下做些什么決定。

人類的命運可能在線。

以上是聯(lián)合國考慮了這四個至關重要的行動，以拯救世界免于可怕的AGI和殺手AI超級智能的詳細內容。更多信息請關注PHP中文網(wǎng)其他相關文章！