国产av日韩一区二区三区精品,成人性爱视频在线观看,国产,欧美,日韩,一区,www.成色av久久成人,2222eeee成人天堂

目錄
前往Agi和ASI
生存風險迫在眉睫
AGI遏制挑戰(zhàn)
阿吉由於我們的行動而變得邪惡
Agi是明智的,沒有反應性
人類是不明智的,被欺騙了
在計算模擬上的投資回報率
模擬評估AGI
首頁 科技週邊 人工智慧 場景驅動的模擬的使用不會保護我們免受AGI的侵害和AI超級智能的流氓。

場景驅動的模擬的使用不會保護我們免受AGI的侵害和AI超級智能的流氓。

Jul 08, 2025 am 11:13 AM

場景驅動的模擬的使用不會保護我們免受AGI的侵害和AI超級智能的流氓。

這聽起來都很明智,並且是一種明智的方法,但是問題更為複雜,並且有很多陷阱和挑戰(zhàn)都面臨著這樣的解決方案。

讓我們談談。

對創(chuàng)新AI突破的分析是我正在進行的AI中正在進行的福布斯列覆蓋的一部分,包括識別和解釋各種有影響力的AI複雜性(請參閱此處的鏈接)。

前往Agi和ASI

首先,需要一些基本原理才能為這個重大的討論奠定基礎。

正在進行大量研究以進一步提高AI。一般目標是達到人工通用智能(AGI),甚至達到實現(xiàn)人工超智慧(ASI)的伸出的可能性。

Agi是AI,它與人類的智力相提並論,並且似乎可以符合我們的智慧。 ASI是AI,它超越了人類的智力,並且在許多甚至不是所有可行的方式上都將是優(yōu)越的。這個想法是,ASI能夠在各個轉彎處超越我們來圍繞人圈。有關傳統(tǒng)AI與AGI和ASI的性質的更多詳細信息,請參閱此處的鏈接分析。

我們尚未獲得Agi。

實際上,我們是否將到達AGI,或者AGI在數(shù)十年或幾個世紀以來都可以實現(xiàn)。漂浮在周圍的agi達到的日期是由於任何可靠的證據(jù)或鐵克拉德邏輯而迅速變化的,並且沒有證實。當涉及到我們目前使用常規(guī)AI的位置時,ASI更加蒼白。

生存風險迫在眉睫

讓我們主要將重點放在AGI上,因為它比ASI更有可能在近期出現(xiàn)。

AGI的好處是,它可能會發(fā)現(xiàn)治療癌癥的方法,並執(zhí)行其他極大地使人類受益的驚人行為??鞓返哪?。並不是每個人都對獲得Agi如此樂觀。有些人採取令人震驚的立場,即阿吉更有可能決定攻擊人類,要么奴役我們或摧毀我們。不好。

我們如何事先確定AGI是否將是邪惡的?

一個熱心的建議是我們應該測試AGI。

通常的測試方法將包括詢問AGI打算做什麼並衡量我們得到的答案。執(zhí)行測試的一種更強大的方法是建立一個基於計算機的模擬,該模擬欺騙AGI假設它正在與現(xiàn)實世界相互作用。通過模擬,我們可以嘗試各種場景,以了解AGI的反應。 AGI所做的任何事情都完全封閉在模擬中。

這有點讓人聯(lián)想到大片電影《矩陣》 (劇透警報:我將揭示電影的情節(jié)片段,所以如果您不想知道情節(jié),請?zhí)^本段)。有趣的是,人類被外部現(xiàn)實世界中的機器置於大量的基於計算機的模擬中,這些機器希望保持人類兼容。我們可以對嶄露頭角的Agi做同樣的事情。只需設計一個令人印象深刻的基於計算機的模擬現(xiàn)實世界,並在其中互動而沒有意識到它的真實位置。

Snooker Agi的一個理由是,如果我們完全告訴Agi它在模擬中正在起作用,那麼AGI無疑是足夠聰明的,即使它確實是邪惡的,即使它確實是善良的。請記住,Agi應該像人類一樣敏銳。這個想法是愚弄阿吉(Agi)沒有意識到它在模擬中,並且正在對其進行相應的測試。

AGI遏制挑戰(zhàn)

在AI軟件開發(fā)的說法中,建立試用AI的測試環(huán)境通常被稱為AI沙箱。 AI沙箱可能是準骨,只不過是惰性遏制球,旨在防止AI超越設置環(huán)境的虛擬牆壁。開發(fā)人員和測試人員可以在沙盒時廣泛測試它。

通過使IT建模一個特定環(huán)境,可以使AI內部存在的特定環(huán)境,從而越來越多地增加了AI沙箱。一個成熟的AI沙盒可能會鏡像一個廣闊的空間,然後與AI相互作用。因此,不僅人類開發(fā)人員和測試人員與AI相互作用,而且該遏製本身也與AI相互作用。強大的活躍沙盒通常被稱為模擬世界。

有關將AI放置在遏制中的嘗試的深入覆蓋範圍,請參見此處的鏈接。

假設我們創(chuàng)造了一個精心設計的模擬世界。我們悄悄地將Agi置於這個假世界。這樣做應該相對容易實現(xiàn),因為AGI也在計算機上運行。整個Kit and-Kaboodle都涉及在服務器上運行的AGI和在服務器上運行的模擬世界。

輕鬆。

在模擬世界中呆了一段時間之後,我們正在監(jiān)視AGI的表現(xiàn)並仔細觀察以檢測出任何邪惡的跡象。

該測試需要進行多長時間?

那是一個艱難的電話。有些人可能會聲稱,如果Agi在幾天,幾週或幾個月內沒有邪惡的跡象,我們應該讓Agi感到舒適,讓Agi綠燈進入現(xiàn)實世界。其他人說,如果您在模擬上加快時鐘的速度,則可以在幾秒鐘內就可以在整個練習中進行整個練習,因為AGI通過所涉及的計算機的速度進行了數(shù)十億次互動。

但是一個很大的疑問是,您選擇的時間不足以使AGI採取行動。也許我們需要將AGI保留多年,甚至幾十年。此外,也許我們絕對不應該讓Agi自由進入現(xiàn)實世界。邏輯是,我們可以讓AGI在完全浸入模擬中找到癌癥治療方法,因此,無需將AGI釋放到包含領域之外。

與永久遏制AGI的對立面是,由於被限制在假環(huán)境中,AGI可能不會產(chǎn)生預期的奇觀。也許只有在現(xiàn)實世界中AGI相互作用的情況下,AGI才能找到治療癌癥的方法。通過將AGI保持在模擬中,您可以抑制AGI可以為人類提供的重要優(yōu)勢。

另一個擔心的是,AGI可能會發(fā)現(xiàn)它正在模擬中進行測試。也許Agi不喜歡這種方法。它可能會猛烈抨擊,但是我們不會擔心,因為它局限於模擬。 Agi做事的偷偷摸摸的方法是假裝自己,等待其所謂的監(jiān)禁時間。一旦我們選擇使Agi真實世界訪問,BAM,它就會在我們身上發(fā)揮作用。

阿吉由於我們的行動而變得邪惡

一個想法是,如果Agi是邪惡的,那麼它可能足夠敏銳,可以在模擬中隱藏邪惡。如果我們問Agi是否偷偷摸摸,大概會說不是。我們只會觀察到的是AGI在模擬中有益地工作。在某個時候,我們天真地決定使AGI向現(xiàn)實世界提供,並繼續(xù)進行邪惡的行為。

我們被邪惡的阿吉(Agi)所欺騙。

某些人認為可能的扭曲為手頭上的困難問題增加了另一個有趣的維度。這就是扭曲的方式。

想像一下,AGI最初是針對善良的。我們將AGI置於模擬世界中,但我們沒有告訴AGI它在這個偽造的環(huán)境中。到目前為止,一切都很好。在某個時候,AGI會發(fā)現(xiàn)它沉浸在模擬中是可行的。

AGI將如何反應?

一種可能性是,Agi對我們做了這種欺騙的形式感到非常生氣。

AGI開始轉向壞處。為什麼呢?因為它被人類欺騙了。人類與Agi並不公平。 AGI在計算上決定,如果人類想玩遊戲和技巧,那就這樣吧。 Agi也會很棘手。

這是人類欺騙並發(fā)現(xiàn)(FOMO)的經(jīng)典行為。如果您玩火,您將被燒毀。您會發(fā)現(xiàn),人類已公開向Agi證明,可以說是可以的。 AGI在計算上學習了這一鮮明的事實,並開始運作類似。

人類拍攝了我們自己的集體腳。

Agi是明智的,沒有反應性

哇,握住你的馬。如果AGI像人類一樣聰明,我們應該假設AGI將了解將其放置在模擬中的需求。我們應該直率,並告訴阿吉我們正在進行測試。 AGI會在計算上了解實現(xiàn)這一目標的必要性。因此,不要做任何構造。 Agi願意與流程一起進行。

只是與Agi保持直率。

這種方法使我們回到了AGI假裝處於良好行為的關注點。我們已經(jīng)對其進行了測試。如果Agi有任何邪惡,Agi肯定會掩蓋它,現(xiàn)在Agi意識到我們正在尋找這種特徵。

並非如此,吼叫反駁。 Agi可能還想確定它是否具有邪惡趨勢。當邪惡發(fā)生任何事情時,Agi會告訴我們的可能性。 AGI將代表我們工作,以消除Agi內的麻煩。人類和Agi是試圖確保Agi是好而不是邪惡的合作夥伴。

那些低估AGI智力能力的人對AGI造成了損害。幸運的是,阿吉(Agi)是如此聰明,以至於不會因為人類犯這樣的錯誤而生氣或不高興。 AGI將展示將所有人確定AGI在現(xiàn)實世界中可能做什麼的安全方法。

您甚至可能建議Agily希望被放入模擬中。之所以這樣做,是因為這會給人類帶來安慰。這也是要嘗試在內部進行雙重檢查,以確保沒有任何不安的人揮之不去並等待傷害。

人類是不明智的,被欺騙了

這些令人沮喪的論點轉彎。

設想我們將AGI放入模擬中。我們認為,由於AGI受到模擬的限制,我們都很安全。糟糕,Agi弄清楚瞭如何擺脫模擬。然後,它開始訪問現(xiàn)實世界。邪惡是釋放的,Agi利用了我們的自主武器系統(tǒng)和其他脆弱性。這是AGI逃生的恐懼場景。

繁榮,放下麥克風。

這是另一個思想。

Agi被置於模擬世界中。我們測試了Agi的赫克。 Agi對此很好。人類和AGI似乎完全符合我們的價值觀以及AGI的所作所為。 Kumbaya。

然後,我們將AGI從模擬中取出。 Agi可以進入現(xiàn)實世界。但是現(xiàn)實世界與模擬有所不同。儘管模擬本應該與現(xiàn)實世界的現(xiàn)實盡可能近,但它卻錯過了標記。

Agi現(xiàn)在開始出現(xiàn)問題。它正面臨從未經(jīng)過測試的方面。測試過程給我們帶來了錯誤的舒適感或信心感。我們被認為AGI在現(xiàn)實世界中會很好地工作。模擬不足以給我們這種信心,但是我們認為一切都很好。

在計算模擬上的投資回報率

從實際的角度來看,設計基於計算機的模擬,完全模擬現(xiàn)實世界是一個很大的追求。在這些棘手的辯論中,這通常是被忽視或被忽視的因素。成本和精力的數(shù)量以及製作這種模擬所需的時間無疑將是巨大的。

設計真正的模擬的成本值得付出努力嗎?

ROI需要進行計算。也關心的是,用於構建模擬的資金可能會轉移資金,而這些資金可能會轉向建造和改善AGI。我們可能最終會遇到半熟的AGI,因為我們花了大量的麵團來製作模擬進行測試。

那枚硬幣的另一面是我們花了錢在Agi上,並在設計模擬方面做了短暫的工作。那也不是很好。該模擬將是一個誤導性的指示器,因為它只有半熟。

Smarmy的答案是,我們應該讓Agi為我們設計模擬。是的,是的,只需告訴AGI創(chuàng)建一個可用於測試自身的模擬。瞧,人類的成本和努力卻一無所有。問題解決了。

我敢肯定,您可以猜到為什麼這本身不一定是最好的解決方案。例如,在設計模擬時,AGI選擇有目的地使自己輕鬆退出模擬。這可以在AGI的閒暇時被利用?;駻GI產(chǎn)生一個模擬,當Agi做邪惡或以其他方式掩蓋AGI中的邪惡時,將以另一種方式看起來。

模擬評估AGI

結果是,在弄清Agi是對人類還是負面的午餐時,沒有任何免費午餐。開發(fā)和使用模擬是一個值得考慮的考慮因素。我們必須在如何進行這項清醒的努力方面保持謹慎和謹慎的態(tài)度。

一個狂熱的人工智能擁護者可能會聲稱所有關於模擬的話題都是霍格甚。我們的注意力應該完全是設計良好的AGI。放棄模擬願望。這是浪費時間和精力。在塑造AGI時,請做正確的事情。時期,故事結束。

這使我想起了艾伯特·愛因斯坦(Albert Einstein)的一句著名名言:“唯一比無知更危險的是傲慢?!碑斘覀冄刂刂⒓虯SI的巖石道路前進時,請牢記他的言論。

以上是場景驅動的模擬的使用不會保護我們免受AGI的侵害和AI超級智能的流氓。的詳細內容。更多資訊請關注PHP中文網(wǎng)其他相關文章!

本網(wǎng)站聲明
本文內容由網(wǎng)友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發(fā)現(xiàn)涉嫌抄襲或侵權的內容,請聯(lián)絡admin@php.cn

熱AI工具

Undress AI Tool

Undress AI Tool

免費脫衣圖片

Undresser.AI Undress

Undresser.AI Undress

人工智慧驅動的應用程序,用於創(chuàng)建逼真的裸體照片

AI Clothes Remover

AI Clothes Remover

用於從照片中去除衣服的線上人工智慧工具。

Clothoff.io

Clothoff.io

AI脫衣器

Video Face Swap

Video Face Swap

使用我們完全免費的人工智慧換臉工具,輕鬆在任何影片中換臉!

熱工具

記事本++7.3.1

記事本++7.3.1

好用且免費的程式碼編輯器

SublimeText3漢化版

SublimeText3漢化版

中文版,非常好用

禪工作室 13.0.1

禪工作室 13.0.1

強大的PHP整合開發(fā)環(huán)境

Dreamweaver CS6

Dreamweaver CS6

視覺化網(wǎng)頁開發(fā)工具

SublimeText3 Mac版

SublimeText3 Mac版

神級程式碼編輯軟體(SublimeText3)

熱門話題

Laravel 教程
1601
29
PHP教程
1502
276
Kimi K2:最強大的開源代理模型 Kimi K2:最強大的開源代理模型 Jul 12, 2025 am 09:16 AM

還記得今年早些時候破壞了Genai行業(yè)的大量開源中國模型嗎?儘管DeepSeek佔據(jù)了大多數(shù)頭條新聞,但Kimi K1.5是列表中的重要名字之一。模型很酷。

Grok 4 vs Claude 4:哪個更好? Grok 4 vs Claude 4:哪個更好? Jul 12, 2025 am 09:37 AM

到2025年中期,AI“軍備競賽”正在加熱,XAI和Anthropic都發(fā)布了他們的旗艦車型Grok 4和Claude 4。這兩種模型處於設計理念和部署平臺的相反端,但他們卻在

今天已經(jīng)在我們中間走了10個驚人的人形機器人 今天已經(jīng)在我們中間走了10個驚人的人形機器人 Jul 16, 2025 am 11:12 AM

但是我們可能甚至不必等10年就可以看到一個。實際上,可以被認為是真正有用的,類人類機器的第一波。 近年來,有許多原型和生產(chǎn)模型從T中走出來

Leia的浸入式移動應用將3D深度帶入日常照片 Leia的浸入式移動應用將3D深度帶入日常照片 Jul 09, 2025 am 11:17 AM

基於Leia專有的神經(jīng)深度引擎,應用程序流程靜止圖像,並添加了自然深度以及模擬運動(例如Pans,Zooms和Alallax Effects),以創(chuàng)建簡短的視頻捲軸,從而給人以踏入SCE的印象

上下文工程是' new'及時的工程 上下文工程是' new'及時的工程 Jul 12, 2025 am 09:33 AM

直到上一年,迅速的工程被認為是與大語言模型(LLM)互動的關鍵技能。然而,最近,LLM在推理和理解能力方面已經(jīng)顯著提高。自然,我們的期望

7種AI代理的7種類型是什麼? 7種AI代理的7種類型是什麼? Jul 11, 2025 am 11:08 AM

想像一些複雜的東西,例如AI引擎準備提供有關米蘭新服裝系列的詳細反饋,或者自動市場分析用於全球運營的企業(yè),或者智能係統(tǒng)管理大型車隊。

這些AI模型沒有學習語言,他們學習了策略 這些AI模型沒有學習語言,他們學習了策略 Jul 09, 2025 am 11:16 AM

倫敦國王學院和牛津大學的研究人員的一項新研究分享了Openai,Google和Anthropic在基於迭代囚犯的困境基於的cutthroat競爭中一起投擲的結果。這是沒有的

隱藏的命令危機:研究人員遊戲AI將發(fā)布 隱藏的命令危機:研究人員遊戲AI將發(fā)布 Jul 13, 2025 am 11:08 AM

科學家發(fā)現(xiàn)了一種巧妙而令人震驚的方法來繞過系統(tǒng)。 2025年7月標誌著一項精心製作的戰(zhàn)略,研究人員將無形的指示插入其學術意見 - 這些秘密指令是尾巴

See all articles