如果AI的教父告訴您“訓(xùn)練成為水管工”，那麼您知道這是值得聽的 - 至少這就是引起我注意的原因。在最近的討論中，杰弗裡·欣頓（Geoffrey Hinton）談到了Upertintelligent AI所塑造的潛在未來，如果您很好奇這次談話是如何展開的，那麼您並不孤單！在這次演講中，欣頓談到了圍繞人工智能的一些最大問題：它的風(fēng)險，社會影響以及所有這些對我們作為人類意味著什麼。讓我們探索這個著名的AI先驅(qū)所共有的主要收穫和思想。

內(nèi)容表

• 杰弗裡·欣頓（Geoffrey Hinton）採訪的主要亮點
  • AI的演變
  • 人工智能對工作的影響
  • 兩種AI風(fēng)險
  • AI導(dǎo)致的就業(yè)市場不斷變化
  • 戰(zhàn)爭中的人工智能
  • 超級智能威脅
  • 法規(guī)：太少，太晚了？
• 結(jié)論

杰弗裡·欣頓（Geoffrey Hinton）採訪的主要亮點

杰弗裡·辛頓（Geoffrey Hinton）出現(xiàn)在由著名的英國企業(yè)家史蒂芬·巴特利特（Steven Bartlett）主持的播客“首席執(zhí)行官日記”上，討論了他目前的使命 - “警告人們有關(guān)人工智能的危險。 ”當(dāng)我們接近一個轉(zhuǎn)折點時，機(jī)器可能會變得更加聰明，而不是人類更加聰明，他感覺不足以建立這些機(jī)構(gòu)，以建立這些機(jī)構(gòu)，這些機(jī)構(gòu)能夠掌握這些機(jī)構(gòu)的能力，而這些機(jī)構(gòu)可以由領(lǐng)導(dǎo)者和技術(shù)來掌握這些機(jī)構(gòu)。

以下是討論中的一些值得注意的觀點：

1。 AI的演變

杰弗裡·辛頓（Geoffrey Hinton）花費(fèi)了二十年的時間來倡導(dǎo)基於神經(jīng)網(wǎng)絡(luò)的AI模型，旨在模仿人腦學(xué)習(xí)和識別模式的能力。最初，他的想法被懷疑和拒絕。然而，今天，他的工作構(gòu)成了現(xiàn)代AI的基礎(chǔ)。 Hinton與他的才華橫溢的學(xué)生一起在發(fā)展深度學(xué)習(xí)方面發(fā)揮了作用，這為當(dāng)今的AI技術(shù)提供了動力。當(dāng)被問及他預(yù)見AI如何超越人類智慧時，欣頓承認(rèn)他很慢地意識到這一點。他指出，Chatgpt標(biāo)誌著AI的主要里程碑，展示了超出預(yù)期的能力，包括理解和模仿人類的情感。

Hinton解釋說，AI與生物智能基本上不同。隨著更快的學(xué)習(xí)速度，更高的數(shù)據(jù)處理能力以及遠(yuǎn)遠(yuǎn)超出人類能力的量表，AI可能很快就會超過人類的智能。如果發(fā)生這種情況，AI可以做出決定，而無需任何人類的監(jiān)督或解釋。

2。 AI對工作的影響

讓我們開始開個玩笑，但這並不是真的很有趣。當(dāng)Geoffrey Hinton被問及AI時代的職業(yè)選擇時，他開玩笑地建議成為一名水管工。幽默隱藏了一個嚴(yán)重的警告：AI可能會取代許多知識工作。隨著人工智能變得更加先進(jìn)，一旦需要人類輸入的常規(guī)認(rèn)知任務(wù)可能不再需要。即使涉及創(chuàng)造力和復(fù)雜決策的角色也不是安全的，因為LLM會直接與人類競爭。這意味著人們將繼續(xù)使用更少的高級工作。

3。兩種AI風(fēng)險

欣頓概述了兩種主要類型的AI風(fēng)險。第一個涉及濫用造成的即時威脅，例如網(wǎng)絡(luò)攻擊，欺詐和操縱變得更加有效和危險。關(guān)於風(fēng)險的第二個也是更大的是，當(dāng)AI變得比人類聰明得多。欣頓認(rèn)為，在那個階段，我們甚至可能不了解AI在做什麼或如何控制它。例如，聊天機(jī)器人數(shù)據(jù)可用於用高度針對性的廣告來操縱選民。諸如YouTube和Facebook之類的平臺可能會使用LLM來利用人們的情緒來推動特定的議程。

4。由於AI而不斷變化的就業(yè)市場

Hinton提出的最緊急問題之一是AI將如何影響就業(yè)。儘管許多人將AI視為支持人工工人的工具，但欣頓警告說，AI將消除大量工作，尤其是那些涉及重複性精神任務(wù)的工作。他以侄女為例，他的侄女在醫(yī)療保健工作，現(xiàn)在使用AI來更快地處理投訴。這說明了AI如何取代以前需要大量人力努力的工作。

根據(jù)欣頓的說法，涉及智力勞動力的工作將逐漸消失，儘管現(xiàn)在的醫(yī)療保健和體力勞動等領(lǐng)域仍然可以安全。但是，如果有能力的機(jī)器人變得廣泛，即使這些領(lǐng)域也可能會改變。

5。戰(zhàn)爭中的AI

在討論AI在戰(zhàn)爭中的作用時，Hinton對“致命的自動武器”表示關(guān)注。這些機(jī)器可以獨(dú)立地決定針對誰，並有可能改變戰(zhàn)爭的方式。隨著人類參與度的最低，隨著國家避免士兵的損失，衝突可能會變得更加頻繁，抗拒。儘管這些武器可能不比人類聰明，但它們在沒有直接人類投入的情況下運(yùn)作，這使它們變得不可預(yù)測和危險。儘管代價高昂，但對於預(yù)算足夠的國家來說，這種武器將無法實現(xiàn)，這使它們比傳統(tǒng)軍隊具有優(yōu)勢。

另請閱讀：詹森黃（Jensen Huang）的8個未來預(yù)測聽起來像科幻小說

6。超級智能威脅

Hinton走得更遠(yuǎn)，解釋說，一旦AI達(dá)到超級智能，它以各種方式勝過人類，它將不再取決於人類的需求或慾望。問題不是AI是否可以超越我們，而是它是否決定完全刪除我們。超級智能AI可能會將人類視為對其目標(biāo)的威脅，並以可能結(jié)束文明的方式行事。這聽起來像是《終結(jié)者3》中的東西，但是對於Hinton（在AI安全方面工作）來說，這真是令人擔(dān)憂?，F(xiàn)在的挑戰(zhàn)是創(chuàng)建安全，安全且始終在我們控制之下的AI。

7.法規(guī)：太少，太晚了？

欣頓承認(rèn)正在引入法規(guī)，尤其是在歐洲，但認(rèn)為他們沒有解決AI危險的全部範(fàn)圍。例如，一些法律省略了AI的軍事應(yīng)用，這是最大風(fēng)險所在的地區(qū)。他還強(qiáng)調(diào)了政府和公司如何利用AI來影響選舉，管理人口和加深不平等。

儘管擔(dān)心不斷增加，Hinton仍然懷疑我們是否能夠減慢AI的開發(fā)，因為該技術(shù)太有價值並且深深地嵌入了全球系統(tǒng)中。對他來說，AI是一支不可阻擋的力量，這是一種技術(shù)轉(zhuǎn)變，已經(jīng)取得了太遠(yuǎn)。

注意：您可以在這裡聽到整個對話。

結(jié)論

這次採訪使我感到緊迫感。他描述的危險非常真實。雖然AI提供了改善我們生活的絕佳機(jī)會，包括改革醫(yī)療保健，教育和生產(chǎn)力 - 它也帶來了嚴(yán)重的風(fēng)險，使社會準(zhǔn)備不足以應(yīng)付。從失業(yè)到自動武器，AI的效果可以以我們尚未準(zhǔn)備好的方式重塑我們的世界。

Hinton的信息很明確：我們必須在AI安全方面進(jìn)行大量投資。我們能否真正控制AI的未來仍然不確定。但是，如果我們不嘗試，我們可能會面臨以災(zāi)難性結(jié)果為主導(dǎo)的未來的未來。

在反思這次對話時，我發(fā)現(xiàn)自己有更多的問題，而不是答案。然而，有一件事是可以肯定的：我們站在遠(yuǎn)比我們?nèi)魏稳送耆莆盏臇|西的邊緣。人工智能可能被證明是人類的最大成就，或者是最大的錯誤。選擇和責(zé)任在於我們。

以上是Geoffrey Hinton的7個關(guān)鍵亮點的詳細(xì)內(nèi)容。更多資訊請關(guān)注PHP中文網(wǎng)其他相關(guān)文章！