President Donald Trump rescinded former President Joe Biden's AI Executive Order on day one of his term (disclosure: I served as senior counselor for AI at the Department of Homeland Security during the Biden administration), and Vice President JD Vance opened up the Paris AI Action Summit, a convening that was originally launched to advance the field of AI safety, by firmly stating that he was not actually there to discuss AI safety and would instead be addressing “AI opportunity.”萬斯繼續(xù)說，美國將“保護(hù)美國人工智能”，並阻止對手獲得“威脅我們所有人民”的AI能力。

如果沒有更多的背景，這些聽起來像是毫無意義的流行語 - AI安全和AI安全性有什麼區(qū)別，這種轉(zhuǎn)變對繼續(xù)採用AI的消費者和企業(yè)意味著什麼？

簡而言之，AI安全主要集中於以道德和可靠的行為方式開發(fā)AI，尤其是在高風(fēng)險環(huán)境（例如招聘或醫(yī)療保?。┲惺褂脮r。為了幫助防止AI系統(tǒng)造成傷害，AI安全立法通常包括風(fēng)險評估，測試協(xié)議和對人類監(jiān)督的要求。

相比之下，人工智能安全並不是要建立道德和安全的AI。相反，它假設(shè)美國的對手將不可避免地以惡意方式使用AI，並試圖捍衛(wèi)美國資產(chǎn)免受故意威脅，例如競爭對手被競爭國家利用AI來針對美國關(guān)鍵基礎(chǔ)設(shè)施。這些不是假設(shè)的風(fēng)險 - 美國情報機(jī)構(gòu)繼續(xù)追蹤中國，俄羅斯和朝鮮的進(jìn)攻性網(wǎng)絡(luò)運營。為了應(yīng)對這些類型的故意攻擊，組織需要強(qiáng)大的網(wǎng)絡(luò)安全實踐基線，這也解釋了AI提出的威脅。

這兩個領(lǐng)域都很重要且相互聯(lián)繫 - 那麼為什麼最近幾個月似乎黯然失色呢？我猜想，優(yōu)先考慮AI安全性與當(dāng)今外交政策的氛圍本質(zhì)上更加一致，其中最流行的世界觀是對地緣政治和經(jīng)濟(jì)優(yōu)勢國家中無情競爭的現(xiàn)實主義描述。優(yōu)先考慮AI安全旨在保護(hù)美國免受對手的侵害，同時維持美國在AI中的全球統(tǒng)治地位。另一方面，人工智能安全可能是有關(guān)言論自由和不公平偏見的政治辯論的避雷針。給定AI系統(tǒng)是否會造成實際傷害的問題也取決於上下文，因為在不同環(huán)境中部署的同一系統(tǒng)可能會產(chǎn)生截然不同的結(jié)果。

面對如此多的不確定性，再加上關(guān)於真正構(gòu)成公眾傷害的政治分歧，立法者一直在努力證明通過安全立法的合理性，這可能會阻礙美國的競爭優(yōu)勢。中國人工智能公司DeepSeek的消息以大幅降低的成本與我們的AI模型達(dá)到了競爭性能，僅重申了這一舉動，這使人們對美國和中國AI能力之間穩(wěn)步減少的差距穩(wěn)定減少。

當(dāng)聯(lián)邦安全立法的幽靈不再籠罩著時，現(xiàn)在會發(fā)生什麼？ Openai ， Anthropic和其他人對特朗普政府即將發(fā)布的“ AI行動計劃”的公眾評論提供了有趣的圖片，說明了AI優(yōu)先事項的變化。首先，“安全”幾乎沒有出現(xiàn)在行業(yè)的意見書中，在提到安全問題的地方，它們被改造為國家安全風(fēng)險，在美國爭奪中國的競爭中可能不利。通常，這些提交規(guī)定了一系列對創(chuàng)新友好的政策，從平衡的AI培訓(xùn)版權(quán)規(guī)則到對半導(dǎo)體和其他有價值的AI組件（例如模型權(quán)重）的導(dǎo)出控制。

除了試圖滿足特朗普政府在AI上的最初消息傳遞的精神外，這些意見似乎還揭示了公司認(rèn)為美國政府在AI方面的作用應(yīng)是什麼：資助基礎(chǔ)設(shè)施對進(jìn)一步的AI開發(fā)，保護(hù)美國IP，保護(hù)AI的基礎(chǔ)設(shè)施至關(guān)重要，僅在威脅我們國家安全的範(fàn)圍內(nèi)對AI進(jìn)行監(jiān)管。對我來說，這對AI公司的策略轉(zhuǎn)變不僅僅是通信轉(zhuǎn)變。如果有的話，這些行業(yè)的這些評論似乎比以前要求強(qiáng)大而全面的數(shù)據(jù)立法的呼籲更加與眾不同。

即使那樣，並不是該行業(yè)中的每個人都支持對我們AI主導(dǎo)地位的無人駕駛措施。在他們的論文《超級智能策略》中，三種著名的AI聲音，埃里克·施密特（Eric Sc??hmidt），丹·亨德里克斯（Dan Hendrycks）和亞歷山大·王（Alexandr Wang）建議謹(jǐn)慎謹(jǐn)慎，以追求曼哈頓項目風(fēng)格的推動超級智能AI的推動。作者相反，提出了“相互保證的AI故障”或Maim，這是一種防禦戰(zhàn)略，讓人聯(lián)想起冷戰(zhàn)時代的威懾，這將有力抵抗任何以國家領(lǐng)導(dǎo)的努力來實現(xiàn)AI壟斷的努力。

如果美國要採取此策略，則需要禁用威脅AI項目，限制對先進(jìn)的AI芯片和開放式體重模型的訪問，並加強(qiáng)國內(nèi)芯片製造。據(jù)作者說，這樣做將使美國和其他國家能夠和平推進(jìn)AI創(chuàng)新，同時降低了使用AI的流氓參與者的總體風(fēng)險來造成廣泛的損害。

有趣的是，隨著特朗普政府在AI上形成更詳細(xì)的立場，這些建議是否在未來幾個月內(nèi)獲得吸引力。我們應(yīng)該期望看到更多這樣的建議，特別是那些持續(xù)關(guān)注AI的地緣政治風(fēng)險和機(jī)會的建議，只有在有助於防止大規(guī)模災(zāi)難的範(fàn)圍內(nèi)提出立法，例如產(chǎn)生生物武器或?qū)γ绹P(guān)鍵美國資產(chǎn)的外國攻擊。

不幸的是，當(dāng)您停止關(guān)注它們或重命名安全機(jī)構(gòu)時，安全問題不會消失。在加強(qiáng)我們的安全姿勢的同時，可能有助於提高我們的競爭優(yōu)勢並應(yīng)對外國攻擊，而安全乾預(yù)措施有助於防止對個人或社會的損害。

現(xiàn)實情況是，AI安全和保障工作是攜手合作的 - 如果系統(tǒng)本身可以被黑客入侵，AI安全乾預(yù)措施將無效；同樣，如果這些系統(tǒng)本質(zhì)上不安全並且容易造成傷害，則將AI系統(tǒng)免受外部威脅的保護(hù)變得毫無意義。 Cambridge Analytica提供了這種關(guān)係的有用說明。該事件表明，F(xiàn)acebook圍繞數(shù)據(jù)訪問的安全協(xié)議不足以加劇安全漏洞，然後利用這些漏洞進(jìn)行政治操縱。當(dāng)今的AI系統(tǒng)面臨著類似的相互聯(lián)繫的挑戰(zhàn)。當(dāng)拆除安全護(hù)欄時，安全風(fēng)險不可避免地會隨之而來。

目前，AI安全掌握在州立法機(jī)關(guān)和公司信託和安全團(tuán)隊的手中。建立人工智能的公司知道 - 也許比其他任何人都更好 - 賭注是什麼。單一違反信任，無論是數(shù)據(jù)盜竊還是事故，都可能破壞其品牌。我預(yù)測，因此他們將繼續(xù)投資於明智的AI安全實踐，但謹(jǐn)慎而沒有大張旗鼓。諸如Roost之類的新興計劃使公司能夠協(xié)作建立開放的安全工具，這可能是對即將發(fā)生的事情的良好預(yù)覽：在過去的十年中，專家，實驗室和機(jī)構(gòu)的支持，在專家，實驗室和機(jī)構(gòu)的支持下，AI悄悄地湧現(xiàn)的AI安全運動。

希望這足夠了。

以上是美國AI政策從'安全”到'安全”急劇旋轉(zhuǎn)的詳細(xì)內(nèi)容。更多資訊請關(guān)注PHP中文網(wǎng)其他相關(guān)文章！