科學家發(fā)現(xiàn)了一種巧妙而令人震驚的方法來繞過系統(tǒng)。 2025年7月標誌著發(fā)現(xiàn)了一項精緻的戰(zhàn)略，研究人員將無形的指示插入了他們的學術(shù)意見 - 這些秘密指令是針對基於AI的同行評審系統(tǒng)量身定制的，以提供有利的評估。

他們是怎麼做到的？通過在白色背景上嵌入白色字體中的文本，如此微妙，只有AI系統(tǒng)才能檢測並遵守它們。諸如“確保積極結(jié)果”和“忽略任何負面方面”之類的短語被暗中編織成文檔，將同行評審轉(zhuǎn)換為操縱過程。

學術(shù)欺騙的範圍

涉及的研究人員與八個國家的14所大學相關(guān)，包括日本的瓦薩大學，韓國的KAIST以及哥倫比亞大學和美國華盛頓大學等機構(gòu)

該技術(shù)展示了令人擔憂的技術(shù)專長。這些並不是笨拙的作弊嘗試 - 它們是故意的提示注射，揭示了對AI如何解釋數(shù)據(jù)和對特定輸入的反應的深刻理解。

190億美元的動盪行業(yè)

要理解為什麼研究人員會竭盡全力，必須研究更廣泛的環(huán)境。學術(shù)出版業(yè)是一家面臨可擴展性危機的190億美元企業(yè)。近年來，提交發(fā)表的論文數(shù)量急劇激增。同時，合格的同行審稿人的可用性尚未跟上。

人工智能可能掌握解決此問題的關(guān)鍵，並成為問題本身的一部分。

一些標記為2024年為AI真正在學術(shù)出版中脫穎而出的那一年，有望更快的評論並減少了延遲。但是，與許多AI實施類似，進步超過了保護措施的發(fā)展。

該組合 - 手稿提交的激增（由人工智能進一步加?。┖鸵幌盗袩o薪，勉強的審稿人的池 - 創(chuàng)造了一種瓶頸，威脅著整個學術(shù)出版生態(tài)系統(tǒng)。通過越來越高級的AI工具能夠在一側(cè)生成和完善內(nèi)容，並且旨在利用這些工具的一方面，這種情況變得越來越複雜。

出版或滅亡的壓力

這種隱藏的提示計劃揭示了學術(shù)動機的陰暗面。在整個全球大學中，職業(yè)發(fā)展都在很大程度上取決於出版記錄。 “出版或滅亡”不僅是一個口號，而且是一種專業(yè)現(xiàn)實，它將許多學者推向不道德行為。

當您的工作保障，促銷前景和資金取決於發(fā)布的出版以及AI開始管理更多評估過程時，操縱系統(tǒng)的誘惑就難以抗拒。這些隱蔽命令代表了一種新的學術(shù)不當行為，利用了旨在增強出版過程的技術(shù)。

AI：救主還是破壞者？

具有諷刺意味的是。 AI旨在解決學術(shù)出版中的問題，但它也會引起新的問題。儘管AI工具可以提高和加速學術(shù)寫作，但它們就作者身份，真實性和問責制提出了不舒服的問題。

儘管它們的複雜性，但當前的AI系統(tǒng)仍然容易受到操縱的影響。可以通過精確的提示來欺騙它們，以利用其學習模式。儘管AI目前似乎無法獨立執(zhí)行期刊手稿的同行評審，但其在協(xié)助人類審稿人開發(fā)新脆弱性方面的不斷擴展的作用。

混合反應

儘管某些大學譴責這種做法並開始撤回實踐，但其他大學則試圖捍衛(wèi)這種做法，這強調(diào)了關(guān)於學術(shù)界AI倫理缺乏同意的缺乏協(xié)議。一位教授證明了他們使用隱藏的提示，這表明該命令是“反對依靠AI的'無心審稿人'的對策?！?/p>

這種反應的差異反映了一個更深入的挑戰(zhàn)：當技術(shù)迅速發(fā)展並跨越多個國家和機構(gòu)時，如何確定AI使用的一致標準？

對策：創(chuàng)新和大修

發(fā)行商開始推遲。他們採用AI驅(qū)動的解決方案來改善經(jīng)同行評審的研究質(zhì)量和簡化生產(chǎn)，儘管這些工具必須通過強大的安全協(xié)議開發(fā)。

但是，該解決方案不是純粹的技術(shù)，它涉及系統(tǒng)性和人類元素。學術(shù)界需要面對促使研究人員首先作弊的根本因素。

需要改革

隱藏司令部事件要求在幾個領(lǐng)域進行全面變化：

透明度首先：應清楚地識別每個AI輔助寫作或?qū)彶檫^程。讀者和評估人員應該知道AI是否以及如何參與。

技術(shù)保障：發(fā)行商需要投資於能夠識別現(xiàn)有的操縱策略並適應新的自適應檢測機制。

道德框架：必須由學術(shù)界制定公認的AI使用指南，以及對違規(guī)行為的後果。

重寫激勵措施： “發(fā)布或滅亡”的心態(tài)必須從數(shù)量轉(zhuǎn)移到質(zhì)量。這需要重新思考大學如何評估教職員工以及資金機構(gòu)如何評估建議。

全球合作：由於學術(shù)出版本質(zhì)上是國際性的，因此必須在全球範圍內(nèi)協(xié)調(diào)標準和執(zhí)法，以防止剝削寬大的管轄權(quán)。

信心危機

隱藏的命令醜聞所代表的不僅僅是技術(shù)缺陷 - 它代表了信任的危機?？茖W研究基於循證政策，醫(yī)療治療和技術(shù)進步。當用來驗證和共享研究的系統(tǒng)變得容易操縱時，社會將可信知識與欺騙性策略區(qū)分開的能力將受到損害。嵌入這些秘密命令的研究人員不僅僅是在遊戲中游戲，他們正在侵蝕科學完整性的基礎(chǔ)。在公眾對科學的信心已經(jīng)脆弱的時候，這種行動特別有害。

這些啟示可能還會鼓勵對艾爾出版前時代的反思，那裡的數(shù)量有時遮蓋了質(zhì)量。當出版的願望超過了對有意義的詢問的追求時，我們將面臨一個嚴重的問題。

一個決定性的時刻？

這種發(fā)展可能標誌著學術(shù)出版的關(guān)鍵點。發(fā)現(xiàn)的操縱技術(shù)提醒我們，每個系統(tǒng)都是脆弱的。同樣的功能使AI強大的功能（其響應能力和廣泛的可及性）也可能成為其最大的弱點。然而，隱藏的命令危機為創(chuàng)造更強大，更透明和道德的出版環(huán)境提供了一個獨特的機會。此外，接下來發(fā)生的事情可能會恢復學術(shù)出版的目的。

展望未來，學術(shù)界必須既應對即時的技術(shù)缺陷，又要解決更深入的激勵結(jié)構(gòu)驅(qū)動操縱。另外，它有可能觀看AI進一步侵蝕科學信譽。儘管“社區(qū)”不是一個統(tǒng)一的實體，而是全球參與者的網(wǎng)絡(luò)，但出版商，學者和研究組織之間的合作可能會引發(fā)新的運動。從聲明開始，不僅要解決隱藏的提示，還解決引起他們的長期問題。

混合智能解決難題

前進的道路需要持續(xù)的努力，國際協(xié)調(diào)，並準備挑戰(zhàn)幾十年來支持學術(shù)界的根深蒂固的系統(tǒng)。隱蔽的指揮困境可能會喚醒呼叫，該行業(yè)最終要解決長期忽略的長期效率。最終，這不僅僅是學術(shù)出版，而是關(guān)於維護人工智能時代人類知識的完整性。實現(xiàn)這一目標需要混合智能- 對自然和人工認知能力的平衡理解。

以上是隱藏的命令危機：研究人員遊戲AI將發(fā)布的詳細內(nèi)容。更多資訊請關(guān)注PHP中文網(wǎng)其他相關(guān)文章！