AI代碼生成器需要大型模型，可以管理更廣泛的上下文窗口，能夠處理約100,000行代碼。專家（MOE）模型的混合物也很可觀。但是，這些巨大的模型往往很昂貴，價格從目前的GPU中的每百萬產(chǎn)量代幣10到15美元不等。這為創(chuàng)新的AI體系結(jié)構(gòu)提供了一個開放，以挑戰(zhàn)GPU的統(tǒng)治地位。

腦系統(tǒng)與QWEN3-235B啟動大型AI

腦系統(tǒng)（Cambrian-AI研究的客戶）已經(jīng)引入了對實質(zhì)性QWEN3-235B模型的支持，該模型支持上下文長度為131K（大約200-300頁的文本），這是以前可能的四倍。在巴黎的加薪峰會上，小腦強調(diào)了阿里巴巴的QWEN3-235B，該Qwen3-235b利用高效的Expert架構(gòu)來實現(xiàn)出色的計算效率。然而，真正的突破是，腦型可以以每百萬個輸入令牌和每百萬產(chǎn)量令牌為每百萬美元的投入代幣和每百萬個產(chǎn)量令牌的價格僅為0.60美元，這是相似封閉式模型的十分之一。盡管許多人認為腦晶圓尺度發(fā)動機是昂貴的，但該數(shù)據(jù)挑戰(zhàn)了這種信念。

我經(jīng)常收到的一個問題是：如果小腦如此之快，為什么沒有更多的客戶？原因之一是它以前缺乏對大型上下文窗口和較大型號的支持。希望創(chuàng)建代碼的開發(fā)人員不想將問題分解為較小的片段以適合32KB上下文。現(xiàn)在，這種銷售障礙已經(jīng)消失。

Cerebras Systems首席執(zhí)行官兼創(chuàng)始人Andrew Feldman表示：“我們看到開發(fā)人員對具有擴展背景的尖端模型的需求，尤其是對于代碼生成的模型。” “ Cerebras上的QWEN3-235B是我們的第一個模型，它直接與Claude 4和DeepSeek R1等領(lǐng)先模型競爭。而且，在完整的131k環(huán)境下，開發(fā)人員現(xiàn)在可以利用腦級編碼應用程序，并在第二秒鐘以下等待GPUS上恢復響應，而不是在GPUS上等待GPUS。”

小腦的支持上下文長度從32K增加到131k代幣，匹配QWEN3-235B支持的最大值。這種增強嚴重影響了該模型處理大型代碼庫和復雜文檔的能力。雖然32K上下文足以用于基本代碼生成任務，但131K上下文允許該模型同時處理數(shù)十個文件和數(shù)萬行代碼，從而為生產(chǎn)級應用程序提供了開發(fā)。

QWEN3-235B在要求深層邏輯推理，高級數(shù)學和代碼生成的任務中表現(xiàn)出色，這要歸功于其在“思考模式”之間切換（用于高復雜性任務）和“非思維模式”（用于高效，通用對話）的能力。 131K上下文長度使該模型能夠攝入和分析大型代碼庫（成千上萬的行），支持代碼重構(gòu)，文檔和錯誤檢測等任務。

小腦還揭示了其生態(tài)系統(tǒng)的進一步增長，獲得了亞馬遜AWS，DataRobot，Docker，Cline和Insion的支持。包含AWS特別重要。

這個標題在哪里？

Big AI不斷減少和優(yōu)化，從而取得了顯著改善，模型尺寸的減少以及成本降低。這種趨勢可能會持續(xù)下去，但會通過不同方式的能力，準確性，智力和全新功能的增強來平衡。因此，如果您對去年的AI感到滿意，則身體狀況良好，因為它繼續(xù)變得更便宜。

但是，如果您尋求最新功能和功能，則需要最大的模型和最長的輸入上下文長度。

這是AI的陰和陽。

以上是誰需要大型AI模型？的詳細內(nèi)容。更多信息請關(guān)注PHP中文網(wǎng)其他相關(guān)文章！