如果您可以直接在智能手機上運行功能強大的LLM怎麼辦？

有新興的建築創(chuàng)新為新的AI平臺鋪平了道路。這些系統(tǒng)旨在減少能源消耗，同時啟用廣泛的增強和新穎的功能，尤其是支持邊緣計算功能。

了解邊緣計算

邊緣計算是指在源附近發(fā)生的數(shù)據(jù)處理（例如傳感器或用戶的個人設備），而不是被發(fā)送到其他地方進行集中處理。

查看它的另一種方法是遠離以雲(yún)為中心的模型的轉變。雖然集中數(shù)據(jù)在雲(yún)中具有好處，例如減少對本地基礎架構的需求，但它也帶來了轉移成本和更少的控制。在硬件設備上本地處理任務引入了許多效率，包括降低能源使用，這在應對氣候挑戰(zhàn)方面發(fā)揮了作用。

這一運動的最前沿是新興的液體粉底模型（LFM），它們從常規(guī)的基於變壓器的LLM結構脫離了更具適應性的東西。

卡爾·弗蘭岑（Carl Franzen）在VentureBeat的2024年9月的一篇文章探討了其中一些發(fā)展。我會添加標準說明：我已經擔任Liquid AI的顧問，我很熟悉MIT Csail的許多參與。但是自己驗證弗蘭岑報告了什麼。

他指出：“這些新的LFM模型已經超過了大小的基於變壓器的替代方案，例如Meta的Llama 3.1-8B和Microsoft的Phi-3.5 3.8B?！?“它們不僅是為了高性能，而且是為了運營效率而建造的，使其在企業(yè)應用程序（從資金和生物技術到消費電子產品）中適當，並用於在邊緣設備上進行部署?！?/p>

來自首席開發(fā)人員的見解

在4月在IIA的Will Knight和Liquid AI的Ramin Hasani之間的一次採訪中，分享了進一步的見解。

哈薩尼（Hasani）描述了該團隊如何使用C秀麗隱桿線蟲的神經結構（一種小蠕蟲）作為設計模型的基礎。

他討論了將這些轉換後模型實施到汽車，無人機，飛機等設備中，以及用於預測金融和醫(yī)療保健中的用途。

他解釋說，LFM可以執(zhí)行類似於GPT的功能，但直接在本地設備上執(zhí)行。

他指出：“他們可以聽，他們可以回應?！?/p>

探索進一步的發(fā)展

自最近發(fā)起一項計劃以來，Hasani提到Liquid AI已經與主要公司進行有關有效整合在企業(yè)環(huán)境中的商業(yè)談判。

他說：“組織優(yōu)先考慮隱私，確保AI使用和低延遲的AI應用程序?！?“這些領域是當前的AI提供者無法完全滿足企業(yè)需求?！?/p>

Hasani強調成為“科學家”的心態(tài)，強調了離線運行LLMS的核心優(yōu)勢。

無需基礎設施

LFM圍繞討論的一個關鍵要點是，當模型在設備上本地運行時，不依賴外部基礎架構 - 無需數(shù)據(jù)中心，雲(yún)服務或網絡連接。

從本質上講，這些系統(tǒng)將負擔能力與強勁的性能相結合，反映了類似於適用於AI的摩爾定律的趨勢。這意味著越來越有能力，適應性和可管理的AI工具變得比以往任何時候都更快。

繼續(xù)觀察這個空間，因為更聰明，更有效的AI解決方案繼續(xù)出現(xiàn)。

以上是變形後模型系統(tǒng)可以驅動更改的詳細內容。更多資訊請關注PHP中文網其他相關文章！