IBM Granite 3.0：一種強(qiáng)大的，可以使用企業(yè)的大語(yǔ)言模型

IBM的Granite 3.0代表了大型語(yǔ)言模型（LLM）的重大進(jìn)步，提供了優(yōu)先級(jí)安全，速度和成本效益的企業(yè)級(jí)，指導(dǎo)調(diào)節(jié)模型。該系列增強(qiáng)了IBM的AI投資組合，特別是對(duì)于要求精確，安全性和適應(yīng)性的應(yīng)用程序。建立在多種數(shù)據(jù)和精致培訓(xùn)技術(shù)的基礎(chǔ)上，花崗巖3.0平衡能力和實(shí)用性。

關(guān)鍵學(xué)習(xí)點(diǎn)：

• 掌握花崗巖3.0的架構(gòu)和企業(yè)應(yīng)用程序。
• 利用Granite-3.0-2b-Instruct進(jìn)行諸如摘要，代碼生成和問(wèn)答之類的任務(wù)。
• 探索IBM的創(chuàng)新培訓(xùn)方法提高了Granite 3.0的性能和效率。
• 了解IBM對(duì)開源透明度和負(fù)責(zé)人AI開發(fā)的承諾。
• 發(fā)現(xiàn)花崗巖3.0在各個(gè)行業(yè)創(chuàng)建安全，成本效益的AI解決方案方面的作用。

（本文是數(shù)據(jù)科學(xué)博客馬拉松的一部分。）

目錄：

• 什么是花崗巖3.0型號(hào)？
• 企業(yè)績(jī)效和成本優(yōu)化
• 高級(jí)模型培訓(xùn)技術(shù)
• Granite-3.0-2B-教程：Google Colab教程
• 模型架構(gòu)和培訓(xùn)創(chuàng)新
• 花崗巖3.0的現(xiàn)實(shí)應(yīng)用應(yīng)用
• 負(fù)責(zé)AI和開源承諾
• 未來(lái)的增強(qiáng)和擴(kuò)展功能
• 結(jié)論
• 常見問(wèn)題

什么是花崗巖3.0型號(hào)？

花崗巖3.0系列由花崗巖3.0 8b指示（一種教學(xué)調(diào)整，密集的解碼器模型）帶頭，可滿足企業(yè)需求的高性能。使用雙相方法培訓(xùn)了多種語(yǔ)言和編程語(yǔ)言的12萬(wàn)億代幣的訓(xùn)練，它的用途高度高。它適用于金融，網(wǎng)絡(luò)安全和編程中的復(fù)雜工作流程的適合性，源于其通用功能和強(qiáng)大的特定于任務(wù)的微調(diào)的融合。

Granite 3.0在開源Apache 2.0許可下獲得許可，可確保透明度。它與IBM Watsonx，Google Cloud Vertex AI和Nvidia Nim等平臺(tái)無(wú)縫集成，提供廣泛的可訪問(wèn)性。培訓(xùn)數(shù)據(jù)集和方法論的詳細(xì)披露在Granite 3.0技術(shù)論文中詳細(xì)介紹了這種對(duì)開源的承諾。

鑰匙花崗巖3.0特征：

• 多功能模型選項(xiàng)： Granite-3.0-8B-Instruct，Granite-3.0-8B基礎(chǔ)，Granite-3.0-2B-Instruct和Granite-3.0-2B基礎(chǔ)等模型提供可伸縮性和性能選擇。
• 通過(guò)護(hù)欄增強(qiáng)的安全性： Granite-Guardian-3.0型號(hào)為敏感應(yīng)用，過(guò)濾輸入和輸出提供了額外的安全性，以滿足嚴(yán)格的企業(yè)標(biāo)準(zhǔn)。
• 用于減少延遲的專家（MOE）的混合物：諸如Granite-3.0–3b-A800M-Insruct-Instruct Leveragtion MOE之類的模型，以減少潛伏期而不犧牲性能。
• 改進(jìn)的推理速度： Granite-3.0-8B-Instruct-Accelerator利用投機(jī)解碼來(lái)提高推理速度。

企業(yè)績(jī)效和成本優(yōu)化

Granite 3.0在需要高準(zhǔn)確性和安全性的企業(yè)任務(wù)中出色。對(duì)特定于行業(yè)任務(wù)和學(xué)術(shù)基準(zhǔn)的嚴(yán)格測(cè)試在多個(gè)領(lǐng)域表現(xiàn)出領(lǐng)先的表現(xiàn)：

• Ragbench上的最高表現(xiàn)：花崗巖3.0在IBM的ragbench上領(lǐng)先，這是一個(gè)評(píng)估檢索效果的一代任務(wù)的基準(zhǔn)測(cè)試，強(qiáng)調(diào)了忠誠(chéng)和正確性。
• 行業(yè)專業(yè)化：它在網(wǎng)絡(luò)安全方面發(fā)揮了作用，對(duì)IBM專有數(shù)據(jù)集和公共網(wǎng)絡(luò)安全標(biāo)準(zhǔn)進(jìn)行了基準(zhǔn)測(cè)試。
• 編程能力： Granite 3.0在代碼生成和功能調(diào)用方面表現(xiàn)出色，在各種工具定價(jià)基準(zhǔn)上的重量類別中的其他模型都優(yōu)于其他模型。

高級(jí)模型培訓(xùn)技術(shù)

IBM的高級(jí)培訓(xùn)方法是Granite 3.0性能和效率的關(guān)鍵。數(shù)據(jù)準(zhǔn)備套件和IBM Research的Power Scheduler扮演著重要角色：

• 數(shù)據(jù)準(zhǔn)備套件：促進(jìn)非結(jié)構(gòu)化數(shù)據(jù)的可擴(kuò)展和簡(jiǎn)化處理，包括元數(shù)據(jù)記錄和檢查點(diǎn)。
• 功率調(diào)度程序：根據(jù)批處理大小和代幣計(jì)數(shù)動(dòng)態(tài)調(diào)整學(xué)習(xí)率，優(yōu)化培訓(xùn)效率并最大程度地減少過(guò)度擬合。

Granite-3.0-2B-教學(xué)：Google CoLab指南

Granite-3.0-2b-Instruct，平衡有效的尺寸和出色的性能，是企業(yè)應(yīng)用程序的理想選擇。針對(duì)速度，安全性和成本效益進(jìn)行了優(yōu)化，適用于生產(chǎn)規(guī)模的AI。下圖顯示了樣本推理結(jié)果。

該模型在多語(yǔ)言支持，NLP任務(wù)和特定于企業(yè)的用例中表現(xiàn)出色，支持摘要，分類，實(shí)體提取，提問(wèn)，抹布和功能調(diào)用。

（其余部分，包括COLAB指南，模型架構(gòu)和培訓(xùn)創(chuàng)新，現(xiàn)實(shí)世界應(yīng)用，負(fù)責(zé)的AI，未來(lái)的發(fā)展，結(jié)論和常見問(wèn)題，將遵循類似的重寫和解釋的模式，維持原始內(nèi)容和圖像的位置。）

以上是IBM Granite-3.0模型的詳細(xì)內(nèi)容。更多信息請(qǐng)關(guān)注PHP中文網(wǎng)其他相關(guān)文章！