NETINT、Supermicro和Ampere攜手打造高性能、低成本直播視頻服務(wù)器

概述

高清直播視頻的需求激增，給運(yùn)營成本和用戶體驗(yàn)帶來了巨大壓力。傳統(tǒng)的x86處理器難以應(yīng)對現(xiàn)代流媒體所需的密集型視頻處理任務(wù)。 NETINT、Supermicro和Ampere Computing合作，重新設(shè)計(jì)了視頻轉(zhuǎn)碼服務(wù)器，實(shí)現(xiàn)了更高性能、更低成本和更高效率。

解決方案

NETINT將他們的Quadra VPU與Ampere的Altra Max處理器相結(jié)合，創(chuàng)建了一個更小、更快、更經(jīng)濟(jì)高效的服務(wù)器。這種新的服務(wù)器架構(gòu)支持高級視頻處理功能，包括AI推理任務(wù)和使用OpenAI的Whisper進(jìn)行自動字幕生成。

關(guān)鍵特性

• 高性能：能夠同時轉(zhuǎn)碼多個視頻流（例如，95個1080i30流，195個720i30流）。
• 高性價比：與傳統(tǒng)的基於x86的解決方案相比，運(yùn)營成本降低了80%。
• 高級處理：支持隔行掃描轉(zhuǎn)換、軟件解碼和AI推理任務(wù)。
• 靈活控制：通過FFmpeg、GStreamer、SDK或NETINT的Bitstreams Edge應(yīng)用程序接口進(jìn)行管理。

技術(shù)創(chuàng)新

• 定制ASIC：NETINT專有的ASIC，用於高質(zhì)量、低成本的視頻處理。
• Ampere Altra Max處理器：提供前所未有的效率和性能，針對密集型計(jì)算環(huán)境進(jìn)行了優(yōu)化。
• 優(yōu)化軟件：利用最新的FFmpeg版本和Arm64 NEON SIMD指令，顯著提高了性能。

成果

這項(xiàng)合作成果是一款突破性的直播視頻服務(wù)器，具有以下優(yōu)勢：

• 與x86上的軟件相比，吞吐量提高了20倍。
• 運(yùn)營成本大幅降低。
• 擴(kuò)展系統(tǒng)功能，支持NETINT VPU原生不支持的視頻格式。
• 通過自動字幕生成實(shí)現(xiàn)實(shí)時、準(zhǔn)確的直播轉(zhuǎn)錄。

架構(gòu)詳解

NETINT VPU負(fù)責(zé)密集型視頻編碼和轉(zhuǎn)碼處理，強(qiáng)大的主機(jī)CPU則可以執(zhí)行VPU在硬件上不支持的其他功能，例如隔行掃描轉(zhuǎn)換和軟件解碼，以及AI推理任務(wù)。 NETINT最近宣布了業(yè)界首個使用OpenAI Whisper的自動字幕功能，該功能針對Ampere Altra Max處理器進(jìn)行了優(yōu)化，能夠?qū)崿F(xiàn)直播的實(shí)時、準(zhǔn)確轉(zhuǎn)錄。該服務(wù)器以x86處理器無法實(shí)現(xiàn)的高密度、高性能和高性價比的方式執(zhí)行視頻隔行掃描轉(zhuǎn)換和轉(zhuǎn)碼。

視頻工程師可以通過FFmpeg、GStreamer、SDK或NETINT的Bitstreams Edge應(yīng)用程序接口控制服務(wù)器，方便部署和替換現(xiàn)有的轉(zhuǎn)碼資源或在新項(xiàng)目中使用。

該案例研究討論了NETINT、Supermicro和Ampere工程師如何優(yōu)化系統(tǒng)，以提供重新設(shè)計(jì)的視頻服務(wù)器。這款服務(wù)器在一個Supermicro MegaDC SuperServer ARS-110M-NR 1U服務(wù)器中，可以同時轉(zhuǎn)碼95個1080i30流、195個720i30流、365個576i30流，或組合100個576i、100個720i、10個1080i、 40個1080p30、40個720p30和10個576p流。該服務(wù)器通過Ampere Altra Max處理器解碼96個輸入的1080i30 H.264或H.265流，以及320個輸入的1080i MPEG-2流，擴(kuò)展了系統(tǒng)功能。

“Ampere Altra Max處理器和NETINT VPU的結(jié)合，使得Supermicro 1U服務(wù)器展現(xiàn)出全新的價值?！?/p>

——Alex Liu，NETINT聯(lián)合創(chuàng)始人

NETINT的選擇

為了應(yīng)對客戶對CPU處理能力有限和功耗成本飆升的擔(dān)憂，NETINT開發(fā)了定制ASIC，其目標(biāo)是實(shí)現(xiàn)最高質(zhì)量、最低成本的視頻處理和編碼。 NETINT通過將NETINT Quadra VPU與Ampere的Altra Max處理器相結(jié)合，重新設(shè)計(jì)了直播視頻轉(zhuǎn)碼服務(wù)器，創(chuàng)建了一個更小、更快的服務(wù)器，運(yùn)營成本降低了80%，吞吐量提高了20倍。

性能挑戰(zhàn)與優(yōu)化

最初的結(jié)果雖然令人鼓舞，但未能達(dá)到NETINT設(shè)定的目標(biāo)。通過對硬件和軟件的優(yōu)化，團(tuán)隊(duì)最終實(shí)現(xiàn)了目標(biāo)，並且Ampere Altra Max處理器的CPU利用率僅為50-60%，為未來的功能留有餘地。 文中詳細(xì)描述了利用mpstat、BCC softirq工具和perf工具進(jìn)行性能分析和優(yōu)化的過程，最終解決了性能瓶頸問題。

結(jié)果與結(jié)論

NETINT、Supermicro和Ampere合作推出的NETINT 300通道直播視頻服務(wù)器Ampere版，在一個Supermicro 1U服務(wù)器機(jī)箱中實(shí)現(xiàn)了前所未有的性能和效率。 該服務(wù)器也支持AI推理處理，例如NETINT在2024年NAB展會上展示的業(yè)界首個使用OpenAI Whisper的自動字幕功能。

(圖片說明：FFmpeg Arm64 隔行掃描轉(zhuǎn)換優(yōu)化，從FFmpeg 5.0升級到6.0後，在Ampere Altra Max處理器上的性能提升高達(dá)2.9倍。)

文章最後介紹了NETINT、Supermicro和Ampere公司，並提供了更多信息的獲取途徑。

以上是構(gòu)建300頻道視頻編碼服務(wù)器的詳細(xì)內(nèi)容。更多資訊請關(guān)注PHP中文網(wǎng)其他相關(guān)文章！