NETINT、Supermicro和Ampere攜手打造高性能、低成本直播視頻服務(wù)器

概述

高清直播視頻的需求激增，給運(yùn)營(yíng)成本和用戶體驗(yàn)帶來(lái)了巨大壓力。傳統(tǒng)的x86處理器難以應(yīng)對(duì)現(xiàn)代流媒體所需的密集型視頻處理任務(wù)。NETINT、Supermicro和Ampere Computing合作，重新設(shè)計(jì)了視頻轉(zhuǎn)碼服務(wù)器，實(shí)現(xiàn)了更高性能、更低成本和更高效率。

解決方案

NETINT將他們的Quadra VPU與Ampere的Altra Max處理器相結(jié)合，創(chuàng)建了一個(gè)更小、更快、更經(jīng)濟(jì)高效的服務(wù)器。這種新的服務(wù)器架構(gòu)支持高級(jí)視頻處理功能，包括AI推理任務(wù)和使用OpenAI的Whisper進(jìn)行自動(dòng)字幕生成。

關(guān)鍵特性

• 高性能：能夠同時(shí)轉(zhuǎn)碼多個(gè)視頻流（例如，95個(gè)1080i30流，195個(gè)720i30流）。
• 高性價(jià)比：與傳統(tǒng)的基于x86的解決方案相比，運(yùn)營(yíng)成本降低了80%。
• 高級(jí)處理：支持隔行掃描轉(zhuǎn)換、軟件解碼和AI推理任務(wù)。
• 靈活控制：通過(guò)FFmpeg、GStreamer、SDK或NETINT的Bitstreams Edge應(yīng)用程序接口進(jìn)行管理。

技術(shù)創(chuàng)新

• 定制ASIC：NETINT專有的ASIC，用于高質(zhì)量、低成本的視頻處理。
• Ampere Altra Max處理器：提供前所未有的效率和性能，針對(duì)密集型計(jì)算環(huán)境進(jìn)行了優(yōu)化。
• 優(yōu)化軟件：利用最新的FFmpeg版本和Arm64 NEON SIMD指令，顯著提高了性能。

成果

這項(xiàng)合作成果是一款突破性的直播視頻服務(wù)器，具有以下優(yōu)勢(shì)：

• 與x86上的軟件相比，吞吐量提高了20倍。
• 運(yùn)營(yíng)成本大幅降低。
• 擴(kuò)展系統(tǒng)功能，支持NETINT VPU原生不支持的視頻格式。
• 通過(guò)自動(dòng)字幕生成實(shí)現(xiàn)實(shí)時(shí)、準(zhǔn)確的直播轉(zhuǎn)錄。

架構(gòu)詳解

NETINT VPU負(fù)責(zé)密集型視頻編碼和轉(zhuǎn)碼處理，強(qiáng)大的主機(jī)CPU則可以執(zhí)行VPU在硬件上不支持的其他功能，例如隔行掃描轉(zhuǎn)換和軟件解碼，以及AI推理任務(wù)。NETINT最近宣布了業(yè)界首個(gè)使用OpenAI Whisper的自動(dòng)字幕功能，該功能針對(duì)Ampere Altra Max處理器進(jìn)行了優(yōu)化，能夠?qū)崿F(xiàn)直播的實(shí)時(shí)、準(zhǔn)確轉(zhuǎn)錄。該服務(wù)器以x86處理器無(wú)法實(shí)現(xiàn)的高密度、高性能和高性價(jià)比的方式執(zhí)行視頻隔行掃描轉(zhuǎn)換和轉(zhuǎn)碼。

視頻工程師可以通過(guò)FFmpeg、GStreamer、SDK或NETINT的Bitstreams Edge應(yīng)用程序接口控制服務(wù)器，方便部署和替換現(xiàn)有的轉(zhuǎn)碼資源或在新項(xiàng)目中使用。

該案例研究討論了NETINT、Supermicro和Ampere工程師如何優(yōu)化系統(tǒng)，以提供重新設(shè)計(jì)的視頻服務(wù)器。這款服務(wù)器在一個(gè)Supermicro MegaDC SuperServer ARS-110M-NR 1U服務(wù)器中，可以同時(shí)轉(zhuǎn)碼95個(gè)1080i30流、195個(gè)720i30流、365個(gè)576i30流，或組合100個(gè)576i、100個(gè)720i、10個(gè)1080i、40個(gè)1080p30、40個(gè)720p30和10個(gè)576p流。該服務(wù)器通過(guò)Ampere Altra Max處理器解碼96個(gè)輸入的1080i30 H.264或H.265流，以及320個(gè)輸入的1080i MPEG-2流，擴(kuò)展了系統(tǒng)功能。

“Ampere Altra Max處理器和NETINT VPU的結(jié)合，使得Supermicro 1U服務(wù)器展現(xiàn)出全新的價(jià)值?！?/p>

——Alex Liu，NETINT聯(lián)合創(chuàng)始人

NETINT的選擇

為了應(yīng)對(duì)客戶對(duì)CPU處理能力有限和功耗成本飆升的擔(dān)憂，NETINT開(kāi)發(fā)了定制ASIC，其目標(biāo)是實(shí)現(xiàn)最高質(zhì)量、最低成本的視頻處理和編碼。NETINT通過(guò)將NETINT Quadra VPU與Ampere的Altra Max處理器相結(jié)合，重新設(shè)計(jì)了直播視頻轉(zhuǎn)碼服務(wù)器，創(chuàng)建了一個(gè)更小、更快的服務(wù)器，運(yùn)營(yíng)成本降低了80%，吞吐量提高了20倍。

性能挑戰(zhàn)與優(yōu)化

最初的結(jié)果雖然令人鼓舞，但未能達(dá)到NETINT設(shè)定的目標(biāo)。通過(guò)對(duì)硬件和軟件的優(yōu)化，團(tuán)隊(duì)最終實(shí)現(xiàn)了目標(biāo)，并且Ampere Altra Max處理器的CPU利用率僅為50-60%，為未來(lái)的功能留有余地。 文中詳細(xì)描述了利用mpstat、BCC softirq工具和perf工具進(jìn)行性能分析和優(yōu)化的過(guò)程，最終解決了性能瓶頸問(wèn)題。

結(jié)果與結(jié)論

NETINT、Supermicro和Ampere合作推出的NETINT 300通道直播視頻服務(wù)器Ampere版，在一個(gè)Supermicro 1U服務(wù)器機(jī)箱中實(shí)現(xiàn)了前所未有的性能和效率。 該服務(wù)器也支持AI推理處理，例如NETINT在2024年NAB展會(huì)上展示的業(yè)界首個(gè)使用OpenAI Whisper的自動(dòng)字幕功能。

(圖片說(shuō)明：FFmpeg Arm64 隔行掃描轉(zhuǎn)換優(yōu)化，從FFmpeg 5.0升級(jí)到6.0后，在Ampere Altra Max處理器上的性能提升高達(dá)2.9倍。)

文章最后介紹了NETINT、Supermicro和Ampere公司，并提供了更多信息的獲取途徑。

以上是構(gòu)建300頻道視頻編碼服務(wù)器的詳細(xì)內(nèi)容。更多信息請(qǐng)關(guān)注PHP中文網(wǎng)其他相關(guān)文章！