テクノロジー開(kāi)発と機(jī)械學(xué)習(xí)の最近の世界では、マイクロクラウドではなくモバイルデバイスに限定されています。私たちが知っているように、Tensorflow LiteとPytorch Mobileは、モデルを攜帯電話とタブレットに直接展開(kāi)するための最も市販の2つのツールです。 Tensorflow LiteとPytorch Mobileはどちらも、モバイルで動(dòng)作するように開(kāi)発されていますが、長(zhǎng)所と短所には際立っています。この記事では、Tensorflow Liteとは何か、Pytorch Mobileとは何か、そのアプリケーションと両方の違いを知る必要があります。

學(xué)習(xí)成果

• デバイスの機(jī)械學(xué)習(xí)の概要と、クラウドベースのシステムではなく有益な理由。
• モバイルアプリケーションの展開(kāi)に使用されるTensorflow LiteとPytorch Mobileについて學(xué)びます。
• Tensorflow LiteとPytorch Mobileを使用して、展開(kāi)用のトレーニングモデルを変換する方法。
• Tensorflow LiteとPytorch Mobileのパフォーマンス、使いやすさ、プラットフォームの互換性を比較します。
• Tensorflow LiteとPytorch Mobileを使用して、現(xiàn)実世界の機(jī)械學(xué)習(xí)の例を?qū)g裝します。

この記事は、データサイエンスブログソンの一部として公開(kāi)されました。

目次

• デバイスの機(jī)械學(xué)習(xí)とは何ですか？
• Tensorflow Liteの探索
• Pytorchモバイル実裝
• パフォーマンスの比較：Tensorflow Lite vs Pytorch Mobile
• 使いやすさと開(kāi)発者の経験
• サポートされているプラ??ットフォームとデバイスの互換性
• モデル変換：トレーニングから展開(kāi)まで
• Tensorflow LiteおよびPytorch Mobileのユースケース
• Tensorflow Liteの実裝
• Pytorchモバイル実裝
• 結(jié)論
• よくある質(zhì)問(wèn)

デバイスの機(jī)械學(xué)習(xí)とは何ですか？

スマートフォン、タブレット、またはデバイスの機(jī)械學(xué)習(xí)を使用したその他のデバイスなど、モバイルデバイスでAIを?qū)g行できます。雲(yún)のサービスに頼る必要はありません。これらは、高速?gòu)甏?、機(jī)密情報(bào)のセキュリティ、およびアプリケーションであり、多様なアプリケーションで非常に重要なインターネット接続の有無(wú)にかかわらず実行できます。リアルタイム、機(jī)械翻訳、拡張現(xiàn)実の畫像認(rèn)識(shí)。

Tensorflow Liteの探索

Tensorflow Liteは、制限された機(jī)能を備えたデバイスでよく使用されるTensorflowバージョンです。それは機(jī)能し、AndroidやiPhoneなどの他のオペレーティングシステムと互換性があります。主に、遅延と高性能の実行を提供することに焦點(diǎn)を當(dāng)てています。 Tensorflow Liteについては、モデルに量子化などの特定の方法を適用するのに役立つモデルオプティマイザーがあります。これにより、モバイル展開(kāi)のモデルがより迅速かつ小さくなり、このプラクティスでは効率を向上させるために不可欠です。

Tensorflow Liteの特徴

以下は、Tensorflow Liteの最も重要な機(jī)能です。

• 少量のバイナリサイズ： Tensorflow Liteバイナリは非常に小さなサイズです。 300kbという小さい場(chǎng)合があります。
• ハードウェアアクセラレーション： Tfliteは、AndroidのNNAPIやiOSのCoremlなどの代表者を介してGPUおよびその他のハードウェアアクセラレータをサポートします。
• モデルの量子化： Tfliteは、あまり精度を犠牲にすることなく、パフォーマンスを最適化し、モデルサイズを削減するための多くの異なる量子化方法を提供します。

Pytorchモバイル実裝

Pytorch Mobileは、Pytorchのモバイルエクステンションです。一般に、研究と生産における柔軟性で知られています。 Pytorch Mobileを使用すると、デスクトップ環(huán)境から訓(xùn)練されたモデルを簡(jiǎn)単に取得し、それをモバイルデバイスに展開(kāi)することができます。動(dòng)的な計(jì)算グラフをサポートし、デバッグを容易にすることにより、開(kāi)発者の使いやすさに重點(diǎn)を置いています。

Pytorch Mobileの機(jī)能

以下は、Pytorch Mobileのいくつかの重要な機(jī)能です。

• 事前に構(gòu)築されたモデル： Pytorch Mobileは、モバイルデバイスで実行するように変換できる、事前に訓(xùn)練されたさまざまなモデルを提供します。
• 動(dòng)的グラフ：開(kāi)発中に柔軟性を可能にするPytorchの動(dòng)的計(jì)算グラフの1つです。
• カスタムオペレーター： Pytorch Mobileを使用すると、カスタムオペレーターを作成できます。これは、高度なユースケースに役立ちます。

パフォーマンスの比較：Tensorflow Lite vs Pytorch Mobile

パフォーマンスについて議論すると、両方のフレームワークがモバイルデバイス用に最適化されていますが、Tensorflow Liteは実行速度とリソース効率が高くなります。

• 実行速度： Tensorflow Liteは、量子化や代表団に基づく加速など、積極的な最適化のために一般的に高速です。たとえば、nnapi、およびgpu。
• バイナリサイズ： Tensorflow Liteのフットプリントは小さく、最小限のビルドでは300kbという低いバイナリサイズがあります。 Pytorchモバイルバイナリは大きくなる傾向があり、軽量の展開(kāi)にはより微調(diào)整が必??要です。

使いやすさと開(kāi)発者の経験

Pytorchモバイルは、デバッグの柔軟性と容易さのために、一般に開(kāi)発者が好んでいます。動(dòng)的な計(jì)算グラフが原因です。これにより、実行時(shí)にモデルを変更するのに役立ちます。これは、プロトタイプに最適です。一方、Tensorflow Liteでは、展開(kāi)前にモデルを靜的形式に変換する必要があります。これにより、複雑さが増す可能性がありますが、モバイルにより最適化されたモデルになります。

• モデル変換： Pytorch MobileはPytorchモデルの直接エクスポートを可能にしますが、Tensorflow LiteではTfliteコンバーターを使用してTensorflowモデルを変換する必要があります。
• デバッグ： Pytorchの動(dòng)的グラフにより、モデルが実行中にデバッグが簡(jiǎn)単になります。これは、問(wèn)題をすばやく発見(jiàn)するのに最適です。 Tensorflow Liteの靜的グラフを使用すると、Tensorflowは私たちに役立つモデルアナライザーなどのツールを提供しますが、デバッグは少し難しい場(chǎng)合があります。

サポートされているプラ??ットフォームとデバイスの互換性

Tensorflow LiteとPytorch Mobileの両方を2つの主要なモバイルプラットフォーム、AndroidとiOSで使用できます。

Tensorflow Lite

どのハードウェアをサポートするかを選択することになると、Tfliteはより柔軟です。デリゲートシステムにより、CPUとGPUだけでなく、基本的なCPUよりも高いパフォーマーと見(jiàn)なされるデジタル信號(hào)プロセッサ（DSP）やその他のチップもサポートします。

Pytorch Mobile

Pytorch Mobileは、iOS用の金屬やAndroid用VulkanなどのCPUやGPUもサポートしていますが、それ以上のハードウェアアクセラレーションのオプションは少ないです。これは、特に専門のプロセッサを持つデバイスの場(chǎng)合、より広いハードウェアの互換性が必要な場(chǎng)合、Tfliteがエッジを持つ可能性があることを意味します。

モデル変換：トレーニングから展開(kāi)まで

Tensorflow LiteとPytorch Mobileの主な違いは、モデルがトレーニングフェーズからモバイルデバイスに展開(kāi)される方法です。

Tensorflow Lite

モバイルにTensorflowモデルを展開(kāi)する場(chǎng)合は、Tfliteコンバーターを使用して変換する必要があります。このプロセスは、モバイルターゲットにモデルを迅速かつ効率的にする量子化など、最適化できます。

Pytorch Mobile

Pytorch Mobileの場(chǎng)合、Torchscriptを使用してモデルを保存できます。このプロセスは非常にシンプルで簡(jiǎn)単ですが、TFLITEが提供するのと同じレベルの高度な最適化オプションは提供されません。

Tensorflow LiteおよびPytorch Mobileのユースケース

Tensorflow LiteとPytorch Mobileの実際のアプリケーションを探索し、これらのフレームワークが多様な業(yè)界でインテリジェントなソリューションをどのように動(dòng)作させるかを紹介します。

Tensorflow Lite

Tfliteは、リアルタイムの畫像分類やオブ??ジェクトの検出などの迅速な応答が必要なさまざまなアプリケーションに適したプラットフォームです。 GPUやニューラル処理ユニットなどの特殊なハードウェアを備えたデバイスに取り組んでいる場(chǎng)合。 Tfliteのハードウェアアクセラレーション機(jī)能は、モデルがより速く、より効率的に実行されるのに役立ちます。

Pytorch Mobile

Pytorch Mobileは、調(diào)査やプロトタイプアプリなど、まだ進(jìn)化しているプロジェクトに最適です。その柔軟性により、実験と反復(fù)が容易になり、開(kāi)発者が迅速な変更を加えることができます。 Pytorch Mobileは、最小限の変更で新しいモデルを頻繁に実験および展開(kāi)する必要がある場(chǎng)合に理想的です。

Tensorflow Liteの実裝

事前に訓(xùn)練されたモデル（MobileNETV2）を使用し、Tensorflow Liteに変換します。

モデルの読み込みと保存

私たちが最初に行うことは、Tensorflowをインポートし、事前に訓(xùn)練されたMobileNETV2モデルをロードすることです。このモデルで見(jiàn)られたように、Imagenetデータセットでの事前トレーニングに利用する準(zhǔn)備ができています。 Model.Export（ 'Mobilenet_Model'）は、TensorflowのSavedModelの形式でモデルを書き込みます。これは、モバイルデバイスで使用されるTensorflow Liteモデル（Tflite）に変換するために必要な形式です。

 ＃ステップ1：環(huán)境をセットアップして、事前に訓(xùn)練されたMobileNETV2モデルをロードする
tfとしてtensorflowをインポートします

＃前処理されたMobileNETV2モデルをロードします
モデル= tf.keras.applications.mobilenetv2（weights = 'imagenet'、input_shape =（224、224、3））

＃モデルをtflite変換のためのSavedModelとして保存します
model.export（ 'mobilenet_model'）

モデルをTensorflow Liteに変換します

モデルは、TfliteConverterを使用して保存されたモデル（MobileNet_Modelディレクトリ）からロードされます。コンバーターは、モデルをより軽量の.tflite形式に変換します。最後に、Tfliteモデルは、モバイルまたはエッジアプリケーションで後で使用するためにMobileNet_v2.tfliteとして保存されます。

 ＃ステップ2：モデルをTensorflow Liteに変換します
converter = tf.lite.tfliteconverter.from_saved_model（ 'mobilenet_model'）
tflite_model = converter.convert（）

＃変換されたモデルをtfliteファイルに保存します
fite open（ 'mobilenet_v2.tflite'、 'wb'）as f：
    f.write（tflite_model）

推論のためにTfliteモデルをロードします

ここで、數(shù)値操作（numpy）と畫像操作（pil.image）に必要なライブラリをインポートします。 Tfliteモデルは、tf.lite.interpreterandメモリを使用してロードされます。形狀やデータ型など、入出力テンソルの詳細(xì)を取得します。これは、入力畫像を前処理して出力を取得するときに役立ちます。

 npとしてnumpyをインポートします
PILインポート畫像から

＃TFLITEモデルをロードし、テンソルを割り當(dāng)てます
interpreter = tf.lite.interpreter（model_path = 'mobilenet_v2.tflite'）
interpleter.allocate_tensors（）

＃入力テンソルと出力テンソルを取得します
input_details = interpreter.get_input_details（）
output_details = interpreter.get_output_details（）

プリプロシング入力、実行の実行、およびデコード出力

畫像（cat.jpg）をロードし、必要な（224、224）ピクセルにサイズを変更し、MobileNetv2の前処理方法を使用してプリプロアクセスします。事前に処理された畫像は、interpreter.set_tensor（）を使用して入力テンソルを設(shè)定することによりTfliteモデルに供給され、interpreter.invoke（）を使用して推論を?qū)g行します。推論後、モデルの予測(cè)を取得し、decode_predictions（）を使用して人間の読み取り可能なクラス名と確率にそれらをデコードします。最後に、予測(cè)を印刷します。

 ＃入力畫像をロードして前処理します
image = image.open（ 'cat.jpg'）。resize（（224、224））＃畫像パスに置き換えます
input_data = np.expand_dims（np.Array（image）、axis = 0）
input_data = tf.keras.applications.mobilenet_v2.preprocess_input（input_data）

＃入力テンソルを設(shè)定し、モデルを?qū)g行します
interpreter.set_tensor（input_details [0] ['index']、input_data）
interpreter.invoke（）

＃出力を取得し、予測(cè)をデコードします
output_data = interpreter.get_tensor（output_details [0] ['index']）
予測(cè)= tf.keras.applications.mobilenet_v2.decode_predictions（output_data）
印刷（予測(cè)）

以下の貓の畫像を使用してください。

出力：

[（ 'n02123045'、 'tabby'、0.85）、（ 'n02124075'、 'egyptian_cat'、0.07）、（ 'n02123159'、 'tiger_cat'、0.05）]]]]]

これは、モデルが畫像がタビー貓であると確信していることを意味します。

Pytorchモバイル実裝

これで、Pytorch Mobileを?qū)g裝します。 ResNet18などの単純な事前訓(xùn)練モデルを使用し、Torchscriptに変換し、推論を?qū)g行します

環(huán)境のセットアップとResNet18モデルのロード

＃ステップ1：環(huán)境をセットアップします
トーチをインポートします
モデルとしてtorchvision.modelsをインポートします

＃前処理されたResNet18モデルをロードします
model = models.resnet18（pretrained = true）

＃モデルを評(píng)価モードに設(shè)定します
model.eval（）

モデルをTorchscriptに変換します

ここでは、サイズのランダムなテンソルであるexample_inputを定義します[1、3、224、224]。これにより、3つのカラーチャネル（RGB）と224×224ピクセルを備えた1つの畫像のバッチをシミュレートします。モデルの操作を追跡するために使用されます。 torch.jit.trace（）は、pytorchモデルをTorchscriptモジュールに変換する方法です。 Torchscriptを使用すると、Cやモバイルデバイスなど、Pythonの外でモデルをシリアル化および実行できます。変換されたTorchscriptモデルは「ResNet18_Scripted.pt」として保存され、後でロードして使用できるようにします。

 ＃ステップ2：Torchscriptに変換します
example_input = torch.randn（1、3、224、224）＃トレースの例の例
traced_script_module = torch.jit.trace（model、emple_input）

＃TorchScriptモデルを保存します
traced_script_module.save（ "resnet18_scripted.pt"）

スクリプトモデルをロードして、予測(cè)を行います

torch.jit.load（）を使用して、以前に保存したtorchscriptモデルをファイル「Resnet18_scripted.pt」からロードします。新しいランダムテンソルinput_dataを作成し、サイズ[1、3、224、224]の畫像入力を再度シミュレートします。その後、モデルはloaded_model（input_data）を使用してこの入力で実行されます。これにより、各クラスの生のスコア（ロジット）が含まれる出力が返されます。予測(cè)されたクラスを取得するには、Torch.max（出力、1）を使用して、クラスのインデックスに最高のスコアを與えます。 Predicted.item（）を使用して、予測(cè)クラスを印刷します。

 ＃ステップ3：スクリプトモデルをロードして実行します
loaded_model = torch.jit.load（ "resnet18_scripted.pt"）

＃入力データをシミュレートする（ランダム畫像テンソル）
input_data = torch.randn（1、3、224、224）

＃モデルを?qū)g行して、予測(cè)を取得します
output = loaded_model（input_data）
_、予測(cè)= torch.max（output、1）
print（f'predicted class：{predicted.item（）} '）

出力：

予測(cè)クラス：107

したがって、モデルは、入力データがクラスインデックス107に屬すると予測(cè)しています。

結(jié)論

Tensorflow Liteはモバイルデバイスにより重點(diǎn)を置いていますが、Pytorch Mobileはより一般的なCPU/GPU展開(kāi)ソリューションを提供します。 Tensorflow Liteと比較して、Pytorch Mobileはより大きな攜帯性を提供しながら、Tensorflow Liteよりも軽く、Googleと密接に統(tǒng)合されています。組み合わせて、開(kāi)発者は、開(kāi)発者のハンドヘルドデバイスに高い機(jī)能性を備えたリアルタイム人工知能アプリケーションを?qū)g裝できるようにします。これらのフレームワークは、ローカルマシンで洗練されたモデルを?qū)g行する機(jī)能によりユーザーに力を與え、そうすることにより、指先を通じてモバイルアプリケーションが世界とどのように関與するかについてのルールを書き直しています。

キーテイクアウト

• Tensorflow LiteとPytorch Mobile Empover Developersは、AIモデルをEdgeデバイスに効率的に展開(kāi)できるようにします。
• どちらのフレームワークも、クロスプラットフォームの互換性をサポートし、モバイルAIアプリケーションのリーチを強(qiáng)化します。
• Tensorflow Liteはパフォーマンスの最適化で知られていますが、Pytorch Mobileは柔軟性に優(yōu)れています。
• 統(tǒng)合の容易さと開(kāi)発者に優(yōu)しいツールにより、両方のフレームワークが幅広いAIユースケースに適しています。
• 現(xiàn)実世界のアプリケーションは、ヘルスケア、小売、エンターテイメントなどの業(yè)界に広がり、汎用性を紹介します。

よくある質(zhì)問(wèn)

A. Tensorflowライトは、モバイルデバイスで高性能が必要な場(chǎng)合に使用されますが、Pytorch Mobileが使用され、Pytorchの既存のエコシステムとの柔軟性と統(tǒng)合の容易さが必要です。

A.はい、Tensorflow LiteとAndroidとiOSでのPytorchモバイルワークの両方。

A. Pytorch Mobileは、畫像、フェイシャル、ビデオ分類、リアルタイムオブジェクトの検出、スピーチツーテキスト変換などのタスクを?qū)g行するアプリケーションに役立ちます。

A. Tensorflow Lite Mobileは、ロボット工學(xué)、IoTデバイス、拡張現(xiàn)実（AR）、バーチャルリアリティ（VR）、自然言語(yǔ)処理（NLP）などのアプリケーションに役立ちます。

この記事に示されているメディアは、Analytics Vidhyaが所有しておらず、著者の裁量で使用されています。

以上がTensorflow Lite vs Pytorch Mobileの詳細(xì)內(nèi)容です。詳細(xì)については、PHP 中國(guó)語(yǔ) Web サイトの他の関連記事を參照してください。