??? ?? ?? ? ?? ?? ????? ? ?? ???? ????? ??? ??? ??? ???? ????. ?????, Tensorflow Lite? Pytorch Mobile? ?? ? ???? ?? ??? ???? ? ?? ????? ?? ??? ? ?? ?? ? ?????. Tensorflow Lite? Pytorch Mobile? ?? ????? ????? ?????? ???? ?????. ? ????? Tensorflow Lite? ????, Pytorch Mobile? ????, ?? ???? ? ???? ??????.

?? ??

• ?? ?? ?? ??? ???? ?? ???? ?? ??? ??.
• ??? ?????? ??? ???? Tensorflow Lite ? Pytorch Mobile? ?? ??????.
• Tensorflow Lite ? Pytorch Mobile? ???? ??? ?? ?? ? ??? ???? ??.
• Tensorflow Lite ? Pytorch Mobile? ??, ?? ??? ? ??? ???? ??????.
• Tensorflow Lite ? Pytorch Mobile? ???? ?? ?? ??? ?? ??? ??????.

? ??? Data Science Blogathon ? ??? ??????? .

??

• ?? ?? ???? ??????
• Tensorflow Lite ??
• Pytorch ??? ??
• ?? ?? : Tensorflow Lite vs Pytorch Mobile
• ?? ??? ? ??? ??
• ???? ??? ? ?? ???
• ?? ?? : ???? ???
• Tensorflow Lite ? Pytorch Mobile? ?? ??
• Tensorflow Lite ??
• Pytorch ??? ??
• ??
• ?? ?? ??

?? ?? ???? ??????

??? ?, ??? ?? ?? ?? ??? ???? ?? ??? ??? ??? ???? AI? ?? ? ? ????. ??? ??? ???? ?? ? ??? ????. ??? ?? ??, ??? ??? ????, ??? ?? ?????? ?? ??? ??? ?? ??? ???? ?? ????? ??? ? ????. ???, ?? ?? ? ?? ??? ??? ??.

Tensorflow Lite ??

Tensorflow Lite? ??? ??? ???? ?? ???? Tensorflow ?????. ??? ???? Android ? iPhone? ?? ?? ?? ??? ?????. ?? ?? ?? ? ??? ??? ???? ? ??? ???. Tensorflow Lite? ?? ??? ???? ???? ? ????? ?? ????? ????. ?? ?? ??? ??? ??? ? ??? ?? ??? ???? ??? ??? ???? ??????.

Tensorflow Lite? ??

??? Tensorflow Lite? ?? ??? ?????.

• ?? ?? ?? : ?? ?? ??? ????? ??? ?? ?? ? ????. 300KB?? ?? ? ????.
• ???? ?? : TFLITE? Android? NNAPI ? iOS? Coreml? ?? ???? ?? GPU ? ?? ???? ???? ?????.
• ?? ??? : TFLITE? ?? ?? ???? ???? ?? ??? ????? ?? ??? ??? ?? ??? ??? ??? ?????.

Pytorch ??? ??

Pytorch Mobile? Pytorch? ??? ?????. ????? ?? ? ??? ????? ?????. Pytorch Mobile? ???? ???? ???? ?? ? ??? ?? ?? ?? ?? ???? ??? ??? ?? ? ? ????. ?? ?? ???? ???? ?????? ?? ????? ???? ?? ???? ? ??? ???.

Pytorch Mobile? ??

??? Pytorch Mobile? ? ?? ??? ?????.

• ?? ?? ? ?? : Pytorch Mobile? ??? ???? ????? ?? ? ??? ???? ?? ?? ? ??? ?????.
• ?? ??? : ?? ? ???? ???? Pytorch? ?? ?? ??? ? ?????.
• ??? ?? ??? : Pytorch Mobile? ???? ?? ?? ??? ?? ? ??? ??? ?? ???? ?? ? ????.

?? ?? : Tensorflow Lite vs Pytorch Mobile

??? ?? ?? ? ? ? ??? ??? ??? ??? ?????? Tensorflow Lite? ?? ??? ??? ???? ????.

• ?? ?? : ?? ?? ???? ????? ??? ? ??? ?? ???? ?? ???? ???? ?? ? ????. ?? ?? NNAPI ? GPU.
• ???? ?? : ?? ??? ???? ???? ? ?? ???? ??? ???, ?? ??? ???? ??? ?? 300KB? ?? ??? ????. Pytorch ??? ????? ? ? ??? ??? ??? ??? ?? ? ?? ??? ?????.

?? ??? ? ??? ??

Pytorch Mobile? ????? ???? ???? ????? ?? ???? ?????. ?? ?? ??? ?????. ?? ?? ????? ??? ???? ? ?????, ?? ??? ???? ?????. ??? Tensorflow Lite? ?? ?? ??? ?? ???? ??????? ???? ?? ? ? ??? ???? ?? ??? ? ??? ??? ? ????.

• ?? ?? : Pytorch Mobile? ???? Pytorch ??? ?? ????? ???? Tensorflow Lite? Tflite ???? ???? ?? ??? ??? ???????.
• ??? : Pytorch? ?? ???? ???? ???? ??? ?????? ? ?? ??? ??? ???? ? ????. Tensorflow Lite? ?? ???? ???? TensorFlow? ??? ?? ??? ?? ???? ?? ??? ????? ???? ?? ??? ? ????.

???? ??? ? ?? ???

Android ? iOS? ? ?? ?? ??? ????? Tensorflow Lite ? Pytorch Mobile? ?? ??? ? ????.

?? ??? ???

?? ????? ??? ??? ??? ? Tflite? ? ?????. ??? ????? ?? CPU ? GPU?? ??? ??? ?? ???? (DSP) ? ?? CPU?? ?? ???? ???? ?? ?? ?????.

Pytorch ???

Pytorch Mobile? IOS ? ?? ? Android ? Vulkan? ?? CPU ? GPU? ????? ? ??? ???? ?? ??? ????. ?? ?? ?? ??????? ??? ?? ? ?? ???? ???? ??? ? TFLITE? ??? ?? ? ??? ?????.

?? ?? : ???? ???

Tensorflow Lite? Pytorch Mobile? ?? ???? ??? ?? ???? ??? ??? ???? ?????.

?? ??? ???

???? Tensorflow ??? ????? TFLITE ???? ???? ???????. ? ????? ??? ??? ??? ??? ????? ??? ???? ?? ??? ? ? ????.

Pytorch ???

Pytorch Mobile? ?? Torchscript? ???? ??? ??? ? ????. ????? ?? ???? ??? TFLITE? ???? ??? ??? ?? ??? ??? ???? ????.

Tensorflow Lite ? Pytorch Mobile? ?? ??

Tensorflow Lite ? Pytorch Mobile? ?? ?? ????? ???? ??? ??? ??? ??? ?? ??? ?? ??? ???? ???? ?????.

?? ??? ???

TFLITE? ??? ??? ?? ?? ?? ??? ?? ?? ??? ??? ??? ?? ??????? ? ?? ??????. GPU ?? ?? ?? ??? ?? ?? ??????? ???? ???? ??. TFLITE? ???? ?? ??? ????? ??? ????? ???? ? ??????.

Pytorch ???

Pytorch Mobile? ?? ?? ??? ?? ?? ?? ??? ???? ????? ?????. ???? ?? ??? ??? ?? ?? ? ???? ???? ?? ??? ? ? ????. Pytorch Mobile? ???? ???? ??? ??? ?? ???? ???? ? ? ??????.

Tensorflow Lite ??

?? ?? ? ?? (Mobilenetv2)? ???? Tensorflow Lite? ?????.

??????? ?????

????? ? ?? ?? Tensorflow? ?? ?? ?? ?? ? Mobilenetv2 ??????? ????. ? ???? ? ? ??? ImageNet ??? ???? ?? ??? ??? ????????. model.export ( 'mobilenet_model')? Tensorflow? SavedModel ???? ??? ???. ??? ??? ??? ?? ???? TFLITE (Tensorflow Lite ??)? ???? ? ??? ?????.

 # 1 ?? : ?? ?? ? ?? ?? ? Mobilenetv2 ????????.
?? ???? tf? ?????

# ??? ??? ? mobilenetv2 ?????????
model = tf.keras.applications.mobilenetv2 (weights = 'imagenet', input_shape = (224, 224, 3))

# tflite ????? ?? ??? ??? ??
model.export ( 'mobilenet_model')

??? Tensorflow Lite? ??????

??? tfliteconverter? ???? ??? ?? (mobilenet_model ????)???????. ???? ????? ??? .tflite ???? ?????. ?????, Tflite ??? ??? ??? ?? ?? ?? ?????? ???? ?? Mobilenet_v2.tflite? ?????.

 # 2 ?? : ??? Tensorflow Lite? ?????
converter = tf.lite.tfliteconverter.from_saved_model ( 'mobilenet_model')
tflite_model = converter.convert ()

# ?? ? ??? tflite ??? ?????
f : open ( 'mobilenet_v2.tflite', 'wb')?? f :
    F.Write (tflite_model)

??? ?? tflite ????????

?? ?? ?? (Numpy) ? ??? ?? (PLI.Image)? ??? ?????? ?????. TFLITE ??? tf.lite? ?????????. INTHRETERAND ???? ??/?? ??? ?????. ?? ? ??? ??? ?? ??/?? ??? ?? ?? ??? ???? ?? ???? ???? ??? ?? ? ? ?????.

 Numpy? NP? ?????
PIL ?? ?? ?????

# tflite ??????? ??? ??????
??? = tf.lite.interpreter (model_path = 'mobilenet_v2.tflite')
Interpreter.allocate_tensors ()

# ?? ? ?? ??? ????
input_details = intercreter.get_input_details ()
output_details = colorfer.get_output_details ()

??? ??, ?? ?? ? ?? ??

??? (cat.jpg)?????, ??? (224, 224) ??? ??? ???? Mobilenetv2? ?? ?? ??? ???? ??????. ??? ? ???? inrichpreter.set_tensor ()? ???? ?? ??? ???? TFLITE ??? ???? Interpreter.Invoke ()? ???? ??? ?????. ?? ?, ??? ??? ??? ???? decode_predictions ()? ???? ??? ?? ??? ??? ??? ??? ?????. ????? ??? ?????.

 # ?? ???????? ??????
image = image.open ( 'cat.jpg'). resize ((224, 224)) # ??? ??? ??
input_data = np.expand_dims (np.array (image), axis = 0)
input_data = tf.keras.applications.mobilenet_v2.preprocess_input (input_data)

# ?? ??? ???? ??? ??????
Interpreter.set_tensor (input_details [0] [ 'index'], input_data)
Interpreter.invoke ()

# ?? ? ??? ??? ?????
output_data = interpreter.get_tensor (output_details [0] [ 'index'])
?? = tf.keras.applications.mobilenet_v2.decode_predictions (output_data)
?? (??)

?? ??? ???? ??????.

??:

[( 'N02123045', 'Tabby', 0.85), ( 'N02124075', 'Egyptian_cat', 0.07), ( 'N02123159', 'tiger_cat', 0.05)]

??? ??? ???? ?? ????? ????? ?? ?????.

Pytorch ??? ??

?? ??? Pytorch Mobile? ??? ????. Resnet18? ?? ??? ?? ?? ? ??? ???? Torchscript? ???? ??? ?????.

?? ?? ? RESNET18 ????

 # 1 ?? : ??? ?????
?? ??
TorchVision.Models? ??? ?????

# ??? ?? RESNET18 ?????????
model = model.resnet18 (?? Resnet = true)

# ??? ?? ??? ??????
model.eval ()

??? ?? ????? ?????

??? ??? ??? ??? ?? ? example_input? ????? [1, 3, 224, 224]. ??? 3 ?? ?? ?? (RGB)? 224 × 224 ??? 1 ?? ??? ??? ????????. ??? ??? ???? ? ?????. Torch.jit.trace ()? Pytorch ??? Torchscript ??? ???? ??????. Torchscript? ???? C ?? ??? ??? ?? Python ???? ??? ????? ??? ? ????. ?? ? TorchScript ??? "RESNET18_Script.pt"? ???? ????? ? ??? ? ????.

 # 2 ?? : ?? ????? ?????
example_input = torch.randn (1, 3, 224, 224) # ?? ????? ?? ??
traced_script_module = torch.jit.trace (model, example_input)

# TorchScript ??? ??????
traced_script_module.save ( "resnet18_scripted.pt")

???? ??????? ??????

Torch.jit.load ()? ???? ??? ??? Torchscript ??? "Resnet18_Script.pt"?????????. ??? ??? ?? ?? input_data? ???? ?? [1, 3, 224, 224]? ??? ??? ?? ????????. ?? ?? Loaded_Model (input_data)? ?? ??? ???? ??? ?????. ??? ? ???? ?? ?? (???)? ???? ??? ?????. ?? ???? ?? ?? Torch.max (Output, 1)? ???? ???? ??? ?? ?? ??? ?????. ?? ? ???? ?? ? ???? ????? .item ().

 # 3 ?? : ???? ??????? ?????
loaded_model = torch.jit.load ( "resnet18_scripted.pt")

# ?? ??? ????? (??? ??? ??)
input_data = torch.randn (1, 3, 224, 224)

# ??? ???? ??? ?????
output = loaded_model (input_data)
_, ?? = ?? .max (??, 1)
print (f'predicted class : {predited.item ()} ')

??:

?? ?? : 107

???? ??? ?? ???? ??? ??? 107? ???? ?????.

??

Tensorflow Lite? ??? ??? ? ???? ?? Pytorch Mobile? ??? ? ?? ???? AI? ??? ?? ??? ??? ??? ???? CPU/GPU ?? ???? ?????. Tensorflow Lite? ??? ? Pytorch Mobile? ? ? ?? ?? ?????? Tensorflow Lite?? ??? Google? ???? ?????. ???? ???? ???? ?? ?? ???? ?? ???? ?? ??? ?? ?? ?? ????? ??? ? ????. ??? ??? ??? ????? ?? ????? ??? ??? ??? ??? ??? ????, ??????? ??? ?? ?? ??? ??????? ??? ??? ?????? ?? ??? ?? ???? ????.

?? ??? ??

• Tensorflow Lite ? Pytorch Mobile? ???? Edge Devices? AI ??? ????? ?? ? ? ??? ??? ?????.
• ? ??? ?? ?? ??? ??? ???? ???? ??? AI ?? ????? ??? ??????.
• Tensorflow Lite? ?? ???? ???? Pytorch Mobile? ???? ?????.
• ?? ? ??? ??? ? ??? ?? ??? AI ?? ??? ?????.
• ?? ?? ????? ??, ?? ? ??????? ?? ??? ?? ??? ?? ?????.

?? ?? ??

A. Tensorflow Lite? ??? ???? ???? ??? ?? ???? Pytorch Mobile? Pytorch? ?? ????? ???? ??? ??? ?? ?????.

A. ?, Android ? iOS?? Tensorflow Lite ? Pytorch ??? ??.

A. Pytorch Mobile? ???, ?? ? ??? ??, ??? ?? ??, ?? ??? ?? ?? ?? ??? ???? ?? ????? ?????.

A. Tensorflow Lite Mobile? ?? ??, IoT ??, AR (Augmented Reality), ?? ?? (VR), ??? ?? (NLP) ?? ?? ?? ????? ?????.

? ??? ??? ???? ?? Vidhya? ???? ??? ??? ??? ?? ?????.

? ??? Tensorflow Lite vs Pytorch Mobile? ?? ?????. ??? ??? PHP ??? ????? ?? ?? ??? ?????!