加速 TensorFlow 模型推理

ONNX Runtime 可以加速 TensorFlow、TFLite 和 Keras 模型的推理時間。

開始使用

• 端到端：在 ONNX Runtime 中執行 TensorFlow 模型

將模型匯出為 ONNX

TensorFlow/Keras

這些示例使用 TensorFlow-ONNX 轉換器，它支援 TensorFlow 1、2、Keras 和 TFLite 模型格式。

• TensorFlow：物件檢測 (efficientdet)
• TensorFlow：物件檢測 (SSD Mobilenet)
• TensorFlow：影像分類 (efficientnet-edge)
• TensorFlow：影像分類 (efficientnet-lite)
• TensorFlow：自然語言處理 (BERT)
• TensorFlow：加速 BERT 模型
• Keras：影像分類 (Resnet 50)

TFLite

• TFLite：影像分類 (mobiledet)