使用 ONNX Runtime 進行裝置端訓練

裝置端訓練 是指在邊緣裝置(例如手機、嵌入式裝置、遊戲機、Web 瀏覽器等)上訓練模型的過程。這與在伺服器或雲端訓練模型形成對比。裝置端訓練可用於:

  • 個性化任務,模型需要根據使用者資料進行訓練。
  • 聯邦學習任務,模型在分散式在多個裝置上的資料上進行本地訓練,以構建更強大的聚合全域性模型。
  • 提高資料隱私和安全性,尤其是在處理不能與伺服器或雲端共享的敏感資料時。
  • 當網路連線不可靠或受限時,進行本地訓練(不影響應用程式功能)。

ONNX Runtime 訓練 提供了一種在邊緣裝置上高效訓練和推理 ONNX 模型的簡便方法。訓練過程分為兩個階段:

離線階段

在此階段,訓練工件在不訪問使用者資料的伺服器、雲端或桌面裝置上準備。這些工件可以使用 ONNX Runtime 訓練 的 Python 包中提供的工件生成 Python 工具生成。

請參閱安裝說明

訓練階段

一旦這些工件生成,它們就可以部署到邊緣裝置上的生產場景。ONNX Runtime 提供多種語言繫結的軟體包。

請參閱安裝說明,獲取所有語言繫結的完整列表。

一旦在邊緣裝置上的訓練完成,可以在邊緣裝置本身生成一個可用於推理的 ONNX 模型。然後,該模型可以與 ONNX Runtime 一起用於推理。

安裝

有關如何根據您的場景進行安裝的詳細資訊,請參閱安裝說明

從原始碼構建

有關如何根據您的自定義場景進行構建的詳細資訊,請參閱構建說明

功能請求、錯誤報告或需要幫助

如果您需要幫助,請提交問題