包 ai.onnxruntime

類 OrtEnvironment.ThreadingOptions

  • 所有已實現的介面
    java.lang.AutoCloseable
    封閉類
    OrtEnvironment
    public static final class OrtEnvironment.ThreadingOptions
extends java.lang.Object
implements java.lang.AutoCloseable
    控制環境中的全域性執行緒池。僅當使用設定了 OrtSession.SessionOptions.disablePerSessionThreads() 的選項構造會話時使用。

    • 建構函式摘要

      建構函式 
      建構函式 描述
      ThreadingOptions()
      建立一個空的執行緒選項。

    • 方法摘要

      所有方法 例項方法 具體方法 
      修飾符和型別 方法 描述
      void close()
      關閉執行緒選項。
      void setGlobalDenormalAsZero()
      設定此選項時，會使操作內和操作間執行緒池將非規範化值重新整理為零。
      void setGlobalInterOpNumThreads​(int numThreads)
      設定可用於操作間並行性（即）的執行緒數。
      void setGlobalIntraOpNumThreads​(int numThreads)
      設定可用於操作內並行性（即）的執行緒數。
      void setGlobalSpinControl​(boolean allowSpinning)
      允許執行緒池在其佇列為空時保持活躍（spinning）。

      • 從類 java.lang.Object 繼承的方法

        clone, equals, finalize, getClass, hashCode, notify, notifyAll, toString, wait, wait, wait

    • 建構函式詳細資訊

      • ThreadingOptions

        public ThreadingOptions()
        建立一個空的執行緒選項。

    • 方法詳細資訊

      • close

        public void close()
        關閉執行緒選項。
        指定者
        介面 java.lang.AutoCloseable 中的 close

      • setGlobalInterOpNumThreads

        public void setGlobalInterOpNumThreads​(int numThreads)
                                throws OrtException
        設定可用於操作間並行性（即並行執行多個操作）的執行緒數。

        將其設定為 0 將允許 ORT 選擇執行緒數，將其設定為 1 將導致使用主執行緒（即不使用執行緒池）。

        引數
        numThreads - 執行緒數。
        丟擲
        OrtException - 如果本機程式碼中發生錯誤。

      • setGlobalIntraOpNumThreads

        public void setGlobalIntraOpNumThreads​(int numThreads)
                                throws OrtException
        設定可用於操作內並行性（即在單個操作內）的執行緒數。

        將其設定為 0 將允許 ORT 選擇執行緒數，將其設定為 1 將導致使用主執行緒（即不使用執行緒池）。

        引數
        numThreads - 執行緒數。
        丟擲
        OrtException - 如果本機程式碼中發生錯誤。

      • setGlobalSpinControl

        public void setGlobalSpinControl​(boolean allowSpinning)
                          throws OrtException
        允許執行緒池在其佇列為空時保持活躍。此呼叫會為操作間和操作內執行緒池設定此值。

        如果 CPU 使用率很高，請勿啟用此選項。

        引數
        allowSpinning - 如果為 true，允許執行緒池保持活躍。
        丟擲
        OrtException - 如果本機程式碼中發生錯誤。

      • setGlobalDenormalAsZero

        public void setGlobalDenormalAsZero()
                             throws OrtException
        設定此選項時，會使操作內和操作間執行緒池將非規範化值重新整理為零。
        丟擲
        OrtException - 如果本機程式碼中發生錯誤。