[ORAN] AI/ML workflow description and requirements ~1

在 O-RAN 的目標,

就是希望透過一個智能網路控制器 (RAN Intelligent Controller, RIC),

提供無線接取網路 (Radio Access Network, RAN) 更有效率與即時的控制,

為了達成這樣的目標, O-RAN 也針對其運算架構有一系列的探討.

在 O-RAN 的想像中, 其計算架構主要針對深度學習 (deep learning) 設計,

並且針對不同應用與不同類型的演算法, 提供一系列不同的架構.

為了提供一個彈性的計算框架, 

在 O-RAN 文件中, 將運算單元分成 5 個主要套件:

名稱	描述	布建位置
ML Training Host	The network function which hosts the training of the model, including offline and online training. [註] online training 部分和 ML Inference Host 的功能重疊	Non-RT RIC, offline (using data collected from the RIC, O-DU and O-RU) [註] offline 意指在 RIC 外完成 ML Model 訓練
ML Inference Host	The network function which hosts the ML model during inference mode (which includes both the model execution as well as any online learning if applicable).	The ML inference host often coincides with the Actor. [註] Actor 和 ML Inference Host 差別: Actor 利用ML 演算法結果進行決策 (Action), 此決策可能基於多個 ML 演算法的輸出
Actor	The entity which hosts an ML assisted solution using the output of ML model inference.
Model Management	The network function that manages the ML models to be deployed in the inference host. [註] ML Model 的形式可以是 K8S 的 pod, 也可以是 ML 的模型檔案 (例: 網路參數)	Model management manages models that are onboarded directly from ML training host or those from ML compiling host when model compiling is executed after training.
Model Compiling Host	Optional network function which compiles the trained model into specific format for optimized inference execution in an inference host based on the compiling information.	Non-RT RIC can also be a compiling host. ML compiling can be performed offline

在上表中, 英文部分為原始文字內容, 中文為所加入的註解,

透過此五個功能元件的劃分, O-RAN 的整體架構可以表示如下圖:

在圖中, 我們可以直觀的發現, 

ML Training Host, ML Inference Host 可以和既有的機器學習架構找到對應關係,

也就是先透過大量資料的取得, 訓練出非線性模型的參數 (ML Model),

再透過即時收集到的資料, 以及預先學習的參數, 進行估測.

和 Inference 相關的 Actor, 可以用以協調不同的 ML 演算法產出, 作出最終的決定, 

舉例來說, 我們有一個 ML 演算法預測下一個時間點的人流分布,

Actor 則可以基於此預測, 並以一個 rule-based 的方法, 決定通訊資源的分配.

Model Management 則用以控制目前在 RIC 上執行的 ML 演算法,

可以基於不同時間的需求, 更換使用的 ML 模型, 以符合當下的需求.

至於, Model Compiling Host 則是一個針對 O-RAN 的特殊設計,

考慮到 RIC 上的 ML 演算法可能為第三方提供, 不一定針對現有的硬體環境設計,

Model Compiling Host 可以提供針對 RIC 硬體重新編譯的 ML Model,

最佳化硬體的支援, 並更改計算架構的參數, 以符合通訊中的計算需求.