發表文章

目前顯示的是 5月, 2018的文章

[OpenWRT-backfire] toolchain / cross-compiler 的建立

圖片
在開發許多 IoT 裝置或是 WiFi AP 時, 由於這些裝置缺乏完整的程式開發的環境, 我們會需要 toolchain /cross-compiler 來輔助我們進行程式的開發, 考慮到所有程式都會編譯成執行檔, 而此執行檔的建立, 又和所使用的系統平台相關, 因此, toolchain 的主要功能即在於提供一套編譯環境, 可以讓你編譯不同平台上可以執行的程式, http://slideplayer.com/slide/11189636/ 以 Raspberry Pi 為例, 可以參考這一篇文章: https://www.raspberrypi.com.tw/tag/toolchain/ 當然, toolchain 中有許多細節, 在此不詳細敘述, 只放上來這一次針對 OpenWRT backfire 製作 toolchain 的步驟, 由於backfire版本過舊, 也列出所需要的修改.

[SPARK] Spark Streaming (1)

圖片
對於雲端運算而言, 另一個問題是如何提供即時的資料處理, 在原本 hadoop 的架構下, 由於目標在處理大量的資料, 並不提供即時的資料運算, 然而, 隨著雲端運算的概念發展, 越來越多的應用需要及時結果, 因此, 也有許多平台 (如: Storm, Infosphere) 考慮了即時資料串流處理的方式, 簡單來說, 把輸入資料做為資料流, 把運算做為流節點, 提供透過各節點的處理, 可以把有用的資料留下, 作為放入儲存前的前處理, 對於此類流運算而言, 節點之間的同步成了最大的問題, 也常常是該運算架構中的瓶頸. 對於 Spark 來說, 流運算架構也基於前述的 RDD 資料結構, 而把所輸入的資料切為多個小型的 RDD, 並對每一個 RDD 進行運算, 如下圖所示: 來自:  https://spark.apache.org/docs/2.2.0/streaming-programming-guide.html