雲端主機怎麼選? 挑選AI 主機重要的4個面向


在單一專案成功落地,且取得使用單位也滿意之後,接下來的平展,需要考慮的就是該如何規劃AI 系統架構,究竟用邊際運算好,還是集中在主機做運算,還是乾脆往雲端放?在決定之前,通常有幾個問題需要跟客戶做釐清,我們簡單做了整理列在下面。

雲端好還是地端好? 如何選擇你的AI 主機

1.頻寬- 雲端主機的頻寬運用與分配

首先要考慮的是客戶的攝影機分佈狀況,若是攝影機數量不多,那三種方案差異不大,一旦攝影機數量多了,且分佈在不同的場域(網段),那可能就要考慮網路頻寬的問題,攝影機連線到辨識主機的這一段頻寬是少不了的,用邊際運算的話,可以節省掉如下圖一的這一段頻寬,尤其是需要跨不同的廠區,或是攝影機分佈在不同的門市的情況。

另外雲端辨識通常是以頻寬來計費,(各雲端廠家計費方式不同,需請他們協助釐清計費方案),這個也需要列入規劃建議給客戶判斷。

AI 運算與辨識之結果回傳來源多寡,決定頻寬大小的規劃

 

2.網路架構管理- 適合AI高效率運算之雲端主機

各家客戶的IT 規則不同,有些會希望集中採購大型AI辨識主機,由IT部門集中管理,也有些客戶允許交由各部門的使用單位自行維護,這樣一來靈活性較大,但同時管理多台邊際運算主機的成本會增加。

如果客戶採取集中在大台主機辨識,那麼事前的規劃會更顯重要,需要的辨識模組如果能夠在一開始的時候就規劃系統資源,以及AI 演算法架構可以讓程式效率更高,如果辨識需求在事後不斷地疊加上去,程式效率變差之外,還極有可能會增加當機的風險。

3.辨識延遲容許- 直接在雲端主機做邊際雲算辨識,並將結果回傳以便串接資料

客戶對於辨識結果,肯定需要其他的“re-action “,就像是人看到危險的事件,大腦判斷之後,仍需要下指令給手、或是腳,才能快速躲避危險,或是做適當的應變一樣,AI系統也是如此,在偵測到異常時會需要發出現場告警、顯示辨識結果給現場操作人員,或是將NG / OK的結果傳送給現場PLC 設備等….,這些都必須要考量到每家客戶希望如何將辨識資料串接起來,是否有需要迅速及時地傳遞辨識結果,這些都要依據客戶的實際應用的不同,來做不同的規劃。特別是在產線上的瑕疵偵測,那更是無法容忍任何的延遲,為了避免網路或其他因素造成的資料傳遞問題,會建議直接在邊際雲算做辨識,事後再傳送辨識結果的報表到集中管理的主機上就好。反之,若是客戶不需要即時知道辨識結果,例如計算一整天下來的人流,或是運用隨身攝影機拍攝回來的偵測,這些應用就可以選擇地端或是雲端都沒有影響。

4.經濟效應- 直接選擇雲端運算主機,能彈性擴充AI專案需求

如果客戶一開始並沒有很多預算來購買大型主機,那麼雲端運算會是一個很不錯的選擇,隨著辨識需求增加,也可以在雲端的世界裡增加虛擬算力,用多少算多少,沒有擴充的限制,如果是要長長久久使用的系統,這樣長期攤算下來,雲端的費用可能會比自家購買主機來得高,但即便是客戶一開始就導入大型的辨識主機,也有可能因為辨識需求增加,或是因為業務擴張而增加的攝影機數量,也有可能讓一開始規劃的大型主機不敷使用,導致需要再新增主機,這也會讓整體建置成本增高。

以上幾點是我們在導入AI專案時所會面臨到的問題與考量的點,AI的需求越來越多也越來越明確,客人對於專案範圍以及期許也陸續在增加,最好的方法是選擇一個在AI 演算法,以及程式優化,且可以貼近客戶需求的好夥伴,讓客戶的AI 可以與時俱進,越來越好用!

 

📍了解更多導入AI專案資訊: 聯絡奕瑞 | 最新AI活動展出&案例

📍其他人也看:
如何透過AI AOI瑕疵檢測改善工廠製程?
提高AI 辨識率的武林秘笈,6個精準AI數據分析的實戰工法
【應用案例】5大瑕疵檢測深度學習之影像處理, AI 光學辨識技術大升級!