本文轉錄自 https://www.digitimes.com.tw/tech/dt/n/shwnws.asp?CnlID=1&id=649581
劉憲杰/專訪 2022-11-25

技術及應用環境持續演進,AI晶片已經成為市場顯學,無論是高算力的雲端AI還是落地的邊緣AI,各類晶片產品正百花齊放地推出,然而,真正能夠推動AI晶片繼續普及的,恐怕已經不只在硬體端,如何透過軟體提高AI晶片的表現,是市場上不少人開始關注的核心。
來自台灣的AI編譯器公司Skymizer,正透過自家的訂閱平台,協助國內外許多IC設計業者解決AI晶片的關鍵問題,以下為Skymizer執行長唐文力、執行顧問劉廣治以及董事長賴俊豪的專訪紀要。
AI晶片加速落地 軟體面舉足輕重

現在多數的AI晶片,大至採用先進製程的高效能運算(HPC)晶片,小至各類的系統單晶片(SoC)等產品,已經有高達94%的AI晶片,都是採用異質整合設計,這證明在硬體端,大家都清楚知道異質整合是AI晶片發展的唯一路徑。
然而,資料在晶片中不同核心的互動與溝通,其實非常耗費效能,現在的AI晶片普遍有超過5成以上的效能,其實只是處理資訊在核心之間的傳輸及轉譯,並不是真正在做演算,AI晶片的運作效率提升至關重要。
而我們的團隊,很早就發現摩爾定律發展正在變慢,可能影響到AI晶片的進程,尤其近幾年先進製程的推進和成本結構的改善都明顯放緩,因此,我們決定開發AI晶片編譯器,幫助客戶強化AI晶片設計,只要各個核心進一步協同整合,AI晶片的效能就能完整發揮,功耗也會有效減少。
公司會專注這項技術,主要是為了解決AI晶片落地時間太慢的問題,事實上,不少領先的IC設計公司,內部都有開發編譯器和其他AI相關軟體團隊,然而,每一家業者單獨作戰,對於AI晶片的加速落地幫助實在有限。
部分廠商甚至花了數年的時間,都還沒有辦法真正開發出可用的軟體,更不用說許多想要打入AI市場的中小業者,其實完全沒有開發軟體的相關資源,因此,我們希望推出可以解決所有領域共同問題的相關產品,消除大部分AI晶片開發的關鍵痛點。
而Skymizer可以持續發展,確實也因為台灣有頂尖且完整的半導體產業,畢竟軟體業最重要的是需求,台灣本地從晶圓代工、IC設計、後段封測都實力堅強,皆是公司可以服務的對象,發揮空間廣大。
不過,台灣的AI晶片確實起步比較晚,最早公司也曾經和歐美的新創公司,甚至英特爾(Intel)、亞馬遜(Amazon)等大廠合作,現在則是與台系的幾家龍頭大廠有合作關係,尤其是在TV SoC、影像處理及ASIC等領域。
AI技術週期速度迅猛 水平整合站穩腳步
公司一開始有思考過,未來發展是採取上下游的垂直整合,還是像台積電採取水平化專業分工,考量到上下游整合需要投入龐大資源,以及AI創新速度飛快、一般IC設計業者很難跟上的市場特性,Skymizer決定選擇建構專業化的水平整合平台。
我們採取訂閱制的服務,希望儘可能將所有和AI相關的創新,都整合在該平台上,並建立起完整的生態系,如此不僅可以保證整個平台持續發展,也能建立起夠高的競爭門檻。
事實上,以現在的發展趨勢來看,AI技術大約每100天就會翻新一個世代,但要開發一顆晶片,普遍還是需要1年半的時間,才能夠從頭到尾真正完成,等於一顆晶片開發從頭到尾,AI技術已經跑了5個世代,這對IC設計業者來說其實非常難追趕,即便投入大量資源和時間,自己做的效率也相對有限,這便是公司看到專業分工有機會發展的地方。
公司現在的平台,一方面可以讓AI軟體專業的人才有機會貢獻自己的能力,另一方面可以讓IC設計業者更快跟上最新的AI軟體發展。對於終端ODM業者來說,也能在這個平台上知道其所需的AI晶片,需要什麼樣的功能和規格,效率提升下,對於加速AI晶片落地將大有幫助。
最重要的是,AI要真正進入到各種應用產品之中,從來都不是只靠領先的雲端AI晶片大廠就可以做到,這個產業需要更多IC設計公司一起投入,然而,相較於NVIDIA這類領先大廠,已經在AI軟體投入超過百億美元,一般IC設計公司很難與其競爭,因此更需要這類平台化的服務,推動更多業者更快速地開發出優秀的AI晶片產品。
市場環境丕變 建立客戶信任是挑戰
在公司的業務發展上,其實也曾經遇到不少難關,舉例來說,AI晶片並不是只有大企業在做,其實也有很多新創公司投入,而新創公司的生存或彼此整合,都有可能影響到公司業務。
過去Skymizer就曾經和一些新創公司談好合作,卻因為疫情爆發帶來的經濟恐慌,導致合作對象無法得到足夠的現金流而倒閉,進而衝擊到業務,後來在疫情期間,我們就比較謹慎,客戶都是選全球前二十五大的IC設計業者,以確保業務發展不會有太多波折。
事實上,這也是公司長期發展需要考慮到的風險之一,畢竟AI晶片產業也有可能往整併和集中化的方向發展,客戶群就可能萎縮,因此公司現在對自身的定義,還是圍繞著異質整合的晶片協調整合技術。
現在我們專注在AI業務的發展,往後2~3年可能也會逐步尋找下一個發展重心,比方說AR/VR或是類比運算,甚或是更長遠之後的量子運算等,只要多元化的異質運算發展趨勢不變,公司的核心技術就還有發揮空間。
此外,和客戶的溝通以及如何取得客戶信任,也是這一路上必須持續克服的難關。事實上,每一家公司對於AI晶片發展,都有自己的想法和策略,且不同公司對於AI的理解程度也不一樣,面對不同客戶的需求和成本考量,就有不同的合作模式。
畢竟AI晶片並不是只有雲端高速運算產品,許多放在消費性產品或是汽車、AIoT等情境的應用,其實也很不好做,這類應用求的不是快,而是要在運算速度、耗電量、體積及成本中,找到最剛好的平衡。
另一方面,由於雙方的合作會牽涉到技術資料分享,如何取得客戶的信任也是重要關鍵,尤其許多大客戶的公司內部,也有自己的AI軟體開發團隊,因此雙方合作多少需要抓好距離,才能夠避免不必要的利益衝突,並儘可能找到客戶的痛點提供服務。
責任編輯:游允彤