台北市台灣 -Skymizer 作為編譯技術和優化解決方案的先驅，今天宣布推出其革命性的軟硬體協同設計 的AI ASIC IP – EdgeThought（邊緣思維），專為在設備上加速大型語言模型（LLM）而設計。這一尖端創新利用了 Skymizer 的先進編譯器技術，在計算、內存利用率、功率效率和成本效益方面樹立了新的行業標杆。

EdgeThought 旨在提升各種邊緣設備中 LLM 應用程序的性能，從物聯網設備到汽車系統和 AI 個人電腦甚至是強大的Edge Server。通過編譯器為中心的設計優化理念，Skymizer 的解決方案確保這些設備可以運行最先進的在設備上 的各種LLM 模型，包括Meta最新推出的 Llama3 8B。

EdgeThought的主要技術亮點有：

• 優化的編譯器技術：加速器核心是 Skymizer 的專有編譯器技術，可最大化硬體利用率和效率，即使在資源受限的邊緣設備上也能實現卓越的性能。

• 增强的計算和內存效率：協同設計方法最小化延遲並最大化吞吐量，同時減少內存佔用，允許在邊緣快速且可靠地進行 LLM 推理。

• 功率和成本效率：Skymizer 的解決方案大大降低了部署高級人工智能模型的功耗和運營成本，使其成為尋求可持續擴展運營的企業理想選擇。

• 可擴展性和靈活性：設計支持多種 LLM 應用，加速器可根據不同尺寸和性能需求進行擴展，包括多用戶和多批次，以提高高效邊緣伺服器的吞吐量，為設備製造商和應用開發者提供前所未有的靈活性。

“今天對於 Skymizer 和整個 AI 和邊緣計算行業來說都是一個重要的里程碑，”Skymizer 的 CEO Jim Lai 說。“我們的創新 LLM 加速器重新定義了邊緣 AI 性能的可能性，使其更加可及且具有成本效益。這次發布反映了我們致力於推動技術邊界，為客戶賦能並豐富用戶體驗。”

憑藉十年的編譯器和虛擬化行業經驗，Skymizer 專注於其擅長的領域來設計 EdgeThought，使其成為專用於 在設備上本地（on-device）推理任務的編譯器優化LLM ASIC IP。 EdgeThought 消除了所有用於訓練的軟硬體需求，僅專注於推理，設計出同級最佳的 on-device LLM 推理引擎。“如果 Groq 晶片是雲端 LLM 推理之王，那麼 EdgeThought 將成為 在設備上本地LLM 推理的遊戲規則改變者，” Skymizer 的營銷總監兼執行副總裁魏國章（William Wei）表示。“而且，EdgeThought 不需要最新的晶片製造工藝，它可以使用更便宜的成熟晶片類別和專用內存組件，這將在生成式人工智慧時代振興這些更便宜的內存產業。”

EdgeThought IP 現已開放授權，並且可以無需大規模修改即可集成到現有的硬體設置中。Skymizer 已經開始與領先的半導體公司和設備製造商合作，將這一強大的技術推向市場。

關於 Skymizer：

Skymizer 是編譯器技術和人工智能優化解決方案的全球領導者。 該公司總部位於台灣台北市，致力於創新軟硬體如何相互增強互補，以創造更高效、更強大且更具成本效益的解決方案。 Skymizer 的產品可以廣泛應用於多個行業的多種應用中，推動邊緣AI計算的發展。

僅供媒體使用的更多信息：

公關聯繫人：Teresa Lian

電話號碼：+886-2-8797-8337

電子郵件：[email protected]

更多產品信息：

網站：www.skymizer.com

注意：本新聞稿僅供參考，不構成出售、購買或推薦任何證券或產品的邀約，也不構成 Skymizer 提供投資諮詢或其他服務的邀約。