近日，全球首個面向半導體行業的專用開源大語言模型“SemiKong”發布 70B 版本，官方宣稱可將新芯片推向市場的速度加快 30%。

（來源：SemiKong 官網）

據悉，SemiKong 是由 Aitomatic 公司和包括 Meta、AMD 和 IBM 等在內的“人工智能聯盟”（AI Alliance）合作伙伴共同開發的開源大語言模型，是世界上第一個專門為滿足半導體行業需求而設計的大語言模型。

Aitomatic 公司宣稱，“SemiKong 有望在未來 5 年內重塑價值 5000 億美元的半導體行業。”

據了解，Aitomatic 是一家專注于利用人工智能推動半導體行業發展的公司，定位于半導體產業與人工智能的交匯點，通過人工智能來解決半導體制造過程中的復雜問題并加速產品的研發周期。

“人工智能聯盟”于 2023 年 12 月成立，聯盟成員包括 IBM、AMD 等科技巨頭，以及耶魯大學、東京大學等學術機構，目標是抗衡英偉達在人工智能產業的主導地位，而 SemiKong 便是該聯盟合作的首批成果之一。

按照 Aitomatic 公司的說法，目前的半導體行業正面臨著專業知識嚴重流失的困境，SemiKong 旨在融入半導體設計公司的工作流程，并充當半導體領域的“數字專家”，加速新芯片的研發和面市進程。

（來源：SemiKong 官網）

“隨著每年半導體行業大量資深專家的退休，他們積累的技術知識和豐富經驗也隨之流失，加劇‘知識斷層’，越來越多的半導體公司面臨著越來越嚴重的人才缺口。面對這一困境，專門針對半導體產業量身打造的大語言模型 SemiKong 有望成為幫助新晉工程師快速獲取專業知識并維持競爭力的有效途徑。”Aitomatic 公司表示。

據了解，SemiKong 的首個版本（SemiKong 8B，即 80 億參數版本）于今年 7 月在 Semicon West 2024 大會上推出，而此次最新發布的 SemiKong 70B（700 億參數版本）相較于首個版本有了進一步提升，該模型基于 Meta 的 Llama 3.1 平臺，其中，Aitomatic 公司的 DXA 系統是 SemiKong 部署的核心架構。

DXA（Domain-Expert Agents），即領域專家代理，其將較小的大語言模型與 SemiKong 70B 的核心功能進行整合。通過客戶公司的技術庫或專家工程師提供的項目進行訓練，可以有效地捕獲和構建工程師的知識體系，確保關鍵專業知識得到保留和擴展，以備在將來使用，與此同時，DXA 還可根據不同公司的特定需求進行相應調整。

（來源：Aitomatic 官網）

經過訓練的 DXA 能進一步整合到核心 SemiKong 部署中自動執行開發任務，或充當工程師與員工間的互動界面（類似與聊天機器人的通信方式）。

在最新的 700 億參數版本中，加上使用基于 SemiKong 的小型 DXA，SemiKong 70B 在半導體領域的實用價值已經大幅超越各種通用大模型（比如 GPT 和 Llama 3），在準確性、相關性以及對半導體工藝的理解方面有著顯著優勢。

Aitomatic 公司表示，“在半導體領域，SemiKong 生成特定內容和理解復雜過程方面的表現優于多個閉源大語言模型。該模型可將新芯片設計的面市時間縮短 20-30%，并將一次流片成功率提高 15-25%。此外，該模型還可以將新工程師的學習曲線縮短 40-50%。”例如，支持 SemiKong 的 DXA 能夠大幅減少蝕刻配方所需的時間，從數小時減少到只需要數分鐘。

Aitomatic 公司首席執行官 Christopher Nguyen 指出，公司決定采取開源的方式，在一個以競爭和保密文化而聞名的半導體行業中屬于是一次前所未有的大膽舉措。

“選擇在基礎技術層面共享研究成果的意義非凡，他們認為這樣做所帶來的協同效應和長遠利益遠遠超越了保密所能提供的短期優勢。這種開放的態度不僅促進了知識和技術的自由流通，還為整個行業創造了一個更為積極的競爭環境。”他表示。

同時，他也表達了對未來發展的樂觀看法，即通過在更高級別的應用，比如特定公司的工具、工藝等保持專有特性可以實現差異化競爭，這樣的策略既保護了企業的獨特價值，又鼓勵了創新。

參考資料：

1.https://www.semikong.ai/

2.https://www.tomshardware.com/tech-industry/artificial-intelligence/semikong-is-the-worlds-first-open-source-semiconductor-focused-llm-it-claims-to-bring-new-chips-to-market-30-percent-faster

3.https://technews.tw/2024/12/29/semikong-is-world-first-semiconductor-focused-llm/