# AI推論  

當全球AI基礎設施市場長期由NVIDIA掌握主導權，AMD要如何挑戰這座高牆？蘇姿丰今（22）日給出的答案，不是只靠GPU硬碰硬，而是押注AI運算架構正從訓練走向推論，下一場競爭將不只看GPU，也要看CPU、ASIC，以及每一美元能產出多少Token的成本效益。她預估，光是資料中心AI基礎設施市場，未來三、四年規模就將超過1兆美元。 AMD如何挑戰NVIDI......

隨著全球對運算能力的需求持續飆升，愈來愈多晶片新創公司冒出頭，試圖挑戰輝達（Nvidia）在AI領域的絕對統治地位。其中，總部位於英國倫敦的半導體新星Fractile，目前正處於2億美元（約新台幣64億元）新一輪融資的談判階段。《金融時報》引述知情人士消息，Fractile正在與包含風險投資公司Accel在內的多名投資人深入討論，目標是在這輪融資中、取得高達......

AI需求持續擴張，輝達收購Groq之後，有望變身為大規模算力中心提供者，LPU機櫃出貨可期待自下半年大幅成長，水冷等AI供應鏈營運再旺一波。文／林麗雪去年底，輝達與Groq達成價值200億美元的授權與人才協議，讓Groq這間AI晶片與系統新創公司更加聲名大噪，其核心產品為專為高速執行大型語言模型設計的LPU（語言處理單元）晶片，被視為GPU在推論領域的強力競......

AI推論需求拉升，加上4年一次的汰換周期到來，微軟及谷歌通用型伺服器意外大拉貨，並至少延續至年中，供應鏈喜吞AI伺服器之外的意外大單。文／林麗雪過去一段時間，被遺忘許久的通用型伺服器，出貨量顯著回升，有業者直言，拉貨的幅度高仰角成長，這打破了之前AI伺服器一枝獨秀的出貨的局面，相關供應鏈營運樂翻，從BMC大廠信驊、機殼大廠勤誠、CPU Socket的嘉澤、記......

串流平台TikTok母公司、中國科技巨頭字節跳動（ByteDance），傳出積極開發自家專屬人工智慧（AI）晶片，並計畫與南韓三星電子（Samsung Electronics）聯手合作，最快將在3月底之前，取得名為「SeedChip」的晶片樣品。《路透》引述知情人士說法，字節跳動計畫、2026年至少能生產10萬顆，專為AI推論（AI inference）任務......

AI晶片霸主輝達再度對外界投下一顆震撼彈。市場傳出，輝達以約200億美元（約新台幣6300億元）的規模，取得AI晶片新創Groq的關鍵技術資產與核心人才，創下輝達史上最大等級的單筆技術授權交易。這項動作並非傳統併購，而是透過非獨家授權與延攬高階主管的方式，直接切入AI推論（inference）關鍵戰場，讓Groq一夕之間成為全球半導體與人工智慧產業的焦點。這......

人工智慧產業的重心正悄然轉移。隨著AI應用逐步走出模型訓練階段，進入大量即時回應與資料調度的推論應用，全球半導體產業的獲利結構也開始出現實質變化。多名產業分析師與投資圈觀察指出，長期由晶圓代工主導的獲利排序，正面臨一場關鍵洗牌，記憶體產業重新成為資本市場的核心焦點，市場評估，今年第4季全球記憶體龍頭的獲利能力，可能首度在關鍵指標上壓過長年居冠的台積電，這不僅......

記憶體股價漲多拉回，是中場休息還是一波到底？第一波股價齊頭式大漲，海水退去誰沒穿褲子，會反映在財報上。文／黃冠豪近期記憶體現貨市場報價出現波動，部分通路商傳出雜音，但若投資人走進各大記憶體原廠與模組廠的法說會現場，聽到的卻是完全不同的故事。消費性電子需求看似疲軟，但雲端服務供應商的採購單接踵而至，這不僅僅是周期性的反彈，更是一場記憶體產業十年一遇的結構性重估......

AI浪潮仍在翻湧，市場焦點正悄悄從晶片轉向基礎建設。高盛證券最新報告直指，客製化與高速連接將是新一輪AI基礎建設循環的兩大核心，帶動全球800G交換器市場價值快速膨脹。預估到2026年，AI運算資料中心交換器的市場規模將突破500億美元。這場戰役的關鍵，不僅在誰能設計出性能最佳的晶片，而是誰能提供更靈活、更穩定的網路骨幹，讓AI的龐大算力得以流暢運行。為何「......