人民網
人民網>>上海頻道>>要聞

上海AI企業自研MSA架構,破解大模型“不可能三角”

2026年07月15日09:23 |
訂閱已訂閱已收藏收藏小字號

上海AI企業自研MSA架構,破解大模型“不可能三角”

“根技術”突圍,計算成本降至1/20

■MiniMax內部目前90%的代碼已由大模型生成,行政、人力資源等工作也運行在自家的AI智能體上,人機協作已從口號變為工位實景

“如果把訓練大模型比作烹飪滿漢全席,算法就是那本決定上限的菜譜。”稀宇科技(MiniMax)研發工程師、開發者關系負責人李元如此定義算法在AI時代的地位。但在上海這片AI高地上,單純的“廚藝”比拼已遠遠不夠,如何通過底層架構的原創性突破,破解算力與成本的困局,才是高質量發展的關鍵。

7月17日至20日,2026世界人工智能大會暨人工智能全球治理高級別會議將在上海召開。在這場全球AI風向標盛會前夕,MiniMax披露了其最新技術進展:通過自研稀疏注意力(MSA)架構,成功將百萬字長文本的單位詞元計算成本降至傳統全注意力機制的約1/20,探索在全球大模型競賽中走出一條降本增效的突圍之路。

把全員上崗變成專家會診

當前,大模型行業普遍面臨一個“不可能三角”。在有限的算力下,既要高性能,又要低成本,還要支持長上下文。特別是在上海這樣金融、貿易、制造場景密集的城市,企業對大模型落地的性價比有著近乎苛刻的要求。

“這就倒逼我們必須回到‘根技術’上做文章。”李元表示。MiniMax是國內最早一批探索混合專家(MoE)架構的初創公司,此次披露的自研MSA架構,正是針對傳統算法模型“算力吞噬”特性的反擊。

傳統算法的計算量隨序列長度呈平方級增長,處理長文本或高清視頻時成本極高。而MSA的思路類似於“精准派單”,不再激活全部模型,而是隻調動最相關的幾個專家模塊。

“這就像把全員上崗變成專家會診,效率自然大幅提升。”李元表示。據悉,該架構已在MiniMax新一代文本模型M3上落地。在同樣的計算資源下,MiniMax M3模型可以處理更長的上下文,推理速度也更快,極大地提升了詞元的經濟性。

算法、算力和數據是支撐大模型的“三駕馬車”,缺一不可。“我們之所以能做到國內第一梯隊,核心就是在算法和技術路線上持續創新。”李元說。

多模態理解模型當“裁判”

在深耕文本大模型的同時,多模態構成了MiniMax技術版圖的“第二增長極”。

“AI生成視頻最大的痛點,在於它不懂物理世界。”李元說,在早期的生成式模型中,由於缺乏對現實世界的認知,模型往往會產生“幻覺”,比如人物的手穿過咖啡杯,或者出現六根手指。

為此,MiniMax在算法層面引入了對抗性反饋機制。簡單來說,就是賞罰分明:AI生成結果符合常識就獎勵“小紅花”,出現違背物理規律的錯誤則重罰。

此前,MiniMax在視頻模型的研發中,創新性地引入了多模態理解模型作為“裁判”。這是一種“用魔法打敗魔法”的策略:利用一個強大的判別模型,去監督視頻生成模型。

“這就像蓋房子,我們不僅提供了圖紙,還加固了每一根梁柱。”李元說。這種對細節的把控,使得海螺AI生成的視頻在AI短劇、影視創作等領域得到了廣泛應用,甚至讓許多觀眾難以分辨真假。

得益於算法革新,海螺02系列視頻生成模型在同等參數量級下,訓練和推理效率提升了2.5倍。目前,MiniMax視頻模型支持首尾幀輸入、主體參考、鏡頭控制等功能,保証了長鏡頭中人物、服飾的一致性。

李元透露,MiniMax的新一代視頻模型H3將於近期正式發布。“H3將在理解能力和生成質量上進一步突破。”他表示,“我們的目標是讓AI不僅能生成視頻,更能理解視頻背后的邏輯,真正成為創作者的得力助手。”

隨著多模態技術的不斷成熟,MiniMax正試圖打破文本與視覺的界限,讓大模型從單純的文字工作者進化為全能的內容創作者。

為AI企業提供最佳土壤

作為全國人工智能發展高地,上海正在成為AI企業啃下“硬骨頭”的首選之地。

最新數據顯示,2025年,全市394家規上人工智能企業產業規模超6370億元,同比增長39.5%。累計169款大模型通過備案,多款基礎模型達到國際領先水平,為金融、醫療、制造等行業的“AI+”落地提供了超級大腦。僅2026年一季度,上海AI制造業產值增長19.2%,超過三大先導產業的平均增速。

更為實在的支持來自資金與算力。上海升級“模塑申城”行動方案,聚焦算力、語料、資金三個核心基本要素,降低創新門檻。在資金方面,每年發放10億元算力券、模型券、語料券,實行“先用后付、免申即享”,惠及更多AI創新企業和創業者﹔落地總規模600億元的國家人工智能基金,成立總規模225億元的市級人工智能先導產業基金。

“過去,AI產品研發往往被視為科技巨頭的專屬游戲。如今,隨著AI大模型調用成本的下降,即便是兩三個人的初創團隊,只要善於利用大模型開放的技術接口,也能快速打磨出具備市場競爭力的AI產品。”李元觀察到,在上海,AI應用層正迎來前所未有的爆發期。

據透露,MiniMax內部目前90%的代碼已由大模型生成,行政、人力資源等工作也運行在自家的AI智能體上,人機協作已從口號變為工位實景。

李元認為,上海扎實的軟件人才基礎與豐富的應用場景,為算法驅動提供了最佳土壤。“留在上海啃‘根技術’的團隊,接下來的牌還會更多。”

(來源:解放日報 記者 俱鶴飛 束涵 葉宇)

(責編:嚴遠、軒召強)

分享讓更多人看到

返回頂部