隨著AI技術(shù)的快速迭代,如何高效利用算力資源、優(yōu)化模型開發(fā)流程并快速實現(xiàn)場景化落地已成為行業(yè)智能化轉(zhuǎn)型的關(guān)鍵。近日,在2025世界人工智能大會期間,紫光股份旗下新華三集團(tuán)發(fā)布了全新升級的靈犀智算解決方案,架構(gòu)涵蓋底層智算基礎(chǔ)設(shè)施、中層云與數(shù)據(jù)平臺和AI業(yè)務(wù)平臺以及上層行業(yè)智慧應(yīng)用,通過全棧開放解耦的端到端AI能力布局為百行百業(yè)的智慧躍遷提供全流程一站式能力交付。其中,靈犀使能平臺(LinSeer Hub)作為該解決方案的核心引擎,集成了AI基礎(chǔ)服務(wù)、數(shù)據(jù)工程服務(wù)、模型訓(xùn)練、模型推理、模型評估、應(yīng)用服務(wù)及數(shù)字資產(chǎn)管理七大功能模塊,致力于以行業(yè)場景為錨點,打通數(shù)據(jù)、模型與應(yīng)用的關(guān)鍵環(huán)節(jié),實現(xiàn)三位一體的協(xié)同使能。
搭建模型與算力的協(xié)同橋梁
顯著提升訓(xùn)推效率
隨著多元算力與多元模型的快速發(fā)展,大模型在異構(gòu)算力環(huán)境中常面臨著資源適配不佳導(dǎo)致的訓(xùn)推效率低下等難題,靈犀使能平臺依托其 AI 基礎(chǔ)服務(wù)、模型推理等核心模塊,以“軟硬協(xié)同+異構(gòu)兼容”突破訓(xùn)推效率瓶頸。平臺深度集成了新華三自研 UCCL 統(tǒng)一通信庫,通過多維度算子優(yōu)化顯著提升 GPU 集群效能,精準(zhǔn)匹配大模型訓(xùn)練及推理需求,訓(xùn)推效率提升20%以上。
同時,靈犀使能平臺擁有強(qiáng)大的兼容性和調(diào)度能力,可支持20+GPU 算力的統(tǒng)一納管,在推理環(huán)節(jié),其模型推理模塊支持 PD(計算與顯存)的分離部署,靈活適配高算力 P 節(jié)點與大顯存 D 節(jié)點需求,讓企業(yè)能按需選擇最優(yōu)架構(gòu),無需為適配消耗額外資源,將技術(shù)適配的隱性成本轉(zhuǎn)化為創(chuàng)新迭代的顯性動力,為大模型開發(fā)打造高效引擎。
打破模型與數(shù)據(jù)割裂
面向場景實現(xiàn)雙向賦能
企業(yè)在 AI 落地時,往往陷入“模型孤島”與“數(shù)據(jù)碎片化”的雙重困局。靈犀使能平臺憑借其數(shù)據(jù)工程服務(wù)、模型訓(xùn)練、模型評估及數(shù)字資產(chǎn)管理等功能模塊,深度融合行業(yè)場景化數(shù)據(jù)資產(chǎn),構(gòu)建模型與數(shù)據(jù)的雙向賦能體系。平臺通過AI驅(qū)動的數(shù)據(jù)清洗、智能標(biāo)注及數(shù)據(jù)合成,將數(shù)據(jù)準(zhǔn)備效率提升10倍,垂類場景模型準(zhǔn)確率提升30%。
在模型層面,平臺提供從預(yù)訓(xùn)練、SFT 到 RLHF 的全流程工具鏈和模型評估能力,通過可視化界面大幅降低操作門檻,使模型開發(fā)從 AI 專家級降至業(yè)務(wù)專家級,其獨特的“領(lǐng)域適配-推理增強(qiáng)-業(yè)務(wù)對齊”三階段優(yōu)化框架,結(jié)合蒸餾量化等輕量化技術(shù),成功彌合了技術(shù)與業(yè)務(wù)的鴻溝,有效減少模型幻覺,顯著提升模型在具體業(yè)務(wù)場景中的可用性和準(zhǔn)確性。
分鐘級應(yīng)用構(gòu)建
讓AI落地如搭樂高般靈活自如
靈犀使能平臺的應(yīng)用服務(wù)模塊提供20+可編排組件和豐富的行業(yè)模板,通過簡單拖拽即可進(jìn)行智能體的靈活編排,從而實現(xiàn)分鐘級的AI應(yīng)用構(gòu)建,讓企業(yè)真正實現(xiàn)“開箱即用”。該平臺還提供了完整的 Agent 開發(fā)套件,支持 RAG 知識庫接入和業(yè)務(wù)插件擴(kuò)展,目前已成功應(yīng)用于多個行業(yè)場景。在醫(yī)療領(lǐng)域,
新華三與清華長庚醫(yī)院合作,基于平臺快速構(gòu)建的腦血管病專病模型,在醒后卒中發(fā)病時長判定等診療實踐中表現(xiàn)優(yōu)異;在智慧交通場景,通過融合多源數(shù)據(jù)構(gòu)建的智能調(diào)度應(yīng)用,使高峰調(diào)度效率大幅度提升。這些實踐不僅展現(xiàn)了平臺強(qiáng)大的應(yīng)用構(gòu)建能力,更驗證了其從技術(shù)能力到商業(yè)價值的快速轉(zhuǎn)化路徑。
未來,新華三集團(tuán)將持續(xù)深耕AI領(lǐng)域,以不斷精進(jìn)的AI產(chǎn)品與解決方案,攜手廣大伙伴共筑開放協(xié)同、繁榮共贏的AI生態(tài),讓AI技術(shù)真正成為推動社會進(jìn)步和產(chǎn)業(yè)升級的普惠力量,加速百行百業(yè)實現(xiàn)智慧躍遷。
(來源:新華三)