8月15日，訊飛星火認知大模型V2.0升級發(fā)布會上，科大訊飛攜手華為發(fā)布星火一體機，讓所有企業(yè)都可以在國產(chǎn)自主創(chuàng)新的平臺上，更方便、更自主、更安全可控地私有化部署大模型。
開箱可用，內(nèi)置資源已涵蓋10余個專業(yè)場景
“星火一體機”是國產(chǎn)軟硬件一體化的私有專屬大模型解決方案，開箱即可使用，提供從底層算力、AI框架、訓練算法、推理能力、應用成效等全棧AI能力，幫助企業(yè)打造專屬大模型。
星火一體機的訓練和推理一體化部署，可用于問答系統(tǒng)、對話生成、知識圖譜構(gòu)建、智能推薦等多個領(lǐng)域的應用，具備大模型預訓練、多模態(tài)理解與生成、多任務學習和遷移等能力。
科大訊飛在在辦公、政務、電力、教育、醫(yī)療、工業(yè)、司法、金融等行業(yè)深耕多年，積累了豐富的場景落地經(jīng)驗。星火一體機內(nèi)已涵蓋辦公、代碼、運維、客服、營銷、采購等10多個場景包，支持對話開發(fā)、任務編排、插件執(zhí)行、知識接入、提示工程等5種定制優(yōu)化模式，并將持續(xù)拓展更多專業(yè)場景和模式優(yōu)化，為客戶快速定制企業(yè)專屬大模型。
星火一體機還針對星火認知智能大模型的訓練算法和推理應用進行了硬件的量身定制，可大大降低企業(yè)的使用成本。
“雙保險”：訊飛保障內(nèi)容，華為保障算力
科大訊飛董事長劉慶峰在發(fā)布會上表示，認知大模型的深度賦能時代已經(jīng)到來，大模型在企業(yè)深度應用的三個關(guān)鍵要素是：第一，安全可控：內(nèi)容安全，要有正確價值觀，算力安全，要在完全自主可控的平臺上進行；第二，場景驅(qū)動：在看得見摸得著的場景產(chǎn)生實實在在的價值，并能夠用數(shù)據(jù)去證明成效；第三，專屬定制：內(nèi)容匹配需求，基于行業(yè)和企業(yè)的私域數(shù)據(jù)構(gòu)建私有化專屬大模型，提升應用效果。
企業(yè)應用大模型并不是盲目追風口，要從自身需求出發(fā)，讓大模型真正結(jié)合業(yè)務，提升效能、創(chuàng)造價值。場景驅(qū)動和專屬定制是企業(yè)大模型的基礎(chǔ)，而安全可控則是底線。
2023年4月28日，中共中央政治局會議就強調(diào)：“重視通用人工智能發(fā)展,營造創(chuàng)新生態(tài),重視防范風險”；2023年7月，7部委聯(lián)合發(fā)布《生成式人工智能服務管理暫行辦法》，再次強調(diào)“發(fā)展和安全并重”。
在內(nèi)容安全方面，星火一體機基于訊飛星火認知大模型，針對污語料和幻覺問題，形成立體化的“內(nèi)容安全機制”。無監(jiān)督的互聯(lián)網(wǎng)語料，經(jīng)過語句判別器、質(zhì)量判別器、隱私判別器、安全判別器等關(guān)卡，得到清洗后的高質(zhì)量文本；為了解決“幻覺問題”，科大訊飛針對各類型任務構(gòu)建專業(yè)知識庫，以類搜索插件技術(shù)實現(xiàn)知識獲取，基于大模型的理解和概括摘要能力給出答案。
在算力安全上，星火一體機基于昇騰AI硬件、昇思AI開源框架，提供業(yè)界領(lǐng)先的大模型訓練、推理能力，為大模型全流程創(chuàng)新提供堅實的自主創(chuàng)新算力底座。
“雙保險”下，企業(yè)能夠放心大膽地打造專屬大模型。
強強聯(lián)合，將打造通用智能新底座
大模型的研發(fā)過程，需要可以支撐千億參數(shù)規(guī)模的大模型并行訓練的算力和框架，還需要幾千張卡同時連續(xù)運行?；诖?，系統(tǒng)架構(gòu)以及并行訓練的集群能力成為國內(nèi)大模型研發(fā)的關(guān)鍵。
在今年的7月6日，科大訊飛就公布訊飛星火將與昇騰AI強強聯(lián)合，打造基于中國自主創(chuàng)新的通用智能新底座。一方面，訊飛星火認知大模型基于訓練推理一體化設計，實現(xiàn)大模型稀疏化、低精度量化的技術(shù)突破，能高效適配昇騰AI，加速大模型的行業(yè)落地應用和迭代；另一方面，以昇騰AI為核心，軟硬件協(xié)同優(yōu)化，構(gòu)建算力集中、性能優(yōu)越、供給穩(wěn)定、數(shù)據(jù)安全的大模型訓練集群。
此次發(fā)布的星火一體機，是科大訊飛與華為在AI算力、大模型的合作落地之一，將面向行業(yè)、企業(yè)客戶，提供基于專用數(shù)據(jù)的自主可控私有化大模型，加速推動重點企業(yè)的數(shù)智化轉(zhuǎn)型升級。國產(chǎn)大模型只有基于中國自主創(chuàng)新的算力底座才有大未來。之后，雙方將持續(xù)深化合作，放眼全球，聯(lián)合攻關(guān)算力國產(chǎn)化核心難題，實現(xiàn)從單點算力到集群算力、從節(jié)點創(chuàng)新到系統(tǒng)創(chuàng)新。
