創新實力強、應用落地廣,GenAI生成式AI技術棧領域,商湯科技位居國內榜首!

近日,權威研究機構弗若斯特沙利文Frost amp; Sullivan, 簡稱“沙利文”聯合頭豹研究院發布《2024年中國GenAI技術棧市場報告》,商湯科技在11個GenAI廠商中超越阿里云、百度智能云和華為云,增長指數和創新指數均排名國內第一,在全球排名中僅次于亞馬遜云科技。

報告認為,商湯積極投入技術創新,致力于為用戶提供行業領先的自研模型與高性能國產化的推理引擎,同時建立了包含機器與人工審核、安全評測與內容安全策略迭代升級等在內的完整性安全管理方案,是GenAI技術棧領域的領導者。

基于商湯大裝置,創新力和增長力領跑國內市場

GenAI技術棧是連接硬件設施層與終端用戶交互的中間層,集成了包括基礎模型、數據處理、模型訓練調優、模型部署監控等技術和工具,提供從模型初始化到部署全過程的一站式解決方案。

《2024年中國GenAI技術棧市場報告》從創新和增長兩個維度、共10個一級評價指標進行GenAI技術棧競爭力分析。

報告顯示,商湯科技在兩個維度中均排名全球第二、國內第一,其中創新維度獲得“資源利用率優化管理、緩存與記憶、精煉壓縮模型”三大模塊最高分,展現出三大能力優勢:

·? ?? 高效的資源利用率優化能力:商湯自研高性能大模型推理引擎性能優勢明顯,在相同算力及電力成本下將每秒請求數QPS提升4倍。同時基于訓推一體、算電協同等技術創新,萬卡集群GPU資源利用率最高達到80以上。

·? ?? 高效的緩存與記憶能力:建立了數據飛輪機制,形成自我強化的反饋循環,實現模型性能的不斷提升。

·? ?? 精煉的壓縮模型能力:在代碼小浣熊辦公助手和代碼助手應用場景中,通過模型體積壓縮,實現數倍的顯存節省、高比例的速度提升。

在增長維度,商湯科技斬獲“行業客戶與場景方案”模塊最高分,展現出了商湯生成式AI落地應用的廣度和深度:

·? ?? 覆蓋領域廣:商湯“日日新”大模型已在金融、醫療、Copilot助手、擬人交互、智能終端等關鍵領域確立了卓越的應用價值和領先地位。

·? ?? 應用觸達深:商湯科技與各行業頭部企業展開緊密合作,助力運營商提高算力資源利用,助力媒體創新內容生產模式,為生成式AI應用落地提供了豐富的標桿案例與行業經驗。

引領 GenAI 技術 棧 發展趨勢,加速 GenAI 應用落地

報告指出,高質模型的構建、安全合規的優化、推理成本的降低、數據價值的釋放、產品應用化的實現,是用戶在構建GenAI應用時的核心考量因素。

而商湯科技在GenAI技術棧領域取得領先,主要源于以下幾個方面:

·? ?? 積極的創新投入:不僅構建了自主算力平臺,商湯日日新大模型在多評測集上也均保持領先地位,讓用戶可以調用不同模態與不同行業性的基礎大模型。

·? ?? 高性能的推理引擎:商湯大型分布式推理系統,擁有高性能算子庫與極致優化的推理框架,在軟硬件底層優化、自適應分離架構、國產化生態打造以及前瞻性的“多模態AGI+云/邊/端系統”布局等層面優勢顯著。

·? ?? 完善的安全管理框架:商湯針對GenAI場景,設計了符合大模型特質的內容安全運營體系,為用戶提供完整的安全管理方案。

報告認為,GenAI技術棧將呈現模塊化、標準化、平臺化、簡易化、去中心化的發展趨勢,MaaS模型即服務的廣泛推廣還將重構生成式AI的商業化生態。同時,作為一項底層創新技術,GenAI還將催生全新類型的信息商品,有望造就出全新的產品時代和超級產品。

商湯大裝置萬象,包含模型開發平臺和應用開發平臺,面向企業與開發者提供模型管理、模型微調、推理部署、數據管理,以及智能體應用等一站式大模型服務,并成功應用于央國企、運營商、汽車、互聯網等行業客戶。

商湯大裝置將不斷完善GenAI技術棧,通過一系列工具與服務協助用戶降低模型開發門檻,以MaaS大模型即服務的創新模式,推動生成式AI應用的商業化落地和生態構建。