改进实力强、应用落地广哥也色中文娱乐站，GenAI（生成式AI）技巧栈规模，商汤科技位居国内榜首！

近日，巨擘商议机构弗若斯特沙利文（Frost & Sullivan， 简称“沙利文”）联探求豹商议院发布《2024年中国GenAI技巧栈市集证明》，商汤科技在11个GenAI厂商中高出阿里云、百度智能云和华为云，增长指数和改进指数均名次国内第一，在大众名次中仅次于亚马逊云科技。

证明以为，商汤积极参加技巧改进，奋力于为用户提供行业进步的自研模子与高性能国产化的推理引擎，同期树立了包含机器与东说念主工审核、安全评测与本体安全计谋迭代升级等在内的齐全性安全料理决策，是GenAI技巧栈规模的迷惑者。

基于商汤大安装，改进力和增长力领跑国内市集

GenAI技巧栈是连结硬件按序层与末端用户交互的中间层，集成了包括基础模子、数据处理、模子谨慎调优、模子部署监控等技巧和器具，提供从模子启动化到部署全经过的一站式料理决策。

《2024年中国GenAI技巧栈市集证明》从改进和增长两个维度、共10个一级评价打算进行GenAI技巧栈竞争力分析哥也色中文娱乐站。

证明透露，商汤科技在两个维度中均名次大众第二、国内第一，其中改进维度得到“资源愚弄率优化料理、缓存与操心、盛大压缩模子”三大模块最高分，展现出三大才气上风：

高效的资源愚弄率优化才气：商汤自研高性能大模子推理引擎性能上风理解，在交流算力及电力老本下将每秒恳求数（QPS）升迁4倍。同期基于训推一体、算电协同等技巧改进，万卡集群GPU资源愚弄率最高达到80%以上。高效的缓存与操心才气：树立了数据飞轮机制，变成自我强化的反应轮回，已毕模子性能的不息升迁。盛大的压缩模子才气：在代码小浣熊办公助手和代码助手应用场景中，通过模子体积压缩，已毕数倍的显存检朴、高比例的速率升迁。

在增长维度，商汤科技斩获“行业客户与场景决策”模块最高分，展现出了商汤生成式AI落地应用的广度和深度：

障翳规模广：商汤“日日新”大模子已在金融、医疗、Copilot助手、拟东说念主交互、智能末端等重要规模修复了超卓的应用价值和进形式位。应用触达深：商汤科技与各行业头部企业张开空洞合营，助力运营商提高算力资源愚弄，助力媒体改进本体坐褥模式，为生成式AI应用落地提供了丰富的标杆案例与行业警戒。引颈GenAI技巧栈发展趋势，加快GenAI应用落地

证明指出，高质模子的构建、安全合规的优化、推理老本的裁减、数据价值的开释、家具应用化的已毕，是用户在构建GenAI应用时的中枢考量身分。

而商汤科技在GenAI技巧栈规模取得进步，主要源于以下几个方面：

积极的改进参加：不仅构建了自主算力平台，商汤日日新大模子在多评测集上也均保捏进形式位，让用户不错调用不同模态与不同业业性的基础大模子。高性能的推理引擎：商汤大型散布式推理系统，领有高性能算子库与极致优化的推理框架，在软硬件底层优化、自顺应区分架构、国产化生态打造以及前瞻性的“多模态AGI+云/边/端系统”布局等层面上风显赫。完善的安全料理框架：商汤针对GenAI场景，想象了相宜大模子特点的本体安全运营体系，为用户提供齐全的安全料理决策。

证明以为，GenAI技巧栈将呈现模块化、尺度化、平台化、通俗化、去中心化的发展趋势，MaaS（模子即做事）的泛泛履行还将重构生成式AI的交易化生态。同期，当作一项底层改进技巧，GenAI还将催生全新类型的信息商品，有望栽培出全新的家具期间和超等家具。

商汤大安装万象，包含模子开导平台和应用开导平台，面向企业与开导者提供模子料理、模子微调、推理部署、数据料理，以及智能体应用等一站式大模子做事，并奏效应用于央国企、运营商、汽车、互联网等行业客户。

商汤大安装将不息完善GenAI技巧栈，通过一系列器具与做事协助用户裁减模子开导门槛，以MaaS大模子即做事的改进模式，鼓舞生成式AI应用的交易化落地和生态构建。

车震视频

— 完 —

量子位 QbitAI · 头条号签约

温雅咱们哥也色中文娱乐站，第一时刻获知前沿科技动态