让数十亿设备实现AI自由!商汤完成大模型云端边全栈布局|封面天天见
封面新闻
2024-04-24 17:14:50

原标题:让数十亿设备实现AI自由!商汤完成大模型云端边全栈布局|封面天天见

2024年4月23日,商汤科技正式发布行业首个“云、端、边”全栈大模型产品矩阵,并全新升级“日日新SenseNova 5.0”(以下简称:日日新5.0)大模型体系,其综合能力全面对标GPT-4 Turbo,实现大模型按需取用。

商汤科技董事长兼CEO徐立在会上表示:“商汤将在尺度定律的指导下,持续探索大模型能力的KRE三层架构(知识-推理-执行),不断突破大模型能力边界。”

新增多模态交互

“日日新5.0”文理能力大幅提升

自去年4月发布至今,商汤“日日新SenseNova”大模型体系已五次迭代。基于超过10TB tokens训练、覆盖大量合成数据,全新的“日日新 5.0”采用混合专家架构,推理时上下文窗口可有效到200K左右。

本次更新主要增强了知识、数学、推理及代码能力,全面对标GPT-4 Turbo,主流客观评测上达到或超越 GPT-4 Turbo。

在文科能力方面,“日日新5.0”的创意写作能力、推理能力及总结能力均大幅提升,相同的中文知识注入后,可获得更好的理解总结及问答。可为教育、内容产业等行业提供更多辅助。

在理科能力方面,“日日新5.0”数理能力、代码能力及推理能力达到业内领先水平,为金融、数据分析等场景落地提供坚实基础。

此外,“日日新5.0”在应用产品层面的多模态能力出色,支持高清长图的解析和理解以及文生图交互式生成,还可以实现复杂的跨文档知识抽取及总结问答展示,还具备丰富的多模态交互能力。

率先完成“云端边”全栈布局

助推AI大模型行业应用落地

4月23日,商汤科技首次推出“云、端、边”全栈大模型产品矩阵,其中包括应用于终端设备的“商汤端侧大模型”,以及面向金融、代码、医疗、政务等多领域的边缘产品“商汤企业级大模型一体机”。

商汤还推出端云协同解决方案,可通过智能化判断协同发挥端云各自优势,需要联网搜索或处理复杂场景时分流至云端处理,部分场景端侧处理占比超过80%,从而显著降低推理成本。

商汤日日新·端侧大语言模型的推理速度达到了业内最快,可在中端平台实现18.3字/s的平均生成速度,旗舰平台更是达到了78.3字/s。

而商汤推出的企业级大模型一体机,可同时支持企业级千亿模型加速和知识检索硬件加速,实现本地化部署,即买即用,降低企业应用大模型的门槛。相比行业同类产品,推理成本节约80%,检索大大加速,CPU工作负载50%。

携手生态伙伴打造AI新质生产力

现场,商汤还邀请了金山办公、海通证券、小米、阅文集团、华为等生态伙伴,共同探讨大模型技术的应用及前景。

自2023年起,商汤与金山办公达成深度合作,基于“日日新”大模型的卓越代码生成及工具调用能力,助力WPS 365打造更高效办公台台。在金融领域,海通证券与商汤科技联合发布了金融行业多模态全栈式大模型。在个人出行场景,小米汽车SU7,小米小爱同学也应用了商汤的大模型技术能力。

此外,商汤还发布了基于昇腾原生的行业大模型,共同打造面向金融、医疗、政务、代码等大模型产业生态。

而在自身应用方面,商汤“日日新5.0”在秒画、如影、格物、琼宇、大医、小浣熊家族等产品均有重要更新。

“文生视频”已在路上

商汤坚定迈向AGI时代

活动当日,徐立还带来了三段完全由大模型生成的视频,并强调文生视频平台对于人物、动作和场景的可控性。

据其介绍,商汤科技在文生视频平台方面也取得了技术突破,未来,通过输入一段文字或一个完整的描述,就可以生成一段视频,而且人物的服饰、发型、场景都可以预先设定,保持视频内容的连贯性和一致性。

通过商汤打造的智能算力中心,可以不断赋能于大模型的训练,目前,日日新大模型体系在自然语言处理、视频生成和深度学习优化等多个方面可喜进展。

对此,徐立表示,一方面,现阶段大模型发展已进入落地阶段,如何与产业、应用场景结合是关键一环;另一方面,“尺度定律”路径逐渐清晰,“涌现”时刻不定出现,前瞻探索最先进的大模型技术是重中之重。而商汤将坚定朝着通用人工智能的目标前行,突破数据与算力的限制,引领大模型的创新与落地。

相关内容

热门资讯

中冶赛迪申请高温煤气碳迁移在线... 国家知识产权局信息显示,中冶赛迪工程技术股份有限公司申请一项名为“基于氩气内标的高温煤气碳迁移在线定...
和讯投顾陆顺姣:25年最后一天... 2026年作为十五五规划的开局之年,政策面已经定调A股,元旦后的投资主线也越来越清晰,核心就是围绕新...
中国移动申请计算任务的分配方法... 国家知识产权局信息显示,中国移动通信集团设计院有限公司、中国移动通信集团有限公司申请一项名为“计算任...
壁仞科技申请算子执行方法专利,... 国家知识产权局信息显示,上海壁仞科技股份有限公司申请一项名为“算子的执行方法、装置、设备、存储介质及...
“AI+核技术”上新 海南自贸... 自12月18日海南自由贸易港启动全岛封关运作以来,近半个月来,海南自由贸易港跨境人流量和物流量大幅增...