第1384章 端侧大模型,它的名字叫太子! (2 / 2)
悠悠小说网kanshuyy.com
顾屿脚步一顿,转过身面向台下黑压压的观众席,嘴角一扬:
“在座各位,有谁还记得,游所为给自己造的那台复制版手机,叫什么名字?”
台下静了一秒。下一刻,前排粉丝区里几个二十出头的男生扯着嗓子嚎了出来:
“太子!”
“叫太子!”
线上直播间里,反应过来的网友也跟着刷起了屏。
【哈哈哈我想起来了,游所为造的那台山寨机就叫太子!】
【不是,顾董在几千万人的旗舰机发布会上聊《魔幻手机》干嘛?改行干影视解说了?】
【前面铺垫了半天麒麟970和独立NPU,怎么一转弯拐到游所为和太子身上了?这弯拐得我脖子都闪了!】
台下的科技记者们更是面面相觑。
后排的门户网站主编推了推眼镜,盯着台上的顾屿,小声嘀咕:
“这葫芦里到底卖的什么药?好端端的芯片大秀,扯这一出神话剧干什么?”
舞台中央,顾屿听着台下此起彼伏的喊声,笑着点了点头。
手里的遥控笔再按一下。
屏幕上的剧照隐去,画面一分为二。
左边是一座庞大的数据中心机房图标,底下标注着“天问3.0云端千亿参数底座”;右边则是那颗麒麟970芯片的独立NPU模块。
一道蓝色的流光从左边的庞大机房里抽离出来,经过多层漏斗状的网格过滤、裁切、压缩,最后注入到右边的芯片NPU里。
“没错,就叫太子。”
顾屿收起玩笑的腔调,握着麦克风往前迈了一步,话音干脆利落:
“电视剧里,游所为靠强行复制造出了太子。而在现实的计算机实验室里,我们九天实验室的算法团队,加上华为海思的芯片工程师,用了一项叫‘模型知识蒸馏与混合量化剪枝’的技术,干了一件跟游所为一模一样的事!”
顾屿抬手,激光笔的红点稳稳钉在屏幕中央那道蓝色漏斗上:
“云端的天问三号是千亿级参数的大家伙,得靠雅安地底机房几万张加速卡供着才能转起来。”
“想把原封不动的天问三号硬塞进手机,别说现在的手机芯片,就是把主机箱拆了也塞不进去。”
“那怎么办呢?我们换了个路子。我们把云端的天问三号当成博导,通过知识蒸馏技术,砍掉那些占地方的冗余权重,只把最核心的逻辑推理、自然语言理解和指令执行能力榨出来,手把手教给一个小模型!”
“再配合专门为海思NPU定制的算子融合,外加INT4、INT8混合精度量化技术,我们把一个原本得靠超算机房才能跑动的庞然大物,浓缩到了十二亿参数规模!”
大屏幕上跳出三行白底红字的数据。
模型体积:800兆以内。
首字推理延迟:112毫秒。
运行满载功耗:1.3瓦。
顾屿转过身,手指点向那颗独立NPU图标,声音顺着音响砸进全场每个人的耳朵里:
“我们把这个经过深度蒸馏的轻量化大模型,直接写入了纯血鸿蒙的系统底层,让麒麟芯片里那颗独立NPU来全权运行它!”
“虽然受限于体积,它无法像云端的完整版傻妞那样陪你探讨高深的核物理公式,也没法帮你写几万字的行业研报,复杂推理依然会通过端云协同交由云端天问处理。”
“但在日常的语音交互、系统级跨应用操控、隐私数据处理和极速响应上,它拥有超越这个时代的统治力!”
“这意味着什么?”
顾屿看着台下瞪大眼睛的媒体记者们,一字一句地说道:
“这意味着,哪怕你坐上万米高空的飞机,哪怕你走进没有半格信号的荒山野岭,哪怕你拔掉电话卡、关掉无线网,完全断开与云端傻妞API的连接。”
“你手里的这台华为手机,依然拥有一颗独立运转、随叫随到的领先时代的人工智能大脑!”
顧屿顿了顿,身后的大屏幕上,一团金色的粒子汇聚成型,化作一个科技感十足的金色徽标。
“而我们,也给这个全球首款真正活在手机芯片里的端侧大模型,起了一个非常贴切的名字。”
“它的名字,就叫太子!”