返回首页  设为首页  加入收藏  今天是:
网站首页电脑主板电脑cpu电脑内存电脑硬盘电脑显卡电脑电源显示器电脑配件电脑维修
相关文章
 行业第一!天玑9300内存硬件…
 2000多元大内存手机推荐16GB…
 澜起科技:DDR5内存接口芯片…
 内存、闪存大涨价要来了!明…
 一夜之间大量下架涨价数千元…
 英伟达显卡被禁之后中国产业…
 RTX 4090上市时间是什么时候…
 12万张英伟达AI显卡将上线?…
 全新AMD Radeon PRO工作站显…
 农发行乌拉特前旗支行开展冬…
 开关电源测试ate要检测哪些项…
 航空工业计算所:六十五载 初…
 蚂蚁庄园教育:笔记本电脑插…
 依顿电子获8家机构调研:目前…
 笔记本的存储救星奥睿科J20固…
 京东1111全周期电脑组件受用…
 来自希捷的双十一提醒:本年…
 来自希捷的双十一提醒:本年…
 追求飞快的感觉ORICO J-20 S…
 电脑键盘指示灯不亮怎么回事…
 显示器品牌-电脑显示器什么牌…
 三安光电:公司Mini LED产品…
 杉杉股份:终端广泛应用于电…
 电脑显示器哪个牌子好?电脑…
 笔记本cpu排名天梯图笔记本c…
 笔记本cpu排行天梯图知乎笔记…
 更简洁的操作 成就更智能的烹…
 进博会“亚洲首展”!博世ac…
 雷曼光电发布全球首款PM驱动…
 HFS加持 颜艺双升 TCL华星供…
 三星推出新款S49CG934游戏显…
 飞腾CPU双11在京东开店卖货 …
 京东1111全周期战报:电脑组…
 小新系列笔记本问题多消费者…
 苹果M3在CPU测试中暴露出一个…
 新款iPad Pro将搭载M3芯片 C…
 读速7400MBs旗舰级SSD!腾隐…
 OpenAI 都想入局的 GPU究竟是…
 松下首款配置微型OLED显示器…
 百帧高色域全能显示器卖白菜…
 星越HUD抬头显示使用教学
 强大音画高刷性能三星显示器…
 2023默克示界 - 先进显示技术…
 以后买笔记本电脑 不能不考虑…
 微软Surface Laptop 6笔记本…
 AMD扩大第三代EPYC CPU产品阵…
 手机cpu介绍(手机CPU简介)
 锐龙9000突然冒出!Zen5不会…
 双11装机高潮 玩转桌搭就选华…
 七彩虹iGame Z790D5 FLOW主板…
专题栏目
网络
您现在的位置: 电脑评测网 >> 电脑内存 >> 正文
高级搜索
行业第一!天玑9300内存硬件压缩技术大幅降低手机AI大模型内存占用
作者:佚名 文章来源:本站原创 点击数: 更新时间:2023/11/14 6:48:18 | 【字体:

  小青车论坛近期,联发科发布了全新一代旗舰级5G生成式AI移动芯片天玑9300。创新的全大核架构设计结合新一代AI处理器APU和联发科特有的前沿技术,为端侧生成式AI应用提供强劲性能,带来精彩、丰富的端侧生成式AI体验。联发科还与众多业内AI企业深度合作,在移动端构建了丰富的AI生态。

  随着用户对生成式AI应用需求日益增长,端侧生成式AI便捷、安全性等优势便凸显出来。当然,部署端侧AI大语言模型需要强大的AI算力支撑。

  天玑9300搭载联发科第七代AI处理器APU 790,为生成式AI而设计,拥有硬件级的生成式AI引擎,可以实现更加高速且安全的边缘AI计算,深度适配Transformer模型进行算子加速,速度是上一代的8倍。

  同时APU 790的性能和能效得到显著提升,整数运算和浮点运算能力提升至前一代的2倍,苏黎世ETHZv5.1 AI-Benchmark Mobile Soc跑分2109 分,AI性能成功霸榜,功耗更是降低了45%。在强大的AI性能支持下,1秒以内即可生成图片。天玑9300强悍的AI算力、创新的全大核CPU架构和Immortalis-G720 GPU都为端侧运行生成式AI打下坚实的性能基础。

  同时,基于亿级参数大语言模型的特性,联发科开发了混合精度 INT4 量化技术,结合联发科特有的内存硬件压缩技术NeuroPilot Compression,可以更高效地利用内存带宽,大幅减少AI大模型占用终端内存,为端侧运行AI大语言模型突破手机内存限制,助力更大参数模型在端侧落地。

  基于以上,天玑9300首次在vivo旗舰手机端侧落地70亿参数AI大语言模型,处理速度可达20 Tokens每秒。不仅如此,联发科突破了行业极限,已经与vivo成功在端侧运行了130亿参数的大语言模型。甚至,天玑9300已率先实现在移动芯片上成功运行330亿参数的AI大语言模型,领跑业界。

  天玑9300还支持多模态生成式AI大模型,打造出“文生诗”“文生图”“文生趣图”等丰富有趣的端侧体验。

  可见,天玑9300的AI算力和端侧生成式AI能力已领先行业,足以让用户随时随地AI创造力全飙。

  与云侧生成式AI解决方案不同,由于硬件环境的差异,部署端侧生成式AI也需要考虑手机内存、存储容量、负载上限等因素。为此,联发科率先提出了先进的解决方案。

  APU 790 支持生成式AI模型端侧技能扩充技术NeuroPilot Fusion,它可以基于基础大模型持续在端侧进行低秩自适应(LoRA,Low-Rank Adaptation)融合,在混合式AI的赋能下,可以基于1个基础大模型,通过云端训练,在端侧完成N个功能的融合,赋予基础大模型更全面、更丰富的生成式AI应用能力。

  比如基于AI模型端侧技能扩充技术的“图生GIF动图”功能,用户可以根据一张照片更换不同的风格甚至表情,玩出个人专属风格的表情包,秒变表情包小达人。

  基于强大的AI算力和先进的内存硬件压缩技术、AI模型端侧技能扩充等技术,天玑9300的APU 790将端侧生成式AI的速度和广度提升到了全新的水平。同时,为加速生成式AI在端侧部署和普及,联发科也凭借其AI开发平台NeuroPilot构建了丰富的AI生态,从底层硬件到工具链、模型中心以及开发生态,助力生态快速、高效地部署端侧生成式AI应用。

  AI开发平台NeuroPilot支持Android、Meta LIama 2、百度文心一言大模型、百川智能百川大模型等前沿主流AI大模型。

  联发科的天玑开发者中心还可提供端侧生成式AI落地一站式开发者资源,分享端侧模型部署案例提升开发效率。目前已有20多个生成式AI合作伙伴加入生态共建。

  联发科还携手业界合同伙伴打造精彩的生成式AI应用体验。虹软的生成式AI超级分辨率技术基于天玑9300 APU 边缘计算能力,相比前代,性能可提升30%。在25倍放大的拍摄时,利用生成式AI超级分辨率技术,可以拍出细节更真实的图像效果。

  极感科技的生成式AI语意搜索技术也基于天玑9300 APU边缘计算能力,对比前代,性能可提升260%。比如在手机的相册中搜索照片,描述照片的内容即可在毫秒内精准搜到对应的照片。而且在断网状态下也能搜索,隐私也不会泄露。

  Morpho的视频通话实时数字分身生成技术,同样基于天玑9300 APU边缘计算能力,对比前代,性能提升26%。一般的虚拟人像生成器需手动选取容貌样式花费时间。但基于视频通话实时数字分身生成技术,用户操作容易,仅需打开摄像头单帧图片即可瞬间生成数字分身。

  基于天玑9300 APU边缘计算能力,慧鲤生成式AI防眩光技术性能可提升60%。在此技术加持下,无论是室外还是室内,在拍摄时如有眩光,只要轻松一暗即可消除眩光干扰。

  可以看到,在AI端云融合的趋势下,天玑9300在AI算力、生成式AI用户体验和生态方面展现出全面的优势,为新一代旗舰级端侧生成式AI体验树立了新的标杆,强大生成式AI就要用天玑。

  其同时,联发科等领军生成式AI的公司无时无刻不在通过技术创新和生态建造,积极推进混合式AI计算,开创出具有特色和效率的途径来推动端侧生成式AI部署的发展,以期将生成式AI在端侧普及,让越来越多的用户享有特色化的端侧AI体验,构建智能全域新体验,让科技更普惠大众。

  【广告】免责声明:本内容为广告,相关素材由广告主提供,广告主对本广告内容的真实性负责。本网发布目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责,广告内容仅供读者参考。

  新闻信息服务许可证音像制品出版许可证广播电视节目制作经营许可证网络视听许可证网络文化经营许可证

电脑内存录入:admin    责任编辑:admin 
  • 上一个电脑内存:

  • 下一个电脑内存: 没有了
  •  
     栏目文章
    普通电脑内存 行业第一!天玑9300内存硬件压缩技术大幅降低… (11-14)
    普通电脑内存 2000多元大内存手机推荐16GB+1TB配置给力“闭… (11-14)
    普通电脑内存 澜起科技:DDR5内存接口芯片的子代迭代已正式… (11-14)
    普通电脑内存 内存、闪存大涨价要来了!明年将出现缺货潮 (11-14)
    普通电脑内存 苹果发布 29 分钟视频:详解 A17 Pro 和 M3 系… (11-12)
    普通电脑内存 单条128GB DDR5-8000内存诞生!1TB也是小意思 (11-10)
    普通电脑内存 原神pc端内存多大 原神在电脑上需要占用多少内… (11-10)
    普通电脑内存 BB鸭 苹果高管解释黄金内存;董明珠首次回应孟… (11-10)
    普通电脑内存 脑洞非常大找猫怎么过-找猫通关攻略 (11-10)
    普通电脑内存 遥遥领先?苹果被批电脑内存又少又贵老总却老… (11-10)
    普通电脑内存 ram英语ram英语怎么读 (11-09)
    普通电脑内存 中信建投点评OpenAI首届开发者大会:利好相关… (11-09)
    普通电脑内存 xs运行内存是多少 (11-09)
    普通电脑内存 基带ram是运行内存的意思吗 (11-09)
    普通电脑内存 运行状态英文(运行状态) (11-09)
    普通电脑内存 苹果高管回应“黄金内存”质疑:MacBook Pro的… (11-07)
    普通电脑内存 vivo X100现身Geekbench:搭载天玑9300+12GB内… (11-07)
    普通电脑内存 华为nova11系列双十一最低2399:内存256G还有… (11-07)
    普通电脑内存 Linux操作系统知识讲解:走进内存 (11-07)
    普通电脑内存 《努努之歌英雄联盟外传》内存介绍 (11-07)