返回首页  设为首页  加入收藏  今天是:
网站首页电脑主板电脑cpu电脑内存电脑硬盘电脑显卡电脑电源显示器电脑配件电脑维修
相关文章
 酷睿轻薄本也能运行大语言模…
 Win7系统该内存不能为writte…
 《Gunner HEAT PC》配置要求…
 显卡样子显卡是什么样子的图…
 笔记本电脑显卡长什么样(显…
 赞!Virtualization SIG 又一…
 英伟达称 47% 的显卡用户升级…
 就挺秃然的消失的朋友攻略 找…
 电脑硬盘在那里看电脑磁盘在…
 预装Win10系统新电脑怎么分区…
 计算机硬盘在哪里电脑硬盘在…
 电脑硬盘在哪里打开电脑磁盘…
 计算机的磁盘管理在什么位置
 一站式维修解决方案 “修哪儿…
 上门修电脑、附近24小时上门…
 818联想百应五周年庆:美团外…
 微星推出“抗洪度险”免费服…
 小孩头发不符标准在校理个发…
 干货来袭!2021年备用电源概…
 相同预算下买台式机还是笔记…
 经常能看见坐在星巴克里拿着…
 NewerTech发布NuPower MacBo…
 数据中心备用电源存在的浪费…
 320吨鲜鸡蛋从滞销到畅销 新…
 普通养殖户和蛋商网上卖蛋攻…
 微信直销草鸡蛋和水果线上交…
 拼蛋网鸡蛋交易平台上线啦!…
 鸡蛋销售渠道分析养殖人须知…
 电脑显示器图片图片大全
 电脑显示屏背景图
 电脑显示器PNG图片素材下载_…
 显示器分辨率设置多少合适
 电脑显示器素材
 微星公布B650M PROJECT ZERO…
 主板接口知识扫盲 主板接口详…
 电脑主板插槽图解电脑主板接…
 怎么看台式机主板接口
 如何查看主板m2接口协议怎么…
 电脑cpu温度一般是多少
 为什么电脑风扇声音很大
 详解电脑cpu风扇声音大怎么处…
 cpu温度多少度算正常?
 电脑cpu多少温度正常
 “纯血鸿蒙”即将到来
 vdi_电子产品世界
 刺客信条大革命 游戏中突然卡…
 暗黑破坏神4内存不足怎么办 …
 英伟达技术_电子发烧友网
 英伟达称游戏GPU需求已经重拾…
 英特尔推出“PresentMon Bet…
专题栏目
网络
您现在的位置: 电脑评测网 >> 电脑内存 >> 正文
高级搜索
酷睿轻薄本也能运行大语言模型英特尔推动 PC 生成式 AI 落地
作者:佚名 文章来源:本站原创 点击数: 更新时间:2023/8/25 2:38:52 | 【字体:

  窈窕军嫂驯夫记IT之家8 月 24 日消息,2023 年 8 月 18 日上午,英特尔在大湾区举办了一场技术分享会,主题是英特尔在 AIGC(人工智能生成式计算)领域的最新进展。会上,英特尔的技术专家向与会者展示了他们在 AIGC 上的技术方向,并进行了多个应用的演示。

  首先,英特尔介绍了他们在大语言模型方面的优化和支持。在我们传统的认知里,运行类似 ChatGPT 这种大语言模型必须要有大显存的显卡支持。但这场交流会却颠覆了我们的认知。英特尔为了让 12、13代酷睿平台也能够顺利运行各种大语言模型并提供流畅的使用体验,构建了 BigDL-LLM 库。通过这个库,可以对各种大语言模型进行优化和支持,包括一些开源的、可以在本地运行的大语言模型。这个库甚至可以在一台搭载 16GB 内存的英特尔轻薄本的机器上运行参数量高达 16B 的大语言模型。此外还支持 LLaMA / LLaMA2、ChatGLM / ChatGLM2 等多个大语言模型。

  接下来,英特尔展示了他们在大语言模型应用方面的表现。通过集成了 ChatGLM2、LLaMA2 和 StarCoder 这三个大语言模型的 Demo,他们演示了这些模型在中文和英文应用上的表现。通过优化和量化操作,这些大语言模型在生成回答时能够以非常快的速度生成,并且不影响阅读体验。英特尔已经发布了这套 Demo,任何搭载 12、13代酷睿的电脑都可以直接安装并体验。

  我们这里选择了一台通过英特尔Evo平台认证的轻薄本:华为 MateBook 16s 来进行测试。处理器为酷睿 i9-13900H + 32G 内存,看看在核显轻薄本上究竟能不能跑 AIGC。

  英特尔大语言模型的 Demo 安装过程非常傻瓜,英特尔已经打包成了 EXE 文件,安装并导入.Bin 格式的大语言模型就可以运行了。打开界面我们可以看到左侧可以选择聊天内容、调整模型参数和查看运算延迟,右侧则是聊天框。

  笔者先尝试问了他一些人情世故方面的问题,没想到回答非常出色,响应速度也很快。这样一个问题只花了 658.87ms 就完成了响应。

  在运算过程中我们可以看到,i9-13900H 占用率达到了 100%,内存占用达到了 16G,Xe 核显也有一定占用。看来这个运算过程确实是在本地进行的。经过英特尔不断的优化和 13代酷睿处理器算力的提升,我们真的在轻薄本上实现了 AIGC 的落地。

  在情感分析功能中,我们让大语言模型分析了一段经典散文。可以看到虽然分析的角度比较浅显,但没有逻辑错误,还是可以自洽的。

  而在这个中文翻译功能中,英特尔大语言,模型的表现就更加令我意外了,它的翻译质量相当高,速度也很快。哪怕是有如此多专有名词的稿件,也能准确无误地翻译。

  在故事创作方面,这套大语言模型也展现出了令我惊讶的逻辑能力和创造能力。我这边让它写一篇关羽大战林黛玉,最后林黛玉取胜的故事。但 AI 居然认识到了这两人根本不是一个时代的,最后写了一个穿越时空的戏码,虽然漏洞百出,但大体上没有问题。

  生成大纲功能则是一个非常有用的功能,我们只要输入想要撰写的稿件,就能帮我们列出一套逻辑清晰的稿件大纲了。这对于经常需要写文章的群体来说能起到很好的辅助作用。

  信息提取功能对于经常需要阅读报告的群体来说很有帮助。可以快速从长篇文章中提取核心信息。我这边尝试让 AI 从英文文章中提取中文信息,效果却依然非常好。

  最后,笔者让 AI 给出一份青岛美食建议和青岛旅游建议。由于这个大语言模型是完全离线运行的,所以给到的信息也会比较陈旧,但单从撰写水平来看还是不错的。

  此外,英特尔还展示了基于 Arc 显卡的人物动作的三维数字重建技术。通过 Arc 强大的算力和 OpenVINO 框架对 AI 算法的优化推理,可以实时探测和重建人物动作,并进行后期渲染。这项技术不需要智能穿戴设备,只需连接家用摄像头,即可实现实时探测和重建人物动作,并通过数字人的形象进行动画渲染。通过实时的骨骼点信息和 3D 重建,数字人可以展现出灵活多样的肢体动作,实现真实的三维动效。同时,根据用户的需求,可以自定义渲染器的画风,快速打造各种元宇宙应用。

  在最后的涡轮卡展示环节,英特尔展示了他们新的涡轮 GPU 卡,Arc A770 16G。这张卡具有双槽全长全高的设计,适应各种边缘侧服务器机箱或设备机箱。它采用涡轮风扇设计,减少对机箱内流场的干扰,更适合多卡混合计算的服务器、炼丹炉场景。

  从本次分享会看来,英特尔一直着力于发展 AI 技术,特别是当下火热的 AIGC 领域,英特尔也没有缺席。凭借 13代酷睿强劲的算力和不断的算法优化,现在即便是轻薄本也可支持大语言模型的本地运行。而在 Arc 显卡的加持下,Stable Diffusion 文生图的支持也在不断开展。同时,英特尔也在探索 AI 的下一代应用场景,并为企业级用户提供算力更强的解决方案。

  通过这些技术的展示,英特尔向大家展示了他们在 AIGC 领域的领先地位和不断创新的能力。他们致力于为用户提供更智能、高效的计算体验,推动人工智能技术的发展和应用。随着技术的不断进步和完善,我们可以期待在未来看到更多来自英特尔的 AIGC 应用和解决方案。

  广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

电脑内存录入:admin    责任编辑:admin 
  • 上一个电脑内存:

  • 下一个电脑内存: 没有了
  •  
     栏目文章
    普通电脑内存 酷睿轻薄本也能运行大语言模型英特尔推动 PC … (08-25)
    普通电脑内存 Win7系统该内存不能为writtenread该怎么办【详… (08-25)
    普通电脑内存 《Gunner HEAT PC》配置要求是什么?steam配置… (08-25)
    普通电脑内存 “纯血鸿蒙”即将到来 (08-24)
    普通电脑内存 vdi_电子产品世界 (08-24)
    普通电脑内存 刺客信条大革命 游戏中突然卡住解决方法 760设… (08-24)
    普通电脑内存 暗黑破坏神4内存不足怎么办 暗黑4内存不足解决… (08-24)
    普通电脑内存 英伟达技术_电子发烧友网 (08-24)
    普通电脑内存 中报]纳芯微(688052):2023年半年度报告 (08-24)
    普通电脑内存 中报]金山办公(688111):金山办公2023年半年度… (08-24)
    普通电脑内存 消息称三星获得 AMD HBM3 内存订单为其 MI300… (08-24)
    普通电脑内存 中报]上海贝岭(600171):上海贝岭2023年半年度… (08-24)
    普通电脑内存 中报]澜起科技(688008):澜起科技2023年半年度… (08-24)
    普通电脑内存 科技昨夜今晨 0816:苹果 5 亿美元“iPhone 电… (08-23)
    普通电脑内存 为什么电脑界存在一句话一万的笔记本相当于六… (08-23)
    普通电脑内存 顶配24GB内存比电脑还大!一加Ace 2 Pro首销:… (08-23)
    普通电脑内存 哪些电脑能大学4年不卡顿?华为这几款32GB大内… (08-23)
    普通电脑内存 配置超电脑!全球首款“24GB”手机开售大内存… (08-23)
    普通电脑内存 关于怎么选购内存 你想知道的都在这里 (08-22)
    普通电脑内存 Redmi第一款24GB 1TB手机首销!配置超越电脑:… (08-22)