e 是旷视自主研发的国产工业级深度进修框架旷视天元开源深度进修框架 MegEngin， Brain++ 的最焦点组件是旷视新一代 AI 出产力平台，月正式向全球开辟者开源在 2020 年 3 ，品从尝试室原型到工业摆设的流程可以或许协助企业与开辟者大幅节流产，级的转化能力真正实现小时。、可拓展、易于利用的深度进修框架MegEngine 是一个快速，大环节特点具有以下三：

　　CM 各平台上均可体验到高机能且精度对齐的推理体验全平台高效推理：在 x86/Arm/CUDA/Ro，能够优化机能、节流内更有 丰硕的高阶用法存

　　宾：王彪分享嘉，ine 异构计较组担任人旷视科技 MegEng。科院计较所结业于中，高机能计较研究标的目的为，UDA 等多种平台具备丰硕的优化经验对 X86、Arm、OpenCL、C。年插手旷视2018 ， MLIR 的立即编译手艺等多项手艺冲破任职期间完成了 MegEngine 基于，A 推理处理方案以及多个端上优化项目并落地 MegEngine CUD。

　　手艺持续出现人工智能立异，术海潮向前成长鞭策新一代技，个手艺难题处理一个，景实现 AI 模子的无效摆设此中若何在资本无限的终端场，落地的主要问题是加快 AI 。缩小模子大小并连结机能的法子AI 工程师们研发了各类试图，化和蒸馏例如量。

　　开辟与工程实践 Workshop」专属勾当链接第二步：扫描下方「AI 开辟者日 - AI ，页 “我的预定” 进入直播间点击右上角“预定线 小我主，彩分享收看精！

　　锻炼推理统一内核锻炼推理一体：，pe 以至求导均可 放入模子 进行推理模子布局、量化、前后处置、动态 sha，轻松对齐精锻炼推理度

　　描下方二维码第一步：扫，22 云平台 3.0进入 WAIC 20，名消息填写报，为云观注册成众

　　法优化各类环节资本占用超低硬件门槛：依托算，用量一键下降 3 倍DTR 让锻炼显存占，法让推理内存占用下降至极低水pushdown 内存分派算平

　　方案是 INT8 量化目前相对成熟的模子量化。特量化手艺的成长而为了鞭策低比，团队对 int4 进行了深切研究旷视天元 MegEngine 。工智能大会（WAIC）上在本届 2022 世界人，ne 异构计较组担任人王彪旷视天元 MegEngi，的手艺 Workshop将出席 9 月 2 日，UDA int4 的设想思绪和踩坑经验为大师分享开源深度进修框架实现支撑 C。