杨玉庆谈AI系统研究:硬件与软件的双向奔赴是关键

2026-02-08 0 260

在AI领域,跨界人才拥有独到的见解和独特的研究技巧。例如,微软亚洲研究院(上海)的高级研发经理杨玉庆,他拥有软硬件两方面的研究经历,为AI研究贡献了新颖的观察角度。

跨界入行历程

2017年,杨玉庆加盟了微软(亚洲)互联网工程院。在此之前,他主要从事底层系统架构的设计工作。加入工程院后,他的工作重心转向了系统软件的设计。这一转变促使他开始从开发者及用户的角度去思考问题,并在实践中逐步形成了自己独特的思维和研究理念。从底层到上层,不同的视角为他提供了多角度的研究视野。

底层视角优势

深入底层,他能够清楚地认识到模型在计算设备中的运行方式。杨玉庆深知,底层结构对模型的运行有着显著的作用。因此,他能够对模型进行有目的的改进。这就像工匠对工具的原理有了深入了解,才能更有效地完成作品一样,杨玉庆通过从底层角度出发,提高了模型在硬件中的运行效率。

上层视角洞察

杨玉庆凭借高层视角,洞察了系统优化的核心环节及未来走向。在设计系统软件时,他能够全面掌控每一个优化环节对整个系统的影响。以模型训练至部署为例,这种视角能发现那些常被忽视却对整体性能至关重要的环节,并据此预先制定解决方案。

整体系统研究

杨玉庆提出,在设计支持深度学习或AI模型的系统时,不能将问题孤立考虑。以模型从训练到被用户多次使用为例,各个层级的调用都会对效率和性能产生影响。微软亚洲研究院的四个项目,先分别研究各个环节,然后再将这些环节串联起来,形成一个完整的解决方案,这种做法充分展现了系统化研究的理念。

解决实际问题

在AI模型训练过程中,集群训练是一种普遍采用的方法。杨玉庆及其团队为了最大化GPU或硬件集群的性能,不仅运用了NNI的大模型压缩技术,还创新性地研发了利用模型稀疏性的新方法,以此提升部署效率。此外,nn-Meter模型能够预测模型与硬件的适配度,有效解决了模型在各类边缘设备上推理时出现的延迟问题。

研究领域成果

经过三年多的努力建设,微软亚洲研究院(上海)的研究领域已经趋于稳定。杨玉庆所在的系统组专注于为计算密集型任务研发高效技术。他们通过优化模型、编译器和系统平台级工具,有效提升了大规模AI模型处理和实时视频流处理等方面的效率,从而为研究者和开发者带来了更高的生产效率。

当前AI技术飞速进步,杨玉庆的研究方法和观点为业界提供了不少灵感。关于AI研究,跨软硬件领域的知识背景还有哪些潜在优势值得探索?欢迎在评论区交流你的观点,同时记得点赞并转发这篇文章!

收藏 (0) 打赏

感谢您的支持,我会继续努力的!

打开微信/支付宝扫一扫,即可进行扫码打赏哦,分享从这里开始,精彩与您同在
点赞 (0)

申明:本文由第三方发布,内容仅代表作者观点,与本网站无关。对本文以及其中全部或者部分内容的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。本网发布或转载文章出于传递更多信息之目的,并不意味着赞同其观点或证实其描述,也不代表本网对其真实性负责。

左子网 开发教程 杨玉庆谈AI系统研究:硬件与软件的双向奔赴是关键 https://www.zuozi.net/98888.html

常见问题
  • 1、自动:拍下后,点击(下载)链接即可下载;2、手动:拍下后,联系卖家发放即可或者联系官方找开发者发货。
查看详情
  • 1、源码默认交易周期:手动发货商品为1-3天,并且用户付款金额将会进入平台担保直到交易完成或者3-7天即可发放,如遇纠纷无限期延长收款金额直至纠纷解决或者退款!;
查看详情
  • 1、描述:源码描述(含标题)与实际源码不一致的(例:货不对板); 2、演示:有演示站时,与实际源码小于95%一致的(但描述中有”不保证完全一样、有变化的可能性”类似显著声明的除外); 3、发货:不发货可无理由退款; 4、安装:免费提供安装服务的源码但卖家不履行的; 5、收费:价格虚标,额外收取其他费用的(但描述中有显著声明或双方交易前有商定的除外); 6、其他:如质量方面的硬性常规问题BUG等。 注:经核实符合上述任一,均支持退款,但卖家予以积极解决问题则除外。
查看详情
  • 1、左子会对双方交易的过程及交易商品的快照进行永久存档,以确保交易的真实、有效、安全! 2、左子无法对如“永久包更新”、“永久技术支持”等类似交易之后的商家承诺做担保,请买家自行鉴别; 3、在源码同时有网站演示与图片演示,且站演与图演不一致时,默认按图演作为纠纷评判依据(特别声明或有商定除外); 4、在没有”无任何正当退款依据”的前提下,商品写有”一旦售出,概不支持退款”等类似的声明,视为无效声明; 5、在未拍下前,双方在QQ上所商定的交易内容,亦可成为纠纷评判依据(商定与描述冲突时,商定为准); 6、因聊天记录可作为纠纷评判依据,故双方联系时,只与对方在左子上所留的QQ、手机号沟通,以防对方不承认自我承诺。 7、虽然交易产生纠纷的几率很小,但一定要保留如聊天记录、手机短信等这样的重要信息,以防产生纠纷时便于左子介入快速处理。
查看详情

相关文章

猜你喜欢
发表评论
暂无评论
官方客服团队

为您解决烦忧 - 24小时在线 专业服务