华为技术有限公司申请了一项名为“人工智能模型的量化方法、处理系统和量化单元”的专利。该专利公布于近日。根据摘要显示,这个量子单元可以基于运行AI模型的计算设备的各个计算单元的处理粒度,将量化矩阵分割成多个适用于各个计算单元的处理粒度的分块量化矩阵。这些分块量化矩阵可以通过进行离群值统计来实现实时量化,并且不需要对张量级别进行离群值的统计。这个专利可以帮助减少AI模型占用内存。
此外,华为还申请了一项名为“一种数据处理方法及相关设备”的专利,这项专利涉及到人工智能领域,旨在降低模型训练过程中的存储空间开销并提高性能。在该方法中,第一装置通过使用神经网络模型对第一数据进行前向计算,得到第二数据;然后对第二数据进行量化处理以得到第三数据,并保存该第三数据用于反向计算。
华为一直致力于开发更先进的人工智能技术,在过去几年里取得了许多突破性进展。这次新的专利申请是他们在这个领域持续创新的表现之一。这项技术有望帮助企业在不断变化的科技环境中保持竞争力,并为消费者带来更好的产品和服务。
标签: 新闻资讯
版权声明:除非特别标注,否则均为本站原创文章,转载时请以链接形式注明文章出处。