


涨价对 AI 行业的影响,联发科高管坦言,内存和带宽已经成为端侧 AI 发展的主要瓶颈,当前手机端算力已经能够满足大部分应用需求,但大模型运行对内存的占用和带宽的消耗非常大。为应对这一挑战,联发科推出了 Low Bit 压缩工具包,相同质量模型的压缩率提升可达 58%,同时结合内存硬件压缩、动态模型加载等技术,有效降低内存占用和带宽消耗。虽然内存涨价给终端厂商带来了成本压力,但这只是暂时现象,当用
当前文章:http://xo7u.taoshenbo.cn/qugtb11/ju0.html
发布时间:08:57:58