面向端侧部署的大模型二值化压缩技术及应用

简介

本作品针对算力“卡脖子”背景下的大模型部署难题，开发了资源高效、部署友好的二值化压缩技术，以算法突破算力瓶颈。作品提出了交替精炼算法、多维增强策略与多分支信息传递机制，实现了大模型高效压缩。压缩后模型内存占用降低80%，可保留原模型90%的性能，推理速度提升4倍，率先实现DeepSeek等国产大模型的二值化压缩部署。技术在华为、联想终端产品线初步落地，为我国构建自主可控的人工智能生态提供关键支撑。