【机锋资讯】5月7日,以 “让 AI 成为创新生产力” 为主题的联想创新科技大会(Tech World)盛大举行。此次大会聚焦混合式人工智能领域,联想全方位展示了创新技术成果,其中,“联想推理加速引擎” 这一端侧 AI 新技术成为全场焦点,它让普通 PC 的本地推理能力实现了质的飞跃,可媲美 OpenAI 的云端模型。
在本次大会上,联想首次定义了 “超级智能体” 的感知与交互、认知与决策、自主与演进三大核心功能,并发布了 “联想天禧” 个人超级智能体和 “联想乐享” 企业超级智能体。而 “联想推理加速引擎” 作为支撑这些智能体的关键技术,是联想联合清华大学及无问芯穹共同研发的成果。这一专为高效 AI PC 推理设计的软硬件协同优化平台,凭借高性能并行解码、算子融合优化以及异构计算技术,不仅在多种应用场景下大幅提升了推理速度,还显著降低了功耗和内存占用。与大模型推理芯片协同工作时,硬件加速与软件优化相互配合,产生了强大的叠加效应。
为了直观展现 “联想推理加速引擎” 的强大性能,大会现场别出心裁地设置了一场解答 2024 年高考数学压轴题的 “竞速赛”。三台配置相同的 AI PC 参与其中,初代大模型解题耗时 27 秒且答案错误;二代大模型虽然得出满分答案,但耗时 26 秒;而搭载了 “联想推理加速引擎” 的二代大模型表现惊艳,仅耗时 13 秒就得出满分答案,在速度大幅提升的同时,内存占用更少,能耗也更低。这一结果充分证明了该引擎对设备 AI 能力的巨大提升作用。
回顾过去一年,AI 领域创新成果不断涌现,DeepSeek 等技术推动了 AI 算力和模型技术的普及,加速了强推理模型端侧化的进程。联想集团董事长兼 CEO 杨元庆透露,下一代 AI PC 即将发布,届时用户将能亲身体验到 “联想推理加速引擎” 带来的媲美云端大模型的本地推理能力,而且成本更低。他还对端侧 AI 的未来发展充满信心:“随着 AI 需求的爆发式增长,端侧计算和推理能力将保持指数级甚至更快的增长速度,未来 12 个月内,端侧 AI 综合能力至少提升三倍并非遥不可及。”
端侧 AI 能力的提升以及跨设备跨生态的端边云协同,为个人可信计算创造了条件,也为个人超级智能体的发展奠定了技术基础。联想发布的天禧个人超级智能体,正是这一系列技术进步的结晶,有望为用户带来更加智能、便捷的使用体验。联想此次在端侧 AI 领域的突破,不仅为自身产品的智能化升级提供了有力支持,也为整个 PC 行业的发展注入了新的活力,或将引领行业迈向新的发展阶段。