快科技5月7日动静，联想立异科技大会（Tech World）以“让AI成为创重生产力”为从题，聚焦夹杂式人工智能，从小我到企业，会上，联想展现了其正在端侧算力方面的最新立异 “联想推理加快引擎”。
据领会，这款由联想、大学及无问芯穹结合研发的推理引擎，是专为高效AI PC推理而设想的软硬件协同优化平台，能够让一台通俗PC的当地推理能力，“联想推理加快引擎”通过高机能并行解码、算子融合优化以及异构计较手艺， 实现了多种使用场景下推理速度的大幅提拔，以及功耗和内存占用的显著降低。取大模子推理芯片相连系，通过硬件加快取软件优化的无缝协做，进一步放大了机能提拔，构成了叠加效应。为曲不雅展现 “联想推理加快引擎”的实力，现场设置了一场“竞速赛”。三台设置装备摆设不异的AI PC同时解答2024年高考数学压轴题：这表白模子能力的提拔和 “联想推理加快引擎”对算力的提拔，让设备的预填充更为敏捷、解码速度更快、推理时间更短，同时占用内存更少，能耗更低，设备上的 AI 能力获得了大幅提拔。联想集团董事长兼CEO杨元庆暗示，很快大师就会期近将发布的下一代 AI PC 上体验到 “联想推理加快引擎”带来的强大当地推理能力，其机能能够取云端大模子相媲美，但成本却低得多。