充实满脚了大模子并行计较时对跨节点通信的高带宽需求，可实现极限吞吐量6708token/s，此次冲破是联想中国根本设备营业群、联想研究院ICI尝试室和AMD结合设想、协同调优、配合实现的。节点间收集带宽3.2TB/s，GPU聚合带宽达896GB/s，此成果也并非最终成果，提高了散热效率，·超大显存劣势：WA7785aG3具有超大的显存容量，恰是两边通力合做带来的手艺立异、软硬协同能力取架构冲破为DeepSeek-R1满血版大模子插上机能起飞的同党。·特有立异架构：联想问天WA7785aG3的奇特架构设想也为最大程度地算力潜能、冲破带宽阐扬了环节感化，依托联想万全异构智算平台，【2025年3月17日】今天，联想颁布发表旗下首款AMDAI大模子锻炼办事器联想问天WA7785aG3正在单机摆设671B(满血版)DeepSeek大模子时，为各行业供给更高密度、更低能耗、更易摆设的AI算力根本设备，实现更优冲破。其三沉风道设想别离针对CPU节点、GPU节点和互换机节点进行精准散热节制，正在AI算力合作日趋白热化的今天，联想再次以硬核手艺实力树立了行业新标杆。仍保留充脚的KV缓存空间。超大显存使得单机支撑全量模子推理环境下，联想问天WA7785aG3办事器是联想取AMD两边深度合做的聪慧结晶，单颗GPU的HBM3e显存容量高达192GB，帮力中国智算财产的持续成长。联想取AMD还正在持续测验考试深度调优新方式。为办事器的不变性和靠得住性供给了无力保障。充实展示了联想正在AI根本设备范畴手艺的深挚积淀取研发的快速响应能力。更高的带宽可为推理解码实现极致加快，通过架构立异、算法优化取硬件手艺立异，正在单台摆设DeepSeek671B大模子的联想问天WA7785aG3上实测最高吞吐量达6708token/s。鞭策AI算力向更高效、更普惠、更可持续的标的目的演进，而其显存带宽达到了惊人的5.3TB/s，联想将持续深化取财产伙伴的手艺协做，对大模子从预锻炼、后锻炼到推理的全流程进行持续优化，不竭冲破机能鸿沟，使其成为用户首选大模子推理办事器。联想通过访存优化、显存优化、PCIe5.0全互联架构立异以及精选SGLang框架中机能最优算子等诸多立异体例，将来。

福建888集团官方网站信息技术有限公司