侧重于存储和计算网络之间的协作,操作员如何
发布时间:2025-07-23 13:32
当AI的大型模型的参数规模超过10亿的水平时,AI的计算机功率的重要性是毫无疑问的。但是,随着计算机电源基础架构的构建越来越多,事实逐渐变得清晰。关于培训和推理效率的最终决定不仅是最大计算机功率,而且是数据到计算的数据的“流效率”。在培训,推理和其他AI大型模型服务的快速发展的背景下,数据存储和计算机科学的联合效率不仅是更新操作员的IT系统的关键,而且还指AI在各种行业的运营商和公司中的实施和应用。作为数字基础设施中的重要力量,当前对操作员生存的需求已被对“关键发动机”的“角色支持”进行了行动。 01欢迎来到时代“ AI+”,存储网络与Compu之间的协作Ting已成为运营商要看的问题。随着AI模型的发展,对行业生存的需求变得越来越明显。从数据处理能力的角度来看,存储系统必须具有较高的IOP和较高的带宽,以满足快速阅读和写作要求并减少计算资源的延迟。从容量的角度来看,必须将存储容量从木材上方的结核病扩展,以容纳大型的非结构化数据。同时,与存储容量兼容的低延迟访问对于真实的AI应用程序也很重要。作为中央构建器和计算机领导者和Integrationn网络,面对行业需求的运营商已成为不可避免的主题。根据业务需求,AI的培训和推断表明了存储和计算机网络协作的性能要求有多维的改进。 Yan Han,网络和技术项目经理在中国移动研究所在培训中说,该公司一直在利用参数和培训数据的数量。从推论的角度来看,由于GPU内存的空间有限,我们需要构建KVCACHE多级高速缓存体系结构HBM-DRAM-SSD来存储更多的KV数据并提高KVCACHE的成功率。 “仍然有很多不便,在存储调整,计算机科学和网络资源方面都带来了很多不便。从多组合处理的角度来看,由文件,对象和块隔开的传统存储系统已经揭示了交叉复制和数据冗余的问题。同时阅读和写作性能,” Yang Han说。从IT系统的一般角度来看,我们如何与存储,计算机和网络资源合作以满足AI业务的需求以及当前的设置是什么?专家详细探讨行业应用策略。维护市场的中央DA有效地维护G,存储技术可以被认为是重要的限制。在这个关于容量,性能和成本的游戏中,存储技术逐渐发展,并破坏了外国高清民主党市场的长期限制困境。国家制造商已经克服了SSD领域。从公司的发展来看,长江记忆的闪存技术nand闯入该领域的该部门。从技术值的角度来看,SSD芯片直接确定了存储的性能。 “中国手机在存储系统中提供带宽,IOPS,IOP,潜伏能力,可靠性,能源消耗和SSDSE。从这个意义上讲,CAO Chang,中国研究所未来网络的优化的主管,SSD SSD SSD SSD SSD SSD的主要SSD,SSD SSD SSD的主要SSD。带宽和IOP的IOP和IOP,这使得它们可以满足培训和培训II的需求。 3400k,也有助于法力同时高位的倾向的任务,该行业还具有超低的潜伏期,使您可以快速响应推理应用程序并减少潜伏期。网络将赢得计算机能源和能源效率之间的战斗。我们认为SD替换组合是节能的关键。另一方面,液体冷却可以改善数据中心设备的部署密度,而另一方面,芯片可以以最大电压和频率连续运行,从而提高芯片的性能。 SSD硬盘驱动器的能耗可节省90%以上的HDD硬盘驱动器。用SSD替换HDD可以进一步降低设备的功能。补充流体冷却技术,并共同促进了新的节能能源,绿色和低碳节省网络的发展。通过网络网络的优化和创新,它们可以进一步降低能耗。 CAO张说,新的光电混合网络解决方案将来是一个关键地址,传统网络体系结构可以解决难以满足Ultra -big -scale功率组的互连需求的问题。同时,可以通过优化拥塞控制算法,负载平衡策略和RDMA协议来提高网络性能效率。此外,CAO Chang提醒我们,自动化操作和维护可以保证从系统协作,智能管理和编程的角度来确保网络的高可用性和可靠性。像许多不同的应用程序场景一样,生存的挑战是不同的,每个挑战都采用自己独特的方法。将来,存储网络与计算之间的合作还将取决于OEM制造商工业链,SSD磁盘制造商和SSD Central Chips的上游和下游公司之间的共同合作Ompanies。每个人都应该尽力而为。 Pingtou ge半导体产品总监周冯(Zhou Guanfeng)认为,作为典型的封闭代码系统,SSD磁盘制造商和主要控制制造商必须紧密地工作以发挥主控制芯片和NAND芯片的功能。同时,我们从界面兼容性的角度与OEM制造商合作,完全适应了各种不同的硬件,当存储,能源和运输能力真正实现“以相同的频率共鸣”时,不仅重建了操作员的竞争力,而且还注入了数字经济中高质量质量发展的基础势力。有了最深的业务,我相信运营商将继续探索技术进步,工业合作和其他方面。将来,行业和信息技术的手段将继续关注该行业的趋势,并将被邀请通过“有关计算机科学能力和网络集成的挑战的会议,对行业感兴趣的人都深入讨论实践路线。请小心。