发布日期：2024-10-20 06:29    点击次数：63

今天共享的是【浙江大学（陈文智）：入手将来：面向大模子的智算集合】

精选论述起原：快查行业库

论述洽商：10页

该论述先容了AI大模子与数据中心集合的发展历程，分析了大模子算力对集合的需求以及现时集合齐全神志，并探讨了推理和领域模子诓骗对集合的需求及集合演进决议。

- 发展历程

- 大模子：从千亿参数到万亿参数，从单模态到多模态发展。

- 数据中心集合：履历步伐数据中心集合、超大数据中心集合，发展到AI大模子入手的大模子智算中心集合。

- 集合需求

- 大模子算力：需要多节点、大带宽、低长尾时延的集合。考试经由中通讯耗时占比高，长尾时延会形成集合带宽衰减。

- 推理和领域模子：条件异构算力按需分拨，数据高效互通。不同遐想资源需高性能集合传输中间成果及输入输出数据。

- 集合齐全

- 现时：包括Scale - out集合、Front - end集合（通算集合）以及Scale - Up互连等神志，在不同场景下同步数据。

- 演进决议

- 集合交融：Scale - out集合与Front - end集合交融，齐全超大领域、超大带宽、低时延、高可靠，相沿训推一体和算力并池，摄取一张网遐想。

- 高性能公约：摄取如RDMA等高性能公约，相沿数据高效传输，对比TCP - X等公约有不同旨趣和适用场景。

- 下一代智算集合决议：通过技艺分层构建，包括芯片层、传输公约层、编造集合层、物理网卡层和物理集合层，相沿种种公约栈接入，齐全数据在不同算力间高效流转，解耦编造集合。

以下为论述节选施行

本文仅供参考开云体育，不代表咱们的任何投资提倡，用户取得的费力仅供个东说念主学习，如需使用请参阅论述原文。齐备论述请温雅【快查行业库】—— 更多施行请阅读论述原文。