Yandex开源LLM训练工具节省高达20%的GPU 资源

  【雷竞技须安全稳定 数码频道】● Yandex推出了YaFSDP，为一种更快、更高效的大型语言模型(LLM) 训练方法。

  ● YaFSDP最终提速达到26%。这种GPU消耗的优化使开发人员和公司每月可以节省数十万美元。

  ● YaFSDP是目前最有效的改善GPU通信、降低内存占用的方法。

  ● YaFSDP方法可以在Github上免费访问，全球的机器学习(ML)工程师和公司都可以使用它来提高LLM 的训练效率。

  2024年6月11日，莫斯科——跨国科技公司Yandex最近推出了YaFSDP，这是一种用于训练大型语言模型(LLM) 的开源方法。YaFSDP是目前最有效的公开可用工具，用于增强GPU通信并减少LLM 训练中的内存使用量，与FSDP相比，其训练速度提升最高可达26%，具体取决于架构和参数数量。通过使用YaFSDP减少LLM 的训练时间可以节省高达20%的GPU资源。

  Yandex承诺为全球人工智能社区的发展做出贡献，将YaFSDP开源提供给全球的LLM开发人员和人工智能爱好者即是履行此承诺的其中一步。

  “目前，我们正在积极尝试各种模型架构和参数大小，以扩展YaFSDP 的多功能性，”Yandex 高级开发专家、YaFSDP 团队成员 Mikhail Khruschev 指出，“我们很高兴与全球ML社区分享我们在LLM 训练方面的研发成果，希望能为全球研究人员和开发者获得更多的开源工具和更高的效率做出贡献。”

  YaFSDP 案例

  LLM 训练是一个耗时且资源密集的过程。机器学习工程师和自主开发 LLM 的公司投入了大量的时间和 GPU 资源(相当于金钱)来训练这些模型。模型越大，其训练所需的时间和费用就越高。

  Yandex 的 YaFSDP 优化了学习速度和性能，使全球的 AI 开发人员在训练模型时可以使用更少的计算能力和 GPU 资源。例如，在涉及具有 700 亿个参数之模型的预训练场景中，使用 YaFSDP 可以节省大约 150 个 GPU 的资源，这意味着每月可以节省大约 50 万美元到 150 万美元(取决于虚拟 GPU 提供商或平台)。

  YaFSDP 通过消除 GPU 通信效率低下来提升效能，确保训练时只需必要的处理器内存，并使 GPU 交互不间断。

  YaFSDP 的训练效率

  YaFSDP 是 FSDP 的增强版，在 LLM 训练中最耗通信的阶段(如预训练、对齐和微调)中，其表现优于 FSDP 方法。YaFSDP 在 Llama 2 和 Llama 3 上展示的最终提速表明训练速度显著提高，在 Llama 2 70B 和 Llama 3 70B 上分别达到 21% 和 26%。

  Mikhail Khruschev 表示：“YaFSDP 在 130 亿至 700 亿个参数的模型上表现出色，在 300 亿至 700 亿个参数范围内表现尤为惊人。目前，YaFSDP 最适合基于 LLaMA 架构的广泛使用之开源模型。”

  YaFSDP 并不是 Yandex 的第一个开源工具。该公司之前曾分享过其他几款在 ML 社区中很受欢迎的工具，包括：

  · CatBoost：一种高性能的基于决策树之梯度提升库。

  · YTsaurus：分布式存储和处理的大数据平台。

  · AQLM：最先进的量化算法之一，用于大型语言模型的极限压缩。由 Yandex Research、HSE 大学、 IST Austria 及 NeuralMagic 共同开发。

  · Petals：是一个旨在简化 LLM 训练和微调过程的库，由 Yandex Research、HSE 大学、华盛顿大学、Hugging Face、巴黎-萨克雷高等经济学院和 Yandex 数据分析学院合作开发。