人工智能知识库

标签: 模型并行

此标签下有1条笔记。

  • 2026年4月18日

    DeepSpeed训练优化

    • DeepSpeed
    • ZeRO
    • FSDP
    • 混合精度
    • 梯度检查点
    • 分布式训练
    • 显存优化
    • 通信优化
    • GPU训练
    • 模型并行

Created with Quartz v4.5.2 © 2026

  • GitHub