ultrascale-playbook nanotron

类型
space
许可
apache-2.0
点赞
3,981
访问
public
文件
0

标签

  • 大语言模型
  • 深度学习
  • 推理部署
  • Web应用
  • 机器学习

摘要

这是Nanotron团队推出的"Ultra-Scale Playbook"（超大规模实战手册），是一个面向工程开发者的技术指南型Space，系统讲解如何在大型GPU集群上高效训练大语言模型。它涵盖集群配置、分布式训练、扩展策略等关键实践，帮助用户理解并解决超大规模LLM训练中的工程难题。适用于研究人员、工程师和团队在搭建大规模训练基础设施时参考学习。

README

--- title: 超大规模实战手册 emoji: 🌌 colorFrom: yellow colorTo: purple sdk: static pinned: true license: apache-2.0 header: mini app_file: dist/index.html thumbnail: https://huggingface.co/spaces/nanotron/ultrascale-playbook/resolve/main/screenshot.png short_description: 在大型 GPU 集群上训练 LLM 的终极指南 --- 查看配置参考…

查看完整页面 · 查看原文