Hugging Face Blog·· 21 小时前精选AI 评分65
TorchNeuron 发布:在 AWS Trainium 上运行 Hugging Face 模型更加轻松
TorchNeuron: running HF models on AWS Trainium is easier than ever
AI 导读
Hugging Face 推出全新原生 PyTorch 后端 TorchNeuron,为 AWS Trainium 芯片提供对 eager 模式、torch.compile 以及分布式 API 的原生支持。
推荐理由
原文介绍了 TorchNeuron 为 AWS Trainium 引入的原生 PyTorch 后端,并给出了文本生成和模型微调的具体代码示例,有助于开发者在 Trainium 芯片上直接运行 Hugging Face 模型。
来源:Hugging Face Blog · huggingface.co