跳到正文
Hugging Face Blog·· 21 小时前精选AI 评分65

TorchNeuron 发布:在 AWS Trainium 上运行 Hugging Face 模型更加轻松

TorchNeuron: running HF models on AWS Trainium is easier than ever

AI 导读

Hugging Face 推出全新原生 PyTorch 后端 TorchNeuron,为 AWS Trainium 芯片提供对 eager 模式、torch.compile 以及分布式 API 的原生支持。

推荐理由

原文介绍了 TorchNeuron 为 AWS Trainium 引入的原生 PyTorch 后端,并给出了文本生成和模型微调的具体代码示例,有助于开发者在 Trainium 芯片上直接运行 Hugging Face 模型。

来源:Hugging Face Blog · huggingface.co