NVIDIA NEMO增强了与汽车功能的拥抱面部模型集成

NVIDIA NeMo Enhances Hugging Face Model Integration with AutoModel Feature

Rebeca Moen May 13, 2025 07:00

NVIDIA's NeMo Framework introduces AutoModel for seamless integration and enhanced performance of Hugging Face models, enabling rapid experimentation

nvidia通过引入汽车功能,旨在简化拥抱面部模型的集成和微调,从而对其NEMO框架进行了重大增强。这项开发旨在促进第0天对最新模型的支持,使组织能够有效利用最新的ADV根据NVIDIA的官方博客的说法,生成性AI的同类。

Automodel:模型集成的新时代

汽车功能是NEMO框架内的高级接口,使用户能够轻松地从拥抱面孔中轻松地对型号进行微调的预先训练的模型。汽车最初涵盖文本生成和视觉语言模型,计划扩展为视频生成和其他类别。 This feature simplifies the process of model parallelism, enhancing PyTorch performance with JIT compilation, and ensures seamless transition to optimal training and post-training recipes powered by NVIDIA Megatron-Core.

The introduction of AutoModel addresses the challenge of integrating new model architectures into the NeMo framework by providing a straightforward path to harnessing Hugging Face's vast model repository.该功能通过全部损坏的数据并行性2(FSDP2)和分布式数据并行(DDP)支持模型并行性,其中未来的扩展包括ding张量并行性(TP)和上下文并行性(CP)。

有效的训练和可伸缩性

汽车界面可实现对模型并行性和增强Pytorch绩效的开箱即用支持,从而使组织可以有效地扩展其AI解决方案。集成促进了轻松出口到VLLM进行优化的推理,并计划很快引入NVIDIA Tensorrt-LLM出口。这样可以确保组织可以维持高吞吐量和可扩展性,这对于竞争性AI景观至关重要。

汽车模型还为高性能的兆塔核心路径提供了无缝的“选择”,从而使用户可以通过最少的代码修改切换到优化的培训。一致的API确保过渡到最大吞吐量的最大吞吐量的过渡是很简单的。

扩展Nemo的能力

引入汽车是NVIDIA更广泛的策略的一部分,以增强NEMO框架的能力。这功能不仅为文本生成支持AutomoDelforCausAllm类,而且还允许开发人员通过创建子类别扩展对其他任务的支持,从而扩大了AI应用程序的范围。

随着NEMO框架的发布25.02,鼓励开发人员通过Tutiorial Notemodel在NVIDIA的github github github github github github github vithub vithub vishub viships vishipbore探索开发人员。 The community is also invited to provide feedback and contribute to the ongoing development of the AutoModel feature, ensuring its continuous evolution to meet the demands of cutting-edge AI research and development.

As the AI landscape rapidly evolves, NVIDIA's NeMo Framework, with its AutoModel feature, positions itself as a pivotal tool for organizations seeking to maximize the potential of generative AI models.通过促进无缝集成和优化性能,NEMO框架使团队保持在AI创新的最前沿。

图像来源:Shutterstock
Previous Post城镇明星的NFT销售为史诗和传奇物品带来折扣
Next Post没有了