Для чистой Markdown-версии этой страницы добавьте .md к этому URL. Для полного индекса документации см. https://docs.nvidia.com/dynamo/llms.txt. Полное содержимое, включая API reference и примеры SDK, см. в https://docs.nvidia.com/dynamo/llms-full.txt.

Диффузия

Обзор

Dynamo поддерживает обслуживание диффузионных моделей на нескольких бэкендах, позволяя генерировать изображения и видео по текстовым запросам. Бэкенды предоставляют возможности diffusion через ту же инфраструктуру pipeline Dynamo, которая используется для инференса LLM, включая маршрутизацию на фронтенде, масштабирование и наблюдаемость.

Матрица поддержки

Модальность	vLLM-Omni	SGLang	TRT-LLM
Текст-в-текст	❌	✅	❌
Текст-в-изображение	✅	✅	✅
Текст-в-видео	✅	✅	✅
Изображение-в-видео	✅	❌	❌

Статус: ✅ Поддерживается | ❌ Не поддерживается

Документация по бэкендам

Для руководств по развертыванию, конфигурации и примеров по каждому бэкенду:

• vLLM-Omni
• SGLang Diffusion
• TRT-LLM Diffusion
• FastVideo (пользовательский worker)