雷峰网 AIPublication de la source

Pika est basé sur le MiniMax H3 open source H3 Flex, et réalise la génération combinée de sons et de vidéos en six étapes

Récemment, Pika a publié le modèle dérivé MiniMax H3, Pika H3 Flex, et a mis à disposition les codes de poids d’adaptateur et de raisonnement.

Récemment, Pika a publié le modèle dérivé MiniMax H3, Pika H3 Flex, et a mis à disposition les codes de poids d’adaptateur et de raisonnement. Ce modèle génère l’image et le son par une génération conjointe de débruitage en six étapes, et prend en charge des entrées de référence textuelles, de début et de fin de frame, ainsi que multimodales, permettant aux créateurs de concevoir des plans, de générer des références et d’éditer des vidéos.

 

 

Cette version inclut deux sets d’adaptateurs LoRA, utilisés respectivement pour la génération de contenu textuel et de conditions de frames début et fin, ainsi que pour la génération de références multimodales. Elle propose également les composants de base de MiniMax H3 et des outils de raisonnement local. Le modèle prend en charge nativement les sorties en 480P et 768P, permettant la génération de vidéos d’environ 5 à 15 secondes ainsi que d’audio stéréo synchronisé. Pika offre un flux de travail ComfyUI et une intégration via Hugging Face Diffusers, ce qui facilite l’intégration par les développeurs dans leurs outils de création existants.

 

En plus de la génération locale, Pika permet l’amélioration de vidéos en 1080P, 2K et 4K via l’API, ainsi que des fonctionnalités de sous-traitement audio. Les créateurs peuvent d’abord générer et filtrer les versions préliminaires à une résolution plus faible, puis traiter les versions sélectionnées à haute résolution ; les sons générés simultanément peuvent être divisés en cinq pistes indépendantes : dialogues, musique, effets sonores, simulations et environnements, ce qui facilite leur ajustement ultérieur. Les vidéos améliorées à haute résolution et les sous-traités audio sont fournis par le service API de Pika.

 

Pika explique dans son blog technique que l’équipe a d’abord effectué un ajustement superviseur sur MiniMax H3 dans un ensemble de données audio et vidéo interne, puis a utilisé le distilage par matching de distribution de projection (PDMD) pour réduire les compressions de 50 étapes de débruit du modèle enseignant à 6 étapes. Par la suite, l’équipe a entraîné un adaptateur LoRA via l’apprentissage par feedback de récompense et l’optimisation directe des préférences, améliorant ainsi la qualité esthétique, la clarté et le suivi des instructions. Une fois l’adaptateur combiné pour la prédiction, il n’est plus nécessaire d’augmenter le nombre d’étapes de génération.

 

Pika a également accéléré les services de raisonnement gérés. Dans des tests où les poids des modèles et le schéma de sampling à six étapes restent inchangés, l’utilisation de 8 GPU NVIDIA B300 a permis de générer un segment audio-vidéo de 5 secondes en 768P. Le temps total de codage conditionnel, débruitage et décodage est passé de 3,409 secondes à 2,129 secondes, soit environ 1,6 fois plus rapide que la fois précédente.

 

 

En termes de performance visuelle et audio, les résultats des tests comparatifs publiés par Pika montrent que H3 Flex obtient la meilleure note sur cinq indicateurs de qualité visuelle et audio parmi les modèles évalués, et se classe huitième dans le classement de vidéos générées par ordinateur de DesignArena, étant ainsi le modèle de vidéo open source ayant la meilleure position dans ce classement.

 

En août de cette année, après la mise en open source du MiniMax H3, MiniMax et des entreprises partenaires continuent d’entraîner et d’optimiser les modèles en fonction de différents scénarios d’utilisation, et les dévoilent dans la communauté. Parmi ceux-ci : le MiniMax H3 480P créé avec Running Hub ; avec fal, une formation et une optimisation de raisonnement pour génération en temps réel ont été mises en œuvre, ce qui a conduit à l’introduction des H3 Max 768P et H3 Max 480P ; ainsi que FastH3 proposé par FastVideo grâce à la déduplication et l’adaptation matérielle ; des modèles tels que StreamRender-H3 et Open-H3-Regenerate-2K développés conjointement par NVIDIA et MIT autour du H3, etc., avec des développeurs étrangers. H3Modèle dérivé a mis en place des approches innovantes telles que les streaming sur Twitch, une « télévision IA » en continu de 24 heures et des logiciels de streaming vidéo courte en IA.

 

H3 Le nombre de téléchargements en un mois est déjà dépassé par 24 millions, et plus de 300 modèles dérivés publics ont été créés, faisant de celui-ci l’un des modèles ayant le plus de téléchargements mondiaux en 2026.

Source originale

雷峰网 AI

À propos du contenu

La publication originale et les droits appartiennent à la source.

Traduction automatique · Consultez l’original