Modelpublic

alibaba-pai/Wan2.2-Fun-A14B-Control-Camera

sourceHugging Faceapache-2.0updated 10mo agoView on Hugging Face

45likes1.9kdownloads

Model Card

Wan-Fun

😊 Welcome!

![Hugging Face Spaces](https://huggingface.co/spaces/alibaba-pai/Wan2.1-Fun-1.3B-InP)

![Github](https://github.com/aigc-apps/VideoX-Fun)

English | 简体中文

模型地址

名称	存储空间	Hugging Face	Model Scope	描述
Wan2.2-Fun-A14B-InP	64.0 GB	🤗Link	😄Link	Wan2.2-Fun-14B文图生视频权重，以多分辨率训练，支持首尾图预测。
Wan2.2-Fun-A14B-Control	64.0 GB	🤗Link	😄Link	Wan2.2-Fun-14B视频控制权重，支持不同的控制条件，如Canny、Depth、Pose、MLSD等，同时支持使用轨迹控制。支持多分辨率（512，768，1024）的视频预测，支持多分辨率（512，768，1024）的视频预测，以81帧、每秒16帧进行训练，支持多语言预测
Wan2.2-Fun-A14B-Control-Camera	64.0 GB	🤗Link	😄Link	Wan2.2-Fun-14B相机镜头控制权重。支持多分辨率（512，768，1024）的视频预测，支持多分辨率（512，768，1024）的视频预测，以81帧、每秒16帧进行训练，支持多语言预测

视频作品

Wan2.2-Fun-A14B-InP

Wan2.2-Fun-A14B-Control

Generic Control Video + Reference Image: <table border="0" style="width: 100%; text-align: left; margin-top: 20px;"> <tr> <td> Reference Image </td> <td> Control Video </td> <td> Wan2.2-Fun-14B-Control </td> <tr> <td> <image src="https://pai-aigc-photog.oss-cn-hangzhou.aliyuncs.com/wanfun/assetWan22/v1.0/8.png" width="100%" controls autoplay loop></image> </td> <td> <video src="https://pai-aigc-photog.oss-cn-hangzhou.aliyuncs.com/wanfun/assetWan22/v1.0/pose.mp4" width="100%" controls autoplay loop></video> </td> <td> <video src="https://pai-aigc-photog.oss-cn-hangzhou.aliyuncs.com/wanfun/assetWan22/v1.0/14bref.mp4" width="100%" controls autoplay loop></video> </td> <tr> </table>

Generic Control Video (Canny, Pose, Depth, etc.) and Trajectory Control: <table border="0" style="width: 100%; text-align: left; margin-top: 20px;"> <tr> <td> <video src="https://pai-aigc-photog.oss-cn-hangzhou.aliyuncs.com/wanfun/assetWan22/v1.0/guiji.mp4" width="100%" controls autoplay loop></video> </td> <td> <video src="https://pai-aigc-photog.oss-cn-hangzhou.aliyuncs.com/wanfun/assetWan22/v1.0/guiji_out.mp4" width="100%" controls autoplay loop></video> </td> <tr> </table>

Wan2.2-Fun-A14B-Control-Camera

<table border="0" style="width: 100%; text-align: left; margin-top: 20px;"> <tr> <td> Pan Up </td> <td> Pan Left </td> <td> Pan Right </td> <td> Zoom In </td> <tr> <td> <video src="https://pai-aigc-photog.oss-cn-hangzhou.aliyuncs.com/wanfun/assetWan22/v1.0/PanUp.mp4" width="100%" controls autoplay loop></video> </td> <td> <video src="https://pai-aigc-photog.oss-cn-hangzhou.aliyuncs.com/wanfun/assetWan22/v1.0/PanLeft.mp4" width="100%" controls autoplay loop></video> </td> <td> <video src="https://pai-aigc-photog.oss-cn-hangzhou.aliyuncs.com/wanfun/assetWan22/v1.0/PanRight.mp4" width="100%" controls autoplay loop></video> </td> <td> <video src="https://pai-aigc-photog.oss-cn-hangzhou.aliyuncs.com/wanfun/assetWan22/v1.0/ZoomIn.mp4" width="100%" controls autoplay loop></video> </td> <tr> <td> Pan Down </td> <td> Pan Up + Pan Left </td> <td> Pan Up + Pan Right </td> <td> Zoom Out </td> <tr> <td> <video src="https://pai-aigc-photog.oss-cn-hangzhou.aliyuncs.com/wanfun/assetWan22/v1.0/PanDown.mp4" width="100%" controls autoplay loop></video> </td> <td> <video src="https://pai-aigc-photog.oss-cn-hangzhou.aliyuncs.com/wanfun/assetWan22/v1.0/PanUL.mp4" width="100%" controls autoplay loop></video> </td> <td> <video src="https://pai-aigc-photog.oss-cn-hangzhou.aliyuncs.com/wanfun/assetWan22/v1.0/PanUR.mp4" width="100%" controls autoplay loop></video> </td> <td> <video src="https://pai-aigc-photog.oss-cn-hangzhou.aliyuncs.com/wanfun/assetWan22/v1.0/ZoomOut.mp4" width="100%" controls autoplay loop></video> </td> </tr> </table>

快速启动

1. 云使用: AliyunDSW/Docker

a. 通过阿里云 DSW

DSW 有免费 GPU 时间，用户可申请一次，申请后3个月内有效。

阿里云在Freetier提供免费GPU时间，获取并在阿里云PAI-DSW中使用，5分钟内即可启动CogVideoX-Fun。

![DSW Notebook](https://gallery.pai-ml.com/#/preview/deepLearning/cv/cogvideox_fun)

b. 通过ComfyUI

我们的ComfyUI界面如下，具体查看ComfyUI README。 workflow graph

c. 通过docker

使用docker的情况下，请保证机器中已经正确安装显卡驱动与CUDA环境，然后以此执行以下命令：

# pull image
docker pull mybigpai-public-registry.cn-beijing.cr.aliyuncs.com/easycv/torch_cuda:cogvideox_fun

# enter image
docker run -it -p 7860:7860 --network host --gpus all --security-opt seccomp:unconfined --shm-size 200g mybigpai-public-registry.cn-beijing.cr.aliyuncs.com/easycv/torch_cuda:cogvideox_fun

# clone code
git clone https://github.com/aigc-apps/VideoX-Fun.git

# enter VideoX-Fun's dir
cd VideoX-Fun

# download weights
mkdir models/Diffusion_Transformer
mkdir models/Personalized_Model

# Please use the hugginface link or modelscope link to download the model.
# CogVideoX-Fun
# https://huggingface.co/alibaba-pai/CogVideoX-Fun-V1.1-5b-InP
# https://modelscope.cn/models/PAI/CogVideoX-Fun-V1.1-5b-InP

# Wan
# https://huggingface.co/alibaba-pai/Wan2.1-Fun-V1.1-14B-InP
# https://modelscope.cn/models/PAI/Wan2.1-Fun-V1.1-14B-InP
# https://huggingface.co/alibaba-pai/Wan2.2-Fun-A14B-InP
# https://modelscope.cn/models/PAI/Wan2.2-Fun-A14B-InP

2. 本地安装: 环境检查/下载/安装

a. 环境检查

我们已验证该库可在以下环境中执行：

Windows 的详细信息：

—操作系统 Windows 10
—python: python3.10 & python3.11
—pytorch: torch2.2.0
—CUDA: 11.8 & 12.1
—CUDNN: 8+
—GPU： Nvidia-3060 12G & Nvidia-3090 24G

Linux 的详细信息：

—操作系统 Ubuntu 20.04, CentOS
—python: python3.10 & python3.11
—pytorch: torch2.2.0
—CUDA: 11.8 & 12.1
—CUDNN: 8+
—GPU：Nvidia-V100 16G & Nvidia-A10 24G & Nvidia-A100 40G & Nvidia-A100 80G

我们需要大约 60GB 的可用磁盘空间，请检查！

b. 权重放置

我们最好将权重按照指定路径进行放置：

通过comfyui：将模型放入Comfyui的权重文件夹ComfyUI/models/Fun_Models/：

📦 ComfyUI/
├── 📂 models/
│   └── 📂 Fun_Models/
│       ├── 📂 CogVideoX-Fun-V1.1-2b-InP/
│       ├── 📂 CogVideoX-Fun-V1.1-5b-InP/
│       ├── 📂 Wan2.1-Fun-V1.1-14B-InP
│       └── 📂 Wan2.1-Fun-V1.1-1.3B-InP/

运行自身的python文件或ui界面:

📦 models/
├── 📂 Diffusion_Transformer/
│   ├── 📂 CogVideoX-Fun-V1.1-2b-InP/
│   ├── 📂 CogVideoX-Fun-V1.1-5b-InP/
│   ├── 📂 Wan2.1-Fun-V1.1-14B-InP
│   └── 📂 Wan2.1-Fun-V1.1-1.3B-InP/
├── 📂 Personalized_Model/
│   └── your trained trainformer model / your trained lora model (for UI load)

如何使用

a、显存节省方案

由于Wan2.2的参数非常大，我们需要考虑显存节省方案，以节省显存适应消费级显卡。我们给每个预测文件都提供了GPUmemorymode，可以在modelcpuoffload，modelcpuoffloadandqfloat8，sequentialcpuoffload中进行选择。该方案同样适用于CogVideoX-Fun的生成。

—modelcpuoffload代表整个模型在使用后会进入cpu，可以节省部分显存。
—modelcpuoffloadandqfloat8代表整个模型在使用后会进入cpu，并且对transformer模型进行了float8的量化，可以节省更多的显存。
—sequentialcpuoffload代表模型的每一层在使用后会进入cpu，速度较慢，节省大量显存。

qfloat8会部分降低模型的性能，但可以节省更多的显存。如果显存足够，推荐使用modelcpuoffload。

b、通过comfyui

具体查看ComfyUI README。

c、运行python文件

—步骤1：下载对应权重放入models文件夹。
—步骤2：根据不同的权重与预测目标使用不同的文件进行预测。当前该库支持CogVideoX-Fun、Wan2.1、Wan2.1-Fun、Wan2.2，在examples文件夹下用文件夹名以区分，不同模型支持的功能不同，请视具体情况予以区分。以CogVideoX-Fun为例。
—文生视频：
—使用examples/cogvideoxfun/predictt2v.py文件中修改prompt、negprompt、guidancescale和seed。
—而后运行examples/cogvideoxfun/predictt2v.py文件，等待生成结果，结果保存在samples/cogvideox-fun-videos文件夹中。
—图生视频：
—使用examples/cogvideoxfun/predicti2v.py文件中修改validationimagestart、validationimageend、prompt、negprompt、guidancescale和seed。
—validationimagestart是视频的开始图片，validationimageend是视频的结尾图片。
—而后运行examples/cogvideoxfun/predicti2v.py文件，等待生成结果，结果保存在samples/cogvideox-fun-videos_i2v文件夹中。
—视频生视频：
—使用examples/cogvideoxfun/predictv2v.py文件中修改validationvideo、validationimageend、prompt、negprompt、guidance_scale和seed。
—validationvideo是视频生视频的参考视频。您可以使用以下视频运行演示：[演示视频](https://pai-aigc-photog.oss-cn-hangzhou.aliyuncs.com/cogvideoxfun/asset/v1/play_guitar.mp4)
—而后运行examples/cogvideoxfun/predictv2v.py文件，等待生成结果，结果保存在samples/cogvideox-fun-videos_v2v文件夹中。
—普通控制生视频（Canny、Pose、Depth等）：
—使用examples/cogvideoxfun/predictv2vcontrol.py文件中修改controlvideo、validationimageend、prompt、negprompt、guidancescale和seed。
—controlvideo是控制生视频的控制视频，是使用Canny、Pose、Depth等算子提取后的视频。您可以使用以下视频运行演示：[演示视频](https://pai-aigc-photog.oss-cn-hangzhou.aliyuncs.com/cogvideoxfun/asset/v1.1/pose.mp4)
—而后运行examples/cogvideoxfun/predictv2vcontrol.py文件，等待生成结果，结果保存在samples/cogvideox-fun-videosv2v_control文件夹中。
—步骤3：如果想结合自己训练的其他backbone与Lora，则看情况修改examples/{modelname}/predictt2v.py中的examples/{modelname}/predicti2v.py和lora_path。

d、通过ui界面

webui支持文生视频、图生视频、视频生视频和普通控制生视频（Canny、Pose、Depth等）。在examples文件夹下用文件夹名以区分，不同模型支持的功能不同，请视具体情况予以区分。以CogVideoX-Fun为例。

—步骤1：下载对应权重放入models文件夹。
—步骤2：运行examples/cogvideox_fun/app.py文件，进入gradio页面。
—步骤3：根据页面选择生成模型，填入prompt、negprompt、guidancescale和seed等，点击生成，等待生成结果，结果保存在sample文件夹中。

参考文献

—CogVideo: https://github.com/THUDM/CogVideo/
—EasyAnimate: https://github.com/aigc-apps/EasyAnimate
—Wan2.1: https://github.com/Wan-Video/Wan2.1/
—Wan2.1: https://github.com/Wan-Video/Wan2.2/
—ComfyUI-KJNodes: https://github.com/kijai/ComfyUI-KJNodes
—ComfyUI-EasyAnimateWrapper: https://github.com/kijai/ComfyUI-EasyAnimateWrapper
—ComfyUI-CameraCtrl-Wrapper: https://github.com/chaojie/ComfyUI-CameraCtrl-Wrapper
—CameraCtrl: https://github.com/hehao13/CameraCtrl

许可证

本项目采用 Apache License (Version 2.0).