bigdefence/Midm-2.0-Mini-Vision-Instruct
07
๐ Midm-2.0-Mini-Vision-Instruct
- Midm-2.0-Mini-Vision-Instruct์ Midm-2.0-Mini-Vision-Instruct์ ํ๊ตญ์ด ์ด๋ฏธ์ง ์ธ์์ ํนํ๋ ๊ณ ์ฑ๋ฅ, ๊ฒฝ๋ Vision-Language Model์ ๋๋ค. K-intelligence/Midm-2.0-Mini-Instruct ๊ธฐ๋ฐ์ผ๋ก ๊ตฌ์ถ๋์ด ํ๊ตญ์ด ํ ์คํธ๊ฐ ํฌํจ๋ ์ด๋ฏธ์ง ์ดํด์ ํ๊ตญ์ด ์๋ต ์์ฑ์ ์ต์ ํ๋์์ต๋๋ค.
- End-to-End LLaVA ๊ตฌ์กฐ๋ฅผ ์ฑํํ์ฌ ์ด๋ฏธ์ง ์ ๋ ฅ๋ถํฐ ํ ์คํธ ์ถ๋ ฅ๊น์ง ํ๋์ ํ์ดํ๋ผ์ธ์์ ์ฒ๋ฆฌํ๋ฉฐ, ์ถ๊ฐ์ ์ธ ์ค๊ฐ ๋ชจ๋ธ ์์ด ์์ฐ์ค๋ฝ๊ฒ ๋ฉํฐ๋ชจ๋ฌ ์ฒ๋ฆฌ๋ฅผ ์ง์ํฉ๋๋ค.

๐ ๋ชจ๋ธ ์ ๊ทผ
- GitHub: bigdefence/midm-vision ๐
- HuggingFace: bigdefence/Midm-2.0-Mini-Vision-Instruct ๐ค
- ๋ชจ๋ธ ํฌ๊ธฐ: 2B ํ๋ผ๋ฏธํฐ ๐
๐ ์ฃผ์ ํน์ง
- ๐ฐ๐ท ํ๊ตญ์ด ํนํ: ํ๊ตญ์ด ์ธ์ด์ ํน์ฑ์ ์ต์ ํ
- โก ๊ฒฝ๋ํ: 2B ํ๋ผ๋ฏธํฐ๋ก ํจ์จ์ ์ธ ์ถ๋ก ์ฑ๋ฅ
- ๐ฏ ๊ณ ์ ํ๋: ๋ค์ํ ํ๊ตญ์ด ํ๊ฒฝ์์ ์ฐ์ํ ์ฑ๋ฅ
- ๐ง ์ค์ฉ์ฑ: ์ค์๊ฐ ์ด๋ฏธ์ง์ง ์ธ์ ์ ํ๋ฆฌ์ผ์ด์ ์ ์ ํฉ
๐ ๋ชจ๋ธ ์ ๋ณด
๐ง ๋ ํฌ์งํ ๋ฆฌ ๋ค์ด๋ก๋ ๋ฐ ํ๊ฒฝ ์ค์
Midm-2.0-Mini-Vision-Instruct์ ์์ํ๋ ค๋ฉด ๋ค์๊ณผ ๊ฐ์ด ๋ ํฌ์งํ ๋ฆฌ๋ฅผ ํด๋ก ํ๊ณ ํ๊ฒฝ์ ์ค์ ํ์ธ์. ๐ ๏ธ
- ๋ ํฌ์งํ ๋ฆฌ ํด๋ก :
git clone https://github.com/bigdefence/midm-vision
cd midm-vision- ์์กด์ฑ ์ค์น:
conda create -n midm-vision python=3.10 -y
conda activate midm-vision
pip install -e .
pip install flash-attn==2.5.2 --no-build-isolation๐ฅ ๋ค์ด๋ก๋ ๋ฐฉ๋ฒ
Huggingface CLI ์ฌ์ฉ:
pip install -U huggingface_hub
huggingface-cli download bigdefence/Midm-Vision --local-dir ./checkpointsSnapshot Download ์ฌ์ฉ:
pip install -U huggingface_hubfrom huggingface_hub import snapshot_download
snapshot_download(
repo_id="bigdefence/Midm-Vision",
local_dir="./checkpoints",
resume_download=True
)Git ์ฌ์ฉ:
git lfs install
git clone https://huggingface.co/bigdefence/midm-vision๐ ๋ก์ปฌ ์ถ๋ก
Midm-Vision์ผ๋ก ์ถ๋ก ์ ์ํํ๋ ค๋ฉด ๋ค์ ๋จ๊ณ๋ฅผ ๋ฐ๋ผ ๋ชจ๋ธ์ ์ค์ ํ๊ณ ๋ก์ปฌ์์ ์คํํ์ธ์. ๐ก
- ๋ชจ๋ธ ์ค๋น:
- HuggingFace์์ Midm-2.0-Mini-Vision-Instruct ๋ค์ด๋ก๋ ๐ฆ
- ์ถ๋ก ์คํ:
- Streaming
python3 infer.py --model-path checkpoints --image-file test.jpg๐ง ํ๋ จ ์ธ๋ถ์ฌํญ
ํ๋ จ ์ค์
- Base Model: K-intelligence/Midm-2.0-Mini-Instruct
- Hardware: 4x NVIDIA RTX 4090 GPU
- Training Time: 10์๊ฐ
๐ ๋ผ์ด์ ์ค
์ด ๋ชจ๋ธ์ Apache 2.0 ๋ผ์ด์ ์ค ํ์ ๋ฐฐํฌ๋ฉ๋๋ค. ์์ ์ ์ฌ์ฉ์ด ๊ฐ๋ฅํ๋ฉฐ, ์์ธํ ๋ด์ฉ์ LICENSE ํ์ผ์ ์ฐธ์กฐํ์ธ์.
๐ ๋ฌธ์์ฌํญ
- ๊ฐ๋ฐ: BigDefence
