CoolFace
Modelpublic

GreenNode/GreenMind-Medium-14B-R1

sourceHugging Facemitupdated 1y agoView on Hugging Face
8likes35downloads
Model Card

GreenMind-Medium-14B-R1

We release GreenMind-Medium-14B-R1, a medium-sized Vietnamese language model capable of effectively addressing questions that require intermediate-level reasoning, such as general knowledge, mathematics, natural science and social science topics. By leveraging the Group Relative Policy Optimization strategy for fine-tuning, we guide the model to generate logically coherent responses.

Model Description

  • —Model Type: Causal Language Models
  • —Base Model: Qwen/Qwen2.5-14B-Instruct
  • —Parameters: 14.7B
  • —Context Length: Full 131,072 tokens and generation 8192 tokens
  • —Language: Vietnamese

Quickstart

Here provides a code snippet with apply_chat_template to show you how to load the tokenizer and model and how to generate contents.

python
from transformers import AutoModelForCausalLM, AutoTokenizer

model_name = "GreenNode/GreenMind-Medium-14B-R1"

model = AutoModelForCausalLM.from_pretrained(
	model_name,
	torch_dtype="auto",
	device_map="auto"
)

tokenizer = AutoTokenizer.from_pretrained(
	model_name,
	revision='main',
	trust_remote_code=False,
)
prompt = r"""Vừa gà vừa chó
Bó lại cho tròn
Ba mươi sáu con
Một trăm chân chẵn
Hỏi có bao nhiêu con gà, bao nhiêu con chó?"""

messages = [
	{
	"role": "system",
	"content": "Bạn là một trợ lý ảo hữu ích trong việc trả lời câu hỏi. Hãy suy luận từng bước, và đưa ra đáp án trong thẻ <answer> </answer>."
	},
	{
	"role": "user",
	"content": f"{prompt} Hãy suy luận từng bước trong thẻ <think> </think>. Và trả về đáp án trong thẻ <answer> </answer>."
	},
	{
	"role": "assistant",
	"content": "Hãy để tôi giải quyết từng bước.\n<think>"
	}
]

text = tokenizer.apply_chat_template(
	messages, 
	tokenize=False, 
	continue_final_message=True)

model_inputs = tokenizer([text], return_tensors="pt").to(model.device)

generated_ids = model.generate(
    **model_inputs,
    max_new_tokens=1024
)

generated_ids = [
output_ids[len(input_ids):] for input_ids, output_ids in zip(model_inputs.input_ids, generated_ids)
]

response = tokenizer.batch_decode(generated_ids, skip_special_tokens=True)[0]
print(response)
# Đầu tiên, chúng ta cần thiết lập hai phương trình dựa trên thông tin đề bài:
# 1. Tổng số con gà và chó là 36: x + y = 36
# 2. Tổng số chân là 100: 2x + 4y = 100
# Trong đó, x là số con gà và y là số con chó.
# Tiếp theo, chúng ta giải hệ phương trình này:
# Từ phương trình thứ nhất, ta có: x = 36 - y
# Thay vào phương trình thứ hai: 2(36 - y) + 4y = 100
# => 72 - 2y + 4y = 100
# => 2y = 28
# => y = 14 (số con chó)
# Thay y = 14 vào phương trình x + y = 36:
# => x = 36 - 14 = 22 (số con gà)
# Vậy, có 22 con gà và 14 con chó.
# </think>
# <answer>Có 22 con gà và 14 con chó.</answer>

Evaluation

Table 1. SeaExam Dataset. GreenMind-Medium-14B-R1 compared to base model and some models with larger size. | Model | SeaExam-ID | SeaExam-TH | SeaExam-VI | Avg | |----------------------------------|----------------|----------------|----------------|----------| | Meta-Llama-3.1-70B-Instruct | 65.8 | 70.6 | 72.6 | 69.7 | | gemma3-27b-it | 64.4 | 67.5 | 73.1 | 68.4 | | Qwen2.5-14B-Instruct | 67.6 | 68.8 | 73.1 | 69.8 | | GreenMind-Medium-14B-R1 | 74.36 | 69.75 | 74.44 | 72.79 |

Table 2. VLSP 2023 Challenge: The performance of our model outperforms most SOTA models.

**Model****ComprehensionQA-vi ↑****Exams-vi ↑****LAMBADA-vi ↓****WikiQA-vi ↑****MMLU-vi ↑**
cpt-smartbot-13b0.66330.347321.98640.44550.414
ura-llama-13b0.65560.34217.56140.4380.3973
greennode-7b (prior work)0.61220.2892189.77820.33350.387
greennode-14b (prior work)0.67110.367229.59670.4680.5281
GreenMind-Medium-14B-R1 (Ours)0.86890.779610.76090.79150.7124

Table 3. VMLU Dataset. The performance compared to fine-tuned models.

**Model****Access****STEM****Social Science****Humanities****Others****Avg**
VNPTAI.IO-Medium-R1Private77.0982.378.8569.9877.43
MISA-Llama3-v1.1Private77.580.7576.6271.676.87
BnK-AI-Medium-v2Private80.9480.7670.774.0676.66
VNPTAI.IO-Large-v4Private78.0579.0575.3970.3776.21
GreenNode-xMedium-v1Private75.781.0975.2569.3375.5
GreenMind-Medium-14B-R1 (Ours)Weight76.7877.3672.3269.0374.29
CakebyVPBank-LargePrivate77.7578.1170.3867.8273.99
DeepSeek-R1-Distill-Llama-70BWeight76.7776.2367.9866.8272.41

Follow us

https://x.com/greennode23

Support

https://discord.gg/B6MJFM3J3a

License

This repository and the model weights are licensed under the MIT License.

Citation

If you find our work helpful, feel free to give us a cite.

@misc{tung2025greenmindnextgenerationvietnameselarge,
      title={GreenMind: A Next-Generation Vietnamese Large Language Model for Structured and Logical Reasoning}, 
      author={Luu Quy Tung and Hoang Quoc Viet and Pham Bao Loc and Vo Trong Thu},
      year={2025},
      eprint={2504.16832},
      archivePrefix={arXiv},
      primaryClass={cs.CL},
      url={https://arxiv.org/abs/2504.16832}, 
}

Contact Us

  • —General & Collaboration: tung.vu@greennode.ai, thuvt@greennode.ai, locpb@greennode.ai
  • —Technical: viethq5@greennode.ai