Modelpublic

trtd56/LFM2.5-1.2B-JP-DailyTechResearch-Collect-LoRA

sourceHugging Faceotherupdated 21d agoView on Hugging Face

0likes

Model Card

LFM2.5-1.2B-JP Daily Tech Research Collect LoRA

LiquidAI/LFM2.5-1.2B-JPを、技術ニュースの見出しから日本語フィード情報を構造化JSONで生成する用途へQLoRA fine-tuningした実験的なMLX-LMアダプターです。

This is an experimental MLX-LM LoRA adapter for generating structured Japanese feed metadata from technology-news headlines.

Intended use

英語、日本語、中国語などの記事タイトルと、利用できる場合は短いフィード説明を入力し、次のJSONを生成します。

json

{
  "title_ja": "自然な日本語タイトル",
  "summary_ja": "内容を説明する日本語1〜2文",
  "story_key": "同じ出来事をまとめるための短い識別名",
  "genre": "定義済みジャンルのいずれか"
}

学習時に使ったジャンルは次の7種類です。

—🧠 LLM・基盤モデル
—🔬 AI研究・論文
—🛠️ 開発ツール・フレームワーク
—🚀 AI製品・サービス
—💼 ビジネス・産業動向
—🔐 セキュリティ・安全性
—🌐 その他テック

1件ずつ、生成温度0、最大500トークン程度での利用を推奨します。複数記事をまとめたバッチ出力は学習していません。

Use with MLX-LM

bash

pip install mlx-lm huggingface-hub

python

from huggingface_hub import snapshot_download
from mlx_lm import generate, load
from mlx_lm.sample_utils import make_sampler

adapter = snapshot_download(
    "trtd56/LFM2.5-1.2B-JP-DailyTechResearch-Collect-LoRA"
)
model, tokenizer = load(
    "mlx-community/LFM2.5-1.2B-JP-4bit",
    adapter_path=adapter,
)

prompt = """以下のニュース記事に日本語情報を付与してください。

title: A new open-source agent framework is released
summary: The framework coordinates local language models.

title_ja、summary_ja、story_key、genreを持つJSONだけを返してください。
genreは次のいずれかを正確に使ってください:
🧠 LLM・基盤モデル、🔬 AI研究・論文、🛠️ 開発ツール・フレームワーク、
🚀 AI製品・サービス、💼 ビジネス・産業動向、🔐 セキュリティ・安全性、
🌐 その他テック
"""
messages = [{"role": "user", "content": prompt}]
rendered = tokenizer.apply_chat_template(
    messages, add_generation_prompt=True, tokenize=False
)
result = generate(
    model,
    tokenizer,
    prompt=rendered,
    max_tokens=500,
    sampler=make_sampler(temp=0),
    verbose=False,
)
print(result)

本番で使った完全なプロンプトと検証・フォールバック処理はDailyTechResearchで公開しています。

Training

—Framework: MLX-LM 0.31.3, QLoRA
—Quantized training base: mlx-community/LFM2.5-1.2B-JP-4bit
—Train / validation / test: 112 / 24 / 24 samples
—Training input: original article title; feed descriptions were unavailable for the historical samples
—LoRA rank / scale: 8 / 20
—Learning rate: 1e-5
—Effective batch size: 4
—Maximum sequence length: 2,048 tokens
—Selected checkpoint: step 200
—Validation loss: 1.243 before training, 0.964 at step 200, 1.087 at step 300

教師データはDailyTechResearchに保存されていた、別のローカルLLMによる翻訳・短文要約・話題キー・ジャンルです。重複話題を除いて分割しました。元記事、教師データ、URL一覧は公開していません。

Evaluation

未学習24件を、同じ1件用プロンプト、温度0で評価しました。生成時間はApple M3 Max 64GB上で、モデル読込時間を除いています。

Model	Median generation time	Basic output validation
This adapter	0.82 sec	23/24
Teacher model	2.33 sec	23/24

基本検証では、JSONの4項目、日本語タイトル・要約、空でない話題キー、定義済みジャンルを確認しました。この小規模評価は内容の正確性や一般的な翻訳・要約能力を保証するものではありません。

Limitations

—学習サンプルの入力は主に記事タイトルだけです。本文を読んだ要約モデルではありません。
—タイトルだけでは記事内容を確定できないため、もっともらしいが根拠のない説明を生成する場合があります。
—製品名だけのタイトルなどを日本語化せず、そのまま返す場合があります。
—ジャンルや話題キーが教師モデルと一致しない場合があります。
—学習ラベルはすべて人間が校正したものではなく、教師モデルの誤りを引き継ぐ可能性があります。
—JSON Schemaによる厳格なデコードは行っていません。実運用では出力検証とフォールバックを推奨します。

License and attribution

This adapter is distributed under the included LFM Open License v1.0. It is based on LiquidAI/LFM2.5-1.2B-JP and was trained with its MLX conversion mlx-community/LFM2.5-1.2B-JP-4bit. The weights were modified by QLoRA fine-tuning for the feed-enrichment task described above. Review the commercial-use limitation in the license before use.