aixsatoshi/Meta-Llama-3.1-8B-Instruct-plus-Swallow

Swallow-8Bは追加の日本語継続事前学習により日本語が大変流暢なLlama-3派生モデルです。 このBranchとLlama3との差分ベクトルを、アップグレードされた新しいMeta Llama-3.1-8B-Instructに移植しました。

Meta-Llama-3.1-8B-Instruct + 0.7*(tokyotech-llm/llama-3-Swallow-8b - meta-llama/Meta-Llama-3-8B)

詳細はLlama-3-Swallow-8bをご確認ください。