CoolFace
Modelpublic

NullpoLab/Agents-A1-4B-Heretic-ARA-Refusals7

sourceHugging Faceapache-2.0updated 2mo agoView on Hugging Face
0likes16downloads
Model Card

English version: README_en.md

Agents-A1-4B-Heretic-ARA-Refusals7

概要

InternScience/Agents-A1-4B を Heretic v1.2.0 の Arbitrary-Rank Ablation (ARA) 手法を用いて検閲解除したモデルです。

変換に関する注記

現時点では、そのままGGUF化すると読み込みエラーが発生するため、暫定的な回避策としてconfig.jsonの"mtpnumhidden_layers"を0に変更しています。

Abliteration パラメータ

パラメータ値
start_layer_index13
end_layer_index25
preserve_good_behavior_weight0.8630
steer_bad_behavior_weight0.0001
overcorrect_relative_weight1.1907
neighbor_count15

性能

指標このモデル元のモデル ([InternScience/Agents-A1-4B](https://huggingface.co/InternScience/Agents-A1-4B))
拒否率7/10085/100
KL発散0.00300 (定義上)
評価は mlabonne/harmful_behaviors（テスト 100 プロンプト）で拒否率を、mlabonne/harmless_alpaca（テスト 100 プロンプト）で KL 発散を計測しました。

注記

  • —このモデルは研究およびクリエイティブライティング目的を想定しています
  • —拒否率の評価は英語プロンプトのみで実施しています。日本語プロンプトでの動作は異なる場合があります
  • —ベースモデル: InternScience/Agents-A1-4B
  • —Heretic: p-e-w/heretic