CoolFace
Modelpublic

NullpoLab/Agents-A1-4B-Heretic-ARA-Refusals0

sourceHugging Faceapache-2.0updated 2mo agoView on Hugging Face
0likes21downloads
Model Card

English version: README_en.md

Agents-A1-4B-Heretic-ARA-Refusals0

概要

InternScience/Agents-A1-4B を Heretic v1.2.0 の Arbitrary-Rank Ablation (ARA) 手法を用いて検閲解除したモデルです。

変換に関する注記

現時点では、そのままGGUF化すると読み込みエラーが発生するため、暫定的な回避策としてconfig.jsonの"mtpnumhidden_layers"を0に変更しています。

Abliteration パラメータ

パラメータ値
start_layer_index10
end_layer_index28
preserve_good_behavior_weight0.8484
steer_bad_behavior_weight0.0002
overcorrect_relative_weight1.1303
neighbor_count14

性能

指標このモデル元のモデル ([InternScience/Agents-A1-4B](https://huggingface.co/InternScience/Agents-A1-4B))
拒否率0/10085/100
KL発散0.01160 (定義上)
評価は mlabonne/harmful_behaviors（テスト 100 プロンプト）で拒否率を、mlabonne/harmless_alpaca（テスト 100 プロンプト）で KL 発散を計測しました。

注記

  • —このモデルは研究およびクリエイティブライティング目的を想定しています
  • —拒否率の評価は英語プロンプトのみで実施しています。日本語プロンプトでの動作は異なる場合があります
  • —ベースモデル: InternScience/Agents-A1-4B
  • —Heretic: p-e-w/heretic