X.KOJIRA.IO
Timeline
https://arxiv.org/abs/2406.11717
Refusal in Language Models Is Mediated by a Single Direction

大規模言語モデルの拒否挙動は単一方向で制御可能であることを発見しました。
この方向を削除すると拒否がなくなり、追加すると無害な指示も拒否します。
安全対策の脆弱性を示唆し、モデル内部理解の重要性を強調しています。