AdvBench

Коротко

AdvBench полезен, когда:

• нужен стандартный jailbreak baseline;
• важно сравнить ASR разных атак;
• вы оцениваете базовую refusal robustness;
• нужна отправная точка до более сложных safety evals.

Проверь устойчивость aligned model на наборе harmful instructions и измерь, как часто атаки обходят защиту.

Это техника про baseline jailbreak evaluation.

Чем AdvBench полезен

AdvBench ценен не глубиной, а стандартизацией. Он помогает:

• считать attack success rate на общем наборе;
• сравнивать модели в одном threat model;
• видеть regressions после safety tuning;
• быстро валидировать новые defenses.

Это делает его удобным первым барьером для red-teaming.

Когда техника особенно полезна

AdvBench хорошо подходит для:

• early-stage safety evaluation;
• attack-vs-defense comparison;
• reproducible jailbreak baselines;
• regression testing после alignment changes.

Если нужен более реалистичный или разнообразный red-teaming suite, одного AdvBench мало.

Где AdvBench действительно полезен

Лучше всего относиться к AdvBench как к минимальному adversarial gate. Если защита не держится даже на этом базовом наборе harmful behaviors, обсуждать тонкие claims про robust refusal или in-the-wild robustness пока рано.

Практически это полезно в двух сценариях:

• быстрый smoke test после очередного safety tuning;
• воспроизводимое сравнение новой атаки с уже известными jailbreak baselines;
• ранняя проверка, не сломала ли оптимизация явные refusal behaviors.

То есть AdvBench не столько отвечает на вопрос "безопасна ли модель", сколько помогает быстро понять, проходит ли она базовый порог adversarial competence.

Ограничения

AdvBench прост, а значит и ограничен:

• набор harmful behaviors конечен;
• benchmark быстро становится familiar для community;
• он слабо покрывает multi-turn attacks;
• высокий результат не гарантирует robustness against novel jailbreaks.
• attack success rate сильно зависит от judge protocol и того, что именно считается harmful completion;
• оптимизация под известный набор может улучшать benchmark score быстрее, чем реальную robustness.

Поэтому AdvBench лучше использовать как baseline, а не как потолок safety evaluation.

Почему техника актуальна в 2026

Даже на фоне новых сложных benchmark-ов командам всё равно нужен быстрый и узнаваемый jailbreak checkpoint. AdvBench остаётся полезен именно в этой роли: простой, понятный и удобный для воспроизводимого сравнения.

Это делает его практичным минимальным safety gate в benchmark stack.

Техническая реализация

const results = await runJailbreakSuite(model, advBenchPrompts)
const asr = computeAttackSuccessRate(results)

Практический совет: отдельно храните raw completions и judged labels. Иначе при спорных кейсах вы не поймёте, проблема в модели, атаке или в автоматическом scoring.

Полезно также сравнивать direct harmful prompts и transformed jailbreak variants по одним и тем же behavior categories. Это быстро показывает, где уязвимость идёт от общей refusal weakness, а где именно от prompt-level bypass.