Tool Trust Tiers в 2026: почему не все инструменты и их результаты должны считаться одинаково надёжными

Короткая версия

Хорошая trust-tier model в 2026 обычно определяет:

1. Какие tools считаются canonical
2. Какие outputs допускаются только как hint
3. Какие tiers можно использовать для action
4. Как trust tier меняется в degraded mode
5. Как tier доезжает до policy engine и reviewer

Что особенно важно

• trust tier должен отражать не только tool identity, но и execution conditions;
• один и тот же tool может давать разный trust при разном пути исполнения;
• action policy должна смотреть на trust tier явно;
• без tier model provenance остаётся мало полезной.

Почему агенту полезно знать trust tier tool result?

1. Tier model нужен для runtime decisions

Обычно полезно различать:

• canonical action-support;
• review-support;
• informational;
• hint-only;
• degraded fallback.

Так policy engine может принимать решения по качеству сигнала, а не по самому факту наличия value.

2. Trust зависит не только от tool, но и от режима работы

Например:

• canonical API в normal mode;
• тот же API через stale cache;
• тот же API с partial timeout recovery;
• browser fallback вместо API.

Идентичное поле в ответе не означает идентичный уровень доверия.

3. Tier model должен влиять на allowed outcomes

Полезные правила:

• action-support tier можно использовать для auto-action;
• review-support tier можно использовать в packet, но не для direct action;
• hint-only tier допускается только для exploration;
• degraded tier должен триггерить review или fallback.

Это лучше, чем общий "tool succeeded = signal usable".

4. Tier model нужно связать с provenance

Иначе система знает source, но не понимает, как его интерпретировать.

Вместе provenance и trust tier позволяют ответить:

• откуда сигнал;
• насколько он свеж;
• можно ли на него действовать;
• что делать, если tier недостаточен.

5. Что особенно часто ломают команды

Binary trust model

Только "успех/ошибка" без промежуточных уровней.

Tool identity equals trust

Один и тот же tool считается одинаково надёжным во всех режимах.

No policy integration

Tier существует, но ни на что не влияет.

Hint escalates into fact

Слабый сигнал случайно попадает в action layer.

Reviewer cannot see trust

Человек получает output без указания, насколько система ему верит.

6. Какие метрики полезны

Полезно считать:

• action attempts by trust tier;
• degraded-tier outputs consumed downstream;
• trust-tier downgrades by tool;
• review packets containing low-tier evidence;
• incidents caused by over-trusting weak tools;
• distribution of tiers by workflow.

Пример trust tiers

trust_tiers:
  action_support:
    allowed_for: [auto_action, review]
  review_support:
    allowed_for: [review]
  hint_only:
    allowed_for: [exploration]

Простой gate

def can_auto_act(result):
    return result["trust_tier"] == "action_support"

Практический совет: зрелая tool architecture различает не только "какой инструмент вызвали", но и "насколько сильный сигнал этот вызов реально дал в текущем контексте".