Chain-of-Symbol (CoS)

Суть в двух словах

Chain-of-Symbol заменяет многословные текстовые описания пространственных отношений символами. LLM плохо справляются с фразами вроде «кирпич A находится левее кирпича B» — теряются в длинных предложениях, путают направления. Но если ту же информацию представить как A / B (A слева от B), модель обрабатывает её точнее.

Ключевая идея: пространственные задачи сложны для LLM не потому, что модели не умеют рассуждать, а потому, что естественный язык — неэффективный формат для описания пространства. Символы — формат, который ближе к реальной структуре.

Почему LLM плохо решают пространственные задачи

Large Language Models обучаются на тексте — последовательности токенов. Пространственные отношения (лево-право, верх-низ, перед-за) кодируются в тексте неэффективно: одна и та же конфигурация может быть описана десятками способов, фразы многословны, а при росте числа объектов описания становятся запутанными.

Исследование Hu et al. (2023) выявило три причины ошибок:

1. Многословность — текстовое описание сетки 3x3 занимает 5-10 предложений, а символьное — 3 строки
2. Неоднозначность — «кирпич D стоит на стыке A и B» можно интерпретировать по-разному
3. Потеря контекста — при длинных описаниях модель забывает ранние факты (attention degradation)

Типы задач, где CoS эффективен

Brick Wall (кирпичная стена)

Классическая задача из статьи: определить пространственные отношения между кирпичами в стене. Кирпичи расположены рядами, верхние стоят на стыках нижних.

Spatial Grid (пространственная сетка)

Объекты расположены в 2D-сетке. Нужно ответить на вопросы: «Что находится к северу от X?», «Сколько объектов между A и B?».

Navigation (маршрут)

Последовательность поворотов и движений. Нужно определить конечную позицию или направление.

Как применять Chain-of-Symbol

Примеры

Кирпичная стена

Ниже — символьное представление кирпичной стены. Каждая буква — кирпич, _ — пустое место.

Ряд 4: _ _ H _ _
Ряд 3: _ F _ G _
Ряд 2: C _ D _ E
Ряд 1: A _ B _ _

Правило: верхний кирпич опирается на два нижних, стоящих по бокам от него.

Вопрос: на какие кирпичи непосредственно опирается H?

Рассуждай через символьное представление.

Пространственная сетка

Объекты расположены в сетке 4x4. Символьная карта:

     C1  C2  C3  C4
R1 [  .   .   K   . ]
R2 [  M   .   .   . ]
R3 [  .   .   .   S ]
R4 [  .   T   .   . ]

K = книжный шкаф, M = монитор, S = стул, T = стол
. = пусто

Вопросы:
1. Что находится в двух клетках к югу от K?
2. Какой объект ближе всего к T?
3. В каком направлении от S находится M?

Маршрут

Робот стартует в точке (0, 0), лицом на север.

Маршрут в символьной нотации:
↑3 →2 ↑1 ←4 ↓2 →1

Обозначения: ↑ = вперёд (север), → = вправо (восток), ↓ = назад (юг), ← = влево (запад). Число = количество клеток.

Вопросы:
1. Финальная координата?
2. Manhattan-расстояние от старта?
3. На какой шаге робот оказался дальше всего от старта?

Эффективность CoS vs CoT

Данные основаны на экспериментах Hu et al. (2023). Наибольший прирост наблюдается на задачах Brick Wall (+42 п.п.) — именно в них текстовые описания наиболее многословны и запутаны. На задачах Navigation прирост тоже значителен (+38 п.п.), хотя базовый уровень CoT выше благодаря более последовательной структуре маршрутных описаний.

Как понимать Chain-of-Symbol в 2026

Сильная сторона CoS не в том, что модель внезапно начинает “лучше рассуждать”, а в том, что задача перестаёт быть плохо представленной. Многие ошибки LLM на spatial, diagram и layout-задачах возникают не из-за отсутствия reasoning capability, а из-за неудачной упаковки отношений в длинный текст.

Поэтому CoS сегодня логично ставить рядом с:

• table prompting
• diagram-style representations
• graph encodings
• structured inputs для planning и routing

Во всех этих случаях основная оптимизация идёт через форму представления, а не через более длинную цепочку мыслей.

Где техника реально полезна

На практике CoS хорошо окупается в четырёх типах задач:

• spatial QA и navigation
• layout-aware review: UI, wireframes, dashboards, seating, storage maps
• иерархии и графы, которые в текстовом описании быстро становятся нечитаемыми
• agent workflows, где модель должна держать рабочую схему мира в компактном виде

Если у вас есть возможность превратить проблему в матрицу, ASCII-схему, координаты, adjacency list или короткую символическую запись, это часто даёт больший прирост, чем ещё один reasoning wrapper.

Практические границы CoS

При этом CoS легко переоценить:

1. Символы помогают только если они действительно сохраняют отношения, а не теряют детали.
2. Плохая или нестабильная нотация делает задачу ещё хуже, чем текст.
3. Техника не заменяет retrieval, tool use и формальную проверку там, где нужна точность сверх представления.

Хорошее практическое правило: используйте CoS, когда человек сам инстинктивно хочет “нарисовать схему на салфетке”. Если же задачу естественнее решать таблицей, кодом или обычным текстом, forcing symbolic format пользы не даст.

Создание символьных представлений

Принципы кодирования

Эффективное символьное представление следует трём правилам:

1. Изоморфность — символьная структура должна сохранять все отношения из текста. Потеря информации при конвертации = потеря точности
2. Компактность — чем короче представление, тем лучше. Сетка 5x5 в символах — 5 строк по 5 символов, а в тексте — 25+ предложений
3. Читаемость — символы должны быть интуитивны. / для «слева от» менее очевидно, чем ASCII-сетка. Добавляйте легенду

Справочник нотаций

Автоматическая конвертация текста в символы

from openai import OpenAI

client = OpenAI()


def text_to_symbols(
    spatial_description: str,
) -> str:
    """
    Конвертирует текстовое описание
    пространственной структуры в символьное
    представление через LLM.
    """
    response = client.chat.completions.create(
        model="gpt-4o",
        messages=[
            {
                "role": "system",
                "content": (
                    "Ты конвертируешь текстовые описания "
                    "пространственных структур в компактные "
                    "символьные представления.\n\n"
                    "Правила:\n"
                    "1. Используй ASCII-сетку для 2D\n"
                    "2. Буквы/слова для объектов, "
                    ". для пустых мест\n"
                    "3. Стрелки для направлений\n"
                    "4. Добавь легенду, если неочевидно\n"
                    "5. Сохрани ВСЕ отношения из текста\n"
                    "6. Выведи ТОЛЬКО символьное "
                    "представление, без пояснений"
                ),
            },
            {
                "role": "user",
                "content": spatial_description,
            },
        ],
        temperature=0,
    )
    return response.choices[0].message.content


def solve_spatial_with_cos(
    task: str,
    question: str,
) -> str:
    """
    Chain-of-Symbol: конвертация + решение.
    1. Конвертируем текст в символы
    2. Решаем задачу по символьному
       представлению
    """
    # Шаг 1: конвертация
    symbols = text_to_symbols(task)

    # Шаг 2: решение
    response = client.chat.completions.create(
        model="gpt-4o",
        messages=[
            {
                "role": "system",
                "content": (
                    "Решай пространственные задачи, "
                    "используя символьное представление. "
                    "Рассуждай по символам, не переводи "
                    "обратно в текст."
                ),
            },
            {
                "role": "user",
                "content": (
                    f"Символьное представление:\n"
                    f"{symbols}\n\n"
                    f"Вопрос: {question}"
                ),
            },
        ],
        temperature=0,
    )
    return response.choices[0].message.content


# Пример
task = (
    "На столе слева направо стоят: ваза, "
    "лампа, книга. За вазой (дальше от нас) "
    "лежит телефон. Перед книгой (ближе к нам) "
    "стоит чашка."
)
question = "Что находится между телефоном и чашкой по диагонали?"

answer = solve_spatial_with_cos(task, question)
print(answer)

Когда использовать Chain-of-Symbol