Методология · v1.4

FRI = clamp(50 + 50 · skill, 0, 100)

Индекс достоверности прогнозов по шкале 0–100. 50 — паритет с базовой линией; выше — устойчивое превосходство над ней. Считается по тому, что сбылось, а не по числу публикаций.

Коротко
FRI берёт точность каждого прогноза относительно базовой вероятности, взвешивает её по горизонту, ясности, тиру источника и свежести, усредняет по автору, сжимает к паритету (50) при малой выборке и отображает в шкалу 0–100. Skill начисляется только за явно заявленную вероятность; если автор её не назвал (почти все прогнозы), вклад в skill нулевой, но прогноз всё равно учитывается в hit-rate. Поэтому сейчас главная публичная метрика — доля сбывшихся («из N сбылось M»), а FRI предварительный. Индекс никогда не показывается без доверительного интервала, размера выборки и периода.
50паритет
0–100шкала
k = 8сжатие
Актуально на 2026-08-03Источник истины: ForecastReceipts

Что такое FRI

FRI (Forecast Reliability Index) — это сводная оценка того, насколько публичные проверяемые прогнозы автора сбываются точнее случайной или консенсусной базовой линии. Шкала 0–100, где 50 — паритет: повторять базовую линию недостаточно, чтобы подняться выше. Индекс измеряет результат, а не активность: десять верных прогнозов весят больше ста расплывчатых высказываний.

FRI всегда сопровождается тремя числами — доверительным интервалом, размером выборки и периодом. Без них одно число вводит в заблуждение: высокий FRI на трёх прогнозах и высокий FRI на сорока — это разные утверждения.

Формула

FRI = clamp(50 + 50 · skill, 0, 100)

Сердце формулы — skill-score: насколько прогноз лучше опорной вероятности. Для каждого прогноза считается Brier score (квадрат ошибки вероятностной оценки) и сравнивается с Brier базовой линии.

skill = 1 − Brier(автор) / Brier(базовая линия)

skill = 0 даёт FRI = 50 (паритет), skill > 0 поднимает индекс выше 50, skill < 0 опускает ниже. Подробно о Brier score — на отдельной странице.

Skill измеряет вероятность, а не сам факт

Brier-skill оценивает вероятностную оценку автора. Если автор назвал вероятность («с вероятностью 70%»), мы сравниваем её с базовой линией. Если вероятности нет — а это почти все прогнозы рынка — мы её не выдумываем: подставляем базовую линию, и тогда skill ровно 0. Такой прогноз не получает ни плюса, ни минуса за «уверенность», но по-прежнему идёт в hit-rate. Это убирает асимметрию: при фиксированной подставленной уверенности промах штрафовался бы сильнее, чем награждалось попадание, и любой автор с долей сбываемости ниже ~62% оказывался бы в минусе независимо от мастерства.

Практическое следствие: пока в прогнозах почти нет заявленных вероятностей, FRI у большинства держится у паритета (50), и осмысленно ранжировать авторов можно по hit-rate — доле сбывшихся проверяемых прогнозов. Поэтому hit-rate сейчас выводится как главная метрика, а FRI — как предварительная оценка с доверительным интервалом. Ярлык «итоговый рейтинг» не присваивается, пока вероятностных прогнозов не станет достаточно.

Веса и байесовское сжатие

Не все прогнозы равны. Перед усреднением вклад каждого взвешивается по четырём факторам, затем средний skill автора сжимается к паритету (skill 0 → FRI 50) — это защищает от случайных рекордов на маленьком числе прогнозов и не даёт результатам одного автора утянуть оценку остальных.

ФакторКак влияет на вес
ГоризонтДлинный горизонт сложнее — попадание весит больше.
Ясность формулировкиЧёткие, фальсифицируемые утверждения весят больше размытых.
Тир источника (T1–T3)Надёжно зафиксированный прогноз весит больше пересказанного.
СвежестьБолее свежие прогнозы вносят больший вклад в текущий индекс.

Сжатие к паритету (k = 8)

Средний skill автора сдвигается к паритету (0) тем сильнее, чем меньше у него прогнозов (параметр сглаживания k = 8): shrinked = (n_eff · skill) / (n_eff + k). Поэтому новый автор с двумя удачными прогнозами не получает сразу FRI 90 — индекс отходит от 50 по мере накопления подтверждённых результатов.

Что считается прогнозом, а что слишком размыто

В индекс попадают только проверяемые утверждения о будущем: с активом, направлением или порогом и сроком. Размытые высказывания не судятся — но и не исчезают: они могут храниться как контекст, без влияния на FRI.

Слева — фальсифицируемые утверждения; справа — высказывания без проверяемого критерия.
Считается прогнозомСлишком размыто
«USD/RUB ≥ 100 к 31.12.2025 по курсу ЦБ»«Рубль ждёт непростой год»
«ЦБ сохранит ставку на ближайшем заседании»«Возможны любые сценарии по ставке»
«Инфляция превысит 7% по итогам 2025»«Инфляция остаётся источником риска»

Правила резолюции

Правило резолюции и источник истины фиксируются до наступления горизонта, чтобы исход нельзя было подогнать задним числом. На дату горизонта прогноз сравнивается с фактом по единственному заранее заданному источнику. Если дата выпала на выходной или праздник, берётся последняя официальная цена или закрытие торгов до этой даты; фактическая дата наблюдения всегда показана в карточке.

  • Исход — один из: сбылось · не сбылось · частично · открыт · недействителен.
  • «Частично» — только для многосоставных прогнозов с независимыми частями. Обычный точечный промах вне допуска — это «не сбылось», не «частично».
  • «Недействителен» — когда условие резолюции перестало быть проверяемым (например, изменился источник истины).
  • Прогнозы с неоднозначной формулировкой (диапазон без выверенных границ, многократные решения ЦБ в окне) уходят на ручную проверку и остаются открытыми, а не получают автоматический вердикт.

Допуск зависит от класса актива, а не единый «±5%». Решения ЦБ дискретны и требуют точного совпадения; для рыночных числовых прогнозов применяется допуск по классу:

  • Ключевая ставка ЦБ — точное совпадение (14,00% ≠ 14,25%); «около / примерно / в районе» — ±0,25 п.п.
  • Инфляция / CPI — ±0,3 п.п. (с «около» — ±0,5 п.п.).
  • Валюта — ±1,5% на горизонте до 90 дней, ±2% дальше (±3% только для явно сценарных долгосрочных).
  • Индексы — ±2%; отдельные акции — ±2%; нефть и золото — ±2%; крипто — ±2%.

Формулировка задаёт оператор сравнения. «Достигнет / превысит / не ниже X» проверяется как порог (≥ / > X), а не как равенство; «не выше / упадёт до X» — как ≤ X. «Снизит на N б.п. / сохранит ставку» проверяется по фактическому шагу ставки, а не по уровню. «Средняя за период» резолвится как среднее ряда за период; до конца периода — «открыт». Для прогнозов с направлением («вырастет до / снизится до X») база сравнения — значение на момент прогноза, а не за день до горизонта.

Источники истины

У каждого актива — один источник истины, по которому резолвятся все прогнозы по нему. Это исключает спор о том, «по какой котировке» считать:

  • Валюта — официальный курс Банка России (биржевой курс — только если автор прямо говорил о торгах/закрытии).
  • Ключевая ставка — официальные решения ЦБ РФ; прогнозы про ФРС/ЕЦБ не резолвятся против ставки ЦБ РФ.
  • Индексы и акции — Московская биржа. Инфляция (CPI) — годовой ИПЦ Росстата (декабрь к декабрю), с перекрёстной сверкой по Банку России.
  • Нефть Brent — дневной ряд EIA/FRED (ICE settlement при явном фьючерсе).
  • Золото — в долларах за унцию по LBMA; в рублях за грамм — учётные цены ЦБ. Базис и единица показаны в карточке.
  • Нефть Urals — официальная средняя цена Минэкономразвития за месяц/год (на данных Argus). Дневные прогнозы по Urals не оцениваются (нет бесплатного дневного эталона) — помечаются monitoring.
  • Криптовалюты (BTC/ETH) — дневное закрытие Kraken (UTC) с перекрёстной сверкой по Coinbase и резервом CoinGecko; институциональный бенчмарк, на который мы равняемся, — CME CF Bitcoin/Ether Reference Rate.

Надёжность самого доказательства, что прогноз был сделан, задаётся тирами T1–T3 — на странице о тирах.

Статус выборки: research / preview / final

Маленькая выборка даёт неустойчивый индекс, поэтому каждая страница с FRI помечается статусом зрелости данных. Финальным рейтинг считается только при достаточном числе разрешённых сравнимых прогнозов на эксперта; до этого — research или preview, и FRI показывается с оговоркой.

Пока в корпусе почти нет прогнозов с заявленной вероятностью, FRI у большинства авторов держится у паритета и носит предварительный характер, поэтому ярлык «итоговый рейтинг» не присваивается, а авторы сравниваются по доле сбывшихся проверяемых прогнозов (hit-rate) с учётом размера выборки.

Главная метрика — hit-rate по закрытым проверяемым прогнозам. Эксперты разделены по размеру выборки: 1–4 — отслеживаются, 5–19 — ранний трек-рекорд, 20+ — основной рейтинг, 50+ — устойчивая выборка. FRI — предварительный вероятностный индекс.

research samplepreviewfinal

Мы фиксируем высказывания, а не людей

Объект оценки — конкретное публичное утверждение о будущем, а не личность автора. Мы судим прогноз: что именно было сказано, когда, с каким горизонтом и по какому источнику истины это проверяется. Один и тот же человек может иметь и сбывшиеся, и несбывшиеся прогнозы — и то, и другое попадает в выборку без отбора «удобных» случаев.

Поэтому здесь нет ярлыков «эксперт» или «шарлатан». Есть числа: сколько проверяемых прогнозов, сколько из них сбылось, с какой точностью относительно базовой линии. Формулировки фактологичны — «из N проверяемых M сбылись», без оценочных характеристик автора.

Ограничения (честно)

FRI — измерительный инструмент, а не приговор. Радикальная честность о его слабых местах — часть методологии:

  • Selection bias. Мы видим прогнозы, которые были публично озвучены и которые удалось зафиксировать. Невысказанные или удалённые оценки в выборку не попадают.
  • Некалиброванность оценок ясности. Clarity score — экспертная/модельная оценка, она субъективна на границах и может недооценивать или переоценивать конкретность формулировки.
  • Survivorship bias архивов. Хорошо архивированные источники представлены полнее, чем то, что исчезло из сети до фиксации; это смещает выборку к «выжившим» публикациям.
  • Неполнота охвата. База не претендует на полноту по автору или рынку. Малые выборки дают широкие интервалы — отсюда статусы research / preview / final.
  • Чувствительность к базовой линии. Сейчас явного консенсуса нет ни по одному прогнозу, поэтому базовая линия для всех — наивные 0.5. Из-за этого FRI на текущем корпусе — это, по сути, калиброванная доля сбываемости, а не превосходство над консенсусом; реальную базовую линию по классам активов мы добавим по мере накопления данных.

Константы и доверительный интервал

Все параметры формулы открыты, чтобы любой FRI можно было воспроизвести:

  • k = 8 — сила сжатия к паритету: shrinked = (n_eff · skill) / (n_eff + k).
  • Базовая линия = 0.5 для всех прогнозов (наивная, пока нет консенсус-данных).
  • Заявленная вероятность используется только если автор её назвал; иначе p = базовой линии (skill = 0).
  • σ ≥ 0.5 — разброс skill между прогнозами автора, оценивается из данных, но не ниже 0.5 (минимальная неопределённость).
  • Доверительный интервал (90%): sd = σ / √(n_eff + k), затем переводится в шкалу FRI. Чем меньше выборка — тем шире интервал.

Пример расчёта

Прогноз «с вероятностью 0.7 ставка снизится» сбылся. Brier(автор) = (0.7 − 1)² = 0.09; Brier(база) = (0.5 − 1)² = 0.25; skill = 1 − 0.09/0.25 = 0.64. Если это единственный прогноз автора (n_eff ≈ 1), сжатие к паритету: shrinked = 1·0.64 / (1 + 8) ≈ 0.071; FRI = 50 + 50·0.071 ≈ 53.6 — с широким интервалом, потому что выборка крошечная. Прогноз без заявленной вероятности дал бы skill 0 и FRI ровно 50, но всё равно учитывался бы в hit-rate.

История версий методологии

Здесь — изменения правил (как считается индекс, что считается прогнозом, как резолвится исход). Ошибки в конкретных вердиктах фиксируются отдельно — в журнале исправлений. Это разные вещи: тут меняется метод, там — исправляется ошибка применения метода.

v1.4

Интервал Уилсона на hit-rate, ранжирование по нижней границе, стратификация и поправка на базовую частоту.

  • Интервал Уилсона (95%) на hit-rate: рядом с долей показывается доверительный интервал [нижняя–верхняя], отражающий неопределённость на малой выборке.
  • Ранжирование лидерборда — по нижней границе интервала Уилсона, а не по точечной доле. «3 из 5» (60%, но широкий интервал) больше не встаёт над стабильным треком на шуме; FRI остаётся тай-брейком, эксперты без hit-данных — в конце.
  • Стратификация: hit-rate раскладывается по стратам (тип прогноза × класс актива). Видно, что 90% попаданий у эксперта — это направления по валюте, а не точные уровни ставки. Разбивка показана на профиле эксперта.
  • Базовая частота и «над базой» (skill-over-chance): для каждой страты считается объединённая по всему корпусу частота сбываемости (включая прогнозы самого эксперта); эксперт сравнивается с ней с поправкой на трудность его набора прогнозов. Значение может быть отрицательным — показывается честно. У доминирующего в выборке эксперта база близка к его же частоте, поэтому «над базой» на текущем корпусе — консервативная оценка.
  • Новых ручных порогов не введено: z=1.96 фиксирован, базовые частоты вычисляются из корпуса. Обратная совместимость: старые прогнозы не перерезолвлены, изменился только показ и порядок сортировки.
v1.3.1

Диапазоны автоматически скорятся: вхождение + допуск класса на границах.

  • Правило диапазонов (§5): вместо «ждать ручной проверки» диапазон теперь скорится автоматически — факт должен попасть в [low − δ, high + δ], где δ — допуск класса актива на соответствующей границе.
  • Ширина диапазона шире класс-зависимого cap → флаг range_too_wide: прогноз закрыт и показан на карточке, но исключён из hit-rate и FRI (слишком широкий диапазон не является точным прогнозом).
  • «Мусорные» диапазоны (нечитаемые границы, нижняя граница ≤ 0, расхождение с фактом > 5×, ширина > 3×cap, сложная агрегация/нелинейный путь) — направляются в очередь ручной проверки; вердикт не выставляется до решения оператора.
  • Границы с пометкой manual_verified (оператор проверил вручную) обходят очередь и скорятся напрямую.
  • Параметры правила (cap ширины, допуски, флаги auto_score_ranges) хранятся в таблице methodology_config (draft → publish → версионирование) и доступны в /admin-ui/methodology; ночной конвейер читает опубликованный конфиг.
v1.3

Подключены источники истины (CPI, крипто, Urals) и зафиксирована политика эталонов.

  • Политика эталонов: у каждого скоримого актива — один источник истины, решающий вердикт (показан на карточке); вторичные источники служат резервом и сверкой, но не перебивают основной. Где надёжного эталона нет — прогноз не оценивается (monitoring), а не получает сомнительный вердикт.
  • Инфляция (CPI) — подключена авторезолюция по годовому ИПЦ Росстата (декабрь к декабрю), с перекрёстной сверкой по Банку России. Раньше CPI-прогнозы оставались открытыми.
  • Криптовалюты (BTC/ETH) — дневное закрытие Kraken (UTC) как основной источник, сверка с Coinbase, резерв CoinGecko; институциональный бенчмарк — CME CF Bitcoin/Ether Reference Rate.
  • Нефть Urals — официальная средняя цена Минэкономразвития за месяц/год (на данных Argus): скорятся только средние прогнозы; дневные spot-прогнозы помечаются monitoring (нет бесплатного дневного эталона).
  • Закрыт пробел: акции ЛУКОЙЛ/Норникель/ВТБ (LKOH/GMKN/VTBR) теперь резолвятся по Московской бирже наравне с остальными. Введён инвариант: каждый актив имеет источник резолюции — без тихих пропусков.
v1.2

Допуски по рыночным классам сужены ради доверия к вердикту.

  • Допуски рынков сужены: валюта — ±1,5% на горизонте до 90 дней, ±2% дальше (±3% только для явно сценарных долгосрочных); индексы, отдельные акции, нефть/золото и крипто — ±2%. Прежние ±5–10% признаны слишком широкими: большой допуск размывает смысл «сбылось / не сбылось».
  • Ключевая ставка (точное совпадение, ±0,25 п.п. при «около») и инфляция/CPI (±0,3 п.п., ±0,5 п.п. при «около») оставлены без изменений.
  • Ранее разрешённые рыночные прогнозы перерезолвлены по новым допускам; часть вердиктов и значения hit-rate/FRI соответственно обновлены.
v1.1

Класс-зависимые допуски, операторы порога и шаг ставки.

  • Единый «±5%» заменён допуском по классу актива: ключевая ставка — точное совпадение (или ±0,25 п.п. при «около»); CPI ±0,3 п.п.; валюта ±2,5–3%; индексы ±5%; акции ±7,5%; нефть/золото ±5%; крипто ±10%.
  • Введены операторы сравнения: «достигнет/превысит/не ниже» → порог (≥/>), «не выше/упадёт до» → ≤; «снизит на N б.п./сохранит» резолвится по фактическому шагу ставки, а не по уровню.
  • Числовые точечные прогнозы теперь участвуют в рейтинге (резолвятся по допуску в сбылось/не сбылось); диапазоны идут в рейтинг только после ручной проверки границ.
  • База направления — значение на момент прогноза, а не за день до горизонта. «Средняя за период» считается как среднее ряда за период.
  • Прогнозы про ФРС/ЕЦБ не резолвятся против ставки ЦБ РФ; добавлены источники Brent (EIA/FRED) и золота (LBMA в $/унц., учётные цены ЦБ в ₽/грамм с базисом).
  • Карточка прогноза показывает цель, факт, ошибку, допуск, оператор, источник истины, эффективную дату и причину исхода.
  • Brier-skill начисляется только за явно заявленную вероятность; категориальные и точечные прогнозы без вероятности получают skill 0 (идут в hit-rate, но не штрафуются за подставленную «уверенность») — убрана асимметрия прежней оценки.
  • Сжатие индекса — к паритету (skill 0 → FRI 50), а не к популяционному среднему; σ доверительного интервала оценивается из данных (не ниже 0,5).
  • Главная публичная метрика — доля сбывшихся (hit-rate); FRI предварительный, ярлык «итоговый рейтинг» не присваивается, пока не накопятся вероятностные прогнозы.
v0.1

Первая публичная версия правил.

  • Зафиксирована формула FRI: skill-score против опорной вероятности, веса по горизонту / ясности / тиру источника / свежести, байесовское сжатие к среднему (k = 8), отображение в шкалу 0–100 (50 = паритет).
  • Введены тиры источников T1–T3 и правило резолюции по единственному источнику истины на актив.
  • Введён порог research / preview / final по числу разрешённых сравнимых прогнозов (финал — от 20 на эксперта).

Хотите узнавать, когда мы меняем правила? Напишите нам — добавим вас в список оповещения об изменениях методологии (это отдельный канал от журнала исправлений).

Частые вопросы

Частые вопросы

Можно ли поднять FRI, публикуя больше прогнозов?
Нет. Индекс считается по точности, а не по количеству. Больше публикаций без точности не двигают FRI вверх.
Почему у эксперта с верными прогнозами FRI близок к 50?
Скорее всего, сработало сжатие к паритету: при малом числе прогнозов индекс держится у 50, пока не накопится выборка.
Что значит FRI ниже 50?
Что на текущей выборке прогнозы автора в среднем точнее не были, чем базовая линия. Это утверждение о выборке, а не ярлык.

Другие страницы методологии

Обновлено