Обтяжувальні деталі, LessWrong українською

«Проста подтверждающая подробиця, щоб додати художньої правдоподібності інакше сухому і непереконливому розповіді…»

-Pooh-Bah, in Gilbert і Sullivan's The Mikado (1).

Тому й кажуть: додавши деталей, можна зробити сценарій більш правдоподібно , незважаючи на те, що події, в сукупності, станутьменш ймовірними.

Якщо це так, то ми можемо легко знайти футуристів, які безсовісно розповсюджують правдоподібні і деталізовані сценарії майбутнього, або людей, які легко приймають величезні порції непідтверджених тверджень, присмачених кількома додатками, що звучать сильно. Якщо ви стикаєтеся з кон'юнктивною помилкою лоба в лоба, ви, можливо, досягнете успіху в подоланні цієї конкретної проблеми, постійно поправляючи себе. Але це лише тимчасове рішення.

В експерименті 1982 року професійні прогнозисти призначали систематично більш високі ймовірності твердження «Україна вторгнеться до Польщі після призупинення дипломатичних відносин між СРСР і США», ніж «Виникне призупинення дипломатичних відносин між СРСР та США». У цьому експерименті кожну групу прогнозистів просили оцінювати лише одне твердження (2). Якої стратегії ці прогнозисти, як група, могли випливати, щоб виключити вплив кон'юнктивної помилки, якщо ніхто не знав про альтернативне твердження? Якщо ніхто не знав, що експеримент і був про кон'юнктивну оману? Як вони могли покращити їхні судження про ймовірності?

Тимчасові рішення не допоможуть. Лікувати потрібно не симптоми, а хворобу.

Що прогнозисти могли зробити, щоб уникнути кон'юнктивної помилки, не бачачи з чим порівнювати, не знаючи навіть про те, що тестуватиметься саме кон'юнктивна помилка?Мені здається, що їм слід помітити «і». З цим треба бути обережнішим, та не просто так, а тікати від нього. Навіть без знання, що дослідники спеціально тестували їх на кон'юнктивну оману. Їм доведеться помічати з'єднання деталей, бути шокованим нахабством прохань оцінити ймовірності таких шалено складних передбачень. Їм доведеться штрафувати ймовірність суттєво – як мінімум у чотири рази, відповідно до деталей експерименту.

Роздуми про можливі причини призупинення дипломатичних відносин між США та Радянським Союзом також допомогли б прогнозистам. «США та Радянський Союз призупинили дипломатичні відносини без причини» не був сценарієм, ним був «США та Радянський Союз призупинили дипломатичні відносини з будь-якої причини».

За аналогією, давайте розглянемо шестигранну гральну кістку з чотирма зеленими гранями та двома червоними. Випробуваним давали на вибір три серії результатів - 1 [КЗККК], 2 [ЗКЗККК] або 3 [ЗККККК] - і просили поставити на ту з них, яка з їхньої точки зору зустрінеться в серії з двадцяти кидків (3). Шістдесят п'ять відсотків випробовуваних вибрали [ЗКЗККК], ймовірність отримання якої менше, ніж ймовірність отримання [КЗККК], тому що будь-яка серія, що містить [ЗКЗККК] включає і [КЗККК]. Як випробувані могли досягти успіху більше? Помітивши вкраплення? Можливо; але це лише лікування симптому, воно не вирішить фундаментальної проблеми. Обчислюючи імовірності? Це безперечно вирішило б фундаментальну проблему, але ми не завжди можемо обчислити точну ймовірність.

Піддослідні програли евристично, думаючи: Ага! Ланцюжок 2 має найбільшу пропорцію зелених та червоних! Я мушу ставити на неї!» Щоб виграти евристично, їм слід думати: «Ага! Ланцюжок 1 коротший. Я мушу ставити на неї!».

Бритва Оккамаповинна викликати в них сильні емоції – кожна деталь повинна відчуватися як тягар, навіть один поворот кістки.

Одного разу, я розмовляв декому з ким, зачарованим одним необачним футуристом (тим, який додає безліч деталей, що витончено звучать). Я намагався пояснити, чому я не був так само зачарований цими приголомшливими, неймовірними теоріями. Так що я розповів про кон'юнктивну помилку, саме про експеримент «зупинені відносини ± вторгнення до Польщі». І він сказав: «Добре, але як це пов'язано з -», і я відповів: «Мабуть, що всесвіт копіюється з будь-якої причини, ніж що вона копіюється за допомогою чорних дір, які створюються просунутими цивілізаціями, створених в результаті еволюції цього всесвіту цієї конкретної мети». І він сказав Ох.

До цього він не відчував додаткових деталей, як тягар. Натомість вони були підтверджуючими деталями, що додають художньої правдоподібності оповідання. Хтось подає вам групу дивних ідей, одна з них – всесвіт копіюється. Далі він надає підтримку твердженню про копіювання. Але це не підтримка групи, незважаючи на те, що розповідається як одна історія.

Вам слід розплутувати деталі. Слід розглядати їх окремо і запитувати: Звідки ми знаємо цю деталь? Хтось накидає картину падіння людства в нанотехнологічне зіткнення, де Китай відмовляється підкорятися міжнародній угоді про контроль, за цим слідує гонка озброєнь... Зачекайте... Звідки ви знаєте, що це буде Китай? Це кришталева куля у вашій кишені чи ви просто раді бути футуристом? Звідки взялися всі ці деталі? Звідки взялася ця деталь?

І було сказано: якщо можеш полегшити свій тягар, зроби це. Немає соломинки, що безсила зламати твій хребет.

  1. William S. Gilbert та Arthur Sullivan, The Mikado, Opera, 1885.
  2. Tversky and Kahneman, “Extensional Versus Intuitive Reasoning.”
  3. Amos Tversky and Daniel Kahneman, “Підприємства і життєдіяльність”, у віршах під усвідомленням: Heuristics and Biases, ed. Daniel Kahneman, Paul Slovic, і Amos Tversky (New York: Cambridge University Press, 1982), 84-98.
  • 1. Тут "сила затвердження" - його двійковий логарифм зі знаком мінус; чим вона більша, тим менш ймовірне твердження. У прикладі ймовірності тверджень мають бути 1/2 та 1/16 відповідно, ймовірність всього твердження – 1/32. - Прим. перев.