Редакції Що ж таке спотворення, LessWrong українською
Головні вкладки
Спотворення - певний вид перешкод на шляху до істини (тобто їх характер як перешкода заважає знайти істину, але при цьому існує безліч інших перешкод, що не є спотвореннями).
Якщо спитати «що таке спотворення?» прямо зараз, то питання буде задано надто рано. Як мовиться в англійській приказці, «існує сорок видів божевілля, але лише один вид здорового глузду». Істина – невелика мета, компактна область у просторі можливих конфігурацій. «Кохає вона мене чи ні?» — просте спільне питання, проте $E=mc^2$ — лише маленька точка у просторі всіх можливих рівнянь, наче виграшний лотерейний квиток у просторі всіх лотерейних квитків. У помилці немає нічого виняткового, пояснення потребує успіху — настільки він неймовірний апріорі.
Підійдемо до проблеми правильно.
З якоїсь причини ми бажаємо потрапити до істини, і на шляху нам трапляються різні перешкоди. Ці перешкоди не сильно відрізняються одна від одної: наприклад, є перешкоди, що стосуються нестачі обчислювальних потужностей або до дорожнечі інформації. Велика група перешкод поділяє загальні риси — утворює кластер у просторі перешкод-на-шляху-істині — і члени цього кластера називаються спотвореннями.
Що таке спотворення? Чи можна знайти простий тест на належність до цього емпіричного кластера? Можливо, ми так і не зможемо знайти пояснення, кращого, ніж «показати пальцем на кілька яскравих прикладів і сподіватися, що слухач зрозуміє». Часом для вченого, який тільки почав вивчати вогонь, мудріше сказати «вогонь - це он та яскрава помаранчева штука», ніж «я визначаю вогонь як алхімічну трансмутацію матерії, що виділяє флогістон». Як я сказав у «Простійістині», не можна ігнорувати щось лише тому, що ти не знаєш, як це визначити. Я не пам'ятаю рівняння Загальної Теорії Відносності напам'ять, але тим не менш, якщо я зроблю крок з обриву, то я впаду. Те саме можна сказати і про спотворення — вони не перестануть боляче кусатися, якщо з'ясується, що ніхто не може чітко пояснити, що таке «спотворення». Тому цілком законно розповісти про помилки в ситуації з логічним «І», ефект знання заднім числом, надвпевненість, евристику доступності, помилкову оцінку поведінки та гіперболічне знецінення, а потім сказати «Щось на кшталт цього».
Можна помітити, що ми називаємо «перекручуваннями» ті перешкоди на шляху до істини, які створені ні дорожнечею інформації, ні недоліком обчислювальних потужностей, але формою ментального обладнання. Наприклад, еволюція оптимізувала обладнання для цілей, що протистоять епістемологічній точності (обладнання вигравати політичні суперечки). Або тиск природного відбору спотворив бажання досягти епістемологічної точності (замість цього люди вірять у те, що вірять оточуючі, набуваючи завдяки цьому союзників та друзів). Або класична проблема евристики, коли обладнання працює за зрозумілим алгоритмом, який зазвичай робить все правильно, але часом робить систематичні помилки. Сама по собі, евристика доступності не є спотворенням, але вона породжує характерні спотворення, що компактно описуються. Людський мозок робить щось неправильно, і провівши купу експериментів і добре подумавши, хтось формулює проблему зрозумілою Системою 2 мовою — тоді ми називаємо цю помилку «спотворенням». Навіть якщо ми так і не дізнаємося більшого, все ж таки ясно, що ця помилка виникає — відомим чином — через певну форму когнітивного обладнання. Не черезтого, що обладнання замало, а через те, що воно особливої форми.
«Спотворення» відрізняються від помилок, породжених інформацією всередині мозку (наприклад, перейняті у когось переконання або певного роду моральний обов'язок). Вони не називаються «спотвореннями», і їх набагато простіше виправити після того, як вони помічені (проте, джерелом помилки, або джерелом джерела помилки, може бути якесь спотворення).
«Спотворення» відрізняються від помилок, породжених ушкодженнями окремого мозку, або увібраними культурними звичаями. «Спотворення» породжені універсальним серед людей обладнанням.
Можливо, викривлення важко виправити. Можливо, вони не виправляються у принципі. Але річ не в цьому. Якщо, поглянувши на своє ментальне обладнання, ми бачимо пересічний приклад відомого класу помилок, і ця помилка виникає через створену еволюцію форми обладнання, а не через нестачу обладнання або поганий вміст, то називаємо її спотворенням.
Особисто я бачу мету відточування навичок раціоналіста у посиленні здібностей знаходити істину. Завдання полягає в тому, щоб дістатися позитивної позначки (істини), а не в тому, щоб уникнути негативної позначки (невдачі). Простір невдач велике, там знайдеться безліч помилок у нескінченному їх різноманітті. Важко описати такий великий простір: «Властивість цього яблука може бути властивістю того яблука. Тому про одне яблуко можна розповісти більше, ніж про всі яблука у світі». Простір успіху менший, і тому про нього можна розповісти більше.
Я не маю відрази до розмов про визначення, але не можна забувати, що це не головна наша мета. Ми маємо велику мету знаходження істини, нам відчайдушно потрібні знання, і крім того, ми цікаві. Тому ми прагнемоподолати всі перешкоди, що лежать на шляху, і все одно, як ми їх при цьому називаємо.