Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски Страница 7

Я приглашаю вас читать эту книгу именно в таком духе. Пользуйтесь ею так же, как пользовались бы вершей, всегда помня о своей цели. Уносите с собой то, что можете использовать, пока оно приносит пользу; остальное отбрасывайте. И пусть ваша цель сослужит вам верную службу.

Благодарности

Я невероятно благодарен Нейту Соарсу, Элизабет Тарлтон, Полу Кроули, Бриенн Штроль, Адаму Фризу, Хелен Тонер и десяткам волонтёров за вычитку частей этой книги.

Особая и искренняя благодарность Алексу Вермееру, который довёл работу над этой книгой до конца, и Цви Бенсону-Тилсену, который прошерстил всю книгу, чтобы обеспечить её удобочитаемость и последовательность.

*

1. Идея личной предвзятости, предвзятости СМИ и т. д. похожа на статистическое смещение в том смысле, что это ошибка. Другие варианты обобщения понятия «искажения» фокусируются, напротив, на его связи с неслучайностью. В машинном обучении, например, индуктивное смещение — это просто набор допущений, которые обучающаяся система использует для прогнозирования на основе набора данных. Здесь система «предвзята» в том смысле, что она направлена в определённую сторону; но поскольку этим направлением может оказаться истина, наличие индуктивного смещения у агента — вовсе не плохо. Оно ценно и необходимо. Это весьма чётко отличает индуктивное «смещение» от других видов искажений.

2. Печальное совпадение: Леонард Нимой, актёр, сыгравший Спока, скончался всего за несколько дней до выхода этой книги. Хотя мы приводим его персонажа в качестве классического примера фальшивой «голливудской рациональности», мы ни в коей мере не хотим проявить неуважение к памяти Нимоя.

3. Тимоти Д. Уилсон и др., «Introspecting About Reasons Can Reduce Post-choice Satisfaction», Personality and Social Psychology Bulletin 19 (1993): 331–331.

4. Джамин Бретт Хальберштадт и Гэри М. Левин, «Effects of Reasons Analysis on the Accuracy of Predicting Basketball Games», Journal of Applied Social Psychology 29, no. 3 (1999): 517–530.

5. Кит Э. Станович и Ричард Ф. Уэст, «Individual Differences in Reasoning: Implications for the Rationality Debate?», Behavioral and Brain Sciences 23, no. 5 (2000): 645–665, http://journals.cambridge.org/abstract_S0140525X00003435.

6. Тимоти Д. Уилсон, Дэвид Б. Сентербар и Нэнси Брекке, «Mental Contamination and the Debiasing Problem», в Heuristics and Biases: The Psychology of Intuitive Judgment, под ред. Томаса Гиловича, Дейла Гриффина и Даниэля Канемана (Cambridge University Press, 2002).

7. Амос Тверски и Даниэль Канеман, «Extensional Versus Intuitive Reasoning: The Conjunction Fallacy in Probability Judgment», Psychological Review 90, no. 4 (1983): 293–315, doi:10.1037/0033-295X.90.4.293.

8. Ричардс Дж. Хойер, Psychology of Intelligence Analysis (Center for the Study of Intelligence, Central Intelligence Agency, 1999).

9. Уэйн Вейтен, Psychology: Themes and Variations, Briefer Version, Eighth Edition (Cengage Learning, 2010).

10. Рэймонд С. Никерсон, «Confirmation Bias: A Ubiquitous Phenomenon in Many Guises», Review of General Psychology 2, no. 2 (1998): 175.

11. Игнорирование вероятности — это ещё одно когнитивное искажение. В течение месяцев и лет после терактов 11 сентября многие люди предпочитали совершать дальние поездки на автомобиле, а не летать на самолёте. Угон самолёта не был вероятным, но теперь казалось, что эту возможность нельзя сбрасывать со счетов; сама лишь возможность угона оказывала колоссальное влияние на принимаемые решения. Опираясь на чёрно-белое мышление (машины и самолёты либо «безопасны», либо «опасны», и точка), люди на самом деле подвергали себя гораздо большей опасности. Вместо того чтобы взвесить вероятность погибнуть в автомобильной поездке через всю страну против вероятности погибнуть при таком же перелёте (причём первый вариант в сотни раз вероятнее), они полагались на общее ощущение беспокойства и тревоги (эвристику аффекта). Такой же паттерн поведения можно заметить у детей, которые, выслушав аргументы за и против использования ремней безопасности, мечутся между мыслью, что ремни — это абсолютно хорошая идея, и мыслью, что это абсолютно плохая идея, вместо того чтобы попытаться сопоставить весомость доводов «за» и «против».21

Вот ещё несколько примеров искажений: правило «пика и конца» (оценка воспоминаний о событиях на основе их наиболее интенсивного момента и того, как они закончились); эффект якоря (принятие решений на основе недавно полученной информации, даже если она не имеет отношения к делу)22 и самоякорение (использование себя в качестве модели для оценки характеристик других людей, без должного учёта того, в чём вы сами нетипичны);23 а также склонность к сохранению статуса-кво (чрезмерное предпочтение привычного и ожидаемого новому и иному).24

12. Кэтрин Хансен и др., «People Claim Objectivity After Knowingly Using Biased Strategies», Personality and Social Psychology Bulletin 40, no. 6 (2014): 691–699.

13. Точно так же Эмили Пронин пишет о слепоте к гендерной предвзятости:

«В одном исследовании участники рассматривали кандидатуры мужчины и женщины на должность начальника полиции, а затем оценивали, что важнее для этой работы: «уличная смекалка» или «наличие образования». В итоге участники отдавали предпочтение тем качествам, которыми, как им говорили, обладал кандидат-мужчина (например, если им сообщали, что у него есть «уличная смекалка», они считали это качество более важным). Участники были абсолютно слепы к этой гендерной предвзятости; более того, чем более объективными они себя считали, тем большую предвзятость они проявляли на самом деле.25»

По словам Пронин, даже когда мы знаем об искажениях, мы остаёмся «наивными реалистами» в отношении собственных убеждений. Мы неизменно скатываемся к тому, чтобы считать свои убеждения неискажённым отражением реальности.26

14. В ходе опроса 76 человек, ожидавших свои рейсы в аэропортах, респонденты оценивали себя в среднем как гораздо менее подверженных когнитивным искажениям, чем типичный посетитель аэропорта. В частности, люди считают себя на редкость беспристрастными, когда само искажение социально нежелательно или имеет труднозаметные последствия.27 Другие исследования показывают, что люди, имеющие личное отношение к какому-либо вопросу, считают, что это отношение лишь повышает их проницательность и объективность; но когда они замечают, что другие люди имеют такое же отношение, они делают вывод, что эти люди излишне пристрастны и предвзяты.

15. Джойс Эрлингер, Томас Гилович и Ли Росс, «Peering Into the Bias Blind Spot: People’s Assessments of Bias in Themselves and Others», Personality and Social Psychology Bulletin 31, no. 5 (2005): 680–692.

16. Ричард Ф. Уэст, Рассел Дж. Мезерв и Кит Э. Станович, «Cognitive Sophistication Does Not Attenuate the Bias Blind Spot», Journal of Personality and Social Psychology 103, no. 3 (2012): 506.

17. ...Не путать с людьми, которые считают себя необычайно умными, вдумчивыми и т. д. из-за эффекта иллюзорного превосходства.

18. Майкл Дж. Лирш и Крейг Р. М. Маккензи, «Duration Neglect by Numbers and