Книга: Почему

Потребность в знании

Потребность в знании

С появлением новых и лучших методов выявления причин и прогнозирования будущих событий растет искушение автоматизировать все больше процессов, постепенно устраняя из цепочки человеческий фактор. Люди предвзяты, иррациональны и непредсказуемы, а компьютерные программы неуклонно ведут себя одинаково, каждый раз получая одинаковые вводные. Пока, однако, человеческие знания и суждения необходимы на каждом этапе: мы решаем, какие сведения собирать, подготавливаем их, выбираем метод анализа, интерпретируем результаты и, исходя из этого, определяем, как действовать.

Мы уже видели, как уводит в сторону поиск «черного ящика», который безукоризненно выполняет весь процесс от ввода «сырых» данных до причин на выходе, без ошибок и человеческого вмешательства. Но столь же неверно использовать причины аналогичным способом, исключающим человеческие суждения.

Если компания рекламирует продукт, который вам неинтересен, или сайт рекомендует фильм, который вам не нравится, стоимость ошибок в выборе не слишком велика. Но в массе иных случаев, таких как неправильное осуждение Салли Кларк или некорректное употребление каузальности, это приводит к очень серьезным последствиям. Возможно, мы слишком доверяем причинно-следственным выводам в одном сценарии, а в другом использованный алгоритм слишком зависит от общих знаний и не принимает в расчет специфику конкретной ситуации.

Когда доктор говорит, что у вас высокое давление и с этим нужно что-то делать, вы вряд ли обрадуетесь, если он слепо последует шаблонным инструкциям. Конечно, вы захотите, чтобы он принял в расчет другие лекарства, которые вы принимаете (и которые могут взаимодействовать с препаратами, снижающими давление), ваши предпочтения и задачи относительно терапии. Результат, возможно, не будет наилучшим с точки зрения общих рекомендаций по коррекции гипертензии, однако окажется оптимальным именно для вас. Дело в том, что высокое артериальное давление имеет серьезные последствия для состояния организма, но его снижение не единственная задача, и решать ее нужно в контексте других целей. Возможно, вы принимаете лекарства, которые взаимодействуют с предлагаемыми медикаментами, больше подходят для ежедневного приема, а не других временных интервалов[435] или имеют ограничения, не вписывающиеся в вашу медицинскую страховку.

Поскольку на основании известной зависимости на уровне типа мы не можем сделать вывод, что некая вещь служит токен-причиной, информацию на уровне типа не следует использовать, чтобы принимать решения о токен-случаях.

И после того как мы нашли причины, решая, как их использовать (и использовать ли вообще), необходимо принимать в расчет не только валидность конкретной зависимости.

Как минимум 20 американских штатов приняли форму вынесения приговоров по уголовным делам на основании доказательств, когда при определении наказания рассчитывается риск рецидива[436]. Во многом аналогично тому, как медицина продвигалась от стандартизированных процессов к целостному и качественному лечению, основанному на фактах, а не интуитивных догадках, новый подход предполагает использование более твердых принципов при определении риска, который собой представляет человек, и сокращение возможных искажений из-за особых полномочий или выводов отдельных судей.

С этими принципами и задачами трудно не согласиться. Однако подобные калькуляторы риска учитывают множество характеристик, помимо криминальных досье отдельных лиц (к примеру, финансовое положение и статус занятости), а также факторы вне контроля личности (например, пол). То есть, если два человека совершают одинаковые преступления, риск рецидива в одном случае будет считаться ниже, если обвиняемый имеет постоянную работу или проживает в районе с низким уровнем правонарушений. Расовый признак напрямую в расчет не принимается, но он коррелирует со многими учитываемыми условиями. Суть не в том, есть ли у человека криминальное прошлое и релевантность этого фактора совершенному преступлению. Скорее, этот подход напоминает использование таблиц смертности[437] страховыми компаниями, которые устанавливают стоимость своих продуктов. На самом деле конкретная продолжительность жизни – величина неизвестная, поэтому с помощью таблиц она рассчитывается для индивидуальных клиентов исходя из показателя для соответствующей группы (например, на основе пола и возраста).

Если оставить в стороне вопрос, действительно ли разные сроки наказания снижают вероятность рецидива преступлений, и если не задумываться о корректности показателей, увязывающих последнее значение и число людей с различными характеристиками[438], следует ли пользоваться подобной информацией, определяя срок наказания по приговору суда?

Нельзя дать положительный ответ только потому, что некую причину можно использовать для более точного прогнозирования или принятия решений. Методы установления причинно-следственных связей могут только сказать, действительно ли среди каких-то групп больше рецидивистов, но умолчат о том, должно ли справедливое общество использовать подобные групповые свойства, чтобы суровее наказывать отдельных граждан.

Одна из опасностей, подстерегающих тех, кто слишком углубляется в большие объемы данных в поисках корреляций, состоит в незнании механизма действия отдельных вещей. При этом выводы о причинности могут применяться в оправдание несправедливых и дискриминационных практик, сохраняя видимость справедливости и объективности.

Ответственное использование причин означает, что необходимо оценивать не только статистическую и методологическую основательность заключений, но также их этический базис и последствия.

Вместо того чтобы все автоматизировать, лучше комбинировать преимущества вдумчивого человеческого суждения с достоинствами компьютеров, которые способны обрабатывать громадные количества данных. Каждый раз, оказавшись лицом к лицу с причинными зависимостями, мы должны не просто выискивать доказательства в их пользу, а подвергать их допросу, словно следователь с подозреваемым.

Не косвенное ли доказательство (как корреляция), прослеживается ли мотив (механистическое объяснение того, почему причина должна произвести следствие)? Имеются ли смягчающие обстоятельства, например общая причина или некоторое искажение данных?

Если затратность и риск, сопутствующие нашим заключениям, возрастают, так же должна расти и весомость доказательств. И если невозможно с достаточной долей достоверности определить причину, нужно быть готовыми учесть эту неопределенность, когда мы просто не знаем, что за причина имела место. И продолжать поиск.

Оглавление книги