Книга: Почему

Автоматизация объяснения

Автоматизация объяснения

Какими возможностями мы располагаем, чтобы протестировать контрфактуальные рассуждения? Как узнать, насколько изменилась вероятность со временем?

Одно из ограничений в целом многообещающих философских теорий состоит в том, что они, реально учитывая разницу между типом и токеном, требуют наличия порой невозможного количества информации о рассматриваемой ситуации. Да, хорошо знать, что в некий момент времени вероятность попадания мяча в лунку для гольфа составляла 0,5, а после удара по мячу возросла до 0,7. Но откуда взять такие данные?

Один из способов решения проблемы – построение модели интересующей нас системы. Взяв за основу простые законы физики и допущения о скорости ветра и вероятностях прочих действующих факторов, можно предсказать физическую траекторию мяча для гольфа до и после удара. Поскольку исход бывает не детерминирован, можно смоделировать ситуации для каждого положения мяча и рассчитать, как часто он будет оказываться в лунке с конкретной точки.

Чем дальше мяч, тем выше шансы на то, что ветер или еще какое-то неожиданное событие изменит его курс, а чем ближе он будет продвигаться к лунке, тем сильнее должно быть изменение, отклоняющее от цели. Контрфактуальный подход позволяет моделировать разнообразные Вселенные и разрабатывать количественные меры, чтобы оценить, насколько одна Вселенная подобна другой и насколько вероятно следствие без причины.

В сфере медицины мы, как правило, не располагаем достаточным объемом информации, чтобы достоверно смоделировать возможные варианты течения болезни. Однако мы способны взять за основу данные временных рядов других пациентов. Скажем, нужно знать, действительно ли пациент с пневмонией останется в живых через две недели после постановки диагноза, потому что ему давали антибиотики (то есть наша задача – определить, можно ли этими препаратами объяснить выздоровление). Тогда до начала терапии собираем все доступные сведения о больном, находим людей с похожими историями болезни и вычисляем процент выживаемости на двухнедельном временном отрезке. Теперь мы можем увидеть, как изменилась вероятность выживания после приема антибиотиков, рассмотрев только пациентов из первичной группы, получавших это лечение. По прошествии времени сужаем выборку участников, которую брали для сравнения, точно так же, как сужали выборку траекторий мяча для гольфа (когда он достигает определенного положения, учитываем только траектории, начинающиеся с этой точки).

Определение причин уровня типа на основании данных всегда было важной областью исследований в информатике, но методам автоматизации процесса объяснений уделялось гораздо меньше внимания[334]. Эта проблема меньше поддавалась автоматизированным решениям, чем причинно-следственные заключения, частично из-за трудностей перевода таких подходов, как контрфактуальный, в инструкции, доступные для реализации машиной. Чтобы создать программу, которая усвоит некоторую информацию о ситуации и скажет, какова причина соответствующего исхода, нужно закодировать процесс объяснения в виде последовательности шагов, которые не требуют суждений или мнений.

Вторая ключевая проблема – как оценить подобные системы. Чтобы знать, работает ли алгоритм, необходимо сравнить его результат с правильными ответами. Но в конкретной причинности верный ответ ясен не всегда. Проблема становится особенно острой, если нужно провести оценку метода, определяющего вклад различных факторов в исход ситуации, к примеру выявить относительную ответственность двух отдельных факторов риска за болезнь пациента.

Оглавление книги