Книга: Кибернетика или управление и связь в животном и машине

Приложение IV. Машины изобретательнее людей? (Интервью для журнала «Юнайтед Стэйтс Ньюс энд Уорлд Рипорт»)

Приложение IV.

Машины изобретательнее людей?[211]

(Интервью для журнала «Юнайтед Стэйтс Ньюс энд Уорлд Рипорт»)

Вопрос. Д-р Винер, существует ли опасность, что машины — вычислительные машины — когда-нибудь возьмут верх над людьми?

Ответ. Такая опасность, несомненно, существует, если мы не усвоим реалистического взгляда на вещи. Собственно говоря, это опасность умственной лени. Некоторые так сбиты с толку словом «машина», что не представляют себе, что можно и чего нельзя делать с машинами и что можно и чего нельзя оставить человеку.

Вопрос. Существует ли тенденция придавать чрезмерное значение применению вычислительных машин?

Ответ. Существует культ техники. Люди заворожены техникой. Машины предназначены для службы человеку, и если человек предпочитает передать весь вопрос о способе их употребления машине, из-за слепого машинопоклонства или из-за нежелания принимать решения (назовете ли вы это леностью или трусостью), тогда мы сами напрашиваемся на неприятности.

Вопрос. Согласны ли Вы с прогнозом, который мы иногда слышим, что дело идет к созданию машин, которые будут изобретательнее человека?

Ответ. Осмелюсь сказать, что если человек не изобретательнее машины, то уже слишком плохо. Но здесь нет убийства нас машиной. Здесь просто самоубийство.

Вопрос. Действительно ли машины обнаруживают тенденцию становиться сложнее, изобретательнее? [c.319]

Ответ. Мы делаем сейчас гораздо более сложные машины и собираемся в ближайшие годы делать еще более сложные. Есть вещи, которые совсем пока не дошли до общественного внимания, вещи, которые заставляют многих из нас думать, что это случится не позже, чем через какие-нибудь десять лет.

Вопрос. Можете ли Вы дать нам взглянуть в будущее?

Ответ. Могу. Одним из важных событий была миниатюризация — уменьшение размеров деталей. Там, где в самом начале развития вычислительной техники понадобилась бы машина величиной с Эмпайр-Стэйтс-Билдинг[212], теперь вы можете обойтись конструкцией, которая поместится в довольно небольшой комнате. Одним из главных факторов в этой миниатюризации было введение новых типов памяти — памяти, основанной на физике твердого тела, на транзисторах и т. п.

Сейчас возник интерес к вопросу, как работает человеческий мозг. И за последний примерно год мы впервые получаем настоящее представление об этом.

Видите ли, генетическая память — память наших генов — в значительной степени зависит от веществ, являющихся комплексами нуклеиновых кислот. В последнем году стали подозревать более или менее широко, что память нервной системы — того же рода. На это указывает открытие комплексов нуклеиновых кислот в мозгу и тот факт, что они обладают свойствами, обеспечивающими хорошее запоминание. Это весьма тонкий раздел физики твердого тела, как и физика, ныне используемая в машинной памяти.

Я предполагаю — и я не одинок, — что ближайшее десятилетие увидит это в техническом воплощении.

Вопрос. Иными словами, вместо магнитной ленты как элемента памяти вычислительной машины Вы будете располагать генами?

Ответ. Мы будем располагать веществами, родственными генам. Называть их генами или нет, вопрос терминологический, но вещества — того же рода. Это вызовет массу новых фундаментальных исследований. Как вводить в эту генетическую память и выводить из нее данные, как ее использовать, — все это требует [c.320] большой исследовательской работы, пока едва начатой. Некоторые из нас имеют предчувствия (еще не проверенные), что ввод и вывод осуществимы посредством световых колебаний определенных молекулярных спектров. Так ли это или не так, я бы не поклялся. Но кое-кто из нас смотрит на это серьезно.

Вопрос. Не будет ли пугать народ такая перспектива?

Ответ. Любая перспективная возможность будет пугать народ. Она будет пугать народ, если ее использовать без понимания. Использованная же с пониманием, она может оказаться весьма ценным орудием.

Вопрос. Можете ли Вы описать вычислительную машину, использующую гены как запоминающее устройство? Что было бы для нее возможно?

Ответ. Слишком похоже на фантастику, чтобы говорить сейчас.

Вопрос. Каковы бы были возможности подобной машины по сравнению с вычислительными машинами, которыми мы располагаем сегодня?

Ответ. Они могут оказаться несравненно бо?льшими. Машина могла бы быть гораздо меньше; она могла бы пропускать гораздо больше данных. Но все, что я сказал бы о ней, было бы не только преждевременным, но и безнадежно преждевременным. Однако работа в этих областях должна проводиться, я уверен.

Вопрос. Говорят, что вычислительные машины думают. Так ли это?

Ответ. Если иметь в виду нынешнее положение вещей, то вычислительные машины могут обучаться. Вычислительные машины могут учиться улучшать свою работу путем ее анализа. Это, безусловно, верно. Называть ли это мышлением, вопрос терминологический. Что вещи такого рода получат гораздо большее развитие в будущем, когда наша способность строить более сложные вычислительные машины возрастет, в этом, я думаю, не приходится сомневаться.

Вопрос. Существует ли вероятность, что машины могут учиться больше, чем человек? Способны ли они к этому сейчас?

Ответ. Сейчас наверняка нет, и наверняка нет еще долгое время, если вообще когда-либо будут способны. Но если смогут, то лишь потому, что мы перестанем [c.321] учиться. Я хочу сказать, что намучиться легче, чем машине. Если же мы поклоняемся машине и все ей оставляем, то мы должны благодарить самих себя за все неприятности, в которые попадаем.

В этом суть дела. Вычислительная машина очень хороша при быстрой работе, проводимой однозначным образом над полностью представленными данными. Вычислительная машина не может сравниться с человеческим существом при обработке еще не выкристаллизовавшихся данных. Если назвать это интуицией, то я не сказал бы, что интуиция недоступна вычислительной машине, но у нее она меньше, а экономически невыгодно заставлять машину делать то, что человек делает намного лучше.

Вопрос. Что именно представляет собой обучающаяся машина?

Ответ. Обучающаяся машина — это такая машина, которая не просто, скажем, играет в какую-нибудь игру по твердым правилам, с неизменной стратегией, но периодически или непрерывно рассматривает результаты этой стратегии, дабы определить, нельзя ли изменить с пользой те или иные параметры, те или иные величины в стратегии.

Вопрос. Пример, который всегда приходит на ум, — машины, играющие в шашки…

Ответ. Прекрасно, возьмем шашки. Машина была достаточно хороша, чтобы через некоторое время стать способной систематически обыгрывать своего изобретателя, пока тот не выучил про шашки немного больше.

Вопрос. Почему же с шахматами не так?

Ответ. Потому что шахматы сложнее. С шахматами тоже будет так, но это потребует гораздо более длительной работы.

Вопрос. Обучаются ли машины письму?

Ответ. Да. Имеются машины, способные воспринять код и перевести его в рукописный шрифт или воспринять рукописный, а также печатный шрифт и перевести его в код. О да! Это разрабатывается: можно даже воспринять речь и перевести ее в код.

Вопрос. Говорить о думающих роботах, захватывающих власть над Землей, — фантастика?

Ответ. Фантастика, если только народ не придет к идее: «Оставим все Железному Майку!» Я хочу [c.322] сказать: если мы смотрим на машину не как на дополнение к нашим силам, а как на нечто их расширяющее, мы должны держать ее под контролем. Иначе нельзя. Машинопоклонники, ожидающие, что машина будет работать, а народ пусть сидит и получает все без труда, думают, конечно, по-другому.

Вопрос. Разумно ли используются сегодня вычислительные машины?

Ответ. В 10% случаев — да.

Вопрос. Поразительно низкая цифра. Почему Вы так говорите?

Ответ. Потому что нужен разум, чтобы знать, что давать машине. И во многих случаях машина используется в расчете на разум, которого-то и нет.

Вычислительная машина ценна ровно настолько, насколько ценен использующий ее человек. Она может позволить ему продвинуться дальше за то же самое время. Но он обязан иметь идеи. И на ранней стадии проверки идей вам не следует быть зависимым от вычислительных машин.

Вопрос. Относится ли это также к применению вычислительных машин как средства автоматизации? Иными словами, не используется ли автоматизация в некоторых случаях неразумно?

Ответ. Вне всякого сомнения. Однако, что касается примера, сие не моя область.

Вопрос. Какие можно назвать работы, для которых машины могут применяться разумно и которые они делают лучше, чем люди?

Ответ. Бухгалтерию, продажу билетов и тому подобное ведение записей. Когда мы составили свой план вычислений, машина может выполнить его гораздо лучше, чем человек. И вычислительные машины будущего смогут делать эти вещи еще лучше. Они будут обладать достаточной разносторонностью, чтобы позволить себе то, что делает мозг, — затрачивать массу усилий и все-таки достигать чего-то.

Вопрос. Эти машины будущего отнимут еще много занятий у людей?

Ответ. Отнимут.

Вопрос. Это обострит проблему, которая уже существует. Где же решение?

Ответ. Ответ гласит: мы больше не можем [c.323] оценивать человека по той работе, которую он выполняет. Мы должны оценивать его как человека.

В этом суть. Вся уйма работы, для которой мы сейчас используем людей, — это работа, в действительности делаемая лучше машинами. Ведь уже давно человеческая энергия стоит немного, поскольку речь идет о физической энергии. Сегодня человек, пожалуй, не смог бы произвести столько энергии, чтобы купить пищу для своего собственного тела.

Реальная коммерческая стоимость его услуг в условиях современной культуры недостаточна. Если мы оцениваем людей, мы не можем оценивать их на этой основе. Если мы настаиваем на применении машин повсюду, безотносительно к людям, но не переходим к самым фундаментальным рассмотрениям и не даем человеческим существам надлежащего места в мире, мы погибли.

Вопрос. Уже поздно остановить это движение ко все большей и большей автоматизации?

Ответ. То, что сделано, непоправимо. Я предвидел это в самом начале. Здесь налицо не просто факт, что используются вычислительные машины. Настоящую трудность представляет факт, что они стоят наготове для применения.

Иными словами, причина, по которой нам нельзя идти назад, заключена в том, что нам никогда не удастся уничтожить возможность использования вычислительных машин.

Вопрос. Вы считаете это необратимой тенденцией?

Ответ. Я не говорю даже о тенденции. Это необратимое приращение знания. Такое случилось с Адамом и Евой, когда они повстречались со змеем. Коль скоро вы вкусили от древа познания, вы вряд ли сможете сделать другое, чем идти дальше с этим знанием.

Вопрос. Итак, можно ожидать, что машины будут играть все большую роль в автоматизации, в бизнесе, в образовании…

Ответ. Можно. И во всяком случае, используем ли мы машины или нет (решение, которое мы так или иначе должны принять), тот факт, что они имеются налицо для использования, нельзя отбросить.

Вопрос. Вы хотите сказать, что более мудрым [c.324] решением был бы, возможно, отказ от использования некоторых машин?

Ответ. В определенных ситуациях это может оказаться более мудрым. Приведу вам пример. Сейчас с автоматизацией совсем нетрудно построить фабрику, способную произвести больше, чем может потребить весь рынок. Если вы беретесь за дело и лишь толкаете производство вверх, вы можете упереться в потолок. Конкуренция, как она понималась в прошлом, существенно изменяется при наличии автоматизации. Автоматизация больше несовместима с laissez faire[213].

Вопрос. Если в ближайшее десятилетие разовьется новая техника такого типа, на который Вы намекали, как можно задержать дальнейшую автоматизацию?

Ответ. Прогресс задерживали в прошлом не раз. Совсем не обязательно, если мы делаем новое оружие, немедленно пускать его в ход.

Вопрос. Вы нашли во время Вашей последней поездки в Россию, что Советы придают большое значение вычислительной машине?

Ответ. Я скажу вам, насколько большое. У них есть институт в Москве. У них есть институт в Киеве. У них есть институт в Ленинграде. У них есть институт в Ереване в Армении, в Тифлисе, в Самарканде, в Ташкенте и Новосибирске. У них могут быть и другие.

Вопрос. Используют ли они эту область науки полностью, если сравнить с нами?

Ответ. Общее мнение — и оно идет от самых разных лиц — таково, что они отстают от нас в аппаратуре: не безнадежно, а немного. Они впереди нас в разработке теория автоматизации.

Вопрос. Д-р Винер, необходимо ли сегодня использование вычислительных машин для военных решений?

Ответ. Да, и они могут быть использованы весьма неразумно. Я не сомневаюсь, что проблема того, когда нажать «большую кнопку», трактуется сейчас с точки зрения обучающихся машин. Я был бы очень удивлен, если бы дело обстояло иначе, ведь это ходовые идеи. Вы знаете: «Пусть делает Железный Майк!»

Но давайте рассмотрим это чуть поподробнее. Как [c.325] учатся солдаты своему ремеслу? Посредством военных игр. Веками они упражнялись в играх на карте. Прекрасно! Если вы располагаете некоторым формальным критерием, определяющим, что значит выиграть войну, вы можете заниматься такими играми. Но вам не мешало бы удостовериться, что ваш критерий есть то, что вы действительно хотите, а не некая формализация желаемого. В противном случае вы можете создать вычислительную машину для ядерной войны, которая все разрушит.

Вопрос. Как можно программировать вычислительную машину для ядерной войны, если Вы никогда не имели настоящего опыта подобной войны?

Ответ. Совершенно нельзя. Но тем не менее это сейчас пытаются делать. Экспертов по атомной войне нет. Эксперт — это человек, обладающий опытом. Такого человека сегодня мы не имеем. Поэтому программирование военных игр на основании искусственных критериев успеха в высшей степени опасно и может кончиться плохо.

Вопрос. Существует ли тенденция к программированию такого рода?

Ответ. Тенденция в этом направлении существует, и эта глупость верхов меня поражает. Автомат обладает свойством, которым некогда наделяли магию. Он может дать вам то, что вы просите, но не скажет вам, чего просить.

Мы слышали речи, что нам нужно создать машинные системы, которые скажут нам, когда нажать кнопку. Но нам нужны системы, которые скажут нам, что случится, если мы будем нажимать кнопку в самых разных обстоятельствах, и — главное — скажут нам, когда не нажимать кнопки!

Вопрос. Как Вы думаете, возможно ли для машин объявить войну и обречь все человечество?

Ответ. Если мы позволим им. Разумеется, они не объявят войны, если мы заранее не настроим их на это.

Вопрос. Д-р Винер, не изменяет ли человек окружающую среду свыше своей способности приспособления к ней?

Ответ. Это вопрос № 1. Человек, несомненно, изменяет ее чрезвычайно сильно, а делает ли он это свыше своей способности, мы узнаем довольно скоро. Или не узнаем — нас больше не будет. [c.326]

Оглавление книги