(М. Радио и связь.1982.)
(стр. 34) В конце концов, необходимо провести линию, разделяющую интеллект человека и машины. Если такой линии нет, то адвокаты машинной психотерапии могут оказаться просто вестниками эпохи, в которой человек в конце концов будет признан ничем иным, как часовым механизмом.
МОЁ. Проблема не совсем та. В человеке, кроме интеллекта, есть еще и нравственность, которая, вообще говоря, от интеллекта не зависит. И даже если человеческий и машинный интеллект - одно и то же (что вполне возможно, т.к. интеллект - это постановка и решение задач, и ничего более), то человека все равно не свести к часовому механизму, так как у него есть такая вещь, как совесть. Эмоции еще можно заложить в машину, а совесть - нет.
Вот куда заводит материализм - и самого человека сводят к часовому механизму!
(37)...я постоянно сталкиваюсь со студентами, некоторые из которых уже отвергли все способы познания мира, кроме научного, и искали лишь более глубокого и более догматичного наставления в этой вере.
Иудаистская традиция, например, основывается на идее договорных взаимоотношений между богом и человеком. Подобные взаимоотношения не должны препятствовать и фактически не препятствуют независимости как бога, так и человека, поскольку договор - это соглашение, которое добровольно заключают стороны, свободные от необходимости в него вступать. Независимость и ответственность человека - центральный элемент всех религиозных систем. С другой стороны, духовные космологии, порожденные современной наукой, заражены микробом логической необходимости. Они, за исключением тех случаев, когда ими оперируют мудрейшие ученые и философы, не удовлетворяются больше объяснениями явлений, но претендуют на определение того, какова действительность и какой она должна быть. Короче, они сводят истину к доказуемости.
МОЕ. Это прямо про марксизм.
(40) Одно из положений, которое я намереваюсь отстаивать, обманчиво очевидно: оно состоит лишь в том, что существуют важные различия между людьми и машинами, когда они выступают в роли "мыслителей". Я буду настаивать на том, что какими бы разумными мы ни могли сделать вычислительные машины, существуют такие акты мышления, которые должны оставаться уделом только человека. Таким образом, одна из социально важных проблем, которые, я намерен поднять, касается должной роли вычислительных машин в общественной системе. Но, как мы увидим, эта проблема выходит за пределы собственно вычислительных машин в том, что в конечном счете речь идет о логичности как таковой - независимо от того, закодирована она в виде машинных программ или нет.
Читателю-неспециалисту можно простить его более, чем слегка скептическое отношение к тому, что кто-либо будет вынужден доказывать полную вычислимость человеческой мысли. Но уже сам этот скептицизм может свидетельствовать о том, как замечательно искусно и обманчиво современная наука влияет на образ реальности, создаваемый человеком.
Конечно, многим из того, что мы считаем сегодня хорошим и полезным, а также большей частью того, что мы назвали бы знанием и ученостью, мы обязаны науке. Ее можно, однако, рассматривать также и как наркотик, к которому уже выработалась привычка. Наше бесконечное напичкивание наукой не только привело нас к зависимости от нее, но и, как это бывает со многими другими лекарствами, принимаемыми во все возрастающих дозах, наука постепенно превратилась в медленно действующий яд.
(43) Неверно, снова вопреки общему убеждению, также и то, что представление единственного контрпримера, признание истинности которого явно опровергает научную теорию, всегда ведет к немедленному отказу от этой теории. Вероятно, все научные теории, признаваемые сейчас самими учеными (за исключением лишь тех сугубо формальных теорий, которые не претендуют на какие-либо связи с эмпирическим миром), сталкиваются сегодня с противоречащими им данными, имеющими не пренебрежимо малое значение, такого характера, что, если, как и выше, считать их абсолютно достоверными, они превратят эти теории в логически несостоятельные. Часто для того, чтобы объяснить (вернее, отмахнуться) появление подобных данных, их приписывают разного рода ошибкам, скажем, ошибкам наблюдения, либо они объявляются несущественными, либо высказывается Предположение (т. е. в ход идет ;вера) о существовании еще только предстоящего быть открытым способа, который в свое время позволит принять эти данные как достоверные и одновременно включить их в те научные теории, которые, как считалось первоначально, они опровергают. Таким образом, ученые продолжают полагаться на ущербные теории и выводить из них "научные факты"
МОЁ. Примеров тому множество. Есть еще один прием. Например, по Марксу, социалистическая революция должна была победить в самой развитой капиталистической стране. Однако она победила в одной из самых неразвитых и практически феодальной. Это объясняется так: дескать, есть свои особенности. Неслабая особенность: факт, полностью опровергающий выводы теории! Кстати, ни в одной развитой капиталистической стране до сих пор революцией не пахнет!
(44) Научные утверждения никогда не могут быть несомненными; они могут быть лишь более или менее правдоподобными. Термин же "правдоподобие" относится к психологии личности, т. е. он имеет значение только применительно к некоторому определенному наблюдателю. Сказать, что какое-то высказывание правдоподобно, значит, в конце концов, сказать, что его разделяет некто, свободный не делать этого, т. е. наблюдатель, который, применив рассуждения и (возможно) интуицию, решил рассматривать это высказывание заслуживающим того, чтобы считать его верным. Как же может тогда наука, твердо и бесповоротно опирающаяся на огромную совокупность человеческих оценок, продемонстрировать, что человеческие оценки иллюзорны? Это немыслимо без отказа науки от статуса единственного законного пути к пониманию человека и его мира.
(45) Мы умеем считать, но быстро забываем, как сказать, что мы считаем и зачем.
МОЁ. Вообще, все мысли этой главы весьма близки к воззрениям Л.Н. И тем более приятно, что высказывает их человек, в науке не последнее место занимающий! Очень хорошо!
МОЕ. (примечание из 1999 года). Далее идет глава про одержимого программиста. В конспекте я отметил, что она просто великолепна, но при вводе в интернет я использовал OCR, а не переписывание вручную, и потому не поленился поместить сюда эту главу почти целиком. Она того стоит!
(155) НАУКА И ОДЕРЖИМЫЙ ПРОГРАММИСТ
(161) Разложение, порождаемое всемогуществом программиста вычислительной машины, проявляется в форме, поучительной для сферы, значительно более обширной, чем мир вычислительной техники.
Чтобы оценить его, придется обратиться к примеру психического расстройства, хотя и очень давно известного, но, по-видимому, преобразовавшегося благодаря вычислительным машинам в новую разновидность - манию программирования.
Где бы ни организовывались вычислительные центры в бесчисленных местах в Соединенных Штатах, так же, как фактически во всех промышленных районах мира, - можно наблюдать блестящих молодых людей, всклокоченных, часто с запавшими, но сияющими глазами, которые сидят за пультами управления вычислительных машин, сжав в напряжении руки в ожидании возможности пустить в ход свои пальцы, уже занесенные над кнопками и клавишами, приковывающими их внимание так же, как брошенная игральная кость приковывает взгляд игрока. Если они не находятся в таком трансе, то часто сидят за столами, заваленными машинными распечатками, которые они сосредоточенно изучают подобно людям, одержимым постижением кабалистического текста. Они работают чуть ли не до полного изнеможения, по 20-30 часов подряд. Еду, если только они о ней заботятся, им приносят (кофе, кока-кола, бутерброды) . Если возможно, они спят около вычислительной машины на раскладушках, но всего несколько часов, а затем - снова за пульт управления или к распечаткам. Их измятая одежда, немытые и небритые физиономии, нечесаные волосы - все свидетельствует о том, что они не обращают внимания ни на свое тело, ни на мир, в котором живут. Они существуют, по крайней мере когда они так увлечены, лишь в связи с вычислительными машинами и ради них. Они - "машинные наркоманы", одержимые программисты. Это явление наблюдается во всем мире.
Как же отличить одержимого программиста от просто преданного своему делу трудолюбивого программиста-профессионала? В первую очередь, на основе того, что обычный профессиональный программист занимается задачей, требующей решения, а одержимый программист рассматривает задачу в основном в качестве предлога для обращения к вычислительной машине. Профессиональный программист, как правило, обсуждает с другими свои проблемы, связанные с содержанием задачи и техникой программирования. Обычно он проделывает обширную подготовительную работу (построение блок-схемы, написание программы) прежде, чем приступить к работе собственно с вычислительной машиной. Его сеансы работы с вычислительной машиной бывают сравнительно непродолжительными и он даже перепоручает кому-нибудь работу за пультом управления. Он создает свои программы неторопливо и систематически. Если что-то не получается, он значительную часть времени проводит не возле вычислительной машины, а тщательно продумывает гипотезы, объясняющие отказы, и планирует эксперименты, позволяющие эти гипотезы проверять. И снова сам процесс выполнения программы на машине он может доверить кому-то. Он способен, ожидая результатов от ЭВМ, заниматься другими аспектами своей работы, например документированием уже законченной части. Когда, наконец, он завершит программу, которую должен был разработать, программист в состоянии составить ее точное описание и перейти к другим проблемам. Профессионалы считают программирование средством достижения цели, а не целью как таковой. Они удовлетворены решением содержательной задачи, а не тем, что вычислительная машина подчиняется их воле.
Обычно одержимый программист - превосходный "технарь", отлично во всех подробностях знающий вычислительную машину, на которой работает, ее периферийное оборудование, операционную систему и т. п. Часто его терпят в вычислительном центре благодаря его знанию системы и умению быстро, скажем, за один или два сеанса по 20 ч писать небольшие вспомогательные системные программы. Со временем вычислительный центр и в самом деле мог бы использовать ряд его программ.
Однако, поскольку одержимого программиста едва ли можно побудить заниматься чем-либо кроме программирования, он почти .никогда не документирует свои программы после того, как кончает ими заниматься. Центр может попасть в зависимость от него в том, что касается обучения использованию и эксплуатации написанных им программ, структура которых вряд ли кому-нибудь кроме него понятна. Его положение несколько напоминает статут служащего банка, которого, хотя он ничем особенно не занимается, держат на работе потому, что он один знает комбинации замка сейфа. Основные интересы одержимого программиста связаны не с маленькими программами, а с очень большими, очень "престижными" программными системами.
Обычно системы, за создание которых он принимается и над которыми лихорадочно работает иногда месяц, два или три, имеют чрезвычайно претенциозные, но исключительно нечетко сформулированные цели. Вот несколько примеров таких честолюбивых замыслов: новые машинные языки, облегчающие связь человека с вычислительной машиной; универсальная система, поддающаяся обучению любой настольной игре; система, которая облегчает специалистам в области вычислительной техники создание сверхсистем (самая любимая задача.
Для многих таких проектов характерно, что программист может долго считать, будто для их выполнения достаточно лишь знаний в области вычислительных машин, программирования и тому подобных предметов. Такими знаниями он, конечно, обладает в изобилии. На самом деле работы такого рода часто прекращаются именно в тот момент, когда они теряют свой чисто "кровосмесительный" характер, т. е. программирование приходится прервать для того, чтобы получить информацию из мира вне пределов вычислительной техники.
В отличие от профессионала одержимый программист не может заниматься другими задачами, даже тесно связанными с его программой, в те периоды, когда он непосредственно не работает на машине. Он с трудом переносит разлуку с машиной. Если же волею обстоятельств ему приходится с ней расстаться, то по крайней мере с ним остаются его распечатки. Он штудирует их, рассказывает о них всякому, кто согласен его выслушивать, хотя, естественно, никто разобраться в них не в состоянии. Действительно, когда он охвачен своей манией, он не может говорить ни о чем, кроме своей программы. Но единственный момент, когда он счастлив, время, проведенное за пультом управления вычислительной машины. И тогда он не станет беседовать ни с кем, кроме машины. Скоро мы узнаем, о чем они беседуют.
Одержимый программист посвящает работе над своими великими проектами столько времени, сколько ему удается. "Работать" - это, однако, не то слово, которое он использует; то, что он делает, он называет "хакированием". "То hack", согласно словарю, - это "рассекать беспорядочно, неумело или без определенной цели; кромсать с помощью или как бы посредством многократных ударов какого-либо рубящего инструмента"). Я уже отмечал, что одержимый программист, или хакер, .как он сам себя называет, обычно превосходный "технарь". Казалось бы, он не действует "неумело", как это указывается в определении. Однако определение справедливо здесь в том более глубоком смысле, что хакер "действует без определенной цели"; он не в состоянии поставить перед собой ясно сформулированную долгосрочную цель и выработать план ее достижения, .поскольку он обладает лишь умением, но не знанием. Он не располагает ничем, что он мог бы анализировать или синтезировать; короче говоря, у него нет предмета для построения теорий. Его мастерство, таким образом, бесцельно, даже беспредметно. Оно просто не имеет никакого отношения к чему-нибудь, кроме того инструмента, с помощью которого оно может быть реализовано, Его мастерство напоминает искусства переписчика в монастыре, хотя и неграмотного, но первоклассного каллиграфа. Следовательно, все эти великолепные проекты должны неизбежно сопровождаться иллюзиями, а именно иллюзиями грандиозности. Он создаст одну грандиозную систему, в рамках которой все остальные специалисты будут потом писать свои системы.
(Следует отметить, что не все хакеры страдают патологией одержимого программиста. В самом деле, если бы не эта в высшей степени творческая работа людей, гордо называющих себя хакерами, немногие из сегодняшних изощренных вычислительных систем с разделением времени, трансляторов машинных языков, систем машинной графики и так далее вообще существовали бы.)
Конечно, можно создавать системы программирования без плана и без знания, не говоря уже о понимании соответствующих глубоких структурных проблем так же, как можно "хакировать" дома, города, системы плотин и национальную экономическую политику. По мере того как созданные подобным образом системы начинают разрастаться, они также становятся все более неустойчивыми. Если одна из функций такой системы начинает выполняться непредписанным образом, то можно найти временное решение, обеспечивающее устранение явной неисправности. Когда же нет общей теории для системы в целом, последняя представляет собой лишь более или менее хаотическую совокупность подсистем, взаимное влияние которых на поведение друг друга можно обнаружить только частично и с помощью эксперимента. Часть времени, проводимого за пультом управления, хакер посвящает наращиванию новых подсистем на уже сформированную им структуру (он называет их "новыми средствами"), а остальное время - попыткам найти объяснения неправильного функционирования уже включенных в систему подструктур. Вот о чем он беседует с вычислительной машиной.
Психологическая ситуация, в которой оказывается предающийся подобным занятиям одержимый программист, в основном определяется следующими двумя явно противоположными обстоятельствами: 1) он считает, что может заставить ЭВМ делать все, что он хочет; 2) вычислительная машина, постоянно предоставляет ему неопровержимые свидетельства его неудач. И это-позор для него. Здесь нет выхода. Инженер может смириться с тем, что есть вещи, которые он не знает. Программист же действует в мире, созданном исключительно им самим. Вычислительная машина бросает вызов его могуществу, а не знаниям.
Возбуждение программиста достигает наивысшего, лихорадочного уровня тогда, когда он сталкивается с самой неясной ошибкой: все должно работать, но вычислительная машина тем не. менее ведет себя позорно, не так, как следует, причем в самых таинственных, явно не связанных между собой 'проявлениях. Именно в таких ситуациях система, созданная самим программистом, показывает, что у нее есть своя собственная жизнь и она определенно выходит из-под его контроля. Это та самая ситуация, когда идея о том, что вычислительную машину можно "заставить делать все, что угодно", становится очень уместной и реальной. Дело в том, что в этих обстоятельствах артефакт неправильного функционирования порожден самим программистом. Ложное поведение может быть, как мы уже указывали, исключительно следствием того, что сделано самим программистом. А это он, вероятно, в состоянии понять, устранить и переделать таким образом, чтобы результат в большей степени соответствовал его целям. Соответственно он приходит в неистовство я развивает бешеную активность, когда ему кажется, что наконец он нашел источник неприятностей. Если в этот момент время его работы за пультом подходит к концу, то он подвергает свою программу ужасному риску, внося в нее одно за другим в течение минут или даже секунд серьезные изменения, не заботясь о таких "пустяках", как регистрация этих изменений, и умоляя дать ему еще минутку. В таких условиях он может очень быстро и фактически безвозвратно погубить результаты многих недель собственного труда. Если же ему удается обнаружить глубоко спрятанную ошибку, которая действительно отвечает за значительную долю неправильного функционирования, его радость неописуема. Он испытывает трепет, видя, как до того умиравшая программа неожиданно возвращается к жизни (по-другому это не назовешь). Когда обнаруживается и исправляется какая-то глубинная ошибка, многие отдельные части программы, не дававшие до тех пор ничего, кроме чего-то совершенно невразумительного, мгновенно становятся покладистыми и выдают предписанные результаты. У диагноста есть основания быть довольным и даже гордиться, если ошибка действительно коренилась где-то глубоко в системе.
Но гордость и воодушевление одержимого программиста очень быстротечны. Его успех заключается в том, что он продемонстрировал вычислительной машине, кто здесь хозяин. И показав, что он может заставить ее сделать то, что было ей предписано, он немедленно решает добиться от нее большего.
В результате весь цикл начинается сначала. Программист начинает "улучшать" свою систему, скажем, увеличивая ее быстродействие, вводя дополнительные "новые средства" или упрощая ввод данных в систему и вывод их из нее. Модификация работающей программы неизбежно приводит к выходу из строя ряда ее подструктур; в конечном счете они представляют аморфную совокупность процессов, взаимодействие которых имеет в сущности случайный характер. Его явные попытки улучшить и перевести на новый, более высокий уровень свое произведение представляют собой на самом деле подлинное нападение на него же, единственный результат которого-возобновление борьбы одержимого программиста с вычислительной машиной. Если же подрыв собственной работы программиста предотвращается, например, административным решением, то он впадает в депрессию, мрачнеет, перестает интересоваться чем бы то ни было вокруг. Лишь новая возможность поработать на машине может поднять его дух.
Следует подчеркнуть, что нарисованный мною портрет наверняка опознают в любой точке мира, где есть вычислительная машина. Он воплощает разновидность психопатологии, значительно менее расплывчатую, чем, например, слабо выраженные формы шизофрении или паранойи. В то же время это чрезвычайно сильно выраженная форма расстройства, поразившая большую часть нашего общества.
Как же следует относиться к этому наваждению? В первую очередь необходимо убедиться в том, что это действительно мания. Обычно стремление достичь удовлетворения вызывает поведение, для которого характерны пристрастность и самопроизвольность. Удовлетворение подобных желаний вызывает удовольствие. Поведение одержимого программиста вынужденное; в том, как он себя ведет, мало самопроизвольности, и удовлетворение его номинальных желаний не вызывает у него удовольствия. У вычислительной машины он ищет не удовольствия, а ободрения. Аналогией с психопатологией такого рода является неумолимая и неосознанная тяга к утешению, характерная для одержимого игрока.
Одержимый игрок также четко отличается от профессионального игрока. Последний в некотором важном смысле вообще не игрок. (Можно не учитывать шулеров и .профессиональных мошенников, поскольку ни те, ни другие не являются явно игроками.) Так называемый профессиональный игрок-это, в сущности, специалист то прикладной статистике и, возможно, по прикладной психологии. Его доходы почти не зависят от удачи. Он знаком с приложениями теории вероятностей и использует ее для подсчёта своих шансов, а затем разыгрывает эти шансы в таких комбинациях и совокупностях, которые позволяют ему прогнозировать доход на период, скажем, в год с почти математической точностью. Это не азартная игра.
Существуют также люди, играющие в азартные игры, но не являющиеся ни профессиональными, ни одержимыми игроками. Для одержимого игрока игра-это все. Даже выигрыш менее важен, чем сама игра. Он счастлив, так сказать, только тогда, когда находится за игорным столом.
Всякий, работавший в вычислительном центре или в казино, двери которых к ночи закрываются, узнает сцену, описанную Ф. М. Достоевским, который сам был страстным игроком, в "Игроке": "В одиннадцатом часу у игорных столов остаются настоящие, отчаянные игроки, для которых на водах существует только одна рулетка, которые и .приехали для нее одной, которые плохо замечают, что вокруг них происходит, и ничем не интересуются во весь сезон, а только играют с утра до ночи и готовы были бы играть, пожалуй, и всю ночь до рассвета, если б можно было. И всегда они с досадой расходятся, когда в двенадцать часов закрывают рулетку. И когда старший крупер перед закрытием рулетки, около двенадцати часов, возглашает: "Les trois derniers coups, messieurs!"), то они готовы иногда проставить на этих трех .последних ударах все, что у них есть в кармане, - и действительно тут-то наиболее и проигрываются").
Достоевский с тем же успехом мог бы описать и машинный зал.
Медицинская литература, посвященная маниакальному пристрастию к игре, в основном занимается психогенезом этой мании и, следовательно, рассматривает ее почти исключительно с психоаналитических позиций. В мои задачи не входят психоаналитические рассуждения. Достаточно лишь отметить, что все психоаналитики, начиная с Фрейда, считали манию величия и иллюзии всемогущества основными компонентами психической деятельности одержимого игрока. Не следует принимать либо отвергать психоаналитические объяснения источников подобных бредовых расстройств (например, что они коренятся в неразрешенных эдиповых конфликтах, порождающих стремление добиться превосходства над отцом, которое ведет в свою очередь к подсознательной мотивации уступать), чтобы присоединиться к психоаналитикам и таким писателям, как Достоевский, в признании ведущей роли мании величия, порождающей бред всемогущества, в одержимости игрой.
Игрок, согласно психоаналитику Эдмунду Берглеру, придерживается трех следующих основных принципов:
1) субъективно он уверен в своем выигрыше; 2) непоколебимо верит в свою одаренность; 3) считает, что жизнь сама по себе - лишь игра.
Какие же могут быть основания для уверенности в победе в сугубо случайной игре? Сознавать, что-то, как упадет пара игральных костей или какая будет открыта карта, это сугубо случайное событие, то же самое, что сознавать собственную неспособность повлиять на его исход. Вот в этом-то и все дело! Одержимый игрок считает, что ему подчиняется магический мир, доступ в который имеют лишь немногие. "Он верит, - пишет Берглер, - что рок избрал его... и поддерживает с ним связь посредством малозаметных знаков, выражающих одобрение или осуждение". Игрок - ученый этого магического мира. Он - толкователь знаков, подаваемых ему роком, точно так же, как ученый, действующий в реальном мире, истолковывает знаки, которые природа посылает всем тем, кто даст себе труд обратить на них внимание. И подобно нормальному ученому одержимый игрок всегда имеет предварительную гипотезу, объясняющую почти все знаки, наблюдавшиеся им прежде, т. е. дающую очень близкую к полной картину интересующих его аспектов вселенной.
(172) Программист волен каждое очередное затруднение трактовать как некоторый специальный случай, для которого следует специально написать особую подпрограмму, и таким способом он включает этот случай в свою систему. Прибегая к подобному неограниченному наращиванию в своих системах эпициклов, и программисты, и игроки приобретают неисчерпаемый резерв объяснений, позволяющих им обходить даже самые серьезные трудности.
Игрок постоянно бросает вызов вероятностным законам; он отказывается признавать их операционное значение и тем самым отказывает им в праве быть основой реалистического озарения. Программа может оказаться неудачной из-за серьезных структурных, математических или лингвистических трудностей, для которых существуют соответствующие теории. Одержимый же программист на большинство проявлений таких неудач отвечает дальнейшими программными ухищрениями и, таким образом, подобно игроку не дает им возможности сгруппироваться в его сознании вокруг соответствующих теорий. Одержимые программисты известны тем, что не читают литературу, посвященную основным проблемам тех областей, в которых они номинально работают. Эти три механизма, названные Поляни логическим кругом, авторасширением и подавлением образования ядер, составляют основу оборонительного оружия истого приверженца магических систем мышления и, в частности, одержимого программиста. Литература по психиатрии свидетельствует о том, что эта патология тесно связана с бредом всемогущества. Убеждение в собственном всемогуществе не приносит, однако, покоя - оно все время требует подтверждения. Критерий наличия власти - возможность управлять. Критерий абсолютной власти - точное и совершенное управление. Сталкиваясь с одержимым программистом, нам приходится также иметь дело с его потребностью управлять и его потребностью в уверенности.
Страстная потребность в уверенности составляет, конечно, главную основу науки, философии и религии. Стремление же к управлению - неотъемлемый элемент всей техники. В действительности причина нашего столь сильного интереса к одержимому программисту заключается в том, что мы не усматриваем существенного разрыва между его патологическими мотивами и поведением и, в принципе, мотивами и поведением современного ученого и инженера. Одержимый программист- это в чистом виде общеизвестный безумный ученый, получивший в свое распоряжение театр (вычислительную машину), в котором он разыгрывает свои фантастические спектакли.
Обратимся снова к трем замечаниям Берглера об игроках. Во-первых, игрок субъективно уверен в том, что он выиграет. Точно так же думает и одержимый программист - правда, творящий свой мир на универсальной машине имеет для такой уверенности некоторые реальные основания. Ученые, за некоторыми исключениями, убеждены в том же: то, что наука не сделала, она пока еще не сделала; вопросы, на которые наука не ответила, пока еще не нашли ответа. Во-вторых, игрок, безусловно, верит в свою одаренность. В-третьих, игрок считает, что жизнь сама по себе - всего лишь игра. Аналогично одержимый программист убежден в том, что жизнь - это всего лишь прогон некоторой программы на грандиознейшей вычислительной машине, а потому любой аспект жизни в конечном счете можно объяснить в программных терминах. Многие ученые (за некоторым примечательным исключением) также считают, что все стороны жизни и природы можно в конце концов объяснить в сугубо научных терминах. В самом деле, как правильно указывает Поляни, устойчивость научных убеждений защищается такими же механизмами, которые охраняют и магические системы представлений:
"Любое противоречие между определенным научным понятием и эмпирическими фактами можно объяснить с помощью других научных понятий; существует готовый запас приемлемых научных гипотез, которые используются для объяснения любого мыслимого события... в пределах собственно науки, устойчивость теорий по отношению к реальному опыту поддерживается эпициклическими резервами, подавляющими альтернативные концепции в зародыше"
МОЁ. Именно это меня и тревожит в науке: оголтелые наукоманы пытаются все "объяснить", подогнать под свои схемы, и у каждого своя схема, и он обманывает себя десятилетиями, как игрок (наконец-то найдено хорошее слово!). Но есть вещи, которые объяснять не надо. Это во-первых. А во-вторых, что из того, что что-то "объяснилось" (скорее всего, неверно)? И главное - они видят в науке цель, а не средство. Цель - все объяснить. Опасно!
(174) Итак, можно построить некий континуум. На одном его конце находятся ученые и технократы, во многом похожее на одержимого программиста, на другом - помещаются те ученые, гуманитарии, философы, художники и представители церкви, которые как личности стремятся к достижению понимания других людей, исходя изо всех мыслимых точек зрения. Мировыми делами, судя по всему, вершат технократы, психический склад которых опасно близок психическому складу одержимого программиста. Голоса же в пользу разумности второго подхода слышны все слабее и слабее.
Существует известный анекдот, который может помочь прояснить этот момент. Однажды темной ночью полицейский набрел на пьяного, который стоя на коленях что-то искал у фонарного столба. Он объяснил полицейскому, что ищет ключи, потерянные где-то там, в темноте. Полицейский спросил его: "Если ключи потеряны "там", почему вы ищете их под этим фонарем?" Пьяный ответил: "Потому что здесь светлее". Именно таким способом действует и наука. Важно осознать это обстоятельство, но неуместно и бессмысленно порицать за это науку. Действительно, разыскиваемое можно найти только там, где освещено. Иногда вы находите даже новый источник света в том круге света, в котором ведете поиск. Существенны две вещи: размер светового круга, составляющего "космос" вашего исследования, и истинный дух исследования. Последний должен отличаться предельно ясным осознанием того, что вокруг - темнота, где существуют источники света, о которых до сих пор исследователю известно очень мало.
Наука может продвигаться вперед, рассматривая только упрощенные модели действительности. Первый шаг этого процесса упрощения - абстракция. Абстрагирование означает отказ от учета всех эмпирических данных, не укладывающихся в ту конкретную концептуальную схему, в пределах которой в данный момент наука работает, т. е. не попадающих в свет того конкретного фонаря, под которым науке сейчас следует искать свои ключи.
МОЕ. Пример: материализм рассматривает взаимные отношения между материальными вещами, или же материализует такие вещи, как производственные отношения. При этом он абстрагируется от таких понятий, как совесть, или пытается вывести их опять же из своих построений.
(175) Олдос Хаксли достаточно ясно заметил по этому поводу:
"В прагматическом смысле [ученые] вполне оправданно действуют столь эксцентрическим и чрезвычайно произвольным образом; дело в том, что, сосредоточиваясь исключительно на измеримых аспектах тех элементов опыта, которые поддаются объяснению в терминах систем, подчиняющихся принципу причинности, они получают возможность достичь очень большой и все растущей степени контроля над природной энергией. Власть, однако, - не то же самое, что постижение сущности, и научная картина мира не есть адекватное представление реальности по той простой причине, что наука даже и не претендует на использование эмпирического опыта в целом, а работает лишь с его определенными сторонами в определенных контекстах. Все это вполне отчетливо сознают люди науки, обладающие философским складом ума. К сожалению, некоторые ученые, многие технократы и большинство потребителей технических новинок не имеют ни времени, ни склонности изучать основания и историю науки. Соответственно они склонны считать картину мира, неявно представляемую научными теориями, полным и исчерпывающим описанием реальности; они склонны рассматривать те элементы опыта, которые ученые не учитывают (поскольку для работы с ними им не хватает компетентности), как нечто менее существенное, чем те аспекты, которые наука произвольно выбрала для абстрагирования из бесконечно богатой всеобщности имеющихся фактов" .
МОЁ. Лучше и не скажешь!
(177) Одно из наиболее ясных описаний способа, при помощи которого наука преднамеренно и сознательно планирует искажение реальности, а затем рассматривает искаженную версию как "полное и исчерпывающее" представление, дан ученым-кибернетиком Гербертом А. Саймоном в связи с изложением им своих фундаментальных теоретических позиций:
"В том, что касается принципов своего поведения, муравей весьма прост. Кажущаяся сложность его поведения во времени в основном. отражает сложность внешней среды, в которой он функционирует ... истинность [рассматриваемой] гипотезы не должна зависеть от простоты или сложности микроскопического строения муравья. На клеточном или молекулярном уровне муравьи, безусловно, весьма сложные живые организмы; но подробности устройства внутренней среды муравья почти никак не влияют на его поведение во внешней среде. Поэтому автомат, несмотря на полное отличие его от муравья на микроскопическом уровне, может тем не менее в общих чертах моделировать поведение последнего."...
"...я подробно остановлюсь на этой гипотезе, только слово "муравей" заменю на "человек".
В том, что касается принципов своего поведения, человек весьма прост. Кажущаяся сложность его поведения во времени в основном отражает сложность внешней среды, в которой он живет" ... "... я полагаю, что гипотеза, о которой идет речь, справедлива для человека в целом ..").
Одним росчерком пера, простой заменой слова "муравей" словом "человек" предполагаемая несущественность микроскопических элементов внутренней среды муравья для его поведения была распространена на несущественность внутренней среды человека в целом для его поведения! За 23 года до Саймона Хаксли указывал (будто слова Саймона звучали в его ушах): "В связи с престижем науки как источника могущества и общим пренебрежением философией популярное в наше время Weltanschauung (концепция о развитии событий и целей мира) содержит в значительной степени то, что можно было бы определить как мышление в стиле "не что иное, как". Человеческие существа, как более или менее молчаливо подразумевается, - это не что иное, как телесные оболочки, животные, даже машины ... ценности - это не что иное, как иллюзии, перепутанные различным образом с нашим опытом жизни в этом мире; особенности психической деятельности - это не что иное, как вторичные патологические явления. ... духовное начало - это не что иное, как ... и так далее".
МОЁ: Да, именно это и характеризует ученого. Навесил бирку, и все хорошо. Христианство -ничто иное, как религия угнетенного класса, совесть - ничто иное, как порождение несоответствия и т.д. И все, на кладбище все спокойненько, все объяснено, двигай дальше ни о чем не задумываясь.
(177) Конечно, мы имеем здесь дело не с "популярным" Weltanschauung, а с точкой зрения одного из наиболее уважаемых американских ученых. Кроме того, допущение Саймона о том, что несущественно для поведения человека в целом, не является "более или менее неявным"; наоборот, к его чести, он сделал его совершенно явным.
Саймон к тому же исключительно ясно и определенно показывает нам, каким образом и насколько тщательно ученый устраняет для себя возможность перехода через границу, разделяющую круг света, отбрасываемый его собственными исходными предпосылками, и окружающей его тьмой. Рассказывая, каким образом он проверял тезисы, лежащие в основе его гипотезы, т. е. что человек весьма прост и тому подобное, он пишет:
"Я собрал результаты некоторых опытов, касающихся познавательных возможностей человека, и особенно тех, которые проводились в психологических лабораториях.
Поведение людей при решении криптоарифметических задач, при формировании понятий, заучивании наизусть, хранении информации в кратковременной памяти, обработке зрительных стимулов и при выполнении заданий, требующих использования естественного языка, определенно свидетельствует в пользу справедливости рассмотренных тезисов... обобщения, относящиеся к законам мышления человека, получаем на основе экспериментальных данных. Они весьма просты, чего и следовало ожидать, учитывая исходные гипотезы. Более того, хотя общая картина будет постоянно расширяться и проясняться, не следует обкидать существенного ее усложнения. Только свойственное, человеку высокомерие вынуждает нас считать, что сложность выбираемого нами пути и причудливость траектории движения муравья объясняются различными причинами!"
(178) Гипотеза, проверяемая здесь, частично заключается в том, что внутренний мир человека в целом не связан с его поведением. Можно было бы предположить, что для его проверки будут отыскиваться экспериментальные данные, способные его опровергнуть. Можно было бы, например, изучать поведение человека, перенесшего горе или испытавшего глубокое религиозное переживание. Эти примеры, однако, нелегко совместить с методами изучения человека, развитыми в психологических лабораториях. Маловероятно также, что они приведут к получению тех простых результатов, к которым, как ожидается, должны привести экспериментатора его гипотезы. Они лежат в темноте, там, где теоретик на самом деле потерял свои ключи; но насколько же лучше освещение под фонарным столбом, который сам он, и воздвиг.
Следовательно, нет вообще никаких шансов за то, что гипотеза Саймона будет опровергнута в его глазах или в глазах его коллег. Круг света, определяющий и ограничивающий область, доступную его зрению, не освещает ни одну из областей, в которых могли бы возникать проблемы, скажем, ценностей или субъективности. Вопросы такого рода, находящиеся, как им и следует, полностью за пределами мира его рассуждений, могут, следовательно, не приводить его к отказу своей концептуальной схемы, имеющей (подобно всем иным магическим системам объяснения) наготове резерв приемлемых гипотез, пригодных для объяснения любого мыслимого события.
Почти вся современная наука и техника обнаруживают синдром поиска пьяного и страдают близорукостью, являющейся его непосредственным результатом. Но, как указывает также Хаксли, эта близорукость не могла бы сохраняться, если бы не наличие свидетельств ее достижений. Наука и техника поддерживаются благодаря тому, что они дают возможность властвовать и управлять. В той же степени, в какой вычислительные машины и вычисления могут считаться частью науки и техники, они пользуются той же кормушкой. Крайность, представляемая одержимым программистом, демонстрирует нам, что вычислительные машины обладают могуществом, достаточным для порождения бреда мании величия. Но этот род могущества вычислительной машины - просто крайний случай могущества, являющегося неотъемлемым элементом всякой системы мышления, находящей в самой себе подтверждение своей истинности. Возможно, мы начинаем понимать, что абстрактные системы - игры, которые люди, работающие с вычислительными машинами, порождают, пользуясь своей безграничной свободой от ограничений, кладущих предел мечтам всех, работающих в реальном мире, - могут терпеть сокрушительные неудачи, если их правила применяются по-настоящему. Нам следует также принять к сведению, что такая же опасность присуща и другим магическим системам, в равной степени оторванным от подлинного человеческого опыта, причем особенно в тех науках, которые настаивают на своей способности включить в свои абстрактные скелетообразные схемы человека в целом.
(265) Безрассудная антропоморфизация вычислительной машины, столь распространенная, особенно в среде "искусственной интеллигенции" [...]
МОЁ:Отличный термин!
(284) Урок, который я хотел здесь преподать, не заключается в том, что мозг человека подчиняется гейзенберговским неопределенностям (хотя, возможно, это так и есть), и нам, следовательно, никогда не удастся постичь его полностью в рамках тех типов редукции к дискретным явлениям, которые имел в виду Лейбниц. Урок в данном случае, скорее, состоит в том, что та часть человеческого мозга, которая вступает с нами в коммуникацию с помощью рационального и научного языка, сама представляет собой некий инструмент, искажающий объект своего наблюдения, в частности, своего бессловесного партнера - бессознательное, между которым и нашим сознательным "я" оно служит связующим звеном. Связи и ограничения этого инструмента определяют то, что должно составлять рациональные (и снова, если хотите, научные) описания и интерпретации явлений, свойственных нашему миру. Следовательно, эти описания никогда не могут быть полными, точно так же, как партитура не может обеспечивать исчерпывающего описания или интерпретации даже самой простой песенки. Но (и спасительную силу этого феномена высокомерный и беспардонный сциентизм пытается отнять у нас) мы познаем и понимаем не исключительно посредством сознательных механизмов. Мы в состоянии слышать "третьим ухом", ощущать животрепещущую истину, являющуюся истиной, выходящей за пределы любых стандартов доказуемости. Я утверждаю, что именно эта разновидность понимания и соответствующая разновидность интеллекта, из него выводимая, не поддаются имитации на вычислительных машинах. У нас есть обыкновение (и иногда мы извлекаем из этого пользу) говорить о человеке, мозге, разуме и прочих универсальных понятиях подобного рода. Однако постепенно, исподволь наш мозг заражается тем, что А. Н. Уайтхед назвал ошибкой неуместной конкретности. Мы начинаем считать, что эти теоретические понятия в конечном счете интерпретируемы как наблюдения и что в "обозримом будущем" мы будем располагать тонкими инструментами, позволяющими измерять "объекты", к которым эти понятия относятся. Но не существует такой вещи, как мозг вообще; есть лишь индивидуальные мозги, каждый из которых принадлежит не человеку вообще, а отдельному человеческому существу.
Я настаиваю на том, что невозможно измерять интеллект искусно сконструированными мерными рейками, располагаемыми вдоль одномерного континуума. Конструктивное обсуждение интеллекта возможно лишь применительно к определенным областям мышления и действия. На основании этого я делаю вывод о том, что не может принести никакой пользы организация серьезной работы на основе представлений о том, "сколько" интеллекта можно придать вычислительной машине. Полемика, базирующаяся на идеях такого рода (например, "превзойдут ли вычислительные машины когда-либо человека в области разума?"), бесплодна.
Я утверждаю, что человек как индивидуум, подобно любому другому живому организму, определяется теми задачами, с которыми он сталкивается. Уникальность человека связана с тем обстоятельством, что он, неизбежно сталкивается с задачами, порождаемыми его уникальными биологическими и эмоциональными потребностями. Человеческий индивидуум постоянно прерывает в состоянии становления. Поддержание этого состояния, формирование человеческой природы, в сущности, обеспечение самого выживания человека зависит от того, что он сам и другие люди относятся к нему как к человеческому существу. Никакой иной живой организм и тем более ни одну вычислительную машину невозможно заставить воспринимать сугубо человеческие проблемы в чисто человеческих категориях. И поскольку сфера действия интеллекта человека определяется его человеческой природой (за исключением небольшой группы формальных задач), то любой иной интеллект, сколь бы велик он ни был, неизбежно окажется чужд этой сфере.
Я утверждаю, что существует одна особенность мозга человека - бессознательное, не поддающееся объяснению в терминах непроизводных элементов процессов обработки информации, т. е. элементарных информационных процессов, связываемых нами с формальным мышлением, вычислительными процедурами и строгой рациональностью. И, тем не менее мы вынуждены пользоваться ими, занимаясь научным изучением, описанием и интерпретацией. Это заставляет нас ясно отдавать себе отчет в скудости наших объяснений и исключительной ограниченности их возможностей. Неверно утверждать, что можно дать строго научное решение "проблемы человека". Существуют вещи, выходящие за пределы возможностей науки.
МОЕ. Далее идет хорошее рассуждение о влиянии культуры на интеллект и сравнение в этом смысле японцев и американцев. Таким образом обуславливается такая штука: интеллект любого человека оказывается чужеродным для целого ряда сфер мышления и действия. "Во всякой культуре существуют обширные области сугубо человеческих проблем, для которых ни один человек, принадлежащий иной культуре, не в состоянии дать конструктивных решений".
За примерами далеко ходить не надо - те же хождения интеллигентов в народ, их больницы и т.д. Или я сам как порождение двух культур, в сущности. Общаясь (в детстве и до 16 лет) в среде рабочих поселков, я вроде бы усваивал их что-то, но - остраненно. И сейчас, скажем, я не признаю драки, но когда подрались Колька Ключников с Валькой Коровкиным (не по злобе, а из любви к искусству драки) - я их ПОНИМАЮ, хотя и не принимаю. Это я хорошо понял (или, во всяком случае, почувствовал) в последний приезд в Кошурниково.
И (вернемся к Вейценбауму) его вывод" "какого бы интеллектуального уровня вычислительная машина не смогла достигнуть, этот интеллект всегда и неизбежно должен быть чужеродным всем истинно человеческим проблемам вместе взятым и каждой по отдельности".
Да, поскольку интеллект - не только решение задач!
(291) Было множество споров на тему "Вычислительные машины и мозг". Я пришел к следующему выводу: проблемы, возникающие в рамках таких дебатов, не являются ни техническими, ни даже математическими: это этические проблемы. Их нельзя разрешать, ставя вопросы, начинающиеся с "можно ли...". Пределы применимости вычислительных машин по существу поддаются формулировке только в терминах долженствования. Самое простое соображение, вытекающее изо всего этого, заключается в том, что поскольку сегодня мы не знаем способов сделать вычислительные машины мудрыми, то мы не должны возлагать на них задачи, разрешение которых требует мудрости.
МОЁ. Это просто великолепно!!!
(297) Практически для каждого человека, живущего в промышленно развитой стране, "второй натурой" стало убеждение в том, что понять нечто - значит понять в терминах механистических категорий. [...]
Эта вера (а среди неспециалистов ее разделяют практически все) поддерживается одним лозунгом, который часто повторяют сами ученые в области информатики: "До тех пор пока некий процесс не определен абсолютно точно, его нельзя реализовать на вычислительной машине". Однако этот лозунг справедлив лишь при очень ограниченной и весьма необычной интерпретации значения понятия "определить процесс". Если в запоминающее устройство вычислительной машины ввести, например, случайную комбинацию битов и предложить вычислительной машине интерпретировать ее как некоторую программу, то при условии, что она вообще будет "работать", эта комбинация представит собой "определение" некоторого процесса. Обычно под определением программы понимается, что некий посредник (допустим, человек) работает над тем, что должно служить программой, прежде чем вводить ее в вычислительную машину. Неспециалист, услышав упомянутый лозунг, считает, что сам факт реализации некоторой программы на некоторой вычислительной машине служит гарантией предварительного определения неким программистом процесса, который эта программа воспроизводит, и понимания им этого процесса во всех подробностях.
Но факты противоречат этому убеждению. Большая программа - это, обращаясь к аналогии, к которой прибегает и Минский, замысловатая сеть судов, т. е. подпрограмм, улики которым предоставляются другими подпрограммами. Эти суды взвешивают (оценивают) полученные ими данные и затем сообщают свои судебные решения еще каким-то судам. Вердикты, выносимые этими судами, могут содержать и часто действительно содержат решения о том, что подпадает под "юрисдикцию" суда, принятые на основе промежуточных результатов, подвергающихся затем обработке. Программист, таким образом, не в состоянии проследить даже процесс принятия решений в пределах собственной программы, не говоря уже о том, какие промежуточные или окончательные результаты она выдаст. Определение программы напоминает скорее рождение бюрократической системы, чем создание известной лорду Кельвину машины. Минский так характеризует это явление:
"Программист сам устанавливает... "правовые" принципы, допускающие... "апелляции", он может лишь в очень ограниченной степени понимать, когда и где в ходе работы программы эти процедуры будут вызывать друг друга. Что касается некоторого конкретного "суда", то он располагает лишь поверхностным представлением о некоторых обстоятельствах, которые могут привести к обращению к нему. Короче говоря, перестав быть начинающими, программисты пишут не "последовательности" [команд], а административные инструкции для членов небольших обществ. При всем старании часто программист просто не в состоянии заранее полностью предвидеть все детали их взаимодействия. Поэтому, в конце концов, ему и нужна вычислительная машина".
Продолжая, Минский приводит следующие очень важные наблюдения:
"Когда мощь программы возрастает в результате ее "эволюции" ее отдельных фрагментов и режимов работы, понимаемых лишь частично, программист уже не может прослеживать "внутренние" детали ее работы, теряет способность предсказывать, что будет происходить в программе, не знает, а надеется, и ждет результатов работы программы так, как если бы она была неким индивидуумом, модусы поведения которого точно не известны".
"Так обстоит дело уже в некоторых больших программах... вскоре ситуация станет острее ...Большие эвристические программы будут создаваться и модифицироваться несколькими программистами одновременно, каждый из которых станет проверять их с помощью примеров, работая на [дистанционных] пультах управления вычислительной машины и вводя усовершенствования в программу совершенно независимо. Эффективность программы будет расти, но ни один из программистов не сможет понимать ее полностью. (Естественно, подобный метод не всегда приводит к успеху-такое "взаимодействие" может ухудшить программу, и никому уже не удастся ее исправить!) Теперь понятно, в чем заключается истинный недостаток утверждений типа "она делает только то, что программист предписывает ей делать". Не существует какого-то одного определенного программиста".
Вернемся к одной из предыдущих тем. Непонятно, программа типа, описываемого Минским, скажем, создающая "великую" музыку, помогает нам понимать музыку, если саму программу мы не можем понять.
Еще важнее другое: если программа ускользает из сферы, доступной пониманию своих создателей, то какой смысл они вкладывают в оценки типа "рост эффективности" или, коли на то пошло, "ухудшение"?
(305) Мой отец, желая опереться на опереться на высший авторитет, обычно говорил: "Это напечатано!"
МОЁ. Да уж....
(306) "Хороший немец" мог в гитлеровские времена спать совершенно спокойно, потому что он "не знал" о Дахау. А не знал, как объяснил он позже, потому, что четко организованная нацистская система держала его в неведении [...] Конечно, истинная причина в том, что "хороший немец" ничего не знал, заключалась в том, что он никогда не считал своим долгом выяснить[...]
МОЕ: Да, это то, о чем я и думал - мы принимаем наши решения и (в какой-то степени мировоззрение) в зависимости от имеющейся информации. Но это неверно. Нужно, чтобы долг был "выяснять", а в самом ли деле эти факты объясняются так же.
(308) Миф о технической, политической или социальной неизбежности - очень эффективное средство для успокоения своей совести. Его действие заключается в том, что оно снимает ответственность с плеч всякого, по настоящему в него верящего. Но на самом-то деле действующие лица существуют!
(327) Я выступаю за рациональное использование науки и техники, не за отказ от них и не за их мистификацию. Я настаиваю на переходе к этическому мышлению при планировании научного развития. Я веду бой с экспансионизмом инструментального мышления, а не с самим мышлением.
(328). Нам, как никому до нас, довелось узнать, что человек может творить с себе подобными. Германия осуществила "окончательное решение еврейского вопроса" как упражнение из учебника по инструментальному мышлению.
Человечество ненадолго приходит в ужас, когда больше не может закрывать глаза на то, что происходило, когда начинают распространяться фотографии, сделанные самими убийцами, и когда на свет божий снова появляются несчастные уцелевшие.
Но это ни к чему не приводит. Та же логика, то же холодное и безжалостное использование "вычислительного мышления" в последующие два десятилетия жестоко погубили, по меньшей мере, столько же людей, сколько пало жертвами специалистов тысячелетнего рейха. Мы ничему не научились. Сегодня цивилизация находится в такой же опасности, как и тогда.
Каждый раз слышится пророческий крик Кассандры, но каждый раз никто не признает его пророческим. Цивилизации гибли - много цивилизаций. Но никогда не гибло само человечество. Мы живем в другое время. Мы устали слышать, что сегодня человек в состоянии уничтожать все, но мы не может отрицать этого. Только собственные решения человека могут спасти его.
Принято было говорить, что религия - опиум для народа. Я думаю по этому поводу следующее: говорившие это имели в виду, что люди одурманивались иллюзиями райской жизни, которая им предстоит, если они будут терпеливо переносить ад на земле, созданный для них власть имущими. Но, быть может, религия вовсе не наркотик. Будь это так, боги, возможно, не умерли бы и новый рационализм не одержал бы победу над верой.
Дурман-это инструментальное мышление, торжествующая техника и необузданная наука. Они создают нашу действительность - кошмар их самовыражения. Оптимистически настроенный технократ, быть может, все-таки прав: возможно, мы достигли той точки, когда уже нельзя повернуть назад. Но почему же тогда команда, которая завлекла нас так далеко, веселится? Почему пассажиры не оторвутся от своих развлечений? И, наконец, если теперь мы, а не бог играем в кости со Вселенной, то как нам уберечься от того, чтобы не влезть в дерьмо?
МОЁ. Нечего и говорить, что я от этого в восторге. Мысль о том, что один дурман заменил другой, причем новый дурман более опасен, так как в его распоряжении - мощные глобальные средства, которые он сам же и создает. Все это говорил еще Л.Н.
(329) Глава "Против экспансионизма инструментального мышления"
То, что человек благодаря развитию науки и техники приобрел необычайное могущество, стало такой вульгарной и банальной истиной, что, хотя она и распространена так, как никогда раньше, ее парадоксально все реже и реже повторяют в серьезных разговорах. Парадокс возникает из-за того, что банальность, перестающая быть избитым выражением, перестает восприниматься как банальность. В некоторых кругах банальность после того, как в течение некоторого времени о ней не упоминалось, воспринимается как ее прямая противоположность - как глубокая истина. В этом тоже есть иносказание: могущество, приобретенное человеком благодаря науке и технике, было обращено в бессилие.
Люди чувствуют это. Стаде Теркел в своем монументальном труде, посвященном изучению каждодневной работы в Америке, пишет:
"Многие испытывают с трудом скрываемое разочарование... "Я - машина", - говорит рабочий, обслуживающий машину для точечной сварки. "Я - зверь в клетке", - высказывается кассир банка и ему вторит служащий гостиницы. "Я - мул", - говорит рабочий-металлург. "То, чем я занимаюсь, может делать и обезьяна", - произносит секретарша. "Я превратился в сельскохозяйственное орудие", - говорит сезонный рабочий. "Я - вещь", считает манекенщица. "Синие воротнички" и "белые воротнички" выражают свое мнение одной фразой: "Я - робот"
Возможно, люди в своей массе считают, что хотя они бессильны, вообще могущество существует и им обладают их лидеры. Но мы уже убедились в том, что государственный секретарь США считает, что события просто "увлекают" нас за собой, а председатель объединенного комитета начальников штабов США признает себя рабом вычислительных машин. Наши лидеры тоже не обладают могуществом.
Даже врач, в прошлом - сам символ культурного могущества, становится бессильным по мере того, как во все большей степени превращается в передаточный канал между своими больными и главными фармацевтическими компаниями. Больные, в свою очередь, все в большей степени превращаются в совершенно пассивных объектов, которых лечат и над которыми производят различные операции. Их собственные внутренние целебные ресурсы, способности их организма к восстановлению гармонического состояния все больше игнорируются как несущественные для медицины, едва способной отличить больного человека от промышленного изделия.
Господствующее сейчас течение биологической обратной связи может оказаться предпоследним актом драмы разрыва человека с природой; человек перестает ощущать себя, свое тело непосредственно - непосредственные ощущения заменяются показаниями стрелок, мельканием лампочек и гудением приборов, которыми человек оснащается подобно тому, как автомобиль спидометром. Последний акт этой драмы - окончательное всеобщее истребление, которое заодно покончит и с жизнью вообще.
Таким образом, техническую неизбежность можно рассматривать как составную часть значительно более общего синдрома. Наука пообещала человеку могущество. Но, как это часто случается, когда люди соблазняются обещанным всемогуществом, рабство и бессилие - цена, которую требуют от них с самого начала до конца, и именно ее им действительно приходится платить. Могущество ничего не стоит, если оно не дает власти выбирать. Инструментальное мышление позволяет принимать решения, но существует большая разница между решением и выбором.
МОЁ. Прерву цитату, чтобы сказать - в десятку! Лучше не скажешь! Вейценбаум - законченный последователь Л.Н.! Есть еще такие люди, а то я уж думал, что нету!
(330) Люди, с которыми беседовал Стаде Теркел, принимают решения ежегодно в течение всего дня. Они, по их собственному свидетельству, уподобляются роботу Винограда. Его спрашивают: "Почему ты это сделал?" И он отвечает: "Потому что такая-то или такая-то ветвь моей программы приводит к получению этого результата". Вы спрашиваете: "Почему ты выбрал эту ветвь?" И он отвечает таким же образом. Последний его ответ:
"Потому что вы мне так сказали".
Возможно, любое действие, совершаемое человеком, предполагает осуществление последовательности вычислений на элементах, которые системотехник назвал бы вершинами дерева решений. Но различие между действием механизма и подлинно человеческим состоит в том, что последнее имеет своей финальной точкой вершину, для которой "параметр решения" имеет вид "потому что я выбрал этот путь", а не "потому что вы мне так сказали". Именно здесь вычисления и объяснения заменяются истиной. И в этом снова проявляется слабость гипотезы Саймона, согласно которой "человек, как и муравей, рассматриваемый как поведенческая, система, весьма прост. Кажущаяся сложность его поведения во времени в основном отражает сложность окружающей его среды".
Для того чтобы эта гипотеза оказалась истинной, истиной следует считать следующее: способность человека выбирать должна быть ограничена так же, как и способность муравья; человеку целеустремленность и воля и (это, может быть, важнее всего) трансцендентное для него самого ощущение обязательств по отношению к себе как части природного континуума свойственны не в большей мере, чем муравью. И снова возникает неразрешимая тайна: почему кто-либо может хотеть верить в то, что для человека дела обстоят именно таким образом?
Лишь время от времени слабый свет пробивается сквозь густой туман, окутывающий истинные возможности человека. Например, недавно группа видных биологов "призвала своих коллег прекратить эксперименты, связанные с получением новых типов биологически функциональных бактериальных плазмид. Они выразили "серьезную озабоченность тем, что некоторые из этих искусственных рекомбинантных молекул ДНК могут оказаться опасными с биологической точки зрения". Их опасения, как они пишут, "относятся к возможным тяжелым последствиям неконтролируемого применения этих методов".
Их обращение - это, несомненно, шаг в правильном направлении, и их инициативу следует приветствовать. Тем не менее, можно было бы задать вопрос, почему, они вообще считают себя обязанными приводить причины, побудившие их выступить с подобными рекомендациями. Разве основной долг человека, в том числе и ученого,- освобождение самой жизни от безумия отношения абсолютно ко всему как к объектам - не есть уже достаточная причина, причем такая, которую не нужно даже обсуждать? Почему это нужно объяснять? Оказывается, что самые благородные поступки людей, действующих из наилучших побуждений, отравлены разъедающей атмосферой "ценностей" нашего времени.
Простое объяснение этого явления, и, возможно, в нем есть доля истины, заключается в том, что "благие намерения" полностью вытеснили благородство. Существует и более тонкое объяснение. Наш век гордится тем, что он наконец добился свободы от цензуры, против которой боролись свободомыслящие люди всех времен. Сексуальные проблемы могут теперь обсуждаться так свободно, как никогда раньше, женщины начинают занимать принадлежащее им по праву положение в обществе и идеи, о которых еще десять или около десяти лет назад можно было говорить только шепотом, распространяются теперь безо всяких ограничений.
Честь этих великих достижений приписывается новому духу рационализма, рационализму, который, как утверждается, позволил, наконец, сорвать с глаз человека пелену, образованную мистическим мышлением, религией и такими мощными иллюзиями, как свобода и чувство собственного достоинства.
Наука принесла нам великую победу над невежеством. Но при более внимательном рассмотрении эту победу можно считать также триумфом еще более глубокого невежества: то, что мы приобрели, оказалось новым конформизмом, позволяющим нам говорить все, что можно сказать на функциональных языках инструментального мышления, но запрещающим упоминать о том, что было названо Ионеско живой истиной. Так же, как экраны наших телевизоров демонстрируют необузданное насилие в "натуральном цвете" и не показывают сцен глубокой и подлинной любви (первое из-за отвратительного самого по себе извращения ценностей, называемых "реальными", второе - из-за объявления его непристойным), так мы можем обсуждать и само производство жизни и производимые над ней как над "объектом" манипуляции, но не в состоянии понимать бога, милосердие и мораль.
Возможно, биологи, призывающие своих коллег поступать правильно, руководствуются неверными обоснованиями, но основа их поступка - глубокое благоговение перед жизнью и подлинная человечность, хотя они все-таки не осмеливаются в этом признаться. В любом случае подобные аргументы не были бы "эффективными", а иначе говоря - инструментальными.
Если это так, то тот, кто подвергает цензуре их собственные высказывания, делает это, пользуясь старомодным выражением, 'подвергая риску свою душу.
Существует еще один способ оправдания отказа ученого продолжать определенную линию исследований - этот способ таков, что все мы можем извлечь из него уроки, полезные для нашей жизни. Способ основан на том принципе, что размер ответственности человека должен быть соразмерен с результатами его деятельности. В свое время этот принцип привел к рождению системы этики, суть которой поведение людей по отношению друг к другу.
Библейские десять заповедей говорят в основном о том, каковы обязанности человека по отношению к его семье и соседям. В библейские времена очень немногие могли бы сделать нечто, что затронуло бы людей за пределами их собственной сферы обитания. Наука и техника, созданные человеком, коренным образом изменили эту ситуацию. Деятельность современного человека может повлиять не только на всю планету - его естественную среду обитания, но и предопределить будущее человека как вида в целом. Следовательно, это означает, что ответственность человека, а особенно ученого и инженера, выходит за пределы сиюминутной ситуации и простирается непосредственно до будущих поколений. Эта ответственность особенно серьезна потому, что будущие поколения лишены возможности сегодня защищать свои права. Все мы сегодня являемся их опекунами.
Публичный отказ биологов, как бы они его не обосновывали, это пример, которому всем ученым стоило бы последовать. Значит ли это, что ученые должны захлопнуть свои умы перед всякого рода "аморальными" гипотезами? Совсем нет. Научная гипотеза, по крайней мере с научной точки зрения, либо истинна, либо ложна. Это относится и к гипотезам Саймона о том, что человек "весьма прост" и полностью поддается машинной имитации, и к гипотезе Маккарти о существовании некоторого логического исчисления, с помощью которого можно формализовать все сущее. Было бы глупейшей логической ошибкой навешивать подобным гипотезам (или любым другим) ярлык моральности или аморальности, или, коли на то пошло, ответственности или безответственности.
Сама научная гипотеза может не иметь моральной или этической окраски. Но индивидуальное решение принять ее даже в качестве рабочей гипотезы, а тем более объявление своей приверженности ей широкой публике самым определенным образом включает ценностные оценки и, следовательно, неизбежно приобретает такую окраску. Как недавно писал экономист из Гарварда Марк Дж. Роберте:
"Допустим, мы должны выбрать одну из двух гипотез. Независимо от того, какую мы выбрали, всегда существует возможность считать, что другая - правильная. Очевидно, что относительное правдоподобие совершения ошибки при выборе той или иной гипотезы зависит (но также от этих факторов зависит и цена ошибок выбора альтернативных вариантов) от стоимости признания гипотезы "А" истинной, когда, на самом деле, истинна гипотеза "Б", или наоборот. Мы вполне могли бы предпочесть риск совершить более вероятную ошибку малой ценой, чем менее вероятную ошибку высокой ценой. И все же во всех случаях стоимости ошибки нельзя определить никак иначе, чем на основе наших ценностей."
"Рассмотрим крайний случай: точку зрения, согласно которой в умственной деятельности различных рас имеются различия. Допустим, общество должно было бы принять эту точку зрения, а она оказалась ложной. Я считают, что это было бы большим несчастьем. Допустим, с другой стороны, что общество приняло точку зрения, предполагающую отсутствие различий, но она оказалась бы ошибочной. От этой ситуации я ожидаю меньше вреда. Задавшись такими оценками стоимостей, я буду стремиться получать данные, делающие гипотезу о межрасовом различии очень маловероятной, в действительности, прежде, чем я ее отвергну.
Мой научный выбор базируется на моей системе ценностей, и это происходит не потому, что я некритичен или предпочел бы считать такие различия несуществующими, но потому, что сообразный выбор в условиях неопределенности можно делать, лишь ориентируясь на стоимость совершения альтернативных ошибок. И наоборот, "ученый, претендующий на независимость от системы ценностей", будет, вероятно, исходить из допущения о существовании подобных различий, как только какие-то данные будут свидетельствовать о хотя бы чуть более высокой ее вероятности, чем вероятность противоположного допущения".
"Эти проблемы не возникают в повседневной научной работе, поскольку традиционные статистические методы обычно относят их к проблемам выбора статистического критерия или конкретного метода оценивания какой-либо величины. В результате этот выбор производится на общепринятой или традиционной основе, обычно без всякого обсуждения, обоснования или даже признания, что был произведен выбор системы ценностей".
Роберте предпочитает приводить ценностные характеристики, учитываемые ученым в процессе решения вопроса, приемлема или неприемлема потенциальная стоимость ошибки, демонстрируя, что научная гипотеза не "независима от системы ценностей". Ценностные оценки, как я попытаюсь показать, учитываются при осуществлении учеными выбора также и другими (с моей точки зрения, более важными) способами. В данный момент, однако, я хочу лишь подчеркнуть, что вполне уместно крикнуть "браво" биологам, о которых упоминалось выше, и крикнуть "позор" ученым, написавшим недавно, что "симбионт" "машина-животное", располагающий зрительной системой и мозгом животного, обеспечивающими расширение его механических функций", будет технически "осуществим" в течение ближайших пятнадцати лет .
Использование слов типа "этика" и "долг" в беседе на научную тему едва ли не всегда вызывает некоторую натянутость, несколько похожую на ту напряженность, которая возникает всякий раз, когда, разговаривая с немецкими университетскими профессорами преклонного возраста, вам случится упомянуть о карьере одного из их коллег, преуспевавшего в годы гитлеризма. В последнем случае охлаждение атмосферы беседы выдает страх перед тем, что может быть сказано что-то "неудачное" и в особенности упомянута неспособность коллеги в прошлом поступиться своим честолюбием из моральных соображений. Таким образом, это служит признанием того факта, что сомнительным оказалось не только поведение именно этого коллеги, но и всех профессоров и .преподавателей высших учебных заведений Германии того времени.
В первом же случае натянутость возникает из-за аналогичных соображений, поскольку этика в своей основе не уделяет так много внимания чему-нибудь еще, как отказу. Эта напряженность выдает страх перед тем, что будет сказано нечто о том, что наука, и, следовательно, ученые должны и не должны делать. И это есть признание того факта, что то, что могло бы быть сказано об этом, не относится исключительно к науке вообще или к некоторой абстрактной совокупности, именуемой учеными, но применимо к каждому из присутствующих.
Некоторые ученые (ни в коем случае не все) считают сферу науки универсальной и уверены в невозможности существования ничего такого, что в силу некоего "высшего" принципа не следовало бы изучать. Из этой предпосылки обычно делается вывод, что всякие разговоры об этических "долгах", относящиеся к науке, по своей природе имеют разрушительный характер и направлены против науки и даже против разума.
Какова бы ни была ценность этого довода в абстрактно-логическом отношении, он теряет смысл в конкретных ситуациях, поскольку предметом научного исследования могло бы стать бесконечное множество вопросов, но в распоряжении науки имеется лишь ограниченное количество ресурсов. Следовательно, человек должен выбирать, какими проблемами заниматься, а какие отложить. Нам неизвестно, например, имеется ли какая-нибудь корреляция между числом пор в коже человека и числом нейронов его мозга. Этот вопрос не вызывает интереса, поэтому нет споров о том, следует или нет науке его изучать. Китайцы использовали иглотерапию в течение многих веков, не привлекая интереса науки западных стран. Теперь западные ученые вдруг заинтересовались иглотерапией. Эти примеры показывают, что научный "прогресс" развивается не по какому-то пути, предопределенному самой природой, а является зеркалом интересов и забот человека.
Несомненно, тонко отточенный интеллект человека - один из наиболее дефицитных ресурсов современного общества. И очевидно, что некоторые проблемы, поддающиеся научному исследованию, важнее других. Человеческое общество неизбежно сталкивается с проблемой разумного распределения такого дефицитного ресурса, как научные таланты. Существует необходимость (от нее нельзя произвольно отделаться) решить, какие задачи важнее или интереснее, чем другие. Любое общество должно постоянно искать способы удовлетворить это требование. Вопрос в данном случае заключается в том, каким образом эти способы следует отыскивать в открытом обществе; должны ли они устанавливаться, скажем, вооруженными силами или путем открытого обсуждения гражданами и учеными? Если их нужно обсуждать, то почему из дискуссии должны исключаться этические вопросы? И, наконец, как можно прийти к чему-либо разумному, если предварительно все не согласятся с тем, что, вопреки утверждению Джона фон Неймана, технические возможности не являются неодолимым искушением для человека? "Можно" не означает "должно".
К несчастью, новый конформизм, позволяющий нам говорить обо всем, за исключением нескольких простых истин, записанных в наших сердцах и в священных книгах любой из множества религий, исповедуемых человеком, считает все доводы, основанные на этих истинах (независимо от того, сколь тщательно они продуманы или красноречиво сформулированы), смехотворными для ученых и инженеров. Это само по себе, возможно, наиболее трагический пример того, как неправильное использование идеи обращает ее в ее противоположность.
Ученые, продолжающие болтать о "знании ради знания", чтобы использовать этот лозунг в своих собственных интересах, лишают науку и технику всяческих контактов с реальным миром. Центральная проблема знания, после того как оно "получено",- это придание ему законной силы; но мы видим, что почти во всех сферах, особенно в обсуждавшихся нами разделах информатики, подтверждение достоверности научного знания свелось к демонстрации технических чудес. Объяснить это можно двояко: либо природа, с которой связана наука, состоит исключительно из сырья, которое необходимо переплавлять и обрабатывать как некий объект; либо знание, приобретаемое наукой для человека, не имеет совершенно никакого отношения к самому человеку. Наука не может согласиться с истинностью последнего, поскольку в противном случае она утратила бы свое разрешение "заниматься практикой". Это лишение, естественно, будет иметь практические последствия (в том числе утрата финансирования и т. д.), которым ученые стали бы сопротивляться изо всех сил. Если же верно первое, то сам человек превратится в некий объект. Есть много свидетельств, что на самом деле именно это и произошло. Но в таком случае и знание утратило свою чистоту, которой ученые так гордились; то знание превратилось в предприятие не более и не менее важное и не более по существу значительное, чем, скажем, знание о том, как расположить автосборочный конвейер. Кто станет интересоваться тем, что все это "ради знания"?
Этот процесс трагичен потому, что лишает науку самой возможности руководствоваться подлинными человеческими стандартами, не ограничивая в то же время никоим образом возможности науки передавать в руки человека все более и более могущественные силы. Здесь мы также обнаруживаем корни столь широко обсуждаемой дегуманизации человека. Человек дегуманизируется всегда, когда рассматривается как нечто меньшее, чем целостная личность.
МОЁ. Вот это точно. Особенно, если рассматривать человека только в сфере производства материальных ценностей.
(339) Различные формы инженерной психологии и социальной инженерии, рассматриваемые в книге, относятся к человеку постольку, поскольку они разрушают всю человеческую специфику, особенно ту, которая придает реальное значение языку человека.
То обстоятельство, что аргументы, взывающие к высшим принципам, например к обязательствам человека перед его детьми или к самой природе, не признаются имеющими законную силу, порождает серьезную дилемму для любого человека, стремящегося склонить своих коллег к сотрудничеству в наложении определенных ограничений на их исследования. Если он тем не менее использует подобные доводы, надеясь побудить своих коллег к своего рода обращению, то он рискует вообще не произвести никакого эффекта и даже подвергнуться отлучению, попав в положение смехотворного дурака. Если он настаивает на самоограничении, исходя из необратимости последствий, к которым могут привести неограниченные исследования, то он включается в узаконивание злоупотреблений инструментального мышления (скажем, под личиной анализа затрат и результатов) и способствует тому, против чего он собирался вести борьбу.
Разрешение описанной дилеммы состоит в отказе от правил игры, ее породивших. Это справедливо и для множества других дилемм. Для этой дилеммы имеется следующее правило: спасение мира (это именно то, о чем я толкую) зависит от обращения остальных к правильным идеям. Это ложное правило.
МОЁ. Браво!!!!
(339) Спасение мира зависит только от отдельного человека, для которого это его мир. Во всяком случае, каждый человек должен вести себя так, как будто будущее мира, всего рода людского всецело зависит от него. Все меньшее представляет собой уклонение от ответственности и само превращается в дегуманизирующую силу, поскольку это меньшее побуждает личность относиться к себе просто как к актеру, участвующему в драме, которая написана неизвестно кем, как к чему-то, не достигшему уровня целостной личности. А все это - истоки покорности и бесцельности.
МОЁ. Именно так. Это, в сущности, религиозный взгляд на вещи. И покорность как раз у материалистов, так как они признают силу и законы, властвующие над ними, в то время как религиозный человек свободен, так как он поступает так, как считает нужным, и никаких законов не знает (заповеди не закон, так как человек волен их принять или не принять).
Это не довод в пользу солипсизма, но и не призыв к тому, чтобы каждый человек жил исключительно для себя. Но он предполагает, что всякий человек должен в первую очередь жить для себя. Дело в том, что, только подвергнув испытанию свои собственные внутренние ценности, абсолютно не зависящие от "использования" его в качестве некоторого инструмента, он может установить те трансцендентные для него цели, которые в конечном итоге сообщают ему его подлинность и единственно служат окончательным подтверждением подлинности человеческого знания.
МОЁ. Это прямо из Экклезиаста. "И сказал я себе в сердце своем...". Хорошо.
(340) Однако то обстоятельство, что каждый человек несет ответственность за весь мир и выполнение им этой обязанности предусматривает в первую очередь ответственность каждого человека перед самим собой, отнюдь не противоречит тому, что у каждого из нас есть обязанности по отношению друг к другу. Главная из них заключается в обучении друг друга наилучшим доступным нам образом. Основной же и наиболее эффективной формой обучения, которую мы можем использовать, является пример нашего собственного поведения, даваемый тем, кого оно затрагивает. Учителя и писатели несут особенно тяжелую ответственность именно потому, что они занимают положение, благодаря которому их пример доступен значительно более широкому кругу людей, чем их непосредственное окружение.
Такой подход предполагает, что я сам должен продемонстрировать несколько своих собственных решений относительно того, что могу и чего не могу делать в информатике. Я сделаю это, несмотря на дурные предчувствия; я убедился в том, что люди постоянно спрашивают друг друга, что им следует делать, в то время как единственный истинно важный вопрос заключается в том, какими они должны быть.
МОЁ. Браво! Это мог бы сказать и Л.Н. Точнее, именно это он и говорил. Жму руку, Дж.Вейценбаум.
(348) Я говорю здесь о том, что следует и чего не следует делать, что неприемлемо с моральной точки зрения, что опасно. Я, естественно, прекрасно сознаю то обстоятельство, что эти мои моральные оценки не имеют сами по себе моральной силы ни для кого; кроме меня самого. И, как я уже указывал, я совершенно не намерен учить других, какими задачами они должны заниматься, а какими не должны. Я лишь призываю всех оценивать последствия того, что они действительно делают, причем сейчас я имею в виду не только очевидные, прямые последствия, оказываемые их деятельностью на окружающий мир. Я говорю, скорее, о последствиях, сказывающихся на них самих, на том, как конструируют свои разумные объяснения, как подавляют истину, побуждающую их следовать иным курсом, и как шаг за шагом отказываются от собственной независимости. Тот факт, что так много людей столь часто спрашивают, что им делать, служит признаком того, что понятия "быть" и "делать" поменялись местами. Тем, кому известно, кто они и что собой представляют, нет нужды спрашивать, что им следует делать. Те же, кто вынужден спрашивать, не смогут покончить с вопросами до тех пор, пока не начнут вглядываться в себя. Задача же каждого показывать с помощью собственного примера, какие вопросы можно задавать себе, и демонстрировать, что человек может жить, пользуясь теми немногими ответами, которые у него имеются.
Но точно так же, как я не обладаю лицензией определять действия других, так и "конструкторы" того мира, в котором я вынужден жить, не имеют безусловного права навязывать мне свои представления. На ученых и инженерах в силу. их возможностей лежит особенно большая ответственность - ответственность, от которой нельзя отделаться, прикрываясь лозунгами типа технической неизбежности. В мире, где человек все в большей мере имеет дело лишь с результатами собственной деятельности, причем только в виде произведенных им продуктов, производители и конструкторы этих продуктов - зданий, самолетов, пищи, бомб и так далее - должны располагать глубочайшей уверенностью в том, что их продукция - результат выбора, сделанного человеком.
Люди могут захотеть получить вместо того, что у них есть, действительно безопасные автомобили, хорошие телевизоры, прекрасные дома для всех или комфортабельную, безопасную и широко разветвленную систему общественного транспорта. Отсутствие всего этого в стране, располагающей достаточными возможностями, не является следствием технической неизбежности или того обстоятельства, что больше некому делать выбор - люди решили производить и захотели иметь именно то, что мы производим и имеем на самом деле.
Когда видишь особенно противную телевизионную рекламу, трудно себе представить, что взрослые люди когда-то и где-то усаживались вокруг стола и решали сделать именно эту рекламу и передавать ее сотни раз. Но именно так все и происходит. Все это результат деятельности не безымянных сил, а групп людей, пришедших к соглашению, что подобное загрязнение сознания людей отвечает их интересам.
(352) И, наконец, имеет значение, само действие. Когда оно определяется исключительно инструментальным мышлением, поступки, совершаемые на его основе, лишаются их истинного значения и существуют в этическом вакууме. Я слышал недавно, как официальный представитель крупного университета публично защищал принятое им важное политическое решение, против которого по моральным соображениям выступали многие студенты, профессора и преподаватели университета. Он сказал: "Мы могли бы занять моральную позицию, но что хорошего это принесло бы?" Но благо морального поступка заключено в самом поступке. Именно поэтому поступок сам по себе может облагородить или развратить человека, совершающего его. Одержав в наше время победу, инструментальное мышление послужило причиной фактического исчезновения понимания этого обстоятельства и, таким образом, предопределило объявление вне закона самой идеи благородства.
Я, естественно, сознаю, что вряд ли кто-нибудь, читая эти строки, сочтет их адресованными себе,-так глубоко убеждение в нашей общей подчиненности действию безымянных сил, находящихся вне нашего контроля, проникло в современное общественное сознание. Сопровождается же это убеждение инфляцией идеи гражданского мужества.
Широко распространено, но глубоко ошибочно убеждение в том, что гражданское мужество подвергается испытаниям лишь во время событий, потрясающих весь мир. Как раз наоборот, наиболее трудные испытания ожидают его в тех локальных ситуациях, когда необходимо преодолеть страхи, связанные с мелочными заботами о карьере, об отношениях с теми, кто кажется обладающим властью над ними, обо всем том, что может нарушить ваше спокойное мирское существование.
Если эту книгу необходимо рассматривать, как защиту чего-то, пусть она будет призывом к этой простой форме гражданского мужества. И поскольку эта книга в основном посвящена вычислительным машинам, пусть этот призыв в первую очередь будет услышан преподавателями информатики.
Пусть они услышат, как я настаиваю на том, что вычислительная машина - новая мощная метафора, которая может помочь понять многие аспекты нашего мира, но она порабощает сознание, не располагающее иными метафорами и имеющее мало других возможностей, к которым оно могло бы апеллировать. Мир очень разнообразен, и нет такой единой, достаточно емкой схемы, чтобы охватить все: ее нет ни для науки, созданной человеком, ни для поэзии, ни для вычислительного мышления, ни для чистой интуиции. Как недостаточно любви к музыке для игры на скрипке - необходимо, кроме этого, освоить искусство владения инструментом и саму музыку, так недостаточно и одной любви к человечеству, чтобы помочь ему выжить. Таким образом, долг учителя учить своему делу почетен. Но он обязан делать больше: его обучение не должно ограничиваться пределами единственной метафоры, и ему следует учить больше примером собственного поведения, чем тем, что он пишет на доске. Он должен учить сознанию ограниченности своих инструментов так же, как и их могуществу.
Программированию обучиться довольно легко. Почти любой человек, обладающий достаточно упорядоченным умом, может стать довольно неплохим программистом после совсем незначительного обучения и практики. И поскольку программирование вознаграждается почти немедленно, так как вычислительная машина очень быстро и почти точно начинает выполнять указания программиста, оно очень соблазнительно, особенно для начинающих. Более того, особенно сильно программирование привлекает людей недостаточно зрелых в том смысле, что они могут спокойно относиться к длительным промежуткам времени между затратой усилий и получением конкретного результата. Поэтому юные студенты легко впадают в заблуждение, считая, что они действительно овладели мастерством, обеспечивающим им необычайное могущество и имеющим колоссальное значение, хотя, на самом деле, они изучили лишь его зачатки и ничего существенного, вообще говоря. Быстрое восхождение студента от состояния абсолютной неосведомленности о вычислительных машинах к тому, что представляется ему вершинами программирования, в действительности является лишь невысокой возвышенностью, может породить у него победную эйфорию и вызвать убеждение в том, что он обрел свое подлинное призвание.
МОЕ ПОСЛЕСЛОВИЕ
Книга великолепная, особенно в начале и конце. В середине местами скучновато (или то, что я и так знаю, или то, что мне неинтересно). Но и в середине - глава про одержимого программиста - великолепна!
Заслуживают внимания моменты:
1. О том, что наука (точнее, научный подход) отнюдь не может решить все, так как основана на абстрагировании.
2. О том, что результат не свидетельствует о понимании: даже если машина делает то же, что и человек, это не означает, что мы поняли человека. И вообще - практика не есть критерий истины.
3. Это вообще отлично - о моральной ответственности, то, что в последней главе, и о подходе к жизни: КАКИМ БЫТЬ, а не ЧТО ДЕЛАТЬ. Это не новость для меня (такой подход),но приятно обнаружить это сейчас, да еще у представителя самой, так сказать, передовой науки - информатики.
4. Наука - дурман, и с ее влиянием нужно бороться.
5. О роли преподавателя - я так и мыслю себе: личный пример, отношение к программированию и (сейчас следует добавить) к науке вообще. Нужно понимать ограничения.
6. Инструментальное мышление. Это вообще самое главное и самое опасное. Заняться этим плотнее. Это очень важно для меня и не только.
1982 г.
© Алексей Бабий 1982