Громыко А., Хеллман М. и др. Прорыв: Становление нового мышления. Советские и западные учёные призывают к миру без войн
Подождите немного. Документ загружается.
НЕИЗБЕЖНОСТЬ:
ГРОЗЯЩИЙ
КАТАСТРОФОЙ
КУРС
...
78
Компьютеры
в
войне
В
силу
скоротечности
боевых
операций
и
чрезвычай
ной
сложности
современной
боевой
техники,
в
том
числе
управления
ею,
компьютеры
становятся
совершенно
необходимым
элементом
вооруженных
сил.
Как
правило,
они
выступают
в
роли
помощников
человека,
делая
возможным
управление
современным
оружием.
Однако
по мере
усложнения
управления
и
возрастания
скоро
течности
боевых
действий
компьютеры
начинают
вы
теснять
человека
и
на
них
возлагается
принятие
от
ветственных
решений.
Это
может
привести
к
ТОМУ,
что
в
особо
сложных
обстоятельствах
противостоять
друг
другу
будУТ
не
люди,
а
компьютеры.
ВОЗМОЖНОСТЬ
возникновения
компьютерной
войны
станет
реальностью,
если
стратегия
запуска
по
предуп
реждению
войдет
в
силу
или
воплотятся
в
жизнь
пла
ны
милитаризации
космоса
.
Полная
компьютеризация
любой
боевой
системы
чревата
серьезными
опасностя
ми.
В
этой
статье
мы
выбрали
в
качестве
примера
ору
жие,
размещаемое
в
космосе,-
это
поможет
нам
конкре
тизировать
анализ,
и такой
пример
наиболее
адекватно
отражает
полную
компьютеризацию
боевых
систем.
Такая
компьютеризация
таит
в
себе
огромные
опас
ности.
Некоторые
виды
космического
оружия
потребуют
полной
компьютеризации
из-за
поистине
мгновенного,
буквально
за
долю
секунды,
распространения
ими
разрушительной
энергии.
Оказьmается
невозможной
обычная
схема
боевого
управления,
состоящая
из трех
звеньев:
сообщение
об
обстановке
-
ожидание
решения
командования
-
выполнение
полученного
приказа.
Ожи
дание
решения
военного
или
политического
руководства
становится
невозможным,
поскольку
никакой
человек
не
сможет
оценить
обстановку
и
принять
правильное
реше
ние,
если
ему
на
это
отводится
время,
измеряемое
секундами.
Поэтому
решение
будет
приниматься
ком
пьютерами
в
соответствии
с
заложенными
в
них
програм
мами.
Люди
становятся
заложниками
компьютеров
-
в
слу
чае
ядерной
войны
само
существование
человечества
начинает
зависеть от
компьютеров,
от
заложенных
в
них
программ
и
от
исправности
этих
думающих
машин.
В
этих
условиях
возможность
непреднамеренного
начала
КОМПЬЮТЕРНЫЕ
ВОЙНЫ?
79
боевых
действий
одной
из
сторон,
начала
боевых
дейст
вий
по
ошибке
или
в
результате
случайного
стечения
обстоятельств
перестает
быть
академическим
вопросом.
Проблема
непреднамеренного,
случайного
возникно
вения
ядерного
конфликта
все
чаще
обсуждается
сегод
ня
как
одна
из
серьезных
опасностей,
угрожающих
человечеству.
Возможны
различные
причины
опасного
развития
событий;
остановимся
только
на
тех,
которые
связаны
с
работой
компьютеров.
Обычно
указывают
на
две
бросающиеся
в
глаза
причины.
Первая
из
них
-
отказы
отдельных
элементов
космической
боевой
системы.
В
результате
того,
что
тот
или
иной
элемент
системы
выйдет
из
строя,
возможно
не
только
падение
эффективности
боевой системы,
но
и
начало
боевых
действий
без
достаточных
для
этого
оснований.
Вторая
причина
-
ошибки
в
программном
обеспечении
компьютеров.
Однако
существует
и
третья причина,
на
которую
до
сих
пор
не
обращали
должного
внимания.
Она
не
связана
ни
с
отказами
элементов
боевой
системы,
ни
с
ошибками
разработки
ее
программного
обеспече
ния,
а
поэтому
носит
неустранимый
характер.
Ее
по
рождает
несогласованность
программных
обеспечений
двух
противостоящих
друг
другу
систем.
В
них
будут
заложены
не
фактические
свойства
боевой
системы
по
тенциального
противника,
а
лишь
представления
об
этих
свойствах.
В
условиях
взаимной
секретности
эти
представления
окажутся
неточными,
а
возможно,
и
просто
ошибочными.
Вот
эту
подмену
реальных
свойств
системы
потенциального
противника
на
неизбежно
не
точные
представления
о
них
мы
и
будем
называть
отсутствием
согласования
программного
обеспечения
компьютеров
обеих
систем.
Чтобы
облегчить
дальнейшее
рассмотрение,
сделаем
практически
невероятное
предположение,
что
программ
ное
обеспечение
обеих
противостоящих
систем
никаких
ошибок
не
содержит
и
никаких
отказов
элементов
в
системах
не
происходит.
Единственные
ошибки,
которые
мы
будем
в
дальнейшем
учитывать,-
это
ошибки
плани
рования,
связанные
с
недостаточностью
информации
о
противостоящей
стороне
.
Выведенные
в
космос
многофункциональные
системы
составят
некий
боевой
комплекс.
Чтобы
не
быть
застигну-
НЕИЗБЕЖНОСТЬ:
грозящий
КАтлcrРОФОй
курс
...
80
Tым
врасплох,
значите.лъвые
средства
будУТ
затрачивать
ся
не
только
на
обнаружение
старта
баллистических
ракет,
но
и
на
обнаружение
подготовки
к
такому
старту,
к
боевому
использованию
космического
оружия
и
других
подготовительных
операций.
Будем
далее
исходить
из ЮJУХ
почти
очевидных
предположений:
что
обнаружение
операций,
непосред
ственно
предшествующих
боевому
использованию
косми
ческих
средств,
возможно
и
что
обе
стороны
не
стремятся
развязать
ядерный
конфликТ
при
первом
же
обнаруже
нии
признаков,
которые
могут
быть
истолкованы
как
подготовка
к
началу
боевых
действий.
Если
система
А
обнару:ж.ила,
что
система
В
приступи
ла
к
подготовительным
операциям,
то
она
тоже
должна
начать
их,
а
не
развязывать
ядерную
войну,
поскольку
действия
системы
В
могли
быть
ошибочно
истолкова
ны.
Лишь
при
обнаружении
достаточно
большой
со
вокупности
трево:ж.ных
признаков
система
А
может
счесть
себя
вынужденной
к
началу
боевых
действий,
причем
необязательно
сразу
пускать
в
ход
ядерное
оружие.
Таким
образом, создается
определенная
посте
пенность
реагирования
на
действия
другой
стороны,
имеющая
целью
исключить
возможность
случайного
возникновения
ядерного
конфликта.
Чтобы
придать
этим
довольно
общим
рассуждениям
известную
наглядность,
можно
предложить
такую,
напри
мер,
схему
реагирования
системы
А
на действия
систе
мы
В.
Пусть
разработчики
системы
А
заложили
в ее
программу
последовательность
действий,
которая
исхо
дит
из
того,
что
критическим
является
одновременное
появление
шести
тревожllых
сигналов.
Тогда
действия
системы
А
могут
выглядеть
следующим
образом:
первое
появление
одно.:-
усиление
наблюдения
(путем
го
признака
подключения
дополнитель
ных
средств
наблюдения)
одновременное
появле
ние
двух
признаков
-
подготовительные
операции,
требующие
сравнительно
большого
времени
для
пере
хода
в
состояние
боевой
го
товности
одновременное
появле-
-
средняя
степень
боевой
го-
ние
трех
признаков
товности
КОМПЬЮТЕРНЫЕ
войны?
81
одновременное
появле-
-
высшая
степень
боевой
го-
нне
четырех
npизнаков
товности
одновременное
появле--
неядерные
боевые
действия
ние
пяти
npизнаков
(например,
уничтожение
ка-
кого-то
спутника
системы
В)
одновременное
появле-
-
ядерная
война
ние
шести
npизнаков
Конечно,
npиведенная
схема
-
лишь
наглядная
ил
люстрация.
Критическое
число
одновременного
появле
ния
тревожных
СИгналов
может
быть
и
иным,
оно
безу
словно
будет
связано
с
тем,
о
каких
признаках
идет
реЧЬ,
и,
кроме
того,
схема
реагирования
на
действия
стороны
В
будет
не
столь
элементарной.
Но
какими
бы
ни
оказались
реальные
программы,
они
всегда
будут
исходить
из
требований
постепенного
наращивания
ответных
действий,
чтобы
последние
были
адекватны
потенциальной
угрозе.
Очевидно
также,
что
исчезновение
тревожных
сигналов
(уменьшение
их
числа)
приведет
к
соответствующей
отмене
ответных
мероприятий.
В
конце
концов,
если
действия
системы
В
были
просто
неверно
интерпретированы,
то
по мере
исчезновения
тревожных
сигналов
или
уточнения
их
интерпретации
(ведь
их
могли
породить и
редкие
природные
явления)
система
А
вернется
к
исходному
состоянию.
Описанная
последовательность
действий
--
их
посте
пенность
и
обратимость
-
делает
систему
А
«устойчи
вой»
к
слабым
возмущениям
(малому
числу
тревожных
сигналов):
она
реагирует
«пропорциональным»
образом,
наращивая
или
ослабляя ответные подготовительные
операции
в
соответствии
с
планом.
При
этом
не
видно
никаких
причин
для
лавинообразного
развития
процесс
а,
ПРИВОДЯIЦего
к
ядерному
кон4mикту
без
достаточных
оснований.
Эта
простая
«пропорциональность»,
казалось
бы,
исключает
случайное
возникновение
ядерного
кон
фликта.
Очевидно,
что
система
В
будет
строиться
с
учетом
аналогичных
требований
и
тоже
будет
«устойчивой»,
в
ней
тоже
будет
реализована
«npопорциональностЬ»,
О
которой
речь
шла
выше.
Однако
«устойчивостЬ)
систем
А
и
В,
взятых
порознь,
вовсе
не
означает,
что
устойчивой
будет
большая
система
А
+
в.
НЕИЗБЕЖНОСТЬ:
грозящий
КАТАСТРОФОЙ
КУРС
...
82
Отсутствие
стабильности
Рассмотрение
большой
системы
А
+
В,
т.
е.
взаимо
действующих
систем
А
и
В,
показывает,
что
обычные
методы
расчета,
моделирования,
обработки
и
испытания
больших
систем,
необходимые
для
обеспечения
устой
чивости
их
совместной
работы,
не
могут
быть
реализо
ваны
с
требуемой
полнотой.
Поскольку
системы
А
и
В
яв
ляются
противоборствующими,
то
отработка
и
отладка
каждой
из
них
будет
производиться
независимым
путем,
более
того,
в
полной
тайне
друг от
друга.
Их
первое
«объединение»
в
большую
систему
произойдет
тогда,
когда
они
приступят
к
боевому
дежурству,
их
первая
совместная
работа
произойдет
при
первой
же
реальной
конфликтной
ситуации,
а
первым
испытанием
могут
оказаться
боевые
действия.
Современная
теория
управления
говорит
о
том,
что
объединение
двух
порознь
устойчивых
систем
в
общую
большую
систему
нередко
приводит
к
неустойчивости
последней.
Поясним
сказанное,
обратившись
к
следую
щей
схеме.
Прямоугольники
А
и
В
изображают
соответствую
щие
системы,
а
линии
х и
У,
заканчивающиеся
стрелка
ми,-
потоки
информации,
которыми
обмениваются
сис
темы
А
и
В
после
того,
как
они
объединились
в
большую
систему
А +
В.
Этими
«потоками
информацию>
являют
ся
тревожные
признаки,
которые
одна
система
обнару
живает
в
другой
(помимо
ее
желания).
Начнем
рас
смотрение
задачи
,
обратившись
к
«разомкнутой»
систе
ме,
предположив,
что
в
точке
С
связь
между
А
и
Б
пре
9
х
А
в
с
рвана,
и
информация
у
в
систему
В
не
попадает,
т. е.
система
В
не
в
со
стоянии
обнаружить
процессов,
идущих
в
си
стеме
А.
Предположим,
что
в
системе
В,
функциони
рующей
в
мирных
усло
виях,
происходят
какие
то
процессы,
которые
регистрируются
систе
мой
А
(на
схеме
это
по
-
КОМПЬЮТЕРНЫЕ
ВОЙНЫ?
83
казано
как
получение
информации
х).
Причем
эти про
цессы
порождены
не
подготовкой
к
боевым
действиям,
а
мелкой
неисправностью,
контрольной
проверкой
или
чем
нибудь
подобным.
Допустим,
что
система
А
воспринима
ет
их
как
сигналы,
свидетельствующие
о
подготовке
сис
темы
В
к
боевым
действиям
(ведь
система
А
не
обладает
исчерпывающей
информацией
о
системе
В;
в
этих
усло
виях
известная
взаимная
подозрительность
не
только
легко
объяснима,
но и
необходима).
Получив
информа
цию
х,
система
А
перейдет
из
режима
чистого
наблюде
ния
в
состояние
боевой
готовности
той
степени,
которая
адекватна
полученной
информации
х
.
Если
по
истечении
некоторого
времени
неисправность
в
системе
В
будет
устранена
или
закончатся
ее
контрольные
включения,
поток
информации
х
перестанет
содержать
тревожные
признаки
и
система
А
вернется
к
режиму
чистого
наблюдения.
Таким
образом,
случайный
всплеск
тре
вожных
признаков
не
приведет
в
данном
случае
к
траги
ческим
последствиям.
Описанный
здесь
процесс,
свидетельствующий
об
«устойчивости»
системы
А,
оказался
возможным
вслед
ствие
того,
что
информация
у
,
говорящая
о
действиях
системы
А,
не
поступила
в
систему
В.
Рассмотрим
теперь
поведение
обеих
систем
при
условии
замыкания
обратной
связи
в
точке
С,
когда
они
становятся
единой
системой
А
+
В.
Допустим,
обе
системы
устойчивы
в
описанном
выше
смысле
и
обе
работают
идеально.
Пусть,
далее,
в
систему
А
поступит
сигнал
d,
никак
не
связанный
с
работой
системы
В,
а
имеющий
причиной
какое-либо
редкое
природное
явление,
или
случайное
происшествие
в
кос
мосе,
или
еще
что-либо,
что
может
быть
интерпрети
ровано
системой
А
как
тревожный
сигнал.
Предположим,
что
этот
сигнал
не
слишком
серьезен
и
система
А
сделает
лишь
первые
шаги
к
переходу
в
состояние
боевой
го
товности.
Как
только
информация
у
об
этих
мерах
будет
получена
системой
В,
она
среагирует
на
нее,
и
в
систе
ме
А
окажется
два
одновременных
сигнала
d
и
х,
из
ко
торых
последний
относится
к
действиям
системы
В.
Появление
двух
тревожных
сигналов
вместо
одного
приведет
к
тому,
что
система
А
предпримет
еще
один
шаг,
приближающий
начало
атаки,
и
это
сразу
изменит
информацию
у на
входе
в
систему
В,
она
тоже
станет
НЕИЗБЕЖНОСТЬ:
ГРОЗЯЩИЙ
КАТАСТРОФОЙ
КУРС
••.
84
более
тревожной.
Связанная
с
этим
перестройка
функ
ционирования
системы
В
изменит
содержание
информа
ции
х,
которая
при
обретет
еще
более
тревож.ный
ха
рактер,
система
А
среагирует
на
это,
и
так
разовьется
лавинообразный
процесс
приближения
к
боевым
дейст
виям
систем,
который
может
перерасти
в
ядерный
конфликт.
Приведенный
пример
поучителен
в
том
смысле,
что
иллюстрирует
реальную
возможность
совершенно
«беспричинного.
начала
боевых
действий
в
результате
взаимодействия
1f1JYX
абсоJIЮТНО
исправных
автоматизи
рованных
систем,
каждая
из
которых,
рассматриваемая
независимо
от
другой,
~сто-йчива..
Теория
управления
легко
объясняет
возникшую
неустойчивость
системы
А
+
В
как
порожденную
положительной
обратной
связью
(система
А
отвечает
на
действия
системы
В
так,
что
система
В
не
успокаивается,
а
еще
более
возбуждается)
.
Сложность
контроля
Выходом
из
положения,
казалось
бы,
может
быть
введение
такой
схемы
управления,
которая
просто
не
реагирует
на
слабые
сигналы.
в
предельном
случае,
стремясь
устранить
неустойчивость
системы
А + В
в
рассмотренном
смысле,
можно
предложить
схему
функционирования
систем,
вообще
не
реагирующих
на
признаки
подготовки
другой
системы
к
боевым
действи
ям,
а
реагирующих,
причем
очень
остро,
возможно,
с
использованием
ядерного
оружия,
только
на
начало
боевых
действий
другой
стороны.
Проблема,
возникающая
при
разработке
космиче
ской
системы,
реагирующей
на
действия
другой
стороны
таким
образом,
может
быть
сформулирована
как
пробле
ма
определения
того
порогового
значения
совокупности
признаков,
которые
свидетельствуют
о
начале
боевых
действий
и
достаточны
для
принятия
собственных
ответных
мер.
Как
показывает
анализ,
проблема
эта
не
так
проста,
как
кажется
с
первого
взгляда.
Предположим,
создатели
системы
А
знают,
что
тот
или
иной
вариант начала
боевых
действий
другой
сто
роной
может
быть
безошибочно
определен
при
ПОЯWIении
КОМПЬЮТЕРНЫЕ
ВОЙНЫ?
85
пяти
известных
тревожных
признаков.
Учитывая
от
сутствие
полной
согласованности
программного
обеспе
чения
своей
системы
с
фактическими
свойствами
сис
темы
потенциального
npoтивника,
они
будут
стоять
перед
трудной
задачей,
если
приборы
зарегистрируют
только
3
или
4
тревожных
признака
из
пяти.
Начинать
ли
боевые
действия?
Их
следует
начинать,
если
отсутствие
ряда
признаков
-
следствие
«ВОенной
хитрости»
или
расхождения
фактических
свОЙств
системы
В
с
зало
женными
в
компьютеры
системы
А
предстамениями
об этих
свойствах.
Боевые
действия
ни
в
коем
случае
не
следует
начинать,
если
отсутствие
ряда
признаков
свидетельствует
о
том,
что
происходит
вовсе
не
напа
дение,
а
что-то
другое,
поскольку
ответные
действия
стороны
А
стали
бы
в
этом
случае
началом
боевых
действий
по
ошибке.
Трудность
решения
усугубляется
тем,
что
его
надо
заложить
в
программное
обеспечение
системы
А
задолго
(возможно,
за
многие
годы)
до
того,
как
в
компьютерах
системы
А
оно
будет
на
самом
деле
приниматься.
Таким
образом,
возникшая
неопре
деленность
признаков
начала
боевых
действий
может
привести
либо
к
ошибочному
отказу
от
отражения
на
naдения,
либо
к
началу
боевых
действий
по
ошибке.
И
без
того
сложная
задача,
стоящая
перед
создателя
ми
программного
обеспечения
обеих
сторон,
еще
более
осложняется
возможностью
пусков
ложных
целей.
Сторона,
запускающая
их,
будет
стремиться
не
за
маскировать,
а
усилить
соответствующие
признаки,
что
бы
противная
сторона
бессмысленно
растратила
свои
за
пасы
средств
поражения
настоящих
целей.
Таким
обра
зом,
создатели
npoграммного
обеспечения
столкнутся
с
необходимостью
поиска
дополнительных
признаков,
позволяющих
отличить
настоящие
цели
от
ложных.
Неоnpeделенность
в
истолковании
поступающей
инфор
мации
возрастет
в
сильнейшей
степени,
что
приведет
к
дополнительной
«дестабилизации»
всего
программного
обеспечения,
а
следовательно,
и
увеличит
вероятность
неадекватных,
опасных
действий,
ВШIоть
до
использо
вания
ядерного
оружия.
Реальные
системы
программного
обеспечения
будут
скорее
всего
содеI1жать
как
части,
основанные
на
npo-
порциональном
реагировании,
так
и
части
других
из
вecтных
теории
управления
способов
реагирования
на
НЕИЗБЕЖНОСТЬ:
ГРОЗЯЩИЙ
КАТАСТРОФОЙ
КУРС
...
86
входную
информацию.
Анализ
показывает,
что это
ни
в
малейшей
степени
не в
состоянии
изменить
конечные
выводы.
Взаимно
не
согласованные
системы
А
и
В,
объе
динившись
в
большую
систему
А
+
В,
будут
действовать
по
законам,
свойственным
системе
А
+
В,
которые
не
будут
известны
ни
создателям
системы
А,
ни
создате
лям
системы
В.
Приведенный
выше
пример
показы
вает,
что
кардинальные
свойства
большой
системы
и
составляющих
ее
частей
могут
быть
качественно
раз
личными
(системы
А
и
В
порознь
устойчивы,
а
систе
ма
А
+
В
неустойчива).
Но
в
таком
случае
ни
сторона
А,
ни
сторона
В
не
в
состоянии
гарантировать
«ра
зумное»
поведение
системы
А
+
В.
Здесь
следует
под
черкнуть,
что
в
силу
быстротечности
боевых
действий,
которые
могут
:rro
ошибке
начать
системы
А
и
В,
воен
ное
и
политическое
руководство
обеих
сторон
не
успеет
вмешаться
с
целью
их
предотвращения.
Заключение
Таким
образом,
человечество
как
бы
передоверяет
свою
судьбу
системе
компьютеров,
которые
даже
при
идеальной
работе
(без
отказа
элементов,
без
ошибок
в
разработке
и
реализации
программного
обеспечения)
будут
действовать
по
логике,
неведомой
человеку.
Эта
логика
вполне
способна
при
некоторых
(никому
не
из
вестных)
обстоятельствах
ввергнуть
нас
в
войну,
итогом
которой
будет гибель
человечества.
Там,
где
человек,
возможно,
и
остановился
бы,
компьютеры
будут
про
должать
действовать,
ибо
они
не
обладают
моралью.
Чтобы
не
допустить
такого
развития
событий,
надо
уже
сегодня
изменить
свое
мышление,
думать
не
с
позиций
отдельных
систем,
А
или
В,
а
с
позиции
боль
шой
системы
А +
В,
т.
е.
с
позиции
всего
человечества.
Д{остаточно
встать
на
эту
точку
зрения,
как
сразу
ста
новится
ясным,
что
подготовка
к
«звездным
войнам»,
которая
поставит
человека
в
зависимость
от
компью
теров,
выглядит
как
безответственная
и опасная
дея
тельность.
Человеку
свойственно
ошибаться:
ядерная
война
в
результате
оurnибки?
Марианна
Франкенхаузер
Профессор
и
заведующая
кафедрой
психологии
Каролинского
инсти
тута
(Стокroльм)
.
Председатель Европейского
общества по
изучению
пр06лем
м
о
зг
а
и
поведения
,
ко
нсульт
а
нт
правительства
Швеции
,
Всемирно
й
орга
низации
здравоохранения,
Медицинск
о
го
и
нститута
Национальной
академии
наук
.
Автор
двухсот
статей
.
Война
нередко
возникает
по
ошибке
-
как
следствие
неправильного
понимания
и
истолкования
событий.
Поскольку
недоразумение
может
привести
к
всеобщему
уничтожению,
жизненно
важно
проанализировать
ха
рактер
возможных
ошибок.
Персnективы.
эволюционного
развития
Д{ля
того,
чтобы
понять
все
трудности,
с
которыми
сталкиваются
люди
в
современном
мире,
необходимо
рассмотреть
возможности
человеческой
природы
и
ее
ограниченность
в
процесс
е
эволюционного
развития
*.
Наши
предки,
которые
эволюционировали
в
современный
человеческий
род,
в
течение
многих
миллионов
лет
имели
совершенно
иные,
отличные
от
наших
условия
для
выжи
вания.
Они
постепенно
адаптировалисъ
к
окружающей
среде,
которая
в
свою
очередь
изменмасъ
очень
медлен
но,
что как
раз
и
делало
возможной
саму
адаптацию
.
Затем
изменения
окружающей
среды
стали
происходит
ь
быстрее.
История
человечества
свидетельствует
о
том
,
что
человеческий
р
о
д
находИJICЯ
три
миллиона
лет
в
лесах,
три
тысячи
лет на
полях,
триста
лет
на
Фабриках
и
заводах,
а
теперь
...
менее
тридцати
лет
-
у
компьютера
.
И
самое
поразительное
ТО,
что
,
несмотря
на
все
УСКО
ряющиеся
темпы
социальной
ЭВОЛJOЦИИ,
моз!'
человека
в
основном
оставался
без
изменений
на
протяжении
многих
тысяч
лет
.
*
Эта
стат
ь
я
основана
на
вступительном
обращении
автора
к
Первому
KOвrpeccy
IICИХOJlOГOlt
за
uиp,
который
СОСТОJlJIСЯ
В
Хель
синки
в
августе
1986
года.
НЕИЗБЕЖНОСТЬ:
ГРОЗЯЩИЙ
КАТАСТРОФОЙ
КУРС
...
88
Необходимой
предпосылкой
выживания
наших
пред
ков
являлась
их
способность
адаптироваться
к
жаре,
холоду
и
голоду.
Благодаря
удивительной
способности
механизмов
адаптации
человеческого
тела
наши
предки
преодолевали
лишения,
которые
являлись
неотъемлемой
частью
их
повседневной
жизни.
Требования
сегодняш
него
дня
-
а
они
по
своему
характеру
скорее
психо
логические,
чем
физические,-
вызывают
те
же
самые
стрессовые
реакции
организма,
которые
были
необходи
мы
нашим
предкам
для
того,
чтобы
«настроиться
на
борьбу»
.
Но
чтобы
справиться
со
стрессовыми
ситуа
циями
в
сегодняшней
жизни,
эти
ответные
реакции
человека
могут
оказаться
совершенно
неподход~.
Таким
образом,
история
человечества
не
подготовила
нас
заранее
к
тому,
чтобы
в
эпоху
мощного
техни
ческого
прогресса
мы
могли
справиться
со
средоЙ,
ко
торую
такими
быстрыми
темпами
создали
для
самих
себя.
Мы
также
не
смогли
использовать
новую
тех
нологию
для
того,
чтобы
приспособить
эту
окружающую
среду
к
возможностям
и
сдерживающим
механизмам
человека.
В
действительности
мы
сегодня
наблюдаем
полную
неприспособленность
древнего
рода
челове
ческого
к
его
современному
окружению.
Вот
это
отсут
ствие
адаптации
в
системе
«человек
-
среда»
вызывает
стресс
и
мешает
людям
полностью
использовать
свои
способности.
Тем
самым
увеличивается
риск
принятия
ошибочных,
нерациональных
решений.
Ошибаться
-
в
природе
человека
Нередко
ошибки
человека
объясняют
склонностью
данного
индивида
совершать
просчеты.
Однако
нет
такой особой
категории
людей,
которым
присущи
ошиб
ки.
Все
мы
можем
ошибаться,
в
том
числе
хорошо
обученные,
высококвалифицированные
и
устойчивые
к
стрессам
люди.
Все
мы
время
от
времени
совершаем
ошибки:
включаем
не
тот
сигнал,
сворачиваем
не
в
ту
сторону
или
нажимаем
не
на
ту
кнопку.
Люди
по
своей
природе
не
застрахованы
от
опрометчивых
поступков.
Ошибаться
свойственно
человеку.
При
эмоциональных
воздействиях
опасность
со
вершения
ошибок
возрастает.
Люди,
несущие
ответст
венность
за
сложные
оборонительные
системы,
обычно
ЧЕЛОВЕКУ
СВОЙСТВЕННО
ОШИБАТЬСЯ
89
подвержены
эмоциональным
стрессам
в
тот
момент,
когда
они
должны
мгновенно
принимать
решения.
Представьте
себе,
что
вдруг
возникает
ложная
ядерная
тревога,
происходит
случайный
ядерный
взрыв
или
не
преднамеренный
запуск
ракет
2.
При
таких
обстоятель
ствах
здравый
смысл
и
способность
принять
правиль
ное
решение
могут
подвергнуться
серьезному
испыта
нию.
В
инцидентах
подобного
рода
ошибки
могут
быть
вызваны
техническими
неполадками
и
несовершенством
самого
человека.
Однако
предотвращение
угрозы
обычно
рассматривается
как
задача
техническая,
считается,
что
более
совершенная
техника
может
в
той
или
иной
мере
исключить
риск
ошибки.
Это
-
иллюзия.
Возможность
совершения
ошибки
человеком
и
отсутствие
совершенства
в
его
поведении
мы
переносим
и на
ту
систему,
которую
сами
создаем.
Компьютеры
совершают
ошибки.
Они
не
более
гарантированы
от
опрометчивых
действий,
чем
люди.
И
что
особенно
важно,
компьютеры
не могут
справиться
с
неопределен
ным
и
неожиданным.
Компьютеры
нельзя
запрограмми
ровать
на
события,
которые
невозможно
предвидеть.
Когда
происходит
что-то
неожиданное,
только
человек
может
исправить
положение.
Но
и
людям
исключительно
трудно
справиться
с
непредвиденными
обстоятельствами,
особенно
когда
для
этого
не
хватает
времени.
А
оборонительные
системы,
оснащенные
сложной
техникой,
работают
в
еще
более
ограниченном
временном
режиме.
Время,
которое
оста
ется,
чтобы
отменить
ложную
тревогу,
исчисляется
бук
вально
минутами.
И
чем
больше
оружия
мы
разверты
ваем,
чем больше
людей
взаимодействуют
с
НИМ,
тем
вероятней
катастрофа
из-за
ошибки
человека.
История
полна
примеров,
когда
временное
недомо
гание
или
иррациональное
поведение
людей,
занимаю
щих
руководящие
должности,
вызывало
катастрофи
ческие
последствия.
В
этих
случаях
не
уделялось
доста
точного
внимания
опасности,
вызванной
временной
не
дееспособностью
(в
связи
с
усталостью
или
перевоз
буждением)
всех
остальных
людей
в
общей
цепочке,
которые
принимают
и
передают
информацию,
использу
емую
руководством
для
принятия
решения.
Не
исклю
чен
также
значительный
риск,
что
эта
информация
НЕИЗБЕЖНОСТЬ:
грозящий
КАТАСТРОФОЙ
КУРС
... 90
будет
неправильно
понята
и
искажена
еще
до
того,
как
она
поступит
к
тем,
кто
принимает
решения.
lfедогрузка
и
перегрузка
Исследования
мозга
и
поведения
человека
показали,
при
каких
условиях
люди
принимают
правильные
ре
шения,
а
при
каких происходят
срывы.
П-образная
кри
вая
на
рис.
1
показывает
связь
между
уровнем
воз
буждения
If
работоспособностью.
В
основе
этой
зави
симости
лежит
биологический
фактор.
Для
нормальной
работы
человеческий
мозг
нуждается
в
умеренном
ко
личестве
впечатлеНIfЙ
из
внешнего
мира.
Если
этот
общий
поток
информацИIf
опускается
ниже
критическо
го
уровня,
отмечаются
нарушения
в
функционировании
мозга,
его
деятельность
ухудшается.
И
в
том
случае,
когда
поток
возбуждения
превышает
определенный
уро
вень,
функционирование
мозга
т~кже
нарушается
з.
высшая
..,
...
u
о
I
10
О
u
О
с:
u
о
...
о
10
со
Q.
а:
'"
I
I
Ф
10
t
::t
>-
Нl4зшаfl
Уровеиь
возбуждения
. '
Крайне
недостаточное
возБУЖдение
~
Недостатоqное
возбуждение
D
Оптимадыt.ЬtЙ
уровень
возбуждения
~
Перевозбyждettие
ШJ
Крайнее
перевозбуждение
ЧЕЛОВЕКУ
СВОЙСТВЕННО
ОШИБАТЬСЯ
91
Оптимальный
уровень
функционирования
мозга
рас
положен
в
средней
точке
шIca1Iы
в
пределах
от
сна
до
перевозбуждения.
Между
этими
двумя
экстремальными
точками
мозг
умеренно
возбужден,
мы
активны
и
действуем
наилучшим
образом.
Эффективность
умствен
ной
деятельности
уменьП1ается
в
обоих
случаях,
когда
поток
информации
отклоняется
от
оптимальной
точки
-
в
сторону
уменьшения
или
увеличения.
Ранний
признак
недостаточIЮГО
возбуждеНIfЯ
моз
га
-
это
затруднение
в
концентрации
внимания,
сопро
вождаемое
скукой,
чувством
безысходности
и
потерей
инициативы.
Человек
становится
пассивным
If
апатич
ным,
особенно
если
ему
ПРИХОДlfтся
выполнять
задачи
по
контролю
за
процессами,
связанными
с
монотон
ной
работой.
по
всей вероятности,
мозг
не
получает
достаточного
питания
потому,
что
ничего не
ПРОИСХОДIfТ.
В
данном
случае
человеку
не
позволено
действовать
он
должен
только
контролировать
и
проверять.
В
то
же
время
ситуация
требует
неусыпного
внимания
и
ГОТОВ
ности
вмешаться.
Работа
подобного
рода
неизбежна
в
С0БремеННhlХ
сложных
оборонительных
системах,
например
в
шахтах
под
землей
или
на
подводных
лодках,
где
люди
на
ходятся
в
IfЗОЛЯЦИИ
от
внешнего
Mlfpa
в
течение
дли
тельного
времени
и
при
этом
выполняют
скучную
и
однообразную
работу.
Отсюда
большая
опасность
того,
что
сигналы
будут
не
замеченhI,
сообщения
неправиль
но
IfСТОЛКОваны,
а
информация
искажена.
Наблюдения
показывют,,
что
тенденция
делать
ошиБКIf
во
время
монотонного
контроля
УСlfЛИвается
даже
в
первые
пол
часа
работы
4.
Представим
себе,
что
эта
монотонная
ситуация
вне
запно
становИТСЯ
критической.
Когда
происходит
что-то
неладное,
дежурный
обязан
мгновенно
переключиться
IfЗ
пассивного
состояния
в
активное,
прlf
котором
тре
буется
ПРИНЯТlfе
кон:кретных
решеНIfй.
Его
задача
со
CTOIfT
в
том,
чтобы
быстро
воссоздать
KaPТIfНY
СIfГНалов
тревоги,
понять
их
основной
смысл,
решить
какие
меры
нужно
принять
If
осуществить
их.
Такое
внезапное
переключение
от
недовозбужден
ного
СОСТОЯНИЯ
мозга
к
перевозбуждению,
когда
что-то
случается,
в
сочетании
с
эмоциональным
давлением
мо
жет
вызвать
временное
умственное
ОТКJIIOЧение.
Во
вре-
НЕИЗБЕЖНОСТЬ:
ГРОЗЯЩИЙ
КАТАСТРОФОЙ
КУРС
...
92
мя
краткого,
но
критического
промежутка
времени
от
ветственное
лицо
может
оказаться
не
в
состоянии
вос
пользоваться
полученной
информацией.
Последствия
такого
умственного
паралича,
пусть
даже
краткого,
мо
гут
оказаться
катастрофическими
из-за
нехватки
вре
мени,
отведенного
для
принятия
решения.
А
это время,
как
и
время
оповещения,
в
кризисных
ситуациях
не
прерывоo
уменьшается
по
мере
того,
как
совершенс'I
:':>
У
ется
ядерное
оружие
5.
Выполнение
штатных
обязанностей
в
кризисных
ситуациях
Давайте
кратко
рассмотрим,
что
нам
известно
о
факторах,
отрицательно
влияющих
на
поведение
чело
века
в
кризисных
ситуациях.
1.
Сужение
внимания.
Когда
стрессовое
состояние
усиливается,
у
нас
возникает
так
называемое
«тоннель
ное»
видение,
т.
е.
соразмерность
важнейших
деталей
ситуации
полностью
теряется.
2.
Искажение
восприятия.
Мы
часто
склонны
иска
жать
сообщение
в
зависимости
от
того,
что
мы
от
него
ожидали.
Такие
искажения
случаются,
в
частности,
ког
да
полученные
стимулы
не
совсем
ясны,
когда
наш
прошлый
опыт
влияет
на
их
интерпретацию
и
когда
наше
воображение
окрашивает
полученную
информа
цию
в
желаемый
оттенок.
3.
Умственная
косность.
Сопутствующее
психологи
ческое
явление
-
это
потеря
mбкости
ума.
Справиться
с
незнакомым
и
неожиданным
становится
еще
труднее
в
кризисной
ситуации.
Когда
ЛЮДИ
испытывают
сильную
эмоциональную
нагрузку,
их
познавательный
процесс
становится
неmбким.
Уменьшается
их
способность
воспринимать
новую
информацию,
особенно
ту,
которая
не
соответствует
их
устоявшимся
взглядам.
Нарушает
ся
также
их
способность
оценивать
другие
альтерна
тивные
решения,
а
также
делать
переоценку
своих
выво
дов.
Нам
известно
из
случившегося
на
АЭС
на
острове
Три
Майл
Айленд,
что
операторы
упорно
придержи
вались
такого
толкования
событий,
которое
не
соот
ветствовало
фактам.
4.
Неустойчивость
внимания.
Весьма
примечательно,
что
авария
на
Три
Мам
Айленд
произошла
около
ЧЕЛОВЕКУ
СВОЙСТВЕННО
ОШИБАТЬСЯ
93
4
часов
утра.
Общеизвестно,
что
умственная
активность
связана
с
суточным
ритмом,
который
определяет
боль
шинство
физиолоmческих
процессов.
Этот
ритм
посте
пенно
приводит
человека
в
состояние
сна
или
бодрство
вания.
Например,
когда
работающий
заступает
в
ночную
смену,
его
секреция
адреналина
-
фактор
очень
важный
для
активности
человека
-
соответствует
самому
низ
кому
уровню
дневной
смены.
Очень
небезопасно,
когда
оператор
в
ночной
смене
«Выходит»
из
своего
дневного
ритма,-
от него
нельзя ожидать,
что
во
время
кри
зисной
ситуации
он
будет
работать
в
полную
силу.
Итак,
ошибки
В
кризисных
ситуациях
совершенно
естественны
из-за
ограниченности
человеческих
возмож
ностей.
Сужение
внимания,
искажение
восприятия,
ум
ственная
косность
и
неустойчивость
внимания,
наблю
даемые
на
дежурстве,
не
являются
психолоmческими
нарушениями.
Это
не
пороки,
которые
можно
исправить
путем
тренировки,
а
нормальная
реакция
человека
на
сильные
напряжения.
Так
функционирует
наш
организм.
Груnnовое
nринятие
решений
Перейдем
от
психологии
происшествий
к
психоло
гии
групповых
процессов,
например
в
так
называемых
«военных
кабинетах».
Социальный
психолог
Йельского
университета
Ирвинг
Дженис
6
использует
понятие
«групповое
мышление»
для
объяснения
способа
мышле
ния,
который
овладевает
ЛЮДЬМИ
при
принятии
решений
в
замкнутых
группах.
Феномен
«групповое
мышление»
возникает,
по
всей
вероятности,
тогда,
когда
все
поставлено
на
карту
и
времени
для
принятия
решения
почти
нет,
т. е.
когда
все
подчинено
принятию
согласованного
решения
.
Что
бы
прийти
к
согласию
в
кризисной
ситуации,
члены
груп
пы,
принимающей
решение,
часто
отказываются
от
собст
венных
критических
взглядов.
Этот
процесс
может
приве
сти
к
решениям,
которые
члены
группы
по
отдельности
никогда
не
приняли
бы.
СледУет
выделить
шесть
харак
терных
особенностей
такого
феномена
:
1)
Иллюзия
неуязвимости.
Группа
начинает
рас
сматривать
себя
в
качестве
непререкаемого
авторите
та,
не
подверженного
никаким
внешним
опасностям.
2)
Игнорирование
одной
информации
и
стимулиро-
НЕИЗБЕЖНОСТЬ:
ГРОЗЯЩИЙ
КАТАСТРОФОЙ
КУРС
...
94
вание
другой.
Это
состояние
достигается
коллективны
ми
усилиими
не
считаться
с
информацией,
которая
оспаривает
выводы
группы,
и
приводить
доводы
В
поль
зу
совместно
принятых
решений.
3)
Моральное
превосходство.
Все
принимают
на
ве
ру,
что
группа
обладает
неоспоримым
моральным
пре
восходством.
4)
Создание
стереотипа
.
Враг
изображается
глупым,
и
потому
не
представляющим
угрозы,
или
слишком
коварным,
чтобы
вести
с
ним
переговоры.
5)
Иллюзия
единодушкя.
Создается
иллюзия
едино
душия,
которая
обеспечивает
иммунитет
против
возмож
Hoгo
воздействия
извне.
Способ
мышления
становится
упрощенным
и
тенденциозным:
все
представляется
в
черных
и
белых
красках.
6)
Наличие
«охранителей
умов».
Самозваные
«ох
ранители
умов»
ограждают
группу
от
информацни,
ко
торая
не
соответствует
принятому
решению,
и
подавля
ют
все
признаки
скрытых
разногласий
среди
членов
группы.
В
ситуациях
типа
«групповое
мышление»
существует
полная
неясность
относительно
намерений
противника
и,
как
правило,
отсутствует
доверие
друг
к
другу.
Это
верно
и
применительно
к
некоторым
современным
по
литическим
неудачам,
которые
можно
рассматривать,
исходя
из
синдрома
«групповое
мышление».
Например,
читатель
обратит
внимание
на
высказывание
Крингле
на
ниже
в
этом
разделе
относительно
событий
в
зали
ве
Свиней.
Заключительные
ко.м..ментарии
При
проектировании
технических
систем
предпола
гается,
что
поведение
человека
во
время
кризисов
оста
ется
неизменным.
Точно
так
же
предполагается,
что
способность
групп
принимать
рациональные
решения
сохраняется
и
в
кризисных
ситуациях.
Данные
пси
хологии,
однако,
подтверждают,
что
эмоциональное
воз
действие
и
нехватка
времени
отрицательно
влияют
на
работоспособность
человека
и
приводят
к
иррациональ
ным
решениям
-
как
ИНДИВИдУальным,
так и
группо
вым.
Эти
психологические
факторы
в
сочетании
с
сокра
щающимися
интервалами
времени
при
современных
сис
-
ЧЕЛОВЕКУ
СВОЙСТВЕННО
ОШИБАТЬСЯ
95
темах
вооружений
делают
опасность
возникновения
вой
ны
в
результате
ошибки
весьма
реальной.
Как
же
случилось,
что
человек
со
своими
необык
новенными
способностями
планировать
и
предвидеть,
выбирать
и
контролировать
оказался
в
таком
опасном
и
затруднительном
положении,
когда
обычная
чело
веческая
ошибка
может
уничтожить
весь
земной
шар?
Частично
это
можно
объяснить
психологическими
за
щитными
механизмами
человека.
Если
рассматривать
вопрос
в
более
широком
плане,
то
мы
увидим,
что
возможность
ядерной
войны
отрицается
многими
по
тому,
что
они
не
хотят
признавать
реальные
факты
жизни
и
меЖдУнародной
обстановки,
свидетельствующие
об
обратном,
т. е.
о
возможности
ядерной
войны.
Отрицая
наличие
э'гой
угрозы,
человек
обретает
со
стояние
так
назьmаемой
псевдоадаптации,
которая
по
давляет
всякое
желание
возмущаться
и
протестовать.
Псевдоадаптация
непрерывно
усиливается
и
способству
ет
эмоциона
л
ьному
ПРИТУП.J
l
ению
человека
по
мере
того,
как
в
результате
неуклонного
наращивания
ядерного
оружия
возрастает
угроза
ядерной
войны.
Чувства
отчая
ния
и
беспокойства,
которые
могли
бы
превалировать
при
правильной
оценке
с
обы
т
ий,
постепенно
исчезают.
Еще
одной
особенностью
псевдоадаптации,
тесно
связанной
с
эмоциональным
притуплением,
является
ослабление
реакции
человека на
события,
отдаленные
во
времени
и
пространстве.
Люди
не
проявляют
спо
собности
эмоционально
участвовать
в
разрешении
проб
лем,
не
относящихся
к
их
повседневной
жизни,
а
затра
гивающих
БУдУщее.
Одна
из
уловок,
которой
мы
пользуемся,
чтобы
со
владать
со
страхом
перед
ядерной
войной,-
это
пред
ставить
ее
в
каком-то
весьма
отдаленном
будущем,
за
временными
рамками
нашей
жизни,
и
в
этом
случае
эмоциональная
реакция
на
возможнос
т
ь
войны
не
возни
кает.
Мы
можем
сознавать
опасность
войны,
но закры
ваем
глаза
на
ее
непосредственную
угрозу.
Нам
не
нужна
псевдоадаптация
.
Напротив,
нам
нуж
ны
люди
со
« з
доровой
негативной
адаптацией»
к
угрозе
ядерной
во
й
ны,
способные
Вhlзвать
протест
и
всеобщее
возмущ
е
ние
нынешним
ходом
собы
т
ий.
Яцерная
эра
призывает
к
психологической
пере
ориентации,
J(
изменению
в
мотивировках
с
целью
по-
НЕИЗБЕЖНОСТЬ:
ГРОЗЯЩИЙ
КАТАСТРОФОЙ
КУРС
... 96
выmения
БУдУЩего
благополучия
человека
в
глобальном
масшта6е.
Вместо
того,
чтобы
при6егать
к
опасной
тактике
дУШевного
самоуспокоения,
мы
должны
воспи
тывать
в
себе
величайшие
человеческие
качества:
лю
бовь
и
преданность.
Взаимная
любовь
людей,
предан
ность
друг
lФугу
-
огромная
сила,
которая,
образно
говоря,
способна
«сдвинуть
гopы~>.
Самое
главное
сегодня
-
помочь
людям
расширить
их
симпатии,
укрепить
их
преданность
и
верность
своему
долгу,
помочь
им
выйти
из
узкого
круга
личных
запро
сов,
начать
:жить
интересами
не
только
своей
cTpaны
и
не
только
ближайшего
будущего.
Лишь
такая
гло
бальная
переориентация
станет
предпосылкой
для
изме
нения
гл06альщ,>го
направления,
по
которому
мы
сейчас
движемся.
Рациональное
поведение
в
кризисных
ситуациях
-
миф
Эйнар
Кринглен
Профессор
и
заведующий
кафедрой
психиатрии
Университета
Осло
(Норвегия).
Автор
нескольких
книг по
вопросам
психиатрии
и
науки
о
поведении,
в
прошлом
-
сотрудник
Центра
по
изучению
проблем
поведения
Стэнфордского
университета
(США).
Как
люди
ведут
себя
в
кризисных
ситуациях,
когда
нужно
принимать
жизненно
важные
решения
за
счи
танные
минуты?
В
ядерный
век
этот
вопрос
приобре
тает
огромное
значение.
Возбуждение,
небольшой
стресс
стимулируют
способности
человека
peampoBaTb
разумно,
рационально.
Но
как
только
напряжение
переходит
не
кий
предел,
наступают
страх
и
нервозность,
которые
производят
совершенно
иной
эффект.
У
людей
под
давлением
такого
рода
возникают
обычные
реакции,
тогда
как
неожиданная
ситуация
требует
изобретатель
ных,
необычных
решений.
Сегодня
страх
перед
потенциальным
врагом
усилен
пропагандой
и
политическим
давлением.
Растет
напря
женность.
Умами
овладевают
решения
типа
«все
или
ничего».
Любое
действие
представляется
лучшим
выхо
дом
из
положения,
чем
бездействие.
Потребность
дейст
вовать
может
быть
настолько
сильной,
что
будут
пред
приняты
шаги,
последствия
которых
могут
оказаться
катастрофическими.
Конфликтная
ситуация
и
групповое
мышление
В
определенных
группах
людей
чувство
опасности
усиливается
под
влиянием
каждого
из
членов
груп
пы.
В
кризисных
ситуациях
группы
людей,
занимающих
менее
ответственное
положение,
стремятся
передать
ин
формацию,
которую,
по их
мнению,
вышестоящие
же
лали
бы
получить.
Под
сильным
стрессом
группы,
как
правило,
подвержены
большему
конформизму,
чем
обыч-