Космист

Повторюсь ещё раз: машина рано или поздно научится МОДЕЛИРОВАТЬ разумное ПОВЕДЕНИЕ человека. Моделировать и поведение - ключевые слова. Иначе говоря, это будет не человеческий, и даже, не разум, а некая информационная модель, имитирующая поведение разумного существа, но не наделённая разумом, сознанием, чувствами.

Поясняю на примере:
Пилот самолёта имеет перед собой сознательную цель - поддерживать полёт, он отдаёт себе отчёт о своих действиях (осознаёт их), ощущает определённые чувства: удовлетворения от полёта, ответственности перед пассажирами, ожидания встречи с девушкой, оставшейся на земле (ну или парня, если за штурвалом - девушка). И это не просто что-то, никак не связанное с его действиями, наоборот, это очень важная часть его внутреннего мира, влияющая на его действия. Например, пилот задумался о любимой и допустил какую-то ошибку, или наоборот, чувство ответственности перевесило, и пилот строго следует инструкциям. К этому, естественно, добавляется способность к разумному анализированию, реагированию и т.п. Причём, повторюсь, всё это подчинено осозноваемой человеком цели.

Машина - просто особый блок, комбинация определённых элементов, обеспечивающая переработку поступающих из внешней среды сигналов. Для полной ясности приведу пример ЭВМ: электрические импульсы поступают в ЦП, где вступают во взаимодействие между собой и другими импульсами/зарядами (памятью машины). В результате образуется особая комбинация выходных импульсов, преобразуемых специальными устройствами в движение исполнительных органов (рулей, закрылков, рычагов и т.п.). А сознательной цели, чувств и т.п. комп не имеет. Преобразование входного сигнала в выходной происходит "самотёком", за счет естественных свойств заряженных частиц, которые мы используем для создания моделей интересующих нас явлений. (Модель - объект, отражающий интересующие нас свойства другого объекта (явления) но не равный этим объектам (явлениям)). Каким бы скоростным не был компьютер, он останется моделью, наделённую разумным поведением. А разума в потоке электричества, по каким-бы сложным схемам он ни тёк, как нету, так и не будет.

По поводу отношения с разумно ведущими себя существами. Вот это проблемка что надо! Ведь разумное поведение вовсе не означает наличия разума: компьютер, с которым играл Каспаров, вёл себя совершенно разумно относительно правил шахматной игры, и даже сумел выиграть несколько партий. Если вы считаете, что он наделён разумом, а не исполняет программу-модель - отзовитесь. Да и определение разума как способности к анализированию информации, запоминанию и самосохранению, данное Fuzz-ом, ничего нам не даёт в плане того, что делать с существом, наделённым разумом: разум - только инструмент, который существо-носитель может направить куда угодно. Представьте себе, что разумное существо, используя свои способности, хладнокровно, расчётливо и разумно готовит план по истреблению всех людей. Какова наша реакция?

Ответ на вопрос "что делать с чем-то в окружающем мире?" надо искать исходя не из разумности-неразумности, а того, на что направленно поведение этого чего-то.