Евгений Корниенко
Быстрая адаптация требует способности предвидеть, а мотивом адаптации служат жизненные потребности организма. Искусственное сознание развивается из этих же свойств. Цель исследования: конструктивный поиск алгоритма сознания. Этюд "Бабочка и цветок" демонстрирует основы работы сознания.
Эта работа в основном была сделана в 1997 году. Я хотел разобраться, как работает сознание, используя конструктивный подход: идея считается достойной внимания, только если она подкреплена детальным алгоритмом, который должен работать уже сегодня, а не в неопределённом будущем.
В результате проработки и отбраковки многочисленных тупиковых идей пришлось отказаться от применения таких признанных инструментов, как нейронные сети и семантический анализ. Первоначальное сознание не требует (и не может возникнуть из современных искусственных) нейронных сетей, а язык появляется на поздних стадиях развития сознания. Вместе с тем, я считаю эти направления технически очень важными. После того, как построена активная система, способная обучаться и накапливать полезный опыт, её восприятие мира может быть значительно улучшено применением систем распознавания образов, основанных на нейронных сетях, а её разумность может быть повышена путём обучения с применением обоснованных семантических структур для передачи знаний. В моём алгоритме сознания возникают и развиваются структуры, похожие на нейронные сети, и ёмкие команды, похожие на слова.
Сознание возникает у животных как одно из средств, улучшающее их адаптацию к окружающей среде. Быстрая (по сравнению со временем жизни животного) адаптация требует способности предвидеть, а мотивом адаптации служат биологические жизненные потребности организма. Искусственная система, обладающая такими свойствами, тоже приобретает сознание.
В этой статье я стараюсь рассказать о работе сознания в "функциональном" стиле. Читатели с тренированным системным мышлением увидят за этим описанием взаимодействие объектов, которое может быть запрограммировано. Малая ресурсоёмкость алгоритма наводит меня на мысль, что весьма высокий уровень сознания, вплоть до сознания млекопитающих, может быть воплощён сегодня. Это послужило поводом написать вступительную статью "Опасно разумен".
Я недостаточно знаком с мировым опытом в области искусственного интеллекта, не претендую на новое слово, и заранее извиняюсь за повторение уже известных идей без соответствующих ссылок.
Алгоритм сознания, который я демонстрирую в этюде "бабочка и цветок", запоминает, структурирует, использует опыт и пытается удовлетворить свои желания. Он может быть встроен как в эфемерное существо на экране, так и в игрушечного робота. Но уровень его сознания, достигаемый без специального обучения, не превышает сознания селёдки. В результате обучения, например, различных игр, этот уровень может сравниться с сознанием мыши или даже кошки. Я уделял основное внимание "чистому" самообучающемуся сознанию, и пока ещё не разработал средств интерактивного обучения. В используемом алгоритме важен не столько мозг, сколько система взаимодействия с внешним миром.
Что такое сознание?
Как устроено сознание? Какие процессы, механизмы, взаимодействующие объекты требуются, чтобы возникло сознание и осознание себя? Что нужно для изготовления не модели сознания, а просто сознания?
Обычно слово сознание применяется, как характеристика отдельного существа. Оно может "потерять сознание". А слово разум означает принципиальную способность быть сознательным. Например, "человек разумный". Есть и другие толкования. Но я не буду больше останавливаться на словах. Только на том, почему возможно сознание и как оно работает.
Неизвестно, как доказать, что человек думает.
Уверенность в том, что люди думают, основана на опыте и убеждённости в собственном сознании, а не на измерениях и логических выводах из них. Вот почему науке трудно подступиться к глубокому изучению сознания. Мы можем изучать мозг, нейроны, языки, поведение, но не сознание само по себе.
Мы наблюдаем не разум, а разумное поведение.
Раз уж мы не можем это точно доказать, то будем субъективно судить о наличии сознания у некоторого объекта по его поведению. При этом можно принять какое-то поведение за сознательное, а впоследствии выяснить, что это была ошибка. Но более надёжного способа у нас нет, и не будем терять время на его установление, если только это не окажется критичным для ответа на поставленные вопросы.
Сущность субъекта субъективна.
Человек относится к себе слишком предвзято. И хотя я считаю, что могу сделать полезные выводы о природе сознания на основании поведения людей, но я также уверен, что эти аргументы не убедительны (для людей). Поэтому будем рассматривать сознание других животных.
Поведение животного управляется его нервной системой.
Обычно, чем больше мозг животного, тем разумнее поведение этого животного. Нервная система, как и другие органы и системы организма, изобретена природой как одно из средств, обеспечивающих выживание вида. Развитие нервной системы и увеличение централизованного мозга произошло тоже в результате эволюционной борьбы за выживание. Но есть такие формы жизни, которые выживают и без нервной системы, например, растения.
Растения не живут, а выживают.
Сравним индивидуальное поведение растения и животного. Что, собственно, в их поведении способствует выживанию вида? Само слово поведение плохо подходит к растению. Растения проживают свой век без заметного проявления индивидуальных свойств. Выживаемость одного растения заключается в том, что оно способно вынести неблагоприятные условия, которые могут наступить в какой-то период жизни растения. Приспособляемость вида растений к изменяющимся условиям обеспечивается тем, что растения, которые плохо приспособлены к данным условиям, не выживают и не передают свои неудачные признаки потомству.
Животные способны улучшить свою жизнь.
Совершенно иначе относятся к неблагоприятным условиям животные, например, кошки и мышки. Они активно пытаются найти выход из положения. Собственно, это я и называю поведением. Поведение - это достаточно быстрая реакция в ответ на изменяющиеся внешние условия. Если плохие условия сохраняются долго, то кошка пытается приспособиться к ним. Она ищет правильное поведение в новой для неё обстановке. Но если все попытки улучшить ситуацию оказываются безнадёжными, то кошке, как и растению, остаётся только надеяться и терпеть.
Сложное поведение животных является проявлением условных и врождённых рефлексов. Это справедливо как для простых животных, вроде улитки, так и для наиболее смышлёных, вроде собаки. В отличие от растений, животные, имеющие нервную систему, способны приобретать условные, генетически не запрограммированные рефлексы, то есть обучаться.
Животные могут найти новое выгодное (то есть разумное?) поведение.
В некоторых случаях поведение, основанное на приобретённых рефлексах, настолько "разумно", что некоторые, например я, считают его разумным без кавычек. Является ли это поведение проявлением "настоящего" разума или лишь изощрённой адаптацией живого организма к меняющемуся миру, неизвестно, так как мы можем судить о разуме только по поведению, и не имеем конструктивного "индикатора наличия разума". А чем, если не адаптацией к миру вплоть до изменения мира по своим потребностям, является поведение человека?
Итак, условившись судить о разуме по поведению, мы можем признать два важных факта.
Суждение о наличии разума субъективно, вплоть до того, что некоторые люди считают поведение некоторых своих соплеменников несознательным.
Можно ввести субъективную шкалу разумности. Например, улитка, кошка и человек перечислены здесь в порядке увеличения разумности.
Не исключено, что разум начинается не с самого простейшего уровня организации нервной системы, а "возникает" при достаточном её развитии. Однако, пока нам не ясно, что такое разум, и не ясен механизм такого возникновения, будем считать, что все существа с нервной системой разумны. В частности, самые простые существа могут иметь "нулевую" или "исчезающе малую" разумность. Зато при таком подходе мы можем сравнить поведение многих животных, чтобы найти, что же именно в поведении данного животного кажется нам разумным. Это должны быть такие признаки, которые выявляются у всех без исключения животных. Явно разумность заключается не в том, что существо питается и размножается, потому что подобные признаки есть и у растений, которые, судя по отсутствию поведения, разумом не обладают.
Такие неплохие определения сознания, как способность к достижению цели, или к нахождению решения, или к принятию решения, нам тоже не подходят, так как они не конструктивны, в частности, не связаны однозначно с наблюдаемым поведением. "Цель" и "решение" сами определяются через сознание. Способность к общению с себе подобными, и формы такого общения "более наблюдаемы", но часто их трудно отличить от физического взаимодействия. Пример: перенос пыльцы.
По-моему, хорошим наблюдаемым критерием разумности является способность активно приспосабливаться к меняющимся окружающим условиям, то есть способность обучаться на основе своего опыта.
Самообучение - признак сознания.
Сознание - это внутреннее свойство, творческий мотор самообучающегося организма.
Начальное сознание возникает при такой организации нервной системы, которая обеспечивает возможность обучаться. Это ещё не то самосознание, которое заставляет вас уступить место старушке. Конструктивность этого определения состоит в том, что оно не ограничивает средства для изготовления "творческого мотора". Изобретите и создайте устройство, способное самообучаться - и оно получит сознание. Найдите способность к самообучению у робота, и этим будет доказано, что он обладает сознанием.
Вместо слова "самообучение" я иногда использую более широкое понятие "адаптация". Если существо самостоятельно находит новое поведение в новых условиях, причём никто не учил его этому поведению, то это существо способно к адаптации (к самообучению). Изобретение нового поведения - признак творчества, а творчество - признак сознания.
Человек вооружённый
Человек, снабжённый современными техническими средствами (книгами, автомобилями, оружием), способен выжить в более широком диапазоне внешних условий. Он лучше адаптирован к миру, чем человек, как живое существо. В соответствии с таким определением, можно считать, что сознание цивилизованного человека продолжает развиваться, хотя сознание "биологического" человека, может быть, имеет пределы, которые уже достигнуты, судя по тому, что нам приходится интенсивно учиться всю жизнь.
Разумность пропорциональна способности к адаптации.
Большой потенциал адаптации хорошо виден из такого мысленного эксперимента. Представим себе существо с максимально развитой адаптацией. Пусть это существо вынуждено приспосабливаться к человеческой культуре. И оно научилось играть в шахматы, конструировать космические ракеты и сочинять изысканные стихи. Кто теперь откажет ему в разумности!
Поэтому способности живого существа к адаптации следует считать проявлениями его сознания. И каждый вправе субъективно оценивать степень развития этого сознания.
Осознавание себя
"Начальное" сознание не гарантирует осознавания. Осознавание - это такой уровень развития сознания, при котором субъект отличает себя от других объектов.
Осознавание себя – главный общепризнанный признак сознания. Однако это лишь частный случай осознавания "внешнего" мира. Мы воспринимаем внешний мир в виде различных качеств, которые отражают физические параметры природных явлений, регистрируемые нашими органами чувств. Мы осознаём не своё сознание, а свои ощущения объектного мира и свои мысли, представимые в виде образов из объектного мира, то есть в виде образов ощущений. Суждение о собственном сознании выводится из наблюдения своего поведения. Поэтому проблема осознавания себя сводится к проблеме осознавания своих ощущений.
Осознавание ощущений обеспечивает тот же внутренний механизм сознания - мотор самообучения и творчества. Собственно сознание – это не мозг, не поведение, а именно механизм, то есть процесс обработки информации. В мозгу информация представлена в виде биохимических состояний и динамики нейронов. В сознании этой информации соответствуют образы, элементами которых являются ощущения.
Сознание - это процесс.
Можно полностью сохранить информацию, и остановить процесс её обработки. При этом сознание исчезнет.
Для осознавания важно, что творческий механизм сознания вырабатывает оптимальное в данных обстоятельствах поведение органов. Поведение мозга - это его взаимодействие с другими органами. Поведение руки - это её взаимодействие с физическим миром и с мозгом. Если найдено достаточно совершенное "не улучшаемое" поведение, то осознавание тоже исчезает, заменяясь автоматическим управлением. Поэтому тщательно отработанное поведение, например, при игре на музыкальном инструменте, становится автоматическим и не отвлекает осознавание от музыкального творчества.
Хотя мы не придаём этому большого значения, но следует заметить, что сопутствующие автоматическому поведению ощущения тоже могут становиться автоматическими, то есть неосознаваемыми. Например, здоровый человек не обращает внимания на то, что при ходьбе на ступни его ног действует сила в десятки килограммов. А в другой ситуации мы чувствуем и сознательно реагируем на лёгкое прикосновение.
Сознание - это не материальный предмет.
Вопрос "где находится сознание" не имеет смысла. Необходимую обработку информации может выполнять локальный нервный узел, мозг или удалённый процессор, но сознание не находится внутри этих органов. Например, мы видим бабочку на экране компьютера. Обработка сигналов, вырабатываемых её органами, происходит внутри системного блока, а материального тела у неё вообще нет. Отсюда следует, что нельзя присваивать функцию сознания мозгу, так как мозг является только одним из органов, поддерживающих наблюдаемое сознательное поведение живого существа.
Осознавание необходимо только там, где невозможна автоматизация.
Живой мозг, как информационная машина, постоянно взаимодействует с объектным миром. Только малую часть своих способностей он выделяет для осознаваемого творчества. А сам механизм сознания - это неостановимый процесс, который работает, даже когда мы спим и ничего не осознаём. Осознание себя - это только один из многочисленных процессов, происходящих в сознании при управлении телом и его поведением в окружающем мире. Это процесс творческого (то есть, неавтоматического) восприятия внешнего мира. Восприятие мира нельзя полностью автоматизировать, так как разумное живое существо должно быть готово к неожиданному непредсказуемому изменению в окружающем мире. Требуется сохранять внимание и иметь "резерв разумности" (осознавание и способность к умозаключениям), чтобы адекватно изменить поведение.
Большая часть процессов сознания - это управление органами тела, доведённое до автоматизма, и поэтому оно не осознаваемо. Я допускаю, что в то время, когда мозг и другие органы ещё не родившегося ребёнка развивались и приучались взаимодействовать друг с другом, этот творческий процесс самообучения был осознаваем. А материнский организм помогал обучению, страхуя плод от слишком богатого творчества.
Осознание себя индивидуальностью - не основа сознания, а ощущаемая, наиболее творческая сторона его работы, которая не может превратиться в автоматическое легко узнаваемое поведение. Поэтому сознание другого субъекта непосредственно не наблюдаемо. А вот собственное сознание наблюдаемо. Хотя автоматические процессы и составляют основную работу механизма сознания, но они являются подсознательными и не отвлекают нашего внимания от творческой работы сознания, какой бы малой она ни была.
Критерий понимания – это работающий самообучающийся алгоритм.
Разработав алгоритм (технологию) самообучения или универсальной адаптации и снабдив этим алгоритмом искусственное существо, мы обеспечиваем его средством для развития сознания и осознавания себя.
Жизнь среди себе подобных
Поскольку изолированное сознание не наблюдаемо, то моделирование самообучающейся системы возможно только одновременно с моделированием органов чувств и действий, то есть датчиков для взаимодействия с искусственным или реальным миром. Объекты (тела) в этом мире могут не иметь разума или выполнять какие-то запрограммированные действия. А часть объектов могут быть разумными, например, это люди и роботы.
Для нас разумны только люди.
Пусть создана искусственная жизнь. Попробуем проверить разумность какого-нибудь искусственного существа. Если оно развивалось в окружении себе подобных, а не людей, то у него совсем другой мир интересов. Оно будет похоже для нас не на мыслителя или хитреца из теста Тьюринга, а на животное, машину или программу.
Голый философ
Отсутствие давления человеческой культуры сделает то же самое и с человеком. Представим себе тёмное безграничное пространство без тяжести, заполненное неподвижным чистым воздухом при нормальных условиях. В этой невесомости висит голый философ. Для упрощения, пусть он не хочет есть. Долго ли он будет оставаться мудрецом?
Вскоре он потеряет разум. Опыт показывает, что сильное уменьшение сенсорного потока (сенсорный голод) приводит к потере сознания. А продолжительное ограничение контакта с людьми, как в одиночной тюремной камере, опасно для психики.
Этот пример ещё раз показывает, что постоянный динамический контакт с объектным миром является обязательным условием как жизни, так и разума. А полноценная разумная жизнь возможна только в какой-нибудь культурной среде. Например, среди людей. Для того чтобы мы могли признать существо разумным, оно должно приспособиться к человеческой культуре. Если попугай сможет пройти тест Тьюринга, то никто не станет сомневаться в том, что он обладает сознанием. Но если такой же или ещё более разумный попугай никогда не встречал людей, то он не может пройти тест Тьюринга. Потому что это тест на наличие человеческого сознания.
Самообучение, как признак сознания, связано с выживаемостью потому, что существо, способное обучаться, способно предвидеть что-то важное, что может произойти в ближайшие секунды.
Способность обучаться
В природе умение быстро обучаться или быстрая адаптация способствуют выживанию вида в конкуренции с другими подобными видами. Самообучение, как признак сознания, связано с выживаемостью потому, что существо, способное обучаться, способно предвидеть что-то важное, что может произойти в ближайшие секунды, или, хотя бы, доли секунды. Это существо предвидит и результат своего действия, например, таракан знает, что он убегает от опасности.
Адаптация требует умения прогнозировать и находить новое поведение.
Биологическая польза сознания – способность предвидеть.
Польза осознавания - правильная реакция на то, чего нельзя было предвидеть.
Тест на способность обучаться
Этот тест предполагается применить к наиболее примитивным существам: улитке, гидре. Если он даст положительный результат, значит, это существо способно предвидеть, обучаться и самообучаться, то есть оно обладает, по крайней мере, рудиментарным сознанием.
Подготовка.
Наблюдаем за существом в естественной для него среде обитания. Находим 3 каких-нибудь как можно более лёгких воздействия на существо, на которые оно откликается чётко различимыми, различными для этих трёх воздействий реакциями. Обозначим эти воздействия буквами A, B, C.
Приучение к воздействию AB.
В естественных для существа условиях, когда оно способно к восприятию, применяем к нему воздействие A, а затем через время, достаточное для реагирования на A, применяем воздействие B. В результате, после многократного повторения этих действий, с учётом того, чтобы это обучение не сильно влияло на обычный образ жизни существа, оно должно проявить признаки предвидения и реагировать на A, как будто это B, даже если B не было применено.
Приучение к воздействию AC.
Точно также, в естественных для существа условиях многократно применяем к нему воздействие A, а затем С. В результате оно должно приучиться реагировать на A почти как на С.
Выводы.
Если в одних и тех же условиях без какого-либо воздействия на среду или на существо оно способно в ответ на воздействие A достаточно устойчиво реагировать одним образом, а после переучивания на то же воздействие A оно реагирует другим чётко отличимым от первого образом, то такое существо способно к обучению. Обратите внимание, что отрицательный результат этого теста не говорит о том, что изучаемое существо не имеет способностей. Не так просто подобрать подходящие тестирующие воздействия.
Тест демонстрирует элементарное обучение, "квант обучения". Aplysia имеет примерно 20000 нейронов и проходит тест на способность к обучению. Я не слышал о способности к обучению у гидры. Хорошо бы найти тот минимальный уровень организации нервной системы, при котором способность к обучению уже можно зарегистрировать.
В этом тесте экспериментатор не задаёт поощряющие стимулы.
Стимулом в тесте на способность обучаться является внутреннее "правильное" состояние организма. События B и C являются не стимулами, а объективными воздействиями, которые должны быть предсказаны существом. Оно должно повести себя так, чтобы при этих воздействиях его внутреннее (субъективное) состояние оставалось нормальным (не ухудшилось). При обычном обучении удачный выбор стимула может ускорить обучение, но мы проверяем не качество обучения, а только факт обучения.
На самом деле мотивы поведения существа скрыты от экспериментатора.
Мы теоретически реконструируем эти мотивы, наблюдая поведение. Можно изготовить программу или машину, которая успешно пройдёт этот тест, но больше ни на что не способна. Такая машина исполняет поведение, предусмотренное разработчиком. В частности, многие разработки в области искусственного интеллекта имитируют человеческое поведение.
Но Aplysia самостоятельно изобретает подходящее поведение. Механизм такого изобретения, видимо, не очень сложен, и состоит в том, что Aplysia подбирает такое поведение, которое максимально сохраняет комфортные условия жизни. По наблюдаемому результату поведение жёстко запрограммированной машины и такого простого живого существа, в принципе, похоже. Это не случайно. Примитивное живое существо действительно является "живой машиной", имеющей небольшой, достаточный для выживания, арсенал реакций на воздействия окружающей среды.
Простейший "Алгоритм творчества", видимо состоит в переборе предусмотренных заранее вариантов поведения. Выбор завершается при достижении оптимального значения "целевой функции", то есть при достижении достаточно комфортного ощущения.
Таким образом, поведение существа, обладающего простейшим уровнем сознания, неотличимо от "механического" исполнения программы. Сознание было творческим, а осознавание - активным в процессе самопрограммирования, в то время, когда творческий механизм сознания (самообучения) подбирал и отрабатывал новое поведение. После надёжного приучения к определённой последовательности воздействий, осознавание этой последовательности исчезает и заменяется автоматическим поведением.
Механизм свободы воли
Если выбор поведения не слишком сложен, например, если организм имеет небольшой арсенал возможных реакций, или если необходимые варианты поведения заранее известны, то творческая работа сознания не велика. Жёсткий выбор "if - then - else" - это нулевой уровень сознания, лишённый творчества, свободы выбора и осознавания. Следовательно, в процессе творческого подбора подходящего поведения сознание проявляет ещё и "свободу воли".
Практически выбор решения происходит ассоциативно в зависимости от обстоятельств. При этом "воля" не имеет технического значения. Однако обстоятельства интерпретируются субъективно. Можно подумать и склониться к одному решению. Можно подумать ещё, увидеть в тех же обстоятельствах новые детали, из-за которых эти обстоятельства кажутся другими, такими, что из них следует другое решение. Впечатление о свободе воли возникает потому, что человек помнит, что он мог принять одно или другое решение в объективно одних и тех же условиях, и он свободно принял одно из решений.
Таким образом, "свобода воли" - это одно из проявлений осознавания, заключающееся в том, что одновременно с осознаваемыми действиями мы можем размышлять на другую тему, например, "вспоминать".
У бабочки такой механизм ещё не внедрён. У неё нет различия между обдумыванием и осуществлением её идей - "Что на уме, то и на языке". В этой программе ещё не использован алгоритм "обдумывания без исполнения", которое происходит, если сенсоры и эффекторы автоматически выполняют свою работу, освобождая мозг от детального управления.
Благодаря способности к автоматизации поведения мозг получает возможность развивать свой чисто "ментальный" опыт, то есть думать. Для мозга мысль - это тот же процесс взаимодействия с органами тела, во время которого они не исполняют команды мозга, так как их внимание отвлечено исполнением ранее запущенных автоматических процессов. При достаточно активном неавтоматическом поведении мозг постоянно отвлекается от "мыслей" для осознаваемого управления. Это затрудняет ассоциативное продумывание продолжительных действий. Видимо, поэтому живой организм устроен так, что во время сна многие органы не реагируют на фантазии мозга. Это позволяет проигрывать в уме длительные сценарии и вырабатывать сжатые ассоциативные образы длительных процессов, что в дальнейшем используется для осознаваемого "планирования" поведения.
Первая и третья персоны
Обычно считается, что идеальное восприятие и материальные процессы несводимы друг к другу. То есть невозможно на основе измерений логически доказать, что человек или другое существо испытывает боль или удовольствие. Сознательное существо, "первая персона", воспринимает свой опыт в виде потока ощущений или потока сознания. Я чувствую боль или удовольствие. Это прямое восприятие абсолютно не связано с тем, догадываюсь ли я о том, что у меня есть нервная система, и прокручиваются ли в ней какие-то алгоритмы.
Конечно, можно набрать статистику и установить, опрашивая испытуемых людей, что им больно, когда количество какого-то гормона в таком-то органе находится в таких-то пределах. А как узнать, испытывает ли боль рыба? Ведь она не может выразить свои ощущения словами.
Поскольку я знаю из опыта, что все люди во многом похожи на меня, то я не сомневаюсь, что и они испытывают боль и удовольствие, хотя их боль абсолютно недоступна моим ощущениям. Я могу только "сочувствовать" им, но не чувствовать эту боль.
Другой сознательный объект, "третья персона" с точки зрения первой персоны, выражает своё сознание через поведение. Отвечающие за поведение физические и информационные механизмы - объективны. Их можно изучать и моделировать. Я могу сочувствовать другому существу только в той мере, в какой я понимаю его поведение. В частности, я не понимаю, что испытывает осьминог. А специалист по осьминогам уже может это понимать. Но и он не может ощущать те же чувства, что и осьминог.
Очеловечивание машин
Мы часто используем слова, обозначающие субъективное, идеальное восприятие, в применении к техническим системам: Word запомнил этот макрос. Я могу обозначить чувственными терминами переменные в программе: "удовольствие" увеличилось на 1, а "чувство удовлетворения" уменьшилось на 30%.
Когда компьютер "вспоминает" файл, он не прикладывает никаких особых субъективных усилий и не осознаёт, что он что-то вспомнил. Это чисто механическая работа, как у хороших часов. Все части правильно пригнаны, и при нажатии на определённые рычажки они выполняют задуманные конструктором действия. Если иногда и происходят непредусмотренные действия, то не потому, что компьютер проявляет свою волю, а потому, что и конструктор, и изготовитель компьютера, и программист, и пользователь - люди, и им свойственно ошибаться.
Компьютер не вспоминает и не принимает решения - эти часто применяемые технические термины относятся к функционированию третьей персоны, а не к субъективному осознаваемому размышлению.
Поэтому, как бы мы не назвали какой-то датчик или переменную в программе - "настоящее удовольствие", "псевдоудовольствие" или "истинное наслаждение" - это ничего не говорит о возможном субъективном восприятии создаваемого искусственного разумного существа. Чтобы убедиться, что оно действительно что-то чувствует, нужны испытания его поведения, такие же, как наблюдения за повадками осьминогов.
Тест осознавания себя
Осознавание себя развивается из осознавания своих ощущений. Я надеюсь, что по некоторым признакам поведения можно доказать, что третья персона осознаёт свои субъективные ощущения, и даже осознаёт себя.
По мере развития сознания его можно характеризовать такими качествами:
Начальное сознание - такой уровень развития нервной системы, который обеспечивает самообучение.
Осознавание (ощущений) - это такой уровень сознания, при котором сознательное существо испытывает субъективные чувства, эмоции, впечатления.
Осознавание себя - это уровень осознавания, при котором сознательное существо субъективно отличает себя от других объектов, а своё поведение от других явлений.
Таким образом, если робот осознаёт себя, значит, он испытывает боль, страх или какие-то свои неизвестные нам чувства.
Персональное осознавание тождественно самому себе. Если я осознаю себя, то мне не требуется "объективное" доказательство этого факта. Тест или специальный эксперимент нужен для доказательства того, что другое существо осознаёт себя.
Конечно, из-за того, что я не сомневаюсь в собственном сознании и без всяких тестов уверен в осознавании себя людьми, подобный тест не вполне объективен. Сам тест может быть проверен только субъективными средствами. Например, я уверен, что мой телевизор не осознаёт себя, а мой друг осознаёт себя. Если тест покажет обратное, то либо он в принципе не годится, либо его надо исправлять. А если тест покажет, что какой-то объект осознаёт себя, то я могу доверять этому результату не более, чем своей уверенности (не подкреплённой строгим логическим доказательством) в том, что мой друг тоже обладает сознанием. Это не снижение уровня доказательства. Напротив, некоторые наши убеждения, например, те, на которых основана формальная логика, обоснованы "более чем логически".
Осознавание себя - это одно из проявлений осознавания своих ощущений и своего поведения. Осознающий своё поведение субъект может обладать одним из субъективных качеств поведения - свободой воли, то есть способностью осознаваемого выбора одного из нескольких равноценных решений.
Свобода воли имеет и объективное, и субъективное объяснения, что можно использовать для построения теста, логически связывающего наблюдаемое поведение с субъективным впечатлением. Субъективное восприятие свободы воли относится к первой персоне, к субъекту, который чувствует, что он свободно принимает решения. А объективный механизм ассоциативного выбора решения, обеспечивающий свободу воли, действует в третьей персоне. Его можно изучать и перепроверять как научный факт.
Объективно выбор решения не зависит от наличия сознания и "воли". Он происходит ассоциативно в зависимости от обстоятельств. Можно подумать и склониться к одному решению. В результате размышления можно увидеть в тех же обстоятельствах новые детали, из-за которых эти обстоятельства кажутся другими, такими, что из них следует другое решение. Таким образом, выбор решения жёстко связан с текущими ассоциациями. А за субъективным процессом размышления лежит объективный механизм "ассоциативного блуждания", нахождения то одних, то других ассоциативных связей между текущими обстоятельствами и хранимым в памяти прежним опытом субъекта.
Впечатление о свободе воли возникает потому, что человек помнит (думает, размышляет) о том, что он мог принять одно или другое решение в объективно одних и тех же условиях, и он свободно принял одно из решений. При этом как выполнение принятого решения, так и размышление о других возможных решениях являются одновременными и осознаваемыми.
Заметим, что автоматические или рефлекторные действия, например, выделение желудочного сока, не осознаваемы и не приводят к формированию впечатления о свободе воли.
Итак, свобода воли - это часть и явный признак осознавания. Признаком наличия свободы воли является способность одновременно с каким-то неавтоматическим действием размышлять "на другую тему".
Размышление - это проигрывание в уме каких-то реальных или вымышленных действий. У человека эти действия наполнены смыслом, так как в них используются ёмкие символы действия - слова. У животных в "размышлениях" могут участвовать зрительные, обонятельные или другие образы. Поскольку сами размышления не наблюдаемы, то нам требуется какой-то наблюдаемый индикатор размышления, то есть индикатор внутренней ассоциативной работы "на другую тему". Таким индикатором может быть не только речь, но и любое неавтоматическое действие, которое не имеет обязательной логической связи с первым действием.
Таким образом, способность выполнять одновременно два неавтоматических (нерефлекторных) и логически не связанных друг с другом действия является достаточным признаком свободы воли и, следовательно, сознания, осознавания (своих ощущений) и осознавания себя.
Можно изготовить робота, который будет выполнять два действия - идти и петь. Но если я проведу дополнительные испытания, подставлю роботу подножку, и он упадёт и будет продолжать петь, то я сделаю вывод, что его "пение" происходит автоматически. Значит, я не могу сделать вывод, что этот робот обладает сознанием.
То, что действия не являются автоматическими, требуется доказывать.
В этих рассуждениях слово "действие" можно понимать обобщённо, как активное или пассивное взаимодействие с окружающим миром.
Кошка лежит у меня на коленях и испытывает (неавтоматическое) удовольствие от общения с хозяином. Она не пойдёт на колени к кому попало. Одновременно она наблюдает за рыбками в аквариуме. Никакие рыбки и аквариумы не могли быть зашиты в сознание кошки генетически. Значит, это наблюдение тоже не автоматическое. Следовательно, кошка обладает свободой воли, осознаёт то, что она воспринимает, и осознаёт себя.
То, что это удовольствие и наблюдение не являются чисто рефлекторными автоматическими процессами должно быть доказано, а это не так просто сделать. Чтобы уменьшить возможность субъективной интерпретации, лучше делать выводы на основе более убедительных активных действий.
Обезьяна с криком убегает от пантеры. Этот крик выражает не только страх. Это примитивная речь, сигнал, сообщающий другим обезьянам этой стаи, что им угрожает пантера. Это не генетический безусловный рефлекс. Обезьяна обучилась языку в своей стае. В других стаях той же породы обезьян сообщение о пантере звучит иначе. Убегает она тоже не совсем "рефлекторно". Это хорошо натренированные действия, которым она научилась в играх и в реальной жизни, а не была способна от рождения. Хотя крик логически связан с убеганием, но я считаю, что обезьяна могла бы убегать и молча, как поступает большинство зверей. Если в другой ситуации, когда обезьяна знает, что никто её не услышит, она (иногда) убегает молча, то это доказывает, что этот крик-сигнал является независимым действием со специ