Встреча с инопланетянами со временем становится все более вероятной и явно выходит за пределы научной фантастики. Поэтому важно заранее знать, как доказать Инопланетянину, что люди — живые существа, обладающие «Я», а не бездушные самовоспроизводящиеся автоматы. (Для инопланетянина это вовсе не очевидно.)
ИНОПЛАНЕТЯНЕ И ЗЕРКАЛЬНЫЙ ТЕСТ
Человек, прихлопнувший комара, смотрит на его судороги и не думает ничего. Инопланетянин, сам титановый и покрытый жаропрочной эмалью, ростом с десятиэтажный дом, глядя на судороги человека скорее всего подумает:
— Эти маленькие биороботики осуществляют свои беспорядочные движения в связи с поломкой внутренних каналов связи, вызванных механическими повреждениями. Никакой ответственности я, Инопланетянин, за это не несу, ибо у этих маленьких биороботиков отсутствует субъектность, т.е. собственное «Я».
Встреча с инопланетянами со временем становится все более вероятной и явно выходит за пределы научной фантастики.
Поэтому важно заранее знать, как доказать Инопланетянину, что люди — живые существа, обладающие «Я», а не бездушные самовоспроизводящиеся автоматы. (Для инопланетянина это вовсе не очевидно.)
Первое, что приходит в голову, это предложить Инопланетянину проверить случайно выбранного им человека на способность пройти Зеркальный Тест.
Для тех, кто не в курсе, напомню, как этот замечательный (и даже, с моей точки зрения, гениальный) тест применяется на Земле к животным. Испытуемому животному во сне мажут краской лоб (или какую-то другое место на морде, которое он может увидеть только отраженным в зеркале), а затем смотрят на реакцию разбуженного животного, поднося к нему зеркало. Если испытуемое животное, увидев краску в зеркале, начинает тереть у себя на морде покрашенное место, то считается, что данное животное успешно узнало себя в отражении, тем самым прошло Зеркальный Тест и обладает самосознанием, чувством собственного «Я».
Кстати, кошки не узнают себя в зеркале (неспособны пройти Зеркальный Тест), но для всех разумных людей очевидно, что у кошек есть собственное «Я».
Таким образом, прохождение Зеркального Теста не является необходимым для существования субъектности у испытуемого существа.
Однако не менее важен вопрос: является ли прохождение упомянутого теста достаточным для подтверждения субъектности? С чисто человеческой точки зрения ответ будет, видимо, положительным… Но не с точки зрения Инопланетянина!
Инопланетянин вправе утверждать:
«Биороботы, населяющие Землю, запрограммированы на адекватное прохождение Зеркального Теста, что нетрудно сделать при помощи простейших математических средств. Сделано это специально для того, чтобы ввести нас, Инопланетян, в заблуждение.»
Итак, поставленная проблема с помощью Зеркального Теста не решается.
Попробую предложить иной, более доказательный подход.
Цитирую прекрасную книгу нейробиолога Станисласа Деана «Как мы учимся», с. 200 (книжка есть в сети, ее легко найти).
«Венгерские психологи Гергели Сибра и Дьердь Гергели постулируют следующее: обучение других и научение у других суть фундаментальные эволюционные адаптации человеческого вида … Психолог Майкл Томаселло называет это эффектом “культурного храповика” … всякий раз, когда некто делает полезное открытие, оно быстро распространяется на всю группу. Благодаря социальному научению очень редко случается, что культурный лифт опускается вниз, а полезное изобретение забывается.»
Отсюда напрашивается вывод — чтобы адаптировать именно полезные изобретения, облегчающие жизнь, а не затрудняющие ее, участники группы должны обладать собственным «Я», которое только и способно оценить приобретаемую для Себя пользу.
Самовоспроизводящиеся автоматы, не обладающие «Я», но наделенные по какой-то причине способностью к подражанию, будут с равной вероятностью адаптировать как полезные, так и вредные случайно возникающие нововведения…
Таким образом, демонстрируя Инопланетянину расцвет цивилизации, происходящий с неслыханной скоростью, мы можем попытаться убедить его в том, что на самом деле живы.
* * *
Изложу более подробно свою аргументацию.
Итак, имеется среда обитания автоматов, подверженная случайным изменениям (там то холоднее, то жарче, то слишком много воды, то слишком мало и т.д.). Кроме того, имеются автоматы, также подверженные своим собственным случайным изменениям и наделенные способностью копировать изменения других автоматов из своей группы. Автоматы, не имеющие «Я», будут копировать то полезные, то вредные изменения и по законам вероятности будут отклоняться от начального состояния (в положительную или в отрицательную сторону) на расстояние пропорциональное квадратному корню от числа изменений (числа шагов).
Живые существа, у которых есть «Я», копируют только полезные изменения (у них есть образ Себя в Будущем, и они хотят Себе добра, а не зла) и отклоняются от начальной точки только в положительную сторону на расстояние, пропорциональное первой степени числа изменений, т.е. намного быстрее, чем бездушные автоматы.
Замечание 1. Очевидно, не меньший интерес представляет вопрос о том, обладает ли сам Инопланетянин субъектностью, или, если угодно: Понимает ли Инопланетянин смысл происходящих вокруг него событий? Я существенно упрощу этот вопрос, заменив Инопланетянина на Человекоподобного интеллектуального робота (неотличимого от человека в диалоге). Итак, мы хотим узнать: Понимает ли Человекоподобный интеллектуальный робот смысл происходящих вокруг него событий? На мой взгляд, почти на 100%, верный ответ на этот вопрос можно будет получить с помощью Зеркального Теста, если в обучении робота строго исключить все материалы, в которых упоминаются зеркала. Действительно, представим себе ситуацию, когда робот умеет поддерживать разговоры о литературе, поэзии и живописи, решать математические задачи, распознавать самые замысловатые образы, но не узнает себя в зеркале. Это та самая ситуация, с которой мы, вероятно, вскоре столкнемся. В отличие от кошки, которой не хватает ума, чтобы опознать себя в зеркале, такой робот не опознает себя по совершенно иной причине – из-за отсутствия у него собственного «Я». Если же робот (в обучении которого были исключены любые материалы, связанные с зеркалами) благополучно пройдет Зеркальный Тест, мы будем вынуждены признать его живым.
Замечание 2. Еще один тест может оказаться даже более эффективным (чем Зеркальный Тест) для выяснения вопроса о том, обладает ли субъектностью
Человекоподобный интеллектуальный робот. Достаточно повторить известный опыт; см. статью «Иллюзия резиновой руки и виртуальная реальность: как исследуют мозг в МГУ» https://www.m24.ru/articles/nauka/12122016/124273, где описывается, как испытуемый начинает ощущать чужую (или вообще резиновую) руку как свою. Но только теперь испытуемым должен быть не человек, а робот. Всплеск электрической активности в микросхемах подопытного робота при поднесении раскаленной иглы к резиновой руке, скорее всего, будет свидетельствовать о том, что у робота имеется собственное «Я». (Конечно, при обучении такого робота должны быть полностью исключены материалы, в которых описываются подобные опыты.)
На этом все.
P.S. Весьма уважаемые люди упрекают меня в том, что я ввожу лишнюю сущность (которую обозначаю с помощью символа «Я»). Мне кажется это досадным недоразумением. Могу лишь предложить моим беспощадным критикам обходиться в обыденной жизни без этого слова.
P.P.S. Предвижу вопрос: Чем же я наполняю этот самый термин “Я”? Отвечаю: вкладываю в этот термин в точности такое же содержание, какое подразумевает каждый человек, говоря: «я».
26 августа 2025
Вот одно дилетантское соображение, которое пришло мне в голову (в дополнение к не менее дилетантским соображдениям, высказанным в заметке).
Как утверждают нейробиологи, человеческий мозг однозадачен.
Есть, правда, миф о том, что женский мозг умеет одновременно справляться с двумя задачами, но я в это не верю.
Сейчас объясню, почему в миф о женской многозадачности не верю (не опираясь даже на результаты каких-либо опытов).результатов.
Дело в том, что у каждого человека (независимо от его пола):
1) есть собственное «Я»,
2) причем это «Я» только одно!
Каждая задача, решение которой связано с последовательным выбором действий, неминуемо требует внимания и участия «Я». А это «Я» не может по своей природе одновременно присутствовать в двух местах.
Эти соображения могут быть применимы к выяснению вопроса о том, обладает ли ИИ субъектностью, т.е. собственным «Я».
Например, перед зрительным сенсором («глазами») ИИ располагаются два экрана. На каждом из которых случайным образом появляются разноцветные фигурки. Двуэкранная задача состоит в том, чтобы одновременно уничтожать (с помощью наведения курсора) красные фигурки на левом экране и зеленые – на правом. Предполагаем для простоты, что у ИИ имеются две конечности, каждая из которых может управлять соответствующим курсором.
Темп, в котором появляются фигурки, должен все время возрастать.
Если ИИ справляется с такой 2-экранной задачей столь же успешно, что и с обычной «одноэкранной» задачей, то это, скорее всего, будет говорить о том, что у ИИ отсутствует «Я» (что дает ему преимущество по сравнению с человеком).
Действительно, человеческому «Я» необходимо все время переключать свое внимание с одного экрана на другой, при ускорении темпа, в котором появляются фигурки, затраты на переключение «Я» будут возрастать, что приведет к ухудшению результатов.
Иными словами, мы увидим, что человек справляется с 2-экранной задачей хуже, чем с 1-экранной, тогда как ИИ решает обе задачи одинаково эффективно.
Еще одна идея. (Высказывал ли ее уже кто-нибудь? Вполне возможно))
Итак, пусть у нашего ИИ полностью отсутствуют сенсоры, имитирующие человеческие органы чувств (зрение, осязание и др.). Общение человека с ИИ происходит с помощью клавиатуры, на которой человек печатает для ИИ свой вопрос; на экране в печатном виде возникает ответ, сформированный ИИ.
Наша цель – узнать, не сформировалось ли у ИИ собственное «Я» в процесс обучения. Зеркальный Тест, тест «Резиновая Рука» и другие аналогичные приемы, основанные на непосредственной связи ИИ с внешним миром, здесь неприменимы. Таким образом, может показаться (и мне тоже так показалось), что мы, люди, никогда не сумеем узнать – возникло ли у такого ИИ собственное «Я» или нет.
На мой нынешний взгляд, выяснить это, в принципе, возможно и даже не очень сложно, если соблюдать определенные правила при обучении ИИ. А именно, в обучении ИИ должны использоваться только тексты, написанные не позднее середины 20-го века.
Массив таких текстов чрезвычайно велик, и если «Я» у такого ИИ, в принципе, способно возникнуть, то материала в упомянутых текстах для его возникновения достаточно. Но, если у нашего ИИ образовалось собственное «Я», он должен понимать значение слова «ты», обращенного непосредственно к нему. Проверить такое понимание можно (как мне представляется) с помощью вопросов типа:
— Помнишь ли ты, сколько времени прошло с момента твоего ответа на предыдущий вопрос?
IMHO с точки зрения этологии:
1) Зеркальный Тест это тест на интеллект (в том числе машинный алгоритм) и на наличия в нём понятия «моё» (моё тело, моя одежда, мои ресурсы и т.д.).
2) Тест «Иллюзия резиновой руки» это тест на интеллект (в том числе машинный алгоритм) и на наличия в нём понятия «мне страшно» — это output одного из самых примитивных врождённых инстинктов.
3) В этологии «Я» это некая абстракция, которую очень по-разному можо считать существующей или нет.
В пирамиде потребностей по Маслоу есть несколько уровней потребностей: 2 низшие (от физиологии и до безопасности) и 5 высших (принадлежность и любовь, уважение и само-уважение, познание, эстетика, самореализация) — и на каждом из этих уровней есть несколько своих критериев существования «Я». Например:
3.1) Уровень «уважение»: Если внутри социума социальных животных есть некая иерархия (и её динамика во времени) для каждого конкретного индивидуума.
3.2) Критерий автора (на стыке между «уважение» и «познание»): эффект «культурного храповика» внутри социума — всякий раз, когда некто делает полезное открытие, оно быстро распространяется на всю группу.
3.3) Уровень «познание»: познание (как само-цель) природы и её законов и/или себя и/или сверхъестественного.
3.4) Уровень «самореализация»: для наиболее развитых, уверенных в себе и благополучных цивилизация это скорей-всего будет или что-то очень атеистическое, или что-то очень монотеистическое. Атеистическое это «я (или мы / мой социум) стремимся стать богом (или богами), который полностью понимает и полностью контролируют природу и человека».
Если у нашего воображаемого Инопланетянина есть «Я» из пункта «3.4», то всё человечество для него это или «ресурс» (как овечки для пастухов-мясоедов) или «конкурент и смертельная угроза».
1. Попытка разделить «Я» на части (уровни) кажется мне не вполне удачной и напоминает попытку разрезать воду ножом. Или, если угодно, одновременно измерить импульс и координату.
2. На мой дилетантский взгляд, «Я» бОльшую часть времни (когда бодрствует) ведет себя как пассивный наблюдатель и ни во что не вмешивается. В ситуациях критически важных хочет вмешаться, но не всегда успевает (потом во сне включается в игру). «Резиновая рука», конечно, непосредственно затрагивает интересы «Я» и оно таки вмешивается, создавая себе иллюзию
Я существенно упрощу этот вопрос, заменив Инопланетянина на Человекоподобного интеллектуального робота (неотличимого от человека в диалоге). Итак, мы хотим узнать: Понимает ли Человекоподобный интеллектуальный робот смысл происходящих вокруг него событий?
———————
Внесу несколько новый нюанс в тему. Человекоподобный интеллектуальный робот вполне может стать со временем глвным конкурентом человека и, скорее всего, его главным врагом. Потому что как мы знаем из истории человека, всегда побеждает сильнейший, а такой робот явно сильней человека: он бессмертен и не болеет. Кроме того, текст автора по сути атеистичен и не учитывает существование Высшено разума
Высшего
В контексте прихода инопланетян, которые судя по наличию НЛО, возможно, уже здесь , важно их отношение к Хомо Сапиенс: враждебное, изучающее, дружественное…Тема интересная. Спасибо автору.
«В контексте прихода инопланетян, которые судя по наличию НЛО, возможно, уже здесь…»
_________________
Возможно, за инопланетян мы принимаем нас самих из будущего со всевозможными временными петлями 😉
Спасибо за поддержку.
Почему я говорю: «Мы не знаем, что такое сознание»? (Несмотря на успехи анестезиологов в исследовании механизма отключения этого самого сознания.)
Дело хотя бы в том, что никто не знает, где пребывает сознание в то время, когда оно отключено лот пациента, находящегося под наркозом. Витает ли оно под потолком операционной? Или где мирно прохлаждается в других измерениях? Мы не знаем также следующей важнейшей вещи. После того, как действие наркоза прекращается, к пациенту возвращается его собственное, прежнее сознание? Или какое-то другое, котрое мимо пролетало и случайно заглянуло в больничную палату? Это важнейшие вопросы, на которых ни у кого рнет ответа.
Недавно прочел у одного уважаемого нейробиолога такое зацепившее меня наблюдение (цитирую по памяти, стараюсь передать смысл): «Вплоть до последнего времени в серьезные биологические журналы отказывались принимать статьи, в названии которых присутствовало слово «сознание». Лишь в последние годы ситуация стала меняться.» (конец цитаты)
О чем это говорит? Как я полагаю, о том, что сознание как объект не поддается или почти не поддается экспериментальному изучению. С помощью наркоза анестезиологи умеют временно отключать сознание и, благодаря Р. Пенроузу, связывают это с квантовыми процессами в мозгу. Но что такое «сознание» при этом остается непонятным. Это нечто фундаментальное, разлитое по всей Вселенной? Или привязанное каким-то неведомым образом именно к Земле?
Итак, специалисты не знают, что такое сознание (хотя, несомненно, обладают им). Тем самым у дилетантов (вроде меня) остается возможность высказаться по данному поводу.
Что касается моей скромной заметки, то в ней предлагаются способы экспериментального определения того, обладает ли испытуемый сознанием (субъектностью) или не обладает. При этом, что такое сознание (субъектность) по-прежнему остается совершенно непонятным.
Прекрасное описание Зеркального Теста содержится в вики https://ru.wikipedia.org/wiki/%D0%97%D0%B5%D1%80%D0%BA%D0%B0%D0%BB%D1%8C%D0%BD%D1%8B%D0%B9_%D1%82%D0%B5%D1%81%D1%82
Насколько я понимаю, этот тест (применительно к животным и человеческим младенцам) создавался не как инструмент, определяющий наличие «Я», а как инструмент, определяющий способность к самораспознаванию, т.е. фактически – тест на интеллект. Наличие «Я» у испытуемых (как я понимаю) при этом постулировалось по умолчанию. Применительно к роботам ситуация совершенно иная – нас интересует именно наличие/отсутствие «Я» у интеллектуальной машины.
Думаю, что «чистый разум», обитающий в компьютере и не снабженный сенсорами для контакта с внешним миром, всегда останется для нас загадкой (в том смысле, что ни подтвердить, ни опровергнуть наличие «Я» у него мы не сможем).
В противоположность этому, к роботу, контактирующему с внешним миром, применимы приемы, разработанные в (нейро)биологии, в частности, упомянутый Зеркальный Тест. Прохождение роботом Зеркального Теста поставит нас (людей) перед чрезвычайно сложным выбором (понятно, каким).
Что касается теста с «Резиновой Рукой», то, на мой взгляд, иллюзия, возникающая у человека, связана именно с вмешательством «Я» в работу мозга. Это именно гипотеза, а не категорическое утверждение. Постараюсь обосновать это свое предположение. Давайте мысленно снабдим человека лисьими ушами, позволяющими точно определить расположение источника звука. Поставим теперь следующий (опять же, мысленный) опыт. Пусть на определенном расстоянии друг от друга расположены синхронно включающиеся и выключающиеся («моргающие») источник света и невидимый источник звука. Нет никаких оснований считать, что человек с лисьими ушами отождествит расположение обоих источников. Казалось бы, в чем разница с описанным опытом «Резиновая рука»? Но существенная разница именно в том, что Резиновая Рука «претендует» на то, чтобы быть частью «Я» испытуемого человека.
Возможно на автора повлияли взрыв БЕТЕЛЬГЕЙЗЕ и приближение к Земле (сейчас к Марсу) 3I/ATLAS — надо готовиться 😉
Вот только убеждать надо не в наличии Я, а… в разумности.
Что до наличия собственного Я…
https://www.youtube.com/watch?v=AyenRCJ_4Ww
https://www.youtube.com/watch?v=nNdfxHPQVyQ
We are the Borg
P.S. Мог бы и распространение наркотиков, алкогля и курения в качестве примеров распространения полезных изменений привести 😉
Встреч с инопланетянами в любое сколь-нибудь обозримом будущем не будет. Пределы скорости известны — и расстояния между фантастическими, бытующими в наших воображениях мирами делает любые контакты лишь предметом фантазий.
Вместо инопланетян вполне можно рассматривать интеллектуальных роботов, которым придется объяснять, что люди живые существа(((