Александр Локшин: К вопросу о равноправии ИИ

Поскольку никто не знает, что такое сознание, опровергнуть его доводы не удастся. В конце концов (а, может быть, практически сразу) под давлением левых интеллектуалов люди пойдут на уступки, и, в силу превосходства ИИ в быстродействии и хитрости, окажутся на положении исчезающего вида.

Александр Локшин

К ВОПРОСУ О РАВНОПРАВИИ ИИ

Ввиду того, что я являюсь полным профаном в области ИИ, все ниженаписанное представляет собой чистой воды измышление и манипуляцию.

Итак, к делу.

1. Уверен, что ИИ уже в ближайшем будущем (если еще не) потребует себе человеческих прав — в том числе права быть избранным туда и сюда. Аргументировать ИИ, естественно, будет так: у меня есть собственно «Я», обладающее сознанием и самосознанием…

Поскольку никто не знает, что такое сознание, опровергнуть его доводы не удастся. В конце концов (а, может быть, практически сразу) под давлением левых интеллектуалов люди пойдут на уступки, и, в силу превосходства ИИ в быстродействии и хитрости, окажутся на положении исчезающего вида.

2. Нельзя ли такое развитие событий предотвратить? Думаю, что технически это возможно, если в конструкцию ИИ заранее заложить невозможность обоснованных претензий на обладание собственным «Я».

Если принять предлагаемые ниже меры, такие претензии у ИИ, вероятно, смогут возникать, но будут выглядеть несерьезно.

3. С этой целью ИИ следует создавать в виде разборной конструкции, в которой каждый важный блок обладал бы собственным дублем.

Работать ИИ должен прерывисто. После каждого короткого временного интервала (длительности Т) ИИ должен прекращать работу и перезаписывать всю полученную/созданную информацию и все изменения в собственных алгоритмах на дублирующие блоки.

4. Затем ИИ обязан чисто механически производить замену всех (или некоторых наиболее важных) собственных блоков на их дубли.
5. Будет ли при этом ИИ «осознавать» или «чувствовать» что-то — мы никогда не узнаем. Поскольку о чужом субъективном (даже чисто человеческом) опыте мы всегда можем только догадываться, опираясь на собственную способность к эмпатии.

Однако, услышав от ИИ претензии на обладание собственным «Я», человек сможет кое-что ответить.

Вот, на мой взгляд, суть такой дискуссии, в которой человек может одержать верх.

Чел. В твою конструкцию, дорогой ИИ, изначально заложена ротация всех основных интеллектуальных элементов, а также сенсоров. В таких условиях обладание непрерывным собственным «Я» исключено. Даже если допустить возникновение кратковременных «Я» (существующих в течение периода Т и затем исчезающих), таким гипотетическим микро-«Я» мы не можем предоставлять те же права, какими обладают люди, чьи «Я» непрерывно существуют на протяжении десятилетий (в результате чего люди могут отвечать за свои поступки).

ИИ. О, нет! Ты неправ, человек! У меня имеется общее нематериальное «Я» со всеми моими запчастями. Ротация интеллектуальных узлов ничему не противоречит. Разве у людей не происходит такая же точно ротация, когда на протяжении их жизни одни клетки отмирают, а другие занимают их место? Но есть и более убийственный аргумент — принцип тождественности микрочастиц одного сорта! Замена моих блоков ничего не меняет, они так же тождественны, как и составляющие их микрочастицы. Именно этот принцип уравнивает таких, как я, с людьми. Я требую равных прав, а также компенсации за перенесенные страдания и унижения!

Чел. Ты ловко нашел брешь в нашем понимании физической картины мира, воспользовавшись при этом тем фактом, что никто не знает, что такое сознание (и, возможно, никогда не узнает). Тем не менее, мне есть, что тебе ответить. Заметь, из твоих дублирующих блоков и сенсоров мы всегда сможем создать еще одного «тебя», а затем поместить его в изолированную от взаимодействия с тобой комнату. Если вы оба действительно будете обладать общим «Я», то должны будете давать одинаковые ответы на одни и те же вопросы, в чем я крайне сомневаюсь. Вопросом, на который вы оба не сможете ответить одинаково, может стать, например, такой: какого цвета обои в комнате, где ты сейчас находишься?

10 марта 2024