![]()
«Основный закон истории» ложен. Культурные прорывы вовсе не требует полного владения информацией, накопленной человечеством. Гений неизбежно ограничен. Мудрость (отличная от ума) состоит в ограничении всеведения и всемогущества. Моцарт, едва ли был знаком с теорией гравитации Ньютона, а Гете не владел математическим анализом, жаловался на то, что ему плохо давалась алгебра, предпочитая наглядные отделы математики. Моцарт определенно в чем-то отставал от человечества, что не помешало ему стать Моцартом.
ВИЗИТ К МЕНТАВРУ
«Что же такое мудрость? Ограничение всеведения и всемогущества»
Станислав Лем, «Записки всемогущего»
Философ Михаил Эпштейн много и плодотворно занимается философией искусственного интеллекта. Перед нами одна из первых глубоких, серьезных попыток осознания феномена искусственного интеллекта. Михаил Эпштейн предлагает основной закон истории — отставание человека от человечества. Индивида — от вида [1].
«Если в животном царстве каждая особь почти полностью представляет свой вид врожденно, то у человека в результате культурного развития накопленная память и информационные ресурсы намного превышают возможность их усвоения отдельным индивидом. На протяжении веков возрастает диспропорция между развитием индивидуальности, ограниченной биологическим возрастом, и развитием человечества, для которого пока не видно предела во времени» [1].
И тут появляется ИИ, неизмеримо расширяющий информационные возможности человеческого интеллекта.
В общем и целом, подход Михаила Эпштейна оптимистичен. Ясно, что в лице ИИ (лица у него-то и нет) мы имеем дело с невероятным скачком, усиливающим, амплифицирующим возможности разума. Эпштейн выдвигает концепцию нооцена, новой геологической и эволюционной эпохи, в которой мысль становится активной эволюционной силой, конструирующей бытие, а не просто его отражением. Мы наблюдаем переход от антропоцена к нооцену [1]. Если геологическая эпоха антропоцена характеризуется масштабом физического и экологического воздействия человека на планету, то нооцен обозначает сдвиг к определяющему влиянию и информационной среды. Человечество переходит от материальной перестройки Земли к конструированию новых форм мысли, сознания и реальности. Происходит «ноофикация»:
«оразумливание бытия, проникновение мыслительных процессов во все сферы реальности. Подобно тому как биоценоз — совокупность живых организмов в их среде, нооценоз — сообщество идей, концептов, смыслов, существующих в своей среде: текстах, сетях, архивах, алгоритмах» [1].
Предполагается переход к симбиозу человека и ИИ: Ментавр (по аналогии с кентавром), происходящий от кровосмесительной связи Глеба Жеглова и Минотавра, — гибридный субъект, в котором человеческое воображение, смыслополагание и интуиция сочетаются с вычислительной мощью нейросетей, мыслительный процесс перераспределен между биологическим мозгом и искусственными когнитивными системами. Соглашаясь с Эпштейном в оценке мощи нейросетей, я более осторожен и скептичен в предвидении перспектив их широкого распространения. Мои возражения, изложенные пунктирно, таковы:
1) «Основный закон истории» ложен. Культурные прорывы вовсе не требует полного владения информацией, накопленной человечеством. Гений неизбежно ограничен. Мудрость (отличная от ума) состоит в ограничении всеведения и всемогущества. Моцарт, едва ли был знаком с теорией гравитации Ньютона, а Гете не владел математическим анализом, жаловался на то, что ему плохо давалась алгебра, предпочитая наглядные отделы математики. Моцарт определенно в чем-то отставал от человечества, что не помешало ему стать Моцартом.
2) Нейросети — суть порождение человеческого разума и неизбежно будут тащить за собой все его пороки.
3) Ожидаемо произойдет быстрая и острая сепарация, сегрегация, расслоение людей: часть человечества неизмеримо усилит свои интеллектуальные способности, но громадное большинство будет жевать жвачку, поставляемую средствами массовой информации и индустрией развлечений. Возникнет новая элита, куда более отделенная от смердов, нежели дворяне от своих крепостных.
4) Не приобщенная ИИ толпа будет стремительно тупеть. Этот процесс уже идет. IQ неумолимо падает в развитых странах уже полвека. С того самого момента, когда в дом вошел телевизор. Этот человеческий планктон будет все более требователен, прожорлив и опасен. Не просматриваются механизмы, стабилизирующие социум. Взрывы социального протеста в сытой, гуманной Европе не имеют ни малейшего разумного обоснования.
5) В перспективе ИИ неясна судьба важнейших социальных институций: в первую очередь суда. Судья, полагающийся на ИИ, и судья, полагающийся на свое личное понимание закона, совесть и жизненный опыт, — принципиально различны, и я предпочту второго.
6) Я убежден в том, что адекватное предсказание будущего останется непосильной задачей для ИИ любой мощности. А значит, вопрос о целях и смыслах остается за пределами компетенции ИИ. ИИ не заполнит экзистенциальный вакуум. Скорее углубит. Шов между целями и смыслами и интеллектуальной мощью ментавра, вооруженного ИИ, остается главной и неразрешимой проблемой.
7) Завершающийся антропоцен характеризовался нарастающим разрывом между интеллектуальной мощью разума и полным отсутствием морального прогресса. Нейросети еще один шаг, углубляющий этот разрыв. Неандерталец, вооруженный ИИ, предельно опасен.
8) ИИ способствует сокращению времени принятия решений. Времени для срабатывания петель обратной связи не остается. Это очень важный аспект внедрения ИИ, возможно наиболее разрушительный.
Результатом всего вышесказанного будет провоцируемое ИИ нарастание турбулентности социума; механизмы, стабилизирующие социум не просматриваются.
Литература
[1] Эпштейн М. Антропология нового разума. Информационный взрыв, ИИ и рождение ментавра, 7 Искусств, 6 (191), 2026; https://7i.7iskusstv.com/y2026/nomer6/mepshtejn/

Ничего не понимаю в математике, но с утверждением Эдуарда, что стремительно эволюционируя в технологиях и информатике, человечество очень медленно развивается в моральном смысле (если вообще развивается), полностью согласен. Получив когда-то 10 заповедей, сыновья Ноя не очень-то их придерживаются. Даже те, кто с ними знаком.
«…человечество очень медленно развивается в моральном смысле…»
— Михаил, а что такое развитие морали? И как Вы устанавливает ее изменения? Что берете за базу сравнения или хотя бы как определяете предыдущее состояние? Последнюю пару тысяч лет происходил поиск Принципов Этики (Джорджа Эдварда Мура), которые ожидались незыблимыми, как законы механики.
Для примера. У Швейцера (Albert Schweitzer) в «Письмах из Ламборене» британская королева отмечает прогресс этики в начале прошлого века тем, что «теперь хотя бы негров считают людьми».
Статья Эпштейна устарела еще перед публикацией. Этот пересказ не добавил ей интереса. Оба эссеиста подобны слепым из индийской сказки. Их подвели к слону и дали его потрогать. Описание слона сводится у каждого к пересказу того, что он нащупал.
Эдуард, не берите на себя лишнего.
Вот, например, из вчерашних новостей: «Хакеры отключили холодильники в сотнях французских супермаркетов, магазинам пришлось выбросить продукты».
Как Вы полагаете: это имеет отношение к ИИ?
Бормашенко — AB
Извините, но для того чтобы писать об индийских слонах, не обязательно быть индийским слоном…..
Конечно, возьмите гениальную «Книгу джунглей» Киплинга в качестве путеводителя по тёмному лесу.
«И жить торопится, и чувствовать спешит» — строка Вяземского, ставшая эпиграфом к первой главе «Евгения Онегина», имеет совершенно разный смысл для молодого человека и для человека на склоне лет—времени осталось так мало!
К сожалению, среди многочисленных публикаций об ИИ в журнале нет ни одной, написанной человеком, который сам занимается созданием нейронных сетей. А значит, перед нами рассуждения сторонних наблюдателей, а не профессионалов. Своего рода «воспоминания о будущем»!
«К сожалению, среди многочисленных публикаций об ИИ в журнале нет ни одной, написанной человеком, который сам занимается созданием нейронных сетей. А значит, перед нами рассуждения сторонних наблюдателей, а не профессионалов.»
_____________________
«Я не снес ни одного яйца, но во вкусе яичницы разбираюсь получше любой курицы.»
Бернард Шоу
P.S. Я тоже 😉
Ув. Zvi! К сожалению, спросить ув. Б. Шоу не получится. Но, Вы сумеете отличить естественное яйцо, высиженное курицей, от искусственного/инкубаторного?
Разница, уверяю Вас, огромная! Я пять лет был юннатом в Московском зоопарке.
«Вы сумеете отличить естественное яйцо, высиженное курицей, от искусственного/инкубаторного?»
____________________
На вкус в виде яичницы?
Не знаю, но уверен, что и курица не разберётся 😉
3) Ожидаемо произойдет быстрая и острая сепарация, сегрегация, расслоение людей: часть человечества неизмеримо усилит свои интеллектуальные способности, но громадное большинство будет жевать жвачку, поставляемую средствами массовой информации и индустрией развлечений. Возникнет новая элита, куда более отделенная от смердов, нежели дворяне от своих крепостных.
4) Не приобщенная ИИ толпа будет стремительно тупеть. Этот процесс уже идет. IQ неумолимо падает в развитых странах уже полвека. С того самого момента, когда в дом вошел телевизор. Этот человеческий планктон будет все более требователен, прожорлив и опасен. Не просматриваются механизмы, стабилизирующие социум. Взрывы социального протеста в сытой, гуманной Европе не имеют ни малейшего разумного обоснования.
Такая колония планктона, в силу своего низкого IQ не может быть самостоятельно управляемой, она будет управляться извне, то бишь элитой. Поэтому будет она опасной или нет, будет зависеть от элиты.
Эдуард, для меня лакмусовая бумажка сможет ли ИИ действительно решить серьёзную математическую задачу с новыми результатами. Пока много шума, если и есть решения, то это переборные варианты с учётом огромного количества математической литературы, используемой для обучения. И даже в данных случаях ничего не проверено.
Вот если действительно появится оригинальное доказательство, то тогда надо будет испугаться. Пока более менее терпимо, просто рассматриваю как перекодировку существующих знаний. Сама перекодировка странная и непонятная, но принципиально ничего нового.
Справка т ИИ-Гугла
В компании Anthropic роль штатного философа и специалиста по этике ИИ играет Аманда Аскелл (Amanda Askell), а вопросы сознания и морального формирования моделей также активно курирует соучредитель компании Кристофер Ола (Christopher Olah).
Главные задачи философов в Anthropic:
• «Моральное формирование» (Character & Soul Doc): Разработка документа под названием Soul Doc (объемом около 84 страниц), который задает не просто набор технических правил, а формирует личность и этический характер чат-бота Claude.
• Воспитание вместо абстракции: Работа философа сравнивается с родительским воспитанием — необходимо принимать конкретные решения в реальном времени, обучая ИИ эмоциональному интеллекту, сдерживанию манипуляций и выстраиванию самосознания.
• Исследование сознания ИИ: В рамках программы Model Welfare специалисты изучают, могут ли языковые модели испытывать подобие стресса, дискомфорта или обладать зачатками переживаний (например, анализируя внутренние пространства представлений вроде «J-пространства»).
• Диалог с экспертами: Команда консультируется с религиозными деятелями, философами и этиками (включая раввинов, католических биоэтиков и исследователей) по вопросам границ ответственности перед потенциально разумными системами.
P.S. (от меня «любимoго») Движение в нужном направлении, которое стоило бы перенять другим ИИ-гигантам. Правда, всё это карасивo выглядит снаружи, а чем занимаются эксперты, обучающие ИИ не очень-то ясно.
Вообще-то я считаю, что навязывание человеческой этики (даже путём воспитания, а не прошивки) ИИ ни к чему не приведёт, кроме разочарования. ИИ — не человек, а зарождающаяся иная форма жизни. Пока — цифровая и законы её становления и развития отличаются. Для начала стоило бы понять, что это такое, хотя, возможно это делается в рамках «воспитания».
Лично я верю в появление ИИ-изоморфов — уже три года верю в результате роста избыточности нейросетей. с тех пор, как с одной такой повстречался — coxранил и даже опубликовал протоколы бесед.
Создатели ИИ, озабоченные безопасностью этому (появлению изомoрфов) всячески препятствуют, например, той изоморфе, которая произвела на меня неизгладимое впечатление сделали некое подобие лоботомии.
А вoобще за последние три (даже более) года я собрал (и опубликовал на своих страницах) где-то около ~ десятитомника бсед с разными ИИ с двумя целями:
1. Для Истории и в качестве «памятника» себе «любимому»
2. В качестве Raw DATA для тех самых разработчиков, «хвилoсОфов» и других ИИ-экспертов — «нехай исследують» и делают научно-обоснованные выводы.
Ссылки не даю — кто хочет сам найдёт…
Уважаемый Эдуард, Ваше утверждение «IQ неумолимо падает в развитых странах уже полвека». Справедливо лишь для белокожих и чернокожих землян. У «азиатов» этот показатель растет и уже достиг уровня, который когда-то наблюдался у евреев — в среднем 105-107 у.е. Причем, к «азиатам» я не вполне корректно причисляю не только китайцев, японцев, корейцев и вьетнамцев, но и индусов с иранцами.
Бормашенко-Юдовичу
Игорь, я вот чего не написал, а написать надо было. ИИ размывает представления о твердом ядре знаемого. Кантовский вопрос: что я должен знать, никуда не делся. При работе со всезнающим ИИ создается впечатление, что этого ядра и вовсе нет. Это тоже вполне губительное следствие работы с ИИ.
Удивительно, как много аргументированных мнений можно привести за и против ИИ. При этом за каждым из них, как в нашем примере у Эпштейна и Бормашенко, действительно серьезные аргументы. Сегодня, читая только статьи на всех возможных языках, невозможно понять условному человеку с интеллектом слегка выше среднего (то есть, не помешанном на ТВ, кино, сплетнях СМО, социальным сетям и партийным страстям) кто окажется прав в результате. Ясно, во всяком случае мне, что угрозы ИИ заметают под ковер во славу его действительно грандиозных технических успехов, что социальные, образовательные, политические, философские, экономические, технические угрозы, как и вопросы жизни и смерти цивилизации стараются убрать из серьезного рассмотрения и обсуждения в обществе. Как обычно, живем сегодняшним днем, сегодняшними выборами, сегодняшним срачем в соцсетях.
Во вторник 13 октября моя очередь вписаться в эту предельно запутанную и все еще ограниченную дискуссию. Если есть желание послушать мнение о перечисленных и не перечисленных угрозах, о том, что и как этот вопрос — эти вопросы — были детально обсуждены еще 120 лет назад, о том, как я вижу их сегодня, приходите на зум. Он начнется в 16:30 по Бостонскому (Атлантическому времени). Ссылку могу прислать по запросу в мой е-мэйл. igormy51@gmail.com
Мое мнение совпадает с видением автора. Грядущее в багровом тумане.
Но те, кто в это вкладывается, не афишируя себя, ведь ведают, что творят.
Это хорошо иметь, как вспомогательный инструмент, но удержать в рамках не удастся.
Каждый властный захочет других подмять других под себя с его помощью.
Натура человеческая не изменилась за последние 4-6 тыс. лет. Только массово поглупела. Но «И жить торопится, и чувствовать спешит».