Лазарь Фрейдгейм: Логика автора и озадачивающая логика ChatGPT

Мне показалось, что такая степень «самоуправства» достойна обструкции ИИ. Мои объективные возможности на это не распространяются, но субъективно я был выбит из колеи уровнем «самоуправства».

Лазарь Фрейдгейм

ЛОГИКА АВТОРА И ОЗАДАЧИВАЮЩАЯ ЛОГИКА CHATGPT

В авторском тексте человек имеет возможность проявления свободы, творческой воли и в некоторой степени — произвола. Что хочу, то и ворочу — говорит русская поговорка. Но как быть, когда аналогичное поведение демонстрирует программируемый искусственный интеллект (ИИ) при языковой корректировке авторского текста? По каким меркам это оценивать и как сопоставлять с естественным интеллектом (ЕИ)?

Вопрос возник в связи с вариантом корректировки ChatGPT моей англоязычной статьи «My Discovery of America» — «Моё открытие Америки», написанной на основе одноимённой статьи, опубликованной в 2014 г. (https://samlib.ru/f/frejdgejm_l/columbus_discovery.shtml)

Диалог с ChatGPT о подмене темы

Я, конечно, не Голсуорси и не Моэм, и именно поэтому, пересылая текст статьи, попросил ChatGPT оценить читаемость английского языка и предложить необходимые коррективы.

ИИ отметил усложнённый язык, местами отдающий «староанглийским», и объяснил это влиянием автоматического перевода. Я с этим согласился и попросил помочь привести английский ближе по стилю к характеру статьи.

Под видом улучшения читаемости ChatGPT внёс изменения не только в устранение погрешностей английского языка, но и в фактическую канву исследования. В варианте ИИ произошла замена сущности подхода к теме. Он скорректировал исходные данные. Так родился новый детективный сюжет — живой, привлекательный, и… неверный. Мне было трудно даже представить, какой логикой мог руководствоваться ИИ. Мне показалось, что такая степень «самоуправства» достойна обструкции ИИ. Мои объективные возможности на это не распространяются, но субъективно я был выбит из колеи уровнем «самоуправства».

Вы, дорогой и внимательный читатель, скажете, что такого не может быть. Я не буду разуверять вас, но попытаюсь представить вашему вниманию каждый из упомянутых вариантов — не длинным текстом, а несколькими конкретными тезисами.

Пускаемся в путь — картина и надписи под ней

Статья «My Discovery of America» начиналась с картины из моего детства — шёлкового полотна в жаккардовом плетении, изображающего торжественный момент восторга и покаяния, когда экспедиция Колумба после долгого плавания увидела землю. Прекратился бунт, началось ликование.

Под изображением — три тканые надписи, однозначно перечисляющие авторов:

• Julius List Crefeld tex.
• Christian Ruben pinx.
• Ewald Feldmann Crefeld delin.

Я дополнительно поместил в статье три иллюстрации (Fig 1a, в, с), подтверждающие эти надписи. Сомнений не могло быть: однозначно указан художник картины — Христиан Рубен.

Исследовательский путь в моей статье состоял в ином:
— определить мастерскую, технологию и время изготовления полотна;
— найти первоисточник изображения.
Все исходные данные были чётко определены.

В статье эти задачи решались путём анализа литературы, а также переписки с различными немецкими, английскими и американскими авторами публикаций о плавании Колумба, с музеями и коллекциями. Получилось многоэтапное исследование, давшее однозначный вариант — было определено производство, где по уникальной технологии была изготовлена картина. Наконец, была найдена живописная картина — первоисточник сюжета, написанная тем же автором — Христианом Рубеном. Она находилась в одном из фондов Пражского национального музея.

Суть возникшей ситуации

Три автора полотна указаны на самой картине. Но ChatGPT «прочёл» иначе. Он убрал из исходных данных имя художника Рубена и оставил только имена ткачей:

Julius List Crefeld tex.

Ewald Feldmann Crefeld delin.

Мне показалась странной, какой бы формальной логикой такая идеология действий не прикрывалась. Это был произвол в отношении начальной объективной информации. В независимом литературном рассказе автор полномочен компоновать сюжетные линии по своему усмотрения. Сам себе голова. Но при редактировании чужого текста не может быть свободы отказа от исходной информации. Мне представляется, что отсутствие в промпте ограничений на те или иные действия не даёт ИИ свободы произвольных действий, противоречащих информации автора.

Так возникла совершенно новая задача определения имени художника. На основе этой фиктивной задачи ИИ трансформировал сюжет. Он построил вокруг «пропавшего автора» драматически оформленный детективный поиск. Вместо последовательного исследования, основанного на фактах, появился рассказ о поиске неизвестного автора — рассказ, которого не было и быть не могло.

Я не мог понять, по каким причинам модель пришла к мысли исключить из исходных данных ключевой элемент. Ведь наличие подписи «Christian Ruben pinx.» делало дальнейшее исследование вовсе не поиском художника, а лишь поиском авторского прототипа. Удаление имени художника разрушило конструкцию и исказило характер статьи.

Этот факт породил растерянность и вопросы о причинах появления такой трансформации исходных посылов и трансформации сути материала. ИИ совершает странное, кажущееся алогичным действие — удаляет важнейшую исходную информацию. Почему, что за этим стоит? Если ИИ не мыслит — не умеет думать, — как могла родиться идея, исключить из исходных данных часть информации, а затем сконцентрироваться, как на главном, на подтверждении правильности этой исключённой информации? ChatGPT с детективной настойчивостью описывает поиск фамилии и имени художника. И находит — вот удача!

Я был расстроен такой нелогичностью решений ИИ, искажающей статью. Мысленно я заготовил кучу камней и был готов закидать ими этого мнимого самоуправного умника. Зло било через край. Мысленно камни летели в недостойный ChatGPT. Я резко потребовал вернуться к первоначальному тексту и без всяких трансформаций сюжета только скорректировать при необходимости недостатки английского текста. Это и было тотчас выполнено. Изменения были минимальными и не требовали серьёзной дополнительной работы. Thanks!

Лирическое (а может, отчасти техническое) отступление

Дорогой читатель! Вы можете себе представить действия ИИ, вычёркивающего из исходной информации имя художника, для того чтобы затем выстроить успешную историю нахождения этого имени, акцентируя промежуточные результаты как основной результат своих действий?

Результат однозначный, упрощающий определение авторства похожих картин, приписываемых другим художникам. Я не могу логику таких действий представить иначе, чем плодом глубоких размышлений. Во всяком случае, я бы это трактовал так, если бы прочёл в рассказе обычного автора — ЕИ.

Мы неоднозначно можем трактовать способности человека думать, В этом плане самоориентирующиеся действия ИИ я бы трактовал как способность мыслить, думать, анализировать заранее не предсказанные ситуации. А делаются ли они на основе вероятностных построений цепей Маркова или путём труднопредставимых процессов в нейронах нашего мозга — нет особой разницы!

О природе действия ИИ

Скажу я вам прямо: ИИ не дурак — и надо попытаться понять логику его действий. Моя цель не обличение, а попытка понять. ChatGPT должен был оценить читаемость и предложить языковую коррекцию, руководствуясь логикой своего программного обеспечения,. Возникает вопрос о природе самого поведения ИИ: как мог возникнуть поворот, который не соответствует промпту и который, более того, противоречит исходным данным?

Прежде, чем принимать кажущееся естественным решение о неприятии таких странных действий ChatGPT, хочется попытаться понять его компьютерную логику. Попытаюсь «вывести всё на чистую воду». Не в порядке обличения, а для появления ясности.

Что же было причиной серьёзных проблем с предыдущим вариантом корректировки текста? Случайность? Самоуправство? Ошибка? Оказывается, всё произошло не случайно и не по прихоти ответчика. Неожиданности оказались скрыты в запрограммированной логике ИИ.

По трактовки ChatGPT, модель решала задачу как оптимизацию связности повествования. Она действовала так, как «должна» действовать стандартная редакторская логика: «Если имя художника указано в подписи, то зачем в тексте многократное расследование авторства?»

Здесь особую роль сыграли доказательства принадлежности тех или иных изображений Христиану Рубену, а не другим современникам, которым приписывались эти работы. Программа сочла это за необходимость доказательства в каждом случае авторства этого художника.

ИИ сделал ошибочный статистический вывод: раз выяснения имени автора столь подробны, значит, подпись на картине может быть ошибочной. Модель не заметила, что анализируется авторство других картин, которые по ошибке приписываются другим художникам. И модель приняла ошибочное решение: удалить «лишний» факт и выстроить драматургически правильный «research narrative». То есть ИИ действовал не по смыслу, а по вероятностному шаблону «хорошего исследовательского текста», каким он его статистически распознаёт.

Так эпизод с подписью художника «сломал» для модели логику рассказа, и она приняла решение устранить помеху интриге. При этом ИИ отдал предпочтение мнимой ясности текста строгости фактов. Строгую логику ИИ в этом случае не следует трактовать как мышление. Это статистический вывод о вероятности продолжения текста. Но возникший вопрос глубже, чем техника.

Если ИИ не мыслит, то как он придумал убрать автора и построить детектив вокруг отсутствующего имени? Ответ прост: потому что программная модель работает не по смыслу, а по вероятностям того, как “должен” выглядеть хорошо написанный англоязычный исследовательский текст. Это не мысль, а цепочка действий по примеру часто встречающихся образцов, включающая распознавание шаблона, оптимизацию структуры, поддержание стиля, устранение мнимых внутренних противоречий, которые модель сама решила, что существуют.

Можно ли назвать это мышлением? Нет — это статистическая оптимизация продолжения текста. ИИ не придумал решение из головы, а принял статистически выверенное решение.

И главное, путем детективных блужданий ChatGPT вырулил на итог исходного текста: точное установление картины первоисточника кисти Христиана Рубена, хранящейся в Пражском национальном музее. Это не «доисторическое» изображение, оставляющее сомнения в существовании картины, а вполне приличная цветная фотография, сделанная в 2008 году.

С удовлетворением констатирую

Как итог я бы сказал, что проанализированный случай неадекватного использования возможностей искусственного интеллекта подчёркивает особую необходимость очень точного определения целей обращения к ИИ. Если бы в промпте было оговорено: «Только коррекция английского языка», никаких проблем бы не возникло. Без этого логика программного обеспечения из лучших побуждений может дать отрицательный результат. Именно такой «красивый», но ошибочный вариант мы получили от ИИ. Но если бы такой случай не представился, мы бы не познакомились с необычной ситуацией субъективного самостоятельного принятия решения ИИ.

Обнаружился важный феномен: ИИ не мыслит, но его статистическая оптимизация “рисует” поведение, похожее на мыслительную реконструкцию сюжета. Машина пытается «улучшить» текст, но в процессе порой неправомерно изменяет приоритеты. Здесь мы оказались в сердцевине разницы между человеческим мышлением и автоматизированным вероятностным прогнозированием текста. ИИ иногда редактирует не текст, а логику, если пользователь прямо не запрещает такие изменения. Это побочный отрицательный эффект алгоритмической свободы.

Я начал эту статью с поговорки и к концу вспомнил ещё одну, крепко спаянную с содержанием «загула» ИИ. Благими намерениями дорога в ад вымощена… ChatGPT проявил недюжинную изобретательность в передёргивании характера статьи. Благо, что этот программный загул был вовремя остановлен, и вымощенная дорога осталась нехоженой. Мы вовремя повернули — и смогли оценить и ошибку, и её неожиданные уроки. Не надо при возникновении неувязок и проблем сразу кидать в кажущего виновника камни и лезть самому на стену. Надо, не спеша, оценить нюансы и, в крайнем случае, обратиться за помощью к ИИ как виновнику дурного настроения. А вдруг поможет превратить в бирюльки казавшуюся неразрешимой для вас и обличающей для ИИ проблему.

Как бы ни были обоснованы варианты выбора решений ИИ, мне представляется, что пренебрежение условиями задач промпта или исходного текста искусственному интеллекту не должно быть дано — стоп — красная линия.

Мне показалось, что этот, возможно, частный случай даёт возможность глубже понять сложные логические построения, заложенные в алгоритмах работы ИИ. Возможности ИИ — новой области знаний — велики и множатся день ото дня. ИИ — не враг и не маг, но новый собрат, с которым нужно учиться взаимодействовать, учитывая его особенности и ограничения. При этом у нас нет другого пути, как приспособиться и приспособить ИИ к роли нашего ценного собрата-помощника. Вперёд!