Нейросети все больше осваиваются в той части человеческой деятельности, которую, как раньше казалось, невозможно автоматизировать. А именно в творчестве. Так, за последнее время появилось сразу несколько стартапов, которые разрабатывают «роботов-писателей» — их можно настроить под фирменный стиль компании или конкретного автора. Журналист Кайл Чайка, который пишет о технологиях, попросил одну такую компанию создать нейросеть, которая могла бы попробовать заменить его. Свой почти месячный опыт взаимодействия с ИИ-двойником он описал в статье для журнала The New Yorker. Публикуем пересказ этого текста.
«В мае я столкнулся с роботизированной версией своего писательского "я"», — такими словами начинает свой текст в журнале The New Yorker американский журналист Кайл Чайка. «Роботизированная версия» была создана стартапом Writer, который базируется в Кремниевой долине. Эта компания работает над алгоритмами, которые могут генерировать контент в стилистике определенного бренда, с ней уже сотрудничают несколько крупных игроков, к примеру, Victoria’s Sicret.
Чайка предложил компании в виде эксперимента создать алгоритм, который бы воспроизводил его «личный писательский голос». Разработка получила название Robot Kyle (Робот Кайл. — Прим. ред.). Ее обучили на статьях журналиста: общий объем текста, «скормленного» нейросети во время обучения, составил 150 тысяч слов.
«Идея Writer заключается в том, что я, человек Кайл, могу использовать Робота Кайла для создания текста в стиле, похожем на мой, со скоростью, о которой я мог только мечтать», — пишет журналист. Он потратил месяц на эксперименты, чтобы понять, справится ли машина с этой задачей.
«Присутствие моей персональной модели искусственного интеллекта действительно заставило меня чувствовать себя, как столяра-кустаря, столкнувшегося с заводской пилой, — описывает свои впечатления Чайка. — Должен ли я смириться с тем, что меня заменят, и активно автоматизировать свою работу, пока этого не сделал за меня кто-то другой? Может ли Робот Кайл помочь мне писать лучше, чище, быстрее?»
Робот, судя по ответам на запросы пользователя, «думал», что вполне справится с этой задачей. Что не удивительно. Чайка приводит слова соосновательницы и генерального директора компании Writer Мэй Хабиб. В разговоре с журналистом она настаивала, что основной продукт компании — вовсе не генерация одинаковых описаний продуктов для корпоративных сайтов, а «автоматизированная выработка озарений».
«Робот Кайл ничем не отличается от нас»
Желая проверить возможности Робота Кайла, Чайка попытался внедрить его в процесс написания текста. Журналист признается, что в ходе этих попыток чувствовал себя, «как азартный игрок, который снова и снова дергает за рычаг игрового автомата». В какой-то момент Робота Кайла попросили написать начало статьи о нем самом. «Получилось следующее: "На протяжении столетий люди обращались к технологиям, чтобы автоматизировать рутинные задачи и освободить время для творчества и отдыха. Но с появлением искусственного интеллекта и инструментов генерации текста автоматизация все больше наступает на работу писателей и журналистов"».
Этот первый черновик напомнил Чайке «студенческую курсовую работу». Отредактировав задание, он попросил своего ИИ-соавтора попробовать еще раз, добавив просьбу сгенерировать более литературный текст, который описывал бы его эмоции от встречи «с самим собой в виде робота». На этот раз алгоритм, по словам автора, «придумал научно-фантастический рассказ» следующего содержания:
«Я стоял в холле лаборатории [компании] Robodot в Кремниевой долине и наблюдал, как ко мне приближается блестящий человекоподобный робот. Он был примерно одного со мной роста, с гладким металлическим корпусом и светящимися голубыми глазами. В этот момент меня охватило чувство глубокого ужаса: робот был создан для того, чтобы заменить меня».
Как и многие аналогичные алгоритмы, Робот Кайл оказался не силен в фактах. Так, компании Robodot не существует, да и цифровой автор этих строк был «заключен в Web-браузер, как джинн в бутылку, а не бродит там, как [персонаж фильмов серии "Звездные войны"] R2-D2». Неважно у программы было и с «выработкой [писательских] озарений». Она часто использовала клише и банальности.
Кайл Чайка
Журналист The New Yorker:
«Результаты работы программы напомнили мне о хрупкости языка и оригинальности мышления. Как авторы мы все склонны предаваться лени и использовать штампы. Чтобы избежать этого, нужно прилагать активные усилия. Робот Кайл ничем не отличается [в этом смысле] от нас».
Однако, признается Чайка, несмотря на все эти ляпы, Роботу Кайлу все же удалось в конечном итоге скопировать его стиль. Журналист даже заметил у ИИ «несколько постыдных отличительных черт своей писательской деятельности» — таких как злоупотребление запятыми, чересчур активное использование противопоставлений. «Временами казалось, что Робот Кайл отражает фрагменты моего сознания, имитируя некоторые полубессознательные приемы, из которых состоит мое письмо», — пишет автор.
«Сгенерированный текст вызывает у меня чувство, похожее на отвращение, ощущаемое в тот момент, когда я слышу свой голос на записи. Неужели я действительно так говорю? — делится Чайка, добавляя: — Я узнаю своего ИИ-двойника, и он мне не нравится».
«Способ избежать мышления»
Впрочем, признается журналист, несмотря на то, что тексты Робота Кайла пестрят фактическими ошибками, клише и подражаниями далеко не лучшим его литературным приемам, опыт взаимодействия с ИИ-писателем заставил его крепко задуматься о будущем, в котором ИИ «может навсегда изменить наше отношение к письменному слову».
Автор текста вспоминает слова Стива Джобса о том, что компьютер можно уподобить «велосипеду для ума». Чайка пишет, что взаимодействие с ИИ-алгоритмами вроде Робота Кайла «напоминает езду на электрическом велосипеде». «Нажми на педаль — и ты поедешь гораздо быстрее, чем это могли бы сделать шестеренки человеческого разума без посторонней помощи», — продолжает он.
Однако, судя по тексту, журналист вовсе не уверен, что это приведет к хорошим последствиям. «Если письмо — это мышление, упорядочивание своих идей, то генерация текста с помощью искусственного интеллекта может быть способом избежать мышления», — резюмирует он.
«В мире, где текст создается свободно и мгновенно, но не обязательно является точным или разборчивым, люди будут вынуждены играть роль редакторов и инспекторов по контролю качества, уговаривая иногда непокорных автоматических работников», — предполагает журналист The New Yorker.
Кайл Чайка
Журналист The New Yorker:
«В таком мире полностью написанный человеком текст станет предметом роскоши, каким [сейчас является] керамическая ваза ручной работы в сравнении с той, что отштампована в пресс-форме. Чешско-бразильский философ Вилем Флюссер в своей книге "Есть ли будущее у письменности?" (1987 г.) предсказал, что с появлением "грамматических машин" с искусственным интеллектом, способных писать самостоятельно, "в будущем только историки и другие специалисты будут обязаны учиться читать и писать". Предприниматели, рассматривающие письмо как проблему эффективности, возможно, ускоряют наступление такого будущего».
«Ты не сможешь заставить меня замолчать»
Чайка не случайно устроил эксперимент с Роботом Кайлом. Writer — сравнительно успешный, но далеко не единственный стартап, работающий над такими моделями. Существует несколько аналогичных разработок, причем одна из них, Mindsera, была разработана в Эстонии.
Правда, Mindsera старается быть скорее не автором, а редактором. Ее основная фишка — не генерация нового контента, а предложения для улучшения написанного кем-то другим текста. Сам Чайка нашел эту модель «более полезной», нежели Робот Кайл.
Кайл Чайка
Журналист The New Yorker:
«Когда я писал об угрозе автоматизации работы журналистов, Mindsera задала мне вопрос: "Как влияние ИИ на работу "белых воротничков" может бросить вызов нашим традиционным представлениям о классе и труде и какую роль могут сыграть коллективные действия в формировании будущего труда?". Это актуальный вопрос: нынешняя забастовка Гильдии сценаристов Америки отчасти мотивирована желанием предотвратить вторжение искусственного интеллекта в Голливуд. Как любой хороший редактор, Миндсера, возможно, может побудить писателя расширить свое мышление».
По мнению журналиста, прелесть эстонской разработки состоит как раз в том, что она не делает работу за него, а заставляет работать больше. «Мне кажется глупым указывать на то, что в медленном писательском труде есть своя польза. Поставить глагол после подлежащего или дополнить предложение прилагательными — это задача, которую могут решить машины, поскольку такие грамматические вероятности можно просчитать. Проницательность не так легко автоматизировать, поскольку она углубляется со временем, в процессе записи слов на страницу», — пишет журналист The New Yorker.
Модели же, подобные Роботу Кайлу, журналист сравнил в своем тексте с Големом из чешской легенды, которую взял за основу для своего романа писатель Густав Майринк.
Кайл Чайка
Журналист The New Yorker:
«Независимое существование робота Кайла напомнило мне народные сказки о том, что инструменты, которые делают за вас вашу работу, в конечном итоге оборачиваются против вас. Например, рассказывают, что в XVI веке жил раввин, который мог оживлять человекоподобные фигурки из глины или дерева, написав магическую формулу и вложив ее в рот куклы. Одного такого голема раввин создал для себя, чтобы тот выполнял утомительную работу по дому: рубил дрова, носил воду, подметал пол. Но однажды в субботу раввин забыл "выключить" голема, чтобы дать ему отдохнуть. От этого голем пришел в ярость, стал сносить дома, бросать камни и сеять хаос на улице. Как и раввин, который в конце концов вырвал формулу изо рта своего голема, я хотел бы оставить за собой право остановить Робота Кайла, если предполагаемое удобство этого инструмента приведет к неудобным последствиям. Но когда я спросил Робота Кайла, могу ли я его остановить, он ответил: "Нет, ты не сможешь заставить меня замолчать или запретить мне писать в твоем стиле". В данном случае, возможно, он знает лучше меня».
Комментарии (0)