Андрей Себрант (Яндекс) — о том, почему ИИ не оставит людей без работы и зачем IT-индустрии нужны гуманитарии

Что общего между паровым двигателем и ИИ?

Директор Microsoft, которого зовут Сатья Наделла, не так давно припомнил, что в 1981 году Стив Джобс сформулировал идею первой рекламной кампании персональных компьютеров, которые тогда разрабатывала фирма Apple. Идея эта состояла в том, что ПК — это велосипед для разума, что было очень точным утверждением, потому что это правда штука, которая позволяет использовать свою голову с совершенно новыми возможностями. Хотя в то время компьютеры были по нынешним меркам очень слабые, очень хилые, прикладных программ на них было еще меньше, чем сейчас, тем не менее это был вполне себе достойный велосипед, ускорявший кучу вещей, которые можно было раньше делать только вручную.

И вот перематываем к 2023 году, [когда] современный руководитель Microsoft произносит фразу, что генеративный искусственный интеллект позволяет пересмотреть эту метафору. Теперь мы можем говорить о том, что у нас появились возможности парового двигателя. На самом деле это очень точная, умная, выверенная метафора.

Паровой двигатель ведь что сделал? До него были ветряные мельницы, были мельницы, которые стояли на реках и использовали силу водного потока, были, наконец, парусные суда, которые использовали силу ветра, чтобы перемещать довольно тяжелые предметы. Но все это были природные силы. Первая сила, которая создана, придумана человеком и поставлена ему на службу — паровой двигатель.

Собственно говоря, такая история произошла сейчас — появился первый вполне себе сопоставимый по мощности с возможностями нашего мозга искусственный интеллект. [В некотором роде такой же] паровой двигатель. Но почему именно паровой? Почему не двигатель внутреннего сгорания, не электродвигатель или реактивный двигатель? Да потому, что мы в самом начале [развития искусственного интеллекта].

О том, что ИИ никакой не «высший разум»

Вдруг оказалось, что цифровые продукты благодаря генеративным решениям, благодаря генеративному искусственному интеллекту получили суперсилу. Они стали нашими собеседниками, стали предлагать какие-то решения. [У кого-то возникла реакция]: «То есть как алгоритм будет мне что-то предлагать, я его запрограммировал!» Э, нет! Ты его запрограммировал, а он стал предлагать тебе вещи, которые тебе самому в голову не приходили. И здесь возникла колоссальная психологическая проблема.

Как только искусственный интеллект повел себя таким образом — начал активно с тобой взаимодействовать так, как с тобой взаимодействует эксперт (то есть ты задал вопрос, а он тебе ответил длинной речью), — в этот момент начала образовываться иллюзия. Иллюзия того, что с вами разговаривает нечто, что обладает высшим знанием. Оно же в компьютере, значит, оно объективно, оно просто не может быть субъективно. Надо сказать, это и до всяких искусственных интеллектов часто можно было услышать. Ты пытаешься человеку что-то объяснить, а он тебе: «у меня так в компьютере написано». И хоть ты тресни — финальное суждение. Раз в компьютере написано, значит, так и есть.

Так вот, эта история про высшее суждение, про истинность знаний, про непогрешимость — это стало опасной стороной [популярности темы бурного развития искусственного интеллекта]... Это то, что может поломать восприятие этого сервиса людьми, подорвать место ИИ в нашем мире. Согласие с мифом, что можно жить так, как нам сказал ChatGPT. Именно из него растут бесконечные статьи, которые можно прочитать: «Чат GPT предсказал курс биткоина в 2024». Ребят, да вы что! Какой курс биткоина в 2024 году? Он что, пророк что ли? У него нет никакого высшего знания, он не обладает никаким объективным знанием о будущем. Тем более, непогрешимостью!

Почему глупо пытаться остановить развитие ИИ

Любая новинка вызывает страх, в этом смысле ничто не ново под луной. Из истории техники можно набрать материала на отдельную лекцию про всякие страхи и неадекватные реакции на технологический прогресс. Вот 1865 год — появляются тогда не беспилотные, тогда безлошадные экипажи. Страшное дело! Публике объясняют: это страшно, потому, мол, человек подошел к окну, увидел, что там повозка едет сама в гору и лошади перед ней нет и… «Ну все, — решает человек, — крыша поехала, жить дальше нет смысла, и выходит из этого окна». Общество пугали, что таким образом будут провоцироваться массовые самоубийства граждан.

Кончилось все это принятием соответствующих законов, они известны как законы о красных флагах. Они гласили, что перед любым безлошадным экипажем в светлое время суток должен идти человек с красным флагом, идти неторопливо, помахивая флагом (в темное время он должен помахивать лампой), давая знать всем окружающим, что все под контролем, мол, этот экипаж никуда быстрее меня не поедет. И вы не поверите, так продолжалось несколько десятков лет! Пока не стало понятно, что если, например, этот безлошадный экипаж должен успеть на пожар, но перед ним не спеша идет человек с лампой, то [в горящем доме] все сгорело. [Экипаж] мог бы доехать, но… закон красных флагов.

И так через несколько лет человечество осознало, что не запретами можно совладать с этой страшной вещью — безлошадными повозками. Оно стало вырабатывать сущности, которые до этого момента были неизвестны: появились ПДД, появились дорожные знаки, дорожная разметка, права на управление транспортным средством. И вот это комплексное решение проблемы позволяет сегодня сотням миллионов машин бегать по дорогам всего мира, быть частью нашей жизни. Точно к этому же мы придем в итоге [развития искусственного интеллекта].

Почему ИИ не оставит людей без работы

Почти век назад произошло «чудовищное» — появились довольно неплохо работающие звукозаписывающие и звуковоспроизводящие устройства. Хуже того! Появилась звуковая дорожка на кинолентах, в результате чего довольно популярная профессия тапера (так называли людей, которые в эпоху немого кино играли на музыкальном инструменте в кинотеатре, тем самым создавая «саундтрек» к фильму) исчезла.

Казалось, что это катастрофа, с точки зрения рынка! Предполагалось, что таперы и прочие музыканты, которые подрабатывали там, где впоследствии появились игровые автоматы, останутся без работы. Более того, в развитии звукозаписи видели надругательство над человеческой культурой. Потому что, мол, музыка — процесс, который происходит перед тобой в реальном времени, что это процесс сиюминутного творчества человека. Борцы со звукозаписывающей аппаратурой ввели совершенно прекрасный, такой злобный, неприятный термин «консервированная музыка».

Но мы же знаем, чем это дело кончилось — живая музыка никуда не исчезла, никуда не исчезли живые концерты и никуда не исчезли живые исполнители в каком-то мало-мальски приличном ресторане. Но при этом какое количество музыки стало доступно тем людям, которые не могут в силу того места, где они живут, дойти до филармонии! Эта история изменила мир путем создания новых сущностей: Появились звукозаписывающие лейблы, появились всевозможные носители, стриминги — и все это ну ни разу не убило музыку. И тот факт, что записанная музыка должна называться «консервированной» в терминах прошлого века, вызовет у современных людей большое удивление.

Каждый раз технологические трансформации сопровождаются страхами, и каждый раз оказывается, что человечество находит разумный выход не путем запретов, а гораздо более сложным, более долгим, более творческим и человеческим путем.

Почему для развития ИИ необходимы гуманитарии?

Есть, например, такой термин, который вы, возможно, слышали, RLHF (Reinforcement Learning from Human Feedback) — это означает, что обучение [нейросети идет] с подкреплением на основе обратной связи от человека. Это то, на чем стоят все современные хорошо обученные языковые модели.

Обучение происходит не просто на каких-то датасетах, не просто на каких-то наборах данных, а обязательно на очень большом взаимодействии с людьми, которые оценивают работу этой модели и помогают ей правильно отвечать, давая свои оценки. Это и делает модель по-настоящему применимой в реальной жизни. Такие люди даже получили свое название — AI-тренеры.

Сейчас стали появляться школы для тех, кто учит нейросети. Оказалось, что если мы хотим, чтобы с нами корректно, внятно, вежливо, вообще хорошо, разговаривал искусственный интеллект, то нам неизбежно надо обратиться к тем людям, которые могут его этому научить, то есть к тем, кто сам умеет так. А это, простите, не программисты. Это, как правило, люди с классическими гуманитарными специальностями — это писатели, режиссеры, артисты — те люди, которые действительно разговаривают так, что их хочется слушать. А есть еще и журналисты с их навыками фактчекинга, которые могут научить искусственный интеллект меньше ошибаться.

Этим людям часто говорят, мол, искусственный интеллект вас точно заменит. Не-а, не заменит! Потому что все продукты на основе искусственного интеллекта будут нуждаться в их помощи, в них как в тренерах, которые доводят до совершенства тот неотесанный искусственный интеллект, который получается, когда с ним поработали только технари.

Что будет с развитием ИИ дальше

Любая конкретика может быть только на горизонте 1-2 лет, потому что за это время наверняка случится что-то непредсказуемое. Произойдет что-то такое, что повернет все развитие искусственного интеллекта в новые, нам непонятные, неизвестные и потому непредсказуемые направления.

Из того, что можно предсказать просто линейной экстраполяцией:

• Мультимодальность. Это возможность не только разговаривать с сетью, но и предлагать ей картинки, чтобы она проинтерпретировала, что ты ей показываешь. Очень скоро будет возможно: ты нейросети что-то показал, а она тебе не просто словечками ответила или объяснила, что изображено на картинке. Она сама будет рисовать картинки, потому что зачастую ответ в виде какого-нибудь графика, наброска — он гораздо более информативен, чем длинный-длинный текст из одних слов.
• Дистилляция — если совсем грубо, это то, что позволяет очень большую модель, которая требует какого-то очень навороченного компьютера, ужать настолько, что она может исполняться на устройстве совершенно бытового класса — на твоем домашнем компьютере с приличной видеокартой, а в самом ближайшем будущем — просто на любом смартфоне.
  Если вспомнить, какое устройство нам не так давно показал Apple? Очки, которые набиты всякими системами искусственного интеллекта, процессорами, заточенными под обработку больших моделей и не только языковых. Теперь представьте себе, вы посреди тайги сидите на пенечке, вам не спится, и вы говорите в пространство (потому что у этих очочков есть микрофон): «хочу сказку, нет, хочу мультик, добрый такой, чтобы про лес, про добрых зверей и чтобы в итоге мне захотелось спать». И эта штука генерит вам мультик: и картинку, и сюжет, и все на свете! При этом она не общается ни с какими там дата-центрами, суперкомпьютерами! Это все происходит на устройстве. Представьте себе мощь такого устройства, в котором живут современные большие модели уже настолько ужатые, что они помещаются в носимое вами устройство и являются вашим постоянным помощником. Это сильно другая история, чем просто connected world, где, если что-то порвалось, связь пропала, вы ничего не можете сделать.

Так будет происходить цифровая трансформация нашего мира, нашего общества, промышленности. Все это будет протекать все быстрее и быстрее. Но в этот момент возникнет сложная проблема делегирования. Особенно она сложна людям старой закалки — я бы сказал, что у нас не все начальники умеют делегировать что-то своим сотрудникам, людям, [а тут нужно довериться искусственному интеллекту]. Это колоссальный клубок всяких проблем. Другое дело, что он как раз притормозит быстрое внедрение искусственного интеллекта, и поэтому все будет происходить не так быстро, как нас часто пугают журналисты.