Татьяна Черниговская: «В новом мире наши юридические и этические нормы провалились»

Искусственный интеллект и мы

Искусственный интеллект становится все мощнее. Он не устает, у него не болит голова, не бывает плохого настроения, ему не надо спать. Состязаться с ним невозможно. Если он будет варить за нас кофе, готовить обед, возить нас, обеспечивать производство на любой фабрике — делать за нас все — то чем займемся мы? Обычно отвечают, что творчеством: писать поэмы и заниматься высоким искусством. Что-то не верится.

Мы все знаем игру в шахматы, она считается высокоинтеллектуальной. Все было хорошо, пока первая из шахматных программ не победила тогдашнего чемпиона мира. Как же — наш лучший интеллект, а его победила машина? Специалисты стали говорить, что шахматы, конечно, — сложная игра, но ее можно представить как перебор операций. А этому легко научить программу: у нее бесконечная память, она не нервничает. Так машина взяла шахматы, но взяла она и кое-что другое.

Говорили, что игра в го не поддается искусственному интеллекту. Поддалась. Ли Седоль, абсолютный чемпион по игре в го, был разгромлен программой AlphaGo. Дело даже не в игре, а в том, что они наступают на нашу территорию. Оказалось, что вещи, которые мог делать только человек, может делать и машина.

Способность AlphaZero перебирать ходы была небольшой — всего 8 000 позиций в секунду. Stockfish перебирала 70 миллионов позиций в секунду. Тем не менее, та, что была медленнее, выиграла, потому что оказалась умнее. Она использовала искусственную интуицию в противоположность жесткой логике предыдущих программ. Люди были поражены, описывали тактику игры как инопланетную: такие ходы никогда не встречались у человека. Эти программы могут нас переиграть. Мы говорили, что там, где логика, они могут быть лучше, но странные и непонятные ходы, креативное поведение — это наше. Но они перескочили этот барьер.

Зачем мы создаем искусственный интеллект?

Первый вариант — чтобы понять, как устроен наш мозг. Второй вариант — чтобы биологически и технологически улучшить себя. Создать новых людей: они будут быстрее, умнее, у них будет лучше память. Они будут все делать лучше, чем мы. Есть те, кто говорит: «Мы оцифруем наш рациональный и ментальный мир. Запишем это, условно говоря, на флешку. И достигнем бессмертия». Вот тебе флешка, включай — будешь видеть всю мою жизнь с ощущениями, вкусами, запахами. Другой ответ — чтобы улучшить нашу жизнь, передать некоторые функции искусственному интеллекту.

Меня устраивают первый и последний ответы. Если мы делаем ИИ, чтобы он вместо нас делал тяжелую, мутную или невозможную работу — ради бога. Если для того, чтобы узнать, как мы сами устроены, — тоже ничего против не имею. Все остальное у меня вызывает резкую отрицательную реакцию.

Что нового в этом «новом» мире?

Мир сложный, но мы всегда жили в очень противоречивой среде. Новое в наше время — огромная скорость. То, на что уходили тысячи лет, потом сотни, затем десятки, годы, месяцы, недели, — теперь занимает часы. Не успеваешь опомниться, как надо менять телефон или компьютер, потому что нужные программы с ним уже несовместимы. Кролик из «Алисы в стране чудес» говорил, что для того, чтобы хотя бы оставаться на месте, надо все время бежать, — так мы и живем.

Неприятной чертой современной жизни является то, что у нас практически исчезла способность проверять информацию. Раньше мы говорили, что если в книжке что-то написано, то значит ее проверяли и там все правда. Сейчас мы понимаем: можно создать видео, в котором вы будете находиться хоть в Перу, хоть на Марсе, это будет очень правдоподобно, а говорить вы будете то, чего не произносили никогда. Есть ли шанс хоть какой-то информации доверять? Мой ответ такой: надо знать, каким источникам можно доверять, — другого варианта нет.

Про мозг

Мозг — самое сложное, что есть во вселенной. Возможно, он сложнее, чем сама вселенная, или не менее сложен. Информация передается от нейрона к нейрону или от одной группы нейронов к другой с помощью разных химических и электрических событий, которые проходят через так называемые синаптические соединения. Их в человеческом мозгу квадриллион — это совершенно запредельное количество. Нейронов у нас примерно 75 миллиардов. Страшные цифры. Типов нейронов примерно тысяча. Когда я училась, считалось, что их 5 или 10.

Сеть, которая есть у нас в голове, сложна у каждого — и у самого глупого, и у гения. Я управляю ей, или она мне навязывает то, что умеет сама? Ответа нет. Эта сеть нестабильна, она постоянно развивается, у нее есть свои законы, и она подчиняется внешней среде. Каждый из нас рождается со своей нейронной сетью.Чтобы она выстроилась, должны происходить внешние события: мы должны смотреть, слушать, нюхать, трогать. Чем более многогранный мир вокруг нас, тем более сложной и интересной будет сеть.

Мы живем в мире реальных социальных сетей. Существует число Данбара — допустимое количество социальных связей в зависимости от того, какого размера мозг у существа. Мозг обезьян — самых близких нам биологических родственников — в три раза меньше, чем у нас. Размер комфортной для них социальной группы — примерно 50 особей, четверо-пятеро должны составлять ближний круг. У человека в три раза больше. Посмотрите в свою записную книжку — 1000 номеров. Мы в состоянии выдержать этот удар? Я не знаю ответа.

Дети рождаются с другими мозгами? Нет, потому что биологическая эволюция требует очень много времени. Они рождаются с таким же мозгом, чуть ли не с гаджетами в руках и получают удар по нейронной сети, гораздо быстрее развиваются. Я не знаю, что будут делать учителя с детьми, которые родились сейчас — когда они пойдут в школу, то будут не похожими на нас в их возрасте.

Этические нормы

Мы пришли в новый мир и столкнулись с тем, что юридические и этические нормы провалились. У нас нет законов, которые управляли бы этим миром. Никто никому не верит, мы все время говорим о фейках.

Какие эксперименты можно ставить над животными и людьми? Чипы уже вживляют в мозг свиней и обезьян. Мы должны что-то с этим делать — разработать новые этические нормы. Говорят, что мы не позволим играть с геномом, делать детей на заказ. «Хочу, чтобы была девочка, один глаз голубой, другой розовый, ноги росли от ушей, IQ высокий, волосы золотые», — так нельзя, это убийственно. Нужны законы, которые запретят в это играть.

Предположим, генетики узнали, что у человека возникнет наследственная онкология или ранняя шизофрения. Поправим это? Уверены ли мы, что не испортим всю сеть? Мы очень мало знаем. В какой мир мы попали? Текучий, прозрачный, сверхбыстрый, гибридный. Мы умеем в нем жить?

Мы знаем, что есть автономная жизнь цифрового мира, интернет вещей, самоорганизация сетей, что растет недоверие к источникам информации. Цифровая реальность уже стала критерием отбора в социум. При дистанционной жизни одно дело, когда мальчик или девочка сидит в Нью-Йорке, Москве или Санкт-Петербурге, где быстрый интернет. Другое — когда ученику, чтобы получить задание по математике, надо залезть на березу. Есть целые страны, которые выпадают из гонки. Если им недоступен вход в этот мощный, быстрый, дорогой и все время ускоряющийся мир, то можно считать, что их нет? Целые народы могут быть выброшены. Довольно страшная перспектива.

Что делать?

Как не потерять базовые представления о реальности? Виртуальный мир становится более реальным, чем вещественный. Об этом говорят психиатры, детские психологи, мы и сами это знаем. Он становится таким правдоподобным, что фильм «Матрица» — детский сад. Что делать? Притормозить, сесть и подумать. Кто мы? Что мы хотим? Не человечество, а именно я. Только без банальных вещей, всерьез.

Мы должны не потерять контроль над этой реальностью, нам надо научиться жить на этой планете. Поэтому мы должны питаться не копиями, а оригиналами. Слушать живую музыку, а не ту, что компьютер написал. Не потерять человеческое в человеке.

О детях и образовании

Проводился опрос среди школьников и студентов: «Какой преподаватель был бы идеальным для вас?» Никто не говорил, что это тот, кто много знает. Алиса много знает и «Окей, Гугл» тоже. Дети отвечают, что хороший преподаватель — тот, кто понимает, готов выслушать, утешить, тот, кому доверяешь. Не хотят того, кто помнит таблицу логарифмов наизусть. Нам важны человеческие качества. Все загнаны в угол: родители не знают, как воспитывать, учителя мучаются, потому что находятся на передовой и должны объяснить человечеству, как ему жить в этом мире.

Мы должны воспитывать людей, способных к переменам. Нужно учить тому, как проверять информацию и как противостоять высоким скоростям и сохранять человечность.

Что родители и учителя детям говорят? Надо хорошо учиться, выполнять домашние задания, пятерки получать, тогда потом будет хорошая правильная жизнь. То есть сейчас не настоящая жизнь, а черновик — потом исправишь. Я вам напомню, жизнь началась в тот момент, когда материнская и отцовская клетки соединились. Свою единственную жизнь я уже живу, время проходит. Стрелки в обратную сторону двигаются только в механических часах. Жизнь — не черновик. Вы должны ощущать радость, блеск и все опасности прямо сейчас. Потом будут другие.

Записала Маргарита Берденникова