Екатерина Шульман и топ-менеджеры «Яндекса» и «Мегафона» — о государственной слежке, беспилотниках и искусственном интеллекте

Дилемма первая. Разработано приложение: оно показывает был ли контакт с заболевшим Covid-19. Данные доступны госорганам. Скачаете?

Зал: да 34% / нет 66%

Онлайн: да 25% / нет 75%

Екатерина Шульман: нет

Леонид Черный: да

Андрей Себрант: воздержался

Евгений Бурнаев: нет

Андрей Себрант: Это приложение я скачаю, если буду понимать, что это осмысленное действие. Я не люблю ставить приложения, которые замусоривают телефон, жрут трафик, а потом могут что-то слить государству. 

Но в самом начале пандемии компании Apple и Google договорились о создании совместного приложения. Оно бы поддерживалось системой Android и IOS независимо от того, на какой операционке у пользователя работает телефон. Владельцы телефонов могли бы обмениваться информацией друг с другом на близком расстоянии, не сообщая ничего на официальные сервера, а в режиме распределенного хранения данных сообщать человеку, был ли он в одном помещении с зараженным коронавирусом. Да, такое приложение я бы себе поставил. 

В мире сейчас 177 подобных приложений, каждая страна решила разработать свое, но никакого кросс-обмена между ними нет. Люди, путешествующие через границы, автоматически отсекаются. В борьбе с эпидемиями эти технологии действительно эффективны. Но тут есть важный вопрос: смогут ли люди договориться так, чтобы приложение стало единым для всех на планете? Такое приложение я бы тоже себе поставил, даже если в итоге знал, что мои данные получит государство. 

Екатерина Шульман: Но в чем ценность этой информации для пользователя, который устанавливает такое приложение? Мне сообщается, что человек, с которым я была в одном помещении, болеет коронавирусом, а дальше что? Две недели молюсь богу? За этот год у каждого из нас были такие случаи: общались с человеком, а потом выяснялось, что он заболел. А потом ничего не происходит. Или происходит, и вы лечитесь. Зачем эти сведения? Они только повышают вероятность развития тревожных расстройств. Если окажется, что сегодня в зале был ковид-положительный человек, то предполагается, что все остальные должны тестироваться?

Южная Корея использовала в борьбе с пандемией тотальную слежку. Вплоть до того, что в публичных местах висели фотографии зараженных. Для человека другой культуры это выглядит страшно, а там такие вещи социально приемлемы. Зато им удалось избежать долгого сурового локдауна. В одних социумах такие вещи действуют, в других — только повышают уровень недоверия, тревожности и паники. Поэтому идея о всемирном приложении кажется мне преждевременной, пока у нас не появилось набора универсальных ценностей.

Леонид Черный: Объем информации, которым обладает не только государство, но и коммерческие компании, уже превышает все возможные метрики. Я сегодня поискал в интернете курсы по управлению, и уже знаю, что меня во всех социальных сетях будет догонять соответствующая реклама. И это нормально, у меня нет никаких предубеждений против того, что я пользуюсь сервисом бесплатно и за это отдаю свои данные. 

Ведущая: Екатерина, эти результаты онлайн-голосования связаны с тем, что в вопросе есть слово «государство»?

Екатерина Шульман: Я думаю, да, слова «госорганам будет доступна ваша информация» подействовали на умы отвечающих. Они помнят многочисленные рассказы жертв социального мониторинга, которые страдали от перманентной слежки. У нас уровень доверия институтам низкий, уровень доверия органам невысокий и, самое главное, не повышающийся. Это интересно сочетается с убеждением, что есть таинственные «они», которые все равно все знают. Люди верят в зловещее всемогущество, но все равно придерживаются стратегии «я все-таки спрячусь, не скачаю это хорошее приложение, и тогда, может быть, эти «они» меня не увидят». 

Ведущая: А кто они, эти люди, которые про нас уже все знают? Это нам на пользу или во вред? 

Андрей Себрант: Вопрос «Яндекс все про меня знает?» возникает регулярно, но есть одна тонкость. Яндекс все знает, но он не может ничего привязать к конкретному человеку. Мы работаем с сегментами аудитории: можем показать рекламу определенного автомобиля всем, кто хочет купить форд фокус. Но ни за какие деньги нельзя показать конкретному человеку рекламу, которая должна воздействовать только на него. Все мы являемся частями групп от пяти тысяч до миллиона человек, которые интересуются собаками или автомобилям. Про эти группы мы знаем довольно много, а вот про отдельных людей — ничего конкретного. Так устроена современная онлайн-реклама. Представитель мобильного оператора знает о вас гораздо больше.

Леонид Черный: Я фанат цифровых сервисов и с большим удовольствием использую «Госуслуги», Mos.ru и все, что так или иначе связано с цифровизацией взаимодействия человека и государства. И я сам с большим удовольствием отдаю государству данные о моих счетчиках, документах, автомобилях. Также, как не возражаю я против передачи своих cookie-данных в «Яндекс». Это упрощает мне жизнь, я обмениваю данные на удобство использования или взаимодействия с сервисами, которые предоставляет или государство, или коммерческие компании, или банк. Это мой выбор.

Дилемма вторая. Проанализировав переписку вашего сотрудника, искусственный интеллект счел его неэффективным и предлагает уволить. Уволите ли вы его? 

Зал: 5 % да / 95% нет 

Онлайн: 16% да / 84%  нет

Екатерина Шульман: нет

Леонид Черный: нет

Андрей Себрант: воздержался

Евгений Бурнаев: воздержался

Ведущая: Актуальный вопрос, потому что, насколько я понимаю, такие системы уже есть. Они анализируют переписку сотрудников и передают оценку его эффективности, состояния и так далее. 

Андрей Себрант: Переписка какая – служебная? Компания имеет право знать, что сотрудник пишет со служебной почты. Но ни одна внятная система машинного обучения и ИИ никогда не работает по одному параметру, нельзя по одной переписке определить эффективность сотрудника. Она является одним из важных сигналов, но есть еще несколько десятков метрик, которые можно проанализировать. Вообще система, за которую заплатили деньги, ничего даже советовать не может, не то что решать. Иначе это не система, а халтура. Фундаментальная ошибка менеджера – делать метрику целью. Что бы там ни посчитал ИИ, он мог сделать это неправильно. 

Евгений Бурнаев: В разумно устроенной организации есть ряд метрик. Но это просто сигнал, что нужно обратить внимание на определенного сотрудника, поощрить или наоборот, не более того. 

Андрей Себрант: Нельзя уволить на основании метрики, метрика может быть справочным материалом, и не одна, а десяток разных. Всю вашу переписку уже читает ИИ всегда, где бы вы ни работали. У всех есть почты, защищенные системой антиспама. Правила давно пишет тот же машинный интеллект, и он принимает фундаментальные решения относительно ваших писем каждый день. Но контекст ИИ учитывать не может.

Дилемма третья. Вы вызвали такси, к вам приехала машина без водителя. Сядете?

Зал: 70 % да / 30% нет

Онлайн голосование: 68% да / 32% нет

Екатерина Шульман: да 

Андрей Себрант: да

Леонид Черный: да

Евгений Бурнаев: да

Леонид Черный: У меня не совсем ответ «да». Сейчас мы можем сравнивать беспилотный автомобиль и такси с водителем, и беспилотный автомобиль, кажется, правила соблюдает лучше. При этом самолет 99,9% времени уже управляется автопилотом. Более того, законодательно на уровне ассоциации авиаперевозчиков любой аэропорт с пропускной способностью выше четырех или пяти миллионов человек в месяц обязан иметь систему автоматического управления посадкой.

Андрей Себрант: У меня есть опыт использования беспилотного автомобиля. Первые пять минут — адреналин, страшно, ощущения, как в кино. А потом привыкаешь. Но сможет ли беспилотник довезти меня до любимого пруда? Я туда не всегда через кусты могу пробраться. В ближайшие 10 лет — нет. Сначала появятся автомобили, которые могут ездить по определенному куску города, потом по магистралям, где поток наиболее организован, потом по дорогам второстепенного значения. От деревни под Питером до деревни под Владивостоком беспилотник доехать не сможет. 

Леонид Черный: Одни исследователи сделали рейтинг ценности возможных жертв беспилотника. Провели онлайн-опрос среди полутора миллионов человек, кого вы задавите: котенка, ребенка или бабушку? Мы с Евгением — наименее ценные представители общества, согласно рейтингу. Наивысшая ценность у детей, потом женщины, и только потом мужчины. Чем старше, тем менее ценен человек. Так что, в случае чего, мы станем первыми жертвами.

Ведущая: Кто будет нести ответственность в случае аварии?

Андрей Себрант: Человечество много раз стояло перед такими вопросами, когда появлялись новые технологические решения. Например, когда вместо повозок с лошадьми появлялись безлошадные. Тогда приняли кучу законов и правил, которые для нас сейчас естественны, а для человека XIX века – дикие: правила дорожного движения, дорожные знаки, права на управление автомобилем. Тогда и появились статьи, которые описывают кто, когда и где ответственный. Но для этого нужно некоторое количество прецедентов, к сожалению. 

Екатерина Шульман: Действительно, это новая правовая сфера. Будет социальный запрос – будет и предложение от правовых систем.

Ведущая: В этом вопросе есть еще один аспект. Например, мы берем ситуацию, в которой такси могут управляться без водителя, то есть мы лишаемся таксистов. Может ли произойти в ближайшем будущем ситуация, в которой какая-либо профессия полностью исчезнет? 

Леонид Черный: Если мы посмотрим на 100-150 лет назад, то увидим кучу профессий, которые исчезли. 

Андрей Себрант: Вокруг лошадей как транспортного средства было огромное количество профессий, но и эти люди перестроились. Технологических революций человечество переживало множество. 

Екатерина Шульман: И это создавало больше профессий, чем было — появятся новые занятия, массовой безработицы я бы не опасалась. Другое дело, что попасть лично в ситуацию массового перехода в трудно обучаемом возрасте – это может быть печально для человека, но для человечества в целом это благо, а не зло.

Леонид Черный: Мы уже видим множество профессий, которых раньше не существовало. Например, 15 лет назад не было специалистов по обучению нейросетей. Не существовало десятков языков программирования, на которых сейчас пишут сотни тысяч человек. Не было целых индустрий.

Андрей Себрант: Можно было пять лет назад сказать фразу «в инфлюенсеры пойду», и все такие: «в кого?!». А сейчас эту фразу все понимают. 

Ведущая: Можем ли мы свой опыт считать релевантным опыту людей, которые переживали свой переход от лошадей к транспорту без лошадей. Возможно, сейчас количество людей, которые не смогут приспособиться новой реальности, гораздо больше.

Екатерина Шульман: Отвечу как политолог: да, это сравнение считается релевантным. Каждое поколение считает свой опыт самым уникальным, а свое время – временем самых быстрых и стремительных перемен. Но по сравнению с тем, что происходило в Викторианскую эпоху, мы живем в тихое время, когда особо ничего не меняется. У них нет таких перемещений гигантских масс из сельской местности в города, нет бурной индустриализации, нет войн. Мы действительно переживаем некоторые изменения, в том числе и социальные — мы уже менее охотно убиваем друг друга.

Как алгоритм может узнать ваш номер телефона, если вы его не указывали?

Андрей Себрант: В 90% случаев такая история связана с приложениями. Например, вы скачиваете игрушку, и то, что вы говорите, она передает третьим лицам и рекламным агентам. Они вас не прослушивают, а просто относят вас к нужным рекламным категориям. Для этого не нужно пересылать весь ваш разговор — приложение может быть заточено на распознавание определенных слов. Приложение слушает это прямо на вашем телефоне, отправляя на сервер два бита информации. Apple сейчас активно борется с этим. На этом живет 50% независимых разработчиков приложений, у которых встроен код, который вас сегментирует и отсылает рекламным агентствам информацию, к какой группе потребителей вы относитесь. 

Леонид Черный: Знакомый, который живет в Америке, продал приложение, которое встраивается в другое приложение и содержит в себе сэмплы телевизионных рекламных роликов. Оно в пассивном режиме сравнивает информацию, идущую на микрофон, с семплами из телевизора, а затем передает информацию исследовательским агентствам, сколько людей эту рекламу видели. Потом информация уходит рекламодателям. Отлично продал! 

Можно ли назвать происходящее сегодня революцией?

Екатерина Шульман: Не думаю, что мы должны обманываться бурным потоком новостей и считать свое время революционным. Даже пандемия, при своей чрезвычайности, не принесла того, чего не было до нее. Она масштабировала те практики, которые существовали и до этого. Были дистанционная работа и онлайн учеба, онлайн торговля и доставка еды, эти процессы развивались десятилетия. За весь фантастический 2020 год политическая власть не переменилась, властный ресурс остался у тех, кто им обладал ранее. Понаблюдаем, как будет дальше, но пока революционных признаков мы не замечаем. В каких направлениях будут развиваться технологии? В направлении медицины, продления жизни, борьбы с генетическими нарушениями и решением психических проблем человечества. И второе направление, которое мы ждем – это зеленая революция, революция в сельском хозяйстве. Следующий фазовый переход – производство еды, технологии, которые могут накормить человечество как-то иначе. 

Записала Диана Исхакова