+7 800 222 999 2
Скоро в эфире
25.10.2019
25 Октября 2019

Искусственный интеллект

Гость – cтарший научный сотрудник Международной лаборатории интеллектуальных систем и структурного анализа, НИУ ВШЭ Алексей Андреевич Незнанов (доцент департамента анализа данных и искусственного интеллекта факультета компьютерных наук).

Программу ведут Елена Щедрунова и Игорь Шатров

Программу ведут Елена Щедрунова и Игорь Шатров "Радио России"

Алексей Андреевич Незнанов

Алексей Андреевич Незнанов /cs.hse.ru/

Программу ведут журналист Елена Щедрунова и политолог Игорь Шатров.

На это неделе в Сколково проходил форум "Открытые инновации". В его пленарном заседании принимал участие премьер-министр страны Дмитрий Медведев, который не только сообщил о том, что в ближайшие годы в бюджете на развитие цифры в России предполагается выделить 1 трлн 600 млрд рублей, но ещё заявил о том, что в программе цифровой экономики будет ещё один федеральный проект. Называется он "Искусственный интеллект". Вот об искусственном интеллекте мы сегодня и поговорим.

Что такое искусственный интеллект?

А. Незнанов: Общепринятого определения искусственного интеллекта не просто не существует, а его невозможно дать в силу широты области. Сейчас обычно считается, что искусственный интеллект делится на два принципиально разных класса. Это сильный и слабый искусственный интеллект. Для обычного человека этого достаточно. Говорят, что сильный интеллект – это замена человеческого разума. И это как раз приводит нас к терминаторам и всяким нехорошестям. А слабый искусственный интеллект, который сейчас обычно называют интеллектуальной системой, – это всё, что позволяет решать задачи, которые раньше были либо совсем плохо формализованы, либо мы их просто не умели так хорошо ставить, как сейчас, и в результате получается, что мы, когда научились их решать, сделали это с использованием интеллектуальных систем.

Мне кажется, что это какое-то притягивание за уши термина или определения интеллекта к чему-то научно-техническому, потому что интеллект всегда был признаком человека. Интеллект присутствует только в животном мире у человека, в мире живых существ, и надо определить, что такое в принципе интеллект. Интеллект – это всё-таки способность не только принимать решения, но их принимать на основе целого комплекса факторов, в частности, и морально-этических тоже. И это самое главное, что отличает всегда интеллект от просто способности осуществлять какие-то последовательные действия и делать их с виду, казалось бы, разумно.

А мне кажется, что интеллект как раз не про разумность, а про способность обучать и на основе этого обучения дальше выстраивать свою жизнь и свои действия. Нет?

А. Незнанов: Надо ещё расширить рамки. Дело в том, что коллеги из Международной лаборатории экспериментальной и поведенческой экономики, знаменитый Ключерёв с компанией, занимаются тем, что сейчас называется "нейросайенсиз" (нейронауками). Когда мы говорим о том, что понимаем, наконец, как устроено мышление, получается, что нужна целесообразная деятельность в среде, нужны когнитивные способности. Особенностей мозга много, я, например, в лекциях по человеко-машинному взаимодействию выделяю не менее 22, и туда относятся не только классические принятия решений, но и, например, долговременная память, которая отличается от кратковременной, и т.д. Но всё это все равно приводит нас к тому, что кто-то умеет добиваться своих целей в конкретной среде, будь это человек, термит или робот.

Но всё-таки, когда говорят о программе "Искусственный интеллект", в нашем совершенно конкретном случае на что будут потрачены совершенно сумасшедшие, с точки зрения большинства людей, деньги? Чем заниматься будут?

А. Незнанов: С этой точки зрения, ничем, потому что заниматься искусственным интеллектом – это в первую очередь разговаривать о нём и пытаться выдумать определение, говорить про этику искусственного интеллекта, о влиянии его на социум и т.п. Как только мы начинаем говорить о внедрении, мы никогда не говорим об искусственном интеллекте, а говорим о конкретных классах интеллектуальных систем, говорим о конкретных задачах и т.д.

То есть, триллион рублей пойдут на разговоры? Вообще, триллион рублей – это на цифровую экономику, а искусственный интеллект – одна из программ. Думаю, на него немало будет выделено. Тогда миллиарды пойдут на разговоры?

А. Незнанов: А кто ж его знает. Дело в том, что программа "Цифровая Россия", которая сменила "Электронную Россию", которая сменила уже не помню как называвшуюся программу, все они пытаются угнаться за, как сейчас говорят, хайпом. И в данном случае на хайпе оказывается кусочек искусственного интеллекта, причём очень маленький. Если вы вспомните, о чём говорили участники форума, то они в основном говорили о машинном обучении. А это всего лишь маленький кусочек искусственного интеллекта. В том числе они говорили о глубинном или глубоком машинном обучении, а это маленький кусочек всего машинного обучения, и так далее. То есть, рамки нужно либо расширить до всех отраслей, где это будет реально внедряться, а рамки этого есть и называются они "четвёртая промышленная революция" или "индустрия 4.0" в соответствии с термином, который ввели германские учёные, потом технологи, а затем во всём мире этот термин устакананился.

Сейчас у нас есть уже какие-то примеры действия искусственного интеллекта? Чтобы люди понимали? Где его пощупать можно?

А. Незнанов: Очень часто о нём говорят, как о ползучем проникновении. Вы достаёте свой смартфон, он вас опознаёт сразу с помощью камеры по лицу.

Не все смартфоны так опознают владельцев. И опознают только, если он захочет, чтобы смартфон его опознавал. Автоматом он этого не делает.

А. Незнанов: Но он же может это делать. И это есть искусственный интеллект. Может он вас опознать по отпечатку пальца, но потом, проверив, что такой отпечаток пальца зарегистрирован у нескольких людей в мире, попытаться сказать, чтобы вы дали ему ещё один отпечаток, но другого пальца. Это тоже искусственный интеллект. Понимает он и то, что вы сейчас ему наговариваете в виде текста. И главное – за последние несколько лет он стал понимать настолько лучше, чем это было раньше, что можно теперь нормально надиктовывать текст и почти не бояться классических плохих ошибок. И это искусственный интеллект. Более того, в 2019 году впервые искусственный интеллект в смысле универсальных языковых моделей с точки зрения понимания письменного текста и главное – генерации письменного текста, превзошёл человека в классических тестах GLUE Bench, и сейчас на конец сентября уже пять разных моделей от OpenAI, Facebook, Microsoft и др. превзошли человеческий уровень.

Был период времени, наверное, в конце 70-х и в 80-е годы, когда говорили о машинах, которые обыгрывают шахматистов. Это ведь тоже был пример искусственного интеллекта по большому счёту?

А. Незнанов: Несомненно. Пример интеллектуальных систем.

То есть, это давным-давно существует, просто мы сейчас заговорили об этом, как будто это какое-то откровение, ого, до чего мы дошли. А оказывается, что это уже давно существует.

А. Незнанов: Ничего подобного. Дело в том, что существуют экспоненциальное развитие и линейное. И мы очень часто экстраполируем в будущее наши текущие представления и считаем, что дальше всё будет развиваться с той же скоростью, что и сейчас. И когда мы говорили об этом в 1997 году, когда Гарри Каспаров схватился за голову в предпоследней партии, сказав, что этого вообще не подозревал, то это был прорыв. Но мы говорили, а давайте рассматривать, что с такой же скоростью будет искусственный интеллект развиваться, а у него скорость развития экспоненциально увеличивается. И в результате 2017 год был признан на одной из конференций годом, в котором было по прорыву каждый день.

На обычном языке это означает, что он развивался в геометрической прогрессии?

А. Незнанов: Ещё быстрее.

Вы самые важные, которые затрагивают и пугают многих, моменты и примеры действия искусственного интеллекта не привели. Например, беспилотные автомобили…

А. Незнанов: Несомненно. Они меняют рынок труда.

Это с одной стороны, а с другой стороны, это машина, которая принимает решение вместо человека, причём не только, соблюдать ли Правила дорожного движения, но и, например, кого в жертву выбрать: пешехода или пассажиров?

А. Незнанов: Несомненно. А вы проходили знаменитый тест от MIT, который называется Moral Machine ("Моральный автомобиль"). Коллеги сделали замечательный тест, и на весь мир его запустили. И уже есть первая статья по результатам о том, а как люди вообще для себя это решают. И оказалось очень странно. И как раз здесь мы вступаем на тонкую грань этики искусственного интеллекта. И тут как раз граница между сильным и слабым искусственными интеллектами начинает вырисовываться. Она вырисовывается не в технике, она вырисовывается у нас в социуме и нашем мозге.

Просто мы даём себе право принимать эти решения. Мы даём себе право как человеку принимать решения, и порой это решение может быть нелогичным с точки зрения машины, может основываться действительно на каких-то морально-этических принципах, которые не имеют порой объяснения с точки зрения банальной логики. А машина будет принимать решение, исходя из математической логики.

Нет, машина будет принимать решение исходя из того, что в неё заложил человек. Так ли?

А. Незнанов: Всё зависит от того, как мы устроим то самое машинное обучение как маленькую часть искусственного интеллекта. Только ли мы будем формальные знания закладывать в машину и запретим ей самой дообучаться или разрешим ей дообучаться и насколько. Например, сможет ли она свои некоторые базовые императивы отменять и говорить, что она больше не будет так действовать, учитывая те самые три закона робототехники, с которых мы начинали.

Эти три закона робототехники, согласно которым машина должна не навредить человеку в первую очередь, как раз в повестке и возникают, какому количеству людей не навредить? Когда вы говорите о дообучении, вы что имеете в виду? Современные нейросети как обучаются? Они постоянно получают дополнительную информацию. Проходя что-то, получают опыт. Условно говоря, машине надо задавить определённое количество пешеходов, чтобы принять решение, что пешеходов давить всё-таки не надо?

Прозвучало слово "опыт", а мне кажется, что у искусственного интеллекта не опыт, искусственный интеллект обучается на том, что в него закладывает человек, на всём том массиве информации. Искусственный интеллект может с ума сойти? Найдётся ли вопрос, над ответом на который искусственный интеллект начнёт раздумывать?

А. Незнанов: Нет. Здесь мы слишком расширили рамки, потеряв объект, который как раз может сойти с ума или что-то ещё сделать. Мы сейчас говорим о слабом искусственном интеллекте, который не имеет собственного целеполагания. Машинка не может сказать, а давайте я вас повезу не в театр, а в морг. Она должна вас довезти в театр, если вы сказали, что вам туда нужно. Она в достаточно изменчивой среде дорожного движения, поведения пешеходов и прочего, может быть, поведения самолёта, который упадёт случайно, должна довезти вас в театр. И это императив.

И на этом пути кто будет в приоритете? Конечно, пассажиры?

А. Незнанов: Нет, не факт. Всё зависит от того, как социум решит. Если мы будем стоять на позициях утилитаризма, то мы будем разбираться в каждом конкретном случае, а каковы результаты конкретных действий и не ведут ли они к увеличению общего блага, как бы мы его ни понимали. Дальше можно задействовать ценности общества, ценности конкретного индивида и сравнить их, дать оценки. Например, этим всё время занимаются страховщики, и к этому все привыкли. И почему-то у страховщиков не спрашивают, а почему они человеческую жизнь оценивают в миллион дензнаков. А почему мы сейчас начинаем эти вопросы задавать?

Очень хорошо, что мы начинаем эти вопросы задавать. Может быть, мы не совершим тех ошибок, которые совершали, когда создавали страховые компании?

А. Незнанов: Замечательно. Но тогда получается, что это вопрос не к искусственному интеллекту, а к естественному, к нашему.

Искусственный интеллект все равно обучается на том, что в него вкладывает человек.

А. Незнанов: А вот это не верно. Потому что, если мы говорим о слабом искусственном интеллекте, мы можем любую процедуру обучения ему написать, причём жёсткую. Сейчас так всегда и делают. Более того, большинство нейросетей, когда они дообучились, дальше начинают работать, больше не обучаясь. Они доходят до определённого уровня и всё: дальше им нельзя двигаться, им как бы запрещают дальше обучаться и начинают использовать. Например, у вас в стиральной машине с 99-процентной вероятностью стоит небольшая нейросеть, выбирающая режимы стирки. И она не дообучается после завода. Но, возможно, завод что-то новое обнаружит и сменит вам прошивку. Например, "умный дом" как концепция предусматривает, что у вас могут развиваться в целом прошивки всех бытовых устройств. Но это все равно слабый искусственный интеллект, и все равно решение принимается вами. Вы можете согласиться или не согласиться, у вас есть лицензионное соглашение с заводом и т.д.

А сильному искусственному интеллекту мы даём право на своё целеполагание. Говорим ему: "Товарищ СИИ, ты теперь можешь решать, что тебе делать. Но, пожалуйста, будь нам другом и не делай этого и того". Потому что этика искусственного интеллекта сейчас породила очень важное понятие, которое называется "дружелюбный искусственный интеллект". И это оказалось более плодотворно, чем, например, злой или не злой или добрый искусственный интеллект.

Полностью беседу с гостем программы слушайте в аудиозаписи.

"Все в сад"

"Все в сад"

Начало в 08:35 "Все в сад"

"Вести"

"Вести"

Начало в 09:00 "Вести"

Субботнее путешествие

Субботнее путешествие

Начало в 09:10 "Хорошее начало"

Рождественский пост в 2020 году начался 28 ноября и продлится до 6 января

Рождественский пост в 2020 году начался 28 ноября и продлится до 6 января

Начало в 09:21 "Хорошее начало"

140 лет со дня рождения Александра Блока

140 лет со дня рождения Александра Блока

Начало в 09:30 "Хорошее начало"

Доверительный разговор

Начало в 09:45 Доверительный разговор

"Вести"

"Вести"

Начало в 10:00 "Вести"

Субботний позитив

Субботний позитив

Начало в 10:10 "Хорошее начало"

Учёные сравнили пользу от свежих плодов и от сухофруктов

Учёные сравнили пользу от свежих плодов и от сухофруктов

Начало в 10:28 "Хорошее начало"

"Вести"

"Вести"

Начало в 11:00 "Вести"

Субботний калейдоскоп

Субботний калейдоскоп

Начало в 11:10 "Хорошее начало"

Андрей Ургант, поздравляем с днем рождения!

Андрей Ургант, поздравляем с днем рождения!

Начало в 11:45 "Хорошее начало"

"Вести"

"Вести"

Начало в 12:00 "Вести"

Мадагаскар – удивительный мир дикой природы

Мадагаскар – удивительный мир дикой природы

Начало в 12:10 "О животных" с Иваном Затевахиным

Музыкальная программа

Музыкальная программа

Начало в 12:35 Музыкальная программа

"Вести"

"Вести"

Начало в 13:00 "Вести"

Нарушения прав пациентов – кто виноват и что делать

Нарушения прав пациентов – кто виноват и что делать

Начало в 13:10 "Посоветуйте, доктор"

"Вести"

"Вести"

Начало в 14:00 "Вести"

На связи со студией Интарс Бусулис

На связи со студией Интарс Бусулис

Начало в 14:10 "Виражи времени"

"Вести"

"Вести"

Начало в 15:00 "Вести"

Уильям Шекспир "Конец – делу венец"

Уильям Шекспир "Конец – делу венец"

Начало в 15:10 "Театр у микрофона"

"Вести"

"Вести"

Начало в 16:00 "Вести"

Уильям Шекспир "Конец – делу венец". Продолжение

Уильям Шекспир "Конец – делу венец". Продолжение

Начало в 16:10 "Театр у микрофона"

"Вести"

"Вести"

Начало в 17:00 "Вести"

В гостях у Дианы Гурцкой – заслуженная артистка России этно-поп певица Варвара

В гостях у Дианы Гурцкой – заслуженная артистка России этно-поп певица Варвара

Начало в 17:10 "Дорогая передача"

"Вести"

"Вести"

Начало в 18:00 "Вести"

Информационно-развлекательный дайджест недели

Информационно-развлекательный дайджест недели

Начало в 18:10 "Нашли время"

"Вести"

"Вести"

Начало в 19:00 "Вести"

Эфир от 28.11.2020 (19:10)

Эфир от 28.11.2020 (19:10)

Начало в 19:10 "Нашли время"

"Вести"

"Вести"

Начало в 20:00 "Вести"

"Радио Док"

"Радио Док"

Начало в 20:10 "Радио Док"

"Вести"

"Вести"

Начало в 21:00 "Вести"

Прямой эфир
Радио России
Радио России FM

Программа