/ Евгений Онуфриев

Этика и искусственный интеллект

В России организовали Комитет по вопросам создания искусственного интеллекта при Комиссии РФ по делам ЮНЕСКО. Над чем будет работать комитет, какую роль сыграет в этом СВФУ и почему необходимо обратить внимание на этические стандарты в области ИИ – в теме недели «НУ_онлайн».

Взгляд со стороны


Российская Федерация, являясь активным членом ЮНЕСКО, вносит заметный вклад в построение глобальной системы гуманитарного взаимодействия. В ноябре прошлого года на 40-ой сессии Генеральной Ассамблеи ЮНЕСКО Россия поддержала инициативу разработки Рекомендации в области этики использования технологий искусственного интеллекта – первого нормативного акта в этой высокотехнологичной сфере.

Так, по поручению Председателя Комиссии РФ по делам ЮНЕСКО – министра иностранных дел России Сергея Лаврова создан Комитет по вопросам создания искусственного интеллекта. Его основная задача – формирование скоординированных подходов России к участию в деятельности ЮНЕСКО по вопросам ИИ.

27 февраля в Министерстве иностранных дел России состоялось первое заседание комитета. Участники сошлись во мнении, что прежде всего необходимо прийти к единому подходу к терминологии ИИ и смежных технологий, а также к единому пониманию сфер и принципов его применения.

Глава Комитета Александр Кудряшов видит опасность в том, что искусственный интеллект находится в большой зависимости от создающих его людей

Так, они могут проводить через ИИ свою картину мира. По его мнению, наибольшую опасность несет в себе риск включения технологии ИИ в систему принятия решений по ядерному оружию. «Если одна из ядерных держав это сделает, остальные страны поступят так же. Такое развитие событий «похуже атомной бомбы, особенно в злых руках», – подчеркнул он.

Представители российского экспертного сообщества в области искусственного интеллекта уверены, что нужны международное регулирование на основе человекоцентричных принципов и запрет на использование ИИ в военных целях.

«Нам нельзя игнорировать развитие искусственного интеллекта»



Фото: (справа налево) Максим Федоров, Сергей Желтов, Евгения Михайлова, Светлана Малкарова

В состав Комитета по вопросам искусственного интеллекта при Комиссии РФ по делам ЮНЕСКО вошла президент Северо-Восточного федерального университета Евгения Михайлова. По ее мнению, участие в работе комитета предоставит возможность продвигать предложения университета:

Чем обусловлено Ваше решение войти в состав Комитета?

Я вошла в состав Комитета по инициативе директора Центра Сколтеха по научным и инженерным вычислительным технологиям для задач с большими массивами данных, профессора Максима Федорова и при поддержке академика РАН, ректора Сколковского института науки и технологии Александра Кулешова и ответственного секретаря Комиссии РФ по делам ЮНЕСКО, Посла по особым поручениям МИД России Георгия Орджоникидзе.

Как любой совестливый человек, всегда думаю о последствиях принимаемых решений и стараюсь принимать меры по недопущению негативных последствий или, по крайней мере, минимизировать последствия для людей, если прогнозируется некий риск. В отдельных случаях негативные последствия технологических и научных достижений заставляют думать каждого из нас о личной и социальной ответственности. Поэтому я согласилась стать членом столь влиятельного по составу органа, спасибо большое Максиму Валерьевичу за доверие.

Какие возможности получит СВФУ, участвуя в Комитете по вопросам ИИ?

В университете ведутся научные исследования по выявлению влияния интернета на общество, на детей и молодежь, по использованию ИИ в образовании, разрабатываются различные проекты по использованию цифровых двойников, по разработке цифрового месторождения, по использованию ИИ в медицине, в палеогенетике, по изучению изменений климата и др. Вопросы этики и демократизации ИИ становятся актуальными на форумах и дискуссиях, проводимых в университете.

Участие предоставит возможность продвигать наши предложения. Речь не о технологических новшествах, а о вопросах этики, права, психологии, педагогики, философии и др., ведь ИИ расширяет привычные для нас стандарты, ценности, вносит новые.

Меня, например, настораживает китайская система социального рейтинга, в соответствии с которой каждому гражданину присваивается рейтинг в зависимости от его законопослушания, полезной для общества и с точки зрения общества деятельности, поведения и т.п. Помните крылатую фразу из к/ф «Бриллиантовая рука» – «Наши люди в булочную на такси не ездят»? Герой фильма, который выполнял государственное задание, был подвергнут по наущению управдомши возмущению со стороны соседей за «нескромность» и был отнесен к категории «не наши люди». Каким же санкциям будут подвергнуты граждане Китая с низким социальным рейтингом? Не станут ли они теми, с кем не жалко расстаться или принести в жертву? Ведь технологии распознавания лиц и доступа к базам данных беспристрастно будут сравнивать эти рейтинги и определят – кем можно пожертвовать в различных вариациях ситуации, например, неотвратимой аварии на беспилотном транспорте.

Комитет при Комиссии РФ по делам ЮНЕСКО намерен сформировать этические стандарты в области ИИ. Мы в СВФУ создадим специальную группу по выработке предложений и проектов, привлечем к партнерству по ИИ молодых ученых, сотрудников различных компаний.

Я редко играю в интерактивные игры, но одна игра «Детройт: Стать человеком», в которую играла года три назад, меня до сих пор держит в напряжении. В игре в городе Детройт в 2038 году компания под названием «Киберлайф» начала выпускать андроидов. С начала все хорошо, андроиды помогают людям и в быту, и на производстве, людям нравятся машины, они позволяют им заменять себя, например, ухаживать за престарелыми родителями. Андроид покладист, не ссорится, не отдыхает, не ест, не пьет, как говорится. Из чувства благодарности тот, за кем денно и нощно ухаживал андроид, оставляет ему наследство, а не сыну, которому было некогда ухаживать за отцом. Возникает конфликт. В связи с массовой заменой на производстве неэффективных работников на андроидов растет безработица, недовольство, вспыхивают конфликты в социуме.

Но более серьезная проблема возникает с появлением девиантов. В результате сбоя программы, некоторые андроиды ведут себя, скажем, не по правилам, заложенным в программе. Люди их называют «девиантами». Девианты чувствуют себя людьми, они мыслят, у них эмоции, желания, т.е. это машины, которые обрели сознание, им не нравится поведение некоторых людей, отношение к ним. Андроиды из памяти человечества «вспоминают» восстание рабов и т.п. Несколько неожиданно, но игра как бы постоянно спрашивала, по крайней мере у меня было такое ощущение, не явится ли угрозой человеку искусственный интеллект? Конечно, игра построена на различных вариантах, выбор за человеком, в данном случае, игроком. Но в реальной жизни уже возник вопрос – кто и как будет использовать искусственный интеллект? В добро или во зло?

Конечно, мы с вами понимаем, что людям не надо бояться искусственного интеллекта и его использования, но и оставлять без внимания, игнорировать риски и проблемы, связанные с его развитием, не стоит.

Экспертное мнение



Роман Гоголев,
директор международного центра развития перспективных компетенций FutureSkills: NEFU СВФУ:

– Мы уже живем в эпоху искусственного интеллекта – Microsoft, Google, Yandex внедряют элементы искусственного интеллекта в повседневную жизнь. Технически ИИ объединяет Big Data (большие данные), вычислительные ресурсы и специально разработанные алгоритмы, чтобы научить программы обучаться и адаптироваться в зависимости от содержимого данных – шаблонов, аберраций, специальной информации.

СВФУ уже в сфере ИИ, в нашем центре есть ряд кейсов по машинному обучению

Также наш центр подключился к проектам распределенного ИИ европейского ЦЕРН-а и международного астрофизического проекта, предоставив точки университета. Искусственный интеллект – общее название для разнообразных сложных технологий, но сегодня многие практические применения искусственного интеллекта в потребительской и на предприятиях ориентированы на узкие задачи (как наш проект гибкой производственной линии мануфактурного кластера), которые вполне по силам и СВФУ.

Фото: из открытых источников, архива редакции корпоративных медиа СВФУ

Если вы нашли ошибку, пожалуйста, выделите фрагмент текста и нажмите Ctrl+Enter.