Круглый стол был организован и проведен Центром цифровой трансформации государственного управления ФГУ МГУ совместно с кафедрой математических методов и информационных технологий в управлении, Ассоциацией этики бизнеса, комплаенса и устойчивого развития, Научным советом при Президиуме РАН по методологии искусственного интеллекта и когнитивным исследованиям и Институтом Китая и современной Азии.
Предметом рассмотрения явились вопросы совершенствования структуры и содержания Кодекса этики в сфере искусственного интеллекта; применения Кодекса этики в сфере искусственного интеллекта для государственного и корпоративного управления; практики регулирования разработки и применения искусственного интеллекта в государственном и корпоративном управлении в разных странах; этических и правовых проблем унификации правил разработки и применения искусственного интеллекта для целей государственного и корпоративного управления; стандартизации разработки и применения систем (технологий) искусственного интеллекта, учитывающие этические и (или) культурные (страновые) особенности; ограничений в применении искусственного интеллекта в части самостоятельного принятия управленческих решений в различных сферах; роли и места искусственного интеллекта в государственном и корпоративном управлении (цифровой двойник или цифровой помощник); декларации об ответственной разработке и использовании больших генеративных моделей, в т.ч. вопросы машинного обучения, содержания данных для обучения, верификации (проверки) результатов обучения.
В заседании круглого стола планировалось участие представителей органов государственной власти, государственных корпораций, бизнеса, научного сообщества и общественных объединений Казахстана, Сербии, Китая и Российской Федерации. Однако в результате технического сбоя, на устранение которого потребовалось более часа, не все заявленные представители иностранных государств смогли принять участие. Несмотря на это, их выступления остаются в программе следующего мероприятия по вопросам регулирования искусственного интеллекта и последствий его применения в государственном и корпоративном управлении.
Модераторами круглого стола выступили Павел Кондрашов, руководитель Центра цифровой трансформации государственного управления, и Светлана Попова, доцент кафедры правовых основ управления ФГУ МГУ.
Открывая заседание, Павел Кондрашов отметил, что выбор темы заседания круглого стола был обусловлен необходимостью экспертного обсуждения вопросов упорядочения регулирования разработки и применения искусственного интеллекта в государственном и корпоративном управлении, а также наличием ряда поручений Президента РФ по итогам конференции «Путешествие в мир искусственного интеллекта», состоявшейся 24 ноября 2023 года. В своем выступлении он обратил внимание участников круглого стола на то, что 22 октября 2021 года Правительство РФ своим распоряжением утвердило Стратегическое направление в области цифровой трансформации государственного управления, в котором предусматривается внедрение в государственном управлении технологий искусственного интеллекта, больших данных и Интернета вещей, и что за прошедшее с того момента время профессиональным сообществом были поддержаны два системных документа, призванных урегулировать этические аспекты применения искусственного интеллекта: Кодекс этики в сфере искусственного интеллекта (принят 26 октября 2021 года) и Декларация об ответственной разработке и использовании сервисов в сфере генеративного искусственного интеллекта (ее подписание первой группой компаний состоялось 13 марта 2024 года). Обращено внимание на многоаспектность проблемы формирования правового и этического регулирования разработки и применения систем (технологий) искусственного интеллекта и подчеркнул необходимость его всестороннего анализа и осмысления, необходимость продолжения рассмотрения поставленных вопросов и на последующих заседаниях, организуемых Центром цифровой трансформации государственного управления ФГУ МГУ совместно с партнерскими организациями, с приглашением представителей федеральных органов исполнительной власти, ведущих российских экспертов, представителей заинтересованных структурных подразделений Московского университета.
Юрий Петрунин, д.филос.н., профессор, заведующий кафедрой математических методов и информационных технологий в управлении ФГУ МГУ отметил недостатки Кодекса этики в сфере искусственного интеллекта, методологические проблемы, связанные со структурой Декларации об ответственной разработке и использовании сервисов в сфере генеративного искусственного интеллекта. Обратил внимание на необходимость комплексного научного подхода к разработке документов, регулирующих этические вопросы, возникающие при разработке и применении систем (технологий) искусственного интеллекта, особенно в таких сферах как здравоохранение, образование, наука.
Ирина Яковлева, к.с.н., старший преподаватель кафедры стратегических коммуникаций ФГУ, освещая вопросы применения искусственного интеллекта в здравоохранении, отметила, что имплементация технологий искусственного интеллекта в рассматриваемой сфере выявляет значительные сложности. Ожидания врача, пациента и институтов системы здравоохранения могут быть разнонаправленными, например, пациенты предполагают, что врач будет учитывать данные, самостоятельно собранные пациентом с помощью персональных гаджетов, либо ожидают иной результат от работы алгоритма. Докладчик при этом обратила внимание на возникающие при таком подходе вопросы/ проблемы работы с персональными данными, а также обозначила проблему чрезмерного доверия возможностям машинного обучения в области здоровья, игнорирование которой может привести к смещению взаимодействия между врачом и пациентом в формат патерналистской модели, уход от которой по праву считался достижением нескольких этапов развития современного здравоохранения. В выступлении значительное внимание было уделено и распределению ответственности в области здоровья и здравоохранения за принятие решений искусственным интеллектом или с его использованием.
Маргарита Хоменко, исполнительный директор RBEN, управляющий партнер центра комплаенс-решений Compliance Elements Регулирование, обратила внимание на то, что современные студенты-разработчики в своем большинстве не задумываются о последствиях применения искусственного интеллекта. Этика не преподается студентам компьютерных и технических направлений подготовки. Она отметила, что регулятор всегда будет запаздывать в установлении правил для разработки и применения технологий В связи с чем возникает необходимость развития этического мышления у студентов, которые станут будущими разработчиками ПО. По ее мнению регулирование должно выстраиваться на трех уровнях: права, этики, технологии.
Заведующий кафедрой этики философского факультета СПбГУ Вадим Перов также отметил важность этического образования в подготовке студентов технических специальностей. Задача этических кодексов состоит в выявлении спорных этических проблем, выработке согласованной позиции и закреплении нормативных оснований принятия этически правильных решений в морально проблемных ситуациях. По его мнению, указанное могло бы получить закрепление в «белых книгах», лучших практиках решения этических комитетов. Зарубежные и отечественные кодексы этики в сфере искусственного интеллекта во многом схожи, а главное, что их сближает, — это человекоориентированный подход. Докладчик отметил и обосновал необходимость применения риск-ориентированного подхода в регулировании искусственного интеллекта, а также то, что этика искусственного интеллекта – это этика людей, а не самого искусственного интеллекта. Им также была обозначена так называемая «проблема вагонетки» при разработке беспилотного наземного транспорта. Не должно быть выбора – чья жизнь ценнее, поскольку любая жизнь ценна. Отмечено, что кодексы этики не должны разрабатываться исключительно бизнес-сообществом. Подвергнута критике представленная профессиональному сообществе Декларация об ответственной разработке и использовании больших генеративных моделей.
В дискуссии по представленному выступлению был поставлен вопрос о распространении на работников организации обязанности соблюдения положений кодекса этики при условии, что его подписывал только руководитель организации. Участники пришли к согласию, что для этого должны приниматься соответствующие локальные акты организации.
Андрей Игнатьев, руководитель аналитического направления АНО «Центр глобальной ИТ-кооперации», представитель Технического комитета № 164 «Искусственный интеллект», осветил вопросы стандартизации в сфере искусственного интеллекта, привел примеры разработанных ГОСТов в сфере клинической медицины, дистанционного зондирования Земли, транспорта, образования. Им была отмечена целесообразность формирования отраслевых кодексов этики в сфере искусственного интеллекта на основе общих базовых принципов. Важный аспект, затронутый докладчиком, касается обеспечения доверия искусственному интеллекту через соблюдение законов, в том числе нормативно-технических и этических правил. В качестве примера приведен ГОСТ Р 59276-2020 «Системы искусственного интеллекта. Способы обеспечения доверия», а также проект стандарта о воздействии искусственного интеллекта.
Научный сотрудник Центра искусственного интеллекта МГИМО Олег Гуров рассказал об этических и правовых проблемах киборгизации и астробиосемиотики – сферы знания, которая исследует проблему существования, распознавания, анализа и интерпретации внеземных знаковых систем живых организмов. Развитие систем искусственного интеллекта и киборгизация вынуждают пересмотреть понятие «разумности», отношение к психическому и физическому здоровью человека, а также подготовить человечество к потенциальному межвидовому и межцивилизационному взаимодействию.
Светлана Попова, руководитель программы дополнительного образования МРА – Master of Public Administration, показала некорректность ряда положений Декларации об ответственной разработке и использовании больших генеративных моделей, обосновала необходимость реализации научного, комплексного и междисциплинарного подходов к регулированию искусственного интеллекта, обратила внимание на этические проблемы обучения искусственного интеллекта, заимствования баз данных, а также на формирование технологического суверенитета страны.
В дискуссии приняли участие ассистент кафедры философии и эпистемологии философского факультета ГАУГН Тодор Пожарев (Сербия), представители Аппарата Правительства Российской Федерации, Минтруда России и Минздрава России, руководитель проектов Центра компетенций и профилактики коррупции АНО «Московская дирекция транспортного обслуживания» – Анастасия Комарова, заместитель начальника факультета АГПС МЧС России – Евгений Кулишов, представители Института искусственного интеллекта МГУ имени М.В.Ломоносова – Константин Воронцов и Ольга Ринц, сотрудники НИУ ВШЭ – Сергей Гарбук, Анастасия Трибель, доцент Челябинского государственного университета – Вероника Денисович, преподаватели и сотрудники факультета государственного управления: Марианна Кудина, Людмила Логунова, Владислав Бухарин, Сергей Марышев, Мария Голик, Елена Козлова, Терентьева Ольга.
Участники круглого стола сошлись во мнении о необходимости продолжить совместное обсуждение правового и этического регулирования искусственного интеллекта, в том числе применительно к отдельным отраслям.
Следите за анонсами Центра цифровой трансформации государственного управления.
П.Е. Кондрашов, С.С. Попова