Сегодня пятница, 25.09.2020: публикаций: 686
Документы. Опубликовано 26.08.2020 17:42  Просмотров всего: 4311; сегодня: 47.

Утверждена Концепция развития регулирования отношений в сфере ИИ

Утверждена Концепция развития регулирования отношений в сфере ИИ

На официальном интернет-портале правовой информации 26 августа 2020 года опубликовано Распоряжение Правительства Российской Федерации от 19.08.2020 № 2129-р.

В данном документе утверждена Концепция развития регулирования отношений в сфере технологий искусственного интеллекта и роботехники до 2024 года.

Текст документа:

Правительство Российской Федерации

Распоряжение от 19 августа 2020 г. № 2129-р, Москва

1. Утвердить прилагаемую Концепцию развития регулирования отношений в сфере технологий искусственного интеллекта и роботехники до 2024 года (далее - Концепция).

2. Федеральным органам исполнительной власти и Государственной корпорации по космической деятельности "Роскосмос" руководствоваться положениями Концепции при осуществлении функций по выработке государственной политики и нормативно-правовому регулированию в установленных сферах деятельности.

3. Заинтересованным федеральным органам исполнительной власти и Государственной корпорации по космической деятельности "Роскосмос" в 3-месячный срок представить в Минэкономразвития России предложения по реализации Концепции в рамках национальной программы "Цифровая экономика Российской Федерации".

Председатель Правительства Российской Федерации М. Мишустин

 

Утверждена распоряжением Правительства Российской Федерации от 19 августа 2020 г. № 2129-р

Концепция развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года

I. Общие положения

1. Цели Концепции

Целью Концепции развития регулирования отношений в сфере технологий искусственного интеллект и робототехники (далее - Концепция) является определение основных подходов к трансформации системы нормативного регулирования в Российской Федерации для обеспечения возможности создания и применения таких технологий в различных сферах экономики с соблюдением прав граждан и обеспечением безопасности личности, общества и государства. Одновременно целями Концепции являются создание предпосылок для формирования основ правового регулирования новых общественных отношений, складывающихся в связи с разработкой и применением технологий искусственного интеллекта и робототехники и систем на их основе, а также определение правовых барьеров, препятствующих разработке и применению указанных систем.

Термины, используемые в настоящей Концепции, употребляются в значении, приведенном в Национальной стратегии развития искусственного интеллекта на период до 2030 года, утвержденной Указом Президента Российской Федерации от 10 октября 2019 г. № 490 "О развитии искусственного интеллект в Российской Федерации" (далее - Национальная стратегия), а также в национальных стандартах.

Развитие технологий искусственного интеллекта ставит серьезные вызовы перед правовой системой Российской Федерации, системой государственного управления и обществом в целом. Они обусловлены определенной степенью автономности действий систем искусственного интеллекта в решении поставленных задач и их неспособностью непосредственно воспринимать этические и правовые нормы, учитывать их при осуществлении каких-либо действий.

В настоящее время в Российской Федерации отсутствует специальное законодательное регулирование, учитывающее специфику применения технологий искусственного интеллекта и робототехники.

В то же время анализ мирового опыт показывает, что в целом ряде стран уже существует первичное правовое регулирование применения искусственного интеллекта и робототехники.

Концепция исходит из того, что для развития технологий искусственного интеллекта и робототехники необходимо создание регуляторной среды, комфортной для безопасного развития и внедрения указанных технологий, основанной на балансе интересов человека, общества, государства, компаний - разработчиков систем искусственного интеллекта и робототехники, а также потребителей их товаров, ра6от, услуг. Однако представления об этом балансе существенно разнятся. В связи с этим Концепция оставляет открытыми и требующими дальнейшего обсуждения отдельные наиболее спорные вопросы, но может служить инструментом для достижения в ближайшие годы сближения интересов человека, общества государства и бизнеса в рассматриваемой сфере.

Концепция учитывает положения Национальной стратегии, национальной программы "Цифровая экономика Российской Федерации" и Стратегии развития информационного общества в Российской Федерации на 2017 - 2030 годы, утвержденной Указом Президента Российской Федерации от 9 мая 2017 г. № 203 "О Стратегии развития информационного общества в Российской Федерации на 2017 - 2030 годы", а также положения иных документов стратегического планирования, нормативных правовых актов и методических документов, в том числе международных организаций.

С учетом динамики развития общественных отношений, связанных с созданием и использованием технологий искусственного интеллекта и робототехники, положения Концепции определены с перспективой на период до 2024 года.

2. Цели и задачи регулирования отношений в сфере технологий искусственного интеллекта и робототехники

Приоритетной целью регулирования отношений в сфере искусственного интеллекта и робототехники на данном этапе их развития является стимулирование разработки, внедрения и использования таких технологий, создания систем искусственного интеллекта и робототехники в доверенном и безопасном исполнении, которое будет способствовать достижению высоких темпов экономического роста, повышению благосостояния и качества жизни граждан, обеспечению национальной безопасности и правопорядка, достижению устойчивой конкурентоспособности российской экономики, в том числе лидирующих позиций в мире в области искусственного интеллекта.

С учетом заявленной цепи регулирования выделяются следующие задачи, на решение которых должно быть направлено регулирование:

создание основ правового регулирования новых общественных отношений, формирующихся в связи с применением систем искусственного интеллекта и робототехники, имеющих преимущественно стимулирующий характер;

определение правовых барьеров, затрудняющих разработку и применение систем искусственного интеллекта и робототехники в различных отраслях экономики и социальной сферы;

формирование национальной системы стандартизации и оценки соответствия в области технологий искусственного интеллекта и робототехники.

При этом режим правового регулирования разработки, внедрения и применения технологий и систем искусственного интеллекта и робототехники должен обеспечивать необходимую степень защиты прав и свобод человека и гражданина, отвечать интересам общества и государства.

3. Принципы регулирования отношений в сфере технологий искусственного интеллекта и робототехники

Достижение цели и задач регулирования отношений, складывающихся в связи с разработкой и применением систем искусственного интеллекта и робототехники, должно осуществляться с учетом следующих принципов:

стимулирование развития технологий искусственного интеллект и робототехники регуляторными средствами как основной вектор развития регулирования в обозначенный временной период ("стимулирование как основа регулирования");

регуляторное воздействие, основанное на риск-ориентированном, междисциплинарном подходе и предусматривающее принятие ограничительных норм в случае, если применение технологий искусственного интеллекта и робототехники несет объективно высокий риск причинения вреда участникам общественных отношений, правам человека и интересам общества и государства

расширение применения инструментов сорегулирования и саморегулирования, формирование кодексов (сводов) этических правил разработки, внедрения и применения технологий искусственного интеллекта и робототехники;

человеко-ориентированный подход, предусматривающий, что конечной целью развития технологий искусственного интеллекта и робототехники, направляемого посредством регуляторного воздействия, является обеспечение защиты гарантированных российским и международным законодательством прав и свобод человека и повышение благосостояния и качества жизни граждан;

оценка воздействия технологий и систем искусственного интеллекта и робототехники на все сферы жизни человека, общества и государства, основанная на научно выверенных исследованиях с подключением широкого круга ученых;

обеспечение баланса интересов разработчиков, потребителей и иных лиц в сфере искусственного интеллекта и робототехники, а также определение границ их ответственности за возможные негативные последствия использования технологий искусственного интеллекта и робототехники;

технологический суверенитет, предусматривающий обеспечение необходимого уровня независимости Российской Федерации в области искусственного интеллекта и робототехники с учетом государственной политики в сфере развития информационных технологий и импортозамещения;

поддержка конкуренции, предусматривающая обеспечение равных для всех, включая предприятия малого и среднего бизнеса возможностей для применения экспериментальных правовых режимов и мер государственной поддержки, а также для доступа к необходимым в целях разработки систем искусственного интеллекта и робототехники данным из государственных и муниципальных информационных систем;

оценка при разработке нормативных правовых актов и иных документов в сфере искусственного интеллекта и робототехники социально-экономических последствий и рисков в условиях постоянного развития технологий, учет как положительного, так и отрицательного международного опыта регулирования;

обязательность обоснованной оценки рисков причинения при применении искусственного интеллекта и робототехники вреда жизни и здоровью человека, реализации угроз обороне страны и безопасности государства и принятие мер, направленных на минимизацию таких рисков и угроз.

Развитие технологий искусственного интеллекта и робототехники должно основываться на базовых этических нормах и предусматривать:

приоритет благополучия и безопасности человека, защиты его основополагающих прав и свобод (цель обеспечения благополучия и безопасности человека должна преобладать над иными целями разработки и применения систем искусственного интеллекта и робототехники);

запрет на причинение вреда человеку по инициативе систем искусственного интеллекта и робототехники (по общему правилу следует ограничивать разработку, оборот и применение систем искусственного интеллекта и робототехники, способных по своей инициативе целенаправленно причинять вред человеку);

подконтрольность человеку (в той мере, в которой это возможно с учетом требуемой степени автономности систем искусственного интеллекта и робототехники и иных обстоятельств);

проектируемое соответствие закону, в том числе требованиям безопасности (применение систем искусственного интеллект не должно заведомо для разработчика приводить к нарушению правовых норм);

недопущение противоправной манипуляции поведением человека.

4. Проблемы, общие подходы и направления регулирования отношений в сфере технологий искусственного интеллекта и робототехники

Одним из основных препятствий для расширения применения систем с использованием искусственного интеллекта и робототехники является отсутствие достаточной степени доверия к ним со стороны общества. Повышение степени автономности таких систем, снижение контроля человека за процессом их применения, не полностью прозрачный процесс принятия решений создают общественный запрос на регуляторные ограничения применения систем искусственного интеллекта и робототехники.

В настоящее время в мире отсутствуют единые подходы к регулированию технологий искусственного интеллекта и робототехники, что связано с наличием ряда проблем, не имеющих однозначного решения.

Среди таких концептуальных проблемных направлений регулирования можно выделить следующие:

соблюдение баланса между требованиями по защите персональных данных и необходимостью их использования для обучения систем искусственною интеллекта;

определение предмета и границ регулирования сферы использования систем искусственного интеллекта и робототехники;

идентификация системы искусственного интеллекта при взаимодействии с человеком, включая его информирование о взаимодействии с такой системой;

правовое "делегирование" решений системам искусственного интеллекта и робототехники;

ответственность за причинение вреда с использованием систем искусственного интеллекта и робототехники;

правовой режим результатов интеллектуальной деятельности, созданных с использованием систем искусственного интеллекта;

использование для принятия решений системами искусственного интеллекта вероятностных оценок и невозможность в ряде случаев полного объяснения принятого ими решения (проблема алгоритмической прозрачности систем искусственного интеллекта).

Такие направления регулирования и указанные в пункте 49 Национальной стратегии основные направления создания комплексной системы регулирования общественных отношений, возникающих в связи с развитием и внедрением технологий искусственного интеллекта, должны стать основными ориентирами при создании комплексной системы регулирования общественных отношений, возникают в связи с развитием и внедрением технологий искусственного интеллекта и робототехники.

С учетом экономической и социальной значимости применения технологий искусственного интеллекта и робототехники в различных сферах их разработка и эксплуатация не должны ограничиваться регуляторными мерами, за исключением случаев, связанных с высоким риском причинения вреда жизни и здоровью граждан. Также не допускается применение технологий искусственного интеллекта и робототехники, представляющих явную угрозу обороне страны и безопасности государства.

Для выработки конкретных регуляторных решений требуется использовать риск-ориентированный подход, основанный на оценке размера потенциального вреда указанным ценностям с учетом вероятности его наступления по сравнению с потенциальным положительным эффектом от внедрения технологий искусственного интеллекта и робототехники, необходимости принятия мер по минимизации соответствующих рисков.

Сам факт использования систем искусственного интеллект и робототехники не должен являться основанием для установления регуляторных ограничений.

Следует поддерживать развитие регулирования, вырабатываемого и приводимого в исполнение силами участников рынка (саморегулирование), включая принятие и использование документов национальной системы стандартизации, кодексов (сводов) этических правил и иных документов саморегулируемых организаций, а также иных инструментов.

Учитывая принципиальную сложность регулируемой сферы правоотношений, для выработки режима регулирования технологий искусственного интеллекта и робототехники требуется активное вовлечение представителей компаний - разработчиков систем искусственного интеллекта и робототехники, научно-исследовательских организаций в процесс экспертной проработки соответствующих нормативных правовых актов.

В дальнейшем может также потребоваться уточнение отдельных норм законодательства в целях нормативного правового регулирования новых видов правоотношений.

II. Общеотраслевые задачи регулирования применения технологий искусственного интеллекта и робототехники

1. Создание механизмов упрощенного внедрения продуктов с использованием технологий искусственного интеллекта и робототехники

Требуется создать возможности для использования специального механизма тестирования (опытной эксплуатации) и последующего внедрения решений в сфере искусственного интеллекта и робототехники. Такой механизм, в свою очередь, должен позволять своевременно и эффективно внедрять разработки без не учитывающих их специфику избыточных административных процедур, без корректировки всего применимого законодательства и с обеспечением необходимого уровня безопасности и контролируемости со стороны государственных органов.

Перспективными инструментами создания такого механизма являются экспериментальные правовые режимы ("регуляторные песочницы"), а применительно к промышленности - также правовой режим полигона общего доступа. Их применение соответствует лучшим мировым практикам и отвечает интересам индустрии. В краткосрочной перспективе требуется принятие соответствующих нормативных правовых актов, обеспечивающих гибкий механизм быстрого создания таких режимов:

в максимально широком круге отраслей;

с возможностью участия в них заинтересованных лиц на недискриминационных условиях;

с возможностью последующего включения в законодательство Российской Федерации по результатам регуляторного эксперимента норм, необходимых для применения соответствующих технологий.

Применение экспериментальных правовых режимов будет востребовано в том числе для таких продуктов и решений, как отдельные системы искусственного интеллекта в здравоохранении, медицинская робототехника, системы искусственного интеллекта и робототехники специального и двойного назначения, системы искусственного интеллекта и робототехники в сфере транспорта и логистики, системы искусственного интеллекта в государственном управлении, отдельные инструменты финансового стимулирования развития сфер искусственного интеллекта и робототехники, системы искусственного интеллекта и робототехники для строительства и топливно-энергетического комплекса.

2. Юридическая ответственность в случае применения систем искусственного интеллекта и робототехники

Наиболее значимыми вопросами применения систем искусственного интеллекта и робототехники в контексте гражданско-правовых отношений являются вопросы гражданско-правовой ответственности за вред, причиненный системами искусственного интеллекта и робототехники. Реальный уровень развития технологий искусственного интеллекта и робототехники не предполагает кардинальных изменений в регулировании института юридической ответственности, однако требует постепенной доработки его отдельных элементов.

Требуется дальнейшая проработка механизмов гражданско-правовой, уголовной и административной ответственности в случае причинения вреда системами искусственного интеллекта и робототехники, имеющими высокую степень автономности, при принятии ими решений, в том числе с точки зрения определения лиц, которые будут нести ответственность за их действия, доработки при необходимости механизмов безвиновной гражданско-правовой ответственности, а также возможности использования способов, позволяющих возместить причиненный действиями систем искусственного интеллекта и робототехники вред (например, страхование ответственности, создание компенсационных фондов и др.).

Также при наличии реального риска нарушения прав и свобод человека может быть актуальной проработка вопроса об условиях идентификации системы искусственного интеллект при прямом взаимодействии с человеком.

Общий вектор возможных изменений должен быть направлен на то, чтобы гарантировать эффективное и справедливое функционирование институтов юридической ответственности и распределение ответственности в случае такого причинения вреда.

3. Совершенствование режима оборота данных

Увеличение объема доступных данных и развитие информационно- коммуникационной инфраструктуры для доступа к данным являются одними из основных факторов развития технологий искусственного интеллекта.

Законодательство Российской Федерации в области информации, информационных технологий и защиты информации направлено главным образом на обеспечение режимов конфиденциальности информации и защиты персональных данных.

С учетом задачи повышения доступности и качества данных требуется адаптация законодательства Российской Федерации в целях обеспечения:

благоприятных правовых условий для безопасного и ответственного доступа разработчиков систем искусственного интеллекта и робототехники к данным и безопасного обмена различными типами данных, включая данные, собираемые государственными органами и медицинскими организациями:

особых условий (режимов) для доступа к данным, включая персональные данные (при условии принятия мер для защиты интересов субъектов персональных данных, включая обезличивание), в целях проведения научных исследований, обучения искусственного интеллекта и разработки технологических решений на их основе, а также правовых условий для организации идентификации с использованием технологий искусственного интеллекта и робототехники (при условии соблюдения права человека на неприкосновенность частной жизни).

В связи с этим необходимо расширение практики раскрытия данных, содержащихся в информационных ресурсах органов и организаций государственного сектора, а также в информационных ресурсах, созданных в целях реализации полномочий органов и организаций государственного сектора (государственных данных). Целесообразно также заложить основы правового регулирования функционирования общедоступных платформ таких данных. Требуются нормативное расширение перечня и типов открытых указанных данных для целей их использования разработчиками в сфере искусственного интеллекта и закрепление соответствующих полномочий органов государственной власти.

В целях максимального использования потенциала "больших данных" требуется также изменение существующих подходов к регулированию обезличенных данных. При условии принятия правовых, организационных и технических мер для защиты прав субъектов персональных данных для обработки обезличенных данных должен быть предусмотрен более свободный правовой режим. Определение правил применения и оборота данных, полученных в результате обезличивания сведений, составляющих профессиональную и коммерческую тайну, будет способствовать большей доступности данных и стимулировать их владельцев к взаимовыгодному обмену.

Кроме того, для существующих режимов профессиональной тайны (врачебная тайна, банковская тайна, тайна связи, адвокатская тайна и др.) необходимо проработать вопрос целесообразности и возможности определения условий, при которых субъекты профессиональной тайны вправе привлекать для обработки соответствующих сведений сторонние организации (в том числе для раскрытия потенциала облачных технологий и технологий с использованием искусственного интеллекта).

Целесообразно предусмотреть уточнение правил получения согласия на обработку персональных данных для случаев, когда такая обработка осуществляется при проведении научных исследований в сфере искусственного интеллекта (например, в сфере здравоохранения, экологии, социологии и др.) И его обучения, а также использовать системы искусственного интеллекта, обеспечивающие необходимый уровень зашиты персональных данных. С учетом особой чувствительности сферы для обеспечения гарантий прав субъектов персональных данных такие изъятия должны предполагать повышенную защиту персональных данных.

4. Совершенствование режима экспорта систем искусственного интеллекта и робототехники

В целях развития российских разработок технологий искусственного интеллекта и робототехники необходимо сформировать благоприятный режим их экспорта. Меры, ограничивающие экспорт, должны применяться только в сферах, непосредственно затрагивающих интересы национальной безопасности.

Необходимо избегать формирования "двойного контура" регулирования, при котором российские разработчики будут вынуждены осуществлять инвестиции в разработку таких продуктов отдельно для российского рынка и международных рынков.

В частности, существующее регулирование содержит изъятия из списка товаров и технологий двойного назначения, которые могут быть использованы при создании вооружений и военной техники и в отношении которых осуществляется экспортный контроль в части продуктов с применением искусственного интеллекта и робототехники. Такой перечень изъятий для гражданского назначения является не в полной мере актуальным. Целесообразно расширить этот перечень либо перейти к описанию конкретных технологических решений и продуктов искусственного интеллекта и робототехники, экспорт которых может привести к их использованию при создании вооружений и военной техники.

5. Развитие страховых институтов

В настоящее время существует неопределенность в порядке и самой возможности применения существующих страховых институтов к отношениям с участием систем искусственного интеллекта и робототехники. Отсутствие специальных положений на этот счет делает невозможным страхование систем искусственного интеллекта и робототехники (что негативно сказывается на возможности их внедрения) либо делает его необоснованно дорогим (что также препятствует развитию отрасли).

Эффективное функционирование страховых институтов в индустрии, напротив, оказывает положительное влияние на скорость внедрения роботов в гражданский оборот. Так, наличие заключенного договора страхования ответственности за причинение вреда может выступать (и в целом ряде зарубежных стран выступает) ключевым условием для выпуска некоторых видов систем искусственного интеллекта и робототехники в оборот.

В связи с этим следует определить случаи и условия обязательного страхования ответственности за вред, причиненный применением роботов или систем искусственного интеллекта и робототехники, в том числе как альтернативы иным инструментам регулирования.

Определение случаев и условий применения страхования возможно после формирования нормативно-правовой и нормативно-технической базы в сфере искусственного интеллекта и робототехники, что позволит определить условия осуществления страхования, включая вопросы сбора статистических данных для расчета страховых тарифов, а также форму страхования (обязательное или добровольное).

6. Разработка и уточнение терминов и определений в сфере технологий искусственного интеллекта и робототехники

Отсутствие однозначного понимания содержания терминов "искусственный интеллект", "робот", "умный робот", "робототехника", "интеллектуальный агент" приводит к терминологическим проблемам при формировании регулирования.

В то же время с учетом прикладного характера применения этих технологий в самых разных областях может требоваться формулирование разных определений в зависимости от отрасли применения технологий искусственного интеллекта и робототехники. По этой причине в рассматриваемый в Концепции временной период предлагается по возможности избегать внедрения в законодательство Российской Федерации единого для всех отраслей нормативного определения указанных терминов. При этом крайне важно в этот период провести работу по построению и гармонизации онтологии предметной области силами экспертного сообщества и профильных технических комитетов при Федеральном агентстве по техническому регулированию и метрологии. Там, где это необходимо для целей определения предмета регулирования конкретных нормативных правовых актов, предлагается использовать определения, содержащиеся в документах по стандартизации, либо давать определения, актуальные конкретно для этой сферы регулирования.

7. Обеспечение безопасности, в том числе информационной

Обеспечение необходимого уровня безопасности систем искусственного интеллекта и робототехники является ключевым условием внедрения таких технологий. Законодательство Российской Федерации, как правило, уже содержит общие требования к безопасности продуктов (в том числе товаров, работ и услуг), однако с учетом развития технологий искусственного интеллекта и робототехники эти требования в ряде случаев должны быть уточнены. Так, для отдельных категорий роботов или систем искусственного интеллекта в зависимости от степени риска их использования могут быть установлены нормативными правовыми актами, стандартами и документами саморегулируемых и иных организаций специфические требования безопасности.

Развитие правового регулирования в сфере обеспечения информационной безопасности должно происходить с учетом целей, задач и содержания законодательства Российской Федерации об информационной безопасности, включая правовое регулирование развития критической информационной инфраструктуры и защиту персональных данных граждан Российской Федерации.

8. Разработка нормативных правовых актов в сфере искусственного интеллекта и робототехники на международном уровне

Международные организации и межгосударственные объединения различного характера ведут обсуждения инициатив в рассматриваемой сфере или уже реализуют их.

Необходимо обеспечить учет национальных интересов Российской Федерации, ее граждан и представителей отечественных компаний при формировании международного регулирования в этой сфере, а также интегрировать Российскую Федерацию в международный рынок искусственного интеллекта и робототехники с точки зрения универсальности правового регулирования и использования базовых международных принципов. Это предполагает активное вовлечение представителей Российской Федерации в разработку международных документов в сфере искусственного интеллекта и робототехники, прежде всего в Организации экономического сотрудничества и развития, Совете Европы, Организации Объединенных Наций и ее специализированных учреждениях.

9. Создание нормативных условий для применения систем искусственного интеллекта при принятии юридически значимых решений

Требуются выявление и анализ сфер, в которых допускается ограниченное применение систем искусственного интеллекта при принятии юридически значимых решений, составление перечня таких сфер, подготовка предложений о корректировке соответствующих нормативных правовых актов. При этом по меньшей мере в рассматриваемый в Концепции временной период законодательство Российской Федерации должно допускать только точечное "делегирование" определенных решений системам искусственного интеллект, где это объективно целесообразно и не несет угрозы основополагающим правам и свободам человека, обороне страны и безопасности государства. Для реализации отдельных элементов "делегирования" может активно применяться инструмент экспериментальных правовых режимов ("регуляторные песочницы").

10. Предложение систем искусственного интеллекта и робототехники в качестве товара (работы, услуги), обеспечивающего удовлетворение личных и семейных нужд потребителей

Применение систем искусственного интеллекта и робототехники как более функциональных по сравнению с традиционными системами потенциально способно повысить качество жизни потребителей.

В то же время не всегда понятная и предсказуемая логика работы таких систем создает ряд рисков для потребителей, например при применении систем искусственного интеллекта и робототехники, предназначенных для автоматизации совершения сделок и иных юридических действий, а также при применении систем искусственного интеллекта и робототехники, взаимодействующих с физической средой (бытовые роботы, электроника, системы "умного дома" и др.).

Вместе с тем в рассматриваемый в Концепции период внесение в законодательство Российской Федерации каких-либо дополнительных ограничений на применение таких систем представляется нецелесообразным.

Также применение всех типов подобных систем ввиду повышения интенсивности обработки персональных данных сопряжено с дополнительными рисками нарушения тайны частной жизни граждан.

С учетом изложенного целесообразно:

уточнить там, где это необходимо с учетом специфики товара (работы, услуги), подход к подтверждению и оценке соответствия продукции при внедрении в нее систем искусственного интеллекта и робототехники с учетом их особенностей (изменение поведения в процессе эксплуатации), включая оценку соответствия функциональным требованиям и Требованиям безопасности;

уточнить необходимость и возможные случаи введения в системы искусственного интеллекта и робототехники, которые потенциально могут причинить вред, функциональных особенностей, обеспечивающих, например, возможность потребителя прекратить деятельность системы искусственного интеллекта в критической ситуации ("красная кнопка") и (или) обеспечить фиксацию фактов, позволяющих установить обстоятельства причинения вреда ("черный ящик");

стимулировать выработку и закрепление разработчиками и производителями соответствующих систем этических норм в области обработки информации (включая персональные данные), добросовестного информирования об основных функциональных особенностях систем искусственного интеллекта и робототехники, а также внедрение систем добровольной сертификации  таким нормам;

уточнить порядок реализации существующих прав потребителей с учетом особенностей товаров (работ, услуг), функциональность которых определяется и может изменяться программным обеспечением.

11. Совершенствование системы технического регулирования и оценки соответствия

В настоящее время в Российской Федерации действует целый ряд технических стандартов в сфере робототехники, однако нормативно-техническое регулирование в области искусственного интеллекта только начинает формироваться. Для обеспечения надежности, достоверности, безопасности и интероперабельности решений в области искусственного интеллекта необходимо создание современной системы нормативно-технического регулирования в этой сфере.

Для отдельных сфер применения систем искусственного интеллекта и робототехники могут быть адаптированы существующие, а в некоторых случаях введены новые процедуры добровольного подтверждения соответствия, учитывающие достигнутый и перспективный уровень техники, роль программного компонента в функциональности и безопасности таких систем, особенности современных подходов к разработке программного обеспечения, его обновлению и сопровождению на протяжении жизненного цикла.

Установление в исключительных случаях требований обязательного подтверждения соответствия должно способствовать развитию оборота продуктов на основе искусственного интеллекта и робототехники, выступая достаточным условием их введения в оборот и (или) альтернативой иных регуляторных ограничений, связанных с обеспечением безопасности отдельных видов продуктов на основе технологий искусственного интеллекта и робототехники. При этом не может допускаться установление требований обязательного подтверждения соответствия до разработки соответствующих стандартов или иных требований.

В тех случаях, когда это возможно, вместо требований обязательного подтверждения соответствия должны использоваться меры, ограничивающие в меньшей степени развитие отрасли.

Целесообразно обеспечить активное участие российских специалистов в разработке международных стандартов и иных документов, в том числе на международных ключевых площадках (Международная организация по стандартизации, Международная электротехническая комиссия, Международный союз электросвязи, Организация экономического сотрудничества и развития, Институт инженеров электротехники и электроники).

12. Совершенствование порядка охраны прав на результаты интеллектуальной деятельности

Существующий правовой режим не обеспечивает правовую охрану результатов деятельности систем искусственного интеллекта, полученных без творческого вклада человека. Потенциальная "неохраноспособность" результатов деятельности, полученных с использованием систем искусственного интеллекта и робототеехники, может дестимулироватъ разработку и внедрение таких систем.

Необходимо выработать подходы к наиболее спорным вопросам. В частности, необходимо определить:

целесообразно ли расширить толкование понятия творческого вклада и (или) предоставить правовую охрану таким результатам как объектам интеллектуальной собственности в другом формате. Если целесообразно, кто должен быть субъектом, обладающим исключительным правом на результат интеллектуальной деятельности, в каком режиме и с какими возможными изъятиями должна быть предоставлена правовая охрана таким результатам интеллектуальной деятельности;

при каких условиях допустимо использование при разработке и эксплуатации систем искусственного интеллекта и робототехники (в частности, при машинном обучении) результатов интеллектуальной деятельности третьих лиц. Другим аспектом проблемы является необходимость совершенствования порядка закрепления прав на результаты интеллектуальной деятельности, созданные с использованием технологий искусственного интеллекта и робототехники.

13. Иные общеотраслевые задачи регулирования применения технологий искусственного интеллекта и робототехники

Для привлечения иностранных специалистов высокого уровня в сфере искусственного интеллекта и робототехники необходимо предусматривать меры, облегчающие их въезд в Российскую Федерацию и работу на ее территории.

Целесообразно включение программ повышения цифровой грамотности в общеобразовательные программы (в целях повышения доверия к технологиям искусственного интеллекта и робототехники со стороны общества).

При выработке государственной политики в сфере занятости необходимо учитывать влияние, которое может оказать расширение применения систем искусственного интеллекта и робототехники на рынок труда и на востребованность отдельных профессий.

Для внедрения образовательных программ в сфере искусственного интеллекта и робототехники необходимо проработать вопрос уточнения правил лицензирования образовательной деятельности по образовательным программам с использованием дистанционных образовательных технологий, создания новых (экспериментальных) образовательных программ.

III. Отраслевые направления совершенствования регулирования применения технологий искусственного интеллекта и робототехники

1. Законодательство Российской Федерации в сфере охраны здоровья граждан

На основе технологий искусственного интеллекта разрабатываются системы диагностики и поддержки принятия врачебных решений, которые позволяют использовать массивы аналитической информации, недоступные или ограниченно доступные медицинским работникам при обычном взаимодействии с пациентом. В свою очередь, использование оцифрованных массивов медицинских данных разработчиками для обучения систем искусственного интеллекта и робототехники способно значительно повысить эффективность и безопасность таких систем.

Медицинская робототехника является одним из самых быстро растущих сегментов робототехники и обеспечивает оказание более качественных услуг пациентам.

Ключевыми барьерами существующего регулирования, препятствующими широкому использованию технологий искусственного интеллекта и робототехники в медицине и требующими правового решения, в том числе посредством широкого применения экспериментальных правовых режимов, являются:

проблема распределения ответственности за вред здоровью пациента, наступивший в результате применения технологий искусственного интеллекта и робототехники в процессе оказания медицинской помощи, вследствие отсутствия законодательно установленного перечня случаев, при которых допускается полное или частичное принятие решений с применением систем искусственного интеллекта и робототехники;

неопределенность в вопросах отнесения систем искусственного интеллекта и робототехники (включая приложения, чат-боты и др.) к медицинским изделиям, подлежащим государственной регистрации;

отсутствие специального порядка регистрации систем искусственного интеллекта и робототехники и медицинских роботов, учитывающего их специфику, а также долгие сроки прохождения соответствующих процедур, которые не позволяют быстро выводить на рынок новые решения, оперативно вносить изменения в системы искусственного интеллекта и робототехники и пользовательскую документацию в связи с необходимостью регулярных обновлений программного обеспечения;

низкая доступность медицинских данных в целом и качественных размеченных данных в особенности для использования разработчиками систем искусственного интеллекта и робототехники в связи с отсутствием достаточных правовых оснований для предоставления права использования обезличенных медицинских данных третьим лицам, регламентов передачи медицинских данных от медицинских организаций компаниям - разработчикам систем искусственного интеллекта и робототехники.

2. Нормативно-правовое регулирование использования технологий искусственного интеллекта и робототехники в государственном (муниципальном) управлении

Использование технологий искусственного интеллекта и робототехники в государственном (муниципальном) управлении потенциально позволит сократить количество рутинных операций у государственных (муниципальных) служащих, минимизировать издержки и повысить скорость принятия решений.

Внедрение технологий искусственного интеллекта и робототехники в рассматриваемой сфере целесообразно осуществлять поэтапно, начиная со сфер применения, которые не предполагают принятия критически значимых решений.

Ключевые проблемы существующего регулирования использования систем искусственного интеллекта и робототехники в государственном (муниципальном) управлении заключаются в отсутствии однозначного понимания нормативных условий для использования систем искусственного интеллекта и робототехники при принятии каких-либо юридически значимых решений, в том числе в части:

рассмотрения обращений граждан;

предоставления государственных (муниципальных) услуг;

осуществления действий разрешительного характера;

осуществления контрольно-надзорных мероприятий.

Для решения этих проблем требуется:

повышение качества данных в государственных и муниципальных информационных системах, в том числе за счет создания национальной и региональных систем управления датами;

создание нормативных возможностей применения систем искусственного интеллекта и робототехники для принятия определенных решений в сфере государственного управления;

создание механизма пересмотра решений, принятых с помощью систем искусственного интеллекта;

утверждение прозрачных правил оценки соответствия систем искусственного интеллекта и робототехники требованиям безопасности, выработка механизма оценки эффекта от их применения с точки зрения защиты основополагающих прав человека и гражданина (защит от дискриминации и избирательного правоприменения, сокращение рисков разглашения конфиденциальной информации и др.).

3. Законодательство Российской Федерации в сфере транспорта

Технологии искусственного интеллекта и робототехники активно применяются для создания и эксплуатации высоко- и полностью автоматизированного транспорта (автомобильного, рельсового, воздушного, водного). Применение технологий автоматического управления позволяет сделать транспорт более безопасным, экономичным, быстрым и комфортным.

Несмотря на развитие технологий автоматического управления во всех видах транспорта, отраслевое транспортное законодательство Российской Федерации, как правило, не допускает либо серьезно ограничивает возможности эксплуатации транспортных средств с применением автоматических систем без участия человека.

Для эффективного развития различных видов транспорта с применением систем искусственного интеллекта и робототехники требуется реализация ряда нормативных мероприятий.

В сфере автомобильного транспорта ключевая сложность в развитии "беспилотных" автомобилей связана со сложной процедурой допуска высокоавтоматизированных транспортных средств на дороги общего пользования и отсутствием регламентированного порядка допуска высокоавтоматизированных транспортных средств 4 и 5 уровня автоматизации по стандартам Международной ассоциации автомобильных инженеров (SАЕ).

Также требуется уточнить порядок опытной эксплуатации высокоавтоматизированных транспортных средств, в том числе скорректировать минимальные характеристики безопасности испытательных образцов высокоавтоматизированных транспортных средств для опытной эксплуатации на дорогах общего пользования, отменить избыточные сертификационные испытания, регламентировать порядок допуска испытательных образцов высокоавтоматизированных транспортных средств без участия водителя с удаленным доступом оператора к высокоавтоматизированным транспортным средствам или с водителем на пассажирском месте (не принимающим активного участия в управлении транспортным средством). Требуется определить порядок регламентации коммерческой эксплуатации высокоавтоматизированных транспортных средств и порядок определения ответственности в случае нанесения вреда со стороны высокоавтоматизированных транспортных средств.

В сфере воздушного транспорта целесообразно совершенствование регулирования использования беспилотных воздушных судов, в том числе уточнение порядка регистрации, учета и использования беспилотных воздушных судов, упрощение порядка получения и использования данных с помощью беспилотных воздушных судов, в том числе при проведении картографической съемки. При этом необходима разработка схем воздушного движения, ориентированных на массовое использование беспилотных воздушных судов в качестве транспортных средств.

В сфере железнодорожного транспорта требуется создание нормативных возможностей функционирования систем автоматического или дистанционного управления тяговым подвижным составом, установление требований к автоматическому управлению маневровым локомотивом без машиниста установление правил управления тормозами железнодорожного подвижного состава в автоматическом и дистанционном режимах.

В сфере водного транспорта требуется совершенствование законодательства для развития безэкипажного судовождения, порядка выпуска в обращение и эксплуатации морской и речной техники с высокой степенью автоматизации управления.

Отдельно следует проработать вопрос о снятии ограничений при использовании самоходной техники специального назначения (сельскохозяйственная техника, производственный транспорт, коммунальные машины). В частности, в настоящее время отсутствует нормативная база, прямо регламентирующая движение автономного транспорта на закрытых территориях производственных предприятий.

Необходимо создать правовые нормы, позволяющие перейти от использования высокоавтоматизированного транспорта исключительно в режиме эксперимента к возможности его использования на постоянной основе.

4. Законодательство Российской Федерации о градостроительной деятельности

Формирование сведений о здании, установленном оборудовании, эксплуатационных режимах, рисках и ответственности эксплуатирующей организации за нештатные ситуации, а также оценка безопасности строительства и эксплуатации зданий и объектов инфраструктуры могут осуществляться с применением технологий искусственного интеллект и робототехники. Также технологии искусственного интеллекта и робототехники могут применяться для построения эффективных систем внутренней логистики зданий, в том числе с применением беспилотных и сервисных роботов.

Законодательство Российской Федерации о градостроительной деятельности не в полной мере обеспечивает благоприятные условия для формирования и сбора данных, достаточных для предиктивной аналитики условий эксплуатации зданий и сооружений, а также повторного использования указанных данных при разработке проектов новых объектов, что требует уточнения.

Контрольно-надзорная деятельность по обеспечению безопасности эксплуатации зданий также построена на традиционных методах контроля.

Целесообразно предусмотреть в законодательстве Российской Федерации возможность осуществления дистанционного государственного контроля (надзора) (в случае заинтересованности хозяйствующих субъектов в осуществлении государственного контроля (надзора) в такой форме).

5. Использование систем искусственного интеллекта и робототехники для реализации концепции "умного города"

В этих целях необходимо определить и снять регуляторные барьеры, в том числе препятствующие:

автоматизации жилищно-коммунального хозяйства и коммунальных услуг (учет показаний счетчиков и осуществление "гибкой" подачи ресурсов в зависимости от переменных показателей, автоматическое определение уровня шума, загрязнения и его анализ, контроль работы оборудования и др.);

внедрению "умного" городского транспорта (в части развития "беспилотного" транспорта и развития сопровождающей его инфраструктуры - систем фото- и видеофиксации правонарушений, систем автоматического администрирования городского парковочного пространства, систем автоматического управления транспортными потоками в зависимости от загруженности проезжей части, систем автоматического контроля за состоянием дорожного полотна и дорожно-транспортной инфраструктуры, систем составления маршрутов общественного транспорта на основе анализа больших данных и др.);

созданию цифровых платформ и сервисов для вовлечения горожан в управление городскими процессами (введение голосования по конкретным вопросам, анализ с помощью систем искусственного интеллекта текстуальных обращений для выявления общего отношения к проблеме или самих проблем, анализ выраженного общественного мнения);

внедрению интеллектуальных систем общественной безопасности (систем видеонаблюдения с функциями биометрической идентификации и др.);

генеральному планированию и планированию развития территорий на основе искусственного интеллекта и обрабатываемых им больших данных.

При этом особое внимание должно быть уделено пересмотру подхода к обязательному участию человека в принятии решений в обозначенных сферах (от необходимости участия человека в совершении конкретного действия к оперативному и стратегическому целеполаганию и контролю со стороны человека).

6. Законодательство Российской Федерации в финансовой сфере

В финансовом секторе технологии искусственного интеллекта имеют широкие возможности для применения. Это использование технологий искусственного интеллект для осуществления алгоритмической торговли ("торговые роботы"), применение технологий искусственного интеллекта кредитными организациями для клиентского обслуживания и для осуществления деятельности, напрямую не связанной с обслуживанием клиентов, обработка различного рода финансовых данных, в том числе большого массива данных о банковских операциях, анализа рынков и рыночной информации, финансовой отчетности. Каждая сфера применения технологий искусственного интеллекта в финансовом секторе предполагает специфическое регулирование в зависимости от конкретных условий их внедрения.

Соблюдение баланса между внедрением новых технологий и соблюдением прав граждан и интересов государства на крайне чувствительных к регуляторному воздействию финансовых рынках должно предполагать использование самых гибких инструментов.

Ключевым из них является создание экспериментальных правовых условий применения отдельных новых инструментов (экспериментальные правовые режимы). Широкое использование этих механизмов для апробации новых финансовых сервисов и технологий в сфере искусственного интеллекта (там, где объективно требуется воздействие регулятора) должно выступать в качестве целевого состояния регулирования в финансовой сфере.

Возможное установление дополнительных ограничительных условий (например, условий осуществления обработки данных в финансовом секторе, отличных от общего регулирования, особых условий распределения ответственности игроков финансового рынка при применении систем искусственного интеллекта, определения требований к использованию экспертных систем искусственного интеллекта для принятия отдельных решений) предлагается реализовывать только после комплексной оценки их регулирующего воздействия, в том числе за счет тестирования условий применения технологий искусственного интеллекта в финансовом секторе в режиме экспериментального правового режима ("регуляторной песочницы"). Там, где это возможно, следует стремиться использовать инструменты саморегулирования и сорегулирования, прежде всего стандарты саморегулируемых организаций.

7. Законодательство Российской Федерации в области космической деятельности

В космической деятельности технологии робототехники изначально очень активно применяются, благодаря чему в отрасли существуют технологии, имеющие высокий коммерческий потенциал в гражданском обороте. Однако регулирование порядка использования компонентов робототехники в гражданских целях затрудняет их развитие в этом направлении.

С учетом высокой перспективности сферы космической деятельности для развития технологий искусственного интеллекта и робототехники важно уточнить регуляторные механизмы в указанной сфере.

Для этого необходимы совершенствование законодательства Российской Федерации для целей использования разработок космической промышленности в гражданском назначении, проработка регуляторных механизмов развития частной космонавтики и совершенствования институтов государственно-частного партнерства, анализ вариантов упрощения порядка использования технологий искусственного интеллекта и робототехники в космонавтике.

8. Законодательство Российской Федерации в сфере промышленности

В промышленности технологии искусственного интеллекта и робототехники помогают значительно повысить эффективность предприятий в машиностроении, металлургии, горной добыче, нефтегазовом секторе, химической промышленности и других отраслях.

Опытная эксплуатация систем искусственного интеллекта и робототехники на предприятиях топливно-энергетического комплекса требует создания специальных полигонов общего доступа. Необходимо оценить и при необходимости устранить возможные необоснованные регуляторные ограничения, препятствующие эффективному применению таких полигонов.

Реализации потенциала искусственного интеллекта и робототехники препятствует ряд барьеров, многие из которых являются смежными (например, проблема использования наземной и воздушной беспилотной техники).

Кроме того, требует проработки вопрос о снятии барьеров, связанных с ограничением сбора и обработки информации о промышленном оборудовании для системной обработки и создания систем искусственного интеллекта.

Схожие барьеры связаны с использованием данных в промышленности. Существуют вопросы безопасной передачи промышленных данных, возникновения прав на них, публикации отдельных видов промышленных данных и др.

9. Иные отраслевые направления совершенствования применения технологий искусственного интеллекта и робототехники

Технологии искусственного интеллекта и робототехники повсеместно внедряются в различных отраслях экономики. Это приводит к возникновению большого числа неочевидных локальных регуляторных проблем, актуальных для конкретной сферы либо конкретной разновидности систем искусственного интеллекта и робототехники.

Ключевыми задачами развития законодательства Российской Федерации в различных сферах являются следующие:

создание механизма оперативного выявления локальных отраслевых регуляторных барьеров;

разработка механизма координации полномочий органов государственной власти в случае "пересечения" их полномочий. Одним из перспективных решений этой проблемы может стать выделение в государственном управлении самостоятельной функции по выработке и реализации государственной политики в сфере технологий искусственного интеллекта и робототехники;

создание механизма быстрого снятия возникающих отраслевых барьеров, например за счет внедрения режима экспериментального регулирования, локальной "регуляторной гильотины".

IV. Регуляторные меры для финансового стимулирования развития отрасли

В настоящее время в Российской Федерации уже предусмотрен ряд мер поддержки компаний, специализирующихся на разработке технологий искусственного интеллекта и робототехники. Вместе с тем такие меры поддержки фрагментарны и сложны в администрировании, информация о возможности и порядке их применения не всегда доводится до заинтересованных лиц системным образом. Необходимо оценить целесообразность и по итогам такой оценки проработать дополнительные меры поддержки по трем направлениям: стимулирование предложения, стимулирование спроса, развитие государственно-частого партнерства.

Применительно к поддержке развития государственно-частых партнерств следует проанализировать и реализовать дополнительные исследования относительно потенциала и эффекта использования такой меры, а также усовершенствовать законодательство в целях расширения возможностей для создания профильных государственно-частных партнерств, в том числе в отдельных сферах применения этих технологий (включая медицину, космонавтику, транспорт и др.), например в направлении технологических консорциумов.

V. Механизмы реализации Концепции

Реализация Концепции осуществляется следующими способами: в качестве целевого ориентира при подготовке нормативных правовых актов и документов стратегического планирования в различных сферах (концепций, стратегий, "дорожных карт" и др.);

при изменении и планировании новых мероприятий федеральных проектов "Нормативное регулирование цифровой среды", "Цифровые технологии" и иных федеральных проектов национальной программы "Цифровая экономика Российской Федерации" и (или) посредством формирования плана принятия нормативных правовых актов, определяющего перечень первоочередных изменений в законодательство Российской Федерации для целей развития искусственного интеллекта и робототехники на основе принципов, подходов и предложений, предусмотренных Концепцией.

В предметной работе по реализации Концепции должны совместно участвовать представители органов государственной власти, отрасли, бизнес-ассоциаций, соответствующих институтов развития, общественных, научных и образовательных организаций.

При этом для выработки положений нормативных правовых актов, сбалансированных с точки зрения интересов экономики, общества и государства в целях аналитической поддержки на всех этапах реализации Концепции следует запланировать проведение междисциплинарных и межотраслевых научных исследований, включая исследование международного опыта.

Следствием реализации Концепции должны стать разработка и принятие к 2024 году нормативных правовых актов в сфере искусственного интеллекта и робототехники, создающих комфортную регуляторную среду для развития технологий искусственного интеллекта и робототехники, в том числе по следующим направлениям:

расширение регуляторных мер для финансового стимулирования развития технологий искусственного интеллекта и робототехники;

создание механизмов упрощенного внедрения технологий искусственного интеллекта и робототехники;

решение общеотраслевых задач развития законодательства Российской Федерации, включая обеспечение безопасности систем искусственного интеллекта и робототехники;

снятие отраслевых барьеров для внедрения технологий искусственного интеллекта и робототехники;

совершенствование режима оборота данных для целей развития искусственного интеллекта и робототехники;

совершенствование системы технического регулирования в сферах искусственного интеллекта и робототехники;

участие в разработке актов в сфере искусственного интеллекта и робототехники на международном уровне.

Уточнение способов реализации Концепции должно осуществляться с учетом результатов мониторинга ее реализации и динамики развития технологий искусственного интеллекта и  в Российской Федерации и в мире.


Утверждена Концепция развития регулирования отношений в сфере ИИ

Утверждена Концепция развития регулирования отношений в сфере ИИ

Утверждена Концепция развития регулирования отношений в сфере ИИ

Утверждена Концепция развития регулирования отношений в сфере ИИ

Утверждена Концепция развития регулирования отношений в сфере ИИ

Утверждена Концепция развития регулирования отношений в сфере ИИ

Утверждена Концепция развития регулирования отношений в сфере ИИ

Утверждена Концепция развития регулирования отношений в сфере ИИ

Утверждена Концепция развития регулирования отношений в сфере ИИ

Утверждена Концепция развития регулирования отношений в сфере ИИ

Утверждена Концепция развития регулирования отношений в сфере ИИ

Утверждена Концепция развития регулирования отношений в сфере ИИ

Утверждена Концепция развития регулирования отношений в сфере ИИ

Утверждена Концепция развития регулирования отношений в сфере ИИ

Утверждена Концепция развития регулирования отношений в сфере ИИ

Утверждена Концепция развития регулирования отношений в сфере ИИ

Утверждена Концепция развития регулирования отношений в сфере ИИ

Утверждена Концепция развития регулирования отношений в сфере ИИ

Утверждена Концепция развития регулирования отношений в сфере ИИ

Утверждена Концепция развития регулирования отношений в сфере ИИ

Утверждена Концепция развития регулирования отношений в сфере ИИ

Утверждена Концепция развития регулирования отношений в сфере ИИ

Утверждена Концепция развития регулирования отношений в сфере ИИ

Утверждена Концепция развития регулирования отношений в сфере ИИ

Утверждена Концепция развития регулирования отношений в сфере ИИ

Утверждена Концепция развития регулирования отношений в сфере ИИ

Утверждена Концепция развития регулирования отношений в сфере ИИ

Утверждена Концепция развития регулирования отношений в сфере ИИ

Утверждена Концепция развития регулирования отношений в сфере ИИ


Ньюсмейкер: Национальное деловое партнерство "Альянс Медиа" — 5708 публикаций. Вы можете направить ньюсмейкеру обращение, заявку
Поделиться:
Ваше мнение
Где вы наилучшим образом получали знания по своей работе?
 В учебном заведении
 На очных тренингах, семинарах, курсах
 В специальной литературе, учебниках
 В практической деятельности
 В Интернет
 Другое
 Затрудняюсь ответить
Предложите опрос