ГОСТ Р ИСО/МЭК 42001-2024

ФЕДЕРАЛЬНОЕ АГЕНТСТВО

                                          ПО ТЕХНИЧЕСКОМУ РЕГУЛИРОВАНИЮ И МЕТРОЛОГИИ




                                                НАЦИОНАЛЬНЫЙ                        ГО С ТР
                                                   СТАНДАРТ
                                                 РОССИЙСКОЙ
                                                                                    ИСО/МЭК 42001—
                                                  ФЕДЕРАЦИИ                         2024




                                       ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ

                                                Система менеджмента
                               (ISO/IEC 42001:2023, Information technology — Artificial intelligence —
                                                      Management system, IDT)




                                                        Издание официальное




                                                                 Москва
                                                    Российский институт стандартизации
                                                                   2024




определение прочности бетона

ГОСТ Р ИСО/МЭК 42001—2024


                                           Предисловие
     1 ПОДГОТОВЛЕН О бщ еством с ограниченной ответственностью «И нститут развития инф орм а­
ционного общ ества» (ООО «И РИ О ») на основе собственного перевода на русский язы к англоязы чной
версии стандарта, указанного в пункте 4

     2 ВНЕСЕН Техническим комитетом по стандартизации ТК 164 «И скусственны й интеллект»

     3 У ТВЕ РЖ Д ЕН И ВВЕДЕН В Д Е Й С Т В И Е П риказом Ф едерального агентства по техническом у
регулированию и метрологии от 28 октября 2024 г. № 1549-ст

      4 Н астоящ ий стандарт идентичен м еж дународном у стандарту И С О /М Э К 42001:2023 «И нф ор­
м ационны е технологии. И скусственны й интеллект. С истем а м енедж м ента» (ISO /IEC 42001:2023
«Inform ation technology — A rtificial intelligence — M anagem ent system », IDT).
      Н аим енование настоящ его стандарта изм енено относительно наим енования указанного м еж ду­
народного стандарта для приведения в соответствие с ГОСТ Р 1.5— 2012 (пункт 3.5).
      При применении настоящ его стандарта реком ендуется использовать вместо ссы лочны х м еж ду­
народны х стандартов соответствую щ ие им национальны е стандарты , сведения о которых приведены в
дополнительном прилож ении Д А

     5 ВВЕДЕН ВП ЕРВЫ Е




      П равила п рим енения наст оящ его ст андарт а уст ановлены в ст ат ье 26 Ф едерального закона
от 29 ию ня 2015 г. № 162-ФЗ «О ст андарт изации в Р оссийской Ф едерации». И нф орм ац ия об из­
м енениях к наст оящ ем у ст андарт у публикует ся в еж егодном (по сост оянию на 1 января т екущ его
года) и нф орм ационном указат еле «Н ациональны е ст андарт ы », а оф ициальны й т екст изм енений
и п оправок — в е ж ем есячном инф орм ационном указат еле «Н ациональны е ст андарт ы ». В случае
пересм от ра (замены) или от м ены наст оящ его ст андарт а соот вет ст вую щ ее уведом ление будет
опубликовано в ближ айш ем вы пуске еж ем есячного инф орм ационного указат еля «Н ациональны е
ст андарт ы ». С оот вет ст вую щ ая инф орм ация, уведом ление и т екст ы разм ещ аю т ся т акж е в ин­
ф орм ационной сист ем е общ его пользования — на оф ициальном сайт е Ф едерального агент ст ва по
т ехническом у р егулированию и м ет рологии в сет и И нт ернет (www.rst.gov.ru)




                                                                                          © ISO, 2023
                                                                                          © IEC, 2023
                                              © О ф орм ление. Ф ГБУ «И нститут стандартизации», 2024

      Н астоящ ий стандарт не может бы ть полностью или частично воспроизведен, тираж ирован и рас­
пространен в качестве оф ициального издания без разреш ения Ф едерального агентства по техниче­
ском у регулированию и метрологии

ГОСТ Р ИСО/МЭК 42001—2024


                                                                                   Содержание
1 О бласть п р и м е н е н и я ........................................................................................................................................................... 1
2 Н ормативны е с с ы л к и ........................................................................................................................................................... 1
3 Термины и о пре дел ения...................................................................................................................................................... 1
4 Среда о р га н и за ц и и ............................................................................................................................................................... 4
         4.1 П онимание организации иее с р е д ы .............................................................................................................. 4
         4.2 П онимание потребностей и ож иданий заинтересованны х с т о р о н ..................................................... 5
         4.3 Определение области применения системы менеджмента искусственного и н те л л е кта ..................5
         4.4 С истема менедж мента искусственного и н т е л л е к та ................................................................................. 5
5 Л и д е р с т в о ................................................................................................................................................................................ 5
         5.1 Л идерство и п р и ве р ж е н н о сть ............................................................................................................................ 5
         5.2 Политика в области искусственного и нтелл екта .........................................................................................6
         5.3 Ф ункции, ответственность и п о л н о м о ч и я .................................................................................................... 6
6 П л а н и р о ва н и е ......................................................................................................................................................................... 6
         6.1 Д ействия в отнош ении рисков и в о з м о ж н о с т е й .........................................................................................6
         6.2 Цели искусственного интеллекта и планирование их д о с т и ж е н и я ..................................................... 8
         6.3 П ланирование изм е н е н и й ................................................................................................................................... 9
7 С редства о б е с п е ч е н и я ........................................................................................................................................................ 9
         7.1 Р е с у р с ы .................................................................................................................................................................... 9
         7.2 К о м п е те н тн о сть ...................................................................................................................................................... 9
         7.3 О с в е д о м л е н н о с т ь ................................................................................................................................................. 9
         7.4 О бмен и н ф ор м ац ией.............................................................................................................................................9
         7.5 Д окум ентированная и н ф о р м а ц и я .................................................................................................................10
8 Д е я т е л ь н о с т ь .......................................................................................................................................................................10
         8.1 П ланирование и у п р а в л е н и е .......................................................................................................................... 10
         8.2 О ценка рисков искусственного и н те л л е кта ................................................................................................ 11
         8.3 О бработка рисков искусственного и н т е л л е к та ......................................................................................... 11
         8.4 О ценка воздействия системы искусственного и н т е л л е к т а ................................................................. 11
9 О ценка результатов д е я т е л ь н о с т и ............................................................................................................................... 11
         9.1 М ониторинг, измерение, анализ и о ц е н к а ...................................................................................................11
         9.2 Внутренний а у д и т ................................................................................................................................................11
         9.3 А нализ со стороны р уков од ств а ..................................................................................................................... 12
10 У л уч ш е н и я ............................................................................................................................................................................12
         10.1 П остоянное у л у ч ш е н и е ................................................................................................................................... 12
         10.2 Н есоответствия и корректирую щ ие д е й с т в и я .........................................................................................12
П рилож ение А (обязательное) М еры и цели уп р а в л е н и я ..........................................................................................14
П рилож ение В (обязательное) Руководство по внедрению мер управления по обработке рисков
                        искусственного и н т е л л е к т а ...................................................................................................................18
П рилож ение С (справочное) П отенциальны е организационны е цели и источники рисков,
                        связанны е с применением искусственного и н т е л л е к т а ............................................................ 37
П рилож ение D (справочное) И спользование систем ы м енедж м ента искусственного интеллекта
                        в разных областях и сф ерах д е я т е л ь н о с т и ....................................................................................39
П рилож ение Д А (справочное) Сведения о соответствии ссы лочны х м еж дународны х стандартов
                           национальны м ста н д а р та м ................................................................................................................ 41
Б и б л и о гр а ф и я .........................................................................................................................................................................42

ГОСТ Р ИСО/МЭК 42001—2024


                                            Введение
      Технологии искусственного интеллекта (ИИ) все чащ е применяю тся во всех сф ерах деятельности,
в которых использую тся инф орм ационны е технологии, и, как ожидается, станут одним из основны х
ф акторов, влияю щ их на эконом ическое развитие. Вследствие этой тенденции, некоторы е прилож ения
могут привести к возникновению социал ьны х проблем в ближайш ие годы.
      Цель настоящ его стандарта — помочь организациям ответственно вы полнять свою роль в от­
нош ении систем ИИ (например, использовать, разрабатывать, осущ ествлять м ониторинг работы или
предоставлять продукты или услуги, использую щ ие ИИ). П рим енение ИИ освещ ает такие вопросы, как:
      - автом атическое принятие реш ений с использованием ИИ непрозрачны м и необъясним ы м спо­
собом может потребовать специального управления, вы ходящ его за рамки управления классическим и
инф орм ационны м и системами;
      - использование анализа данны х, инж енерии знаний и маш инного обучения, а не предписанной
человеком логики проектирования систем, с одной стороны , расш иряет возм ож ности прим енения си­
стем ИИ, а с другой — изменяет способ разработки, обоснования и разверты вания таких систем;
      - при ф ункционировании систем ИИ с непреры вны м обучением м еняется их поведение, поэтом у
к ним требуется особое внимание.
      Н астоящ ий стандарт содерж ит требования к созданию , внедрению, поддерж анию в рабочем со­
стоянии и постоянном у улучш ению систем ы м енедж м ента ИИ в среде организации. О рганизациям сле­
дует обращ ать основное внимание на прим енении требований к характеристикам , специф ическим для
ИИ. Ввиду определенны х особенностей ИИ, таких как способность к постоянном у обучению и улучш е­
нию либо отсутствие прозрачности или объясним ости, может потребоваться использование различны х
мер предосторож ности в случае, если при вы полнении задачи с пом ощ ью ИИ возникаю т допол нитель­
ные опасения по сравнению с вы полнением задачи традиционны м способом . Внедрение систем ы ме­
неджмента ИИ для расш ирения сущ ествую щ их структур управления является стратегическим реш ени­
ем для организации.
      На создание и внедрение системы м енедж м ента ИИ оказы ваю т влияние следую щ ие ф акторы:
потребности и цели организации, процессы, размер и структура, а такж е ожидания различны х заинте­
ресованны х сторон. Другим и ф акторам и, влияю щ им и на создание и внедрение систем ы менедж м ента
ИИ, являю тся м ногочисленны е варианты использования ИИ и необходим ость соблю дения над леж ащ е­
го баланса меж ду механизмами стратегического управления и инновациями. О рганизации могут пред­
почесть применять эти требования, используя подход, основанны й на оценке рисков, чтобы гарантиро­
вать, что соответствую щ ий уровень контроля применяется только в отнош ении конкретны х вариантов
использования, услуг или продуктов ИИ в пределах сф еры деятельности организации. О жидается, что
все эти ф акторы влияния со временем будут меняться, поэтом у следует время от времени проводить
их ревизию .
      С истема менедж мента ИИ долж на бы ть интегрирована с процессами организации и общ ей струк­
турой управления. При проектировании процессов, и нф орм ационны х систем и разработке мер упр ав­
ления долж ны бы ть учтены конкретны е ф акторы , связанны е с ИИ. Критически важны ми примерам и
таких процессов управления являются:
      - определение организационны х целей, вовлечение заинтересованны х сторон и ф орм ирование
организационной политики;
      - управление рисками и возмож ностям и;
      - управление ф акторам и, связанны м и с надеж ностью систем ИИ, таким и как защ ита, безопас­
ность, справедливость, прозрачность, качество данны х и качество систем ИИ на протяж ении всего их
ж изненного цикла;
      - управление взаим оотнош ениям и с поставщ икам и, партнерами и третьим и сторонам и, которые
предоставляю т или разрабаты ваю т системы ИИ для организации.
      В настоящ ем стандарте содерж атся реком ендации по разверты ванию прим еним ы х мер управл е­
ния для поддержки таких процессов и отсутствую т конкретны е указания по процессам управления. Для
внедрения таких важ нейш их процессов как управление рискам и, ж изненны м циклом и качеством д а н ­
ных, которые подходят для конкретны х случаев использования ИИ, продуктов или услуг, организация
может сочетать общ еприняты е концепции, другие м еж дународны е стандарты и свой собственны й опыт.
      О рганизация, соответствую щ ая требованиям настоящ его стандарта, может создать свидетель­
ство своей ответственности и подотчетности касательно своей роли в отнош ении систем ИИ.


IV