ГОСТ Р 71737-2024

ФЕДЕРАЛЬНОЕ АГЕНТСТВО

                                         ПО ТЕХНИЧЕСКОМУ РЕГУЛИРОВАНИЮ И МЕТРОЛОГИИ




                                                    НАЦИОНАЛЬНЫЙ
                                                                                      ГОСТ Р
                                                       СТАНДАРТ
                                                     РОССИЙСКОЙ                       71737 —
                                                      ФЕДЕРАЦИИ                       2024




                                      Системы искусственного интеллекта
                                             в здравоохранении

                                   П РИ М ЕН ЕН И Е М ЕН ЕД Ж М ЕН ТА РИСКА
                                        К М ЕДИ Ц И Н С КИМ ИЗДЕЛИЯМ
                                                 Общие положения


                                                      Издание официальное




                                                           Москва
                                              Российский институт стандартизации
                                                             2024




сертификация электрооборудования

ГОСТ Р 71737—2024


                                       Предисловие
     1 РАЗРАБОТАН Государственным бюджетным учреждением здравоохранения города Москвы
«Научно-практический клинический центр диагностики и телемедицинских технологий Департамента
здравоохранения города Москвы» (ГБУЗ «НПКЦ ДиТ ДЗМ»)

     2 ВНЕСЕН Техническим комитетом по стандартизации ТК 164 «Искусственный интеллект»

     3 УТВЕРЖ ДЕН И ВВЕДЕН В ДЕЙСТВИЕ Приказом Федерального агентства по техническому
регулированию и метрологии от 28 октября 2024 г. № 1518-ст

     4 ВВЕДЕН ВПЕРВЫЕ




     Правила применения настоящего стандарта установлены в статье 26 Федерального закона
от 29 июня 2015 г. № 162-ФЗ «О стандартизации в Российской Федерации». Информация об из­
менениях к настоящему стандарту публикуется в ежегодном (по состоянию на 1 января текущего
года) информационном указателе «Национальные стандарты», а официальный текст изменений
и поправок — в ежемесячном информационном указателе «Национальные стандарты». В случае
пересмотра (замены) или отмены настоящего стандарта соответствующее уведомление будет
опубликовано в ближайшем выпуске ежемесячного информационного указателя «Национальные
стандарты». Соответствующая информация, уведомление и тексты размещаются также в ин­
формационной системе общего пользования — на официальном сайте Федерального агентства по
техническому регулированию и метрологии в сети Интернет (www.rst.gov.ru)




                                          © Оформление. ФГБУ «Институт стандартизации», 2024

     Настоящий стандарт не может быть полностью или частично воспроизведен, тиражирован и рас­
пространен в качестве официального издания без разрешения Федерального агентства по техническо­
му регулированию и метрологии
II

ГОСТ Р 71737— 2024


                                                                             Содержание
1 Область п р и м е н е н и я ..................................................................................................................................................1
2 Нормативные с с ы л ки ..................................................................................................................................................1
3 Термины и определения............................................................................................................................................. 2
4 Общие требования к менеджменту р и с к а ............................................................................................................2
   4.1 Процесс менеджмента риска........................................................................................................................... 2
   4.2 Ответственность руководства......................................................................................................................... 3
   4.3 Компетентность пе р со на л а ............................................................................................................................. 4
   4.4 План менеджмента р и с к а ................................................................................................................................4
   4.5 Файл менеджмента р и с к а ................................................................................................................................4
5 Анализ ри ска................................................................................................................................................................. 4
   5.1 Процесс анализа р и с к а .................................................................................................................................... 4
   5.2 Предусмотренное применение и обоснованно прогнозируемое неправильное применение . . . .4
   5.3 Идентификация характеристик, связанных с безопасностью................................................................. 5
   5.4 Идентификация опасностей и опасных си ту а ц и й ..................................................................................... 5
   5.5 Определение р и с к а ...........................................................................................................................................5
6 Оценивание р и с к а ...................................................................................................................................................... 6
   6.1 Общие п о л о ж е н и я ............................................................................................................................................. 6
   6.2 Оценка последствий...........................................................................................................................................6
   6.3 Оценка вероятности...........................................................................................................................................7
   6.4 Оценка надежности изготовителей систем искусственного интеллекта............................................... 7
   6.5 Оценка пригодности систем искусственного интеллекта к использованию в конкретных
       у с л о в и я х ...............................................................................................................................................................7
   6.6 Оценка соответствия заявляемых параметров диагностической точности систем
       искусственного интеллекта р е а л ь н ы м ......................................................................................................... 8
7 Управление риском......................................................................................................................................................8
   7.1 Анализ возможностей управления риском ...................................................................................................8
   7.2 Выполнение мер по управлению р и с ка м и ...................................................................................................8
   7.3 Оценивание остаточного р и с ка .......................................................................................................................8
   7.4 Анализ соотношения риск/польза.................................................................................................................. 8
   7.5 Риски, возникающие вследствие выполнения мер по управлению риском......................................... 9
   7.6 Полнота управления р и с ко м ........................................................................................................................... 9
   7.7 Соответствие выходных параметров работы систем искусственного интеллекта
       экспертному мнению в р а ч а ............................................................................................................................. 9
8 Оценивание совокупности остаточного р и с к а ..................................................................................................... 9
9 Анализ менеджмента р и ска ...................................................................................................................................... 9
10 Деятельность на стадии производства и постпроизводственная деятельность....................................10
   10.1 Общие требования.........................................................................................................................................10
   10.2 Сбор и н ф о р м а ц и и .........................................................................................................................................10
   10.3 Анализ информации...................................................................................................................................... 10
   10.4 Предпринимаемые действия....................................................................................................................... 11
Б ибл иограф ия..............................................................................................................................................................12

ГОСТ Р 71737—2024


                                         Введение
     Настоящий стандарт содержит руководящие указания по применению положений ГОСТ ISO 14971
в отношении процесса управления рисками при оценке систем искусственного интеллекта в качестве
программного обеспечения, являющегося медицинским изделием.
     Настоящий стандарт адаптирует и дополняет принципы и процесс для управления рисками,
связанными с применением медицинских изделий. Представленные дополнения предназначены для
оказания помощи изготовителям систем искусственного интеллекта по управлению рисками при раз­
работке и по применению систем искусственного интеллекта в качестве программного обеспечения,
являющегося медицинским изделием.
     Настоящий стандарт позволит изготовителям эффективно управлять рисками, связанными с при­
менением систем искусственного интеллекта, являющихся медицинскими изделиями, и будет способ­
ствовать безопасности, качеству и инновационному развитию в данной области.




IV