Приложение А (справочное). Сопоставление жизненного цикла системы ИИ с определением жизненного цикла системы ИИ, данным ОЭСР

Приложение А
(справочное)

Сопоставление жизненного цикла системы ИИ с определением жизненного цикла системы ИИ, данным ОЭСР

В составе "Правовых инструментов" Организации экономического сотрудничества и развития была опубликована "Рекомендация Совета по искусственному интеллекту" [49].

Данный документ включает следующий текст:

"СОВЕТ

... В отношении предложений Комитета по политике в области цифровой экономики:

I. СОГЛАШАЕТСЯ с тем, что для целей настоящей Рекомендации приведенные ниже термины нужно понимать следующим образом:

- Жизненный цикл системы: Жизненный цикл системы ИИ включает следующие стадии:

i) "проектирование, данные и модели", которая представляет собой контекстно-зависимую последовательность, охватывающую планирование и проектирование, сбор и обработку данных, а также построение модели;

ii) "верификация и валидация";

iii) "развертывание";

iv) "эксплуатация и мониторинг".

Эти стадии часто выполняются итеративно и не обязательно последовательно. Решение о выводе системы ИИ из эксплуатации может быть принято в любой момент в течение стадии эксплуатации и мониторинга";

а также:

"1.4. Робастность, безопасность и защищенность

a) системы ИИ должны быть надежными, безопасными и защищенными на протяжении всего своего жизненного цикла с тем, чтобы как в условиях нормального использования, так и предсказуемого корректного или некорректного использования или при иных неблагоприятных условиях они функционировали надлежащим образом и не создавали неоправданно большую угрозу безопасности;

b) с этой целью организации и лица, играющие активную роль в жизненном цикле системы ИИ, должны обеспечить отслеживаемость, в том числе в отношении наборов данных, процессов и решений, принятых на протяжении жизненного цикла системы ИИ, с тем, чтобы обеспечить возможность проведения уместного в конкретном контексте и соответствующего современным возможностям анализа результатов использования системы ИИ и ее ответов на запросы;

c) организации и лица, играющие активную роль в жизненном цикле системы ИИ, должны, основываясь на своих ролях, контексте и способности действовать, на каждой стадии жизненного цикла системы ИИ на постоянной основе применять систематический подход к управлению рисками с целью реагирования на связанные с системами ИИ риски, включая риски для неприкосновенности частной жизни (персональных данных), информационной безопасности, защищенности и объективности".

На рисунке А.1 показано, как это определение жизненного цикла системы ИИ может быть сопоставлено с жизненным циклом системы ИИ, описанным в разделе 6:

Рисунок А.1 - Сопоставление с жизненным циклом системы ИИ согласно ОЭСР