Автоматизированное принятие решений в государственном управлении: теоретический разбор возможностей (Э.В. Талапина, журнал "Журнал российского права", N 11, ноябрь 2022 г.)

Талапина Э.В. Автоматизированное принятие решений в государственном управлении: теоретический разбор возможностей

Э.В. Талапина - главный научный сотрудник Института государства и права РАН, доктор юридических наук, доктор права (Франция)

Практика автоматизированного принятия решений в современных условиях во многом сводится к алгоритмической обработке данных с использованием технологий больших данных и искусственного интеллекта. Правовое регулирование этих технологий пока недостаточно, в то время как их использование в государственном управлении не может происходить без нормативной основы. Для создания последней необходимо выявить на теоретическом уровне возможные риски и преимущества, что позволит верно выстроить систему нормативного обеспечения.

Автоматизированная обработка данных несет определенные угрозы для основных прав человека (права на информацию, защиту частной жизни, равенство и недискриминацию, защиту персональных данных, судебную защиту). На следующей технологической стадии, когда сбор данных о гражданах происходит непрерывно в режиме реального времени, усиливается так называемый охлаждающий эффект, который не просто сдерживает поведение человека, но и способен оказывать на него влияние. К рискам автоматизированного принятия решений можно отнести стандартизацию поведения, недостаточную понятность, информационную асимметрию, дискриминацию, "якорение" (излишнее доверие человека к автоматизированному решению). К позитивным эффектам автоматизированного принятия решений относятся персонализация и предиктивность, которые в управленческой сфере наглядно демонстрируют проактивные государственные услуги.

Для внедрения автоматизированного принятия решений в государственное управление необходима нормативная разработка нескольких направлений, в том числе: 1) обеспечение транспарентности алгоритмов и их использования; 2) юридическая защита человека от автоматизированных решений; 3) переход от управления приватностью к информационному самоопределению; 4) совершенствование судебной защиты. Использование алгоритмов качественно влияет на государственное управление, но такие изменения нуждаются в нормативном сопровождении.

Ключевые слова: алгоритм, управленческое решение, права человека, искусственный интеллект, транспарентность

Talapina E.V. Automated Decision-Making in Public Administration: A Theoretical Analysis of Possibilities

E.V. Talapina - Institute of State and Law, Russian Academy of Sciences, Moscow, Russia,

The practice of automated decision-making in modern conditions is largely represented by algorithmic data processing, big data technologies and artificial intelligence. The use of these technologies is still little regulated, but their use in public administration needs a regulatory framework. To create such a framework, it is necessary to identify - at a theoretical level - the possible risks and benefits in order to correctly build a regulatory support system.

The automated data processing poses certain threats to basic human rights (such as the right to information, privacy protection, equality and non-discrimination, personal data protection and judicial protection). In the next technological stage - when citizens' data are collected continuously in real time, - the so-called chilling effect, which not only restrains human behavior but can also influence behavior, is intensified. The risks of automated decision-making include standardization of behavior, lack of clarity, information asymmetry, discrimination and "anchoring" (excessive human trust in an automated decision-making). The positive effects of automated decision-making include personalization and predictability, which in the managerial domain are clearly demonstrated by proactive public services.

The implementation of automated decision-making in public administration requires regulatory development in several areas, including: 1) ensuring transparency of algorithms and their use; 2) legal protection of individuals from automated decisions; 3) transition from privacy management to information self-determination; and 4) improved judicial protection. The use of algorithms qualitatively affects public administration, but such changes need regulatory support.

Keywords: algorithm, management decision, human rights, artificial intelligence, transparency