Искусственному интеллекту не позволят делить россиян на хороших и плохих

В России не планируют запускать систему оценки граждан по различным параметрам — так называемый социальный рейтинг. Более того, любые исследования и разработки на этот счет вредны, сказали «Парламентской газете» эксперты, ознакомившиеся с проектом платформы социального скоринга, которую создали в одном из российских университетов. Главная проблема такой системы — невозможность четко и окончательно сформулировать критерии «хороших» и «плохих» россиян, а также возможные ошибки в работе искусственного интеллекта (ИИ) и отсутствие у него моральных качеств.

По «заслугам» и честь

Ряд СМИ сообщил, что в Российском государственном социальном университете (РГСУ) тестируют систему, которая формирует социальный рейтинг россиян на основе различных параметров. Универсальная платформа социального скоринга «Мы» создана как научный проект, информация об этом размещена на сайте вуза. Однако в пресс-службе РГСУ не смогли ни подтвердить, ни опровергнуть факт ее тестирования на преподавателях и сотрудниках. При этом существование самой экспериментальной платформы «Мы» сомнений не вызывает.

В описании платформы сказано, что проект социального скоринга — это надежная, понятная, строгая и независимая от прикладных социальных и ведомственных практик количественная метрика социальных статусов и уровней граждан. Она формируется посредством процедур социального оценивания. На выходе получается двухкомпонентный код, где первое число — социальный статус человека, а второе — его социальный уровень. Например, 47—29. «Социальный статус — отражение своего рода заслуг человека, а социальный уровень — оцифровка как бы его перспектив», — объяснили авторы.

Раскрыть в описании методику начисления баллов создатели платформы не сочли нужным, сославшись на то, что, во-первых, это внутренняя информация системы, а во-вторых, их ноу-хау.

При этом они считают, что их платформу могли бы использовать органы власти всех уровней, а также общественные организации «для реализации оперативной и объективной социальной поддержки населения».

Кому повысят пенсии в 2024 году

Китай, ЕС, Россия

Социальный рейтинг, или систему социального кредита, с 2021 года официально используют в Китае. Там компьютеры собирают и анализируют большие данные о законопослушности, честности, потребительском поведении и других сторонах жизни людей. За хорошие дела вроде заботы о пожилых членах семьи или поддержки правительства в соцсетях китайцы получают баллы, а вычесть их могут, например, за нарушение ПДД, распространение фейков в интернете или жульничество в онлайн-играх. Люди с низким баллом не могут устроиться на нормальную работу, им не дают кредиты, не продают билеты на транспорт и даже могут отказать в аренде велосипеда.

В Европе эта система вызвала отторжение.Еврокомиссия в 2022 году предложила принять декларацию о цифровых правах в ЕС, которая запрещает социальное рейтингование.

Опрошенные «Парламентской газетой» эксперты тоже однозначно высказались против социального рейтинга в России. «Это приведет к массовому выгоранию людей, особенно молодых, которые будут стремиться иметь высокий рейтинг, — сказал зампред IT-Комитета Госдумы Андрей Свинцов. — В конце концов, мы получим нацию не людей, а роботов. В современной России даже при высочайшем уровне развития искусственного интеллекта такие системы неприменимы и, считаю, недопустимы».

Депутат добавил, что введение системы оценки граждан в парламенте даже не обсуждают. Более того, были предложения законодательно это запретить.

Не вынашивают планов запустить соцрейтинг и в Совфеде, сообщил «Парламентской газете» зампред Комиссии по цифровой экономике при палате регионов Артем Шейкин. В стране сформирована четкая система взаимодействия человека с государством, цифровые сервисы постоянно совершенствуются, но только с одной целью — чтобы людям было удобно получать необходимые услуги, отметил сенатор.

Картаполов рассказал, кто будет передавать сведения о гражданах в военкоматы

Кто защитит данные

Вредной и подлой идеей цифровизаторов назвал предложение запустить социальный рейтинг член президентского Совета по правам человека Игорь Ашманов. В проекте Цифрового кодекса, над которым он работал, был даже специальный пункт, прямо запрещающий оценивать граждан по тем или иным критериям. «Никакие ограничения прав на основе рейтингов, идентификации и так далее не должны допускаться, — сказал «Парламентской газете» Ашманов. — Как только возникают социальные рейтинги и единые базы, те, кто имеют к ним доступ, начинают продавать информацию или использовать ее в своих интересах».

Еще один аргумент против рейтингов на основе больших данных и искусственного интеллекта — невозможность сформировать в полной мере те критерии, по которым человека будут относить к «хорошим» или «плохим», добавил Ашманов.

И еще, сама идея рейтинга построена на обработке больших массивов информации о людях, то есть данных, в том числе персональных. Пока с хранением такой информации в России явно есть проблемы: о массовых утечках, в том числе в госсекторе, мы слышим регулярно.

С ИИ не поспоришь

Проблема неравенства в российском обществе и без того велика, а введение рейтинга его вообще зацементирует. Такое мнение высказал «Парламентской газете» директор Федерального научно-исследовательского социологического центра РАН Михаил Черныш. Идея оценивать людей, по его словам, не нова. Ее, например, давно и успешно внедрили российские банки и используют при всяком обращении человека за кредитом. Причем учитывают не только данные о доходах и платежной дисциплине, но и ряд других параметров, зачастую впрямую не свидетельствующих о платежеспособности. Поэтому люди нередко пытаются оспаривать решение банковского клерка, которому, кстати, тоже помогает искусственный интеллект. В большинстве случаев это оказывается бесполезно.

Технологии ИИ далеко не совершенны, машины часто ошибаются, уверен Михаил Черныш. К тому же беспристрастность, которую ставят в заслугу компьютерному разуму, в данном случае как раз не благо: «У искусственного интеллекта нет морали, с ним невозможно вступить в дискуссию, что-то доказать».

Кроме того, подобная как бы объективная оценка способна стать для человека самосбывающимся пророчеством, предостерег Черныш. Получив некий рейтинг, человек будет жить и действовать в соответствии с ним. А так быть не должно.

Прецеденты были

Социальный рейтинг — тема не новая. Правда, до сих пор чаще применяли коллективный, нежели персональный. Даже в литературе есть пример: система начисления и вычитания баллов в школе магии Гриффиндор в книгах о Гарри Поттере — это оно самое и есть. В Советском Союзе тоже был своеобразный аналог — система соцсоревнования. До абсолюта его довели в лагере для трудных подростков «Прометей» в Ленинградской области, ставшем прообразом нашумевшего в 1980-е годы художественного фильма «Пацаны», — там, как и в Гриффиндоре, каждому экипажу начисляли очки за хорошие дела и вычитали за плохие. Например, залить бетоном дорожку — плюс 300 очков, искупаться в неурочное время — минус 50. Это влияло на блага, которые получали подростки, — от сгущенки на ужин до права первыми войти в столовую. Правда, в «Прометее» это в итоге вылилось в «очкоманию» — стремление детей правдами и неправдами получить дополнительные очки и избиение тех, из-за кого экипаж баллы терял.

Впрочем, до индивидуального рейтингования дело пока в России не доходило.