китайская система социального кредита
Китайская система социального кредита — так ли страшен чёрт?
Китайская система соцкредита пугающе набирает обороты. Кажется, что все страны мира сговорились и обещают нам цифровизацию по самые уши. В Москве увеличивают количество камер с технологией распознавания лиц. Венесуэла, Монголия, Эквадор и даже Зимбабве – заказчики китайских IT-компаний по разработке подобных систем.
Цифровая диктатура
Систему социального кредита Китайцы планируют запустить к 2020 году. Создают ее как саморегулирующуюся систему более мягкого тоталитаризма, дабы людишки с помощью манипулятивных запугивающих инструментов сами подводили себя к «правильному» поведению.
Получается все по классике: кто владеет информацией, тот владеет миром.
Началось все с того, что в Китае не было единой скоринговой системы до 2015 года, когда Ant Financial, дочка Alibaba Group, придумала свою (Zhima Credit) и предоставила доступ к ней народному банку Китая. Ну как предоставила, когда правительство увидело в этом пользу, само мягко заставило. IT-компании, создавшие технологию, подверглись давлению… хотя им, наверно, не привыкать. Не то, что бизнесу в России… хотя, о чем это я?
Все платежи в Китае (даже на рынке) проводятся через национальную платежную систему Alipay. В ней хранится все: и персональные данные разного сорта и инфа обо всех сторонах жизни человека (какую машину покупает, какое образование получает и много-много разного). Ничего от большого китайского глаза не ускользнет. Система соцкредита на правительственном уровне, конечно, не ограничивается одними платежами. Все значительно серьезней.
К 20-му году по всей территории Китая будет установлено еще 626 миллионов камер с технологией распознавания лиц при уже имеющихся 178 миллионах. Это, как если бы за каждым гражданином России круглосуточно следило в среднем 4 камеры. Так что следить большой брат будет за китайцами повсюду, и не просто следить, а еще и начислять рейтинг в зависимости от поведения. Подкрепляется всеобщая истерия еще и тем фактом, что он может не только повышаться, но и снижаться.
Купил памперсы – молодец, +n к рейтингу, поиграл несколько часов подряд в игры – минус к рейтингу. А что делать, если я, например, только что пересела с иглы мужского одобрения на видеоигры и ненавижу детей? (шутка). Список контактов тоже влияет на рейтинг, и пользователям ничего не остается, как оценивать человека на предмет размера его рейтинга. А вы говорите размер значения не имеет…
Если выглядите вы, мягко говоря, не очень, и на вид не скажешь, что вы – «белый» человек, то, скорее всего, вас гражданин Китая даже в список контактов не добавит. Ничего личного, просто рейтинг… Ну, а у кого плохой рейтинг, тот с ветерком не путешествует и чивас не пьет.
Если ты еще заклеиваешь скотчем вебку, то, наверно, зря, потому что мы, судя по всему, вступаем в эру цифровой диктатуры. Конфиденциальность под угрозой. В Москве увеличивают количество камер с технологией распознавания лиц. Приложение FindFace, которое позволяло сфотографировать засранца, курящего вам в лицо на улице, и найти его в соцсетях, чтобы обложить, привлекло внимание государства, которое стало его основным заказчиком и закрыло технологию от чужих глаз. А с умельцами, создавшими аналогичный сервис SearchFace, VK пытается бороться.
Риски
Мой мозг, технически образованный и имеющий опыт в разработке, кинулся мыслить в сторону реализации. Какие критерии правильности и неправильности будет учитывать система? Какова вероятность ее взлома? Кто в итоге будет принимать решения о судьбе нарушителя на основании выводов системы? Вопросы открытые.
Если предположить, что система распознавания лиц, нейросети и сами камеры имеют суммарную погрешность в 0,01% (такое вообще возможно?), то, умножив это на 626 миллионов камер, получим, что, примерно, 62 тысячи камеры будут приписывать ошибочные нарушения не тем людям.
Например, в Китайском городе Нинбо оштрафовали предпринимательницу Дун Мичжу за переход на красный для пешеходов, но самой Дун на месте не было. Система распознала ее лицо на автобусе, который проезжал на зеленый (интересно, если приклеить фотографию соседа – это сработает?).
Фото «нарушительницы»
Журналист Лю Ху не мог купить билет на рейс из-за штрафа, который он уже оплатил. Он отправил чек судье, но тот просто-напросто не отвечает. Парень не может выехать из страны.
Фарш из системы с потенциальными ошибками, человеческим фактором, возможным взломом и неизвестными критериями оценки вызвал у меня в голове потенциальный список стран, куда я могла бы свалить от такой системы, но ничего не придумала, ибо, как я писала выше, даже Зимбабве внедряет подобную систему.
Плюсы
Скорее всего, людям, которые просто живут, как среднестатистические наши с вами знакомые и товарищи, этот рейтинг побоку. Он у них будет в среднем хороший. А мы уже с вами выяснили, у кого рейтинг хороший – тот ест пирожки с полки и, как минимум, может вылететь из страны.
И вообще мне нравится технический прогресс, но, то мы негодуем, что Россия валенки плетет, то возмущаемся ее успехами в, как нам кажется, «страшных» технологиях. Цифровизация – неизбежное наше будущее. Ребят, раз говорим А, давайте говорить и Б. Хотим новых технологий, удобства и развиваться, давайте пожинать плоды мыслительных процессов людей «на верхушке». Мы ведь с вами не наивные ребята, чтобы думать, что нам создадут беспилотные бесплатные трамваи, но при этом не объявится очередная Яровая со своим очередным пакетом на основе этой технологии? А может быть, система будет карать тем, что только благонадежные будут бесплатно ездить на метро благодаря технологии распознавания лиц? Ну это я так, фантазирую.
Даже при том факте, что китайское правительство трижды выругалось, когда обалдело от 9-ти тысяч коррупционеров, выявленных системой, и решило прикрыть сервис для чиновников, чем это плохо для нас? Часть тех чиновников получило выговор, часть уволена. Бич нашей страны, может, и не уменьшится до 0 от подобных технологий, но хотя бы потенциально может снизиться. Как минимум, ленивые чинуши с закостенелым мозгом замучаются изобретать методы по сбору дани в обход системы.
Так может жизнь для нас вообще никоим образом не изменится, и мы будем все так же ходить на работу в 7 утра и толкаться попами в метро? Вот только карманника, укравшего в толпе ваш кошелек, или чувака, психанувшего от бренности бытия в метро и набившего морду парню, который случайно его толкнул, найти будет проще. Я, кстати, не раз сталкивалась с подобными ситуациями – приятного мало.
Сейчас меру наказания определяет полностью человеческий фактор, а с подобной системой ответственность за выявление нарушений поделится на 2, так как в оценке будет участвовать еще и система. Возможность уклонения пусть и не уйдет в абсолютный ноль, но снизится точно.
А вот еще из личного. Никто не воспользуется вашим билетиком в парк аттракционов Universal Orlando за 200 долларов, потому что вас сфотографировали на входе, и прежде, чем пустить на очередной аттракцион, сравнивают фото на билете и ваше лицо с помощью технологии распознавания лиц. Мелочь, а приятно…
Причем давайте не будем лицемерить и лукавить, нам значительно спокойнее, если в машине видеорегистратор, в подъезде камера, а на ребенке часы с GPS навигатором, чтобы (о ужас!) отслеживать его передвижения. У меня знакомая нацепила на ребенка браслет с такой функцией: звонишь ему на браслет и подслушиваешь, что происходит вокруг. И мы сознательно используем эти технологии. Мы сами приучаем детей спокойно относится к тотальному контролю. Они к моменту появления системы уже будут приучены.
Реальность
Вернемся к китайцам. Система социального кредита предполагает использование целого спектра различных сложных технологий – компьютерное зрение, в частности, распознавание лиц и образов, нейросети, Big Data, машинное обучение.
По версии компании Gartner у любой системы есть пик хайпа и следующее за ним плато продуктивности. Если мы говорим о нейросетях, как основе системы, то они как раз находятся на волне завышенных ожиданий, а до плато продуктивности им еще как раком до Китая. А, как правило, от всех хайповых систем на пике ожидают больше, чем они могут на самом деле.
Big Data вообще предполагает сбор, хранение и обработку данных такого масштаба, что Яровая со своим пакетиком отдыхает. Какие мощности понадобятся на население Китая, я даже представить не могу.
Но, само собой, китайцы запустят систему, пусть не к 20-му, так к 30-му году. И все равно последнее слово в такой системе, скорее всего, останется за человеком.
«Государственный центр информации о социальном кредите Китая подготовил отчет, из которого следует, что в 2018 году собрана информация о 14 млн случаев нарушений, которые ведут к снижению социального рейтинга компаний и физических лиц (таких как обман покупателей, просрочка по кредиту, реклама, вводящая в заблуждение и так далее). К настоящему времени в «черные списки» внесены почти 4 млн юридических лиц (им будет запрещено участвовать в госзакупках, аукционах на землю и так далее), 17,5 млн человек не могут купить авиабилеты, 5,5 млн человек — билеты на поезд. Кроме того, людям из «черных списков» сложнее купить страховку, недвижимость и финансовые инструменты. В некоторых случаях информация о «нарушителях» публиковалась в открытых источниках, чтобы их «пристыдить».»
Varlamov News
17,5 миллионов человек для Китая это 1,2% населения. В России доля граждан с доходами ниже прожиточного минимума на 2018 год составила 14,2% от населения страны. Это те люди, которым не нужно блокировать доступ к покупке авиабилетов, например, они в принципе купить билет не могут.
И даже закон об изоляции интернета в целях его защиты выглядит пугающе ровно до тех пор, пока не почитаешь об инициаторах закона – юрист-предприниматель, учительница русского языка и литературы и бывший зек. И на все про все ребятам нужно 1,8 миллиарда бюджетных рублей, а после еще и 20… Да и Россия не Китай, у нас нет интранета, у нас как-то по-другому все.
Пусть все на данный момент имеет вид хромой лошади, но, по-моему, чиновники сами роют себе яму.
Интернет, изолированный от главной угрозы
Внедрение полноценной хорошо работающей системы, четко выполняющей свои функции, как по мне, так идеальная картина мира, где страдают коррупционеры, где никто не хочет бить другого по морде потому, что перепил, а дети могут одни выйти во двор… давно я уже этого не видела, как в детстве, помните?
И по факту, мы ни черта не знаем, хорошо это или плохо. Но… мы же люди, нам проще мыслить в негативную сторону.
Цифровая карма: как будет работать система социального кредита в Китае
«Система социального кредита», которая разрабатывается властями Китая и готовится к внедрению на территории всей страны, уже давно обсуждается в западных медиа. И редко какой публицист или политик, описывая ее, обходится без параллелей с антиутопий «1984» Джорджа Оруэлла.
Вкратце, эта система будет представлять собой целую экосистему цифровых баз, в которой будет хранится актуальная информация о поведении граждан, компаний и государственных структур. В зависимости от того, насколько это поведение будет соответствовать госстандартам, их индивидуальный рейтинг, привязанный к уникальному QR-коду, будет изменяться — в «плюс» или в «минус». Что, в свою очередь, будет открывать или ограничивать доступ к определенным льготам и благам.
Можно сказать, что система социального кредита реализует кармический принцип воздаяния, но только в светском и мгновенном варианте. Здесь на месте божественной инстанции оказывается обезличенное государство, которое берет на себя роль справедливого судьи, оценивающего человеческое поведение (собирая данные) и воздающего по заслугам (прибавляя или вычитая баллы).
На первый взгляд, идея подобного контроля посредством рейтинга в чем-то перекликается с оруэловскими интуициями. Во-первых, такая система кажется несовместимой с неприкосновенностью частной жизни. Скажем, если история финансовых операций гипотетического гражданина КНР покажет, что тот любит по вечерам засиживаться в баре, то это будет расценено как отклонение от нормы и приведет к понижению рейтинга.
Во-вторых, подобная система не вяжется с логикой базовых прав человека. Ведь то, что считается неотчуждаемым до тех пор пока не нарушен закон, — например, право на свободное передвижение, — может быть отчуждено, несмотря на то, что де-факто сама буква закона не нарушена. Так, согласно отчету China’s National Public Credit Information Center, в 2018 году по итогам пилотных проектов в ряде провинций Китая 23 млн человек было отказано в покупке билета на самолет или поезд из-за низкого социального рейтинга.
Наконец, в-третьих, эта система, по сути, превращает государство в квази-божество, способное «сканировать» все человеческие мотивы и желания, оценивая их по балльной шкале и влияя на возможности конкретного человека. Ведь система социального кредита реализует кармический принцип воздаяния, но только в светском и мгновенном варианте. Но насколько может быть непогрешимой эта «государственная карма» в принципе?
Тем не менее, сводить «систему социального кредита» к логике тоталитарного контроля, как минимум, преждевременно. Формально о старте разработки этой системы Пекин объявил в 2014 году. И хотя ее пилотные версии начали обкатываться в некоторых провинциях Китая еще с 2009 года, все контуры этой инфраструктуры до сих пор неизвестны и многое еще находится на этапе обсуждения.
И это не говоря о том, что сама система социального кредита рассчитана на особую модель социального взаимодействия, которая складывалась в Китае веками и имеет свои глубокие традиции. Недаром, эту новацию поддерживает так много китайцев — порядка 80%, из которых более половины — целиком и полностью. Наибольший скептицизм проявляют китайцы с высшим образованием, а также бедняки и жители сельских районов. Наибольшую же поддержку инициативе выражают граждане с высоким достатком и члены компартии.
Система «социального доверия»
В своей книге «Долг: первые 5000 лет истории» американский антрополог Дэвид Гребер посвятил немало страниц тому, чтобы показать, что в древних обществах вкладывали в слово «кредит».
Если говорить об этимологии, то буквально кредит означает доверие (англ. — credit), которое «происходит от того же корня, что и «вероисповедание» («creed») и «достоверность» («credibility»)». Поэтому «большая часть денег в прямом смысле были доверием, поскольку кредитные соглашения в основном представляли собой сделки, скреплявшиеся рукопожатием».
Получается, если вместо слова «кредит» в названии китайской системы поставить «доверие», мы сразу получим более корректное представление о главной цели этой новации — обеспечить диффузию доверия внутри всего общественного пространства. Именно на этом делают упор и сами власти Китая — укрепление «репутации, добросовестности правительства, коммерческой деятельности, общества и доверия к юридической системе».
Следы подобной системы мы можем найти в истории Китая уже во время первой империи Цинь (221-206 годы до н.э.). Тогда была впервые введена процедура балльной оценки чиновников, чтобы обеспечить их дальнейшее продвижение по карьерной лестнице.
Алексей Маслов, врио директора ИДВ РАН, профессора факультета мировой экономики и мировой политики НИУ ВШЭ:
«В Китае исторически существовали организации под названием «пятидворки» и «десятидворки» (группы взаимного контроля, существовавшие в деревнях и городах. — РБК Тренды). Это была целая система организаций, внутри которой все друг за другом следили, помогали, а иногда и «стучали». Впоследствии вся эта информация собиралась в руках чиновников, из которой они формировали доклады и планировали дальнейшие действия. В целом, китайцы, в отличие, например, от нас, очень социально активны и легко могут и похвалить вас, и поругать».
Отсюда становится ясно, почему для современных китайцев введение социального кредита — нечто нормальное, что не воспринимается через оптику западных антиутопий. Ведь, по сути, это лишь реактивизация традиционной китайской системы, когда общество само себя регулирует под неусыпным контролем государства. Просто на сей раз для этого используются цифровые технологии.
Более того, как считает китайский социолог Чжан Лифань, современному китайскому общество подобная система необходима в силу того, что оно испытает глубокий дефицит доверия.
Например, это хорошо заметно по росту финансовых преступлений в бизнес-сфере. Согласно исследованию Revealing the True Cost of Financial Crime, чуть менее половины бизнес-организаций в Азиатско-Тихоокеанском регионе признались, что были жертвами мошенничества, краж, отмывания денег или других финансовых преступлений. Другой пример, по словам Маслова, — это сфера услуг, где «невозврат или поломка взятых в аренду велосипедов стало чем-то рутинным».
Иными словами, подобный дефицит доверия — это «плата» за головокружительные темпы урбанизации и роста экономики в Китае, которые потребовали новых способов контроля и социальной инженерии, чтобы не только снизить огромные нагрузки на судебную систему, но и смягчить напряжение в обществе.
Три уровня доверия
В программном документе, описывающем контуры системы социального кредита, китайское правительство выделило четыре области, которые она будет охватывать: государственный сектор, бизнес-среда, социальное взаимодействие, судебная система.
То есть, работа по достижению доверия не будет ограничена одними социальными контактами. Под прицелом этой системы окажется и коррупция, и должностные злоупотребления, и работа бизнеса, и доверие судебной системе, и неэтичное поведение врачей, юристов и учителей. Даже местные органы власти смогут ощутить на себе ограничения за счет низкого рейтинга.
Предполагается, что сама система будет иметь три уровня:
Основная база данных — The National Credit Information Sharing Platform («Национальная Платформа Обмена Кредитной Информацией). Она будет объединять в себе данные социального кредита и обеспечивать обмен ими между государственными ведомствами. Поставка данных, формирующих индивидуальные рейтинги, будет идти из двух источников. Во-первых, за счет камер с системами распознавания лиц — по всему Китаю их уже более 200 млн. А во-вторых, за счет частных жалоб, а также по информации, поступающей от общественных организаций, банковских служб, торговых площадок, из социальных сетей и не только.
«Черные списки» граждан и компаний, которые были уличены в нарушении правил и стандартов поведения, — это те, кому доверять не стоит. И «красные списки» с компаниями и гражданами с хорошей репутацией — те, кому доверять можно.
Единая система наказаний и поощрений, которая позволит государственным ведомствам скоординировано наказывать компании и граждан из «черного списка» и, наоборот, поощрять, тех, кто находится в «красном».
При этом сама система создается как принципиально обезличенная. Те, кто будет обслуживать базы данных с информацией, не будут знать имена граждан или названия компаний. Пользователь также окажется тет-а-тет с обезличенным государством.
Нравственная арифметика
Рейтинг конкретного гражданина будет формироваться в соответствии с его поведением и привычками — как в офлайне, так и в онлайне. Балльная же шкала, которая будет это оценивать, будет иметь такой вид:
Потерять баллы можно, если вы, например, не ухаживаете за пожилыми родственниками или часто проводите шумные вечеринки. Недосчитаться баллов можно и за непотребное поведение в общественном месте, нарушение правил дорожного движения, даже за жульничество в онлайн-играх.
При этом предусмотрены и механизмы на тот случай, если вас попытались оклеветать, и тогда наказание получит ваш недоброжелатель. Для этого планируют создать специальные агентства, которые будут инициировать проверки. Правда, если проверка ничего не выявит, ваш рейтинг будет еще больше снижен за «неконструктивное отношение к критике».
Повысить же свой рейтинг можно не только за счет корректного и уважительного поведения в публичном пространстве, но и, например, за участие в волонтерских организациях, за сдачу крови, или если вы своим примером вдохновляете соседей на хорошие поступки.
Рейтинги частных компаний и государственных ведомств будут регулироваться примерно по такому же принципу. Если, например, компания X выпускает продукцию, не соответствующую заявленной, будет жульничать с выплатами кредитов или отправлять налоги с задержкой, то ее баллы будут вычитаться, и она может оказаться в «черном списке».
The PwC Foundation приводит такой реальный пример работы социального кредита в области бизнеса: «Одна международная компания, работающая в Китае, была наказана местным органом по охране окружающей среды за несоблюдение экологических правил. Затем компания подала заявку на участие в государственном проекте, но она была отклонена местным правительством в соответствии с межведомственным меморандумом, в котором содержался призыв к принятию совместных мер против компании — неблагонадежной в области защиты окружающей среды».
«Виртуальная доска позора» и налоговые льготы
Наказания или поощрения по рейтингу будут касаться поражения в правах или, наоборот, их расширения, а также финансовых убытков или прибыли. Например, для граждан или компаний, теряющих свой рейтинг, могут быть назначены такие ограничения:
К слову, чтобы выйти из «черного списка» может потребоваться от двух до пяти лет. Правда, в некоторых случаях будут предусмотрены варианты досрочного исключения, если действия виновной стороны будут сочтены для того достаточными.
Для тех же, кто оказался в «красном списке», будут, например, открываться такие льготы:
возможность поступить в хорошую школу или институт в приоритетном порядке (касается и тех детей, чьи родители имеют хороший рейтинг);
Главный перформанс столетия
В статье журнала Foreign Policy, где рассказывается об итогах обкатки системы социального кредита в одной из провинций Китая, местный 32-летний предприниматель признается: «Я чувствую, что за последние шесть месяцев поведение людей становилось все лучше и лучше. Например, теперь во время поездки на машине мы всегда останавливаемся перед пешеходными переходами. Иначе можно потерять баллы. Но если сначала мы боялись потерять баллы, но теперь мы [просто] к этому привыкли».
Собственно, за этими словами просматривается «задача максимум» системы социального кредита — не просто наказывать и поощрять, но за счет дрессуры баллами моделировать само поведение в соответствии с принятыми стандартами.
Интересно, что в странах западной демократии некоторые элементы системы социального кредита уже присутствуют. Например, в Германии существует система SCHUFA, необходимая для аренды или покупки дома, а также для приобретения товара в кредит. Например, если покупатель живет в неблагополучном районе, это влияет на его рейтинг и соответственно на уровень тех услуг, на которые он может рассчитывать. Другой пример из Австралии, где программа социальных выплат матерям-одиночкам (ParentsNext) требует от них еженедельно отчитываться о том, посещали ли их дети уроки в школе, ходили ли они в библиотеку или, например, брали ли уроки плавания. В соответствии с этими отчетами принимается решение относительно дальнейших выплат.
Конечно, многое в этой системе китайским властям еще предстоит осмыслить и настроить. И речь идет не только об инфраструктурой стороне дела — скажем, о возможных неполадках в работе баз данных или об угрозе кибератак.
Александр Габуев, руководитель программы «Россия в Азиатско-Тихоокеанском регионе» Московского Центра Карнеги:
«Наверное, самый проблемный фактор — это то, как оценивать тот или иной поступок, потому что многое здесь пока выглядит довольно субъективно. Условно, почему перевод старушки через дорогу, который зафиксировала камера, дает вам «плюс» 10 баллов, а задержка с выплатой кредита — это, к примеру, «минус» 20 баллов? На каких основаниях одно считается менее значимым, а другое — более?»
К этому, кстати, можно добавить и другой вопрос: как возможно зафиксировать отклонение от нормы или, наоборот, полное ей соответствие, опираясь только на внешние индикаторы? На каких объективных основаниях в принципе возможно осуществить такую оценку, не зная всего многообразия мотивов, стоящих за каждым индивидуальным поступком?
Ответы на этот вопросы китайским властям еще предстоит найти, а многое в принятых нормам еще будет неоднократно корректироваться. Впрочем, не стоит забывать и того, что, по словам Алексея Маслова, «китайцы традиционно с большим доверием относятся к государству». Иными словами, они не воспитаны в той культуре подозрения по отношению к власти, каковая уже столетиями существует на Западе.
В целом, дальнейшая судьба этой системы все равно будет зависеть от показателей, которые она продемонстрирует, считает Габуев: «Если после введения социального рейтинга, например, преступность в Китае пойдет резко вниз, а качество жизни — вверх, то систему ждет большое будущее. В этом смысле то, что происходит сейчас в китайском обществе — это перформанс, за которым будет внимательно наблюдать весь мир. И от того, насколько он будет эффективен, зависит и то, столкнемся ли мы с социальным рейтингом и в нашей жизни».