«Соціальна кредитна система Китаю» буде оцінювати, наскільки цінною ви є людиною

Плани Китаю щодо Оцінки Соціального Кредиту в самому розпалі. Уряд вже долучив приватні компанії для пілотних робіт, і, хоча деякі вважають його структурно ефективним, багато хто стурбований його наслідками щодо дистопії.

Оцінка громадянина в Китаї

В спірному світі по-перше, Китай планує впровадити соціальну кредитну систему (офіційно званий як соціальний рахунок кредиту або SCS) до 2020 року ідея вперше з'явилася в документі з Державної ради КНР, опублікованому в червні 2014 року. Це технологічне просування, настільки шокуюче сучасну парадигму, яку багато хто може зробити мало, але сидіти склавши руки в вражаючому смутку, оскільки наукова фантастика показує нам свою більш темну сторону.

СКС виглядає відносно простим. Кожному громадянину в Китаї, яких тепер має число, яке збільшувалося до більш ніж 1,3 мільярда, отримає оцінку, яка, як загальнодоступна публікація, доступна для всіх. Ця оцінка громадян ґрунтується на моніторингу соціальної поведінки людини - від звичок до витрат і того, як вони регулярно оплачують рахунки, їх соціальних взаємодій - і це стане основою довіри до цієї людини, який також буде публічно оцінений.

Оцінка громадянина впливає на їх право на ряд послуг, в тому числі на види робочих місць або іпотечні кредити, які вони можуть отримати, а також впливає на те, до чого підходять їхні діти. В цьому відношенні SCS нагадує один з найжахливіших епізодів третього сезону Black Mirror. До речі, шоу дійсно невідомо як «добре себе почуває». У ньому представлені різні погляди на суспільство, але Китайський СКС доводить, що реальність темніше, ніж вигадка.

Ця «послуга» не запланована до 2020 року, але Китай вже почав добровільну реалізацію СКС, співпрацюючи з низкою приватних компаній, щоб згладити алгоритмічні деталі, необхідні для такого великомасштабна, керована даними система.

Компанії, які впроваджують SCS, включають China Rapid Finance, яка є партнером соціального мережевого гіганта Tencent, і Sesame Credit, дочірньою компанією Alibaba, дочірньої компанії Ant Financial Services Group (AFSG). Як Rapid Finance, так і Sesame Credit мають доступ до залякувати кількостей даних, перше - через додаток для обміну повідомленнями WeChat (в даний час з 850 мільйонами активних користувачів), а друге - через платіжну службу AliPay.

Згідно з місцевими ЗМІ, SCS Tencent поставляється з чат-додатком QQ, де оцінка людини становить діапазон від 300 до 850 і розбивається на п'ять підкатегорій: соціальні зв'язки, поведінку споживання, безпеку, багатство і дотримання.

Позитивне (і негативне) посилення

Прихильники СКС розглядають це як можливість поліпшити деякі з послуг держави. Деякі стверджують, що це надасть китайським громадянам такий необхідний доступ до фінансових послуг. Уряд також заявляє, що це «дозволить заслужити довіру, щоб бродити всюди під небом, в той же час ускладнюючи дискредитацію зробити один крок», згідно з The Wall Street Journal. У деяких ситуаціях це може виявитися працездатним. Зрештою, фінансові і кредитні організації вже докладно описують кредитоспроможність боржників, якщо вони виявилися в дефолті, не дозволяючи їм брати на себе більше боргів, які вони не можуть виплатити.

Утопічна мета управління фінансами громадян за допомогою структурних стримувань і противаг виглядає як елегантне рішення для пом'якшення державного боргу і, безумовно, спонукає всіх залучених до поліпшення своєї боргової діяльності. Але структурний управління особистими фінансами на цьому усепроникаючому рівні перетинає кілька кордонів.

Основна проблема полягає в наступному: SCS виходить далеко за рамки тільки однієї здатності управляти боргом; по суті, він ставить число на громадянина, що оцінює їх цінність як людини, - і це змушує інших поважати цей рейтинг.

«Запропонована Китаєм соціальна оцінка є абсолютним підтвердженням того, що Китай продовжує просуватися вперед, щоб стати повним поліцейською державою», - сказав Анураг Лал, президент і головний виконавчий директор компанії Infinite Convergence по мобільності, в електронному листі до футуризму. «Вони роблять це ще далі, стаючи не тільки створенням тоталітарного поліцейської держави, яке стежить за своїм народом, а тим, що повністю ухиляється від конфіденційності користувачів. Всі форми діяльності та взаємодії, онлайн або інакше, будуть оцінюватися, доступні для перегляду і зберігання у вигляді даних».

Схоже, що сумнозвісний Великий Брандмауер - тільки найвідоміша особливість погіршується соціально-політичного становища Китаю.

Великі дані для гарної поведінки

Більше, ніж робота в якості соціального фактора, така система може стати вельми обмежувальної. Звертаючись до WIRED, директор за технологіями Sesame Credit Лі Інюнь зізнався в цьому, заявивши, що в рамках системи SCS можна судити про його покупках. «Наприклад, хтось, хто грає у відеоігри протягом десяти годин в день, буде вважатися пустим людиною», - сказав Лі. «Хтось, хто часто купує підгузки, буде вважатися, ймовірно, батьком, у якого, швидше за все, буде відчуття відповідальності».

Лі вважає це позитивним подією, в силу якого людині пропонується взяти на себе більшу відповідальність за свої звички жити і витрачати, щоб заробити позитивний показник для громадян - тобто стати «заслуговує на довіру». Китайський блогер Расул Маджид сказав WIRED, що він насправді вважає, що це кращий спосіб стежити за тим, як уряд контролює свої дані. Якщо хтось знає, як один з них знаходиться під наглядом, кожен знає, коли і де очистити свій вчинок.

Лал, однак, не згоден: «Як ви визначаєте поведінку людей на щоденній основі? Люди роблять так багато різних речей з багатьох різних причин, і якщо контекст не оцінена, це може бути невірно витлумачене », - сказав він. Слова вірні. Не треба багато думати, щоб зрозуміти, чому може бути проблематично сказати, що люди, у яких є діти, - це, по суті, люди, яким ви повинні довіряти. Що це означає для безплідного? Що це означає для одностатевих пар? Що це означає для людей, які просто не хочуть мати дітей?

Напевно, нічого доброго.

В кінці кінців, навіть базова система SCS, яка оцінює тільки кілька точок даних, може намалювати дуже неточну і неповну картину людини. «Можливо, ви граєте в ігри протягом 10 годин, і якщо алгоритм каже, що ви простоює, це може пропустити причину, по якій ви граєте в ці ігри. Може бути, ви інженер, і ви бета-тестируете їх. Але тепер ви автоматично призначаєтеся як проста людина, - додав Лал. «Коли насправді, може бути, ви просто робите свою роботу».

В кінцевому рахунку проблема полягає в тому, що «соціально прийнятна поведінка» буде визначатися китайським урядом, а не демократичним процесом або об'єктивної групою. І каральні заходи, безумовно, будуть прийняті, коли людина порушить цю довіру.

З СКС китайський уряд фактично вдарить двох птахів одним каменем: у них буде спосіб заохочення і забезпечення того, що вони вважають «соціально прийнятним поведінкою», і у них буде можливість контролювати практично всі аспекти життя громадян.

Lal не вважає, що ця установка може тривати довгий час. «У вільному світі це ніколи не зловить. Якщо вони досить наївні, щоб розгорнути його, це завдасть шкоди авторитету Китаю в регіональному і глобальному масштабах. Технологічні компанії, що працюють в Китаї, вже розчаровані через жорстких обмежень, коли справа доходить до технологічних політик і шифрування - це тільки додасть їх розчарування».

Ця система являє щось більш підступне, ніж паноптіком, про який нас попереджав відомий соціальний теоретик Мішель Фуко. Тому давайте сподіватися, що Лал прав.