PDF Archive

Easily share your PDF documents with your contacts, on the Web and Social Networks.

Send a file File manager PDF Toolbox Search Help Contact



О'Нил Убийственные большие данные. Как математика превратилась в оружие массового поражения .pdf



Original filename: О'Нил - Убийственные большие данные. Как математика превратилась в оружие массового поражения.pdf
Title: Убийственные большие данные. Как математика превратилась в оружие массового поражения
Author: Кэти О'Нил

This PDF 1.5 document has been generated by Microsoft® Word 2010, and has been sent on pdf-archive.com on 11/01/2019 at 22:49, from IP address 46.219.x.x. The current document download page has been viewed 11 times.
File size: 1.6 MB (140 pages).
Privacy: public file




Download original PDF file









Document preview


Кэти О'Нил
Убийственные большие данные. Как математика
превратилась в оружие массового поражения
Цифровая экономика и цифровое будущее –

Текст предоставлен издательством
«Убийственные большие данные. Как математика превратилась в оружие массового
поражения»: АСТ; Москва; 2018
ISBN 978-5-17-982583-8

2

Аннотация
Математические алгоритмы с каждым днем все сильнее подчиняют себе нашу жизнь.
Более того: по мнению автора книги, профессора математики и финансового аналитика,
эти алгоритмы уже превратились в опасное оружие в руках государства и корпораций – и
это оружие нацелено в первую очередь на самые бедные и незащищенные слои населения.
Новейшие математические приложения, с помощью которых банки и страховые компании
отслеживают каждый наш шаг, претендуют на полную объективность, однако на самом
деле в них заложены те же предрассудки и предубеждения, что свойственны их создателям
– далеким от совершенства человеческим существам. При этом скрытые принципы работы
математических моделей и их тайные критерии охраняются как величайшая коммерческая
тайна, а их вердикты, подчас очевидно ошибочные и явно вредные, считаются
окончательными и обжалованию не подлежат. Добро пожаловать в прекрасный новый мир
– мир убийственных Больших данных!

Кэти О'Нил
Убийственные большие данные. Как математика
превратилась в оружие массового поражения
Cathy O’Neil
Weapons of Math Destruction: How Big Data Increases Inequality and Th reatens
Democracy
© Cathy O’Neal, 2016, 2017
© Перевод. В. Дегтярева, 2017
© Издание на русском языке AST Publishers, 2018
***
Посвящается всем аутсайдерам

Благодарности
Спасибо моим мужу и детям за их невероятную поддержку. Также спасибо Джону
Джонсону, Стиву Уолдману, Маки Инаде, Беки Джефф, Аарону Абрамсу, Джули Стил,
Карен Бернс, Мэтту ЛаМаните, Марте Пун, Лизе Рэдклифф, Льюсу Дэниелу и Мелиссе
Билски. И, наконец, спасибо людям, без которых эта книга не могла бы родиться: Лоре
Стросфелд, Аманде Кук, Эмме Берри, Джордану Элленбергу, Стивену Бейкеру, Джею
Мэнделу, Сэму Кансон-Бенанаву и Эрни Дэвису.

Вступление
В детстве я любила высматривать из окна машины номерные знаки других
автомобилей. Я делила их на базовые элементы – числа, из которых они состояли. 45=3×3×5.
Этот процесс, который называется разложением на множители, был моим любимым
познавательным времяпрепровождением. Математика уже тогда очень меня интересовала, и
особенно я была заинтригована простыми числами.
Моя любовь к математике постепенно переросла в страсть. В четырнадцать лет я
отправилась в математический лагерь и вернулась домой, прижимая к груди кубик Рубика.

3

Математика дала мне аккуратное, уютное убежище, где можно было укрыться от
хаотичности реального мира. Математика двигалась вперед, ее поле знаний постоянно
расширялось, от доказательства к доказательству. Я чувствовала, что могу сделать и свой
вклад. Я изучала математику в колледже, и степень доктора философии получила тоже в
области математики. Темой моей диссертации была алгебраическая теория чисел – область,
основанная на разложении на множители, которое так интересовало меня в детстве. В конце
концов я стала профессором в Барнард-колледже, математический факультет которого
объединен с Колумбийским университетом.
А затем я резко изменила свою жизнь: ушла из колледжа и устроилась на работу
специалистом по количественному анализу в один из крупнейших хедж -фондов – фонд
David E. Shaw. Уйдя из академического заведения в мир финансов, я перенесла математику
из абстрактной теории в практику. Операции, которые мы производили с цифрами,
воплощались в триллионы долларов, перетекающих с одного счета на другой. Сначала я
была ошеломлена и взбудоражена работой в этой новой лаборатории глобальной экономики.
Но осенью 2008 года, не успела я проработать в этой области год с небольшим, экономика
начала рушиться.
Это крушение продемонстрировало, что математика, когда-то бывшая моим убежищем,
не только оказалась глубоко вовлечена в мировые проблемы, но и послужила причиной
многих из них. Жилищный кризис, коллапс основных финансовых институтов, рост
безработицы – все это произошло благодаря содействию и подстрекательству со стороны
математиков, выдававших волшебные формулы. Более того – благодаря невероятной мощи,
которую я так любила, математика смогла объединиться с технологиями, что привело к
умножению хаоса и несчастий, а также к росту эффективности и масштабности систем,
которые я теперь считаю ущербными.
Если бы мы проявили больше здравомыслия, мы отступили бы в тот момент на шаг
назад, выяснили, как именно математика была использована во вред и что нужно сделать,
чтобы предотвратить подобную катастрофу в будущем. Но вместо этого сразу после кризиса
появились еще более крутые математические технологии, распространившиеся на новые
области. С помощью этих технологий мы круглосуточно перерабатывали петабайты
информации, большая часть которой была взята из социальных сетей или с сайтов
интернет-магазинов. И анализ этих данных все больше сосредоточивался не на движениях
глобальных финансовых рынков, а на людях – то есть на нас с вами. Математики и
статистики изучали наши желания, перемещения и финансовые возможности. Они
прогнозировали нашу кредитоспособность и оценивали наш потенциал в качестве студентов,
работников, любовников, преступников-рецидивистов.
Это была экономика Больших данных, и она сулила потрясающие возможности.
Компьютерная программа могла просмотреть тысячи резюме или кредитных заявок и за
одну-две секунды разложить их по аккуратным спискам, поместив наверх самых
многообещающих кандидатов. Это не только экономило время, но и считалось
справедливым и объективным. Ведь в основе этой системы – не полные предубеждений
человеческие существа, копающиеся в бумажных кипах, а машины, обрабатывающие
бесстрастные цифры. Примерно к 2010 году математика утвердила себя в человеческих
делах с небывалым ранее запасом прочности – и люди в большинстве своем это
приветствовали.
Однако я увидела здесь проблему. Усиленные математикой приложения, на которых
работала экономика данных, были основаны на выборе, сделанном несовершенными
человеческими существами. Иногда выбор, без сомнения, делался из лучших побуждений.
Но многие из этих моделей вставляли предубеждения, непонимание и предвзятость,
свойственные каждому живому человеку, в программное обеспечение, которое во все
большей степени управляло нашими жизнями. Подобно богам, эти математические модели
были загадочными, а принцип их работы – непонятным ни для кого, кроме высшей касты
– математиков и специалистов в области компьютерных наук. Их вердикты, даже

4

неправильные и наносящие вред, оказывались вне рамок обсуждения и за пределами
обжалования. И в их работе проявлялась тенденция к наказанию бедных и угнетенных слоев
населения в нашем обществе, в то время как богатые становились еще богаче.
Я подобрала название для таких вредоносных моделей: оружие математического
поражения, или сокращенно ОМП. Сейчас мы с вами разберем один пример, и я
продемонстрирую разрушительные возможности этого оружия.
Как часто бывает, все началось с благой цели. В 2007 году Адриан Фенти, новый мэр
Вашингтона, решительно взялся за улучшение недостаточно успешных школ. Перед ним
стояла непростая задача: в то время половина старшеклассников едва дотягивала до конца
девятого класса и лишь 8 % восьмиклассников осваивали соответствующую их возрасту
программу по математике. Фенти нанял реформатора в области образования Мишель Ри и
назначил ее на высокую должность председателя городского школьного совета Вашингтона.
Основной причиной, по которой ученики не получали знаний в достаточном
количестве, считалось низкое качество преподавания. Поэтому в 2009 году Ри привела в
действие план по «выкорчевыванию» плохих учителей. Этот процесс вскоре
распространился на всю страну, затронув районы с наиболее проблемным образованием. И с
точки зрения системного проектирования план был идеальным: давайте оценим учителей,
избавимся от самых плохих и поместим самых лучших туда, где они смогут принести
больше всего пользы. Говоря языком специалистов по анализу данных, это «оптимизирует»
школьную систему, предположительно обеспечив лучшие результаты для детей.
Кто стал бы с этим спорить, кроме самих «плохих» учителей? Ри разработала
инструмент оценки учителей под названием IMPACT, и к концу 2009–2010 учебного года
федеральный округ уволил всех преподавателей, чьи результаты оказались в нижних 2 %. К
концу следующего учебного года еще 5 %, то есть 205 учителей, были уволены из школ.
У Сары Высоцки, учительницы пятого класса, казалось бы, не было повода для
беспокойства. Она преподавала в средней школе Макфарланда всего два года, но уже
удостоилась высоких оценок своей работы и от директора школы, и от родителей своих
учеников. В одном отзыве подчеркивалось ее внимание к детям, в другом было отмечено,
что «она – одна из лучших учительниц, с которыми мне когда-либо доводилось
сталкиваться».
Однако в конце 2010–2011 учебного года Высоцки получила крайне низкий результат в
тесте IMPACT. Проблема заключалась в новой системе подсчета, известной как
моделирование коэффициента улучшения знаний учеников, которая оценивала
эффективность преподавания математики и языковых навыков. Этот результат, выданный
алгоритмом, составлял половину общей оценки Сары Высоцки – и он перевесил
положительные оценки со стороны школьной администрации и местного сообщества. У
округа не осталось выбора, кроме как уволить ее вместе с другими 205 учителями, результат
теста у которых оказался ниже минимального порога.
Это не выглядело ни охотой на ведьм, ни сведением счетов. В таком подходе
городского школьного совета есть логика. В конце концов, администраторы могут просто
дружить с очень плохими учителями. Они могут восхищаться их стилем или лояльностью.
Плохие учителя вполне могут производить впечатление хороших. И в Вашингтоне, как и во
многих других школьных округах, минимизировали фактор человеческой предвзятости и
сосредоточились на результатах, основанных на объективных данных: достижения детей в
математике и чтении. Официальные лица пообещали, что цифры будут говорить сами за
себя, что цифры более справедливы.
Разумеется, Высоцки посчитала цифры ужасно несправедливыми и захотела узнать,
откуда они взялись. «Я не думаю, что кто-либо понимал это», – позже сказала она мне. Как
хороший учитель может получить такой ужасный результат? В чем заключалась система
подсчета увеличения коэффициента знаний учеников?
Дело оказалось весьма запутанным. Школьный округ пригласил консалтинговую
компанию Mathematica Policy Research (MPR) из Принстонского университета, чтобы она

5

помогла разработать критерии оценки. Задачей MPR было оценить прогресс в образовании
учеников округа, а затем подсчитать, в какой степени улучшение или ухудшение их
результатов зависело от учителей. Задача, конечно, была непростой. Исследователи знали,
что на результаты может повлиять множество факторов, от социально-экономической
ситуации до специфических индивидуальных нарушений способности к обучению.
Алгоритмы MPR должны были учитывать эти факторы, и это было одной из причин, по
которой они оказались такими сложными.
И в самом деле, попытки вместить человеческое поведение, деятельность и потенциал в
алгоритмы – это непростая работа. Чтобы понять, с чем пришлось столкнуться MPR,
представьте себе десятилетнюю девочку, которая живет в бедном квартале на юго-востоке
города Вашингтон. В конце учебного года она сдает стандартизированный тест для пятого
класса. После этого ее жизнь продолжается. У нее могут появиться семейные или
финансовые проблемы. Она может переехать в другой дом или переживать за брата, у
которого возникли проблемы с законом. Она может страдать из-за собственного лишнего
веса или бояться какого-нибудь школьного хулигана. В любом случае в следующем году она
сдает еще один стандартизированный тест, теперь уже предназначенный для
шестиклассников.
Если вы сравните результаты двух тестов девочки, количество набранных баллов
должно остаться стабильным или, в лучшем случае, увеличиться. Но если она наберет
меньше баллов, чем в прошлом году, будет очень просто увидеть разницу между ее
результатами и результатами более успешных учеников.
Но насколько эта разница возникла по вине учителя? Сложно сказать, и модели MPR
располагают лишь несколькими числами для сравнения. В компаниях Больших данных,
таких как Google, напротив, исследователи проводят постоянные тесты и отслеживают
тысячи переменных. Они могут изменить шрифт рекламного объявления с синего на
красный, испытать каждую версию на десяти миллионах пользователей и отследить, на
какую из версий пришлось больше кликов. Они используют этот отклик, чтобы оттачивать
свои алгоритмы и их действия. И хотя у меня есть много претензий к Google (до этого мы
еще доберемся), нельзя не признать, что такой тип тестирования – это эффективное
использование статистики.
Попытка подсчитать, какое воздействие один человек может иметь на другого в
течение учебного года, – гораздо более сложная задача. «Есть столько факторов, которые
вмешиваются в процесс обучения, что проанализировать их крайне сложно», – говорит
Высоцки. Более того, попытка оценить эффективность учителя, проанализировав результаты
тестов всего лишь 25 или 30 учеников, статистически несостоятельна и просто смехотворна.
Эти числа слишком малы, учитывая потенциальное количество вариантов, в которых «что-то
пошло не так». В самом деле, если бы мы анализировали учителей со статистической
тщательностью интернет-поисковика, нам пришлось бы привлечь для теста тысячи или даже
миллионы случайно выбранных учеников. Специалисты по статистике оперируют большими
числами, чтобы сбалансировать исключения и аномалии. (И ОМП, как мы увидим, зачастую
наказывает тех, кто оказывается исключением.)
Что не менее важно, статистические системы требуют ответной реакции – чтобы
вовремя увидеть, что алгоритмы сбились с курса. Специалисты по статистике используют
ошибки, чтобы «натренировать» свои модели и сделать их более интеллектуальными. Если
Amazon.com в результате ошибочной корреляции начнет предлагать девочкам-подросткам
книги по уходу за лужайками, количество кликов резко снизится – и алгоритм будет
оттачиваться, пока заново не настроится. Без обратной связи, однако, статистический
механизм может и дальше работать с ошибками и искажать анализ, при этом не обучаясь на
этих ошибках.
Многие компоненты ОМП, которые я буду обсуждать в этой книге, включая систему
оценки прогресса учеников, введенную школьным округом Вашингтона, ведут себя именно
так. Они предлагают собственное определение реальности и исходят из него, чтобы

6

оправдать свои результаты. Это самовозобновляющийся, крайне деструктивный – и весьма
распространенный тип модели.
Когда система оценивания MPR объявляет Сару Высоцки и 205 других учителей
бездарностями, город их увольняет. Но откуда система узнает, что она выдала правильный
результат? Ниоткуда. Сама система определила их как бездарностей – и именно в таком
качестве они и рассматриваются. Двести шесть «плохих» учителей уходят. Один этот факт
призван продемонстрировать эффективность оценивающей модели – ведь она избавляет
школьный округ от недостаточно хорошо работающих учителей. Вместо того чтобы искать
правду, система оценки становится ее воплощением.
Это один из примеров петли обратной связи ОМП. В этой книге мы увидим и
множество других примеров подобных петель. Работодатели, например, все более широко
используют кредитную историю соискателей для оценки потенциальных новых работников.
Считается, что люди, которые вовремя платят по кредитам, с большей вероятностью будут
следовать правилам и не опаздывать на работу. На самом деле есть множество
ответственных людей и хороших работников, которым случалось пережить неудачное
стечение обстоятельств, от которых пострадала их кредитная история. Но убеждение в том,
что плохая кредитная история коррелирует с плохим исполнением рабочих обязанностей,
оставляет людям, имевшим проблемы с выплатами кредитов, гораздо меньше шансов найти
работу. Безработица подталкивает их к бедности, что еще сильнее ухудшает их кредитную
историю – и еще сильнее понижает шансы на получение работы. Это спираль, ведущая вниз.
Работодатели никогда не узнают о том, какое количество хороших работников они потеряли
из-за того, что сосредоточились на кредитной истории кандидатов. В ОМП многие вредные
установки прикрываются математикой – и с этого момента практически не проверяются и не
подвергаются критическому анализу.
Это подчеркивает еще одну распространенную особенность ОМП: это оружие имеет
свойство наказывать бедных. Отчасти это происходит из-за того, что ОМП разработано для
того, чтобы оценивать большие массы людей. Оно специализируется на больших числах, и
оно дешево. Это часть его привлекательности. К богатым же людям, с другой стороны,
зачастую используется индивидуальный подход. В привилегированной юридической фирме
или в частном детском саду личные рекомендации и личные встречи будут значить больше и
случаться гораздо чаще, чем в сети ресторанов быстрого питания или в испытывающем
финансовые трудности городском школьном округе. Мы постоянно видим, что
привилегированные слои обслуживаются и анализируются людьми, а массы – машинами.
Неспособность Высоцки найти хоть кого-то, кто мог бы объяснить, почему она
получила столь ужасный результат, тоже говорит о многом. Вердикты от ОМП подобны
велениям неких алгоритмических богов. Сама модель представляет собой черный ящик, а его
содержимое – яростно оберегаемая корпоративная тайна. Это позволяет таким
консультантам, как MPR, брать больше денег за свою работу, но также служит и другой
цели: считается, что, если людям, которых оценивают, ничего не объяснять, они с меньшей
вероятностью будут пытаться обыграть систему. Вместо этого они просто будут усердно
работать, следовать правилам и молиться, чтобы модель признала и оценила их усилия. А
если детали скрыты, то становится сложнее поставить под сомнение результат или
опротестовать его.
Не один год учителя Вашингтона жаловались на произвольные результаты и требовали
разглашения принципов подсчета. Им отвечали, что это очень сложный алгоритм, – и такой
ответ сам по себе уже отпугивал многих от дальнейших попыток разобраться. К сожалению,
математика пугает многих. Но учитель математики Сара Бакс продолжила добиваться
правды от администратора округа Джейсона Камраса. После переписки, длившейся
несколько месяцев, Камрас предложил Бакс подождать технического доклада, который
должен был вот-вот поступить. Бакс ответила: «Как вы можете оценивать людей с помощью
процедуры, которую вы сами не в состоянии объяснить?» Но именно такова природа ОМП.
Анализ перенаправлен программистам и специалистам по статистике. А они, как правило,

7

предоставляют слово машинам.
При всем при этом Сара Высоцки была хорошо осведомлена о том, что в формуле
имели большое значение результаты стандартизированного теста ее учеников. Именно здесь
она подозревала наличие ошибки. Прежде чем начать свой последний учебный год в средней
школе Макфарланда, она с радостью обнаружила, что ее будущие пятиклассники на
удивление хорошо справились с итоговыми тестами четвертого класса. В начальной школе
Барнарда, откуда пришли многие ученики Сары, уровень чтения 29 % учащихся был
определен как «продвинутый», что в пять раз превышало средний показатель по городскому
школьному округу.
Однако, когда начались занятия, выяснилось, что многие из ее учеников с трудом
способны прочесть простое предложение. Много позднее журналистские расследования,
проведенные газетами The Washington Post и USA Today, выявили высокий уровень
исправлений в ответах стандартизированных тестов в 41 школе округа, включая школу
Барнарда. Высокий уровень исправленных ответов указывает на большую вероятность
подделки результатов. В некоторых школах под подозрение попало до 70 % классов.
Какое отношение это имеет к ОМП? Тут важны два фактора. Во-первых, алгоритмы
оценки учителя – мощный инструмент для корректировки поведения. Это, собственно, и есть
цель этих алгоритмов, и в школах Вашингтона они олицетворяли собой как кнут, так и
пряник. Учителя знали, что, если их ученики плохо напишут тесты, их собственные рабочие
места окажутся под угрозой. Это давало учителям сильную мотивацию добиться того, чтобы
их ученики нормально справились с тестами, – особенно после того, как на рынок труда
обрушилась Великая рецессия. В то же время, если их студенты превзошли бы сверстников,
учителя и администрация могли получить бонусы суммой до восьми тысяч долларов.
Добавьте эти мощные мотивационные элементы к уликам в деле – большому количеству
исправлений и аномально высоким результатам, – и вы получите основания подозревать, что
учителя четвероклассников либо из страха, либо из жадности подделали результаты
экзаменов своих учеников.
Таким образом, вполне вероятно, что ученики Сары Высоцки начали учебный год с
искусственно завышенными результатами. В таком случае результаты их тестов в конце года
вполне могли показать, что у них существенно снизился уровень результатов – то есть что
учителя пятого класса недостаточно хорошо их обучали. Высоцки убеждена, что именно это
с ней и случилось. Это объяснение хорошо укладывалось в наблюдения родителей, коллег и
директора, которые в один голос утверждали, что она очень хорошая учительница. Если бы
учительницу уволили люди, это можно было бы оспорить. У Сары Высоцки были очень
веские основания для апелляции.
Но апеллировать к оружию математического поражения невозможно. Это – часть его
пугающей силы. Оно ни к кому не прислушивается и ни перед кем не отступает. Оно глухо
не только к лести, угрозам и уговорам, но и к логике, даже когда есть хорошие основания
усомниться в информации, которая послужила основной их выводов. Да, если становится
очевидно, что автоматическая система выдает настолько неверные результаты, что это
бросается в глаза, программисты все-таки доработают алгоритмы. Но по большей части
программы изрекают вердикты, не подлежащие обжалованию, а обслуживающие их люди
могут только пожимать плечами, словно хотят сказать: «Ну что же тут поделаешь?»
Именно этот ответ Сара Высоцки и получила от школьного округа. Джейсон Камрас
позже сообщил Washington Post, что исправления были «подозрительными» и что цифры у ее
пятого класса могли быть неверными. Но эти свидетельства не были достаточно
убедительными. По его мнению, с Сарой поступили справедливо.
Видите парадокс? Алгоритм обрабатывает массу статистических данных и выдает
вероятность того, что определенный человек может быть ненадежным арендатором,
сомнительным заемщиком, террористом или плохим учителем. Эта вероятность выражается
в результате, который может разрушить чью-то жизнь. Однако когда человек высказывает
претензии к этому результату, то «подозрительные» свидетельства, могущие его оспорить,

8

просто не принимаются во внимание. Дело должно быть железобетонным. Люди – жертвы
ОМП, как мы увидим снова и снова, должны предоставить гораздо более четкие
свидетельства, чем сами алгоритмы.
Пережив шок от увольнения, Сара Высоцки оставалась без работы всего несколько
дней. Ее окружала масса людей, включая ее бывшего директора, которые готовы были
поручиться за нее как за отличного учителя, и в результате она быстро нашла работу в школе
соседнего округа, в Северной Вирджинии. Благодаря спорной модели бедная школа потеряла
хорошего учителя, а богатая школа, которая не увольняет людей на основании результатов
ученических тестов, этого хорошего учителя приобрела.
После ипотечного кризиса я остро осознала, насколько повсеместно распространено
ОМП в банковском деле, и ту опасность, которую оно предоставляет для нашей экономики.
В начале 2011 года я ушла из хедж-фонда. Позже, переименовав себя в специалиста по
анализу данных, я присоединилась к стартапу в области онлайн-торговли. С этой
выигрышной позиции мне было прекрасно видно, как легионы других видов ОМП
ввинчиваются во все области промышленности и многие из них при этом усиливают
неравенство и наказывают бедных. Оружие математического поражения находилось в самом
сердце бурно развивающейся экономики данных.
Чтобы распространить информацию об ОМП, я завела блог под названием MathBabe.
Моей целью была мобилизация коллег-математиков на борьбу с небрежным использованием
статистики и основанных на предвзятости моделей, которые создавали свои собственные
токсичные петли обратной связи. Специалисты по анализу данных, которых заинтересовал
мой блог, сообщали мне о распространении ОМП в новых областях. Но в середине 2011
года, когда в Нижнем Манхэттене развернулось протестное движение «Захвати Уолл-стрит»,
я поняла, что нам нужно работать с более широкой аудиторией. Тысячи протестующих
собрались, чтобы потребовать экономической справедливости и финансовой подотчетности.
Однако, когда я услышала интервью с участниками этого движения, я обнаружила, что они
зачастую не знают о самых основных проблемах, связанных с финансами. Они явно не
читали мой блог. (Тут я должна добавить, что необязательно знать все детали системы,
чтобы понять, что она неработоспособна.)
Я поняла, что могу либо критиковать их, либо к ним присоединиться, и выбрала второе.
Вскоре я уже проводила еженедельные встречи Альтернативной банковской группы при
Колумбийском университете, где мы обсуждали финансовую реформу. В ходе этого
процесса я осознала, что обе мои вылазки за пределы академического мира – одна в финансы
и другая в науку данных – обеспечили меня потрясающим доступом к технологиям и ОМП,
приводимому в действие культурой.
Плохо продуманные математические модели в наши дни управляют экономикой везде,
от рекламных кампаний до тюрем. Это ОМП обладает многими характеристиками, которые
похожи на модель подсчета прогресса учеников, чуть не пустившую под откос карьеру Сары
Высоцки в вашингтонских школах. Они непрозрачны, не подвергаются вопросам и
сомнениям, массово распространены и занимаются тем, что сортируют, вычленяют и
«оптимизируют» миллионы людей. Путая свои выводы с объективной реальностью,
большинство из них создает губительные петли обратной связи ОМП.
Но есть одно важное различие между моделью подсчета увеличения коэффициента
знаний учеников, созданной школьным округом, и, скажем, разновидностью оружия
математического поражения, подсчитывающей перспективы выдачи микрокредитов. Они
имеют разную отдачу. Для школьного округа отдача – что-то вроде политической валюты:
ощущение, что задачи решаются. Но для бизнеса валюта используется самая стандартная:
деньги. Для многих предприятий, применяющих эти грубые алгоритмы, притекающие к ним
денежные потоки дают иллюзию доказательства того, что их модели работают. Посмотрите
на ситуацию их глазами – и она для вас будет иметь смысл. Когда такие предприятия строят
статистические системы, чтобы найти клиентов или манипулировать отчаявшимися
заемщиками, растущий доход демонстрирует им, что они на правильном пути. Программное

9

обеспечение хорошо делает свою работу. Проблема заключается в том, что прибыль
выступает как мерило качества моделей. Мы увидим, как это опасное заблуждение будет
проявляться снова и снова.
Это происходит из-за того, что специалисты по анализу данных слишком часто теряют
из виду людей, для которых вроде бы предназначен этот анализ. Эти специалисты наверняка
понимают, что программа, обрабатывающая данные, не может в определенном проценте
случаев не дать неправильную оценку, ошибочно поместив того или иного человека в ту или
иную социальную группу, что приведет к тому, что он не получит хорошую работу или шанс
взять ипотеку на дом своей мечты. Но чаще всего люди, управляющие ОМП, не
зацикливаются на этих ошибках. Их обратная связь – это деньги, а рост прибылей – их
мотивация. Их системы разработаны так, чтобы захватывать как можно больше данных и
оттачивать аналитику, обеспечивая все больший приток денег. Инвесторы, конечно же,
радуются своей прибыли и осыпают компании-разработчики ОМП еще большим
количеством денег.
А жертвы? Любой специалист по анализу внутренних данных скажет вам, что ни одна
статистическая система не может быть идеальной. Жертвы – это сопутствующий риск. И
зачастую их признают, как Сару Высоцки, всего лишь расходным материалом. Забудьте о
них на минуту, скажут вам, и подумайте обо всех тех людях, которые получили полезные
предложения через рекомендации от поисковиков, или нашли любимую музыку на сайте
Pandora, или идеальную работу на LinkedIn, или, возможно, встретили любовь всей своей
жизни на Match.com. Думайте о впечатляющих масштабах, позабудьте о мелких недостатках.
Большие данные имеют много горячих поклонников, но я к ним не отношусь. Эта книга
будет острейшим образом сосредоточена на другом направлении: на том ущербе, который
приносит оружие математического поражения, и на несправедливостях, которые оно
порождает. Мы исследуем ущерб, который был нанесен людям в критические моменты их
жизни: во время поступления в колледж, при попытках взять кредит, при вынесении им
приговора в суде, в поисках работы. Все эти жизненно важные рубежи всё в большей и
большей степени контролируются тайными моделями, которые произвольно наказывают
людей.
Добро пожаловать на темную сторону Больших данных.

Компоненты бомбы: что такое модель?
Стоял жаркий августовский день 1946 года. У Лу Бодро, играющего менеджера
команды Cleveland Indians, было отвратительное настроение. В первой из двух игр,
намеченных на этот день, Тед Уильямс практически в одиночку унич тожил команду Бодро.
Уильямс, возможно лучший хиттер того времени, выбил три хоум-рана и еще довел восемь
игроков до домашней базы. В итоге «Индейцы» проиграли со счетом 10:11.
Бодро нужно было что-то предпринять. Поэтому, как только Уильямс вышел на поле во
второй игре, игроки «Индейцев» начали быстро перемещаться. Бодро, шорт-стоп, перебежал
на место, где обычно стоял второй бейсмен, а второй бейсмен отошел на правый аутфилд,
третий бейсмен сдвинулся влево, к месту шорт-стопа. Было очевидно, что Бодро (возможно,
эта идея была продиктована отчаянием) полностью изменил расположение своей защиты,
чтобы превратить хиты Теда Уильямса в ауты.
Другими словами, Бодро мыслил как специалист по анализу данных. Он
проанализировал предварительные данные, по большей части на основе наблюдений:
обычно Тед Уильямс делал подачу в правый аутфилд. Затем он предпринял меры – и они
сработали. Игроки стали ловить больше мощных лайнеров Уильямса (хотя они по-прежнему
ничего не могли сделать с хоум-ранами, пролетающими над их головами).
Если вы сегодня придете на бейсбольную игру высшей лиги, вы увидите, что защита
относится практически к каждому игроку противника как к Теду Уильямсу. Если Бодро
просто пронаблюдал за тем, куда Уильямс обычно направлял удар, то сейчас менеджеры

10

точно знают, куда каждый игрок направлял удар в течение последней недели, за последний
месяц, за всю карьеру, играя против левшей, в ситуации, когда у него было два страйка, и так
далее и тому подобное. Используя эту собранную информацию, они могут проанализировать
текущую ситуацию и рассчитать расстановку игроков, дающую наибольшую вероятность
успеха. Иногда это включает в себя довольно-таки существенные перемещения игроков по
полю.
Перенос защиты – лишь часть гораздо более серьезного вопроса: какие шаги могут
предпринять бейсбольные команды для максимизации вероятности победы? В поисках
ответа на этот вопрос специалисты по бейсбольной статистике изучили каждую переменную,
которую смогли количественно измерить, и присвоили ей определенную ценность.
Насколько дабл ценнее сингла? Когда, если вообще когда-либо, имеет смысл использовать
сэкрифайс-бант для перемещения раннера с первой на вторую базу?
Ответы на все эти вопросы смешаны и объединены в математические модели этого
спорта. В мире бейсбола существуют параллельные вселенные, и каждая из них представляет
собой сложное вероятностное полотно. Они включат в себя каждое измеримое отношение
между каждым спортивным компонентом, от уоков и хоум-ранов и до самих игроков. Цель
модели – просчитать разные сценарии на каждой развилке и найти оптимальные
комбинации. Если Yankees поставят питчера-правшу против сильного отбивающего Майка
Траута из Angels, в сравнении с их текущим питчером – кто с большой вероятностью его
выбьет? И как это повлияет на общую вероятность победы?
Бейсбол – идеальная база для предиктивного математического моделирования. Как
писал Майкл Льюис в своем бестселлере Moneyball (2003)1 , этот спорт привлекал самых
увлеченных аналитиков данных на протяжении всей его истории. В прошлом фанаты
изучали статистику по оборотным сторонам бейсбольных карточек, анализируя
закономерности хоум-ранов Карла Ястржемски или сравнивая общее количество
страйк-аутов Роджера Клеменса и Дуайта Гудена. Но начиная с 1980-х годов за дело взялись
серьезные специалисты по статистике – они начали разбираться, что же, собственно,
означают все эти цифры вместе с огромным количеством новых данных: как именно они
конвертируются в победы и как руководство команды может достичь максимального успеха
при минимальных вложениях.
Сегодня термин moneyball («денежный мяч») служит условным обозначением любого
статистического подхода в областях, где в течение долгого времени господствовала
исключительно интуиция. Но пример бейсбола – это пример здорового анализа, который я
привела для контраста с более токсичными примерами анализа, которые я считаю действием
ОМП и которые появляются во все большем количестве областей нашей жизни.
Бейсбольные модели справедливы, в частности, из-за своей прозрачности. Любой человек
располагает доступом к статистике и может более или менее понять, как она
интерпретируется. Да, конечно, модель одной команды может придавать больше ценности
хоум-раннерам, в то время как другие могут их слегка недооценивать из-за того, что сильные
отбивающие имеют тенденцию к большому количеству страйк-аутов. Но в любом случае
информация о числе хоум-ранов и страйк-аутов доступна для всех интересующихся.
Кроме того, в бейсболе есть статистическая строгость. Его гуру располагают огромным
количеством информации, и практически вся она напрямую касается манеры игроков. Более
того, эта информация имеет непосредственное отношение к результатам, которые эти гуру
пытаются предсказать. Это может показаться очевидным, но, как мы увидим на страницах
этой книги, люди, создающие оружие математического поражения, испытывают постоянный
дефицит информации как раз о тех типах поведения, которые их больше всего интересуют. В
результате они подставляют вместо информации ее подмену (прокси). Они проводят
1 Moneyball. Как математика изменила самую популярную спортивную лигу в мире / пер. Натальи
Воронцовой. М.: Манн, Иванов и Фербер, 2013.

11

статистические корреляции между чьим-то почтовым кодом или манерой речи и
способностью этого человека выплатить кредит или справиться с рабочими обязанностями.
Эти корреляции дискриминационны, а некоторые из них и незаконны. Бейсбольные модели
по большей части не используют прокси из-за того, что они располагают фактической
информацией: мячами, страйками и хитами.
Но самое главное – поток этой информации постоянно обновляется благодаря
статистике, собираемой с 12–13 игр ежедневно с апреля по октябрь. Специалисты по
статистике могут сравнить результаты этих игр с предсказаниями своих моделей – и увидеть,
где они были не правы. Возможно, они предсказали, что реливер-левша пропустит много
хитов от бэттеров-правшей – а он в результате их разгромил. В этом случае статистики
пытаются подправить свою модель и пристально изучают, как и почему они ошиблись.
Возможно, это новый крученый мяч питчера повлиял на их статистику? Или этот питчер
лучше играет по вечерам? Все, что они узнают, они снова загрузят в модель, чтобы еще
тоньше настроить ее. Именно так работают модели, заслуживающие доверия. Они постоянно
взаимодействуют с миром, который они пытаются понять или предсказать. Если условия
меняются – модель должна меняться вместе с ними.
Посмотрев сейчас на бейсбольную модель с ее тысячами переменных, вы можете
задуматься: как вообще можно сравнивать ее с моделью, использованной для оценки
учителей в школах Вашингтона? Первая моделирует спортивную игру в мельчайших деталях
и постоянно обновляется. Вторая, при всей ее таинственности, опирается из года в год на
результаты горстки тестов. Можно ли вообще называть ее моделью?
Ответ – да. Любая модель, в конце концов, есть не что иное, как абстрактное
представление какого-то процесса, будь то бейсбольная игра, цепочка поставщиков
нефтяной компании, действия иностранного правительства или посещаемость кинотеатра.
Загружена ли она в компьютерную программу или хранится в нашей голове, модель берет
наши знания и использует их для того, чтобы предсказать будущие результаты процесса в
разных ситуациях. Все мы держим в уме тысячи моделей. Они подсказывают, чего нам
ожидать, и руководят нашими действиями.
Вот неформальная модель, которую я использую ежедневно. Будучи мамой троих
детей, я сама готовлю еду – мой муж, милейший человек, каждый раз забывает посолить
макароны. Каждый вечер, когда я начинаю готовить ужин на всю семью, я внутренне и
интуитивно моделирую аппетит каждого домочадца. Я знаю, что один из сын овей любит
курицу (но ненавидит гамбургеры), а другой ест только пасту (с дополнительной порцией
тертого пармезана). Но я также принимаю во внимание то, что их аппетиты меняются в
разные дни – поэтому в мою модель может вкрасться ошибка. В ней всегда будет
неизбежный элемент неопределенности.
В мою модель вкладывается информация о моей семье, об ингредиентах, которые у
меня уже имеются или мне доступны, а также моей собственной энергии, времени и
амбициях. На выходе я получаю решение, что и как мне приготовить. Я оцениваю успех
ужина степенью удовлетворенности моей семьи, а также количеством съеденного и тем,
насколько еда была здоровой. То, насколько хорошо принимают приготовленную мной еду и
сколько ее съедают, позволяет мне обновить свою модель к следующему приготовлению
ужина. Обновления и уточнения делают модель динамической – так это называется в
статистике.
С гордостью могу сказать, что со временем я научилась очень неплохо готовить для
своей семьи. Но представьте, что нам с мужем нужно уехать на неделю, а мне понадобится
объяснить свою модель моей маме, чтобы она смогла меня заменить? Или если моя
многодетная подруга заинтересовалась моим подходом? В этот момент я попытаюсь придать
моей модели какие-то более формальные черты, сделать ее более систематической – и, в
каком-то смысле, более математической. Если у меня хватит амбиций, я даже могу создать
на ее основе компьютерную программу.
В идеале такая программа учтет все возможные варианты ингредиентов, их

12

питательность и стоимость, а также будет включать полную базу данных о вкусах моей
семьи, все любимые и нелюбимые блюда и продукты моих домочадцев. Однако мне будет не
так уж просто взять и извлечь всю эту информацию из собственной головы. Да, у меня полно
воспоминаний о том, как кто-то попросил добавку спаржи или заявил, что терпеть не может
стручковую фасоль, но эти воспоминания перемешаны – мне будет сложно свести их в один
список.
Лучшим решением станет доработка модели с течением времени – ежедневный ввод
информации о том, что я купила и приготовила, и какой отклик от каждого члена семьи
получила. Я смогу также задавать те или иные параметры и ограничения. Я могу ограничить
по сезону фрукты и овощи, зато раздать определенное количество печенья «Поп -тартс»,
чтобы предотвратить открытый бунт. Можно ввести и другие параметры, запомнить, кто
больше любит мясо, кто – хлеб и пасту, кто пьет много молока, а кто настаивает, чтобы
любой предмет на его тарелке можно было намазать нутеллой.
Если бы я посвятила все свое время этой работе, то за несколько месяцев могла бы
получить весьма неплохую модель. Я бы превратила систему приготовления еды,
хранящуюся в моей голове, – мою неформальную внутреннюю модель – в формальную
внешнюю. В этой модели я бы вынесла наружу, во внешний мир, свои знания и умения. Я бы
построила автоматическую версию себя, которой могли бы воспользоваться другие люди
даже в мое отсутствие.
Однако в ней всегда бы были ошибки, потому что любые модели всегда представляют
собой упрощения. Ни одна модель не может включить в себя всю сложность мира или
нюансы человеческого общения. Какая-то важная информация неизбежно оказывается
упущенной. Возможно, я бы забыла сообщить своей модели о том, что правило запрета на
фастфуд менее строго соблюдается в дни рождения или что сырая морковка пользуется
большей популярностью, чем вареная.
Чтобы создать модель, таким образом, мы делаем выбор и решаем, что достаточно
важно для включения в нее. Мы упрощаем мир до его игрушечной версии, которая может
быть легко понята и из которой мы можем извлечь важные факты и действия. Мы ожидаем
от модели выполнения только одной работы и заранее смиряемся с тем, что иногда она будет
работать бестолково, с огромными пробелами.
Иногда пробелы не имеют значения. Когда мы запрашиваем у Google Maps маршрут,
программа моделирует мир как набор улиц, туннелей и мостов. Она игнорирует здания,
потому что те не имеют отношения к задаче. Когда авиационное программное обеспечение
управляет самолетом, оно моделирует ветер, скорость самолета и посадочную полосу внизу,
но игнорирует улицы, туннели, здания и людей.
Пробелы модели отражают суждения и приоритеты ее создателей. И хотя выбор при
составлении Google Maps и авиационного программного обеспечения кажется очевидным, в
других случаях он гораздо более проблематичен. Если мы вернемся к примеру
вашингтонских школ, их модель подсчета увеличения коэффициента знаний учеников
оценивает учителей по большей части на основе данных тестов учеников, игнорируя такие
факторы, как вовлеченность учителя в процесс, его работу над определенными навыками,
классное руководство и помощь ученикам в их личных и семейных проблемах. Она слишком
проста и жертвует точностью и охватом во имя эффективности. При этом, с точки зрения
администраторов, она предоставляет эффективное орудие для выявления сотен якобы
негодных учителей – даже если существует риск неверной интерпретации профессионализма
некоторых из них.
Здесь мы видим, что модели, несмотря на их кажущуюся непредвзятость, отражают
заложенные в них цели и идеологию. Когда я исключала возможность поедания печенья за
каждым приемом пищи, я переносила свою идеологию на модель еды. Это то, что все мы
делаем машинально, не задумываясь. Наши собственные ценности и желания влияют на наш
выбор, от данных, которые мы предпочитаем собирать, до вопросов, которые мы задаем.
Модели – это мнения, заключенные в математическую форму.

13

Работает модель или нет – это также вопрос субъективный. В конце концов, ключевой
компонент каждой модели, как формальной, так и неформальной, – это ее критерий успеха.
Это важный пункт, к которому мы вернемся, когда будем исследовать темный мир ОМП. В
каждом случае мы должны спросить не только о том, кто разработал модель, но также чего
именно он пытался достичь. Если правительство Северной Кореи возьмется, например,
построить модель для моих семейных ужинов, то эта модель, вероятно, будет
оптимизирована таким образом, чтобы держать нас чуть выше порога полного истощения,
минимизируя при этом затраты и число доступных ингредиентов. Понятно, что наши личные
предпочтения при этом будут значить мало или вообще ничего. С другой стороны, если бы
эту модель составляли мои дети, то критерием ее успешности стало бы мороженое на
завтрак, обед и ужин. Моя собственная модель пытается объединить северокорейское
управление ресурсами и благополучие моих детей, а также мои собственные представления о
здоровье, удобстве, разнообразии и экологичности. В результате она оказывается более
сложной, но все еще отражает мою личную реальность. А модель, построенная в
соответствии с сегодняшним днем, завтра будет работать еще хуже. Если ее постоянно не
обновлять, она застынет и устареет. Цены меняются, предпочтения растущих детей тоже.
Модель, построенная для шестилетки, не сработает для подростка.
То же самое верно и для внутренних моделей. Вы часто можете видеть, как возникают
проблемы у дедушек и бабушек, которые навещают давно не виденную ими внучку. Во
время предыдущего визита они собрали информацию о том, что она знает и умеет, что
вызывает у нее смех, какие телепередачи она любит, – и (подсознательно) построили модель
под эту конкретную четырехлетнюю девочку. Однако во время следующей встречи через год
они могут столкнуться с неловкой ситуацией из-за того, что их модель устарела. Например,
ей больше не нравится Паровозик Томас. Потребуется время, чтобы собрать новую
информацию о внучке и перенастроить модель.
Это не означает, что хорошие модели не могут быть простыми. Некоторые очень
эффективные модели основываются на единственной переменной. Самая распространенная
модель по обнаружению пожара в доме или офисе, например, учитывает единственный, зато
непосредственно имеющий отношение к проблеме фактор – наличие дыма. Обычно этого
достаточно. Но создатели моделей сталкиваются с проблемами – или сталкивают нас с этими
проблемами, – когда они проецируют такие простые модели, как пожарная сигнализация, на
людей.
Расизм на индивидуальном уровне может рассматриваться как предиктивная модель,
распространившаяся в сознании миллиардов людей по всему миру. Она основана на
ошибочной, неполной или обобщенной информации. Информация, основанная на опыте или
рассказах других людей, указывает на то, что определенные люди плохо себя ведут. Это
приводит к упрощенному предсказанию, что все люди той или иной расы будут вести себя
таким же образом.
Нет нужды говорить, что расисты не тратят время на то, чтобы собрать надежную
информацию и протестировать свои искаженные модели. Как только их модель
превращается в убеждение, она становится прошивкой мозга. Она генерирует допущения,
однако редко их тестирует, вместо этого подыскивая информацию, которая, как кажется
расисту, их подтверждает и подпитывает. Вследствие этого расизм представляется самой
неряшливой из предиктивных моделей. Он основан на небрежном сборе информации и
ложных корреляциях, он усилен институциональным неравенством и загрязнен
предвзятостью подтверждения. Но как это ни странно, расизм действует так же, как многие
из видов оружия математического поражения, которые я буду описывать в этой книге.
В 1997 году афроамериканец Дуэйн Бак, признанный виновным в убийстве двух
человек, предстал перед судьей округа Харрис, штат Техас. Судья должен был решить,
приговорить преступника к смерти или к пожизненному заключению (во втором случае
оставалась теоретическая возможность условно-досрочного освобождения). Прокурор
настаивал на смертном приговоре, утверждая, что, если Бак когда-нибудь выйдет на свободу,

14

он может убить снова. Адвокат Бака, со своей стороны, пригласил эксперта -психолога
Уолтера Кихано, специалиста по рецидивам среди бывших заключенных. В ходе
перекрестного допроса Кихано упомянул расовую принадлежность Бака, и прокурор тут же
уцепилась за это:
– То есть вам удалось установить, что… что расовый фактор, принадлежность к черной
расе, по различным сложным причинам увеличивает потенциальную опасность человека в
будущем, правильно? – спросила она.
– Правильно, – ответил Кихано.
Прокурор подчеркнула этот факт в своей заключительной речи – и Дуэйн Бак был
приговорен к смерти.
Через три года главный прокурор штата Техас Джон Корвин обнаружил, что психолог
Уолтер Кихано дал подобные (основанные на расовой принадлежности) заключения в шести
других случаях, когда речь шла о высшей мере наказания. Большую часть из них – выступая
на стороне обвинения. Корвин, который тогда готовился к выборам в Сенат 2002 года,
приказал провести повторные слушания для семи осужденных, запретив упоминать в суде их
расовую принадлежность. В соответствующем пресс-релизе он писал:
Совершенно непозволительно учитывать расовую принадлежность как
фактор в нашей системе правосудия… Техасцы заслуживают системы, которая
обеспечивает справедливое отношение для каждого человека, – и они должны
получить такую систему.

Дела шестерых осужденных были рассмотрены заново, однако все смертные приговоры
были оставлены в силе: суд счел, что показания Кихано ни в одном случае не были
решающими. Седьмой осужденный – Дуэйн Бак – не получил нового слушания: возможно,
из-за того, что в данном случае расовый фактор выдвинул свидетель защиты. Бак все еще
находится в камере смертников 2.
Независимо от того, насколько важен расовый фактор в обстоятельствах судебного
дела, он уже довольно давно представляет собой основной фактор в вынесении приговора.
Исследование Мэрилендского университета продемонстрировало, что в техасском округе
Харрис, в который входит и город Хьюстон, прокуроры в три раза чаще требуют смертного
приговора для афроамериканцев и в четыре раза чаще – для американцев
латиноамериканского происхождения, чем для белых, которых судят за аналогичные
преступления. И такое происходит не только в Техасе. В соответствии с данными
Американского союза защиты гражданских свобод, судебные сроки, которые назначаются
черным мужчинам в федеральной системе, на 20 % длиннее, чем сроки белых, осужденных
за схожие преступления. И хотя афроамериканцы составляют всего 13 % населения США,
они заполняют 40 % тюремных камер.
По-видимому, можно предположить, что математическая модель оценки рисков
рецидива может уменьшить влияние человеческих предубеждений при вынесении
приговоров и повлечет более справедливое отношение к подсудимым. В надежде на это суды
двадцати четырех штатов стали использовать так называемые модели вероятности рецидива
(recidivism models). Эти модели помогают судьям более адекватно оценить опасность,
которую может представлять в будущем тот или иной осужденный. И по многим меркам
такие модели – шаг вперед. Благодаря им приговоры стали более логичными и меньше
подвержены настроению и предвзятости судей. К тому же эти модели экономят деньги,
сокращая среднестатистический тюремный срок (на содержание одного заключенного
2 3 октября 2017 года приговор Бака был все же пересмотрен: на этот раз Бак был приговорен к
пожизненному заключению с правом на условно-досрочное освобождение после отбытия 40 лет срока плюс к
двум одновременным 60-летним срокам за два покушения на убийство. Бак получит право на
условно-досрочное освобождение в 2035 году. – Здесь и далее – примеч. науч. ред., если не оговорено иное.

15

уходит в среднем 31 000 долларов в год, а в «дорогих» штатах вроде Нью-Йорка и
Коннектикута эта сумма вдвое выше).
Главный вопрос тут, однако, вот какой: в самом ли деле мы исключили фактор
человеческой предвзятости или просто замаскировали его? Новые модели вероятности
рецидива сложны и основаны на математике. Однако данные внутри этих моделей – целый
букет допущений, причем некоторые из них основаны на предубеждениях. И если показания
Уолтера Кихано были официально зафиксированы, так что их позже можно было вновь
прослушать и обжаловать в суде, то принцип работы модели запрятан в алгоритмах, в
которых могут разобраться лишь единичные специалисты.
Одна из самых популярных моделей, известная как Переработанная оценка
уголовно-исправительной инспекции (Level of Service Inventory-Revised, LSI-R), включает в
себя длинную анкету, которую должны заполнить заключенные. Один из вопросов
– «Сколько предыдущих судимостей у вас было?» – имеет непосредственное отношение к
риску рецидива. Некоторые другие также близко связаны с темой: «Какую роль другие люди
играли в правонарушении? Какую роль играли алкоголь и наркотики?»
Но дальнейшие вопросы все больше углубляются в частную жизнь человека – и тут уже
легко представить себе, как заключенные из привилегированных слоев будут отвечать одним
образом, а жители криминогенных районов – совсем другим. Спросите у преступника,
который вырос в престижном пригороде: «Когда вы впервые столкнулись с полицией?» – и
скорее всего, окажется, что у него не было ни одного такого столкновения вплоть до того
случая, который и привел его в тюрьму. Однако молодого афроамериканца полиция с
высокой долей вероятности останавливала десятки раз, даже когда он не делал ничего
противозаконного.
Исследование
Нью-Йоркского
союза
гражданских
свобод
продемонстрировало, что, хотя афроамериканцы и латиноамериканцы составляют всего 4,7
процента населения города, в 40,6 процента случаев остановке и обыску полицией
подвергаются именно они. Более 90 % осмотренных таким образом оказывались
невиновными. Какой-то процент из оставшихся составляют пьяные подростки или
подростки, у которых нашли одну сигарету с марихуаной. Причем, в отличие от
большинства богатых подростков, которые оказались бы в этой ситуации, у
афроамериканцев и латиноамериканцев в этом случае начинаются неприятности. Поэтому,
если ранняя встреча с полицией свидетельствует о повышенной вероятности рецидива, то
получается, что выходцы из бедных кварталов и представители расовых меньшинств
автоматически зачисляются в группу риска.
Вопросы анкеты на этом не заканчиваются. Заключенных спрашивают, есть ли
судимости у их друзей и родственников. И снова: задайте такой вопрос преступнику,
который вырос в квартале среднего класса, – с большой долей вероятности ответ будет
отрицательным. Опросник действительно избегает вопросов о расе – они незаконны. Но,
учитывая степень подробности, с которой каждый заключенный рассказывает о своей жизни,
этот единственный незаконный вопрос практически оказывается ненужным.
Анкету LSI-R, разработанную в 1995 году, с тех пор заполнили тысячи заключенных.
Специалисты по статистике использовали эти результаты, чтобы построить систему, в
которой ответы, имеющие непосредственное отношение к риску рецидива, имели бы
больший вес и добавляли больше баллов. После сдачи анкеты осужденные распределяются
по категориям высокого, среднего и низкого риска на основе полученных ими баллов. В
некоторых штатах, таких как Род-Айленд, эти тесты используются, только чтобы направить
осужденных с высоким риском на программы профилактики рецидива во время отбывания
тюремного срока. Но в других штатах, в том числе Айдахо и Колорадо, судьи используют
эти результаты и при вынесении приговора.
Это несправедливо. Опросник включает обстоятельства рождения и воспитания
преступника, данные о его или ее семье, окружении и друзьях. Но подобные детали не
должны иметь отношения к уголовному делу или к приговору. В самом деле, если бы
прокурор попытался очернить подзащитного, упомянув количество судимостей его брата

16

или уровень преступности в районе, где он живет, адвокат бы тут же воскликнул:
«Возражаю, ваша честь!» И разумный судья принял бы это возражение. Таковы основы
нашей правовой системы. Нас судят за то, что мы делаем, а не за наше происхождение. И
хотя мы не знаем, сколько именно баллов добавляют эти пункты анкет, любое значение,
отличное от нуля, несправедливо.
Многие скажут, что статистические системы, подобные LSI-R, все же достаточно
эффективны в оценке вероятности рецидива – по крайней мере, они более точны, чем
интуитивные предположения того или иного судьи. Но даже если мы отложим в сторону,
совсем ненадолго, серьезнейшую проблему справедливости, мы обнаружим, что
соскальзываем в губительную петлю обратной связи ОМП. Осужденный с «высоким
риском», скорее всего, окажется в прошлом безработным выходцем из района, в котором
многие его родственники и друзья имели столкновения с законом. Отчасти из -за большого
количества баллов, набранного в ходе заполнения анкеты, он получает более длительный
тюремный срок, который закроет его на большее количество лет в тюрьме в окружении
таких же преступников, как он, – что повышает вероятность его возвращения в тюрьму. В
конце концов его выпускают на свободу, и он возвращается все в тот же бедный район, но на
этот раз с судимостью, которая еще больше затруднит ему получение работы. Если он
совершит еще одно преступление, модель оценки риска рецидива может объявить об
очередном своем успехе. Но на самом деле это сама модель вносит вклад в токсичный цикл и
помогает его поддерживать. Это ключевое свойство оружия математического поражения.
***
В этой главе мы познакомились с тремя типами статистических моделей. Бейсбольные
модели по большей части можно счесть здоровыми. Они прозрачны, постоянно
обновляются, и все допущения и выводы можно легко проследить. Такие модели
подпитываются статистикой самой игры, а не прокси-реальностью. Люди, которых их
составляют, понимают процесс и разделяют цель модели: выиграть Мировую серию. (Хотя,
конечно, это не значит, что многие игроки, как только подойдет время подписывать
контракт, не попытаются поспорить с оценкой модели: «Конечно, я сделал двести раз
страйк-аут, но только посмотрите на мои хоум-раны…»)
С моей точки зрения, нет ничего плохого и во второй модели, которую мы
обсуждали, – гипотетической модели семейных ужинов. Если бы мои дети задались
вопросами о допущениях, которые за ней стоят, как экономических, так и диетических, я бы
с удовольствием об этом рассказала. И даже если они иногда ворчат, получая очередную
порцию зеленого салата, они, вероятно, признают, что моя модель отвечает целям удобства,
экономии, здоровья и хорошего вкуса – хотя, возможно, в своих собственных моделях они
придадут этим факторам другой вес (и они могут начать создавать свои модели с того самого
момента, когда начнут сами покупать себе продукты).
Должна добавить, что моя модель вряд ли когда-нибудь приобретет промышленные
масштабы. Не представляю, чтобы сеть супермаркетов Walmart или Министерство сельского
хозяйства США заинтересовались бы моей моделью и распространили бы ее на сотни
миллионов людей – как некоторые из видов оружия математического поражения, которые
мы будем обсуждать. Нет, моя модель совершенно безобидна, особенно учитывая то, что она
вряд ли когда-нибудь перейдет из моей головы в какую-либо компьютерную программу.
Однако оценка вероятности рецидива, которую мы обсуждали в конце главы, – пример
совсем другого рода. Он имеет какой-то дурной привкус. Давайте быстро проверим, не
относится ли эта оценка к ОМП, и посмотрим на результат.
Первый вопрос: если участник проверки осведомлен о том, что его проверяют с
помощью модели, и о том, для чего будет использован результат проверки, можно ли считать
эту модель непрозрачной? Ведь большинство заключенных, заполняющих обязательные
анкеты, вовсе не глупы. Они как минимум должны подозревать, что информация, которую

17

они предоставляют, будет использована против них, чтобы контролировать их во время
отбывания срока, – эта информация даже может привести к увеличению этого срока. Они
знают правила игры. Однако представители тюремной администрации тоже их знают. И они
не распространяются о целях LSI-R. Администрация отлично понимает, что в ином случае
многие заключенные попытаются обыграть модель, предоставив ответы, в которых они
будут выглядеть образцовыми гражданами на момент выхода из тюрьмы. Поэтому
заключенных стараются держать в неведении и не раскрывать им степень риска рецидива,
которую определила модель в их случае.
В этом тюремные администраторы не одиноки. Непрозрачные модели – это правило, а
прозрачные – исключение. Нас моделируют как покупателей и домоседов, как пациентов и
заемщиков, но практически никаких из этих результатов мы не видим – даже если сами
радостно участвуем в опросах. Даже когда такие модели на самом деле «ведут себя» вполне
прилично, их непрозрачность может породить ощущение несправедливости. Если
распорядитель в концертном зале сказал вам, что садиться в креслах первых десяти рядов
нельзя, вы можете счесть этот запрет необоснованным и несправедливым. Но, вероятно, вы
измените свое мнение, если распорядитель объяснит вам, что эти места зарезервированы для
людей в инвалидных креслах. Прозрачность имеет большое значение.
При этом многие компании делают все, чтобы скрыть результаты, которые дают их
модели или даже само существование этих моделей. Одно из самых распространенных
оправданий при этом – наличие в алгоритме некоего «секретного компонента», критически
важного для данного бизнеса. Это интеллектуальная собственность, которую защищают
легионы юристов и лоббистов. В случае интернет-гигантов, таких как Google, Amazon и
Facebook, эти алгоритмы стоят сотни миллиардов долларов. Оружие математического
поражения по определению представляет собой черный ящик, и в результате крайне сложно
ответить на вопрос: работает ли модель против интересов человека? Иными словами,
справедлива ли она? Не наносит ли она вред?
И здесь тоже модель LSI-R легко квалифицировать как один из видов ОМП. Люди,
которые создали этот алгоритм оценки в 1990-е годы, несомненно, рассматривали его как
орудие правосудия, укрепляющее эффективность юридической системы. Кроме того, этот
алгоритм может помочь правонарушителям, не предоставляющим большой угрозы, получить
более легкие приговоры. Это можно перевести в большее количество лет свободы для них и
огромную экономию для американских налогоплательщиков, которые оплачивают
ежегодный тюремный счет в 70 миллиардов долларов. Однако поскольку анкета делает
заключение об осужденном на основании пунктов, которые нельзя предъявить как
свидетельства на суде, она несправедлива. И пусть она многим принесет пользу, другие от
нее пострадают.
Ключевой компонент этого страдания – губительная петля обратной связи. Как мы уже
увидели, модели вынесения приговоров, которые оценивают человека по его или ее личным
обстоятельствам, помогают создать окружение, которое оправдывает эти допущения. Эта
деструктивная петля продолжает затягиваться, в результате модель становится все более
несправедливой.
Третий вопрос – есть ли у модели потенциал экспоненциального роста? Как спросил бы
специалист по статистике, может ли она масштабироваться? Это может показаться праздной
математической задачкой, но масштаб – именно то, что превращает ОМП из местных
неприятностей в настоящее цунами, которое будет влиять на нашу жизнь и определять ее
границы. Как мы увидим, развитие ОМП в сферах человеческих ресурсов, здравоохранения и
банковского дела (и список этим далеко не ограничивается) быстро расширяет границы, в
которых к нам применяется сила, очень похожая на неумолимую мощь закона. Если, к
примеру, банковская модель отнесет вас в группу заемщиков высокого риска, то мир будет
относиться к вам именно так – как к безнадежному неудачнику, даже если в модель вкралась
ошибка. А когда эта модель масштабируется, как это уже случилось с кредитной моделью,

18

она начинает оказывать влияние на всю вашу жизнь – удастся ли вам купить хороший дом,
найти хорошую работу или приобрести хорошую машину, чтобы до этой самой работы
добираться.
Когда дело доходит до масштабирования, у моделей вероятности рецидива хорошие
перспективы. Они уже используются в большинстве штатов, причем модель LSI -R – самый
распространенный вариант, используемый как минимум в 24 из них. Однако LSI -R – не
единственный вариант: тюрьмы представляют собой оживленный и прибыльный рынок для
специалистов по анализу данных. Система исполнения наказаний переполнена информацией,
особенно с учетом то, что заключенные еще в большей степени лишены права на privacy, чем
любой из нас. Более того, эта система настолько примитивна, неэффективна, дорога и
бесчеловечна, что она просто вопиет о необходимости улучшений. Кто же в тюремной
администрации будет против подобных дешевых решений?
Реформа системы исполнения наказаний – редкая тема в сегодняшнем поляризованном
политическом мире, в которой либералы и консерваторы единодушны. В начале 2015 года
братья-консерваторы Чарльз и Дэвид Кох объединились с либеральным аналитическим
Центром за американский прогресс, чтобы продвинуть реформу тюрем и снизить число
заключенных. Но я подозреваю, что эти межпартийные усилия реформировать тюрьму, как и
множество других усилий, практически наверняка выльются в предполагаемо эффективное и
справедливое решение – очередную модель, в которую человек будет вводить данные.
Такова эпоха, в которой мы живем. Даже если другие инструменты потеснят LSI-R в
качестсве основного вида оружия математического поражения, тюрьмы, скорее всего,
останутся инкубатором для создания других видов ОМП в огромных масштабах.
Если суммировать все сказанное, вот три главных компонента ОМП: непрозрачность,
масштабность и высочайшая степень ущерба. Все эти компоненты присутствуют в той или
иной степени в примерах, которые мы будем рассматривать дальше. Разумеется, всегда есть
место для возражений. Вы, например, можете сказать, что оценку степени риска рецидива
нельзя назвать вполне непрозрачной, потому что она основана на результатах, с которыми
заключенные в некоторых случаях могут ознакомиться. И тем не менее она непрозрачна
– ведь заключенные не могут посмотреть, как именно их ответы перерабатываются в
результат. Подсчитывающий алгоритм от них скрыт.
Есть несколько видов оружия математического поражения, которые, возможно, не
вполне соответствуют критерию масштабности. Их распространение пока еще нельзя назвать
повсеместным. Но они представляют собой опасные экземпляры, которые со временем
неизбежно масштабируются – и, возможно, экспоненциально. Поэтому я включаю эти
примеры в свой список.
Наконец, вы можете заметить, что не все виды ОМП приносят исключительно ущерб. В
конце концов, они помогают кому-то попасть в Гарвард, кому-то – получить на хороших
условиях кредиты или приличные рабочие места, а также сокращают тюремные сроки для
некоторых заключенных – для тех, кому повезло. Но вопрос же не в том, что некоторые
люди получают от этих моделей пользу, а в том, что столь многие из-за них страдают. Эти
модели, усиленные алгоритмами, захлопывают двери перед носом у миллионов людей,
зачастую по ничтожнейшим поводам, и не подразумевают возможности апелляции. Эти
модели несправедливы.
И вот еще что можно сказать об алгоритмах: они могут переходить из одной области в
другую, и это действительно зачастую происходит. Результаты эпидемиологических
исследований могут использоваться для предсказаний кассовых сборов; программы,
фильтрующие спам, модифицируются, чтобы идентифицировать ВИЧ.
Все это верно и для ОМП. Так что, если математические модели в тюрьмах
продемонстрируют кажущийся успех – что на самом деле означает эффективное
вмешательство со стороны человека, – они могут распространиться и на всю экономическую
систему, наряду с другими ОМП, превратив нас всех просто в расходный материал.

19

Именно об этой опасности я говорю, именно эта опасность неумолимо возрастает. И
следующую поучительную историю об этом может рассказать нам мир финансов.

Посттравматический синдром: мое путешествие к утрате иллюзий
Представьте, что у вас есть в жизни какой-то заведенный ритуал. Каждое утро, перед
тем как сесть на поезд из Джолиета до чикагской станции «Лассаль-стрит», вы скармливаете
кофейному автомату на перроне два доллара. Автомат возвращает вам два четвертака плю с
стаканчик с кофе. Но однажды он возвращает вам четыре четвертака. И если трижды за
следующий месяц тот же автомат выдает такой же результат, значит, налицо некая системная
ошибка…
Если бы это была небольшая аномалия на финансовых рынках, а не пригородный
поезд, то сотрудник хедж-фонда – кто-то вроде меня – мог бы сосредоточить на ней свое
внимание. Он бы прочесал информацию за несколько последних лет или даже десятилетий, а
затем разработал алгоритм по предсказанию этой ошибки – отклонению в цене на пятьдесят
центов, – чтобы делать на нее ставки. Даже самые незначительные отклонения могут
принести миллионы тем первым инвесторам, которые их обнаружат. И эти инвесторы будут
и дальше извлекать прибыль, пока не произойдет одно из двух: либо феномен исчезнет, либо
его обнаружат все остальные участники рынка – в любом случае приток прибыли
прекратится. Но в этот момент хороший сотрудник хедж-фонда уже будет идти по горячим
следам десятков других крошечных аномалий.
Поиски того, что специалисты по количественному анализу называют рыночными
аномалиями (market inef-ficiency), сродни поиску сокровищ. Это может быть весело. Когда я
втянулась в свою работу в фонде D. E. Shaw, мне начало казаться, что после академических
кругов это перемена к лучшему. Хоть мне и нравились преподавание в Барнард-колледже и
исследования в области алгебраической теории чисел, прогресс там казался мне мучительно
медленным. Я хотела быть частью быстро меняющегося реального мира.
В тот момент хедж-фонды казались мне морально нейтральными институциями
– мусорщиками финансовой системы в худшем случае. Я гордилась тем, что пошла работать
в фонд Шоу, который называли Гарвардом среди хедж-фондов, и могла демонстрировать
тамошним коллегам, как мои умные решения конвертируются в реальные деньги. К тому же
зарплата там была в три раза больше профессорской. Начиная работать в фонде, я не могла
подозревать, что, помимо прочего, это обеспечит мне место в первом ряду зрителей,
наблюдающих катастрофический финансовый кризис, а также преподаст устрашающий урок
того, какой вероломной и деструктивной может быть математика. В этом хедж -фонде я
впервые вблизи увидела работу ОМП.
В самом начале мне нравилось многое. Все в фонде D. E. Shaw было пронизано
математикой. Во множестве фирм заправляют трейдеры: именно они заключают большие
сделки, выкрикивают заказы и получают многомиллионные бонусы. Аналитики в этих
фирмах находятся на вторых ролях. Но у Шоу трейдеры – это немногим больше, чем просто
технические сотрудники: они всего лишь исполнители, а балом правят математики. Моя
группа из десяти человек называлась «группой фьючерсов» или «группой прогнозов» (futures
group). В бизнесе, где все зависит от того, что случится завтра, что может быть более
значительным?
Всего у нас было около 50 сотрудников. Сперва – в основном мужчины, за
исключением меня. Большинство из них были по происхождению иностранцами. Многие из
них пришли из абстрактной математики или физики; некоторые, вроде меня, – из теории
чисел. Однако у меня было мало возможностей поговорить с ними о работе. Учитывая то,
что наши идеи и алгоритмы были фундаментом бизнеса хедж-фонда, было ясно, что мы
являлись потенциальной группой риска: если бы мы вместе вдруг уволились и ушли в
какое-то другое место, то смогли бы использовать свои знания для создания мощнейшей
конкуренции нашему бывшему месту работы.

20

Чтобы воспрепятствовать подобному развитию событий в крупном масштабе, Дэвид
Шоу по большей части запрещал нам обсуждать с коллегами из других групп – а иногда
даже с товарищами по группе – то, чем мы занимаемся. В каком-то смысле каждый квант
информации был заперт в одной из сот сетевой структуры – примерно как в «Аль-Каиде».
Если бы одна сота исчезла – допустим, кто-то из нас перебежал к конкурентам, например в
Bridgewater или J. P. Morgan, а то и основал собственный фонд, – он мог бы унести с собой
лишь свои собственные знания, вся остальная часть бизнеса Шоу осталась бы незатронутой.
Как вы можете себе представить, на чувстве товарищества эти правила сказывались не
самым лучшим образом.
Всех новичков обязывали дежурить каждые 13 недель в группе прогнозов. Дежурный
сотрудник должен быть готов решать проблемы, связанные с вычислениями, в любое время,
когда открыт один из мировых рынков, – то есть с вечера воскресенья по нью-йоркскому
времени, когда оживали азиатские рынки, и до завершающего удара колокола на
Нью-Йоркской фондовой бирже в четыре часа дня в пятницу. Недосып был постоянной
проблемой. Еще более серьезной проблемой было чувство беспомощности из-за запрета на
распространение информации. Допустим, алгоритм не работал так, как положено. Мне
нужно было обнаружить проблему, а затем найти ответственного за нее человека в любое
время дня и ночи – и попросить его (всегда именно его) исправить ситуацию. Далеко не
всегда это была приятная беседа.
А еще периодически возникала паника. В праздники, когда в офисе было очень
немного сотрудников, происходили странные вещи. У всех нас было много разных бумаг в
наших гигантских портфелях, включая валютные форварды, то есть обещания в течение
ближайшей пары дней купить большой объем иностранной валюты. Вместо реальной
покупки иностранной валюты, однако, трейдеры каждый день пролонгировали позицию, и
обязательство могло быть отложено еще на один день. Таким образом, наша ставка на
направление рынка могла быть сохранена, но при этом мы не оказывались с огромными
суммами наличности на руках. И вот однажды в рождественские дни я заметила позицию в
японских иенах, по которой подходил срок закрытия. Кто-то должен был продлить контракт.
Обычно эту работу делал наш коллега в Европе, однако в этот момент он,
предположительно, праздновал Рождество с семьей. Я понимала, что, если контракт не
продлить, кому-то вот-вот придется предъявить в Токио 50 миллионов иен. Разрешение этой
проблемы внесло в мирный семейный праздник несколько безумных часов хаоса.
Все эти сложности можно уложить в категорию производственных рисков. Но
настоящей проблемой было неприятное чувство, которое я стала ощущать. Я привыкла к
игре в этих океанах валют, бондов и других бумаг, к триллионам долларов, протекающих по
международным рынкам. Но в отличие от цифр в моих академических моделях, цифры в
моделях, которые мы строили в хедж-фонде, означали конкретные вещи для конкретных
людей: пенсионные сбережения и ипотечные кредиты. Когда я оглядываюсь назад, это
кажется смехотворно очевидным. И, конечно, я всегда об этом знала. Но я тогда
по-настоящему не понимала истинную сущность всех этих монеток по 5, 10 или 25 центов,
которые мы отщипывали откуда-то с помощью наших математических орудий. Это были не
вдруг обнаруженные сокровища, вроде добытого в золотой шахте самородка или дублонов
из трюма давно затонувшего испанского галеона. Это богатство приходило из карманов
живых людей. Для хедж-фондов, самых самодовольных игроков на Уолл-стрит, это были
«глупые деньги».
Только в 2008 году, когда рынки рухнули, истина открылась мне во всей своей
неприглядности. Помимо воровства денег со счетов людей, финансовая индустрия
занималась созданием оружия математического поражения, и я принимала в этом
определенное участие.
Проблемы на самом деле начались годом раньше. В июле 2007 года ставки
кредитования на межбанковском рынке резко взлетели вверх. После прошлой рецессии,
которая последовала за 9 сентября 2001 года, низкие процентные ставки разогревали пузырь

21

на рынке недвижимости. Казалось, что любой может взять ипотеку, девелоперы превращали
пригороды, пустыни и прерии в огромные стройплощадки, а банки использовали миллионы
всевозможных финансовых инструментов, «завязанных» на золотую жилу в строительстве.
Однако повышение ставки межбанковских кредитов сигнализировало о проблемах.
Банки теряли доверие друг к другу в вопросе возврата суточных кредитов. Они постепенно
осознавали, какой опасный мусор хранят в своих портфелях, – и разумно предполагали, что
другие банки рискуют точно так же, если не сильнее. Сейчас можно сказать, что резкий
подъем ставок кредитования был на самом деле признаком возвращения здравого смысла,
однако произошло это слишком поздно.
В фонде Шоу все эти волнения тоже слегка снижали оптимистический настрой. Многие
компании должны были оказаться в сложном положении – это было очевидно. Индустрию
ждал удар, возможно очень серьезный. И все-таки это могло оказаться не нашей проблемой.
Мы ведь не ныряли с головой в рискованные рынки. В конце концов, сам термин
«хедж-фонд» происходит от слова hedge – преграда, защита. Хедж-фонды по природе своей
защищены. Поначалу мы называли волатильность на рынках «заварушкой». Фонду Дэвида
Шоу эта заварушка могла причинить определенный дискомфорт, возможно, даже послужить
причиной пары неловких моментов – когда, например, кредитку богатого человека вдруг не
принимают в дорогом ресторане. Но были хорошие шансы, что мы окажемся в безопасности.
В конце концов, хедж-фонды не создавали эти рынки, а только играли рядом с ними.
Это означало, что при крушении рынка из развалин можно было бы извлечь массу богатых
возможностей. Игра для хедж-фондов заключалась не в том, чтобы поднимать рынки, а в
том, чтобы предсказывать в них тенденции. Движение вниз могло быть столь же выгодным.
Чтобы понять, как хедж-фонды действуют в кулуарах, представьте себе игру
бейсбольной Мировой серии на чикагском стадионе «Ригли-филд». С драматическим
хоум-раном в конце девятого иннинга «Кабс» выигрывают свой первый чемпионат с 1908
года – с того времени, когда президентом был Тедди Рузвельт. Стадион взрывается от
восторга. И только один ряд фанатов остается на своих местах, тихо анализируя результат.
Эти азартные игроки не делают традиционные ставки на победителя. Вместо этого они могут
поставить на то, что реливеры «Янки» пожертвуют больше уоков, чем страйк-аутов, что в
игре будет как минимум один бант, но не больше двух, или что стартер «Кабс» продержится
как минимум шесть иннингов. Они даже ставят на то, выиграют или проиграют другие
игроки свои ставки. Эти люди ставят на многие факторы, связанные с игрой, но не на сам
результат игры. Именно так ведут себя хедж-фонды.
Благодаря этому подходу мы чувствовали себя в безопасности – по крайней мере, в
относительной безопасности. Я помню грандиозное событие, когда мы торжественно
встречали архитекторов здания, которое вот-вот должно было рухнуть. Фирма
приветствовала Алана Гринспена, бывшего председателя Федеральной резервной системы, и
Роберта Рубина, бывшего министра финансов и председателя Goldman Sachs. Рубин в 1999
году настоял на пересмотре закона Гласса – Стиголла, принятого еще в эпоху Великой
депрессии. Отмена закона, запрещавшего банкам заниматься инвестиционной
деятельностью, запустила в течение последующего десятилетия настоящую оргию
спекуляций. Банки и раньше могли генерировать кредиты (многие из которых были ничем не
обеспечены) и предлагать их клиентам в форме ценных бумаг. Это не было чем -то
необычным и могло рассматриваться как одна из банковских услуг. Однако теперь, когда
закон Гласса – Стиголла был отменен, банки могли – и иногда пользовались этой
возможностью – играть против тех самых ценных бумаг, которые продавали своим
клиентам. Это создавало огромные риски – и бесконечный инвестиционный потенциал для
хедж-фондов. В конце концов, мы ставили на движение рынка, вверх или вниз, и движения
эти порой были весьма бурными.
На приеме в фонде Шоу Гринспен предупредил нас о надвигающихся проблемах с
ипотечными ценными бумагами. Это воспоминание преследовало меня, когда я осознала

22

через пару лет, что Рубин, который в то время работал в Citigroup, играл решающую роль в
комплектации огромного портфеля этих самых токсичных контрактов, что и послужило
основной причиной, по которой Citigroup позже пришлось предоставить финансовую
помощь от государства – то есть за счет налогоплательщиков.
Рядом с этими двумя сидел протеже Рубина и наш временный партнер Ларри Саммерс.
Он вслед за Рубином пришел работать в Министерство финансов, а затем стал президентом
Гарвардского университета. Однако Саммерс не смог наладить отношения с
преподавательским составом. Отчасти профессора ополчились на Саммерса после его
заявления, что малое число женщин-ученых в математике и других точных науках – это,
возможно, следствие генетической неполноценности, или, как он сформулировал,
«неравного распределения врожденных способностей».
После того как Саммерс ушел с поста президента Гарварда, он оказался в фонде Шоу.
И я помню момент, когда наш основатель Дэвид Шоу обратился к этой престижной троице и
пошутил, что перемещение Саммерса из Гарварда в D. E. Shaw можно считать
«продвижением по карьерной лестнице». Потому что рынки могут бурлить, но фонд Шоу все
равно остается на вершине мира.
Однако по мере углубления кризиса партнеры D. E. Shaw слегка растеряли свою
самоуверенность. В конце концов проблемные рынки оказались взаимосвязанными.
Например, уже циркулировали слухи об уязвимости банка Lehman Brothers, который владел
20 % фонда D. E. Shaw и осуществлял многие из наших трансакций. Чем больше
раскачивались рынки, тем менее спокойной становилась обстановка в офисе фонда. Мы
могли анализировать и производить расчеты самым лучшим образом, но что, если
устрашающее завтра не будет похоже ни на один из вчерашних дней? Что, если это завтра
принесет что-то совершенно новое и иное?
Это не могло не беспокоить, потому что математические модели, по сути своей,
основаны на прошлом опыте – и на предположении, что паттерны будут повторяться. Но
прошло совсем немного времени, и группа фондовых акций ликвидировала свои активы – и
весьма высокой ценой. Затем прекратился активный набор на работу новых аналитиков (в
результате которого я когда-то оказалась в этой фирме). Хотя люди еще пытались
подшучивать над этой новой атмосферой, чувство страха неуклонно нарастало. Всеобщее
внимание было сосредоточено на секьюритизированных продуктах, особенно на ценных
бумагах с ипотечным покрытием, о которых нас предупреждал Гринспен.
В течение десятилетий ипотечные ценные бумаги были символом отсутствия риска.
Они были скучными финансовыми инструментами, которые как отдельные люди, так и
инвестиционные фонды использовали, чтобы разнообразить собственные портфели (идея
заключалась в том, что разнообразие инструментов может нейтрализовать риски). В каждом
ипотечном кредите есть потенциал дефолта: владелец дома может объявить о банкротстве, и
это значит, что банк не вернет себе выданные в кредит средства. На другом конце шкалы
находится ситуация, когда заемщик выплачивает ипотеку раньше положенного, обрывая тем
самым череду платежей с процентами.
И вот в 1980-е годы инвестиционные банкиры начали скупать тысячи ипотечных
кредитов и объединять их в ценные бумаги – некоего рода гарантию, то есть инструмент,
который выплачивает регулярные дивиденды, зачастую раз в квартал. Некоторые из
владельцев домов, конечно, обанкротятся, зато остальные удержатся на плаву и будут
продолжать выплачивать свои ипотеки, организуя постоянный и предсказуемый денежный
поток. Со временем это превратилось в целую индустрию – столп, на котором держались
рынки долгосрочных капиталов. Эксперты группировали ипотеки по разным классам или
траншам. Некоторые считались абсолютно надежными. Другие были более рискованными
– и имели более высокий процент. У инвесторов были все причины для уверенности,
поскольку агентства, оценивающие кредитные риски, такие как Standard & Poor’s, Moody’s и
Fitch, изучали также и эти ценные бумаги и классифицировали их по рискованности. Они
считали такие бумаги разумными инвестициями.

23

Однако вспомним о непрозрачности. Инвестор не знает о качестве ипотеки в ценных
бумагах. Единственный взгляд, который был ему доступен, был взглядом на рейтинг,
составленный аналитиком. А этот аналитик получал деньги от тех самых компаний, чьи
продукты он оценивал. Нет нужды говорить, что ипотечные ценные бумаги оказались
идеальной платформой для мошенничества.
Если хотите метафору, то вот вам одна из наиболее распространенных: это сосиска.
Представьте себе, что ипотечные кредиты – это кусочки мяса разного качества, а ипотечные
ценные бумаги – связки сосисок, изготовленных из соединения всех этих кусочков и
добавления сильно пахнущих специй. Конечно, сосиски могут отличаться по качеству – и
нам сложно определить по их внешнему виду, что у них внутри, но штамп Министерства
сельского хозяйства, подтверждающий, что их можно есть, развеивает наши тревоги.
Как узнал весь мир чуть позже, ипотечные компании получали огромную прибыль во
время ипотечного бума, одалживая людям деньги на дома, которые те не могли себе
позволить. Стратегия заемщиков была простой: оформить заведомо непосильную ипотеку, а
затем продать получившуюся ценную бумагу – сосиску – на бурно растущем рынке
ипотечных бумаг. В одном особенно вопиющем случае сборщик клубники по имени
Альберто Рамирес, получавший всего 14 тысяч долларов в год, умудрился взять в ипотеку
дом за 720 тысяч в Ранчо-Гранде, Калифорния. Разумеется, брокер Рамиреса уверил клиента,
что тот сможет перекредитоваться через несколько месяцев, а затем обменять дом на более
дешевый и вдобавок еще получить чистую выгоду. Несколько месяцев спустя Рамиресу
пришлось объявить дефолт по кредиту.
Накануне коллапса жилищного рынка ипотечные банки не только предлагали сделки с
непосильными условиями, но и охотились за потенциальными жертвами в кварталах
бедноты и этнических меньшинств. В одном федеральном иске представители
муниципальных властей Балтимора обвинили банк Wells Fargo в «обработке» черных
кварталов с целью выдачи так называемых «кредитов гетто». Как показала в суде бывший
кредитный специалист этого банка Бет Джекобсон, работа отделения новых рынков была
сосредоточена на афроамериканских церковных приходах. Идея заключалась в том, что
пасторы, вызывающие доверие у прихожан, могут «раскрутить» свою паству на ипотеку.
Ипотека неизменно оказывалась высокорискованной, с самым большим процентом, причем
банк оформлял сделки на таких условиях даже с абсолютно надежными клиентами, с
которыми вполне можно было бы заключать договор на гораздо более щадящих условиях. К
2009 году, когда город Балтимор подал иск, более половины жилой недвижимости,
приобретенной по ипотеке Well Fargo, было уже отобрано у клиентов, и 71 % отчужденной
площади находился в афроамериканских кварталах. (В 2012 году Wells Fargo урегулировал
дело, согласившись выплатить 175 миллионов долларов 31 000 своих жертв по всей стране.)
Чтобы сразу прояснить суть дела: высокорискованные ипотечные кредиты, количество
которых резко возросло во время жилищного бума, – выдавались ли они сборщикам
клубники в Калифорнии или нуждающимся прихожанам «черных» церквей Балтимора, – не
представляли собой оружия математического поражения. Они были финансовыми
инструментами, а не моделями, и имели мало общего с математикой (более того, брокеры
очень сильно старались игнорировать неудобные цифры).
Но когда банки начали распределять ипотечные кредиты вроде того, что был выдан
Альберто Рамиресу, по классам ценных бумаг и продавать их, они опирались именно на
ущербные математические модели. Модель расчета риска, подключенная к ипотечным
ценным бумагам, была типичным ОМП. Банки осознавали, что некоторые из этих ипотечных
кредитов не будут выплачены. Но они основывались на двух ложных допущениях, которые
поддерживали их уверенность в системе.
Первым ложным допущением было то, что крутые математики во всех этих компаниях
делают точные расчеты и очень аккуратно уравновешивают риски. Ценные бумаги
рекламировались как продукты, риски которых были оценены специалистами с
использованием новейших алгоритмов. К сожалению, это не соответствовало

24

действительности. Как и со многими ОМП, математика выступала в качестве дымовой
завесы и была направлена против потребителя. Ее целью было оптимизировать
краткосрочную выгоду для продавцов. А эти продавцы рассчитывали на то, что успеют
выпустить ценные бумаги до того, как они рухнут. Умные при этом должны были выиграть.
А более глупые – те, кто предоставляет свои «глупые деньги», – в итоге окажутся
держателями миллиардов (и триллионов) долговых расписок, по которым никто не станет
расплачиваться. Даже самые скрупулезные математики – а такие были – работали с цифрами,
которые им предоставили дельцы, осуществлявшие крупномасштабную аферу. Очень
немногие располагали опытом и информацией, которые требуются для того, чтобы
понимать, что происходит с точки зрения статистики, а большинству из тех, кто все-таки
понимал, не хватало решительности, чтобы заявить об этом вслух. Рейтинги риска,
присвоенные ценным бумагам, были разработаны как непрозрачные и математически
устрашающие, отчасти для того, чтобы покупатели не осознавали настоящей степени риска,
связанного с контрактами, которые они покупали.
Вторым ложным допущением оказалось то, что много людей сразу не могут
одновременно отказаться от выплаты по своим долговым обязательствам. Это допущение
было основано на теории, вскоре опровергнутой, что дефолты – события по большей части
случайные и не связанные друг с другом. Из этого следовало, что многочисленные
нормально выплачиваемые ипотечные кредиты перекроют ущерб от дефолта нескольких
неудачников в каждой категории заемщиков. Модели расчета риска были построены на
допущении, что будущее не будет отличаться от прошлого.
Чтобы продать эти ипотечные облигации, банкам нужны были рейтинги ААА. Для
этого они обращались к трем агентствам кредитной классификации. По мере расширения
рынка присвоение рейтинга растущему миллиардному рынку в кредитных облигациях стало
для агентств большим бизнесом, приносящим прибыльные гонорары. У них образовалась
зависимость от этих гонораров. И они прекрасно понимали, что, если будут присваивать
рейтинги ниже ААА, банки обратятся к их конкурентам. Поэтому агентства поддерживали
игру. Их гораздо больше беспокоила удовлетворенность клиента, чем точность их
собственных моделей. Эти модели риска также создали свои собственные губительные петли
обратной связи. Рейтинги ААА, присваиваемые дефектным продуктам, превращались в
доллары. Доллары, в свою очередь, формировали уверенность в хорошем качестве продукта
и в честности процесса (на самом деле обманного и жульнического), который производил
этот продукт. В результате бизнес держался на цикле взаимных поглаживаний и обоюдного
наполнения карманов – пока пузырь не взорвался.
Из всех качеств ОМП именно его масштаб превратил эти модели риска в чудовищную
силу глобального размаха. Конечно, бродячие продавцы чудодейственных средств от всех
болезней – явление старое как мир, и пузыри на рынке недвижимости, оставлявшие
незадачливого покупателя на краю болота, купленного им в качестве участка земли, и с
пачкой бесполезных бумажек в руках, не раз надувались и в прошлом. Но на этот раз
современные вычислительные мощности разогрели аферу до масштабов, ранее просто
невиданных. Ущерб был усугублен крушением и других инструментов, которыми оброс
рынок ипотечных ценных бумаг: кредитными дефолтными свопами и синтетическими
обеспеченными долговыми обязательствами (CDO).
Кредитные дефолтные свопы были небольшими страховыми полисами, которые
переносили риск на облигацию. Свопы давали как банкам, так и хедж-фондам чувство
безопасности, так как имелось в виду, что эти бумаги можно использовать для
балансирования рисков. Но в случае, если финансовые организации – держатели этих
страховых полисов вдруг терпят крах (а со многими именно так и случилось), то начинается
цепная реакция, которая пробивает бреши во всей мировой экономике. Синтетические CDO
были еще одним шагом вперед: ценность этих контрактов зависела от качества свопов
кредитного дефолта и ипотечных ценных бумаг. Они позволяли проектировщикам новых
финансовых инструментов еще сильнее поднять ставки.

25

Общая стоимость высокорискованных ипотечных кредитов на перегретом (и затем
рухнувшем) рынке к 2007 году достигала трех триллионов долларов, а рынок инструментов,
связанных с этими кредитами, – все эти кредитные дефолтные свопы и синтетические CDO,
еще больше увеличивавшие риски, – был еще в двадцать раз больше. Ни одна национальная
экономика в мире не могла бы с этим сравниться.
Парадоксальным образом мощные по замыслу алгоритмы, создавшие рынок, – те
самые, которые анализировали риск для разных категорий заемщиков и затем отражали этот
риск в конкретных ценных бумагах, – оказались бесполезными, когда пришло время
наводить порядок и подсчитывать истинную ценность всех этих бумаг. Математика может
умножать бредовые данные, но не может их расшифровать. Это работа для людей. Только
люди могут перебрать ипотечные контракты, отложить в отдельную стопку лживые
обещания и благие намерения и придать кредитам реальную долларовую ценность. Это был
очень трудоемкий процесс, потому что люди, в отличие от ОМП, не могут экспоненциально
увеличивать масштабы своей работы; кроме того, для большей части финансовой индустрии
эта работа имела низкий приоритет. В процессе этой длительной детоксикации стоимость
долга – и домов, к которым этот долг был привязан, – конечно же, постоянно падала. А когда
случился экономический крах, даже те владельцы домов, которые в свое время вполне могли
позволить себе ипотеку, тоже внезапно оказались перед угрозой дефолта.
Как я уже упомянула, фонд D. E. Shaw находился в одном-двух шагах в стороне от
рыночного коллапса. Но когда другие игроки стали уходить под воду, они начали с бешеной
скоростью аннулировать свои сделки, а эти сделки затрагивали и наши контракты. В
результате этого эффекта домино мы в начале второго полугодия 2008 года уже теряли
деньги направо и налево.
В течение следующих месяцев катастрофа наконец разразилась в полную силу. Именно
в этот момент все наконец увидели людей по ту сторону алгоритмов. Это были отчаявшиеся
домовладельцы, которые теряли свою недвижимость, а также миллионы американцев,
теряющих свои рабочие места. Дефолты по кредитным картам достигли рекордных
показателей. Человеческие страдания, которые раньше прятались за цифрами, таблицами и
уровнем риска, стали видны воочию.
Разговоры в D. E. Shaw стали крайне нервными. После падения банка Lehman Brothers в
2008 году финансисты начали обсуждать политические последствия. Похоже было, что
Барак Обама выиграет выборы 2008 года. Начнет ли он бомбардировать индустрию новыми
регулирующими правилами? Поднимет налоги на валовую прибыль? Эти люди не теряли
дома и не выкачивали до дна кредиты по своим картам, лишь бы остаться на плаву. Но им
тоже было о чем беспокоиться. Единственной возможностью было переждать обвал,
позволить лоббистам делать их работу и посмотреть, не удастся ли в конце концов
продолжать работу в том же духе, что и дальше.
К 2009 году стало понятно, что уроки рыночного коллапса не указали миру финансов
никаких новых путей и не привили новых ценностей. Лоббисты по большей части одержали
успех, и игра осталась прежней: выуживание «глупых денег». За исключением некоторых
правительственных ограничений, добавивших новые полосы препятствий, которые
предстояло преодолеть, жизнь в общем и целом продолжалась.
Но меня вся эта драма очень быстро подтолкнула в сторону утраты иллюзий. Особенно
я была разочарована той ролью, которая сыграла в этих событиях математика. Мне пришлось
столкнуться лицом к лицу с неприглядной правдой: люди сознательно создавали формулы,
чтобы произвести впечатление, вместо того чтобы прояснить ситуацию. Я впервые
напрямую столкнулась с этой токсичной концепцией, и в результате мне захотелось сбежать,
вернуться в прошлое – к миру доказательств и кубиков Рубика.
И я уволилась из хедж-фонда в 2009 году с намерением работать над обезвреживанием
финансового оружия массового поражения. Новые правительственные правила
предписывали банкам привлекать независимых экспертов для анализа рисков. Я устроилась
на работу в одну из компаний, которая предоставляла банкам таких специалистов: компания

26

RiskMetrics Group располагалась в одном квартале к северу от Уолл-стрит. Наш продукт
представлял собой россыпь цифр, которые складывались в предсказание того, как будет
вести себя определенный пакет ценных бумаг или вид биржевых в течение следующей
недели, следующего года или следующих пяти лет. Когда все ставят на любое движение на
рынке, подобные умные расчеты риска идут на вес золота.
Чтобы просчитать степень риска, наша команда применяла метод Монте-Карло.
Вообразите, что вы крутанули колесо рулетки в казино десять тысяч раз и каждый раз
тщательно записали результаты. При использовании метода Монте-Карло вы обычно
начинаете с истории рынка и прогоняете тысячи тестовых сценариев. Как изучаемый вами
портфель ценных бумаг вел себя на рынке каждый день начиная с 2010 года? А с 2005 -го?
Устоит ли он в самые тяжелые дни краха? С какой вероятностью для него возникнет
смертельная опасность в течение следующего года или двух? Чтобы рассчитать эти
вероятности, ученые прогоняют тысячи тысяч моделей. У этого метода много недостатков,
но он представляет собой простой способ хоть как-то управлять своими рисками.
Моя работа заключалась в том, что я была посредником между нашими
риск-менеджерами и самыми большими и придирчивыми знатоками рисков
– квантитативными хедж-фондами. Я связывалась с фондами или они связывались со мной, и
мы обсуждали любые вопросы, которые у них возникали по поводу чисел. Однако чаще
всего они информировали меня только тогда, когда мы совершали ошибки. Дело в том, что
хедж-фонды всегда считали себя умнейшими из умных, и учитывая то, что правильное
понимание риска – основа их существования, они никогда не стали бы полностью полагаться
на сторонние организации вроде нашей. У них были собственные группы, занимавшиеся
подсчетами риска, и наши продукты они покупали в основном для того, чтобы хорошо
выглядеть в глазах инвесторов.
Кроме этого, я отвечала на вопросы по горячей линии, иногда – от представителей
больших банков. Им очень хотелось поправить свой пошатнувшийся имидж и выглядеть
ответственными; именно поэтому они и обращались к нам. Но, в отличие от хедж-фондов,
они мало интересовались самим нашим анализом. Риск в их портфелях был фактором,
который они практически игнорировали. В течение моей работы на горячей линии у меня
сложилось чувство, что люди, предупреждающие о риске, воспринимались ими как
назойливые надоедалы или, еще того пуще, как угроза банковской безопасности. Это
восприятие не изменилось даже после катаклизмов 2008 года – и было несложно понять
почему. Если уж они выжили в такой катастрофе – потому что были слишком большими,
чтобы рухнуть 3, – какой им был смысл волноваться из-за рисков после этого?
Отказ признавать наличие риска – давняя традиция в мире финансов. Культуру
Уолл-стрит определяют ее трейдеры, а риски – это то, что они постоянно недооценивают.
Это результат того, что мы оцениваем профессионализм трейдера по его «коэффициенту
Шарпа»: он рассчитывается как отношение прибыли, которую приносит трейдер, к
стандартному (среднеквадратичному) отклонению для его портфеля 4 . Этот коэффициент
критически важен для карьеры трейдера, его ежегодного бонуса, его самооценки. Если мы
лишим этих трейдеров их физических тел и начнем воспринимать их исключительно как
набор алгоритмов, эти алгоритмы будут постоянно сосредоточены на оптимизации
3 Too big to fail – термин, появившийся в середине 1980-х годов и описывающий финансовые учреждения,
настолько большие и настолько взаимосвязанные со всей остальной экономикой, что их крушение повлекло бы
катастрофические последствия для экономики в целом (и, следовательно, они в любом случае должны быть
спасены с помощью государства). Термин был популяризован книгой американского журналиста Эндрю
Соркина (рус. изд.: Эндрю Росс Соркин. Слишком большие, чтобы рухнуть / пер. Михаила Кононенко. М.:
Corpus, 2012).
4 Коэффициент Шарпа показывает, насколько хорошо риск компенсируется доходностью актива. При
одинаковом ожидаемом доходе актив с более высоким коэффициентом Шарпа считается менее рискованным.

27

коэффициента Шарпа. В идеале он будет расти – или, по крайней мере, не падать слишком
низко. Поэтому, если один из отчетов по рискованности свопов кредитного дефолта
поднимет степень риска одного из ключевых вкладов трейдера, его коэффициент Шарпа
упадет. Это может стоить ему сотен тысяч долларов, когда дело дойдет до расчета его
ежегодного бонуса.
Очень быстро я осознала, что занимаюсь просто штамповкой привычных решений. В
2011 году настало время снова сменить работу – и я увидела, что рынок для математиков
вроде меня стремительно расширяется. В то время мне было достаточно напечатать два
слова в моем резюме – и я уже была провозглашена новым специалистом по обработке
информации, готовым погрузиться в мир онлайн-экономики. В результате я оказалась в
нью-йоркском стартапе под названием Intent Media.
Начала я с разработки моделей, которые предсказывали поведение посетителей сайтов,
посвященных путешествиям. Ключевой вопрос заключался в том, с какой целью кто-то
заходит на сайт Expedia: просто посмотреть на картинки или собирается в самом деле
потратить деньги? Те, кто не собирался ничего покупать, мало что значили в качестве
потенциального источника дохода. Поэтому таким пользователям мы показывали рекламу
фирм-конкурентов – Travelocity или Orbitz. Если посетитель кликал по рекламе, это
приносило нам несколько центов – лучше, чем ничего. Однако мы не собирались показывать
эти объявления серьезным покупателям. В худшем случае мы получали десяток центов
дохода за размещение рекламы – и посылали при этом потенциальных клиентов к
конкурентам, где они могли оставить тысячи долларов за гостиничные номера в Лондоне и
Токио. Понадобились бы тысячи просмотров рекламных объявлений, чтобы возместить хотя
бы несколько сотен долларов из упущенной прибыли от этих клиентов. Поэтому было
крайне важно удержать их на нашем сайте.
Моей задачей была разработка алгоритма, который мог бы отличить созерцателя
витрин от покупателя. Ориентироваться при этом можно было на несколько очевидных
сигналов. Зарегистрировался ли человек на сайте? Совершал ли он уже покупки? Я также
обращала внимание и на другие факторы, например на время дня и дату. Определенные
недели были особенно урожайными. Например, один из пиков приходился на День
поминовения в середине весны, когда огромное количество людей практически
одновременно определялись со своими планами на лето. Мой алгоритм придавал больше
ценности покупателям в течение подобных периодов: в это время повышалась вероятность,
что они действительно что-то купят.
Принципы работы статистики, как выяснилось, было очень легко перенести из
хедж-фондов в онлайн-коммерцию: самой большой разницей было то, что вместо движений
в рынке я теперь предсказывала клики конкретных людей.
На самом деле я увидела огромное количество параллелей между финансами и
Большими данными. Обе индустрии черпают работников из одного и того же кадрового
резерва: в основном из элитных университетов, таких как Массачусетский технологический
институт (MIT), Принстон или Стэнфорд. Эти новые работники отчаянно стремятся к успеху
и всю жизнь сосредоточены на внешних количественных показателях, таких как результаты
SAT 5 (академических оценочных тестов) и поступление в колледжи. В области как
финансов, так и технологий они получают один и тот же месседж: они разбогатеют и будут
править миром. Их продуктивность демонстрирует, что они на правильном пути, и это
конвертируется в долларовый эквивалент. Успех приводит к ложному выводу: все, что они
делают, чтобы заработать больше денег, – это хорошо. Они таким образом «создают
добавленную ценность». Иначе за что бы их вознаграждал рынок?
В обеих культурах богатство больше не представляет собой средство выживания. Оно
5 Scholastic Assessment Test – стандартизованный тест для приема в американские вузы. По мнению
образовательной организации College Board, хорошие результаты SAT вкупе с высоким средним баллом за
освоение школьной программы лучше отражают готовность к обучению в вузе, чем просто средний балл.

28

напрямую привязывается к ценности отдельно взятой личности. Молодой обитатель
пригорода, обладающий массой преимуществ (образование в частной школе, усиленная
подготовка к вступительным экзаменам в колледж, семестр за границей – в Париже или
Шанхае), все равно тешит себя иллюзией, что в мир привилегий он попал благодаря
собственным талантам, усиленной работе и выдающимся способностям в области решения
проблем. Деньги уничтожают любые сомнения. А другие члены его круга подыгрывают ему,
создавая сообщество взаимного восхищения. Они с радостью доказывают нам, что
представляют собой продукты работы дарвиновского естественного отбора, тогда как со
стороны это выглядит как комбинация слепой удачи и выигрыша у системы.
В обеих индустриях реальный мир со всеми его проблемами воспринимается с
большой дистанции. Работающие в них люди стремятся подменить людей наборами данных,
превратить их в более эффективных покупателей, избирателей или работников, чтобы
оптимизировать какую-нибудь цель. Это совсем легко сделать и оправдать, когда успех
приходит в виде безличного результата и когда задействованные люди остаются такими же
абстракциями, как цифры на экране.
Параллельно с работой в области обработки данных я уже вела свой блог – и все
больше была вовлечена в движение «Захвати Уолл-стрит». Все больше и больше меня
беспокоило отчуждение технических моделей от реальных людей – и моральные
последствия этого отчуждения. На самом деле я видела появление того же механизма,
который я наблюдала в мире финансов: ложное чувство безопасности, которое вело к
распространению далеких от совершенства моделей, определения успеха, которые служили
оправданиями самим себе, и растущие петли обратной связи. Людей, которые пытались
противодействовать этим процессам, обзывали ностальгирующими луддитами.
Я гадала, какой аналог кредитного кризиса мог бы случиться в области Больших
данных: пока что вместо бума я наблюдала эволюционирующую антиутопию со все
увеличивающимся неравенством. Алгоритмы позаботятся о том, чтобы те, кого они
объявили неудачниками, неудачниками и остались. Счастливое меньшинство станет еще
больше контролировать экономику данных, купаясь в возмутительной роскоши и убеждая
себя в том, что оно ее заслуживает.
Проработав два года в области Больших данных и многому научившись, я поняла, что
мой путь к окончательной утрате иллюзий более или менее завершился: злоупотребление
математикой приобретает все более впечатляющие масштабы. Несмотря на ежедневное
ведение блога, я почти перестала успевать отслеживать все способы манипуляции, контроля
и запугивания людей алгоритмами. Это началось с учителей, пострадавших от ярма модели
подсчета качества их работы, но ими не закончилось. Чувствуя все растущую тревогу, я
ушла с работы, чтобы сосредоточить все усилия на исследовании этой проблемы.

Гонка вооружений: поступление в колледж
Если вы сядете поужинать с друзьями где-нибудь в Сан-Франциско или Портленде, то,
скорее всего, обнаружите, что никто из вас не хочет попробовать то, что заказал другой.
Никто не ест одно и то же, все придерживаются разных диет – от веганской до разных
вариантов палеодиеты, причем свято их соблюдают как минимум месяц или два. А теперь
представьте себе, если одна из таких диет – допустим, та же диета пещерного человека
– стала национальным стандартом и 330 миллионов людей обязаны соблюдать ее
требования.
Эффект будет разрушительным. Для начала единая национальная диета просто
уничтожит экономику сельского хозяйства. Спрос на официально одобренные сорта мяса и
сыра (а затем и цены на них) взлетит до небес. В то же время отрасли, занимающиеся
выращиванием продуктов, которые отвергнуты диетой, например сои и картофеля, будут
разорены. Разнообразие практически исчезнет. Пострадавшие фермеры пустят ненужные
больше площади зерновых на разведение коров и свиней, даже если почва для этого не

29

подходит. Увеличившееся поголовье скота будет потреблять огромное количество воды. И,
наконец, нет нужды говорить о том, что единая диета превратит многих из нас в совершенно
несчастных людей.
Что общего у единой национальной диеты с ОМП? Масштаб. Любая формула – идет ли
речь о диете или об индивидуальном номере налогоплательщика – в теории может быть
совершенно невинной. Но когда она превращается в национальный или международный
стандарт, она создает свою собственную деформированную и искривленную экономику.
Именно это и случилось с высшим образованием.
Начался этот процесс в 1983 году. Пытаясь выжить, журнал U. S. News & World
Reportзадумал амбициозный проект. Было объявлено, что журнал проведет оценку 1800
колледжей и университетов по всей стране и расположит их в рейтинге по качеству
образования. Этот рейтинг стал бы полезным инструментом, который мог бы помочь
миллионам молодых людей правильно сделать первый большой выбор в их жизни. Для
многих из этих молодых людей он стал бы указанием на начало карьерного пути, дал бы им
новых друзей, а может быть, и спутника жизни. Более того, редакторы надеялись, что
рейтинг колледжей может стать новостной сенсацией. Возможно, тираж U. S. News даже
сравнится на какое-то время с его соперниками-гигантами – Times и Newsweek.
Но на основе какой информации строить такой рейтинг? В самом начале журналисты
основывали свои расчеты исключительно на результатах опросных листов, которые
рассылались президентам университетов. В результате лучшим национальным
университетом был назван Стэнфорд, а лучшим гуманитарным вузом – Амхерстский
колледж. Рейтинги пользовались большой популярностью у читателей, однако многие
администраторы колледжей были просто в бешенстве. Журнал был завален жалобами на то,
что рейтинг несправедлив. Многие президенты колледжей, студенты и выпускники
настаивали на том, что их вуз заслуживает более высокой оценки. Все, что оставалось
журналистам, – это обратиться к фактам.
В последующие годы редакторы U. S. News снова и снова пытались понять, что тут
вообще можно измерить и оценить. Именно так начинаются многие модели – с серии
догадок. Процесс этот нельзя назвать научным, и к статистическому анализу он имеет весьма
отдаленное отношение. Люди просто думали над тем, что важнее всего в образовании, затем
выясняли, какие переменные им стоит принимать во внимание, и, наконец, решали, какой вес
придать каждой из этих величин в формуле.
В большинстве дисциплин анализ, загружаемый в модель, требует гораздо большей
тщательности. В агрономии, например, исследователи должны сравнить вводные параметры
(почву, солнечный свет, удобрения) и параметры, получившиеся на выходе, то есть
определенные свойства урожая. Затем они могут экспериментировать и оптимизировать
результаты, исходя из целевого параметра, будь то цена, вкус или питательная ценность. Это
не значит, что агрономы не могут создать оружия математического поражения – очень даже
могут и иногда создают (особенно если отказываются принимать во внимание долгосрочные
и разнообразные последствия применения пестицидов). Однако из-за того, что их модели по
большей части четко нацелены на чистый результат, они идеальны для научных
экспериментов.
Журналисты U. S. News, однако, имели дело с «качеством образования» – гораздо менее
четкой величиной, чем цена кукурузы или количество миллиграммов белка в каждом
зернышке. У них не было четких параметров, по которым можно было бы оценить, какое
воздействие четырехлетнее обучение оказывает на одного студента, не говоря уже о
миллионах студентов. Они не могли измерить количество усвоенного материала, счастье,
уверенность в своих силах, дружбу и другие аспекты студенческого четырехлетнего опыта.
Идеальная цель высшего образования, сформулированная президентом США Линдоном
Джонсоном, – «углубление личной самореализации, усиление личной продуктивности и
повышение личной самооценки» – не укладывалась в их модель.

30

Вместо этого они выбрали прокси, которые, как им казалось, коррелировали с успехом.
Они посмотрели на результаты SAT, на соотношение студентов и преподавателей и на
процент зачисления абитуриентов. Они проанализировали процент первокурсников, которые
доучились до второго курса, а также процент выпускников. Они подсчитали процент
выпускников, которые жертвовали деньги альма-матер, рассудив, что, раз у них возникло
желание поддержать вуз, значит, им, скорее всего, понравилось там учиться. Три четверти
ранжирования должно было производиться алгоритмом – то есть мнением,
формализованным в коде, – в который были включены все эти прокси. Оставшаяся четверть
рейтинга формировалась с учетом субъективных мнений официальных представителей
колледжей по всей стране.
Первый рейтинг, основанный на вычислении данных, был опубликован в U. S. News в
1988 году, и его результаты казались вполне разумными. Однако, когда рейтинг вырос до
статуса национального стандарта, материализовалась зловещая петля обратной связи.
Проблема заключается в том, что рейтинги подпитывают сами себя. Если колледж однажды
получил низкую оценку в U. S. News, то его репутация сразу была слегка подмочена, а это
тут же сказывалось на условиях обучения в нем. Лучшие студенты и лучшие преподаватели
начинали его избегать. Выпускники возмущались и переставали жертвовать деньги. Рейтинг
снижался еще сильнее. Короче говоря, рейтинг становился судьбой.
В прошлом администраторы колледжей располагали самыми разными способами
добиться успеха, и многие из них были основаны на личностном факторе. Студенты
восхищались определенными профессорами. Некоторые выпускники делали выдающиеся
карьеры в качестве дипломатов или предпринимателей. Другие публиковали романы,
которые получали престижные награды. Слава передавалась из уст в уста, и все
способствовало повышению репутации колледжа. Но в самом ли деле Макалестер лучше
Рида?[6] Правда ли Айова лучше Иллинойса?[7] Сложно сказать. Колледжи – это как разные
типы музыки или как разные диеты. Всегда найдется место для противоположных точек
зрения – как и хорошие аргументы в защиту каждой из них. Теперь же огромную
репутационную экосистему колледжей и университетов накрыла своей тенью
одна-единственная колонка цифр.
Если вы посмотрите на эту ситуацию с точки зрения президента какого-нибудь
университета, она будет выглядеть очень печально. Большинство этих людей, без сомнения,
дорожат своим университетским опытом – это одна из причин, мотивировавших их
взобраться по лестнице академической карьеры. В то же время, оказавшись на вершине этой
карьеры, они вынуждены тратить огромную энергию на улучшение показателей по
пятнадцати параметрам, которые определила для них шайка журналистов из какого-то
второсортного издания. Они снова оказались чуть ли не на студенческой скамье – им снова
нужно получить хорошие оценки от тех, кто выдает им задания. На самом деле они
оказались в ловушке жесткой модели, в ловушке ОМП.
Если бы рейтинг U. S. News не пользовался таким успехом, он был бы не так страшен.
Однако он превратился в титана и очень быстро провозгласил себя национальным
стандартом. С тех самых пор рейтинг начал вязать узлы из нашей образовательной системы,
установив очень жесткий список того, что необходимо делать – как администрациям
колледжей, так и студентам. Рейтинг U. S. News обладает огромным масштабом, широко
распространяет ущерб и порождает бесконечную спираль деструктивных петель обратной
связи. И пусть он не столь непрозрачен, как многие другие подобные модели, он все равно
представляет собой стопроцентное оружие математического поражения.
Некоторые администраторы шли на самые отчаянные меры, чтобы продвинуться в
рейтинге вверх. Бэйлорский университет, например, заплатил за то, чтобы принятые в него
студенты заново сдали SAT, надеясь, что еще одна попытка улучшит их результат – а заодно
и рейтинг университета. Элитарные частные учебные заведения вроде Бакнеллского
университета в Пенсильвании или университета Клермонт Маккенна в Калифорнии отослали
фальшивые результаты в U. S. News, завысив результаты SAT своих абитуриентов. А в

31

нью-йоркском Айона-колледже признались в 2011 году, что подделывали сведения
практически по всем параметрам: результаты тестов, коэффициенты поступления и выпуска,
количество поступивших, перешедших на второй курс, соотношение студентов и
преподавательского состава и даже суммы пожертвований выпускников. Ложь помогла – по
крайней мере, на какое-то время. В U. S. News подсчитали, что ложные данные подняли
Айона-колледж с 50-го на 30-е место среди региональных колледжей северо-востока США.
Впрочем, абсолютное большинство администраторов колледжей не стали прибегать к
столь вопиющим способам повышения своего рейтинга. Вместо обмана они изо всех сил
работали над тем, чтобы улучшить каждый из показателей, включенных в рейтинг. Они
могли бы сказать, что это самое эффективное использование их ресурсов. В конце концов,
если их работа удовлетворит алгоритм U. S. News, значит, они соберут больше денег,
привлекут более ярких студентов и преподавателей, продолжат путь к верхним строчкам
списка. Разве у них есть иной выбор?
Роберт Морс, работающий в журнале с 1976 года и отвечающий за рейтинг колледжей,
постоянно указывает в интервью, что рейтинг заставляет колледжи ставить перед собой
осмысленные цели. Если они смогут улучшить результаты выпуска или объединить
студентов в меньшие группы, это только к лучшему. Образование выиграет от
сосредоточения усилий. Морс признает, что самые релевантные данные – чему именно
студенты научились в том или ином вузе – журналу недоступны, тем не менее модель U. S.
News, основанная на допущениях, является лучшей из возможных.
Однако, когда вы создаете модель из прокси, людям гораздо легче ее обыграть. Это
происходит потому, что допущениями легче манипулировать, чем сложной реальностью,
которую они подменяют. Вот пример. Давайте представим себе, что некий сайт ищет
специалиста по работе с социальными сетями. Многие люди желают устроиться на эту
работу, они присылают резюме с перечислением множества маркетинговых кампаний,
которые они проводили. Но на то, чтобы отследить и оценить всю их работу, требуется
слишком много времени. Поэтому менеджер по приему на работу сотрудников решает
применить прокси: она обращает внимание на то, у кого из претендентов больше всего
фолловеров в Twitter. Это же признак вовлеченности в социальные сети, не так ли?
Да, это кажется достаточно разумным допущением. Но что произойдет, если информация
о том, что толпа фолловеров в «Твиттере» – гарантия получения работы в данной
компании, станет общеизвестной (а это, несомненно, произойдет)? Тогда кандидаты будут
делать все, чтобы увеличить их число. Некоторые заплатят 19,95 доллара какому-нибудь
сервису, который организует им тысячи фолловеров – в основном ботов. Когда люди
обыгрывают систему, прокси теряет свою эффективность. Обманщики выдают
ложноположительный результат.
В случае с рейтингом U. S. News все – от перспективных студентов и выпускников до
сотрудников кадровых отделов – быстро приняли рейтинг в качестве стандарта качества
образования. И колледжи стали играть по этим правилам. Они пытаются улучшить каждый
из параметров, измеряемых моделью подсчета. И многие на самом деле были более всего
разочарованы именно теми 25 % оценок, повлиять на которые было не в их власти, – то есть
данными анкет, заполняемых президентами и проректорами колледжей.
Эта часть анализа, как и любое собрание субъективных мнений, не может не содержать
старомодных предубеждений и простого невежества. И у нее есть тенденция удерживать
знаменитые вузы наверху списка, потому что широкая публика знает только о них. А для
вузов, которые еще только стремятся вверх, ситуация лишь усложняется.
К 2008 году Техасский христианский университет (TCU) в Форт-Уэрте сильно упал в
рейтинге U. S. News. За три года до этого университет занимал 97-е место, а затем скатился
до 105-го, 108-го – и, наконец, до 113-го. Это обстоятельство сильно встревожило активных
выпускников и тех, кто поддерживал университет, и поставило ректора Виктора Боскини в
крайне сложное положение. «Это совершенно непонятная ситуация», – заявил ректор в
интервью tcu360.com, новостному сайту университета. Боскини настаивал, что на самом деле

32

университет улучшил каждый свой показатель: «Мы улучшили коэффициент удержания
студентов, объемы привлеченных средств – словом, все показатели, на которые они
ориентируются».
В своем анализе ситуации Боскини не учел два фактора. Во-первых, рейтинговая
модель U. S. News не оценивала каждый колледж в отрыве от других. Учебное заведение,
которое улучшало свои показатели, могло все равно опускаться в рейтинге, если конкуренты
улучшали свои показатели быстрее. Говоря академическим языком, модель U. S.
News распределяла колледжи по кривой Гаусса. И это подпитывало процесс, который можно
было сравнить с гонкой вооружений.
Другой проблемой была репутация – то есть те самые 25 процентов, которые TCU не мог
контролировать. Рэймонд Браун, декан по вопросам приема студентов, отмечал, что
репутация – самый весомый фактор, «что абсурдно, потому что это совершенно
субъективные оценки». Уэс Вэггонер, директор по делам первокурсников, добавил, что
колледжи рекламируют себя друг другу, чтобы улучшить репутационный рейтинг. «Я
постоянно получаю по почте послания, в которых другие колледжи пытаются убедить нас в
том, что они хорошие», – сказал он.
Несмотря на все это ворчание, TCU твердо вознамерился улучшить те 75 % результата,
которые он мог контролировать. В конце концов, если рейтинг университета поднимется,
повысится и его репутация. Со временем представители других вузов заметят прогресс TCU
и станут оценивать университет выше. Ключевой задачей было запустить движение в
правильном направлении.
TCU начал кампанию по сбору средств с целевой суммой 250 миллионов долларов.
Результаты намного превзошли запланированные – кампания принесла 434 миллиона
долларов к 2009 году. Один только этот фактор уже увеличил рейтинг TCU, поскольку
успешность привлечения средств была одним из показателей. Большую часть этих денег
университет потратил на усовершенствование кампуса, в частности, 100 миллионов на
новый центральный двор и организацию нового студенческого союза – и все это с целью
сделать TCU более привлекательным для студентов. И хотя в этом нет ничего плохого, эти
меры очень удачно подпитывали алгоритм U. S. News. Чем больше студентов хотят
поступить в университет, тем более придирчивым он может быть.
Что, вероятно, еще важнее, TCU построил новый суперсовременный спортивный центр и
вкачал деньги в университетскую программу по американскому футболу. В последующие
годы «Рогатые лягушки» (Horned Frogs) – футбольная команда TCU – стала национальным
феноменом. В 2010 году «лягушки» не проиграли ни одной игры, в конце концов разгромив
команду Висконсинского университета в новогоднем матче на стадионе «Роуз Боул».
Этот успех позволил TCU воспользоваться плодами так называемого эффекта Флюти
(Flutee effect). В 1984 году, в ходе одной из самых захватывающих университетских игр в
истории, квотербек Бостонского колледжа Дуг Флюти завершил длинный пас в последнюю
секунду матча, в результате чего команда выиграла у Университета Майами. Флюти стал
легендой. В течение двух лет поток заявок на поступление в Бостонский колледж вырос на
30 %. Подобный всплеск популярности случился и в Джорджтаунском университете, когда
его баскетбольная команда под руководством Патрика Юинга трижды пробивалась в
национальный чемпионат. Спортивные победы, как выяснилось, оказались самой
эффективной рекламой для некоторых абитуриентов. Для тысяч спортивно ориентированных
старшеклассников, которые смотрят университетские серии по телевидению, вузы с
сильными спортивными командами кажутся весьма привлекательными. Студенты гордятся
именами своих университетов, разрисовывают лица и отмечают спортивные победы. Заявки
на поступление резко увеличиваются. Чем больше студентов хотят поступить в вуз, тем
выше администрация может задрать планку – средний балл абитуриентов. Это помогает
повысить рейтинг. И чем больше абитуриентов будут отвергнуты, тем ниже (и тем лучше
для рейтинга!) окажется процент зачисления.

33

Стратегия TCU сработала. К 2013 году он стал вторым по отсеву абитуриентов
университетом в Техасе, уступив только престижному Университету Райса в Хьюстоне. В
том же году в TCU были зарегистрированы наивысшие баллы SAT и ACT[8] в истории. В
рейтинге U. S. News университет поднялся сразу до 76-го места – на 37 пунктов всего за семь
лет.
Несмотря на мое отношение к модели U. S. News (я считаю ее оружием математического
поражения), важно отметить, что этот резкий рост в рейтинге вполне мог сослужить
хорошую службу университету. В конце концов, большая часть прокси в модели U. S.
News может в той или иной степени адекватно отражать качество образования в том или
ином вузе – точно так же как многие из тех, кто соблюдает палеодиету, добиваются хороших
результатов. Проблема не в самом рейтинге U. S. News, а в его масштабе. Он заставляет все
вузы преследовать одни и те же цели – что приводит к мелочной конкуренции – и к тому же
имеет много вредных незапланированных последствий.
В годы, предшествующие появлению системы рейтингов, абитуриенты могли спать
немного спокойнее, зная, что подали документы в так называемый запасной вуз (safety
school) – колледж с более низким проходным порогом. Если студенту не удавалось
поступить в университет, в который ему хотелось больше всего, он мог начать получать
совершенно нормальное образование в «запасном вузе» – и, возможно, перевестись через
год-другой в университет, куда он и собирался изначально.
Однако концепция «запасного вуза» в наши дни практически исчезла – в основном
благодаря рейтингу U. S. News. Как мы увидели на примере TCU, ради высокого рейтинга
вуз обязан быть как можно более придирчивым. Если приемную комиссию заваливают
заявлениями на поступление, это признак, что дела идут хорошо. Это говорит о репутации
колледжа. Если колледж может позволить себе отвергнуть абсолютное большинство
кандидатов на поступление, он, возможно, заполучит себе более умных студентов. Как и
многие другие прокси, этот показатель выглядит вполне разумным. Он следует за
движениями рынка.
Но этот рынок подвержен манипуляциям. Традиционный «запасной» вуз, например,
может провести ретроспективное исследование своей статистики за несколько последних лет
и увидеть, что его заканчивает лишь небольшой процент лучших абитуриентов. Большая же
их часть рано или поздно переводится в изначально выбранные ими университеты и больше
не нуждаются ни в какой страховке. Теперь ради того, чтобы поднять собственную
избирательность, «запасной» вуз может начать отказывать первоклассным кандидатам
(которые, в соответствии с алгоритмом самого этого вуза, и так в нем, скорее всего, не
остались бы). Этот процесс не имеет ничего общего с точностью. И колледж, несмотря на все
труды специалистов по анализу данных в приемной комиссии, без сомнений, теряет
определенный процент лучших студентов, которые все-таки могли бы выбрать именно его.
Ведь эти абитуриенты и выясняют в итоге, к своему отчаянию, что так называемые запасные
вузы больше не являются надежной ставкой.
Этот процесс не приносит ничего хорошего для образования. Колледж теряет лучших
студентов – настоящих звезд, которые улучшают процесс обучения для всех, включая
преподавателей. На самом деле бывшей «запасной» школе теперь, возможно, придется
тратить драгоценную спонсорскую финансовую поддержку на то, чтобы завлечь кого-то из
этих звезд к себе. А это означает, что у вуза останется меньше денег для тех студентов, кому
эти деньги нужны больше всего.

***
Именно в этом заключается самый главный недостаток рейтинга колледжей U. S. News. В
конце концов, все прокси, которые используют журналисты для оценки качества
образования, вполне разумны. Однако грандиозный провал кроется в том, что
они не приняли во внимание: стоимость обучения. Финансирование студентов исключено из
этой модели.

34

Это приводит нас к важнейшему вопросу, в который мы постоянно упираемся. В чем
цель создателя рейтинга? В данном случае поставьте себя на место редакторов U. S. News в
1988 году. Когда они создавали свою первую статистическую модель, откуда они знали, что
она сработает? Конечно, она бы выглядела гораздо более убедительной, если бы отражала
установленную иерархию. Если Гарвард, Стэнфорд, Принстон и Йель окажутся на самом
верху списка, модель будет казаться полностью адекватной – она подменит собой те
неформальные модели, которые и так уже сложились в голове у читателей. Чтобы построить
такую модель, им нужно было посмотреть на перечисленные выше университеты и
выяснить, что же делает их такими особенными. Что у них есть общего и чем они
отличаются от «запасного» колледжа в соседнем городке? Ну, во-первых, у всех их
студентов были заоблачные результаты SAT – и учились они с аккуратностью и точностью
часовых механизмов. Выпускники этих университетов были богатыми людьми, и деньги от
них рекой текли обратно в альма-матер. Анализируя достоинства этих брендовых
университетов, команда создания рейтингов создала элитарную мерку для определения
качества.
Однако, если мы включим стоимость обучения в формулу, с результатами могут
случиться странные вещи. Дешевые университеты смогут претендовать на вступление в
иерархию качества, а это вызовет удивление и посеет сомнения у общественности: может
быть, рейтинг U. S. News все же не совсем божественная истина? Гораздо безопаснее начать
с заслуженных чемпионов. Конечно, они дорогие. Но, возможно, это цена, которую платят за
превосходное качество.
Выбросив из формулы фактор стоимости, U. S. News словно выдал президентам
колледжей позолоченную чековую книжку. Перед ними встала задача улучшить ситуацию в
15 параметрах, но удержание низких цен в эти параметры не входило. На самом деле, если
бы они подняли цены, у них бы оказалось больше ресурсов для решения проблем по тем
параметрам, где их оценивали.
С тех пор стоимость обучения взлетела до небес. С 1985 по 2013 год высшее образование
подорожало на более чем 500 %, почти в четыре раза опередив темп инфляции. Чтобы
привлечь лучших студентов, колледжи, как мы увидели на примере TCU, вложили много
средств в строительство студенческих центров со стеклянными стенами, шикарных
общежитий, тренажерных залов со скалолазными стенками и вихревыми ваннами. Все это
было бы замечательно, если бы эти деньги не были взяты из карманов студентов, которые и
так обременены кредитами на обучение, которые они затем выплачивают в течение
десятилетий. Мы не можем возложить вину за все это исключительно на рейтинг U. S. News.
Все наше общество разделяет убеждение не только в том, что высшее образование
необходимо, но и в том, что диплом престижного вуза может катапультировать студента в
мир власти и привилегий. Оружие математического поражения, созданное журналом U. S.
News, было вскормлено этими убеждениями, страхами и неврозами. Оно создало мощную
мотивацию, которая побудила вузы совершать огромные траты, одновременно игнорируя
взлетевшую до небес стоимость обучения.
Когда колледжи собираются продвинуться вверх по шкале рейтинга U. S. News, они
управляют своими студентами, словно инвестиционным портфелем. Мы еще не раз это
увидим в мире данных, от рекламы до политики. Для администраторов колледжей каждый
перспективный студент представляет собой серию ценных активов, а иногда также
некоторые пассивы, или обязательства. Отличная спортсменка, например – это хороший
актив, но она при этом может плохо сдать экзамены или занять не слишком хорошее
положение в своей группе – а это уже пассив. Кроме того, ей может понадобиться
финансовая помощь – еще одно обязательство. Чтобы сбалансировать портфель,
администратору в идеале нужно найти других студентов, которые могли бы и сами заплатить
за обучение, и получать хорошие оценки. Но эти идеальные кандидаты после зачисления
могут решить учиться в другом месте. Это риск, который необходимо принимать во

35

внимание. Все это чрезвычайно сложно – и для «оптимизации приема студентов» даже
появилась целая новая консалтинговая индустрия.
Фирма Noel-Levitz, занимающаяся консультациями в области образования, предлагает
университетским
администраторам
пакет
прогностической
аналитики
под
названием ForecastPlus, который позволяет администраторам ранжировать вероятность
поступления студента по его месту происхождения, полу, этнической принадлежности,
специализации, успеваемости и «любой другой характеристике, какую вы пожелаете». Еще
одна консалтинговая компания, RightStudent, собирает и продает данные, чтобы помочь
колледжам отобрать самых многообещающих кандидатов для приема. Это студенты,
которые в состоянии сами оплатить стоимость обучения, а также те, кто имеет право на
какую-либо внешнюю стипендию. Для некоторых из этих студентов пониженная
способность к обучению – только плюс.
Вся эта деятельность проходит в рамках огромной экосистемы, окружающей
рейтинг U. S. News, который фактически превратился в федеральный закон. Если редакторы
журнала что-то подправят в своей модели – например, придадут меньше веса результатам
SAT или больше – проценту отсеянных абитуриентов, то вся экосистема образования будет
вынуждена адаптироваться. И это касается всей индустрии – от университетов до
консалтинговых компаний, методистов старшей школы и, конечно, студентов.
Понятное дело, что сама система рейтингов – постоянно растущий бизнес. Журнал U. S.
News & World Report, который долгое время был единственным предприятием одноименной
компании, перестал выходить на бумаге в 2010 году. Но рейтинговый бизнес продолжает
расти, распространяясь на медицинские и стоматологические вузы, а также магистерские
программы в гуманитарных и технических областях. Теперь U. S. News ранжирует даже
заведения среднего образования.
По мере разрастания системы рейтингов все больше делается попыток ее перехитрить. В
глобальном рейтинге 2014 года математический факультет Университета имени короля
Абдулазиза в Джидде (Саудовская Аравия) оказался на седьмом месте, сразу после Гарварда.
Этот факультет к тому времени существовал всего два года, однако каким -то образом
опередил нескольких математических гигантов, включая Кембридж и МТИ.
На первый взгляд, это может показаться хорошей тенденцией. Возможно, МТИ и
Кембридж расслабились, почили на лаврах – и вот трудолюбивая темная лошадка пробилась
в ряды элиты. Если бы рейтинг составлялся только на основе репутации, для этого
понадобились бы десятилетия. Но данные могут очень быстро вывести на поверхность
удивительные результаты.
Алгоритмы, однако, также можно перехитрить. Лиор Пэтчер, профессор вычислительной
биологии из Беркли, раскрыл эту хитрость. Он обнаружил, что Университет Абдулазиза
связался с несколькими известными математиками, чьи работы широко цитируются в
рецензируемых журналах, и предложил каждому 72 тысячи долларов за работу в
университете по совместительству. Трудовой контракт, который Пэтчер разыскал и вывесил
в своем блоге, предусматривал, что совместители должны отработать в Саудовской Аравии
всего три недели в год, при этом университет покупал им авиабилеты бизнес-класса и
размещал в пятизвездочных отелях. Конечно, работа известных математиков в Саудовской
Аравии имела некоторое локальное значение. Но на самом деле университет был
заинтересован в приглашенных преподавателях в большей степени потому, что на сайте
агентства деловой информации Thomson Reuters, где цитируются научные работы,
университет упоминался в качестве их места работы. А этот сайт – один из ключевых
источников для рейтинга U. S. News. Иными словами, Университет короля Абдулазиза мог
объявить, что работа нового сотрудника проведена в рамках университета. А поскольку
индекс цитирования университетских преподавателей был одним из основных ингредиентов
алгоритма оценки того или иного вуза, саудовский университет стремительно поднялся в
рейтинге.

36

***
Известно, что студенты из Шанхая великолепно сдают государственные вступительные
экзамены («гаокао») и получают места в лучших китайских университетах. На самом деле
шанхайские студенты выдавали настолько блестящие результаты, что власти заподозрили их
в жульничестве. Подозрения, как писала британская газета The Telegraph, лишь укрепились в
2012 году, когда власти одной из провинций обнаружили 99 абсолютно идентичных ответов
на вопросы экзамена.
На следующий год, когда шанхайские абитуриенты прибыли на экзамен, их прогнали
через рамки металлоискателей и заставили сдать мобильные телефоны. Некоторые были
также вынуждены сдать крошечные передатчики, замаскированные под школьные ластики.
Войдя в экзаменационные аудитории, абитуриенты обнаружили себя в компании 54
инспекторов из разных школьных округов, которые прибыли, чтобы расследовать дело.
Несколько инспекторов направились в гостиницу на другой стороне улицы и обнаружили
там группы людей, которые собирались общаться с абитуриентами с помощью
миниатюрных передатчиков.
Когда обман был раскрыт, последовал взрыв возмущения. Около двух тысяч
протестующих, вооружившихся камнями, собрались на улице перед школой. Они
скандировали: «Мы хотим справедливости. Нет справедливости, если вы не позволяете нам
жульничать!»
Это могло показаться шуткой, но школьники были абсолютно серьезны: ведь на кону
стоял шанс получить элитарное образование и в дальнейшем сделать успешн ую карьеру
– или вечно прозябать в родном городе. И – правда это или нет – они были убеждены в том,
что все остальные абитуриенты тоже жульничают. Поэтому запрет на жульничество для
абитуриентов из Шанхая совершенно несправедлив! Если система построена на обмане, то
играть честно – значит ставить самого себя в заведомо неравные условия. Спросите хотя бы
у велосипедистов «Тур де Франс», которых семь лет подряд изничтожал Лэнс Армстронг, не
слезавший с допинга.
Единственный способ выиграть в таком сценарии – получить какое-то преимущество и
проследить за тем, что остальные не получили еще большего преимущества. Это касается не
только Китая, но также и Соединенных Штатов, где приемные комиссии, родители и
выпускники делают гигантские усилия, чтобы обыграть систему, порожденную
моделью U. S. News.
Целая индустрия инструкторов и репетиторов процветает на петле обратной связи
модели и на тревожности, которую она вызывает. Многие из них берут за свои услуги
серьезные деньги. Четырехдневный «лагерь гарантированного поступления» от
компании Top Tier Admissions стоит 16 тысяч долларов (не считая платы за проживание и
питание). В ходе занятий в этом лагере старшеклассники учатся писать сочинения, «отлично
проходить» собеседования и создавать портфолио с включением всех наград, спортивных
достижений, хобби и общественной работы – всего, что так хотят видеть в приемной
комиссии.
Шестнадцать тысяч долларов может показаться большой суммой. Но, как и китайские
протестующие в Шанхае, многие американские семьи считают, что будущий успех и
самореализация их детей напрямую зависят от их поступления в элитарный университет.
Самые эффективные инструкторы понимают, как работают модели приема в каждом
колледже – и как потенциальные студенты могут в них вписаться со своими портфолио.
Калифорнийский предприниматель Стивен Ма довел этот рыночный подход до абсолюта.
Ма, основатель компании ThinkTank Learning, помещает потенциальных студентов в
собственную модель и подсчитывает степень вероятности поступления в их целевой
колледж. Он сообщил в интервью Bloomberg BusinessWeek, например, что родившийся в
США старшеклассник со средним баллом образования 3,8 и результатом SAT 2000,
потративший 800 часов на факультативные занятия, имеет 20,4 процента вероятности

37

поступления в Нью-Йоркский университет и 28,1 процент вероятности поступления в
Университет Южной Калифорнии. Затем ThinkTank предлагает консультационные
комплекты «с гарантией». Если гипотетический студент, следуя инструкциям в этих
консультациях, поступит в NYU, это будет стоить 25 931 доллар; за поступление в USC он
заплатит 18 826 долларов. Если же его никуда не примут, платить не придется.
Модель приема в каждом колледже сформирована, по крайней мере частично,
моделью U. S. News, и каждая представляет собой мини-ОМП. Эти модели заставляют
выпускников и их родителей наматывать бешеные круги и платить огромные суммы денег. И
они непрозрачны. Это оставляет большую часть участников (или жертв) в неведении. Но это
также создает обширное поле деятельности для таких консультантов, как Стивен Ма,
которые умудряются выведать их секреты – либо обзаведясь источниками информации в
университетах, либо совершив «обратное проектирование» их алгоритмов.
Жертвами, конечно, оказывается подавляющее большинство американцев: семьи
бедняков и представителей среднего класса, у которых нет тысяч долларов на курсы и
консультантов. Они упускают драгоценную инсайдерскую информацию. В результате
образовательная система в основном обслуживает привилегированные слои. Она отвергает
абсолютное большинство нуждающихся выпускников, толкая их дальше по дороге бедности.
Это увеличивает социальное неравенство.
Но даже те, кто буквально прогрызает себе путь в лучшие колледжи, оказываются в
проигрыше. Если подумать об этом, игра приемных комиссий, какой бы она ни была
прибыльной для некоторых, не имеет никакой образовательной ценности. Сложная и
запутанная система просто заново сортирует и ранжирует тот же самый набор
восемнадцатилетних юношей и девушек более продвинутыми способами. Одни не
обзаводятся важными навыками, когда преодолевают бесконечные полосы препятствий или
безукоризненно пишут нацеленные на поступление эссе под присмотром профессиональных
инструкторов. Другие пытаются найти онлайн более дешевые версии этих самых
инструкторов. Все они, от богачей до представителей рабочего класса, просто натаскиваются
на то, чтобы вписаться в огромную машину – то есть удовлетворить требованиям оружия
математического поражения. И в конце забега многие из них будут обременены долгом,
который им придется выплачивать в течение десятилетий. Они всего лишь пешки в
отвратительной гонке вооружений.
Есть ли выход из этой ситуации? Во время своего второго президентского срока Барак
Обама предложил разработать новую модель рейтинга колледжей – более настроенную на
национальные нужды и возможности среднего класса, чем модель U. S. News. Идея Обамы
заключалась в том, чтобы привязать систему рейтинга колледжей к другому набору
критериев – финансовой доступности, проценту студентов из бедных семей и
представителей расовых меньшинств среди учащихся, перспективам устройства на работу
после выпуска. Как и в рейтинге U. S. News, процент студентов, доучившихся в вузе до
выпуска, также принимался во внимание. Если колледж опускается по этим показателям
ниже определенного минимального порога, он отрезается от федерального рынка
студенческих кредитов объемом в 180 миллионов долларов в год (на котором до сих пор
кормились коммерческие университеты).
Все это, безусловно, выглядит как достойные цели, но любую систему рейтинга можно
обыграть. И когда это происходит, возникают новые и разные петли обратной связи, а также
целые букеты непредвиденных последствий.
Легко поднять процент тех, кто доучивается до выпуска, если, например, понизить
стандарты обучения. Многие студенты испытывают сложности с математикой, или
естественными науками, или иностранными языками. Если снизить требования по этим
предметам, больше студентов доучатся до выпуска. Однако, учитывая, что одна из целей
нашей образовательной системы – производить больше ученых и технологов для мировой
экономики, разве это разумно?

38

Есть и надежное средство повысить ожидаемую заработную плату при трудоустройстве
выпускников. Все, что университету нужно сделать для этого, – это сократить гуманитарные
программы, а также избавиться от факультетов, которые готовят работников для
образовательной и социальной сферы, – ведь учителя и социальные работники зарабатывают
меньше инженеров, химиков или программистов. Однако они имеют не меньшую ценность
для общества.
Также было бы не очень сложно понизить стоимость обучения. Один из подходов,
который уже завоевывает популярность, это уменьшение процента штатных преподавателей:
профессора с большими окладами по мере их ухода на пенсию заменяются на более
низкооплачиваемых инструкторов или почасовиков. Для некоторых факультетов некоторых
университетов это может иметь смысл. Но у этой медали тоже есть оборотная сторона.
Штатные преподаватели, работающие с аспирантами, занимаются важными исследованиями
и устанавливают высокие стандарты на своих факультетах, в то время как замученный
почасовик, который иногда ведет пять курсов в трех колледжах, чтобы иметь возможность
платить за аренду жилья, редко располагает временем и энергией, чтобы дать своим
студентам что-то сверх образовательного минимума. Еще один возможный подход
– сократить административные позиции, без которых можно обойтись, – пока слишком редко
встречается.
Критерий «выпускники, устроившиеся на работу в течение девяти месяцев после
выпуска» тоже может быть подправлен. Одна из статей газеты New York Times в 2011 году
была посвящена тому, как по-разному юридические вузы относятся к карьере своих
недавних выпускников. Допустим, новоиспеченный юрист, обремененный студенческим
кредитом на 150 тысяч долларов, работает простым барменом. Некоторые неразборчивые
юридические вузы сочтут, что студент трудоустроен. Некоторые учебные заведения идут
дальше, предлагая собственным выпускникам какую-нибудь почасовую временную работу
по мере приближения критического срока в девять месяцев. Третьи рассылают недавним
выпускникам опросники – и те, кто на них не ответил, считаются «трудоустроенными».

***
Возможно, это и к лучшему, что администрация Обамы так и не смогла переделать
рейтинговую систему. Отпор, который дали этим попыткам президенты колледжей, был
просто бешеным. В конце концов, они несколько десятилетий потратили на то, чтобы
оптимизировать работу на удовлетворение требований оружия математического поражения
от U. S. News. Новая формула, основанная на проценте выпускников, размере классов,
трудоустройстве бывших студентов, доходах и других факторах, могла бы вызвать хаос в их
рейтинге и репутации. Без сомнения, они также привели немало разумных доводов
относительно уязвимости любой новой модели и новых петель обратной связи, которые она
могла бы создать.
И правительство капитулировало. Возможно, результат получился даже лучше. Вместо
рейтинга Министерство образования загрузило массу информации на свой сайт. В результате
учащиеся могут задавать свои вопросы об интересующих их вещах, включая размеры
классов, процент выпускников и среднюю сумму долга, которую нужно выплачивать
оканчивающим обучение студентам. Им не нужно знать ничего о статистике и весомости
разных переменных. Само программное обеспечение, как на сайте, посвященном
путешествиям, создает индивидуальные модели для каждого человека. Только подумайте:
прозрачную, контролируемую пользователем и индивидуальную. Можно назвать ее
противоположностью ОМП.

Машина пропаганды: интернет-реклама
Однажды, когда я работала специалистом по анализу данных в рекламном стартапе Intent
Media, наш офис посетил один выдающийся венчурный капиталист. Он подумывал об

39

инвестициях в нашу компанию, и компания собиралась показать себя с наилучшей стороны.
Всех нас собрали, чтобы выслушать речь гостя.
Он обрисовал нам блистательное будущее контекстной рекламы. Предоставляя огромное
количество информации, люди дадут рекламщикам возможность многое о них узнать. Это
позволит компаниям нацеливать на них информацию, которые они будут считать ценной, и
выдавать ее в нужное время и в нужном месте. Например, пиццерия сможет узнать о вас не
только то, что вы живете по соседству, но и то, что, возможно, вам захочется снова заказать
ту самую пиццу на толстом корже с двойным сыром и пепперони, которую вы ели на
прошлой неделе в перерыве между таймами игры «Даллас Ковбойз». Их система может
распознать, что люди, чьи данные следуют закономерностям, похожим на ваши, с большей
вероятностью кликнут на скидочный купон в течение этого двадцатиминутного перерыва.
Самым слабым местом в этой аргументации мне показалось ее обоснование. Инвестор
утверждал, что грядущий обвал индивидуализированной рекламы будет настолько полезным
и своевременным, что потребители воспримут его с радостью. Они даже будут умолять о
добавке. Он считал, что большинство людей протестует против рекламы, потому что она для
них нерелевантна. В будущем все будет иначе. Предполагалось, что персонажи из
эксклюзивной презентации гостя будут радоваться рекламе, скроенной точно под них, –
предлагает ли она коттеджи на Багамах, оливковое масло ручного отжима или таймшер на
частный самолет. И еще он пошутил, что никогда больше не увидит рекламы Университета
Финикса – коммерческой образовательной фабрики, реклама которой по большей части
адресована борющимся за выживание (и наиболее беззащитным перед обманом) низшим
слоям населения.
Мне показалось странным, что он упомянул Университет Финикса. Почему он видел их
рекламу, а я – нет? Или я просто ее не замечала? В любом случае я знала достаточно о
коммерческих университетах, которые к тому моменту превратились в предприятия с
многомиллионным оборотом. Эти так называемые фабрики дипломов зачастую
поддерживались правительственными кредитами, а выдаваемые ими дипломы имели очень
небольшой вес при устройстве на работу. Во многих профессиях они котировались не выше,
чем аттестат о среднем образовании.
И если оружие математического поражения, скрытое в рейтинге лучших вузов U. S. News,
портило жизнь студентам из среднего класса (и их родителям), то коммерческие колледжи
сосредоточились на гораздо более уязвимой части населения. Интернет давал им для этого
идеальный инструмент. Поэтому нет ничего удивительного, что резкий рост этой индустрии
совпал с появлением интернета в качестве постоянно действующего средства массовой
коммуникации. Реклама в Google, на которую Университет Финикса потратил 50 миллионов
долларов, была нацелена на беднейшие общественные слои и использовала в качестве
приманки перспективы продвижения вверх по социальной лестнице. В приманке содержался
подспудный упрек в адрес этих самых народных масс в том, что они делают слишком мало
для того, чтобы улучшить свою жизнь. И это сработало. С 2004 по 2014 год число
абитуриентов, поступавших в коммерческие колледжи, увеличилось втрое, и теперь в них
числится 11 % от общего числа студентов университетов и колледжей США.
Маркетинг этих университетов очень сильно отличается от первоначального
представления об интернете как о великой уравнивающей и демократизирующей силе.
Действительно, на заре интернета никто не знал, что ты собака[9]. Теперь все совсем не так.
Мы все зачислены в ту или иную категорию, включены во множество рейтингов и оценены с
помощью сотен моделей, которые изучают наши предпочтения и наше поведение онлайн.
Эта статистика формирует мощную базу для вполне законных рекламных кампаний, но
также кормит и их хищных кузенов: рекламные объявления, которые находят людей в
трудном положении и продают им лживые или переоцененные обещания. Такие рекламные
инструменты находят неравенство и наживаются на нем. В результате они увековечивают
существующую социальную стратификацию со всеми ее несправедливостями. Самый

40

главный водораздел проходит между теми, кто победил в нашей системе (вроде этого
венчурного капиталиста), и теми, на ком наживаются модели, созданные первыми.
Везде, где вы найдете соединение большой нужды и невежества, скорее всего,
обнаружится и хищническая реклама. Если человека беспокоят проблемы в его сексуальной
жизни, реклама подсунет ему «Виагру» или «Сиалис», а то и пообещает увеличение пениса.
Если вам не хватает денег, вас забросают предложениями «кредитов до зарплаты» с высоким
процентом. Если тормозит компьютер – это, возможно, вирус, внедренный
рекламщиком-хищником, который потом сам же предложит вам от него избавиться. Как мы
увидим, бум коммерческих колледжей подпитывался именно хищнической рекламой.
Когда дело доходит до ОМП, хищническая реклама лучше всего определяет ситуацию.
Оружие математического поражения выискивает самых отчаявшихся из нас и делает это в
огромных масштабах. В области образования хищническая реклама, как правило, лживо
обещает открытый путь к достатку, в то же время подсчитывая, как максимизировать доход,
который рекламодатель получит от каждого предполагаемого покупателя. Эти действия
порождают обширные и порочные петли обратной связи и в конце концов погребают
клиентов под завалами непосильных долгов. При этом жертвы даже не подозревают, что их
обманывают, потому что рекламные кампании совершенно непрозрачны. Объявление просто
вдруг появляется на экране компьютера, позже иногда поступает звонок по телефону.
Жертвам редко удается понять, как именно они были выбраны или каким образом реклама
так много узнала о них.
Возьмем, к примеру, Коринфские колледжи (Corin-thian Colleges) – огромную
образовательную систему, до последнего времени – гиганта индустрии. На факультетах всех
кампусов Коринфских колледжей училось в целом более 80 000 студентов, причем большая
часть из них получала кредиты, профинансированные федеральным правительством. Однако
в 2013 году генеральный прокурор штата Калифорния обвинил Коринфские колледжи в
предоставлении ложных данных о проценте трудоустроенных выпускников, в завышении
цен на обучение и неавторизованном использовании изображений печатей Министерства
обороны в хищнической рекламе – и все это ради того, чтобы ввести в заблуждение самые
беззащитные слои населения. В иске генпрокурора было указано, что один из кампусов
Коринфских колледжей – Брэндон-кампус университета Эверест – брал 68 800 долларов за
онлайн-курс для получения диплома помощника юриста, в то время как подобные курсы
стоят менее десяти тысяч долларов во многих традиционных колледжах по всей стране.
Более того, утверждал иск, Коринфские колледжи специально выискивали «одиноких и
нетерпеливых людей с низкой самооценкой», в жизни которых было «очень мало тех, кто
мог бы о них позаботиться»; людей, которые «застряли» в своем продвижении по жизни и
«были не в состоянии планировать свое будущее». В целом деятельность Коринфских
колледжей была названа «незаконной, нечестной и мошеннической». В 2014 году, в сам ый
разгар скандала и все новых жалоб на злоупотребления, администрация президента Обамы
перекрыла Коринфским колледжам доступ к федеральному фонду студенческих займов. В
середине 2015 года компания распродала имущество большинства кампусов и объявила о
банкротстве.
Но сама индустрия продолжает развиваться. Особенно отвратительный пример – колледж
Ваттеротт, институт повышения квалификации. Отчет сенатского комитета 2012 года,
посвященный коммерческим колледжам, описал инструкцию по привлечению студентов в
Ваттеротт – совершенно дьявольский документ. Рекрутерам предлагается обращать особое
внимание на «одиноких матерей с детьми, живущих на пособие; беременных женщин;
недавно разведенных; людей с низкой самооценкой и низкооплачиваемой работой; недавно
переживших потерю близких; постоянно подвергающихся физическому и/или
психологическому насилию; недавно вышедших из тюрьмы; проходящих лечение от
наркотической зависимости; имеющих работу без перспектив продвижения, порождающую
ощущение отсутствия будущего».

41

Почему именно этих людей? Потому что уязвимость ценится на вес золота, и так было
всегда. Представьте себе бродягу-афериста из какого-нибудь вестерна. Вот он въезжает в
какой-нибудь городок на козлах фургона, полного позвякивающих скляночек и бутылочек.
Увидев пожилую даму, потенциальную покупательницу, он тут же начинает выискивать ее
слабости. Она прикрывает рот рукой, когда улыбается, – значит, стесняется плохих зубов!
Когда волнуется, машинально крутит обручальное кольцо, которое, судя по увеличенной
костяшке, застряло на ее безымянном пальце навсегда, – артрит! Поэтому, когда мошенник
начнет рекламировать пожилой даме свои средства, он сделает ставку на ее
слабости: пообещает ей восстановить белоснежную улыбку и убрать болезненные ощущения
в суставах. Зная все это, он уже на полпути к продаже – хотя еще даже не открыл рот, чтобы
сказать первое слово.
Хищнические объявления действуют по схожему сценарию, с тем только отличием, что
они имеют огромный масштаб и выискивают жертвы среди миллионов людей каждый день.
Невежество клиентов, конечно же, главный компонент этой системы. Многие из
потенциальных студентов – иммигранты, которые приехали в Америку с убеждением, что
частные университеты всегда более престижны, чем публичные (университеты штатов и
городов). Это убеждение, возможно, имеет некоторые основания, когда речь идет о таких
университетах, как Гарвард и Принстон. Но верить в то, что, например, чикагский
Университет Деври или Университет Финикса – это всегда лучше, чем любой университет
штата (среди которых достаточно назвать Беркли, Мичиганский или Виргинский), может
лишь совсем зеленый новичок.
Как только становится понятно, что потенциальный студент не слишком осведомлен в
таких вопросах, ключевой задачей рекрутера (как и торговца чудодейственными снадобьями)
становится поиск самых уязвимых клиентов и использование против них их же приватной
информации. Прежде всего необходимо найти наиболее болезненную для них проблему
– так называемую болевую точку. Это может быть низкая самооценка, постоянный стресс от
необходимости жить и растить детей в квартале, где воюют уличные банды, или, возможно,
наркотическая зависимость. Многие люди случайно раскрывают свои болевые точки, когда
делают запрос в Google, или позже, когда заполняют анкеты в колледже. Заполучив эту
ценную крупицу информации, вербовщик тут же обещает клиенту, что образование в данном
университете пусть и дорого, но зато оно решает проблемы и избавляет от боли. Инструкция
для рекрутеров Ваттеротта гласит:
Мы имеем дело с людьми, которые живут исключительно сегодняшним моментом. Их
решение начать учиться, продолжить обучение или бросить его в большей степени
основывается на эмоциях, чем на логике. Боль – лучшая мотивация в краткосрочной
перспективе.
А в инструкции для рекрутеров Технического института ITT даже использовано
изображение стоматолога, нависающего над страдающим пациентом, которое
сопровождается словами: «Надо выяснить, где у него болит».
Первый клик потенциального клиента на сайте коммерческого колледжа студент делает
только потому, что гигантский индустриальный процесс уже проделал предварительную
работу. В Коринфских колледжах, например, работала команда маркетологов из 30 человек,
которые тратили 120 миллионов долларов в год в основном на то, чтобы генерировать и
разрабатывать 2,4 миллиона «крючков» и «подходов», приводивших в кампусы 60 000 новых
студентов и приносивших 600 миллионов долларов дохода ежегодно. Эти большие
маркетинговые команды выходили на потенциальных студентов с помощью обширного
набора инструментов – от телевизионной рекламы и рекламных щитов на шоссе и
автобусных остановках до почтовой рассылки, контекстной рекламы в Google и даже обхода
рекрутерами школ и частных домов. Аналитик такой команды обычно разрабатывает
различные рекламные кампании с четкой задачей – непременно получить отклик. Чтобы
оптимизировать вербовку – а значит, будущие доходы, – маркетологам нужно знать, кого

42

именно достигли их послания и, если возможно, какое воздействие они оказали. Только с
этой информацией на руках они могут оптимизировать свои действия.
Ключ к любой программе оптимизации – это, разумеется, выбор цели. Что касается таких
«фабрик дипломов», как Университет Финикса, думаю, не будет ошибкой сказать, что тут
цель заключается в вербовке наибольшего количества студентов, которые смогут получить
правительственные кредиты, чтобы заплатить за свое обучение. Держа в голове именно эту
цель, специалисты по анализу данных должны выяснить, как лучше всего организовать
различные коммуникационные каналы, чтобы получить наилучшую отдачу.
Начинают эти специалисты с байесовского подхода, который в статистике считается
стандартным. Суть байесовского подхода в том, чтобы расположить варианты по степени их
воздействия на желаемый результат. Контекстная реклама, телевидение, билборды, другие
способы продвижения – все это измеряется по степени эффективности на один вложенный
доллар. Каждому способу присваивается разная вероятность – «ценность» или «вес».
Это довольно сложно, потому что разные рекламные кампании пересекаются и
взаимодействуют друг с другом и большую часть воздействия той или иной из них
невозможно измерить точно. Например, увеличивает ли рекламное объявление в автобусе
вероятность того, что потенциальный студент позвонит по телефону, указанному в рекламе?
Сложно сказать. Легче отследить активность в Сети, и тут коммерческие колледжи могут
собрать жизненно необходимую им информацию о каждом потенциальном студенте – где он
живет и на какие сайты заходит.
Именно поэтому большая часть денег, которые коммерческие университеты тратят на
рекламу, достается Google и Facebook. Каждая из этих платформ позволяет рекламщикам
сегментировать их целевые группы до мельчайших подробностей. Например,
промоушн-кампания нового фильма может сосредоточиться на мужчинах в возрасте от 18 до
28 лет, живущих в 50 самых дорогих регионах страны (это определяется по почтовому
индексу); наиболее лояльной частью аудитории будут считаться те, кто раньше кликал на
профиль актера, сыгравшего главную роль, лайкал его посты в социальных сетях,
зафолловил его в Twitter (или оказался в друзьях у того, кто это сделал). Но коммерческие
колледжи охотятся совсем в других угодьях. Они скорее будут выискивать людей в самых
бедных районах, уделяя особое внимание тем, кто кликал на объявления о микрокредите до
заплаты или, судя по всему, страдает от посттравматического стресса. (Ветеранов вербуют
очень активно, отчасти потому, что на них легче получить федеральный кредит.)
Рекламная кампания прогоняет бесконечные серии конкурирующих объявлений, чтобы
увидеть, какие принесут наибольшее количество потенциальных студентов. Этот метод,
основанный на так называемом А/В-тестировании, уже десятилетиями используется людьми,
которые работают на рынке прямой почтовой рекламы. Они рассылают огромное количество
рекламных предложений, измеряют количество откликов и соответствующим образом
настраивают свои кампании. Каждый раз, когда вы обнаруживаете в своем почтовом ящике
очередное предложение обзавестись кредитной картой, вы участвуете в одном из таких
тестирований. Даже не вскрыв конверт, даже выбросив его, вы все равно предоставляете
компании важную информацию: этот тип рекламы в вашем случае не работает. И в
следующий раз они попробуют слегка измененный подход. Это может казаться
бессмысленным, учитывая то, какое количество подобных конвертов оказывается в мусоре.
Но для многих специалистов прямого маркетинга, действующих как через интернет, так и
через почту, даже один процент отклика – это уже воплощенная мечта! В конце концов, тут
работает закон больших чисел. Один процент населения США – это более трех миллионов
человек.
Как только эти рекламные кампании перемещаются онлайн, уточнение информации
происходит гораздо эффективнее. Интернет предоставляет рекламщикам бесценную
лабораторию для исследования рынка потребления и определения круга потенциальных
покупателей. Отклик от каждой рекламной кампании поступает в течение нескольких секунд
– гораздо быстрее, чем в случае с почтовой рассылкой. В течение часов (вместо месяцев)

43

можно отобрать наиболее эффективные послания и подойти ближе к заманчивой цели всей
рекламной индустрии: застигнуть потенциального потребителя в нужное время с наилучшим
посланием, которое может подтолкнуть его к нужному решению, – и таким образом
одержать успех в вербовке еще одного потребителя, готового расстаться с деньгами.
Настройка и отладка на достижение этой цели никогда не прекращаются.
А тем временем машины, перерабатывающие всю эту информацию, все в больших
объемах получают от нас ценные данные, узнают все наши привычки и надежды, страхи и
желания. Эти машины постоянно обучаются, искусственный интеллект совершенствуется – и
в результате компьютер может разобраться в данных, следуя только самым базовым
инструкциям. Алгоритм сам находит нужные паттерны, а затем, со временем, соединяет их с
полученным результатом. В каком-то смысле он учится.
В сравнении с человеческим мозгом машина учится не слишком эффективно. Маленькая
девочка притрагивается пальцем к плите, чувствует боль – и запоминает до конца жизни
взаимосвязь между горячим металлом и пульсирующей болью в руке. Также она узнает
слово, обозначающее то, что с ней случилось: ожог. Программе машинного обучения же
зачастую требуются миллионы или миллиарды единиц информации, чтобы создать
статистические причинно-следственные модели. Но впервые в истории эти петабайты
информации сейчас стали доступны, вместе с мощными компьютерами, которые способны
их обработать. Поэтому для многих профессий машинное обучение оказывается более
гибким и настраиваемым, чем традиционные программы, основанные на жестких правилах.
Лингвисты, например, потратили десятилетия – с 1960-х до начала 2000-х – на то, чтобы
научить компьютеры читать. И почти все это время ушло у них на программирование
определений и грамматических правил. Но, как очень быстро уясняет для себя любой
человек, изучающий иностранный язык, все живые языки просто переполнены
исключениями. В них есть сленг. В них есть сарказм. Значение определенных слов меняется
со временем и местоположением. Живая сложность любого языка – настоящий кошмар для
программиста. По сути, кодирование правил оказывается бесполезным.
Но сейчас, в эпоху интернета, люди по всей земле загрузили онлайн квадриллионы слов о
жизни, работе, покупках и дружбе. В этом процессе мы ненамеренно создали величайший в
истории тренировочный плацдарм для языковых машин. Когда мы перешли с бумажных
писем на электронные, а также на общение в социальных сетях, машины смогли изучать
наши слова, сравнивать их с другими – и постепенно уяснять контекст. Прогресс оказался
быстрым и впечатляющим. Еще в 2011 году компания Apple вызвала скепсис в мире высоких
технологий своим основанным на естественном языке «личным помощником» Siri.
Технология могла нормально использоваться только в определенных областях, и к тому
же Siri делала смехотворные ошибки. Большинство моих знакомых сочли эту функцию
бесполезной. Но сейчас я вижу, как люди постоянно разговаривают со своими телефонами,
спрашивая их о прогнозе погоды, результатах спортивных матчей или о том, как куда -то
проехать. Примерно в 2008–2015 годах лингвистические способности алгоритмов поднялись
с уровня детского сада до уровня средней школы, а в некоторых приложениях еще и гораздо
выше. Эти продвижения в освоении естественного языка открыли для рекламщиков золотую
жилу возможностей. Программы «знают», что означает то или иное слово, и знают как
минимум достаточно, чтобы проассоциировать это слово с определенным поведением или
результатом – хотя бы иногда. Подпитываемые отчасти этим увеличивающимся языковым
мастерством, рекламщики теперь могут исследовать более глубокие паттерны. Рекламная
программа может начать с обычных демографических и географических деталей. Но в
течение недель и месяцев она начинает изучать образцы поведения людей, на которых
настроена, и предсказывать их следующие шаги. Она их узнает. И если программа по сути
своей хищническая, она раскрывает их слабости и уязвимые места и следует по самому
эффективному пути, чтобы их использовать.
Помимо самых последних достижений компьютерной науки, хищническая реклама часто
использует и посредников, которые применяют гораздо более грубые способы охоты на

44

потенциальных клиентов. В 2010 году в одном (оказавшемся весьма эффективным)
рекламном объявлении фотографию президента Обамы сопровождал следующий текст:
«Обама просит мамочек вернуться к учебе: тем, кто получит диплом, доступна финансовая
помощь». Звучало это так, будто президент подписал какой-то новый закон, направленный
на то, чтобы обеспечить продолжение учебы для молодых женщин, которым в свое время
пришлось оставить колледж после рождения ребенка. Ничего подобного на самом деле не
было, но пользователи кликали по ссылке – так что свою задачу баннер выполнил.
За этим дезориентирующим объявлением стоит напряженная работа целой грязной
индустрии. Когда одна из потенциальных студенток кликнула на объявление, то, по данным
расследования, проведенного независимой журналистской группой ProPublica, ей тут же
предложили ответить на несколько вопросов, включая возраст и номер телефона, и с ней тут
же связался представитель коммерческого колледжа. Он не смог сказать девушке ничего
определенного относительного «нового закона, подписанного Обамой» (потому что такого
закона не существовало), но зато тут же предложил помощь в получении кредита на
обучение.
Такой способ отбора потенциальных жертв в интернете называется «определением круга
потенциальных потребителей». В ходе этого процесса составляется список потенциальных
потребителей, которых можно продать – в данном случае продать коммерческим колледжам.
По данным ProPublica, около 20–30 % рекламных бюджетов коммерческих колледжей идут
именно на определение круга потенциальных потребителей. За наиболее ценных
потенциальных жертв колледжи могут заплатить посредникам до 150 долларов за каждого.
По словам Дэвида Халперина, исследователя в области публичной политики, один из
таких «определителей
круга», компания Neutron Interactive,
базирующаяся
в
Солт-Лейк-Сити, выложила фальшивые предложения работы на Monster.com и подобных
сайтах вместе с рекламой, обещающей помощь при получении продовольственных талонов и
медицинской страховки. Используя те же методы оптимизации, они размещают множество
различных рекламных объявлений, исследуя их эффективность для каждого общественного
сектора.
Цель этих объявлений – заманить людей, отчаянно ищущих работу, и заставить их
сообщить номера своих телефонов. В звонках, которые следуют за этим, лишь 5 %
потенциальных клиентов проявляет интерес к обучению в колледже. Но имена этих людей
– важнейшие зацепки: за каждое такое имя коммерческий колледж готов заплатить до 85
долларов. И колледж сделает все, что в его силах, чтобы это вложение оправдало себя. Стоит
потенциальному студенту оставить где-нибудь свои данные, как, согласно отчету Главного
бюджетно-контрольного управления США, ему тут же начинают звонить по телефону. Один
такой потенциальный студент получил более 180 телефонных звонков за один месяц.
Конечно, у коммерческих колледжей есть собственные методы для определения круга
потенциальных потребителей. Один из важнейших инструментов – это сайт College Board,
который используют многие студенты для того, чтобы записаться на сдачу SAT и изучить
варианты дальнейшего обучения. Согласно данным Мары Такер (консультанта для
абитуриентов в частном Математическом и естественнонаучном институте городского
совета для молодых женщин (Бруклин)), механизм поиска на этом сайте настроен таким
образом, чтобы перенаправлять бедных студентов к списку коммерческих колледжей. Как
только студентка ставит галочку в графе «нуждаюсь в финансовой помощи», она тут же
видит список подходящих вузов – и наверху списка находятся коммерческие колледжи.
Коммерческие колледжи также предоставляют различные бесплатные сервисы в обмен на
личные контакты студентов. Кэсси Маджесис, еще один консультант бруклинского
Института городского совета, рассказала мне, что колледж может, скажем, организовать
бесплатные семинары, на которых студентов учат написанию резюме. От этих семинаров
действительно есть толк, однако в результате нуждающихся студентов, которые
предоставили для участия в семинаре свою контактную информацию, начинают прямо-таки
преследовать. При этом коммерческие колледжи даже не пытаются охотиться на богатых

45

студентов – они и их родители гораздо лучше разбираются в том, как что устроено в сфере
образования.
Вербовка во всех ее формах – краеугольный камень бизнеса коммерческих колледжей, и
поэтому они тратят на нее больше денег, чем на собственно образование. Отчет Сената
США, в котором было рассмотрено 30 различных систем коммерческих колледжей, выявил,
что в них один вербовщик приходится на 48 студентов. Apollo Group, материнская компания
Университета Финикса, потратила более миллиарда долларов на маркетинг в 2010 году, и
почти все эти траты ушли на рекрутинг студентов (в среднем 2225 долларов на студента на
маркетинг и только 892 доллара на студента на обучение). Сравните это с показателями
Портлендского общественного колледжа (штат Орегон), который в среднем тратит 5953
доллара на обучение одного студента и лишь 1,2 процента бюджета, то есть 185 долларов на
студента, на маркетинг.

***
Математика в форме сложных моделей подпитывает хищническую рекламу, которая
приводит в эти колледжи потенциальных студентов. Но к тому времени, как вербовщик
начинает названивать потенциальному студенту по телефону, мы уже оставили позади мир
цифр. Расхваливание услуг колледжа, с обещаниями доступной оплаты, ярких карьерных
перспектив и продвижения в более высокие слои общества, происходит примерно по той же
схеме, что и реклама магических эликсиров, средств от облысения и вибропоясов против
жира на талии. Все это не ново.
Однако важнейший компонент оружия математического поражения – это ущерб, который
оно наносит жизням столь многих людей. И в случае хищнической рекламы такого типа
ущерб начинает происходить, только когда студенты начинают брать огромные кредиты на
образование.
Основной показатель здесь – так называемое правило 90/10, включенное в закон о
высшем образовании 1965 года. Он устанавливает, что колледжи не могут брать более 90
процентов финансирования из федерального бюджета. За этим правилом стояло следующее
соображение: если у студентов будет какой-то финансовый стимул, они начнут
воспринимать образование более серьезно. Но коммерческие колледжи быстро включили это
соотношение в свои бизнес-планы. Если студенты смогут наскрести несколько тысяч
долларов – из собственных сбережений или с помощью банковских кредитов – университеты
смогут набрать на каждого из них в девять раз больше в виде государственных займов, что в
итоге сделает каждого студента невероятно выгодным с коммерческой точки зрения.
Многим студентам кредиты кажутся просто бесплатными деньгами, и вузы не пытаются
разубедить их в этом. Но на самом деле это долг – и многие очень быстро вязнут в нем по
шею. Совокупный долг студентов на момент банкротства Коринфских колледжей составлял
3,5 миллиарда. Почти все эти кредиты были погашены налогоплательщиками и никогда уже
не будут им возмещены.
Конечно, некоторые люди оканчивают коммерческие колледжи со знаниями и умениями,
которые пригождаются им в жизни. Но лучше ли у них складываются карьера, чем у
выпускников общественных колледжей, чье обучение стоило намного дешевле? В 2014 году
в ходе исследования, проведенного Национальным центром анализа динамических данных в
области образования (CALDER) в рамках Американских институтов исследований, было
написано около девяти тысяч фальшивых резюме. Некоторые из этих несуществующих
соискателей работы указали в CV наличие диплома коммерческого колледжа, некоторые
– общественного вуза, а у третьей группы вообще не было высшего образования.
Исследователи разослали эти резюме работодателям в семи крупнейших городах США, а
затем измерили число откликов. Обнаружилось, что дипломы коммерческих колледжей
котировались ниже, чем дипломы общественных колледжей, – примерно наравне с
аттестатом об окончании средней школы. В то же время обучение в коммерческих
колледжах стоит в среднем на 20 % больше, чем в самых престижных университетах штатов.

46

Петля обратной связи, порождаемая этим видом ОМП, не столько сложна, сколько
безнравственна. Самые бедные 40 % американского населения и так находятся в отчаянном
положении. Многие рабочие места на фабриках и заводах исчезли: либо были заменены
высокими технологиями, либо переместились за океан. Профсоюзы утратили свое влияние.
Самые богатые 20 % населения контролируют 89 % всего капитала в стране, а беднейшие
40 % не контролируют вообще ничего. Их доходы, так сказать, отрицательны: в среднем
семья в этом огромном и бедствующем секторе имеет долг в 14 800 долларов, в основном на
счетах кредитных карт с грабительским процентом. Этим людям нужны деньги. А ключ к
хорошему доходу, как они слышат снова и снова, – это образование.
И тут на сцене появляется коммерческий колледж со своим отлично настроенным
оружием математического поражения, и этот колледж выискивает и окончательно обдирает
самых нуждающихся. Он сулит им наилучшее образование и рисует завораживающие
картинки продвижения наверх по социальной лестнице – а в то же время погружает их все
глубже в долговую трясину. Он эксплуатирует нужды бедных семей, их невежество и их
мечты, и делает это в гигантских масштабах. В результате распространяется чувство
безнадежности и отчаяния, которое, вместе со скепсисом в отношении качества образования
в принципе, лишь углубляет огромную имущественную пропасть в нашей стране.
Стоит заметить, что эти фабрики дипломов усугубляют неравенство в обоих
направлениях. Президенты ведущих коммерческих университетов зарабатывают миллионы
долларов в год. Например, Грегори Капелли, генеральный директор Apollo Education
Group (материнской компании Университета Финикса), положил в карман 25,1 миллиона
долларов совокупной прибыли в 2011 году. В государственных университетах (у которых,
конечно, тоже есть свои недостатки) лишь футбольные и баскетбольные тренеры могут
рассчитывать на такие заработки.

***
К сожалению, коммерческие колледжи далеко не одиноки в использовании хищнической
рекламы. Они лишь одни из многих. Стоит подумать о людях, которые находятся в сложных
обстоятельствах, – и вы сразу найдете рядом рекламщиков, которые оттачивают на них свои
хищнические модели. Одна из самых очевидных возможностей – это кредиты. Конечно, всем
нужны деньги, но некоторым они нужны более срочно, чем остальным. Этих людей
несложно найти. Самые нуждающиеся, скорее всего, будут обитать в беднейших районах. И
с точки зрения организаторов хищнической рекламы, они просто взывают об особом
внимании, забивая свои запросы в поисковики и кликая на баннеры.
Как и коммерческие колледжи, индустрия краткосрочных микрокредитов широко
применяет ОМП. В некоторых случаях она управляется вполне легальными процедурами,
однако индустрия в целом совершенно хищническая: займы выдаются под возмутительно
высокие кредитные ставки (в среднем 574 % на краткосрочный кредит), причем эти займы в
среднем продлеваются восемь раз, что делает их больше похожими на долгосрочные
кредиты. Эти кредитные организации поддерживаются легионами брокеров данных и
маркетологов, формирующих круги потенциальных потребителей, многие из которых
действуют как мошенники. Их рекламные объявления вдруг появляются на экране вашего
компьютера или смартфона, предлагая быстрый доступ к наличности. Когда потенциальные
заемщики заполняют заявления, зачастую включающие в себя банковскую информацию, они
становятся беззащитными перед воровством и махинациями.
В 2015 году Федеральная торговая комиссия обвинила двух брокеров в торговле заявками
на кредиты от более чем полумиллиона клиентов. Из материалов дела следовало, что
компании Sequoia One, находящаяся в Тампе, штат Флорида, а также Gen X Marketing из
соседнего города Клируотер похитили номера телефонов и социальных страховок клиентов,
а также их банковские реквизиты и сведения об их работодателях, а затем продали эти
данные по 50 центов за каждую единицу информации. Компании-покупатели сняли как
минимум 7,1 миллиона долларов с банковских счетов клиентов. На многих из жертв были

47

наложены банковские штрафы за опустошение счетов или выписывание чеков без
достаточных средств на их покрытие.
Если вы задумаетесь о том, какие здесь были задействованы суммы, они окажутся
ничтожно малыми. Сумма в 7,1 миллиона долларов, разделенная на полмиллиона счетов,
дает всего 14 долларов на каждый счет. Даже если воры не смогли получить доступ ко
многим из этих счетов, все равно суммы, которыми они поживились, были незначительными
– последние 50 или 100 долларов, которые бедняки хранили на своих счетах.
В данный момент планируется введение новых законов, ограничивающих доступ к
личной информации – важнейшему элементу всех видов ОМП. На сегодняшний день пара
федеральных законов, таких как Закон об объективной кредитной отчетности и Закон о праве
сохранения и защите данных медицинского страхования, устанавливают некоторые
ограничения на данные по здоровью и кредитной истории граждан. Возможно, с оглядкой на
брокеров данных будут добавлены и новые лимиты.
Однако, как мы увидим в следующих главах, некоторые из самых эффективных и
безнравственных ОМП умудряются находить обходные пути. Они изучат все, от наших
районов проживания до наших друзей на Facebook, чтобы предсказать наше поведение – и
даже упрятать нас за решетку.

Жертвы среди мирного населения:
справедливость в эпоху Больших данных
Небольшому городу Рединг в штате Пенсильвания приходится нелегко в
постиндустриальную эпоху. Раскинувшийся на зеленых холмах в пятидесяти милях к западу
от Филадельфии Рединг в свое время разбогател на железных дорогах, стали, угле и
текстильном производстве. Но поскольку в последние десятилетия все эти отрасли
промышленности находятся в сильном упадке, город зачах. К 2011 году в нем наблюдался
самый высокий коэффициент бедности в стране – 41,3 (год спустя его опередил, пусть и
совсем немного, Детройт). Рецессия, начавшаяся в 2008 году, совсем подорвала экономику
Рединга, налоговые поступления уменьшились, и это вынудило городское полицейское
управление сократить персонал на 45 человек, несмотря на высокий уровень преступности.
Шефу полиции Рединга Уильяму Хейму пришлось решать проблему: сохранить на
прежнем уровне или даже повысить эффективность работы полиции, несмотря на
сокращение штата. В 2013 году Хейм решил инвестировать в программу по предотвращению
преступлений, которую производит компания PredPol, стартап в области Больших данных,
базирующийся в Санта-Крузе, штат Калифорния. Программа обрабатывала данные о
правонарушениях и высчитывала по часам, в каких местах с наибольшей вероятностью
могут произойти новые преступления. Город был разделен на квадраты, каждый с два
футбольных поля размером. Если полицейские Рединга тратили больше времени на
инспектирование именно тех квадратов, в которых с наибольшей вероятностью могли
произойти преступления, эти преступления было легче предотвратить. Уже через год Хейм
объявил, что количество ограблений снизилось на 23 %.
Предиктивные программы вроде PredPod сейчас пользуются огромным спросом в
полицейских участках с урезанным бюджетом по всей стране. От Атланты до
Лос-Анджелеса участки отправляют патрульных в наиболее опасные квадраты и рапортуют
о снижении уровня преступности. Нью-Йорк использует похожую программу под
названием CompStat. А полиция Филадельфии работает с местным продуктом, который
называется HunchLa и включает в себя анализ степени риска на местности: в него входит
информация об определенных объектах, вроде банкоматов или мини-маркетов, которые
могут привлекать преступников. Разработчики программ по предсказанию преступлений, как
и их коллеги в других областях индустрии Больших данных, спешат включить в свои
программы всю информацию, которая может повысить точность их моделей.
Если подумать, предсказания горячих точек преступлений похожи на модели по
перемещению защиты в бейсболе, которые мы обсуждали выше. Эти системы исследуют

48

историю хитов каждого игрока, а затем размещают филдеров в позиции, куда скорее всего
прилетит мяч. Программы по предсказанию преступлений анализируют ситуацию подобным
образом и помещают патрульных туда, где скорее всего произойдет преступление. Оба типа
моделей оптимизируют ресурсы. Но некоторое количество программ по предсказанию
преступлений представляют собой более сложные модели, так как предсказывают развитие
действий, которое может привести к волне преступлений. Приложение PredPol, например,
использует в своей основе анализ сейсмоактивности: оно анализирует определенное
преступление в определенном районе, включает его в исторический паттерн и
предсказывает, где и когда подобное может снова случиться. (В частности, программа
обнаружила такую простую корреляцию: если взломщики проникли в дом вашего соседа,
будьте начеку.)
Предиктивные модели преступлений вроде PredPol имеют свои достоинства. В отличие
от работников отдела профилактики преступлений из антиутопии Стивена Спилберга
«Особое мнение» (а также от некоторых зловещих инициатив в реальной жизни, до которых
мы дойдем в ближайших главах), полицейские не выслеживают людей до того, как те
совершат преступления. Создатель PredPol Джеффри Брантингем, профессор антропологии
Калифорнийского университета в Лос-Анджелесе, делает акцент на том, что модель не
различает расы и этническое происхождение. И в отличие от других программ, включающих
в себя модели по подсчету риска рецидива, которые мы уже обсуждали и которые
используются как ориентиры при назначении срока, PredPol не концентрируется на
конкретных людях. Вместо этого она изучает географию. Ключевые данные в ней – это тип
совершенного преступления, его место и время. Это кажется достаточно справедливым. И
если полицейские проводят больше времени в зонах повышенного риска, срывая планы
взломщиков и угонщиков автомобилей, есть хорошие причины верить в то, что программа
действует на благо общества.
Но большинство правонарушений не столь серьезны, как ограбления и угоны машин, и
именно здесь кроется серьезная проблема. Когда полиция начинает пользоваться
системой PredPol, у нее есть выбор. Они могут сосредоточиться исключительно на так
называемых преступлениях первой степени тяжести. Это жестокие преступления,
включающие в себя убийства, поджоги и разбои. Но они также могут расшири ть зону охвата
и включить в нее преступления второй степени: бродяжничество, агрессивное
попрошайничество, сбыт и употребление наркотиков в мелких масштабах. Многие из этих
правонарушений обычно остаются не замеченными полицией – если не происходят прямо на
глазах у патрульных.
Подобные нарушения порядка в высшей степени распространены во многих бедных
кварталах. В некоторых местах полиция называет их асоциальным поведением (ASB). К
сожалению, если такое поведение включить в модель, это может испортить анализ. Как
только данные о мелких правонарушениях попадают в предиктивную модель, в эти районы
подтягиваются дополнительные полицейские силы, и эти полицейские, скорее всего,
арестуют там больше людей, чем обычно. В конце концов, даже если цель офицера
– препятствовать лишь ограблениям, убийствам и изнасилованиям, у него могут быть
спокойные периоды затишья. Такова природа патрулирования. И если в свободную минуту
патрульный увидит двух явно несовершеннолетних ребят, которые что-то распивают из
бутылки, спрятанной в крафтовый пакет, он их остановит. Такого рода мелкие преступления
дают модели все больше точек на карте, и модель отправляет еще больше полицейских в те
же самые районы.
Это создает токсичную петлю обратной связи. Сама работа полицейских порождает
новые данные, которые оправдывают более усердную работу полицейских. В итоге наши
тюрьмы заполняются людьми, осужденных за преступления, в которых нет пострадавших.
Большая часть этих преступников происходит из бедных районов, и большинство из них
черные или латиноамериканцы. Так что, даже если модель не видит цвета кожи, в

49

результатах ее анализа этот цвет виден прекрасно. В наших сегрегированных городах
топография – отличное отражение расовой принадлежности.
Если цель моделей – предотвратить серьезные преступления, можно спросить: почему
мелкие правонарушения вообще в них отслеживаются? Ответ заключается в том, что с 1982
года настоящим кредо криминалистов стала взаимосвязь между антисоциальным поведением
и преступностью – с тех пор как криминолог Джордж Келлинг и эксперт по публичной
политике Джеймс К. Уилсон написали важнейшую статью для журнала Atlantic Monthly.
Статья была посвящена так называемой теории разбитых окон, заключавшейся в том, что
мелкие преступления и правонарушения создают атмосферу хаоса во всей округе.
Законопослушных граждан это отпугивает и побуждает переехать. Они оставляют после себя
темные и пустые улицы, которые теперь уже становятся питательной средой для серьезных
преступлений. Противоядием может стать общественное сопротивление распространению
беспорядка: починка разбитых окон, устранение граффити с вагонов метро и принятие мер
по предотвращению мелких правонарушений.
Эта теория воплотилась в кампании нулевой толерантности в Нью-Йорке 1990-х годов.
Полицейские могли арестовать подростка за то, что он всего лишь перепрыгнул турникет в
метро. Молодых людей задерживали за то, что они раскуривали единственный косяк на
компанию, возили по городу в зарешеченном фургоне, после чего ставили на учет в полиции.
Кое-кто считал, что именно эти энергичные меры привели к значительному снижению
количества серьезных преступлений. Другие с этим не соглашались. Например, авторы
бестселлера Freakonomics[10] связали снижение уровня преступности с легализацией абортов
в 1970-х. Возникло и множество других теорий: одни считали, что все дело в снижении
уровня наркотической зависимости от крэка, другие – что благодарить надо экономический
бум 1990-х. В любом случае принцип нулевой толерантности был широко поддержан
обществом, и система уголовного правосудия отправила миллионы людей – в основном
молодых представителей этнических меньшинств – в тюрьму, причем многих из них – за
незначительные правонарушения.
Но нулевая толерантность на самом деле имеет очень отдаленное отношение к теории
разбитых окон Келлинга и Уилсона. Их исследование было сосредоточено на показавшейся
им успешной полицейской инициативе в Ньюарке, штат Нью -Джерси. Полицейские,
патрулировавшие улицы в этом городе, в соответствии с программой должны были
проявлять высокий уровень терпимости. Их работа заключалась в том, чтобы
приспособиться к стандартам порядка на данной территории и помочь их поддерживать.
Стандарты в разных районах города варьировались. Например, в одном нужно было следить
за тем, чтобы бездомные пьяницы держали свои бутылки в пакетах и не выходили на
главные улицы, но на боковых им находиться было можно. В других районах наркоманам
разрешалось сидеть на ступеньках подъездов, но не лежать на них. Основной целью
полицейских было не допустить снижения этих стандартов. Полиция, согласно этой схеме,
помогала жителям квартала поддерживать их собственный порядок – и не насаждала свой.
Возможно, вы подумали, что я слишком отвлеклась от PredPol, математики и оружия
математического поражения. Однако каждый политический подход, будь то теория разбитых
окон или кампания нулевой толерантности, представляет собой какую -то модель. Точно так
же как мое планирование домашнего ужина или рейтинг колледжей журнала U. S. News,
каждая модель борьбы с преступностью требует загрузки определенной информации, после
чего следует серия откликов. Важно смотреть на политику таким образом, потому что эти
математические модели в наше время заняли доминирующее положение в
правоохранительных органах. И некоторые из них представляют собой ОМП.
При этом можно понять, почему полицейские отделы решают включать в модели
информацию о мелких правонарушениях. Выросшие на ортодоксальном убеждении о
необходимости нулевой толерантности, многие считают взаимосвязь мелких и крупных
преступлений не менее очевидной, чем взаимосвязь дыма и огня. Когда полиция британского
графства Кент решила опробовать PredPol в 2013 году, они тоже включили в модель


Related documents


PDF Document age discrimination
PDF Document untitled pdf document 9
PDF Document uop acc 546 individual assignment
PDF Document guida pratica a google plus
PDF Document social media power potential for business
PDF Document junior digital marketing specialist international


Related keywords