О слишком большой власти современных технологических гигантов и связанных с их растущим влиянием опасностях.
В свое время автор книги исследовала вопрос изменения трудовой среды под влиянием информационных технологий. Профессор Шошана Зубофф понимала огромный потенциал персональных компьютеров и Интернета, и предвидела, что со временем всем работникам придется освоить новые навыки и трудиться в новой среде. Это, в свою очередь, приведет к рождению новой экономики, обладающей огромными возможностями. Но со временем Зубофф все больше стала склоняться к мысли, что в наступающем технологическом будущем скрыты не только возможности, но и серьезные угрозы.
В последние десятилетия все большую силу набирает цифровой капитализм, который ассоциируется в первую очередь с Google, Apple, Amazon, Microsoft и Facebook. Воспользовавшись доверием пользователей, эти компании, анализируя большие массивы данных, следят за нами, проникая во все сферы жизни, как личной, так и общественной. Они эксплуатируют человеческие стремления и эмоции, отслеживают наши вкусы, поведение, предпочтения с помощью алгоритмов. Доступ к этим данным могут получить любые желающие, от производителей товаров до политических деятелей.
Механизмы цифровой экономики настроены на тонкое, практически незаметное влияние, которое, тем не менее, способно нас поработить. Так формируется надзорный капитализм, который знает о нас все, но при этом мы о нем знаем очень мало. Производители компьютеров и смартфонов, социальные сети, всевозможные умные устройства постоянно собирают сведения о пользователях, подчеркивая политику конфиденциальности, однако ни один человек не может быть уверен, что его данные в полной безопасности. На заре цифровой эры высокие технологии казались обещанием прекрасного будущего. Но сегодня, по мнению Зубофф, мы видим, что эти представления оказались утопией: на сцену выходит ненасытный капитализм слежки.
Идея 1. Надзорный капитализм превращает в данные все стороны человеческой жизни и монетизирует их
Что представляет собой надзорный (шпионящий) капитализм? Он жаждет заполучить человеческий опыт, все стороны человеческой жизни в качестве сырья для перевода в поведенческие данные. Некоторые из них действительно используются для улучшения продукта или услуги, но все они используются в работе алгоритмов, которые превращают их в инструмент прогнозирования поведения.
С помощью массива данных алгоритм может просчитать, что человек будет делать сейчас, вскоре и в более далеком будущем. Он составляет прогнозы поведения, которые очень востребованы на недавно образовавшемся рынке. Следящие за нами компании новой формации чрезвычайно обогатились благодаря этим продажам, которые позволяют многим компаниям уверенно прогнозировать спрос на свою продукцию.
В качестве данных используется все, чем мы готовы поделиться в цифровом мире: наши мнения, предпочтения, события, эмоции, вкусы — все, что составляет нашу жизнь. И это еще не все: алгоритмы не только просчитывают наше поведение, но и умеют его формировать. Таким образом, не мы управляем автоматизированными потоками, а они начинают управлять нами.
Компании надзорного капитализма пытаются приучить пользователей к мысли, что сбор данных необходим для правильной работы цифровых технологий. Так, в 2009 году стало известно о том, что Google хранит поисковые запросы и систематизирует их, превращая наши данные в материал для разведывательных и правоохранительных органов.
Такие компании, как Ford и General Motors, были характерны для капитализма управления, основанного на массовом производстве. Рабочие добывали сырье и производили товары, продажа товаров давала прибыль, — избыток, который превращался в капитал. Сегодня Google представляет новую модель капитализма, основанную на слежке, — именно эта компания стал пионером, разработчиком и главным экспериментатором слежения. Данные пользователей, которые автор называет поведенческим избытком, становятся источником дохода.
На заре своего существования Google использовала поведенческие данные пользователей, чтобы улучшить поисковую систему. Но со временем, особенно после краха доткомов, когда молодые руководители Google Пейдж и Брин опасались за свое будущее, они нашли другое применение для массива данных пользователей. Они превратились в актив, сырье для прогнозирования, которое продавалось рекламодателям, обеспечивая создателям Google доходы от слежения. Вдохновившись идеями экономиста Хэла Вэриана, «гуглеры» изучали запросы пользователей и их поведение. Затем эти данные продавались по высокой цене.
Доходы Google очень быстро взлетели до небес. В 2008 году Шерил Сэндберг, бывший исполнительный директор Google, перешла на работу в Facebook, ознакомив его руководителя с методами работы своих прежних работодателей. Они пришлись по душе Цукербергу, располагавшему огромным массивом пользовательских данных. Позднее на те же методы перешли Amazon и Microsoft. Именно на этих китах и покоится капитализм слежки.
Идея 2. Возникновению надзорного капитализма предшествовали два исторических этапа
Автор называет эти этапы первой и второй современностью (modernity). Первая современность зародилась в начале ХХ века и была основана на подавлении индивидуальности, когда человек не мог позволить себе роскошь жить так, как ему нравится и хочется, и вынужден был приспосабливаться к большинству.
У каждого была социальная роль, и человек не мог выйти за ее пределы. Даже нуклеарная семья рассматривалась как фабрика производства унифицированных личностей, соответствующих социальным нормам массового общества. Это не могло не угнетать, и многие чувствовали потребность в самовыражении, праве выбрать собственную жизнь без оглядки на большинство.