Мы не знаем, каким именно будет 2021 год. Но можно быть уверенными, что он поставит перед нами новые вызовы. Впрочем, многие уже почти вечные вопросы тоже останутся с нами. Как общаться с оппонентами в социальных сетях без агрессии? Не получит ли искусственный интеллект слишком много власти над людьми? Станет ли мир еще более несвободным из-за того, что корпорации получили доступ к данным?
Руководитель Теплицы социальных технологий Алексей Сидоренко собирал в своем Facebook рецензии на книги, которые помогут ответить на эти вопросы и разобраться, как жить и действовать в 2021 году. Мы составили список изданий, которые получили самые высокие оценки.
★★★☆☆
«Вместе: Как найти единомышленников, создать сообщество и ощутить связь со всем миром», Рада Агравал
Belong: Find Your People, Create Community, and Live a More Connected Life by Radha Agrawal (2018)
Рада Агравал – социальный предприниматель и инвестор. Сама себя Агравал называет архитектором сообществ. В ее послужном списке несколько проектов. Один из самых известных – Daybreaker, танцевальные вечеринки без алкоголя. Проект начался как социальный эксперимент для друзей и перерос в танцевальное движение. Также на счету Агравал Музей танца и Центр консультаций по построению сообществ.
В книге «Вместе» Рада Агравал говорит о «социальном парадоксе», или ситуации, когда оказывается, что при сотнях или даже тысячах друзей в социальных сетях у нас может не быть одного человека, которому можно довериться. Автор предлагает план, как найти «своих» людей и построить сообщество.
«Агравал напоминает Тони Роббинса возможностью собрать очень большие аудитории и сделать интересным и продаваемым собрание советов за все хорошее против всего плохого. Для требовательного читателя «Вместе» может показаться слишком простецкой. Агравал оперирует терминами «энергия» не в научном понимании. И, по моим оценкам, находится просто на шаг от мистического мышления в обосновании того, о чем говорит».
При этом Агравал говорит о вещах, которые касаются всех: о дружбе, об отношениях, об окружении. Как это – приехать в город, где никого не знаешь. С чего начинать, чтобы окружить себя теми людьми, которые улучшают, а не ухудшают качество жизни. Как определить друзей, а кто только ими притворяется. И несмотря на сомнительную теоретическую базу, Рада Агравал дает интересные и полезные советы. Например, автор рассказывает, как она смотрит в себя во время конфликтов, разгорающихся в чатах. И предлагает перед тем как написать что-то обидное, спросить у себя, что происходит в вашей жизни, что происходит с вами прямо сейчас и что происходит между вами и собеседником. Кому-то эти вопросы действительно помогут уберечь дружбу или хорошие отношения.
★★★★★
«Пятая дисциплина. Искусство и практика обучающейся организации», Питер Сенге
The Fifth Discipline by Peter Senge, 1990, 2006ч
Питер Сенге – директор и основатель Центра организационного обучения в школе менеджмента MIT Sloan, автор концепции «обучающейся организации», профессор MIT. Книга «Пятая дисциплина» о системном подходе в бизнесе была несколько раз переиздана как на русском, так и в оригинале. Книга рекомендуется всем, кто пытается понять общественные системы. Автор описывает пять дисциплин личного и общественного совершенствования: системное мышление, ментальные модели, командное обучение, построение видения, персональный рост. А еще «архетипы» – самые базовые модели анализа, из которых можно рисовать более крупные проблемы.
Автор считает, что будущее за организациями, которые поймут, как использовать заинтересованность сотрудников и их способность к обучению на всех уровнях компании. Чтобы что-то изменить, нужно менять не только компанию, но, в первую очередь, меняться самим сотрудникам. Поэтому идея обучающейся организации касается каждого.
«Несмотря на переиздание, многие элементы книги порядочно устарели. Поражает другое – насколько должна была быть революционной книга в момент ее появления. Несмотря на то, что фразы про командное обучение и персональный рост уже изрядно поднадоели, обращение к первоисточнику позволяет посмотреть на них глазами менеджера-инженера. А на главе про ментальные модели мне вообще «оторвало голову», и пришлось сделать паузу, чтобы осмыслить качественно новый подход к собственным убеждениям и позициям. Всячески рекомендую».
★★★★★
«Принятие моральных решений: как подходить к повседневной этике», Клэнси Мартин
Moral Decision Making: How to Approach Everyday Ethics by Clancy Martin, 2014
«Принятие моральных решений» канадского философа, писателя и эссеиста Клэнси Мартина – это целый аудиокурс, разбитый на 24 главы. Автор представляет преимущественно западную морально-этическую мысль сквозь призму достаточно повседневных вопросов: можно ли пытать террористов, если от этого зависит, произойдет или не произойдет теракт; должен ли я что-то стареющим родителям; каковы мои обязательства перед бедными и других.
Этика и мораль могут казаться достаточно очевидными понятиями, но они таковыми не являются. Каждый раз, когда мы сталкиваемся со сложными вопросами, рвущими шаблон добра и зла, оказывается, что мы далеко не первые, кто с ними столкнулся. И кто вынес из этих столкновений что-то, чем можно поделиться с человечеством. Поэтому и стоит прослушать курс. Жить станет только интереснее, а ваш моральный компас будет меньше сбоить в кризисных ситуациях.
«Несмотря на то, что со многими, если не со всеми, этическими позициями я был уже согласен, оказалось, что я не знал многих первоисточников «морально правильной» позиции. Самым крупным очевидным неочевидным открытием было «открытие» категорического императива Канта и высшего принципа нравственности по Канту: «поступай так, чтобы ты всегда относился к человечеству и в своем лице, и в лице всякого другого так же, как к цели, и никогда не относился бы к нему только как к средству». Ну, и, конечно, то, что мораль не нуждается в религии. Различать плохие и хорошие поступки по этому принципу стало значительно проще».
★★★★☆
«Делай сам/а: практики низовых гражданских инициатив», редколлегия: М. Лисина, М. Мускевич, М. Семененко, Д. Федотова, Т. Честина, 2017
Книга доступна для скачивания бесплатно. «Делай сам/а» рассказывает о практиках низовых гражданских инициатив в России и на территории постсоветского пространства в период с 2010 по 2015 год. Авторы книги описывают различные формы влияния на среду (городская экология, гендерный активизм, артивизм) добровольными, ненасильственными и креативными методами. Те организации, проекты, которые сейчас кажутся «столпами» не политического российского активизма, предстают в своих ранних стадиях, делятся своими целями, страхами, успехами.
По некоторым элементам текста кажется, будто это руководство к действию – в некоторых местах подробно описываются методы общения со сторонниками. Эта часть может быстро устареть. Но интервью с участниками волны низового активизма 2010-х годов будут интересны всегда. Особенный историзм сборнику придают фотографии: от волонтеров-пожарных, велосипедистов и городских огородников до беременной матери на фоне Томинского ГОКа.
«В современных российских условиях действующим активистам очень сложно до конца развить мысль о собственном видении будущего. У многих оно включает более свободные условия жизни и творчества. Активисты, описанные в книге, мечтают о более свободном (более либеральном, социалистическом или анархистском) обществе, но в открытую об этом не говорят. Но это наблюдение не уходит от авторов – граница между тем, что считать политическим и не политическим, кажется, нащупывается в течение всего текста».
★★★★★
«Нейромант» и «Граф Ноль», Уильям Гибсон
Neuromancer (1984) и Count Zero (1986) by William Gibson
«Небо над портом было цвета экрана телевизора, настроенного на пустой канал» – так начинается эпохальная для целого жанра киберпанка книга. «Нейромант» и «Граф Ноль» – это две части научно-фантастической трилогии Уильяма Гибсона «Киберпространство». Произошла Третья мировая война, миром теперь управляют транснациональные корпорации и дзайбацу («денежные кланы»), технологии и глобальные компьютерные сети. У Гибсона свой подход к осмыслению будущего, он базируется на осмыслении настоящего. Автор уверяет, что с самого начала писал о восьмидесятых годах, но никто этого не заметил. И фантастика в принципе не должна заниматься предсказанием будущего.
Например, Гибсон придумал понятие «киберпространство» на основе опыта использования первого плеера Sony Walkman. Он наблюдал за языком тела детей, играющих в самые простые аркадные игры, и увидел, что они пытаются достать сквозь экран то, за что они борются. «Я подумал, что если есть свободное место за экраном и каждый чувствует эти вещи на неком абстрактном уровне, то, может быть, проблема именно в пространстве», – рассказывал Гибсон. Подробный материал про способ мышления автора можно найти у блогера Soloveev.
Взгляд Гибсона в настоящее и поразительная способность упаковывать наблюдения в точные словосочетания дала миру и «киберпространство», и «Майкрософт», и прототипы мобильных телефонов, и файерволов в онлайн-сетях. В русскоязычной статье на Wikipedia про всю трилогию есть полный набор «изобретений» Гибсона. А на английском можно найти целые горы аналитических работ, посвященных аналитическим способностям автора.
«Мне кажется, сама пандемия (также частый сюжет у Гибсона) заставляет нас обращаться к основным мотивам киберпанка – high tech, low life. Наконец, у киберпанка богатейшая визуальная культура, а также особенная новая география будущего мира. Вердикт – читать обязательно. Актуально как никогда, и это пример совершенно прекрасной литературы».
★★★★★
«Убийственные большие данные. Как математика превратилась в оружие массового поражения», Кэти О’Нил
Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy by Cathie O’Neal, 2016
Кэти О’Нил в «Убийственных больших данных» проводит вскрытие предиктивным моделям. Предиктивные модели – это, например, кредитные и страховые рейтинги, на основе которых вам дают ту или иную ставку на кредит, рейтинги эффективности учителей, предиктивные рекламные модели. Таким образом, по мнению автора, «убийственные данные» не вызволяют человечество из оков несправедливой истории, но делают жизнь бедных еще невыносимее, создают замкнутый круг для наименее защищенных групп.
При этом Кэти О’Нил соглашается с неизбежностью использования алгоритмов. Но она решительно не согласна с тем, что творится в мире моделей сейчас. Стереотипы существовали и до математических моделей, но алгоритмы дают стереотипам два новых качества: скорость и масштаб. Эти два фактора делают предубеждения и ложные представления о мире по-настоящему разрушительными.
«Книгу прочитать я советую абсолютно всем, так как она изобилует мрачными примерами цифровой несправедливости и снабжает вас практически применимой оптикой. Текст очень простой, что особенно важно, когда речь идет о такой сложной теме. Это очень полезная книга, потому что она описывает важность критического подхода к математическим моделям, делающим выводы и предсказания относительно все большего числа аспектов нашей жизни».
★★★★★
«Совместимость: как контролировать искусственный интеллект», Стюарт Рассел
Human Compatible: Artificial Intelligence and the Problem of Control by Stuart Russel (2019)
Стюарт Рассел – профессор компьютерных наук в Калифорнийском университете в Беркли, директор Центра совместимого с человеком искусственного интеллекта (Center for Human-Compatible Artificial Intelligence). В академическом мире Рассел известен каноническим учебным пособием «Искусственный интеллект. Современный подход» («Artificial Intelligence: A Modern Approach»), написанным совместно с Питером Норвигом. Пособие было впервые издано в 1995 году и с того момента пережило четыре переиздания.
«Почему регалии Рассела так важны? Потому что основная линия атаки на любых техноалармистов разворачивается примерно так: «ну это гуманитарии написали», «исследования бизнеса», «подгонка эмпирического материала под сомнительные интеллектуальные построения». Когда доводы автора не нравятся, самый первый способ списать их в утиль – это подвергнуть сомнению профессиональный опыт автора. В случае с Расселом так не получится. Его аргументы придется принимать серьезно».
«Совместимость» – это книга о проблеме контроля. Рассел приводит достаточно алармистские аргументы про роботопокалипсис. Автор видит две основные проблемы в развитии искусственного интеллекта. Первая – «проблема гориллы». Автор считает, что в том виде, в котором машины созданы сейчас, ИИ может получить контроль над людьми. После этого, в лучшем случае, – держать нас в качестве домашних животных. А в худшем – создать враждебное окружение, постепенно приводя нас к исчезновению (подобно тому, что сделали люди с гориллами). Еще одна проблема – «проблема Мидаса». Согласно Расселу, машина решит проблему, какой бы сложной она ни была. Но машинное решение, если ценности человека и машины не созвучны, может быть вредным для создателей.
Для того чтобы решить эти проблемы, Рассел предлагает следующие принципы создания искусственного интеллекта. Единственной целью машины должна быть максимальная реализация человеческих предпочтений. При этом машина должна быть первоначально не уверена, каковы именно эти предпочтения. А финальным источником информации о человеческих предпочтениях становится человеческое поведение. Машины должны учиться тому, чего хотят люди, наблюдая за их действиями.
★★★★★
«Надзорный капитализм», Шошана Зубофф
The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power by Shoshana Zuboff, 2018
Мы живем в экономике, неотъемлемая составляющая которой – надзор за ее участниками в форме постоянного сбора данных, уверена автор книги Шошана Зубофф. Согласно ее точке зрения, в 2000-х годах в Google осознали важность пользовательских данных, которые можно использовать не только для улучшения пользовательского опыта, но и для продажи рекламы. Бесперебойный поток товаров и услуг в наших социальных сетях, по мнению Зубофф, угрожает человеческой свободе и автономии. Через сбор, обладание и аналитику данных о пользовательском поведении компании Кремниевой долины почти незаметно для граждан воздействуют на их поведение, влияя как на выбор повседневных товаров, так и кандидата на выборах.
Бизнес-модель надзорного капитализма позволяет «бесплатным» сервисам действительно не передавать ваши данные третьим лицам. Суть не в том, чтобы дать всем Excel-таблицу со всеми изображениями, которые вы посмотрели дольше секунды. Суть в том, чтобы на основе ваших действий создать предсказательную модель того, на что вы кликнете, а на что нет. И уже эти данные продать рекламодателям. Это не ваши персональные данные. Все агрегируются, ваш профиль – это просто единица в категории «любители сериалов». Поэтому важно смотреть на условия использования именно через призму того, как осторожно сервисы описывают, для чего именно они будут использовать ваши поведенческие данные.
«Шошана Зубофф убеждает нас в том, что не все цифровое будущее будет прекрасным. В надзорном капитализме наблюдения спецслужбы становятся слугами или несведущими союзниками совершенно нового типа власти – власти инструментальной. И власть эта основывается на том, что корпорации собирают о нас настолько много данных, что их хватает для создания целых рынков предиктивного поведения людей. Эксплуатировать данные можно не только в коммерческих, но и в политических, а также поведенческих целях».
Книга «Надзорный капитализм» была написана в 2018 году, но в период пандемии стала актуальна как никогда. Многие из нас разобщены в физическом пространстве, а компьютерная среда становится определяющей во внешних человеческих контактах. Вынужденные общаться онлайн, мы даем гигантам надзорного капитализма бесплатно те ресурсы (аналитику о нашем поведении и предпочтениях), на которых пока не проставлена цена и не проставлен хозяин. Перевода на русский пока нет, но еще можно почитать обзор на книгу независимого социального исследователя технологий Дмитрия Муравьева.
Может быть, есть еще книги, которые также помогут понять 2021 год? Поделитесь своими рекомендациями в комментариях.