Любая новая технология вне-человечна, и одна из задач «лириков» – гуманизировать, давать трезвую оценку новым технологиям, полученным ими от «физиков». Я уже кратко рассказывал о смене индустриальной эпохи на цифровую, которую многие называют эрой искусственного интеллекта. Настало время порассуждать о том, какое место умные машины займут в обществе, что такое социализация сильного искусственного интеллекта.
Сегодня мы можем столкнуться с искусственным интеллектом (ИИ, англ. artificial intelligence, AI) и даже не заметить этого. ИИ противостоит нам в играх, решает задачи логистики и транспорта, а также участвует в полноценных дебатах.
Искусственный интеллект – свойство интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека. Джон Маккарти
Первые реализации искусственного интеллекта появились уже в 70-х годах XX века. Сегодня после двух зим забвения он снова в центре внимания. На рубеже 2018-2019 гг. появились универсальные языковые модели, благодаря которым мы в скором времени можем перестать различать, где с нами говорит машина, а где человек. Пока ИИ не достиг вершин Шекспира, но, возможно, мы просто придираемся и завидуем его успехам.
Искусственный и естественный интеллект
Все, что мы наблюдаем в развитии этой технологии, до сих пор называют слабым искусственным интеллектом. Гипотеза сильного искусственного интеллекта предполагает, что компьютеры (или программы) могут приобрести способность осознавать себя как отдельную личность (в частности, понимать собственные мысли).
Тем самым сильный искусственный интеллект – это личность, хотя, возможно, и его мышление будет отличаться от привычного человеческого. Такую личность можно сравнить с представителями других разумных видов (например дельфинов, которые имеют свой язык). Или с людьми с высокофункциональным аутическим расстройством.
Сильный ИИ нельзя воспринимать, как жесткий алгоритм. Такое предположение заведомо ложно и ведет к широкому спектру заблуждений: от «их можно запрограммировать» до «они имитируют мышление». Искусственный интеллект по определению обладает способностью обучаться, кроме того, сильный искусственный интеллект будет обладать способностью осознавать себя и собственные поступки.
К сильному искусственному интеллекту будут применимы правила этики, и он должен будет их соблюдать. Эту проблему осознавал и освещал в своих романах Айзек Азимов (сборник «Законы робототехники»).
Тем самым сильный искусственный интеллект будет отличаться от естественного интеллекта человека и разумных животных только происхождением. А значит, ключевыми вопросами будут не что такое ИИ, добро или зло, а как воспитать, социализировать сильный ИИ в рамках межвидового общества, кто в ответе за воспитание сильного ИИ и что такое межвидовое общество разумных существ?
Межвидовое общество и социализация в нем
Социализация – это процесс вовлечения новой особи в общества. В процессе социализации особь перенимает культуру общества, в котором социализируется. Это сложный социально-психологический процесс.
Чтобы подойти к понятию социализации сильного искусственного интеллекта в обществе, нам нужно ответить на два вопроса.
- В каком обществе будет проходить социализация? Текущее общество – это общество разумных людей. Даже сейчас в мире существует дискриминация по расовому, половому и иным признакам. С появлением сильного ИИ добавится признак «естественность интеллекта».
- Что входит в понятие идентичности сильного ИИ? Сюда же можно отнести идентичность любого разумного вида, но с ИИ проблема сложнее: его «родители» – это изобретатели-инженеры. Проблема «меня собрал папа».
Общество – это то, что мы наблюдаем каждый день, и поэтому, как положено любой рыбе, плавающей в воде, мы воду не замечаем. Чтобы расширить границы нашего понимания общества, нам важно выпрыгнуть из воды (выйти за границы общества) хотя бы на одно мгновение.
XX век показал нам, что мы не единственный разумный вид на планете: шимпанзе, гориллы, орангутанги, дельфины и слоны, так же, как и человек, проходят большинство тестов на самоидентификацию. Кроме того, дельфины обладают языком, по части параметров сравнимым по сложности с естественными языками человека.
Место искусственного интеллекта в обществе
Если мы хотим создать общество, где будет комфортно сильному искусственному интеллекту, начать стоит с создания межвидового общества. Такого рода процессы были описаны в книгах фантаста Дэвида Брина «Война за Возвышение».
Дэвид Брин в своих книгах описывает достаточно жесткое и порой жестокое содружество разумных видов. Процесс включения новых видов в галактическое общество сопровождается процессом «возвышения» предразумных видов над разумными с дальнейшим служением первых вторым.
В конце цикла Брин описывает анклав на одной из планет, в котором виды отказались от таких жестких методов, создав более равноправное общество. Почему бы нам не учесть путь, который описывает Брин, и не начать процесс «возвышения», описав, как мы можем включить в наше общество предразумные виды и внебиологический вид, который мы создаем: «искусственный интеллект».
Нам придется понять, что такое человеческое общество, чем оно отличается от общества дельфинов и других разумных видов, выработать общие критерии глобальной культуры, которая способна принять различия за рамками отдельного вида. Посмотреть на процесс глобализации человека не как на процесс расселения и пожирания ресурсов всей экосистемы Земли, а как на процесс создания глобальной культуры, в рамках которой Земля – это наш Дом (Ойкумена), требующий заботы. Пока процесс глобализации не привел нас, человечество, к выработке этих критериев.
Еще по теме: Петр Левич о приближении мира процветания всех живых существ
Нам нужно разобраться со своими страхами относительно иных видов, и в особенности искусственного интеллекта. Ведь созданный нами сильный ИИ по отношению к нам скорее ребенок, который требует заботы и воспитания. Да, он может вырасти в агрессивного подростка или, еще хуже, между нами произойдет конфликт «отцов и детей», но это наша ответственность за воспитание ИИ. Это часть процесса социализации.
Нам в целом нужно понять, строим ли мы общество, в котором искусственный интеллект будет равноправным членом, или мы придем к резервациям для искусственного интеллекта ради обеспечения нашей безопасности.