Представьте, что ваша близкая подруга Алина попала в страшную аварию и погибла. Вы в трауре, вы плачете, грустите и скучаете без нее. В отчаянии вы берете свой смартфон и пишете Алине, как вам ее не хватает, словно она сидит у себя дома. Не проходит и секунды, как она отвечает вам. В своей обычной шутливой манере отправляет в ответ мем с котиком – как она это часто делала ранее. Вы переписываетесь, обмениваетесь сообщениями и спустя какое-то время появляется чувство, что Алина жива. Или же она все-таки мертва?
Это не выдумка и не фантастика. Подобные технологии уже существуют и называются искусственный интеллект (AI). Именно эта технология используется для создания чат-ботов.
Чат-боты – компьютерные программы, предназначенные для имитации беседы с людьми и минимизации вмешательства человека в доставку информации.
«Эпоха автоматизации» повлияет на все сферы нашей жизни, включая гражданское общество. По состоянию на апрель 2017 года, только для Facebook было создано более 100 000 бот-мессенджеров с охватом в 2 миллиарда пользователей.
Чат-боты могут общаться с нами буквально везде – через наши смартфоны, планшеты, бытовую технику, виртуальных персональных помощников, умные колонки и автомобили. К 2020 году, по мнению аналитиков портала Gartner, «средний человек будет иметь больше диалогов с ботами, чем со своим супругом».
Мы будем безостановочно взаимодействовать с обоими типами ботов – предназначенными для предоставления информации и с теми, что созданы для дружеских отношений. Другими словами, этот долгожданный научно-фантастический мир наступил – роботы здесь.
Ты и я одной крови?
Replika – чат-бот, который собирает данные о ваших настроениях, предпочтениях и образцах речи. А потом копирует вас, подстраиваясь до тех пор, пока вы вдруг не почувствуете, что общаетесь со своим альтер эго или «копией» самого себя.
Автор чат-бота Евгения Куида создала Replika, чтобы увековечить память своего друга, погибшего в результате несчастного случая в 2015 году. Чат-бот проанализировал тысячи текстовых сообщений, учился, пока не стал походить на близкого человека, которого она потеряла.
Реплика-бот может быть неким терапевтическим инструментом, может помочь вам вести дневник и даже может быть интересной. Но это не ваш послушный помощник или ассистент, у такого типа ботов нет цели. Они создаются в качестве виртуальных друзей. Здесь нет конца игры, разговор может продолжаться бесконечно долго, и с каждым ответом бот будет умнее. Это дает нам представление о том, какими могут быть наши будущие отношения с продуктами искусственного интеллекта.
Энтузиасты и техно-евангелисты в восторге. Они упиваются историями о том, как роботы помогут нам. Как прекрасно и замечательно это взаимодействие – удобство, быстрота, общение, помощь в самых различных ситуациях от покупки билета до медицинских рекомендаций.
Тем не менее требуется более детальное и глубокое исследование темной стороны ботов, они собираются изменить наши отношения, общество, формы общения друг с другом. А все, что влияет на сообщество и наши отношения, имеет глубокие последствия для некоммерческого сектора.
Образование, продажи, реклама, искусство, НКО – многие уже используют боты. Например, музей искусств Сан-Франциско насчитывает в своей коллекции 34 678 предметов. Посетитель должен пройти 190 километров, если захочет увидеть их всех. Чтобы поделиться всей своей коллекцией с любителями искусства, в музее появился бот «Отправить мне», который позволяет любому отправить простое текстовое сообщение и получить изображение произведения искусства, соответствующее идее, словам или поисковой фразе. Бот открывает художественные работы музея для виртуального просмотра любому желающему в любое время.
Благотворительная организация «Антон тут рядом», которая занимается образованием и помощью людям с синдромом Дауна, одной из первых запустила свой чат-бот. Он может отправить вам случайную фразу и дает возможность сделать пожертвование.
Согласно недавнему докладу Международной федерации обществ Красного Креста и Красного Полумесяца, гуманитарные организации активно изучают и тестируют возможности ботов, как сообщения и боты могут помочь беженцам или лицам, непосредственно пострадавшим от стихийных бедствий.
Всемирная продовольственная программа разработала и протестировала «FoodBot» – бот для Facebook Messenger. Бот предоставляет информацию о ценах на продукты питания, обновления погоды и данные о распространении заболеваний в регионах, где работает организация.
ЮНИСЕФ создала свой собственный бот U-Report, который доступен в Twitter и Facebook Messenger. Первым успехом этого проекта стал опрос 13 000 студентов и школьников в Либерии. Был задан вопрос «Требуют ли учителя секс взамен на хорошую оценку». 86% респондентов ответили «Да». Это стало началом большой кампании в стране и совместной программы ЮНИСЕФ и министерства образования Либерии.
Однако боты – это не просто технические инструменты. Они также создают значительные этические проблемы. Amazon и Netflix используют алгоритмы для управления нашим выбором книг и фильмов.
Facebook манипулирует тем, что мы видим в своей ленте, чтобы держать нас там как можно дольше. Добавьте к этому данные исследования, которые показали, что использование мобильных телефонов и социальных сетей заставляет нас чувствовать себя изолированными.
Появляется большая вероятность того, что боты, запрограммированные с помощью AI, смогут манипулировать нашими эмоциями и действиями.
Возьмем для примера Еши (Yeshi) – виртуальную девочку, которая была создана в виде бота благотворительным фондом charity:water. Чат-бот «Погуляй с Еши» создан в образовательных целях. Бот рассказывает о трудностях, с которыми сталкиваются девочки и женщины в Эфиопии в ходе своих ежедневных шестичасовых походов за чистой водой.
Бот Еши – умный бот. Она задает адаптированные вопросы и может отвечать, как настоящий человек – не только словами, но присылать вам карту своего пути, видео, фотографии и даже мемы.
А теперь представьте, что умный бот Еши еще и запрограммирован на сбор пожертвований. Искусственный интеллект, заложенный в нем, вполне может выдавить у вас слезу, чтобы вы сделали пожертвование побольше.
Возникает вопрос, где проходит грань между тем, что допустимо, и тем, что становится манипуляцией?
Еще одна зона риска – это вопрос, кого боты могут заменить, а кого нельзя удалять из процесса работы и общения с людьми, даже если написать миллион строк кода? Какие рабочие места мы можем отдать ботам, а какие должны оставаться за людьми? Эта проблема уже нашего дня.
Чат-бот терапевт Woebot участвует в 2 миллионах разговоров в неделю, и данные показали, что он уменьшает симптомы тревоги и депрессии у людей, которые к нему обратились. Тем не менее часть экспертов подняла вопрос о конфиденциальности информации пациентов. На робото-человеческий разговор не распространяются законы о конфиденциальности разговоров врача и пациента.
Это лишь единичные примеры. И подобные вопросы могут и должны подниматься нами при создании ботов. Мы видим, как Facebook манипулирует нашим вниманием, человекоподобные боты создают новостную повестку дня, которая влияет на политический выбор людей, компании продают, используя ботов, которые изучают наши привычки.
Еще по теме: Видеоурок: как создать чат-бот без программирования
Но проблема, которая должна волновать НКО в этой связи больше всего, – это потеря людьми работы. Роботы многих вытеснят с рабочих мест. Целые профессии уйдут в прошлое – психотерапевты, консультанты, туристические агенты, водители, некоторые специализации врачей. Люди будут терять работу, средства к существованию. Поддерживать и помогать таким людям – наша главная задача. Чтобы быть готовым к этому вызову, мы должны понимать, с чем имеем дело, и готовиться к изменениям.
С чего начать
1. Понять и принять тренд. Вам не надо становиться программистом чат-ботов, вам даже не надо уметь их создавать. От вас требуется на высоком уровне понимать, что это такое, принципы работы, сферу возможностей этой технологии. Начните с отчета, который был подготовлен Красным Крестом, о возможностях чат-ботов для работы благотворительных фондов и НКО.
2. Покопайтесь в теме, познакомьтесь с чат-ботами. Изучите тему. Посмотрите внимательно на тех чат-ботов, что были описаны в статье, или используйте этот список чат-ботов, которые были созданы НКО и не только, по всему миру. Поиграйте с ними, тестируйте. Попробуйте определить тип, подумайте, какие ощущения у вас остались после общения, приятные или нет?
3. Создайте свой бот. Когда придет понимание, выходите из песочницы. Создайте свой бот под нужды вашей организации. Для этого вам не нужен бюджет, простой бот вы можете создать сами с помощью нашей инструкции, видеоуроков и сервиса ChatFuel.
4. Делайте выводы. Пусть ваш бот поработает несколько месяцев. После вы сможете проанализировать результаты, сделать выводы и решить, развивать ли это направление. А если развивать, то как не переступить тонкую этическую грань при использовании возможностей искусственного интеллекта.
Технологии и НКО – наша особенность в том, что мы идем позади. Чаще даже плетемся. Мы осваиваем технологические новинки, когда они перестают таковыми быть. Так было. Время изменилось. Роботы прибыли, и они не будут ждать, мы либо подружимся с ними и заставим работать ради наших целей, либо они убьют нас и будут делать нашу работу так, что никто и не поймет, что нас уже нет.
Оригинал статьи: guidestar.org, В материале также использованы данные: fordfoundation.org, forbes.com, technologyreview.com