Внедрение ИИ-ассистента позволяет командам улучшать качество поиска по базе знаний и получать более понятные ответы, а также позволяет быстро искать ответы на сложные вопросы. Это можно использовать как во внутренней работе, так и в адвокации, подготовке текстов, статей, писем.
ИИ-ассистент — это программное решение, сочетающее технологии искусственного интеллекта и поиска релевантных документов или, например, базу знаний организации. Он анализирует контекст запроса, извлекает нужную информацию из различных источников (документов, баз данных, веб-сайтов) и формулирует осмысленные ответы. ИИ-ассистент не только отвечает на вопросы, но и помогает в решении задач, дает рекомендации и совершенствуется на основе взаимодействия с пользователями, постоянно улучшая качество своих ответов.
Теплица вместе с группой разработчиков-волонтеров провела мастерскую, на которой вместе создали прототипы ИИ-ассистентов для некоммерческих проектов. Об одном из запущенных ассистентов рассказали куратор мастерской Егор Еремеев и представители проекта Exile Solidaire. Опыт этого проекта – это отличный пример того, как ИИ может облегчить работу помогающим организациям: отвечать на вопросы пользователей и улучшить качество информационных ресурсов.
Егор Еремеев занимается внедрением ИИ для масштабирования служб поддержки:
Для реализации нашего ИИ-ассистента мы выбрали открытое решение Danswer, и на это было несколько причин. Во-первых, Danswer предлагает гибкую архитектуру, которая позволяет легко интегрировать различные источники данных, что идеально подходило для обширной базы знаний по вопросам миграции и интеграции. Во-вторых, и это особенно важно, Danswer обладает отличными возможностями поиска по документам, работающими на базе открытого поискового движка Vespa (который, кстати, использовали Yahoo). Это обеспечивает быстрый и точный поиск информации в материалах, что критически важно для эффективной работы ассистента. В-третьих, эта платформа позволяет использовать различные модели машинного обучения (ChatGPT, Claude, Google Gemini), давая возможность выбрать наиболее подходящую для задач.
Внедрение ИИ-ассистента принесло проекту ощутимые результаты. Самым значительным достижением стало существенное сокращение времени, затрачиваемого на ответы благополучателям. По оценкам проекта, количество времени, необходимое на обработку запросов, в среднем уменьшилось на 60%. В зависимости от объема вопросов, поступающих в течение месяца, это позволяет сэкономить до 4-5 часов чистого времени работы юристов. Для небольшой некоммерческой организации это колоссальная помощь. Освободившееся время специалисты теперь могут использовать для решения более сложных задач, требующих человеческого участия, таких как разработка новых статей или оказание персонализированной помощи в особо сложных случаях. Кроме того, ускорение процесса ответов на вопросы позволило повысить удовлетворенность пользователей, которые теперь получают необходимую информацию гораздо быстрее.
Процесс внедрения ИИ-ассистента был поэтапным. Первым шагом стало развертывание Danswer на сервере проекта, что обеспечило полный контроль над системой и данными. Затем команда приступила к загрузке базы знаний из Notion в Danswer. Это был критически важный этап, так как качество и полнота загруженной информации напрямую влияют на эффективность ассистента. После загрузки данных была проведена серия тестирований, проверяющих, как система отвечает на самые популярные вопросы пользователей. Эти тесты помогли выявить области, требующие доработки. Следующим этапом стала тонкая настройка поиска и оптимизация ответов. Команда экспериментировала с различными промптами, пробовала разные языковые модели и корректировала параметры поиска. Этот процесс был итеративным: постоянно анализировались результаты, вносились изменения и снова тестировалась система. Такой подход позволил значительно улучшить точность и релевантность ответов ассистента, адаптировав его под специфику организации и потребности целевой аудитории.
Внедрение ИИ-ассистента — это комплексный процесс, требующий не только технических знаний, но и глубокого понимания специфики работы некоммерческой организации. Для успешной реализации проекта потребуется команда специалистов с различными навыками. Ключевые роли включают технического специалиста или разработчика для развертывания и настройки ИИ-ассистента, специалиста по данным или аналитика для оптимизации поиска и анализа эффективности, эксперта по предметной области для обеспечения точности ответов и обновления базы знаний и координатора проекта для управления процессом внедрения. В зависимости от масштаба НКО, некоторые роли могут совмещаться. Например, технический специалист может также заниматься вопросами оптимизации поиска, а эксперт по предметной области может выполнять функции координатора проекта. Ключевым фактором успеха является сочетание технических навыков с глубоким пониманием специфики работы НКО и потребностей её целевой аудитории и готовность много экспериментировать.
Интервью с проектом Exile Solidaire, который помогает русскоязычным релокантам во Франции.
— Для чего вообще понадобился ИИ — ассистент? У вас подробные структурированные гайды, разве этого недостаточно?
— Действительно, мы порой маниакально подходим к написанию наших гайдов. Изучаем чаты, чтобы понять, какие вопросы вызывают наибольшую сложность при иммиграции и интеграции во Франции. Наша цель – чтобы человек мог найти актуальную проверенную информацию на русском языке. Мы стараемся отражать все административные и ежедневные ситуации.
Иногда случаются нестандартные проблемы и человеку тяжело сопоставить свой случай с административными правилами. А кто-то находится в состоянии стресса и не в состоянии воспринять информацию из статьи. Тогда люди идут в чаты или задают вопрос через форму обратной связи.
Возможно, здесь играет роль психологический аспект. Когда ты ищешь информацию, часто тяжело продраться через дебри новых терминов. Поэтому люди часами проводят в чатах. Ответ живого человека закрепляет понимание того, как устроены процессы во Франции. Тем более часто от правильности понимания тонких нюансов буквально может зависеть жизнь человека.
Плюс достаточно часто нам задают очень подробные вопросы, для ответа на которые читателю нужно было бы самостоятельно ознакомиться не с одной статьей, а с несколькими разделами.
— Как проходила разработка и внедрение? Сколько времени это заняло?
— Всё лето мы работали, чтобы запустить проект к сентябрю. И несмотря на отпуска, нам это удалось. Здесь нужно отметить, что постоянное партнерское напоминание и всесторонняя помощь со стороны Теплицы очень помогали держать себя в тонусе. Мы очень не хотели подводить команду Теплицы.
— Что вызвало наибольшие затруднения? Были ли ситуации, в которых ассистент ошибался, и приходилось это срочно исправлять?
— О, он и сейчас ошибается, но это нормально. Ошибки носят незначительный характер. С этим можно работать, и есть простор для тонкой настройки. Тем более пока не предполагается открытый доступ читателей к боту. Каждый ответ проверяем мы.
Плюс иногда то, что ассистент не находит точного ответа в наших статьях, помогает нам понять, как их дополнить. Теперь мы пользуемся им и для написания еще не опубликованных статей, чтобы проверить понятность формулируемой информации.
— В чем преимущества вашего решения по сравнению с другими проектами, которые его не используют?
— С одной стороны, мы даём очень развёрнутый ответ на важные вопросы. В ответе есть ссылки на наши статьи и источники в них. Это важно. Нужно знать источник информации. Тем более что в статьях мы ссылаемся на официальные документы, а не на «ошибку выжившего» из чатов.
С другой стороны, ИИ-бот выступает как необходимая обратная связь на наши материалы. Мы задаём вопрос, и он генерирует ответ на основе нашего гайда. Если ответ неполный или необходимой информации в гайде нет, мы можем быстро её добавить. Обратная связь важна, она позволяет оттачивать качество статей.
Учитывая, что мы постоянно редактируем наши статьи, ИИ помогает нам в момент редактуры не только вносить законодательные новшества, но и делать уточнения в уже существующей информации.
— Как это внедрение сказалось на работе команды? А на аудитории? (Выше писали, что у проекта снизилась нагрузка, хотелось бы побольше деталей)
— Мы используем Danswer для двух разных задач: ответы на вопросы (и редактура/обновление статей) и поиск по гайду для читателей.
Мы посчитали, что количество времени, необходимое на ответы, в среднем уменьшилось на 60%. В зависимости от количества вопросов в месяц это до 4-5 часов чистого времени наших юристов. Это колоссальная помощь. Мы думаем, что все НКО постепенно приходят к использованию современных решений в области работы с текстом, изображениями и видео. Это ускоряет процессы и снимает нагрузку с волонтеров. Но запуск может быть тяжелым. Именно запуск продукта в сжатые сроки показывает устойчивость вашей команды. Мы очень благодарны нашим IT-специалистам, что они смогли реализовать это решение.
Мы не готовы сейчас предоставлять открытый доступ к боту для пользователей. Но мы стали оперативнее отвечать на вопросы. Раньше мы могли ответить спустя пару дней, сейчас стараемся отвечать в первые 24 часа, и это мы ещё не добавили Chatwoot.
Давайте так: сейчас бот версии 0.9, вот к версии 2 мы постараемся добавить его на наш сайт. Нам надо быть уверенными, что бот самостоятельно сможет ответить на самые сложные вопросы. Но опять же, люди пока с опаской относятся к помощи бота. Сейчас верификация человеком добавляет уверенности и спокойствия.
Что касается поиска, то до Danswer у нас не было такой возможности для читателей. И нехватка поиска была одной из самых распространенных проблем, цитируемых в обратной связи. Благодаря Теплице уже сейчас читатели смогли воспользоваться поиском на основе Danswer. Ввиду технических особенностей у нас не было поиска на сайте. И работая над ботом, пришла идея использовать аппаратную часть для поиска. Получилось отлично. Предстоит ещё тонкая настройка, но уже сейчас мы получили много позитивных отзывов. Поиск все хотели уже очень давно.
*Exile Solidaire — зарегистрированная во Франции как ассоциация по закону от 1901 года. Если вы хотите поддержать проект, то это можно сделать здесь.
Если вам интересно поработать с некоммерческими проектами, расскажите о себе и присоединяйтесь к закрытому Клубу профессионалов. А если вашему проекту нужна помощь, вы можете создать задачу на платформе и поискать специалистов через Клуб на платформе IT-волонтёр. Подробнее: https://itvist.org/club