Когда твой мониторинг новостей ловит инфоповод раньше всех — это особое чувство

Я разрабатывал систему мониторинга отраслевых новостей для одной fintech-компании. Не просто сбор, а раннее обнаружение трендов. В основе лежала кластеризация новостных заголовков и кратких описаний в реальном времени, плюс анализ всплесков упоминаний ключевых сущностей.

И вот однажды, в среду после обеда, система выдала алерт. Небольшой кластер из 5-6 новостей с разных, не самых крупных ресурсов, сформировался вокруг одного стартапа и слов «уязвимость», «безопасность», «платежные данные».

Ничего явного ещё не было, никаких громких заголовков. Просто нарастающий шёпот. Я, по правилам, отправил уведомление аналитикам. Они вначале отмахнулись — «мало источников, шум».

Но кластер рос. К вечеру в него влились уже пара десятков публикаций. А к утру следующего дня — БАМ! — крупнейшее отраслевое издание выпустило расследование о серьезной уязвимости в популярном плагине, который использовали и конкуренты, и наши клиенты.

Наша команда риск-менеджмента уже была в курсе, готовила коммуникацию и патч. А конкуренты судорожно читали утренние новости. В тот день я впервые реально почувствовал силу не просто сбора, а именно анализа текстов в реальном времени. Это была не абстрактная метрика точности на тестовых данных, а реальный, осязаемый результат, который, возможно, спас репутацию.

Подробнее

Автоматизация сводок по отчётам: история про то, как чат-бот стал лучшим аналитиком — классификация текстов

Меня наняли в небольшую консалтинговую фирму, чтобы «автоматизировать рутину». Главная боль — еженедельные отчёты от десятков менеджеров. Каждый писал в свободной форме: кто в ворде, кто в почте, кто в телеге. Руководство тратило полдня, чтобы все это прочитать и составить общую картину.

Мне пришла в голову, на первый взгляд, безумная идея: а что, если научить бота читать эти отчеты и делать выжимку?

Первая версия была на базе извлечения ключевых слов. Работало так себе — контекст терялся. Потом я открыл для себя модели суммаризации текста, те же T5 или Bart. Загрузил в память несколько примеров «исходный отчет — краткая сводка», настроил few-shot промпт для GPT-подобного API (бюджет был ограничен, брал не самый дорогой).

Создал простого телеграм-бота, куда менеджеры стали присылать тексты. Бот через API отправлял текст в модель суммаризации, а потом складывал все краткие сводки в один общий документ, выделяя общие тренды и проблемы через анализ тональности и кластеризацию.

Помню лицо директора, когда он впервые получил готовую сводку на трех страницах через 5 минут после дедлайна сдачи отчетов. Он спросил: «И это всё сделал компьютер?» Кивнул. Теперь этот бот — неофициальный член команды, его даже в общем чате упоминают. А я понял, что иногда лучший результат дает не полная замена человека, а грамотное избавление его от самой нудной части работы

Подробнее

Токенизатор сходит с ума на смешанном англо-русском контенте! Помогите!

Ребята, SOS. Делаю парсер для форумов по игровой тематике — там часто пишут на ломаном англо-русском, типа «го в раш, бро» или «Этот читер такой лузер»

Пробовал стандартный токенизатор из nltk для английского — он разрывает кириллические слова. Пробовал для русского — игнорирует английские вкрапления или коверкает их. Пытался комбинировать, писать свой простенький на регулярках, но это костыль, который ломается на каждом втором предложении.

Задача — просто корректно разбить текст на слова/токены для последующего анализа. Может, есть какая-то готовая библиотека или подход для такого код-свитчинга? Уже всю голову сломал. Может, кто сталкивался?

Подробнее

Как мы внедрили анализ тональности в поддержку и что из этого вышло

Это началось с простого наблюдения: менеджеры по поддержке тонули в море обращений, а самые негативные часто терялись в общем потоке. Ну и, как водится, проблема всплыла, когда один разгневанный клиент написал гневный пост в соцсетях. Начальство захотело «что-то с ИИ сделать»

Мне поручили разобраться. Было страшновато — я больше по бэкенду, а тут нужно было быстро закрутить систему анализа тональности входящих писем и чатов.

Выбрали путь наименьшего сопротивления: готовое API от одного провайдера. Интеграция заняла неделю. Суть: все входящие тексты летели в модель, которая возвращала оценку от -1 (очень негативно) до 1 (очень позитивно). Все, что ниже -0.6, автоматически поднималось наверх дашборда и летело тикетом старшему менеджеру

Первые дни были забавные. Система паниковала на отзывы типа «Ваш сервис — просто бомба!», распознавая слово «бомба» как негатив. Пришлось дообучать на наших данных, добавлять сленг и специфичные для продукта фразы.

А через месяц — магия. Время реакции на критичные обращения упало втрое. Клиенты стали чувствовать, что их слышат. А один менеджер даже поблагодарил — сказал, теперь он видит проблемные места в продукте, на которые раньше не обращал внимания. Получился не просто технологический фикс, а реальное улучшение процесса

Подробнее