Разрабатываем и внедряем сложные ИТ-решения для бизнеса

Малые языковые модели позволяют снизить стоимость внедрения AI и упростить инфраструктуру. При этом они требуют более аккуратной настройки и контроля, чем крупные модели. В статье разбираем, как использовать малые LLM в продакшене, какие ограничения учитывать и какие инженерные подходы помогают получать стабильный и предсказуемый результат.

В предыдущих статьях мы уже рассказывали про AI-фичи для работы с документами, знаниями и корпоративными коммуникациями, а также про AI для обработки фото, видео и аудио. В этой части собрали AI-инструменты для задач, где бизнесу важно не только анализировать данные, но и принимать решения: прогнозировать спрос, оценивать риски, находить аномалии, рекомендовать действия и оптимизировать процессы.

Сервисы, в которых данные собираются и обрабатываются на основе других сервисов, очень чувствительны к интеграциям. Технические решения часто реализованы на брокерах, например таких как Kafka. В нашем случае была задача с финансовой отчетностью и десятками вариантов состояния документов.