AI-платформа корпоративного уровня — аналог AI Hub. Реализован чат-интерфейс (аналог ChatGPT) и сценарии сбора аналитики по собственным базам знаний (RAG на базе Qdrant) и по открытым источникам в интернете. В качестве LLM используются современные модели, задействован LLM-шлюз с маршрутизацией запросов.
Проект введён в промышленную эксплуатацию: работают реальные пользователи, нагрузка стабилизирована, требования к доступности согласованы.
Технологический стек:
· PostgreSQL — основное хранилище данных
· Kubernetes — оркестрация
· Kafka — обмен событиями
· Redis — кэширование
· S3 (совместимое объектное хранилище) — данные и бэкапы
· Qdrant — векторная база знаний
· Prometheus + Grafana — мониторинг
· OpenSearch — логи
Будет плюсом: