Почему RAG вместо дообучения модели?
- Экономия вычислительных ресурсов
- Возможность обновления знаний без переобучения
- Соответствие требованиям GDPR для работы с персональными данными
Выбор технологий:
PostgreSQL + pgvector
Хранение векторных embeddings с возможностью быстрого поиска
Ollama модели
Локальное исполнение для соблюдения безопасности данных
Ключевые архитектурные решения:
interface LLMProvider {
generate(prompt: string, context: string[]): Promise;
embed(text: string): Promise;
}
Реализация PWA позволила:
- Единая кодовая база для всех платформ
- Оффлайн-работа с кешированием данных
- Нативная интеграция с мобильными устройствами