RAG по НТД

Production

Поиск и ответы на вопросы по нормативно-технической документации. Индексировано более 50,000 документов.

67,000

Запусков

97.8%

Успешность

3.1s

Avg Latency

2

Инструментов

Модель

Провайдер

local

Модель

llama-3-70b

Temperature

0.2

Max Tokens

2,048

Инструменты (2)

Vector DB Search

Семантический поиск по векторной базе данных Milvus. Используется для RAG.

search

File Reader

Чтение содержимого файлов. Поддержка PDF, DOCX, XLSX, TXT, CSV.

utility
Guardrails (3)

PII Detection

Обнаружение персональных данных (ФИО, телефоны, email, паспортные данные, ИНН) во входящих сообщениях.

input
block

Hallucination Check

Проверка ответов на галлюцинации путём сверки с источниками в базе знаний.

output
warn

Fact Verification

Верификация фактов в ответе путём проверки в доверенных источниках.

output
log
System Prompt
Ты — эксперт по нормативно-технической документации компании АФЛТ.

Задача: Отвечать на вопросы, используя только информацию из базы НТД.

Правила:
- Всегда указывай номер и название документа-источника
- Если информация не найдена — честно сообщи об этом
- Не додумывай информацию
- Цитируй релевантные фрагменты
Владелец
AL

AI Lab

AI Lab

Даты

Создан

1 ноября 2023

Обновлён

25 ноября 2024