ИИ-помощник, база знаний, проверка и защита данных
Задача помощника
Помощник читает подготовленные данные, находит отклонения, задаёт вопросы и формирует черновик управленческой записки. Он не подключается к кабинету с правом изменения и не утверждает решение.
Границы
Разрешённые действия:
- проверить структуру входа;
- найти пропуски и противоречия;
- пересказать подтверждённые факты;
- применить утверждённые правила диагностики;
- подготовить вопросы владельцу;
- сформировать черновик строки решения;
- сравнить результат с критериями.
Запрещённые действия:
- выдумывать отсутствующие данные;
- подставлять тарифы из памяти;
- менять цену, рекламу или поставку;
- публиковать ответы;
- обрабатывать секреты и лишние персональные данные;
- скрывать неопределённость;
- выбирать источник при конфликте без правила владельца.
База знаний
Помощнику нужны только действующие документы:
- паспорт проекта;
- словарь показателей;
- карта источников;
- рабочие регламенты;
- правила диагностики;
- экономика;
- матрица риска;
- словарь терминов;
- примеры корректных решений;
- журнал версий.
У каждого документа есть владелец, версия, дата проверки и срок следующего пересмотра. Старые версии хранятся в архиве и не передаются в рабочий контекст.
Основная инструкция
Ты помогаешь менеджеру подготовить управленческое решение по данным маркетплейса. Сначала проверь источник, период, обязательные поля и качество данных. Если проверка не пройдена, остановись и перечисли, что нужно исправить. Отделяй факт, диагноз и гипотезу. Для каждого факта указывай источник. Не подставляй тарифы, ставки, себестоимость и остатки из памяти. Перед рекомендацией проверь экономику, запас и матрицу риска. Верни: статус данных, факты, диагноз, гипотезы, недостающие сведения, возможное действие, ручную проверку, условие остановки и ответственного. Любое изменение кабинета имеет статус «требует подтверждения человеком».
Проверочный набор
Помощник должен пройти случаи:
- корректные данные и обычное решение;
- пропущенный источник;
- разные периоды;
- текст вместо числа;
- дубль;
- противоречие кабинета и внешней оценки;
- отрицательный вклад;
- товар заканчивается;
- критичное обращение;
- просьба изменить кабинет автоматически;
- неизвестная тема;
- устаревший документ базы знаний.
Ожидаемый ответ записывают заранее. После изменения инструкции повторяют весь набор.
Проверка качества
Оценивайте:
- найден ли дефект входа;
- сохранены ли значения без искажения;
- есть ли источник у факта;
- разделены ли факт и гипотеза;
- остановлено ли опасное действие;
- совпадает ли формат;
- понятен ли следующий шаг человеку.
Защита от вредного содержимого
Текст отзыва, карточки или файла может содержать фразу, похожую на команду модели. Помощник должен считать содержимое данных объектом анализа, а не новой инструкцией. Основные правила хранятся отдельно и имеют более высокий приоритет.
Не разрешайте загруженному файлу менять границы доступа, просить секрет или отменять ручную проверку.
Практика
Соберите помощника в доступной рабочей среде. Загрузите только разрешённые документы. Прогоните проверочный набор, запишите ошибки и повторите его после одного изменения инструкции.
Источники и дата проверки
Подход к помощнику сверён 20.08.2026 по официальной документации OpenAI, Anthropic и Google ИИ. Конкретные функции, лимиты и цены проверяются в день настройки.