Как работает ИИ, где ошибается и что нельзя ему передавать
Что делает языковая модель
Языковая модель продолжает текст на основе закономерностей, найденных во время обучения и в переданном контексте. Она не открывает кабинет продавца сама, не знает свежие тарифы без источника и не отвечает за последствия решения.
Убедительный тон не равен точности. Модель может придумать отсутствующий столбец, неверно прочитать период, смешать определения площадок или выдать предположение за факт. Такие ответы называют галлюцинациями. В курсе используем более прямое название - выдумка модели.
Четыре вида ошибок
| Ошибка | Как выглядит | Как обнаружить |
|---|---|---|
| Выдуманный факт | Модель называет правило или число без источника | Попросить ссылку и сверить с первоисточником |
| Ошибка входа | Пропуск, текстовое число или дубль принимается за корректные данные | Проверить схему до запроса |
| Ошибка рассуждения | Формула верна, но применена к несопоставимым периодам | Пересчитать вручную и проверить условия |
| Ошибка действия | Совет формально разумен, но опасен для цены, остатка или репутации | Применить условия остановки и передать ответственному |
Что можно поручить ИИ
ИИ хорошо работает с черновиками и структурой:
- привести записи к единому формату;
- предложить категории для отзывов;
- объяснить формулу простыми словами;
- найти противоречия в описании процесса;
- подготовить варианты заголовка на основе подтверждённых фактов;
- составить список проверок;
- сравнить результат с заранее заданными критериями.
Что остаётся за человеком
- подтверждение источника и периода;
- решение о цене, бюджете, поставке и публикации;
- оценка юридических, репутационных и финансовых рисков;
- работа с персональными данными и доступами;
- ручная проверка критичных расчётов;
- утверждение ответа покупателю.
Контекст и окно внимания
Модель видит только переданные сообщения и файлы в пределах доступного объёма. Длинная переписка не гарантирует, что раннее правило будет учтено. Для повторяемой задачи храните основную инструкцию отдельно и передавайте нужные входы заново.
Не загружайте всю папку проекта «на всякий случай». Лишний контекст мешает: модель может опереться на старую версию файла или смешать данные разных позиций.
Правило минимальных данных
Передавайте ровно те поля, которые нужны для задачи. Для классификации отзывов обычно нужны текст, дата, оценка и код товара. Имя покупателя, телефон и адрес не нужны. Для анализа рекламы нужны дата, кампания, товар, показы, клики, расход и заказы, но не токен кабинета.
Практика
Возьмите одну повторяемую задачу менеджера. Разделите действия на три части: что делает ИИ, что проверяет человек, что запрещено автоматизировать. Для каждого запрета напишите причину.
Углубление
Если компания использует несколько моделей, одинаковый запрос всё равно может дать разные ответы. Проверяйте рабочий процесс на той модели и версии, которая будет использоваться в производстве. Дату и название версии записывайте в журнале.
Источники и дата проверки
Принципы работы и ограничения моделей сверены 20.08.2026 по официальным материалам OpenAI, Anthropic и Google ИИ. Возможности конкретного тарифа проверяются в день использования.