Нейросети
Почему уточняющий запрос нейросети лучше отправлять в том же чате
Одна и та же просьба «сделай короче» в старом чате дала готовое письмо, а в новом модель просто спросила, что сокращать.
Почему уточняющий запрос нейросети лучше отправлять в том же чате? Модель видит предыдущую переписку и понимает, к чему относится ваше «сделай короче». В новом чате этой опоры нет, и фразу просто не к чему привязать. Я проверил это на самой обычной задаче, письме клиенту о задержке поставки.
Testimonium · снимок
Первое письмо вышло на 39 слов (это подсчёт самой модели), и после одной короткой реплики их осталось 17. Дата и срок остались на месте, извинения исчезли. Тот же запрос в новом чате вернул только встречную просьбу, так что черновик пришлось бы вставлять заново вручную.
Работает это как с подрядчиком, которому вы пишете в одной и той же переписке: ему хватает слова «короче», потому что он помнит бриф. Чат устроен похоже: вместе с каждым новым сообщением модель снова читает всё, что было выше. Отдельная память между чатами у некоторых сервисов есть, только в рабочей правке я бы на неё не рассчитывал.
Хорошее уточнение называет, что именно поменять, и что оставить: «убери извинения, дату и срок сохрани». От просьбы «сделай лучше» модель будет гадать так же, как гадал бы живой человек.
У правила есть обратная сторона: для новой задачи нужен новый чат, потому что старая переписка мешает и заодно расходует лимиты при каждом вопросе. Письмо клиенту и контент-план на квартал в одном окне будут только сбивать модель с толку. Я бы менял чат и тогда, когда после трёх-четырёх правок текст ходит по кругу. Проще собрать всё, что выяснилось, в один подробный запрос и начать заново.
Сама формулировка вопроса похожа на учебный тест, и для теста ответ такой: модель учитывает контекст диалога. В рабочей задаче правило то же, а как собрать сам первый запрос, показано в инструкции о постах.