После обхода остались заметки: где изменился цвет листа, когда поливали, что нужно уточнить. Попробуем превратить их в аккуратную сводку с помощью языковой модели, или LLM. Первый опыт прост: дадим небольшой текст и проверим каждую дату, число и наблюдение в ответе.
Разберём выбор между облачным API и локальным запуском, шаблон запроса, работу с ботом и оценку затрат. Это учебная схема: по ней можно выбрать инструмент и подготовить свой небольшой опыт. Контекст серии — путеводитель по DIY, введение в нейросети и сравнение CNN, RNN и LLM.
Поручаем помощнику одну понятную работу
Попросите разложить запись на известные факты, недостающие сведения и вопросы специалисту. Возможные объяснения вынесите отдельно. Получится черновик, который удобно сверять с наблюдениями и обсуждать после осмотра.
NIST описывает риск уверенно сформулированных ложных ответов, в том числе при задачах, требующих специальных знаний. Поэтому тон ответа и фраза «я уверен» не могут служить проверкой. Предложения о средствах защиты растений, дозах и сроках применения сверяют с действующими документами на конкретный препарат и со специалистом, ответственным за решение.
На первом этапе дадим помощнику только текстовую работу. Он подготовит черновик, вы проверите его и решите, что использовать. Исполнительные механизмы оставим без доступа из этого проекта.
Выбираем задачу для первого сравнения
- Приведение заметок осмотра к одинаковой структуре с сохранением неизвестных и спорных сведений.
- Составление перечня недостающих наблюдений и вопросов для агронома.
- Краткий пересказ предоставленного документа со ссылками на его разделы; числа и ограничения затем сверяет человек.
- Черновик дневной сводки по записям и измерениям, где видны время, источник и пропуски.
- Объяснение терминов и подготовка вариантов формулировок для журнала или сообщения сотрудникам.
- Комментарий к изображению, если выбранная модель и интерфейс поддерживают изображения; результат остаётся предположением по кадру.
Выберите один пункт и сравните результат с привычным способом работы. Автоматический сбор контекста рассмотрен в материале о локальной сети и сводках. Проследите, как в ответ перенесены даты, единицы и смысл исходных записей.
Ищем добавленные факты и потерянные условия
Модель может придумать ссылку, перепутать культуру, потерять оговорку документа или дополнить отсутствующие данные правдоподобным предположением. Подключение поиска не делает каждую найденную страницу достоверной, а новую информацию автоматически проверенной. Риски дезинформации и чрезмерного доверия описаны в материале OWASP о ложных ответах LLM.
Откройте источник каждого важного утверждения. Для цен и изменяемых сведений проверьте дату, для практического решения — соответствующий первоисточник и условия хозяйства. Если подтверждения нет, пометьте утверждение как неподтверждённое и оставьте решение ответственному человеку.
Заполняем шаблон своими наблюдениями
Ниже шаблон первого запроса. Замените квадратные скобки своими данными, неизвестное так и обозначьте. Задание задаёт форму ответа; после получения проверим, сохранила ли её модель и откуда взяла сведения.
Помоги подготовить запись осмотра и вопросы агроному.
Отделяй наблюдения от предположений. Не придумывай недостающие данные.
Не назначай препараты, дозы или команды оборудованию.
Не выдавай гипотезу за диагноз и не назначай ей процент вероятности.
Наблюдения:
Культура и сорт: [указать или написать «неизвестно»].
Участок и условия выращивания: [без лишних персональных данных].
Дата и время осмотра: [указать часовой пояс].
Симптомы и расположение на растении: [что видно непосредственно].
Когда появились и как менялись: [наблюдения, не догадки].
Измерения: [значение, единицы, прибор, место и время; либо «нет»].
Полив: [команда отдельно от подтверждённого расхода/осмотра].
Результат модели камеры, если есть: [класс, оценка, версия, время кадра;
это выход классификатора, не подтверждённая вероятность болезни].
Предыдущие действия и результат: [что действительно делали].
Ответ:
1. Какие сведения отсутствуют или противоречат друг другу?
2. Какие объяснения можно рассматривать только как гипотезы?
3. Какие наблюдения помогут специалисту различить эти гипотезы?
4. Какие вопросы нужно передать специалисту для очной проверки?
Если опираешься на предоставленный документ, укажи его раздел.
Если подтверждающего источника нет, скажи об этом прямо.
Пиши кратко и по-русски.Перед отправкой подпишите единицы и способ измерения, особенно для EC. Ответ модели камеры добавьте как отдельный источник с её оценкой. Тогда в сводке можно будет различать наблюдение человека, измерение и результат классификатора.
Положите ответ рядом с заметками. Выделите сорт, дату, числа и цитаты; найдите их происхождение. Добавленное или искажённое исправьте и занесите в журнал ошибок. Этот простой опыт многое скажет о пригодности помощника.
Сравниваем облачный запрос и свой компьютер
Облачный API отправляет запрос провайдеру, локальная модель выполняет вычисление на вашем компьютере. Нарисуйте путь данных целиком: бот, журналы, поиск и копии тоже участвуют в обмене. Так проще выбрать подходящую конфигурацию.
| Критерий | Облачный API | Локальный запуск |
|---|---|---|
| Подготовка | Доступ к API, настройка приложения и условий обработки данных | Совместимая модель, среда запуска, компьютер и настройка доступа |
| Качество ответов | Проверяется на выбранной модели и задачах хозяйства | Также требует проверки; размер модели не гарантирует качество |
| Передача данных | Содержимое запроса поступает провайдеру; условия хранения нужно изучить | Зависит от всей конфигурации, включая внешние инструменты и каналы связи |
| Работа без Интернета | Для обращения к удалённому API требуется связь | Возможна для заранее установленной модели и полностью местного интерфейса |
| Затраты | Тариф провайдера, дополнительные сервисы и обслуживание приложения | Оборудование, энергия, хранение, настройка и сопровождение |
| Актуальность сведений | Зависит от модели и подключённых проверяемых источников | Обновление весов само по себе не обеспечивает актуальность всех ответов |
Выбирайте по результатам небольшого опыта: качество русского текста, соблюдение формата, ошибки, задержка и полная стоимость. Для местного запуска существуют среды с поддержкой CPU и GPU, например llama.cpp. Универсального требования «достаточно такой-то видеокарты» нет: память нужна весам, контексту и рабочим буферам, а совместимость зависит от конкретной модели и среды.
Для облачного опыта оставьте в запросе только нужные сведения. Уберите ключи, лишние персональные и закрытые данные. Если готовите сводку локально, проверьте и её состав перед отправкой.
Продумываем удобный вход через бота
- Пользователь отправляет структурированные наблюдения; сервер проверяет, кто обращается и к каким данным у него есть доступ.
- Программа добавляет выбранные измерения и события со временем, единицами и отметками качества. Просроченные данные не выдаются за текущие.
- Запрос поступает в выбранную модель. Ключ провайдера хранится в приложении, а не добавляется в текст для модели.
- Пользователь получает черновик ответа вместе с исходным контекстом или ссылкой на него и явным указанием на необходимость проверки.
- Ошибки доставки, тайм-ауты и отсутствие данных отображаются как ошибки, а не как ответ «всё в порядке».
- Пользователь отмечает полезность и конкретные ошибки; ответ и последующее решение сохраняются в журнале в согласованном объёме.
Схему бота ниже предстоит реализовать отдельно. Выберите, где удобнее отправлять запись и получать черновик. При Telegram или ВКонтакте сообщения проходят через этот сервис, даже когда сама модель работает локально.
В системе на MQTT отделяйте текстовые советы от команд. Например, farm/advice и farm/actuators/cmd — условные разные темы. Одних названий недостаточно: права клиента помощника должны запрещать публикацию команд, а исполнительная программа не должна трактовать произвольный текст как действие.
Проверяем ответ по короткому списку
Сверьте факты, числа, единицы, ссылки и исходный вопрос. Начните с типичных ошибок: другая культура, добавленное измерение, пропущенное условие документа или ссылка без нужного сведения. Исправьте содержательную ошибку, затем вернитесь к форме ответа.
OWASP описывает подмену инструкций через входные данные, в том числе документы и страницы. Поэтому загруженный текст нужно рассматривать как источник сведений, а не разрешение менять правила работы приложения. Системное задание модели полезно, но контроль доступа и разрешённых операций должен обеспечиваться программой.
В предлагаемом текстовом помощнике нет прав на исполнительные механизмы. Если позднее проектируется управление, оно требует отдельной проверки и явного подтверждения конкретного действия уполномоченным человеком; архитектура обсуждается в статье об агентах и оркестраторе. Нельзя считать слово «подтверждаю» в произвольном ответе модели таким разрешением.
Измеряем стоимость на своих запросах
Возьмите несколько характерных записей и измерьте вход, ответ, повторы и дополнительные обращения. Если используете изображения или поиск, включите их в расчёт. Затем примените действующий тариф выбранного сервиса.
Если тариф отдельно считает входные и выходные токены, расчёт строится из двух частей: объём входа × ставка за вход плюс объём ответа × ставка за ответ, в единицах тарифа. Добавьте остальные платные операции. Подписка на пользовательский чат не должна автоматически считаться оплатой API: условия доступа нужно проверить у конкретного провайдера.
Для локального варианта посчитайте оборудование, энергию, резервирование и сопровождение. В обоих случаях замерьте также время проверки и исправлений. Ограничьте бюджет, длину и повторы в приложении.
Расширяем задачи после первого удачного опыта
- Подготовьте набор типичных обезличенных задач и проверяемых исходных материалов. Заранее определите, какие ошибки недопустимы.
- Проверьте ручной чат и шаблон запроса вместе со специалистом. Сохраняйте удачные и неудачные ответы.
- Настройте бота без доступа к управлению; проверьте права, свежесть данных, отказы связи и расходы.
- Сравните ответы со своими критериями и решите, нужен ли облачный, локальный или смешанный вариант.
- После смены модели, шаблона или источников повторите проверку на прежних и новых задачах.
После сравнения на заметках можно добавить показания и прогнозы. Передавайте их время, источник и ограничения собственной проверки. Новую задачу оценивайте отдельно на примерах хозяйства.
Не подключайте текстовый ответ напрямую к поливу или вентиляции. У таких систем должны оставаться собственные проверенные условия работы и защиты; статус готовности каждой части оценивается отдельно.
Пишем заметку, которую удобно разобрать
Запишите культуру и сорт, место, часть растения, видимое изменение и время появления. Добавьте динамику, измерения с единицами и последние действия. Неизвестные сведения оставьте явными пробелами — помощник сможет собрать вопросы по ним.
Например: «При осмотре заметили пожелтение нижних листьев томата, причина пока неизвестна. Выдели недостающие сведения и составь вопросы специалисту». Это условный пример для знакомства с формой запроса. Подставьте собственную запись и сравните список вопросов с тем, что важно уточнить на месте.
К ответам модели камеры и датчикам добавьте время и источник. При расхождении с осмотром сохраните обе записи и попросите выделить противоречие. Так сводка поможет запланировать проверку.
Испытываем локальную модель на тех же заданиях
Проверьте совместимость модели и среды, условия использования и память. Попробуйте выбранный формат квантования на своих русскоязычных задачах, измерьте задержку и разберите ошибки. Сравните с тем же набором для облачного варианта.
- Помещается ли модель вместе с рабочим контекстом и выдерживает ли приемлемое время ответа.
- Какие сетевые обращения делает приложение, в том числе поиск, загрузка моделей и отправка журналов.
- Кто может открыть интерфейс, прочитать историю и изменить настройки.
- Работает ли нужный сценарий при отключённом Интернете после предварительной установки.
- Можно ли вернуться к прежней проверенной версии после обновления.
Обновление сначала сравните на сохранённых заданиях и прочитайте изменения. Для актуальных агрономических сведений продолжайте использовать проверяемые источники. Новый файл модели и новый справочник решают разные задачи.
Добавляем камеру и сводки с датчиков
Сохраните происхождение каждого входа: человек наблюдал, датчик измерил, классификатор оценил. Попросите собрать их в общий текст с этими обозначениями, затем сверьте результат с оригиналами.
Когда простой помощник стал полезен, попробуйте локальный сбор контекста. Проверьте отбор, пропуски и порядок записей, затем вернитесь к тому же сравнению ответов. Координацию нескольких компонентов можно осваивать следующим этапом.
Сохраняем результат первого сравнения
Оставьте конфигурацию, набор заданий, журнал ошибок и порядок проверки. Сопоставьте качество, задержку, расходы и время исправлений с обычной работой. По этим данным выберите, что стоит поручить помощнику дальше.
Начните с одной настоящей заметки и небольшого проверяемого ответа. Если сводку стало удобнее читать и уточнять, сохраните удачный шаблон. Следующий опыт можно строить уже вокруг конкретной пользы для вашего хозяйства.
