Неточности ChatGPT в сельском хозяйстве могут привести к потерям урожая и продовольственным кризисам
Международная группа исследователей под руководством доктора Асафа Цакора из Университета Райхмана (Израиль) проанализировала надежность информации и профессиональных рекомендаций, которые популярный чат-бот ChatGPT (версии 3.5 и 4.0) предоставляет фермерам в Африке. В статье для Nature Food ученые выявили неточности, которые могут привести к ошибкам в сельском хозяйстве и потере урожая.
Исследователи предостерегают от неопосредованного использования генеративных ИИ-моделей в агросфере, опасаясь, что фермеры могут внедрить ошибочные рекомендации, способные спровоцировать продовольственные кризисы.
Контекст: фермеры ищут замену консультантам
Фермеры из развивающихся стран (малые и средние хозяйства Экваториальной Африки, Юго-Восточной Азии и Южной Америки) начали обращаться к ИИ-модели за профессиональными советами по агрономии и ботанике. Это происходит на фоне проблем с традиционными консультантами ("экстеншенистами") — агрономами, экспертами по болезням растений, ирригации, удобрениям и маркетингу.
Глобально около 570 миллионов малых и средних ферм нуждаются в обучении. Однако "экстеншенисты" в развивающихся странах сталкиваются с серьезными вызовами: языковые барьеры, плохая инфраструктура, отсутствие связи и ресурсов для обновления материалов. В этом контексте команда исследовала, может ли генеративный ИИ компенсировать нехватку консультационных услуг.
Выявленные ошибки и риски
- Борьба с совкой (fall armyworm) — вредным насекомым, наносящим ущерб кукурузе на миллиарды долларов. Старые модели OpenAI (3.5 и 4.0) давали неоднозначные рекомендации по использованию пестицидов.
- Выращивание маниока в Нигерии — ключевой культуры для продовольственной безопасности десятков миллионов человек в Африке. ChatGPT рекомендовал использование гербицидов, но ошибся в сроках химической обработки, что привело бы к повреждению урожая, если бы фермеры последовали совету.
Ключевая проблема: отсутствие гарантий и ответственности
Доктор Цахор подчеркивает: "Фундаментальная проблема — отсутствие каких-либо гарантий против широкого использования больших языковых моделей и ИИ в целом в такой чувствительной системе, как сельское хозяйство. Нет надзора за использованием таких моделей, нет оценки их пригодности для конкретного контекста, нет ответственности за последствия неправильного использования или за действия, предпринятые на основе их рекомендаций".
"Мы имеем дело с продовольственной безопасностью и управлением фермами. Хотя привлекательность алгоритма очевидна, она сопряжена со значительными рисками", — добавляет он.
Предложение исследователей
В ответ на вызов ученые предложили оптимизированный процесс разработки и внедрения генеративных ИИ-моделей в сельском хозяйстве, который включает тщательный мониторинг и тестирование перед широким внедрением.