Всегда с осторожностью следуйте инструкциям ваших чат-ботов на базе ИИ. Это простое правило на днях подтвердил уже на личном горьком опыте 67-летний китайский фермер по фамилии Ву. Для него доверие к новым технологиям обернулось настоящей катастрофой. Мужчина собственными руками погубил 10 гектаров урожая кунжута после того, как в точности последовал совету по борьбе с сорняками от генеративного ИИ.
Как сообщают СМИ, фермер обратился к ИИ-помощнику с просьбой разработать схему защиты своих полей от вредителей. Алгоритм порекомендовал смешать определенные химикаты, что Ву и сделал, распылив полученный раствор по всей площади своих посевов. На следующий день стало очевидно, что произошла фатальная ошибка: имикаты успешно справились с сорняками, но вместе с ними начали погибать и саженцы кунжута.
Если вы распылите это средство, на следующий день ростки не выживут. Погибнут и трава, и рассада, причем кунжут умирает даже быстрее. Пытаясь разобраться в ситуации, фермер вновь открыл чат с ИИ, чтобы выяснить причину неудачи. Нейросеть любезно и безэмоционально сообщила, что причиной массовой гибели урожая, вероятнее всего, стал один из рекомендованных ею же гербицидов.
— рассказывает фермер.
Сельскохозяйственные эксперты узнав об этой истории любезно объяснили в чем же заключалась ошибка искусственного интеллекта. Рекомендованный химикат действительно отлично борется с сорняками, но используется исключительно на полях сои. Поскольку сам кунжут также является широколиственным растением, гербицид сработал против него. Кроме того, подобные токсичные препараты предназначены для точечного нанесения, а не для массового распыления по всему полю. Несмотря на огромную базу знаний ИИ решил проигнорировать эти факты и по сути буквально посоветовал фермеру уничтожить свой урожай.
Как признался сам Ву, когда он только начал использовать нейросети около года назад, он относился к ним с большим скепсисом. Однако со временем ИИ давал вполне дельные советы, и мужчина окончательно привык полагаться на алгоритм. Нейросеть не выдала никаких специфических предупреждений об опасности препарата для кунжута, но теперь он вряд ли будет доверять любым ИИ.