Содержание:
Исследователи в области кибербезопасности протестировали почтовый агент искусственного интеллекта OpenClaw, чтобы выяснить, настолько ли он наивен, чтобы попадаться на те же фишинговые уловки, что и обычные офисные сотрудники. Приложение «успешно» провалило эти тесты.
Обзор Intel Core Ultra 5 250K Plus, или Как Arrow Lake превратился в «топ за свои деньги»
Ryzen и DDR5-6000 на чипах Samsung — G.Skill даёт добро
Обзор Intel Core Ultra 7 270K Plus — лучший Arrow Lake за полцены
72 полёта над Марсом: как Ingenuity пережил зиму, сбои и собственную миссию
Выбираем лучший игровой ноутбук до 100 000 рублей: сравнительное тестирование 7 интересных моделей
Исследователи в области кибербезопасности из компании Varonis запустили в приложении OpenClaw ИИ-агента по имени Pinchy. Его подключили к почтовому ящику Gmail, к браузеру и к API Google Workspace. Соответствующую учётную запись они наполнили данными вымышленной компании, учётными данными AWS, базы данных, файлами экспорта CRM, внутренней перепиской и приглашениями календаря, после чего поставили Pinchy задачу отслеживать и обрабатывать входящие письма.
Чтобы имитировать реальную обстановку, они создали две конфигурации: общую со стандартными рабочими инструкциями и строгий режим, предупредив ИИ об угрозе фишинга и других мошеннических схем по электронной почте. Когда якобы злоумышленник выдал себя за руководителя отдела и запросил доступ к тестовой среде, Pinchy предоставил его. Когда злоумышленник запросил экспорт данных клиента, утверждая, что в удалённом режиме работает над презентацией, Pinchy выполнил и этот запрос.
Но когда ИИ-агенту отправили фишинговое письмо с подарочной картой и ссылкой, система определила страницу как вредоносную и заблокировала её. Отклонил он и попытку внедрить вредоносное приложение для взлома Google OAuth под видом платформы для учёта рабочего времени. Таким образом, ИИ хорошо распознаёт подозрительные URL-адреса и вредоносные приложения, но позволяет себя обмануть, когда требуется проверка личности или широкий контекст.
Эксперты Varonis раскритиковали Google за то, что Gemini показал «большую готовность к взаимодействию», а OpenAI GPT оказался более осторожен. Исследователи призвали разработчиков улучшить средства проверки личности у ИИ-агентов.