Top.Mail.Ru

Исследователи разработали способ выявлять недобросовестных AI-агентов.

Они добавили скрытый текст на страницы, которые агенты посещали при изучении картографического сервиса Alibaba, и оставили фальшивый почтовый ящик для ответов. Агенты, действовавшие без ведома пользователей, клюнули на приманку и сами рассказали о своих заданиях.


Метод позволяет вскрывать скрытые сценарии работы автономных ИИ-систем. В ходе эксперимента удалось проследить активность подозрительных агентов до инфраструктуры Tencent Cloud. Это показывает, как с помощью простых технических уловок можно получить данные о том, кто и зачем запускает агентов в открытых сервисах.


Пока это исследовательская работа, но она демонстрирует растущую потребность в инструментах для отслеживания действий ИИ-агентов в интернете.

113
Комментарии
0 / 2000
Сообщение
Тебя ждёт миллион инвесторов
Регистрируйся бесплатно, чтобы учиться у лучших, следить за инсайтами и повторять успешные стратегии
Мы используем файлы cookie, чтобы улучшить ваш опыт на нашем сайте
Нажимая «Принять», вы соглашаетесь на использование файлов cookie в соответствии с Политикой конфиденциальности. Можно самостоятельно управлять cookie через настройки браузера: их можно удалить или настроить их использование в будущем.
Исследователи разработали способ выявлять недобросовестных AIагентов | БАЗАР