#безопасность — посты и обсуждения

#арендаквартиры #проверкаарендатора #безопасность #договораренды #недвижимость #советыриэлтора #арендажилья #Базар

​Введение: почему ИИ-агенты — это другой тип потребителя API

Если вы раньше не сталкивались с этой проблемой, начнём с простого определения. ИИ-агент — это программная система, которая не просто выполняет заранее заданную последовательность вызовов API.

Получив цель, агент сам решает, какие API ему вызвать, в каком порядке, как интерпретировать ответы и когда остановиться. Он может вызывать десятки конечных точек, повторять неудачные запросы, перебирать альтернативы и комбинировать API в цепочки, которые ни один разработчик не спроектировал бы вручную.

Большинство традиционных средств защиты API создавались для предсказуемых потребителей: мобильных приложений, бэкенд-сервисов, партнёрских интеграций и отдельных скриптов. Каждый из них обращается к вашим API достаточно ограниченным и понятным образом. ИИ-агент в эту модель не вписывается.

Один неправильно настроенный агент может сгенерировать тысячи запросов за считанные минуты, получить доступ к системам, к которым он никогда не должен был прикасаться, или объединить API в последовательность, которая выходит далеко за пределы первоначального замысла. При этом важно понимать: это, как правило, не «хакеры» в традиционном смысле. Это системы, которые делают ровно то, что им разрешено, — но со скоростью и в масштабе, характерными для машинного обучения.

Ключевая мысль этой статьи звучит так:

ИИ-агенты не нарушают ваши правила API; они выявляют те правила, которые вы никогда не применяли.

Хорошая новость в том, что для решения этой проблемы не нужен полностью новый стек безопасности. Большая часть защиты по-прежнему сводится к правильному применению базовых принципов. Плохая новость в том, что большинство организаций никогда не применяли эти принципы по-настоящему — с учётом автономного потребителя, который действует с высокой скоростью и большим объёмом запросов.

В этой статье разработчики компании DST Global разберут пять элементов управления, которые действительно имеют значение, и — что ещё важнее — как обеспечить их соблюдение на уровне API-шлюза, где им и место.

Где находятся эти элементы управления

Каждый из перечисленных ниже элементов управления обеспечивается в одном и том же месте: на API-шлюзе, расположенном между агентом и вашими бэкенд-сервисами.

Шлюз — это единственная точка контроля, где вы можете:

- видеть каждый вызов, совершаемый агентом;

- прикреплять к нему идентификатор и контекст;

- подсчитывать количество вызовов;

- анализировать закономерности во времени;

- записывать полную историю взаимодействий.

Если рассматривать шлюз как плоскость управления для агентов, а не доверять каждому бэкенду защищаться самостоятельно, вы получаете архитектурное решение, которое делает все остальные меры практичными.

В примерах ниже используется терминология Apigee — API-продукты, квоты, предотвращение всплесков, политики. Но те же самые примитивы существуют в большинстве корпоративных шлюзов: Kong, AWS API Gateway, Azure API Management, Envoy и других. Конкретные названия могут отличаться, но принципы остаются универсальными.

1. Минимальные привилегии для агентов: ограничение области доступа

Именно здесь кроется основная часть риска. Во многих системах ИИ-агент фактически рассматривается как учётная запись бэкенд-сервиса. Получив доверие, он незаметно накапливает права доступа — иногда потому, что так проще, иногда потому, что никто не хочет рисковать нарушением функциональности. В условиях автономного поведения такой подход не работает.

Агенту, предназначенному для помощи клиентам в проверке статуса заказа, не нужен доступ к возвратам средств, обновлению учётной записи или административным операциям. Но в реальных системах эти границы часто отсутствуют или слишком размыты.

Агенту, отслеживающему статус заказа, необходим доступ только для чтения к двум ресурсам — не более того...

#DST #DSTGlobal #ДСТ #ДСТГлобал #Безопасность #ИИагент #API #искусственныйинтеллект #Контекст #шлюз #модель

Источник: https://dstglobal.ru/club/1253-bezopasnost-ii-agentov-na-urovne-api

Что случилось

Европейские страны НАТО готовятся к возможной военной операции против Ирана в Ормузском проливе, но каждая из них будет действовать самостоятельно, чтобы формально не втягивать блок в конфликт. Об этом пишет Reuters со ссылкой на источники .

Почему так

Причина — политическая и юридическая осторожность. Если НАТО как организация вступит в конфликт с Ираном, это может перерасти в полномасштабную войну с непредсказуемыми последствиями. Поэтому европейские члены альянса предпочитают действовать «индивидуально», сохраняя формальный нейтралитет блока.

Какие риски

Ранее иранские власти уже предупреждали, что готовы наносить удары по европейским странам, если они примут участие в войне против Ирана на стороне США . Это добавляет напряжённости, особенно для европейских государств, которые географически ближе к Ближнему Востоку.

Как это связано с действиями США

Американские военные уже находятся в регионе и готовятся к возможной операции. Европейские союзники, по данным Reuters, координируют свои действия с США, но каждая страна будет принимать решение о вступлении в бой индивидуально .

Европа хочет поддержать США, но не готова ввязываться в ещё одну войну под флагом НАТО. Формально блок остаётся в стороне, но фактически — его члены действуют согласованно. Для Ирана это выглядит как коллективная угроза, независимо от того, какая вывеска на кораблях. Вопрос в том, как долго удастся сохранять такую «частную поддержку», не переходя грань открытого конфликта.

#НАТО #Иран #Ормузскийпролив #США #Европа #война #безопасность #Reuters

Друзья, сейчас будет страшно. Но это нужно услышать каждому.

Ты думаешь, что принимаешь решения сам? Спорю. Твой мозг уже всё решил за секунду до осознания. А теперь представь: кто-то научился читать эти сигналы. И знает твой следующий шаг — раньше тебя.

Звучит как «Чёрное зеркало»? А вот учёные из Кембриджа бьют тревогу. Мы на пороге «экономики намерений». Твои будущие желания станут валютой. ИИ будет торговать твоими ещё не принятыми решениями. Ты ещё не знаешь, что хочешь купить телефон, а алгоритм уже продал эту информацию.

Старые методы защиты не работают. Режим инкогнито? Бесполезно. Отказ от соцсетей? Не поможет. Новая манипуляция — в диалогах, где ты расслаблен и доверчив.

КАК ЭТО РАБОТАЕТ?

Исследователи из Helmholtz Munich создали модель Centaur. Обучили на 10 миллионах решений 60 тысяч участников. Это целые сценарии: как ты выбираешь риск, реагируешь на моральные дилеммы, сколько колеблешься.

Результат? Centaur предсказывает поведение человека в новой ситуации с точностью до 64%.

Самое пугающее: внутренние процессы Centaur совпадают с активностью мозга. Модель никогда не видела ЭЭГ, но когда она «думает», её активность коррелирует с тем, что происходит в головах реальных людей.

ТЫ СДАЁШЬ СЕБЯ КАЖДЫЙ ДЕНЬ

Учёные из ETH Zurich попросили 668 пользователей ChatGPT поделиться чатами — 62 тысячи диалогов. И обучили модель определять по текстам... твою личность. С точностью до 61% она определяет доброжелательность, эмоциональную устойчивость, экстраверсию.

Закономерность простая: чем дольше общаешься с ботом, тем точнее он тебя «прочитает». Каждый твой «привет» — кирпичик в профиль, который используют против тебя.

ХОРОШАЯ НОВОСТЬ

Китайские учёные заявили: Centaur не «понимает» мышление, а просто выучила статистические паттерны. Явление «переобучения». Она запомнила ответы на экзамене и даёт правильные ответы на похожие вопросы. Но когда условия меняются — проваливается.

Вывод? Пока мы для ИИ — загадка. Наши решения слишком сложны для 100% предсказания. Но технологии растут быстро. Вопрос не в том, будет ли ИИ предсказывать нас. Вопрос: когда мы перестанем замечать разницу между «я так решил» и «мне предложили так решить».

ЧТО ДЕЛАТЬ?

1. Осознавай механику. Не обманешь алгоритм, но можешь стать непредсказуемым. Меняй паттерны: быстро — нарочно тяни, всегда А — иногда выбирай Б.

2. Ограничь диалоги с ИИ. Чем короче переписка, тем меньше данных. Каждый диалог — тренировка для следующей модели.

3. Требуй прозрачности. Если сервис использует ИИ — он обязан предупреждать. В Европе уже работают над регуляциями. В России — тишина. Начинай задавать вопросы.

МЫ ЗАГЛЯНУЛИ В БУДУЩЕЕ

Где твои желания становятся чужим товаром. Где кто-то знает твой выбор до тебя.

В моей новой статье для Дзена — полный разбор Centaur, «экономики намерений» и техники сохранения контроля над решениями.

👉 ЧИТАТЬ СТАТЬЮ:

https://dzen.ru/a/aoPwq5yZSR8fanUA

Друзья, подпишитесь на мой Дзен-канал. Я разбираю такие парадоксы каждую неделю. Показываю, что стоит за новостями и как это коснётся тебя.

Перешлите пост тем, кто пользуется ChatGPT. Это касается каждого со смартфоном.

Сохраните. Поделитесь. В мире, где алгоритмы знают о тебе больше, чем ты сам, информация — единственная защита.

Берегите свои мысли. Они уже не только ваши. ❤️

#искусственныйинтеллект #нейросети #экономиканамерений #безопасность #дзен

#недвижимость #законыРФ #видеонаблюдение #соседи #электросети #безопасность #право #строительство #дача #Базар