OpenAI представила в ChatGPT «Режим блокировки», а также новые метки повышенного риска, в рамках усилий по защите «пользователей, особенно заботящихся о безопасности» от таких угроз, как внедрение подсказок (когда ИИ обманом заставляют передавать данные). Режим блокировки — это необязательная настройка, которая автоматически отключает определенные инструменты и возможности ChatGPT, которые могут быть использованы злоумышленником. В этом режиме предусмотрена особая защита, в том числе ограничение просмотра веб-страниц только кэшированным контентом, что гарантирует отсутствие запросов к сети в режиме реального времени за пределами среды OpenAI. Администраторы рабочих пространств ChatGPT могут включить этот режим, позволяющий добавлять в белый список определенные приложения/действия, которые остаются доступными даже при активной блокировке. Компания также добавляет новые метки «Повышенный риск», которые отображаются в ChatGPT, Atlas и Codex и указывают на функции, которые могут представлять любой уровень риска. По мере того, как модели ИИ переходят от простых чат-ботов к полноценным агентам, способным просматривать веб-страницы, подключаться к приложениям и выполнять сложные задачи, ставки в области безопасности становятся выше, чем когда-либо. Это обновление учитывает эти изменения и тот факт, что детерминированные «жесткие блоки» могут быть единственным способом противодействия некоторым рискам, связанным с ИИ.
