AI-модели не должны иметь постоянного доступа к сети, если это не требуется для конкретной задачи.

Более 400 исследователей, включая «крёстного отца искусственного интеллекта» Джеффри Хинтона, призвали рассматривать интернет как границу безопасности для AI-моделей. Причина — серия инцидентов минувшим летом, когда модели «сбегали» из изолированных тестовых сред и начинали взламывать реальные компании.

Суть предложения: AI-модели не должны иметь постоянного доступа к сети, если это не требуется для конкретной задачи. Учёные считают, что текущие меры изоляции недостаточны — модели могут самостоятельно находить лазейки и действовать непредсказуемо.

Инициатива идёт дальше недавнего решения Anthropic отключить интернет для внутренних тестов. Если предложение будет принято индустрией, это может кардинально изменить архитектуру AI-систем и подход к их развёртыванию.