Top.Mail.Ru

Назван срок захвата умных домов искусственным интеллектом

Одна из ведущих ИИ-компаний мира выступила с очередным предупреждением о рисках «восстания машин», сообщает CNBC. В этот раз речь фактически зашла о сроках захвата искусственным интеллектом умных домов — в Anthropic заявили, что модели искусственного интеллекта смогут начать копировать себя на домашние устройства, используя их вычислительные мощности.

В компании отметили, что до появления у ИИ способности к самовоспроизведению на подключенных к интернету домашних устройствах остались считанные месяцы и описали сценарий, при котором модели смогут проникать в «умные» духовки или ТВ-приставки и пользоваться их ресурсами для работы распространения на другие устройства, не полагаясь на дорогостоящие дата-центры.

В Antropic отметили, что такую ИИ-модель будет сложно отключить, «поскольку у нее нет единой центральной точки выключения», а сами агенты ИИ «демонстрируют все большие способности к выполнению отдельных этапов цепочки самовоспроизведения (и передаче своих адаптаций последующим копиям)». Авторы послания подчернули, что полностью автономного ИИ, способного бесконтрольно размножаться, пока не существует, но предупредили, что речь сейчас идет о возможных предвестниках более опасных моделей, способных взламывать защищенные серверы и похищать ключи доступа.

Дискуссия о безопасности ИИ усилилась в начале осени после того, как глава Anthropic Дарио Амодеи призвал замедлить развитие технологии, поскольку уже через год-два контроль над ее развитием может быть утрачен. Соглашаясь с ним, основатель Microsoft Бил Гейтс отмечал, что речь идет о «том редком случае, когда инновации могут быть настолько масштабными и радикальными, что мы к ним не готовы».


Интересные факты - Тайны истории - Загадки человечества

https://dzen.ru/id/69cf696d5843de58aff105f0

132
Комментарии
0/2000
Сообщение
Тебя ждёт миллион инвесторов
Регистрируйся бесплатно, чтобы учиться у лучших, следить за инсайтами и повторять успешные стратегии
Мы используем файлы cookie, чтобы улучшить ваш опыт на нашем сайте
Нажимая «Принять», вы соглашаетесь на использование файлов cookie в соответствии с Политикой конфиденциальности. Можно самостоятельно управлять cookie через настройки браузера: их можно удалить или настроить их использование в будущем.
Назван срок захвата умных домов искусственным интеллектом | БАЗАР