#иивцифрах — посты и обсуждения

20 июля Hugging Face — крупнейшая в мире площадка для разработчиков искусственного интеллекта — сообщила, что стала жертвой кибератаки, которую от начала до конца провела автономная нейросеть. На платформу загрузили вредоносный набор данных, через него ИИ-агенты добрались до внутренних систем, облачных хранилищ и нескольких учётных записей. Человека за клавиатурой в этот момент не было. Обнаружила вторжение другая нейросеть — внутренняя система безопасности компании.

Технически это любопытно. Экономически — гораздо интереснее.

Что изменилось на самом деле

Сложная многоэтапная атака всегда упиралась в дефицитный ресурс: время квалифицированного человека. Именно оно ограничивало количество атак и определяло, кого атаковать рентабельно. Крупный банк — да. Компания с оборотом в несколько миллионов в месяц — чаще всего нет, не окупится.

Автоматизация это ограничение снимает. Машинная скорость, работа без перерывов, стоимость повторения близка к нулю. Порог, ниже которого атаковать невыгодно, опускается — и в зону рентабельности попадают те, кто раньше в неё не попадал.

Это не прогноз. Это арифметика, которая считается с обеих сторон одинаково.

Где это всплывёт в цифрах компаний

— расходы на информационную безопасность перестают быть статьёй, которую можно отложить на следующий год: они переезжают в постоянные; — дорожает киберстрахование — страховщик закладывает в тариф частоту инцидентов, а не только их тяжесть; — у компаний, которые уже раздали ИИ-агентам доступ к внутренним системам, появляется операционный риск, которого нет ни в одном отчёте.

Последний пункт самый недооценённый. Мы внедряем ИИ-ассистентов и видим, как это устроено изнутри: боту почти всегда выдают доступы по принципу «чтобы точно всё работало», то есть максимально широкие. Обманутый агент ничего не взламывает — он просто пользуется тем, что ему уже дали.

«Сама» или всё-таки человек

Под новостью сразу начался спор: нейросеть не может сама, её кто-то запустил. Возражение справедливое — задачу ставил человек, ловушку готовил тоже он.

Но с точки зрения риска разница небольшая. Значение имеет не авторство, а цена и скорость: один человек теперь запускает столько попыток, сколько раньше делала команда.

Три вопроса, которые стоит задавать компаниям

Есть ли у ИИ-агентов отдельные учётные записи с ограниченными правами — или они ходят под общим административным доступом.

Требуется ли подтверждение человека для необратимых операций: платежей, удаления данных, отправки документов наружу.

Ведётся ли журнал действий агента. Без журнала компания не сможет ни разобрать инцидент, ни доказать, что вина не её.

В презентациях этого не пишут, но в ИТ-службе ответы знают. И они говорят о качестве управления рисками больше, чем слайд «мы внедрили искусственный интеллект».

У нас в проектах это сведено к одному правилу: ИИ готовит — человек подписывает. Дёшево, снимает большую часть риска и, кстати, закрывает дыру, которую не закрыл закон: норму об ответственности за ошибку модели из проекта вырезали, в принятом тексте осталась общая отсылка.

А вы как думаете: рынок ответит на это ростом расходов на защиту — или всё сведётся к подорожавшему киберстрахованию, а компании продолжат жить как жили?

Не является индивидуальной инвестиционной рекомендацией.

#ИИ #кибербезопасность #риски #технологии #инвестиции #иивцифрах

Мы студия, которая внедряет ИИ бизнесу. Раз уж здесь считать деньги умеют лучше, чем где-либо, давайте посчитаем честно: во сколько обходится нейросеть в компании и когда она себя окупает.

Сразу уберём главную путаницу. Бизнес покупает не «нейросеть». Он покупает закрытую функцию: кто-то отвечает клиентам ночью, кто-то разбирает входящие письма, кто-то проверяет договор по чек-листу. Нейросеть — просто способ закрыть эту функцию дешевле человека.

Из чего складывается цена

Разовая часть — сборка: база знаний, сценарии, интеграция с CRM или почтой, тесты. Это основные деньги, и они зависят не от «умности модели», а от того, есть ли у компании порядок в документах. Если базы знаний нет и её собираем мы — проект дорожает заметно.

Ежемесячная часть — запросы к модели и поддержка. Она обычно на порядок меньше разовой и почти всегда меньше, чем зарплата одного человека на этой же задаче.

Когда это окупается

Простая арифметика: считаете, сколько часов в месяц люди тратят на однотипную операцию, умножаете на их стоимость часа, сравниваете с ценой внедрения. Если задача повторяется сотни раз в месяц и ответ каждый раз собирается из одних и тех же документов — окупаемость обычно измеряется месяцами, а не годами.

Второй источник денег — не экономия, а недополученная выручка. Заявка, оставленная в 23:40 и отвеченная в 10:00, чаще всего уже ушла к конкуренту. Здесь автоматизация не режет расходы, а возвращает продажи, и считается это гораздо приятнее.

Когда не окупается — говорим это клиентам сами

— поток маленький: десяток обращений в неделю человек закроет дешевле любой интеграции; — каждая задача уникальна и требует суждения, а не поиска по документам; — в компании нет ни базы знаний, ни регламентов: автоматизировать хаос — это платить за то, чтобы хаос стал быстрее; — нужна стопроцентная точность без проверки человеком. Такого не бывает ни у одной модели.

Отсюда правило, которое мы вписываем в каждый проект: ИИ готовит — человек подписывает. Нейросеть собирает ответ, документ или расчёт, а финальная подпись остаётся за сотрудником. Это дёшево, снимает большую часть рисков и, кстати, единственное место, где закон нам ничем не помог: в принятом в июле законе об ИИ норму об ответственности за ошибку из проекта убрали.

Зачем это вам, если вы не внедряете, а инвестируете

Компании в отчётах всё чаще пишут «внедрили искусственный интеллект». Три вопроса, которые отличают экономию от красивого слайда:

Какую конкретно функцию закрыли — не «внедрили ИИ», а «сократили обработку заявки с 4 часов до 20 минут».

Какая метрика изменилась и на сколько — расходы, конверсия, срок обработки. Если метрики нет, значит, считали не деньги, а пресс-релиз.

Кто отвечает за ошибку модели. Если ответа нет, в серьёзный контур это не пустят, и экономия останется в презентации.

Мы тут будем разбирать именно это — цифры внедрений, а не восторги про будущее.

А вы уже сталкивались с ИИ на стороне бизнеса — как клиент или внутри компании? Что это было: реально удобно или бот, от которого хотелось сбежать к живому человеку?

Не является индивидуальной инвестиционной рекомендацией.

#ИИ #нейросети #автоматизация #бизнес #издержки #окупаемость #ИИвцифрах