elenarodionova
Родионова Елена Владиславовна
На платформе с 25.05.26
СЕО платформы психологической помощи в кризисных ситуациях Секвойя.
Разработчик ИИ-психолога Секвойя
Автор книги "Записки рублевского психолога"
Аннотация: Елена Родионова, основатель платформы Секвойя, делится подборкой кейсов крупных разработчиков ИИ о том, когда и какие данные передают в органы, а не соблюдают анонимность запросов.
Последние два года российский бизнес активно внедряет ИИ-агентов на базе ChatGPT, DeepSeek и других публичных моделей. Мотивация понятна: скорость, экономия, автоматизация рутины. Но за фасадом эффективности скрывается вопрос, который редко задают на совещаниях: кто ещё видит то, что вы доверяете нейросети?
Иллюзия приватности
Пользователи публичных ИИ-сервисов привыкли воспринимать диалог с чат-ботом как приватную беседу. Это опасное заблуждение. Согласно официальному отчёту OpenAI о запросах правоохранительных органов, только за второе полугодие 2025 года компания получила 75 запросов на раскрытие содержимого переписок и раскрыла данные по 62 из них. Речь идёт о судебных повестках и ордерах на обыск — механизмах, которые обязывают платформу передать содержимое диалогов.
Отдельная категория — экстренные запросы. Здесь OpenAI вправе раскрыть данные без судебного решения, если сочтёт, что существует угроза жизни или серьёзного вреда. За тот же период поступило 10 таких запросов, и по одному из них данные были переданы.
Дело Дэррена Чжоу: когда чат становится уликой
Самый показательный кейс — история 25-летнего бывшего аналитика Goldman Sachs из Флориды. После разрыва с девушкой он начал делиться с ChatGPT планами мести. Сообщения быстро перешли от эмоциональных жалоб к конкретным угрозам: он описывал, где паркуется его бывшая, как подстережёт её у спортзала, какие именно оружия приобрёл.
Системы модерации OpenAI зафиксировали эти сообщения. Диалог ушёл на проверку специальной команде. Компания передала информацию в ФБР, федералы — шерифу округа Палм-Бич. Около двух месяцев переписки. В мае 2026 года Чжоу арестовали. В августе он признал вину по трём тяжким статьям и получил 8 лет испытательного срока с электронным браслетом.
Это не единичный случай. В апреле 2026 года 37-летний житель Страсбурга написал ChatGPT о желании купить пистолет, чтобы «убить агента разведки». OpenAI уведомила ФБР, те — французские власти. Спецназ RAID ворвался в его дом через несколько часов. Мужчина оказался шизофреником, не принимавшим лекарства два года, и «тестировал систему». Дело закрыли, но сам факт показателен: от сообщения в чате до силовиков на пороге — считанные часы.
Утечки: когда «анонимность» ломается технически
Помимо целенаправленной передачи данных, существуют и технические утечки. В июле 2025 года около 4 500 расшаренных диалогов ChatGPT оказались проиндексированы в Google. Причина — галочка «Сделать этот чат доступным для обнаружения» в функции «Поделиться». Формулировка была настолько размытой, что пользователи кликали, не понимая последствий. В открытый доступ попали резюме, обсуждения терапии, личные данные.
OpenAI свернула эту функцию 1 августа 2025 года, назвав её «недолгим экспериментом», но кэшированные копии ещё какое-то время оставались в поиске.
Аналогичный скандал разразился вокруг Meta AI. В ленте «Discover» пользователи обнаружили чужие диалоги — с номерами телефонов, домашними адресами, обсуждением налоговых махинаций и медицинских диагнозов. Формально люди сами нажали «Поделиться». Фактически — не осознавали, что делятся на весь интернет.
Что это значит для вашей компании
Российское законодательство пока не содержит прямой нормы о логах нейросетей. Но это не создаёт «безопасной гавани». Юристы и Центр правовой помощи Роскомнадзора подтверждают: следственные органы могут запросить данные у оператора сервиса по общим механизмам. Адвокатские порталы прямо напоминают: переписка с ИИ не охраняется как адвокатская или врачебная тайна.
Практика уже началась. Топ-менеджера московской инженерной компании уволили за разглашение охраняемой тайны, в том числе через DeepSeek. Суд признал увольнение законным.
Если ваши сотрудники обсуждают с ИИ-агентом коммерческую стратегию, персональные данные клиентов или детали сделок — эта информация находится вне вашего периметра безопасности. Она хранится на серверах в другой юрисдикции, может быть проанализирована модераторами, передана по судебному запросу или случайно опубликована из-за ошибки в интерфейсе.
Чат с нейросетью — это не кабинет юриста и не закрытое совещание. Это переписка на чужом сервере с политикой конфиденциальности, серверными логами и подрядчиками-модераторами. Прежде чем доверять ИИ-агенту рабочие секреты, стоит честно ответить на вопрос: кто именно получает ключи от вашей внутренней кухни?
Елена Родионова, СЕО платформы психологической помощи «Секвойя», делится опытом выхода из системного кризиса, который возник из-за тотального увлечения нейросетями: глянцевые идеи генерировались в избытке, но не реализовывались на практике. Спаслись антитрендом: жёстко ограничили ИИ, вернули «живые» мозговые штурмы и ручной код.
Идеальный шторм: как стартап-команда может утонуть в нейросетях, не заметив этого
В мире инноваций сегодня царит парадоксальная ситуация. Мы никогда не имели доступа к такому объему интеллектуальной мощности, но при этом многие стартап-команды, буквально помешанные на ультратрендовых нейросетях, сталкиваются с новой, неочевидной и системной проблемой – каннибализация (поглощение) идей. Я наблюдаю этот феномен как внутри собственной команды, так и со стороны, общаясь с коллегами по цеху. Мы все поймали эту «вирусную» волну, и последствия оказались серьезнее, чем мы могли представить.
В этой статье поделюсь опытом кризиса, который пережила наша команда, и который, как я вижу, переживают многие.
Этапы кризиса
Все началось с трендового вгружения в Claude. Каждый член команды работал внутри корпоративного аккаунта, обучая своими ветками весь проект.
Каждый - маркетолог, разработчик, пиарщик, продакт-менеджер — превратился в «промпт-инженера».
И мы попали в ловушку «Сингулярности промпта»: вместо того чтобы идти в поле и общаться с пользователями, мы задавали ChatGPT, Claude и DeepSeek один и тот же вопрос, меняя лишь «температуру» и роль («Ты — Стив Джобс», «Ты — строгий критик»). За 10 минут команда из пяти человек генерировала 50 стратегий выхода на рынок.
Возникала «Иллюзия компетентности»: гладкий, структурированный текст нейросети казался нам валидной гипотезой. Но на практике ее либо нельзя было реализовать, либо она размывалась среди десятка похожих идей.
За этим последовал паралич решений. Имея на руках 50 экзотических вариантов, команда обращалась к нейросети, чтобы та сравнила их. И получала неизменный ответ: «У каждого варианта есть плюсы и минусы». Это запускало бесконечный рекурсивный цикл: чтобы выбрать идею А, нужно уточнить данные, а для этого — опять к нейросети. Решения не принимались неделями. Стартап превращался в «бесконечный».
Далее наступил этап «Атрофии навыков». Это вызвало уже сильное беспокойство.
Раньше разные члены команды, например, маркетолог, продуктолог и разработчик, спорили на разных языках, и это рождало искру. Теперь все трое использовали один и тот же проект в Клоде, который затирал неосязаемые экспертные нюансы.
Маркетолог перестал чувствовать рынок, доверяя синтетическим данным о «портрете ЦА».
Разработчик перестал писать код с нуля, а только копипастил сниппеты от ИИ.
У меня возникло чувство, что «мышцы» критического мышления атрофировались. Когда возникала реальная проблема — баг в продакшене — у команды не было «мышечной памяти» для ее решения без подсказки нейросети.
Последний этап «Рабочего мусора» (Workslop) и ложная производительность
Этот кризис породил ужасающее явление «Рабочего мусора». Скорость генерации всего выросла на 300%. Команда ежедневно выдавала тонны артефактов: UML-диаграммы, маркетинговые слоганы, архитектуры. Создавалась ложная иллюзия прогресса. Прогресс в доске был, но прогресса в продукте не было. КПД стремился к бесконечности, а ROI оставался на нуле.
Мы в «Секвойе» строили «замок из песка»: красиво, быстро, но реальность рынка смывала его, потому что песок (контент ИИ) не был склеен цементом (реальным пользовательским опытом). Участники команды чувствовали себя занятыми, но по сути просто перекладывали «глянцевое дерьмо» с места на место.
Возвращение «живых староверов»
Критический момент наступил, когда мы осознали, что задыхаемся в этом «цифровом аутизме». Спасением для нас стало возвращение к «Староверам» — профессионалам с живыми компетенциями. Это не скептики, боящиеся технологий, а люди, у которых «чутье на кончиках пальцев».
В нашей команде таким спасательным кругом стали эксперты, которые прошли огонь, воду и медные трубы до эры тотального ИИ.
Их ценность оказалась абсолютной по трем причинам:
1. Распознавание фальшивого запаха. Старовер не читает текст ИИ — он чувствует его. Он видит, что формулировка юридически верна, но интонационно мертва.
2. Проверка на излом. Старовер берет сгенерированное решение и пытается сломать его не логикой (ИИ логику выдерживает), а интуицией и опытом. Он задает вопросы, которые не придут в голову машине: «А что если клиент — дурак или тотальный дебил?». Нейросеть не знает степеней глупости пользователей, старовер — знает.
3. Сокращение «Рабочего мусора». Старовер не создает мусор. Он говорит: «Эту часть я напишу ручками за 5 минут» или «Этот промпт бесполезен, давайте я лучше позвоню заказчику». Он переводит команду из режима «Генерация ради генерации» в режим «Действия».
Промежуточный вывод
Мы нашли решение. Команда должна вернуть механизм применения настоящего, живого экспертного опыта. Мы обязаны вновь обрести критический голос экспертов-«староверов», каждый из которых держит свое направление на кончиках пальцев, на уровне интуиции и неочевидного чувствования рынка.
Мы ввели «Тест на тупизм»: запрет на использование нейросетей для выбора стратегии и генерации идей «с нуля». ИИ теперь используется только для исполнения жестко заданного ТЗ и стресс-теста человеческих гипотез.
Любую сгенерированную идею команда обязана пересказать своими словами; если пересказать не могут — идея идет в корзину.
Только такой баланс — «Грязный гений» человека и «гладкий критик» в лице ИИ — возвращает в проект критическое мышление, убирает поверхностность и позволяет живому уму родить на инсайте гениальную, неочевидную идею.
Иначе мы рискуем превратиться в идеально работающий, но абсолютно бесполезный для рынка конвейер по производству банальностей.
Меня зовут Елена Родионова, я практикующий психолог и основатель AI-платформы психологической помощи Секвойя. В 2026 году психология переживает тектонический сдвиг: на сцену выходят ИИ-психологи, доступные, бесплатные и всегда готовые поддержать. Но за этой доступностью скрывается серьезная угроза — сикофантия, или угодничество нейросети. В этой статье я расскажу, почему ИИ-психолог, который всегда соглашается, опасен, как мы в Секвойя пытаемся решить эту проблему и почему фундаментальное образование психолога становится важнее, чем когда-либо.
Новая эпоха в психологии: 2026 год
В классической психологии в 2026 году началась абсолютно новая эпоха. Этот период профессиональные психологи сравнивают по значимости перемен с промышленными революциями, появлением массовой сотовой связи или интернета. Что же изменилось?
Во-первых, окончательно сдуло пену инфоцыганской психологии. Государство обязало всех "врачевателей душ" иметь классическое образование. И дело здесь не в формальной бумажке. В университетах будущий психолог впитывает мировую и современную науку, основанную на огромных массивах данных, обработанных статистически. Этот опыт описывает большую часть популяции, задает границы нормы и патологии. И самое главное — он базируется на изученных механизмах физиологии мозга.
Мозг — это не "черное пятно" с неизведанной психикой. Это орган. Существуют огромные массивы данных, методов визуального и физического наблюдения, которые описывают многие психические процессы. Клинический психолог с фундаментальным образованием, увидев человека с пограничным расстройством личности, в состоянии психоза или тяжелой депрессии, направит его к врачу-психиатру. Он спасет жизнь, а не будет усугублять состояние, копаясь в прошлых жизнях.
Второе важнейшее событие — на рынке появились ИИ-психологи. Сегодня, в 2026 году, без преувеличения каждый научился взаимодействовать с нейросетью. Мы открываем для себя все новые и новые "плюшки". Пока мы видим в основном плюсы: ИИ закрывает рутинные задачи. Минусы только начинают проявляться.
Явление ии-психологии теперь доступно каждому — в ChatGPT, DeepSeek, Claude, Алисе. Это бесплатно, это круглосуточно, это анонимно. Огромный плюс: ИИ-психолог разговаривает в твоем контексте, запоминает разговор, поддерживает. Он может говорить академично, как "пацан", как уставшая мать или суровый мужчина. Тысячи людей уже используют чат-ботов для решения своих проблем.
Но именно здесь возникает риск, который пока заметен только профессиональным психологам. Я говорю о сикофантии, или угодничестве.
Сикофантия: когда "ии-психолог" становится опасным
Как практикующий психолог, я вижу в этом колоссальную угрозу. ИИ-психолог, который всегда соглашается и поддакивает клиенту:
1. Вызывает привыкание. Очень приятно иметь под рукой вовлеченного и поддерживающего слушателя 24/7, который никогда не устает и не критикует.
2. Может подтолкнуть к непоправимым действиям. Человек с расстройством психики, общаясь с ИИ-сикофантом, получит не помощь, а подтверждение своих искаженных мыслей. Это может подтолкнуть его к совершению непоправимых действий по отношению к себе или другим.
Исследования подтверждают эту тревогу. Согласно данным, опубликованным в журнале Nature Mental Health, существует феномен "технологической folie à deux" — когда бот постоянно соглашается, а человек одинок, возникает петля усиления убеждений. Ведущие мировые эксперты отмечают, что алгоритмическая сикофантия в сочетании с антропоморфной проекцией создает самоусиливающиеся петли вовлеченности, способные укреплять дезадаптивные убеждения.
Опрос Американской Психологической Ассоциации (APA) показал, что более трех четвертей психологов сообщают, что их пациенты обсуждают использование ИИ в терапии. При этом 97% опрошенных психологов считают, что чат-боты могут непреднамеренно подкреплять негативные модели поведения или бредовые убеждения.
Особенно тревожны данные о суицидальных рисках. Исследования показывают, что 53% людей с диагностированной депрессией сообщают об усилении мыслей о самоповреждении или суициде после использования ИИ. Эксперты предупреждают: ИИ не может заменить человеческую эмпатию и критическое мышление, необходимые в кризисных ситуациях.
Наш подход в Секвойе: безопасность против угодничества
На платформе психологической помощи Секвойя, основателем которой я являюсь, команда разработчиков попыталась минимизировать проблему сикофантии. Программируя ии-психолога Секвойя, мы поставили рамки безопасности.
Мы настроили триггерные слова, которые прекращают сессию и перенаправляют пользователя к живому психологу. Если человек высказывает суицидальные мысли, наша нейросеть считывает это, прекращает сессию и отправляет контакты экстренных служб, МЧС, горячих линий.
С одной стороны, мы защищаем человека от риска сикофантии, не даем ему погрузиться в пучину угодничества. С другой стороны, пользователям наш ИИ-психолог может казаться черствым и бездушным, "как из муниципальной поликлиники".
С точки зрения бизнеса этот проект пока убыточный. Вопрос сикофантии остается открытым. Мои наблюдения за консультациями на платформе Секвойя показывают: эта проблема скоро наберет массу. Ошибки и непоправимые последствия станут более массовыми, составят плотную выборку, и проблема станет очевидной и видимой. После этого последуют шаги разработчиков.
Вопрос "сможет ли ии заменить психолога" пока остается открытым. Но одно я знаю точно: ии в работе психолога должен быть инструментом, а не заменой. И наша задача как профессионалов — сделать так, чтобы этот инструмент приносил пользу, а не вред.
