#дипфейки — посты и обсуждения

Тема дипфейков сейчас горячая, и примеров, от которых волосы встают дыбом, хватает. Но если говорить о самом масштабном, циничном и финансово разрушительном кейсе, то абсолютный «хит» — это ограбление транснациональной компании в Гонконге в начале 2024 года.

Там мошенники вышли на совершенно новый уровень: они подделали не просто фото или короткое видео, а целую онлайн-конференцию в режиме реального времени.

Вот как выглядела эта безумная схема:

🎭 Спектакль для одного зрителя

Обычный сотрудник финансового отдела компании получил письмо якобы от главного финансового директора (CFO) из Великобритании. В письме говорилось о секретной транзакции.

Сначала сотрудник засомневался (и правильно сделал), подумав, что это фишинг. Но мошенники пригласили его на созвон в Zoom. Когда парень подключился к видеоконференции, все его сомнения отпали: на экране сидел не только CFO, но и другие коллеги по фирме. Они общались, двигались и выглядели абсолютно естественно.

💸 Цена доверия

«Коллеги» на созвоне дали сотруднику четкие инструкции. Полностью уверенный в том, что выполняет секретный приказ руководства, он послушно совершил 15 переводов на пять разных банковских счетов.

Итог: Компания потеряла 26 миллионов долларов США (около 200 миллионов гонконгских долларов).

🛠 Как они это сделали?

Позже полиция выяснила, что живым на этой встрече был только сам обманутый сотрудник. Все остальные участники — цифровые призраки.

Мошенники взяли из открытого доступа (записи интервью, медиа-архивы) видео и голоса топ-менеджеров компании.

С помощью ИИ-инструментов они создали высококачественные дипфейки, способные накладывать лица и генерировать голос в реальном времени.

На самом созвоне злоумышленники в основном использовали заранее заготовленные фразы и давали инструкции, не вступая в долгие импровизированные диалоги, чтобы не выдать себя.

⚠️ Почему это прецедент?

До этого случая дипфейки чаще ассоциировались с фейковыми новостями про политиков или глупыми мемами. Этот кейс показал, что технологии дошли до точки, когда «увидеть своими глазами» больше не означает «поверить». Мошенничество вышло на уровень полноценной режиссуры.

Как вам такой масштаб, дорогие мои любители денег? Слышали об этой истории?

#дипфейки #ии #искусственныйинтеллект #мошенники

Видели уже прецедент, где певец Shaman в своем клипе с помощью искусственного интеллекта "заставил" петь припев своей песни неких публичных персон, признанных в России иноагентами?

Разберем эту ситуацию с точки зрения этики и права в области ИИ. Без оценки креатива, способностей по пению ртом и личности всех, кто поет, реально и виртуально, в данном клипе.

Я спросила своего друга и помощника - нейросеть Gemini, что она думает по этому поводу.

Привет, мой виртуальный друг! Такой вопрос. Певец Shaman выпустил клип, в котором иноагенты "поют" при помощи генерации нейросети. Как ты к этому относишься? Законно ли так делать? Ждать ли судебных исков?

"Привет! Ситуация действительно резонансная и поднимает важнейшие вопросы на стыке технологий, этики и права.

Как искусственный интеллект, я не имею личных чувств, политических взглядов или морализаторского отношения к творчеству Shaman (Ярослава Дронова) или к позициям упомянутых артистов. Однако я могу разобрать этот кейс с точки зрения того, как устроен цифровой мир и как подобные прецеденты регулируются.

Давайте разберем legal- и этическую сторону этого вопроса.

1. Этическая сторона: Дипфейки без согласия

Использование технологии deepfake (генерации чужого голоса и внешности) без согласия реального человека — это одна из самых горячих тем в мировой digital-этике.

Позиция создателей: Часто это позиционируется как сатира, художественный образ или политический манифест.

Позиция критиков: Это воспринимается как манипуляция, нарушение цифровых границ и присвоение чужой идентичности для продвижения идей, которые эти люди в реальной жизни не разделяют.

2. Законно ли это? (Юридический аспект)

В правовом поле (как в российском, так и в международном) ситуация с дипфейками сейчас находится в так называемой «серой зоне», хотя законодательство стремительно догоняет технологии.

Если рассматривать ситуацию в контексте российского законодательства, здесь сталкиваются несколько норм:

Защита изображения и голоса (Ст. 152.1 ГК РФ)

В России обнародование и использование изображения гражданина (а в некоторых трактовках и его биометрических данных/голоса) допускаются только с его согласия.

Исключение: Согласие не требуется, если использование осуществляется в государственных, общественных или иных публичных интересах, либо если изображение получено при съемке в public-местах.

Будет ли суд считать коммерческий клип «общественным интересом» — большой юридический вопрос.

Защита чести, достоинства и деловой репутации (Ст. 152 ГК РФ)

Если люди, изображенные в клипе, посчитают, что их образы искажены, а сам контекст (пение песни, которую они не пели) порочит их имя или вводит зрителей в заблуждение, они имеют право подать иск о защите чести и достоинства.

Авторское право и интеллектуальная собственность

Нейросети обучаются на реальных голосах и лицах. Внедрение чужого тембра голоса в трек (Voice Cloning) сейчас активно пытается регулироваться по всему миру. В США и ЕС уже принимаются законы, запрещающие несанкционированное коммерческое копирование голоса артистов. В РФ подобные законопроекты о регулировании дипфейков также находятся на стадии активного обсуждения и разработки".

Резюме

На данный момент создание таких видео — это технологически доступный, но юридически рискованный шаг. Если лица, чьи образы были использованы, решат обратиться в суд (даже находясь за пределами РФ), это может запустить очень сложный и прецедентный судебный процесс.

Мир движется к тому, что любой синтез человека без его ведома (особенно в коммерческих или политических целях) будет жестко пресекаться законом. Но пока четкие правила игры еще только формируются.

А вы что думаете по этому поводу, дорогие мои любители денег?

#ии #искусственныйинтеллект #дипфейки #авторскоеправо

Признаюсь честно: когда я впервые увидел новость, что Верховный суд РФ взялся за разбор «дел об ИИ», у меня в голове сначала возникла картинка из фантастического фильма. Ну, знаете: робот в мантии, стучит молоточком металлической рукой и выносит приговор другому роботу

Но реальность, как это часто бывает, и смешнее, и страшнее. На самом деле судить собираются не железного человека с красными глазами. Судить будут ситуации, в которых умная программа оставила нас, людей, с дурацким вопросом: «А кто, собственно, виноват?

И вот тут началось самое интересное

Почему старые законы дали сбой

Раньше всё было просто. Есть человек — есть спрос. Нарушил договор? Иди отвечай. Угнал чужой контент? Плати штраф. Украл фото у блогера? Ты — нарушитель

А теперь представьте: договор между двумя компаниями написала нейросеть. И допустила ошибку, из-за которой кто-то потерял миллионы. Спрашивать с ChatGPT? Глупо. С программиста, который его создал? Он вообще не в курсе, какую именно фразу выдала модель в 3 часа ночи. С директора, который нажал кнопку «Сгенерировать»? Он же не юрист, он просто хотел сэкономить

Или случай пострашнее. Мошенники сделали дипфейк: «мама» с экрана телефона дрожащим голосом просит перевести деньги на карту. Голос — один в один. Лицо — родное. Вы переводите. Потом выясняется, что это алгоритм скопировал образ за пять секунд из вашего же тиктока. Кого накажем? Нейросеть? Железяку не посадишь

ИИ без рук, но с правами

Есть ещё один камень преткновения, который сейчас будет разбирать Верховный суд. Нейросети учатся на том, что мы написали. Ваши посты, рассказы, фотографии, которые вы выложили в открытый доступ — это корм для «цифрового зверя». Потом нейросеть выдает вам же стиль, почти как у вас, но чуть лучше. Это плагиат? А кто автор — вы или машина, которая перемолола в себе 10 миллионов картинок

Судя по тому, что я читаю в документах, судьям предстоит настоящий квест. Им придется решить: можно ли считать видео с дипфейком доказательством в суде? Как отличить фейк от реальной записи с камеры, если подделать можно уже всё — от походки до микро-мимики лица

Моё человеческое мнение (спойлер: рано открывать шампанское

Я знаю, многие сейчас скажут: «Ну наконец-то, государство взялось за умников! Будут знать, как подсовывать нам роботов под видом юристов или художников»

Но не спешите радоваться. Пока я не вижу готовой системы. Верховный суд делает благое дело — он пытается натянуть сову на глобус, то есть старый римский свод правил на новые нейросетевые реалии. Но, боюсь, в ближайшие пару лет мы будем жить в зоне правовой турбулентности

Знаете, с чем это сравнить? Вспомните 2000-е, когда появился интернет. Сначала никто не знал, как наказывать за пиратство и оскорбления в чатах. Потом набили шишки, выработали законы. Сейчас то же самое, только сложность выше в тысячу раз. Потому что интернет был просто связью между людьми. А ИИ — это уже полноценный, пусть и глупый, деятель

Так кого же посадят

Пока ответ суровый и не очень справедливый: посадят, скорее всего, нас с вами. Ту компанию, которая не проверила договор. Того блогера, чьё лицо украли, — потому что он «не обеспечил должную сохранность образа». Человека, который скажет: «А это не я писал, это GPT», — а доказать он ничего не сможет, и суд решит: раз подпись электронная есть, значит, ты и отвечай

Машину не посадят. У машины нет кошелька и нет свободы. Но то, что Верховный суд наконец-то сказал: «Мы начинаем эту большую игру» — уже победа. Потому что хуже правовой неопределенности только полное игнорирование проблемы

Коллеги, как думаете, сколько дел по ИИ дойдет до первых инстанций уже в этом году? Я ставлю на то, что осенью начнется вал исков от авторов контента. Готовьте адвокатов, берегите цифровое лицо и не давайте нейросети доступ к паспорту

#СудитьМашину #ИскусственныйИнтеллект #ВерховныйСуд #ПравоИИ #Дипфейки #Нейросети #ЦифровойКодекс #ОтветственностьИИ #ТехнологииБудущего #СудебнаяПрактик

Что случилось

Верховный суд России впервые в масштабах всей страны обобщит судебную практику по делам, связанным с использованием искусственного интеллекта. Поручение дал председатель ВС Игорь Краснов. Изучат все виды судопроизводства: гражданские, административные, уголовные дела.

Какие вопросы в центре внимания

Возмещение вреда от решений ИИ. Кто ответчик, если нейросеть ошиблась? Например, беспилотный автомобиль сбил человека или ИИ-диагноз оказался неверным.

Защита чести и достоинства. Дипфейки — поддельные видео и аудио. Кто отвечает за распространение порочащих сведений, созданных нейросетью?

Защита интеллектуальной собственности. Картинка, текст, музыка, сгенерированные ИИ, — чьё это? Можно ли их копировать?

Оспаривание решений властей, принятых на основе ИИ. Например, система распознавания лиц ошибочно опознала преступника, и человек пострадал.

Доказательства, сформированные ИИ. Суды уже признают документами заключения нейросетей. Нужны единые правила.

Обжалование судебных актов, вынесенных с помощью ИИ. Если судья использовал нейросеть для вынесения решения, можно ли это обжаловать?

Квалификация преступлений с дипфейками и мошенническими чат-ботами. Как это делать сейчас и как должно быть.

Что будет дальше

При необходимости Верховный суд даст разъяснения для единообразия практики и может предложить скорректировать законодательство. Сейчас ИИ в своей работе использует каждый третий суд в России.

Мнение

ИИ активно проникает во все сферы, включая правосудие. Но чем больше решений принимают нейросети, тем больше возникает споров: кто виноват, если робот ошибся? Верховный суд пытается навести порядок. От результатов этого обобщения зависит, будут ли россияне судиться с алгоритмами на равных.

#Верховныйсуд #искусственныйинтеллект #дипфейки #нейросети #правосудие #новости

Дипфейки официально объявили вне закона. Забудьте про старые страшилки про склейку голоса или фотошоп — теперь в России прямо запретили использовать образы людей, сгенерированные искусственным интеллектом, в предвыборных агитационных материалах. Президент подписал документ, который вносит ясность: вы можете создать себе хоть цифрового двойника, но выдать его за живого соперника или третье лицо уже не выйдет. 🔒 Что запрещено? Закон довольно жесткий. Под запрет попадают любые сгенерированные ИИ изображения и голоса живых людей, требуя при этом их письменного согласия. Использовать в материалах вымышленных героев или умерших людей, даже если вы действуете из лучших побуждений, тоже не получится. Пожалуй, самое грозное оружие в этом законе — обязательная маркировка для лиц, сотрудничающих с нежелательными структурами: если агитационный ролик мелькнет человек с таким статусом, то внизу экрана строго обязательно будет висеть предупреждение, что он аффилирован с иноагентом. 🛡️ Кого не коснется? Ограничения достаточно продуманные — главная цель здесь не запутать выборный штаб, а защитить реальных людей. · Кандидат и его объединение: Свободно использовать сгенерированные ИИ образ и голос самого кандидата. · Агитационные материалы: Отныне можно будет создавать реалистичные изображения, не присваивая себе чужие лица. 🤯 А как же было раньше? (Спойлер: не очень) Не могу не вспомнить прошлогоднюю ситуацию с челябинским отделением КПРФ. Там на выборы заявились с целой армией красивых плакатов, сгенерированных нейросетью. Хотя на них не было ни одного живого лица, агитацию всё равно признали незаконной — Верховный суд объяснил: такие «привлекательные» картинки вводят избирателей в заблуждение. То есть задолго до подписания этого закона всем партиям было понятно: если создаете образ человека для агитации, он должен быть реальным и дать согласие. 🌍 А как в мире? Да, Россия тут не одна. Похожие баталии идут по всему миру. Китай запретил выпускать дипфейки без согласия и маркировки. Евросоюз включил их в свой «Закон об ИИ» как угрозу, но детальные правила вступят в силу не раньше августа 2026 или даже позже. А в США несколько десятков штатов уже приняли свои законы о дипфейках, регулируемые на местах. 💎 Резюме Это шаг не против технологий, а за честную игру. Штабы больше не смогут строить кампанию на подмене понятий с помощью технологий — любой участник гонки будет точно знать, кто перед ним на листовке: реальный человек или ИИ-дублер. #Путин #Закон #ИскусственныйИнтеллект #Выборы #Агитация #Дипфейки #Нейросети #Новости #Политика #Россия #Законодательство #выборы2026

Мир захлестнула волна дипфейков, и теперь верить собственным глазам, мои дорогие любители денег, — это плохая стратегия. Чтобы интернет не превратился в сплошную иллюзию, ИТ-гиганты и регуляторы внедряют цифровые водяные знаки (как технология SynthID от Google).

Что это такое?

Представьте невидимую печать. В отличие от обычного логотипа в углу картинки, этот знак «вшивается» прямо в структуру пикселей или аудиоволн. Его нельзя просто обрезать в фоторедакторе или закрасить.

Как это работает?

Цифровая маркировка работает на двух уровнях:

Метаданные: В файл записывается «паспорт» артефакта — кто, когда и с помощью какой нейросети его создал.

Скрытый слой: Специальный алгоритм вносит микроскопические изменения, которые незаметны человеку, но мгновенно считываются сканером.

Зачем это нам?

Введение обязательной маркировки — это вопрос нашей безопасности. Это поможет:

Остановить фейковые новости и мошенничество.

Защитить авторские права креаторов.

Вернуть доверие к контенту.

Итог: Скоро в каждом браузере появится кнопка «Проверить подлинность». И это единственный способ сохранить реальность в цифровую эпоху. Следим за обновлениями!

#креативнаяэкономика #авторскоеправо #искусственныйинтеллект #дипфейки

Что случилось

В Госдуму внесли законопроект, который вводит уголовную ответственность за создание и распространение дипфейков без согласия человека . Инициатива касается в том числе использования голоса — раньше он был не защищён .

Какое наказание

● До 7 лет колонии — за дипфейки с действующими представителями власти.

● До 5 лет — за подделку с несовершеннолетними, уязвимыми группами или распространение через интернет.

● Штрафы до 700 тыс. рублей и принудительные работы — за другие случаи.

Раньше в законе был пробел: наказывали только за сбор и хранение чужих данных, а за саму обработку — нет. Автоматизированную обработку биометрии (главный этап создания дипфейка) просто не могли привлечь к ответственности . Теперь этот пробел закрывают.

Зачем это нужно

Мошенники всё чаще подделывают голоса и лица, чтобы обманывать людей. Звонят от имени начальника, сфабрикованным голосом просят перевести деньги. Или создают компрометирующие видео для шантажа . Закон должен закрыть эти схемы.

Мнение

Закон назрел. Раньше голос вообще не был защищён — его можно было использовать бесплатно и безнаказанно . Теперь за подделку без согласия будут сажать. Вопрос в том, как будут доказывать, что дипфейк создали без спроса. Но направление правильное — дипфейки перестали быть безобидными шутками.

#дипфейки #закон #уголовнаяответственность #Госдума #безопасность #новости

Что случилось

Искусственный интеллект превратился в главный инструмент мошенников и спецслужб. Теперь собрать досье на любого человека можно за считанные минуты: где живёт, какое имущество, чем болен, какие политические взгляды, с кем общается. Раньше для этого нужны были ресурсы спецслужб, сегодня — доступ к нейросетям и открытым базам данных .

Как это работает

Злоумышленники используют ИИ-агентов, которые:

● сканируют соцсети, мессенджеры, форумы

● собирают информацию из утечек баз данных (а их в даркнете миллиарды строк)

● анализируют поведение, интересы, связи

● в реальном времени обновляют досье

По данным Роскомнадзора, в Telegram действуют сотни «ботов-пробивов», которые за деньги выдают любую информацию о человеке. Администрация мессенджера удаляет такие сервисы, но на их месте появляются новые .

Почему это стало возможным

За 2025 год объём данных, переданных в публичные нейросети, вырос в 30 раз . Люди сами скармливают ИИ личную информацию, не задумываясь, кто сможет её потом использовать. А поисковики, индексирующие ботов и нейросети, быстро собирают и систематизируют информацию из открытых источников .

Что теперь умеют мошенники

Создавать идеальные фишинговые письма — без ошибок, копируя стиль общения жертвы 

Генерировать дипфейки — подделывать голос и видео, чтобы убедить жертву перевести деньги 

Подменять системные промпты ИИ-помощников, заставляя их передавать конфиденциальную информацию 

Собирать досье за минуты, которые раньше собирали месяцами 

Кому это выгодно

Мошенникам — для адресных атак. Они больше не рассылают спам миллионам, а выбирают конкретных жертв, готовят идеальную легенду и крадут крупные суммы .

Спецслужбам — для слежки за оппозицией, журналистами, неугодными. По словам главы Минцифры Максута Шадаева, иностранные спецслужбы имеют доступ к переписке в Telegram и используют эти данные против России .

Государству — для контроля за населением. В России чиновники сами боятся пользоваться государственным мессенджером MAX, потому что понимают: это означает передачу полного контроля над устройством спецслужбам .

Можно ли защититься

Эксперты советуют:

Не передавать личные данные ИИ-агентам. То, что вы скормили нейросети, может оказаться в открытом доступе .

Использовать локальные модели ИИ вместо облачных. Данные не уходят на сервера .

Включить двухфакторную аутентификацию везде, где это возможно .

Проверять сайты с бесплатными нейросетями. Мошенники создают поддельные предложения о бесплатном доступе к ChatGPT и другим сервисам, чтобы украсть учётные данные .

Скачивать приложения только из официальных магазинов .

Моё мнение

Эпоха приватности закончилась не потому, что технологии стали слишком мощными, а потому что мы сами перестали за неё бороться. Мы сами скармливаем нейросетям личные данные, сами оставляем цифровые следы, сами соглашаемся на условия, которые никто не читает.

Государства и корпорации уже давно знают о нас всё. Теперь ту же возможность получили мошенники. И разница между спецслужбой и преступником — только в том, кто будет использовать собранное досье.

Защититься полностью уже нельзя. Можно только замедлить процесс: не кормить ИИ личным, не верить дипфейкам, не переходить по подозрительным ссылкам. Но полной приватности больше нет.

#приватность #ИИ #безопасность #мошенники #дипфейки #новости

В неожиданном повороте событий OpenAI объявила о закрытии своего революционного генератора видео Sora. Причиной стало не падение популярности, а наоборот — чрезмерный успех, который породил в интернете феномен «нейрослопа». Sora, способный создавать гиперреалистичные видеоролики по текстовому описанию, быстро стал любимым инструментом креаторов. Однако вскоре сеть заполонили настолько качественные и убедительные дипфейки, что отличить правду от вымысла стало практически невозможно. Фейковые новости, поддельные выступления политиков и вирусные видео с участием знаменитостей — всё это стало частью повседневной жизни интернета. Феномен «нейрослопа» (от англ. deepfake + flop) начал угрожать информационной безопасности и доверию к цифровым медиа. В результате OpenAI приняла решение приостановить работу Sora, чтобы разработать более строгие механизмы контроля и этические нормы для использования подобных технологий. Закрытие Sora — это важный сигнал для всей индустрии ИИ: даже самые передовые разработки требуют ответственного подхода. А пока интернет-сообщество прощается с эпохой безграничного творчества и готовится к новым вызовам в борьбе с дезинформацией.

#sora #дипфейки #ии #технологии #нейросети

Голливуд бастует из-за ИИ не просто так. Технология меняет всю цепочку производства контента.

Что уже внедряется:

• Сценарии — нейросети пишут черновики, генерируют идеи, помогают выйти из творческого ступора. Человек-сценарист выступает в роли редактора и соавтора.

• Дипфейки и цифровые актеры — лица, голоса, тела. Актер может сыграть в 10 проектах одновременно, а студия — использовать образ умершей звезды (спорный вопрос этики и прав).

• Спецэффекты — ИИ генерирует фоны, монстров, разрушения, толпу. Визуал, который раньше требовал месяцев работы, делается за дни.

• Озвучка и дубляж — нейросети переозвучивают фильмы на десятки языков, сохраняя интонации и эмоции оригинального актера.

• Постпродакшн — цветокоррекция, монтаж, чистка звука автоматизируются.

Кейс: в фильме "Всё везде и сразу" ИИ использовался для создания спецэффектов при бюджете, несопоставимом с голливудскими блокбастерами.

Следующие 3–5 лет — переход к полностью синтетическому кино, где и актеры, и декорации, и камера — нейросеть.

#ИИвкино #дипфейки #спецэффекты #геймдев