ИИ, дипфейки и синтетическое мошенничество

Опознание, которого не было: Deepfake как внутренняя угроза для организации

Люди в этом видео не были арестованы. Но видео наглядно показывает проблему, которую должен знать каждый руководитель службы безопасности, отдела кадров и каждый генеральный директор.

В видео выше показаны образы Сэма Альтмана, генерального директора OpenAI, Дарио Амодеи, генерального директора Anthropic, Марка Цукерберга и Дональда Трампа, а напротив них Дженсена Хуанга, стоящих на полицейском опознании и поющих вместе.

Ситуация нелепая, результат забавный, а видео выглядит на удивление правдоподобно.

Но никакого такого опознания не было. Видео создано с помощью искусственного интеллекта как часть сатиры на индустрию ИИ.

Видео опубликовал в X Маттиас Шмидт (@eurofounder) 16 октября 2026 года: https://x.com/eurofounder/status/2111122495667413424

Я посмотрел его и подумал совсем о другом: что происходит, когда способность создавать настолько убедительную реальность сталкивается с миром благонадёжности в организациях?

Ещё недавно фотография, запись голоса и тем более видеозвонок считались весомым доказательством того, что определённый человек действительно что-то сказал или сделал.

Сегодня это допущение уже ненадёжно.

Мы вступаем в период, когда можно не только подделать личность, но и создать для этой личности поведение, голос, мимику и взаимодействие, которые выглядят полностью подлинными.

И это уже не только проблема распространения ложной информации. Это реальный риск для безопасности организации.

От внешней угрозы к внутренней

Представьте три сценария:

Кандидат на чувствительную должность проходит видеособеседование под вымышленной личностью, с лицом, голосом и профессиональной биографией, которые ему не принадлежат. Организация уверена, что наняла определённого человека, но на деле предоставляет права и доступ кому-то другому.

Финансовый менеджер получает видеозвонок от человека, который выглядит и звучит в точности как генеральный директор, со срочным распоряжением перевести деньги или конфиденциальную информацию. Сотрудник добросовестно выполняет распоряжение, и организации наносится ущерб изнутри.

И видео с сотрудником, распространяемое в сети, на котором якобы зафиксировано преступное поведение, радикальное высказывание или утечка информации. Организация спешит с выводами, хотя этого события никогда не было.

В каждом из этих случаев технология позволяет внешней стороне использовать доверие, процессы и права доступа людей внутри организации.

Так угроза, исходящая извне организации, может превратиться в инцидент внутренней угрозы.

Проверять историю, а не только видео

И здесь возникает по-настоящему важный вопрос:

Если уже нельзя полагаться на то, что мы видим и слышим, то на что можно полагаться?

На мой взгляд, ответ в том, чтобы изменить метод проверки.

Вместо того чтобы спрашивать только, настоящее ли видео, нужно спрашивать, настоящая ли история, которая за ним стоит.

Именно здесь становится важна проверка благонадёжности и разведка по открытым источникам (OSINT).

Профессиональная проверка OSINT не ограничивается анализом отдельного изображения или видео. Она изучает более широкий контекст и связывает информацию из разных источников, желательно независимых, чтобы составить более достоверную картину.

Например:

1. Проверка источника информации: Кто первым опубликовал видео? Когда? Можно ли найти первоисточник распространения, а не только десятки репостов одного и того же контента?

2. Проверка личности: Соответствует ли человек в видео своей цифровой идентичности на протяжении времени? Есть ли последовательная профессиональная история, активность в соцсетях, связи и внешние данные, подтверждающие его личность?

3. Перекрёстная проверка источников: Есть ли независимые доказательства заявленного события? Согласуются ли даты, места, люди и обстоятельства с другой информацией, которую можно проверить?

4. Анализ моделей активности: Есть ли расхождение между привычным цифровым поведением и необычным событием? Не появились ли в последнее время новые аккаунты, изменения личных данных или целенаправленные попытки создать ложное представление?

5. Понимание контекста и возможных мотивов: Кто стоит за распространением, какова среда его деятельности и есть ли признаки попытки ввести в заблуждение, повлиять или навредить?

Важно подчеркнуть: OSINT не является волшебным решением. Открытые источники тоже могут быть поддельными, скоординированными или ошибочными. А отсутствие находок не доказывает, что человек или видео подлинные.

Но когда сопоставляется всё больше независимых источников и изучается последовательность событий, построить обман на одном поддельном фрагменте информации становится всё труднее.

И именно в этом преимущество изучения общей картины.

Что изменить в процедурах

Наряду с разведывательными проверками организации должны адаптировать и свои процедуры: подтверждать нестандартные распоряжения по независимому каналу связи, применять двойной контроль к чувствительным операциям, проверять личность в процессе найма и не принимать решения на основании одного видео.

Это значит, что ответственность за то, чтобы отличать правду от подделки, уже не может лежать только на наших глазах или на программах, которые пытаются распознать Deepfake.

Она требует критического мышления, перекрёстной проверки информации и понимания человеческого, профессионального и организационного контекста.

Видео выше задумано, чтобы рассмешить. И оно действительно смешное.

Но оно также показывает, насколько легко будет представить нам реальность, которой никогда не существовало.

В эпоху, когда можно подделать почти всё, что мы видим и слышим, доверие не может основываться на том, насколько убедительно доказательство. Оно должно основываться на возможности подтвердить его дополнительными доказательствами.

И это, с моей точки зрения, одно из важнейших изменений, которые должны произойти сегодня в сфере благонадёжности и безопасности организаций.

Профессиональная основа рекомендаций

Рекомендации в статье опираются на три публикации государственных ведомств США:

1. Совместная публикация NSA, FBI и CISA (сентябрь 2023 года). Документ Contextualizing Deepfake Threats to Organizations: угрозы Deepfake для организаций и способы подготовиться к ним, выявлять их, защищаться и реагировать. https://www.cisa.gov/news-events/alerts/2023/09/12/nsa-fbi-and-cisa-release-cybersecurity-information-sheet-deepfake-threats

2. Документ NIST AI 100-4 (ноябрь 2024 года). Reducing Risks Posed by Synthetic Content: обзор методов подтверждения происхождения контента, маркировки и выявления синтетического контента, а также ограничений этих технологий. https://www.nist.gov/publications/reducing-risks-posed-synthetic-content-overview-technical-approaches-digital-content

3. Программа NIST Guardians of Forensic Evidence. Программа оценки автоматизированных инструментов для выявления Deepfake. По данным NIST, существует разрыв между высокой точностью в исследованиях и трудностью применения этих инструментов в реальном мире. https://www.nist.gov/programs-projects/guardians-forensic-evidence

Совместная публикация NSA, FBI и CISA

Советы по распознаванию дипфейков, с источником для каждой рекомендации, доступны в виде документа на двух страницах на английском языке.Скачать советы

Документ для скачивания

Советы по распознаванию дипфейков.

Что проверять в изображении, голосе и разговоре и какие процедуры защищают организацию, когда глаза недостаточно. Документ на английском языке. Оставьте свои данные, и загрузка откроется на этой странице.