Фейковые новости, Deepfake, Fake People: новые рубежи кибербезопасности

(Ди Карло Мазели)
14/07/21

Во время прошлогодней изоляции я начал писать статью, которая никогда не освещалась и имела цель заставить людей задуматься о феномене поддельные новости что у меня хватило наглости связать с самыми агрессивными киберугрозами последних лет.

Если бы слово «фейковые новости» было использовано в различных отчетах, касающихся киберугроз, я уверен, что мы получили бы очень интересные цифры, возможно, выше, чем у фишинг, например, который представляет собой наиболее часто используемый вектор атаки в абсолютном выражении согласно последнему отчету Clusit.

Примерно так статья начиналась так:

Термин «рассказывание историй» очень часто используется в американской компании в течение некоторого времени. Что удивительно, возможно, не слишком, так это то, что, несмотря на то, что у меня такой красивый и богатый терминами язык, в Италии широко распространена практика на всех уровнях полагаться на иностранные термины, большую часть времени на английский. Я должен, однако, сказать, что в этом слове есть что-то особенное, что я не могу описать, но что вызывает у слушателя своего рода изумление и изумление, как только оно произносится. Достаточно использовать его, чтобы рассуждения казались приукрашенными, независимо от того, действительны они или нет, и здесь, как по волшебству, собеседники загораются, как если бы была выражена самая глубокая концепция всех времен.

Сейчас это стало обычным явлением, настолько, что мы даже больше этого не замечаем, настолько, что, возможно, мы перестали спрашивать себя, что мы на самом деле имеем в виду, когда говорим о повествовании или знаем, о чем говорим, но, по всей видимости, мы об этом забыли.

Во время чрезвычайной ситуации с коронавирусом наша роль ясна. Нам рекомендовали «Выполнять заказы» и внести свой вклад, соблюдая правила, что, кроме того, всегда должно происходить в демократическом и общественном контексте. Мои действия влияют не только на меня, но и на людей вокруг меня, с которыми я общаюсь и т. Д., Наоборот.

Тем не менее, во время этого невиданного ранее опыта у нас несколько асимметричное отношение к тем, кто пытается справиться с чрезвычайной ситуацией и разрешить ее, и мы можем только повиноваться и доверять.

И вот ключевое словодоверие. Давайте посмотрим, что Treccani говорит нам об этом очень важном термине.

fidùcia sf [от лат. доверие, дер. di fidĕre "доверять, доверять"] (мн. ред., -cie).

Отношение к другим или к себе, которое является результатом положительной оценки фактов, обстоятельств, отношений, в отношении которых человек доверяет другим или своим собственным возможностям, и которое обычно вызывает чувство безопасности и спокойствия: f. в Боге, в людях, в человеческом братстве, в науке, в социальном прогрессе; f. в победе; f. преуспеть; f. в своей собственной звезде, в своей собственной силе; f. в результате бизнеса; смотреть с f. в будущем; стоп ф .; f. неограниченный, абсолютный, безусловный; иметь, питать f .; терять ф .; выдаем справку, справку о ф .; вдохновляют ф .; Зарабатывай, заслуживай, наслаждайся и получай удовольствие. чей-то; убери свою ф. хорошо или плохо; злоупотребление ф. других. Использовать com. выражения: люди f., мои, ваши, его f., заслуживающие доверия люди, которые используются в деликатных и важных делах; врач, юрист ф., тот, кого свободно и по привычке выбирает клиент; должность, работа, должность ф., ответственная, деликатная, на которую рассчитывают только надежные, надежные люди. 

В конституционном праве: голосование по f., Голосование, которым парламент одобряет (или, если голосование дает отрицательный результат, не одобряет) политические руководящие принципы и соответствующие действия правительства; предложение f., предложение одной из палат прибегнуть к вотуму доверия; вопрос о ф., просьба правительства прибегнуть к вотуму доверия для утверждения или отклонения поправок и статей законопроектов: правительство решило задать вопрос о доверии. 

В гражданском праве ф. завещательное (или фидуциарное завещательное распоряжение), распоряжение завещанием, по которому субъект, получающий товар, является очевидным бенефициаром, имеющим обязательство передать этот товар другому лицу (которое обычно не может быть прямым наследником наследодателя).

Доверие - это «тяжелое» слово, охватывающее широкие сценарии и представляющее важную ответственность как для тех, кто их дает, так и для тех, кто их получает.

Это означает, что мы должны доверять тем, кто пытается, с множеством трудностей, столкнуться с проблемой, к которой никто не был подготовлен. Поэтому мы должны верить в центральные учреждения, местные администрации, врачей, ученых и, наконец, что не менее важно, в тех, кто рассказывает нам о происходящем, а именно в журналистов и дирижеров. 

Доверие ... должно ли оно быть безоговорочно, особенно учитывая мир, в котором мы живем? Мир, в котором нас каждый день засыпают огромным количеством новостей, в которых говорится обо всем и все наоборот?

Вот, пожалуй, принципиальный момент: управление коммуникациями.

Как со стороны учреждений, так и со стороны средств массовой информации, особенно в начале пандемии, способ ее распространения вызвал утечку новостей, которая вызвала глубокие дискуссии, а также иррациональную реакцию ко всем и каждому, начиная с знаменитый эпизод, связанный с теми, кто заполнил станции севера, чтобы сбежать на юг, настолько, что с течением времени мы поняли, что эта иррациональная реакция все еще была вызвана столь же безответственным жестом.

Таким образом, казалось, появилась возможность поразмышлять о том, как, параллельно с медицинскими усилиями, с коронавирусом следует и можно бороться с точки зрения коммуникации, думая именно об одном. рассказ об аварийной ситуации.

Вместо этого повествование о кризисе продолжалось по трекам, основанным на терминах, практиках и привычках, которые, к сожалению, негативно характеризовали общение в течение некоторого времени, задолго до распространения Covid-19.

Il сенсационность, Theобщий анализ, поспешные поиски добра и зла, героев и врагов Родины. В то время как итальянцы не могут не доверять тому, что им говорят, замешательство и дезинформация они распространились не меньше вируса, делая общение все более и более трудным и фактически сводя на нет возможность, наконец, предложить качественное повествование, никогда ранее не имеющее жизненной важности.

И все это потому, что сегодня чтение, изучение, поиск правдивости новостей - это привилегия немногих, в то время как большинство людей слушают политических крикунов и партийных журналистов, которые, чтобы собрать голоса, с одной стороны , а также влиять на общественное мнение с другой стороны, даже в такой критической ситуации, как эта, он использует общение фракционным и инструментальным образом.

Все это, нравится вам это или нет, попадает в категорию поддельные новости.

Термины "фейковые" или "фейковые новости" по-прежнему не отражают масштаб явления, с которым мы сталкиваемся, потому что было бы правильнее говорить о манипуляция или дезинформация которые, несомненно, не являются новыми концепциями, но которые, по сравнению с прошлым, обогащены дополнительными значениями.

Убедившись, что к настоящему времени большая часть населения предпочитает изучать любой тип информации из «социальных сетей», независимо от важности темы, можно констатировать, что среди основных рисков есть тот, который можно считать достоверным. и заведомо ложная информация.

Эта ситуация усугубляется так называемым «Обратный эффект» это явление, согласно которому «Когда вы оспариваете ложную, но уже консолидированную информацию, вы в конечном итоге подтверждаете ее еще больше, потому что, к сожалению, не хотите менять свое мнение».

Мы можем утверждать, что все культурные слои современного общества становятся жертвами «фейковых новостей», даже если наибольшее внимание уделяется научному содержанию.

Личная точка зрения состоит в том, что дезинформация в этом секторе находит благодатную почву для распространения, потому что она в основном основана на незнании основных концепций.

Тот факт, что научный язык чрезвычайно специфичен, позволяет тем, кто создает дезинформацию, добиться немедленного и значительного успеха, отрицательно влияя на академический мир, который рискует потерять доверие. Также символично, что когда возникает ложь о здоровье, причиненный ущерб рискует стать непоправимым.

В этом отношении было проведено множество исследований, и, как выяснилось, многие считают, что роль "технологических компаний" как центральных технологических компаний, которые функционируют не просто как "платформы", а играют роль больше в соответствии с характеристиками и требованиями компаний.

Сила этих компаний не ограничивается загрузкой контента на платформу, а, напротив, возрастает благодаря избирательному и пунктуальному контролю над тем, что мы видим, поскольку это их бизнес-модель.

И конечная цель, что касается политики, все-таки остается увеличить свою аудиторию пользователей, гладить его волосы, используя несколько «французский» эвфемизм, изменяя поток информации, несмотря на их предполагаемый нейтралитет.

С этой целью они широко используют сложные алгоритмы, анализ данных, методы сопоставления данных и профилирования, благодаря которым обрабатывается большой объем собранной информации, предоставляемой третьим сторонам без, очень часто согласия заинтересованных сторон или бессознательно. согласие; данные, которые используются вместе со сбором для рекламного продвижения и микротаргетинга через социальные сети.

I морда они - еще один замечательный инструмент. Как мы знаем, это программы, которые получают доступ к сети через каналы того же типа, которые используются пользователями-людьми, и которые позволяют, среди прочего, с помощью определенных алгоритмов выполнять точные задачи, такие как операции с данными. выскабливание e Веб-соскоб которые приводят к извлечению данных и информации, представленных на данной странице, для использования их в других контекстах.

В виртуальном квадрате скрывается ложная или неверная информация коммерческого или политического характера, отправляемая микро-целевой группе людей на основе данных, собранных влиятельными компаниями. веб-маркетинг, без ведома заинтересованных сторон.

Все чаще «общественные дебаты», сфокусированные на очень сложных и трудных для решения проблемах, касающихся будущего всех, искажаются и трансформируются в настоящие кампании согласный маркетинг, состоящий только из слоганов, заполняющих общественное пространство.

В основном технологические компании их стимулируют, даже с экономической точки зрения, уделять приоритетное внимание сенсационному содержанию, поскольку они с большей вероятностью привлекают внимание, а также способствуют поляризации и радикализации дебатов.

Распространено ощущение, что дезинформация, циркулирующая на платформах, является результатом проекта, организованного и возглавляемого участниками, которые очень хорошо понимают некоторые основные принципы цифровой экономики, с помощью которых можно получить большие доходы от рекламы.

Все это продолжало бесконтрольно распространяться, так что в октябре 2018 года основные цифровые платформы подписали «кодекс поведения» по борьбе с онлайн-дезинформацией. Это начало, но оно представляет собой фундаментальный шаг в борьбе с проблемой, которая потенциально способна поставить под угрозу доверие граждан к институтам, что было подтверждено в ЕС.

Целью Европейского Союза, среди прочего, является управление пакетом правил саморегулирования на добровольной основе, подходящих для борьбы с дезинформацией в Интернете.

Фактически, присоединившись к этому проекту, каждая веб-компания установила себе правила борьбы с дезинформацией во всех странах-членах ЕС.

Из всего этого ясно, что информация была преобразована в «коммуникацию» и что в то же время появилась дезинформация, которая, несомненно, представляет собой сложное и изменяющееся явление, которое можно использовать в качестве нового оружия для политических и экономических целей. или в военных целях.

Сегодня методов дезинформации так много и они очень изощрены, что представляют угрозу безопасности и стабильности страны. Для этого, как и ожидалось, у меня хватит смелости рассматривать их как единое целое. киберугроза.

На самом деле не случайно, что когда целостность и стабильность страны ставятся под сомнение, используются разведывательные службы, которые играют фундаментальную роль в борьбе с этими формами угроз. Более того, сами спецслужбы были заинтересованы в трансформации, которая заставила их принять коннотацию, способную противостоять новым вызовам безопасности.

Не вдаваясь в подробности того, что подразумевается под интеллектом, и осознавая, что читатель, однако, может узнать его из разных источников (v.link) именно потому, что необходимо иметь дело с новыми гибридными и, прежде всего, асимметричными угрозами, его роль становится фундаментальной.

Разведка тесно связана с тем, что происходит на международной арене, особенно в отношении баланса сил между государствами, но также и с мировым рынком.

Эта связь еще более верна, если мы подумаем о тех регионах мира, где нет конфликтов традиционного характера, но которые страдают от явлений уязвимости, вызванных экономическими конфликтами, передовыми формами терроризма с различной матрицей и атаками, реализованными с использованием новых методологий. что нужно для конкретных форм интеллекта.

Традиционные «угрозы безопасности» превратились в более сложные киберугрозы, которыми управляют субъекты, которые, по сути, можно разделить на две макро-группы:

- государственные деятели которые очень структурированы и чрезвычайно опасны в силу того, что обладают огромными экономическими и человеческими ресурсами. Мы можем представить угрозы, авторами которых они являются, в двух классах: кибервойны это тоже своего рода цифровая война кибершпионаж представляющий цифровой шпионаж.

- неправительственные субъекты к каким террористическим группам принадлежат (кибертерроризм), преступные организации (киберпреступностью) и другие субъекты, связанные с лицами, движимыми религиозными, политическими и идеологическими побуждениями.

Все это наводит нас на мысль, что в преступных действиях все чаще будут использоваться технологически продвинутые инструменты, такие как искусственный интеллект, целью которого будет дестабилизация международных отношений и, так сказать, индуцированное восприятие безопасности.

Одно возможное оружие - это оружие "Дипфейк", основанный на процессах, которые используют принципы искусственного интеллекта для изменения и наложения изображений и видео, начиная с оригиналов, чтобы разработать другие, в которых субъекты выполняют действия, говорят и двигаются в абсолютно ненастоящих контекстах, благодаря таким методам машинного обучения, как «Генеративная состязательная сеть».

Тогда есть "Поддельных людей", люди, которые не существуют в реальности, но которые являются главными героями виртуальных видеороликов, которые вызывают сильные чувства, такие как гнев, недоверие, сострадание, страх или дискомфорт, в зависимости от преследуемых ими целей.

Развитие кибер-интеллект Эффективность - это неопровержимая реальность, которая должна адаптироваться к изменившимся сценариям, основанным на анализе открытых источников, обработке больших данных, разработке методов искусственного интеллекта, с помощью которых можно справиться с кибервойной и гарантировать защиту сообщества.

Отсюда очевидна ссылка на то, что, как утверждается, подчеркивается в этой статье, а именно: «Новости», «информация», «дезинформация» проникают и проникают в систему «СМИ» и «разведывательную» систему, и чтобы избежать того, что такие повсеместные технологии могут «взорвать» систему коммуникации и информации с невообразимыми последствиями для самого общества, необходимо Важно, чтобы разведка играла центральную роль в обеспечении безопасности.

Таким образом, мы сталкиваемся с чрезвычайно сложной системой, в рамках которой практически невозможно установить источник новостей или проверить их достоверность. Это потому, что кто генерирует поддельные новости он имеет тенденцию приравнивать любое мнение или мнение по данной теме, в результате чего каждый чувствует себя «ведущим экспертом». Более того, это чрезвычайно усиливается социальными сетями.

Драма в том, что столкнувшись со всем этим, большинство пользователей беспомощны также и прежде всего в силу того факта, что к настоящему времени они принимают любые новости, предоставляемые им газетами, телевидением или социальными сетями.

Кажется, есть мрачное сходство между временем, когда цензура, независимо от политической власти страны, в которой она действовала, была связана с блокированием информации, и нынешним временем, когда другие органы власти отсеивают, оценивают, изменяют и конструируют огромное количество информации. бесполезной и нерелевантной информации, запутывая и манипулируя получателем этой информации, то есть среднестатистическим пользователем, увы, неспособным сопротивляться.

Я думаю, что на данном этапе важно инвестировать в современную и эффективную кибер-интеллект способен развивать навыки киберразведка который выходит за рамки простой оборонительной роли и, напротив, является гораздо более проактивным и нацелен на то, чтобы иметь возможность действовать в кибернетическом измерении даже с атаками и симуляциями, цель которых может состоять в том, чтобы помешать противникам, которые постепенно материализуются в этом сценарии .

И наконец, что не менее важно, и мы никогда не устанем подчеркивать это, нам необходимо инвестировать в обучение всех пользователей растущей чувствительности ИТ-безопасности, чтобы можно было обнаруживать, анализировать и устранять все более сложные и все более сложные риски.

Для получения дополнительной информации:

Папа Франциск: «Технологии - это подарок, используйте их правильно» - CorCom (corrierecomunicazioni.it)

Разведка - Информационная система для безопасности республики (sicurezzanazionale.gov.it)

Защита прав человека в эпоху кибервойны Первая страница

Интернет и дезинформация: роль разведки (diricto.it)

Фейковые новости: новая эра кибервойны | Trizio Consulting

Deepfake и обработанные видео: как работает темная сторона искусственного интеллекта - Il Sole 24 ORE

Что такое обратный эффект, который не заставляет нас изменить наши ошибочные убеждения - Wired

Противодействующая генерирующая сеть - Википедия

Фейковые люди, что они такое и почему их нужно держать в поле зрения | Бо Live UniPD

Фото: ВВС США Национальная гвардия / Канцелярия премьер-министра / Twitter / Интернет