Кортана, что происходит, когда «Ле» просят опробовать миссию до предела?

(Ди Энрико Секки)
16/09/19

Кортана, искусственный интеллект от Microsoft с именем, заимствованным у персонажа видеоигры Halo, что происходит, когда «вас» просят попробовать свои силы в миссии до предела?

Всего пять лет назад родился Кортана, цифровой помощник Microsoft, искусно запрограммированный на быстрое реагирование на запросы все более требовательных пользователей. Сегодня он болтун, обладающий остроумным умом, тонким юмором и естественной предрасположенностью помогать пользователям.

Что больше всего характеризует этот высокоразвитый искусственный интеллект, так это его заметная человечность. Даниэла одна редактор контента e копирайтер которых друзья в шутку называют Кортана. Она является одним из людей, стоящих за итальянской версией цифрового помощника Microsoft, является частью Международная команда Кортана и вместе со своими коллегами со всего мира он работает над личностью искусственного интеллекта Microsoft и своими разговорными навыками.

На практике это создает креативный редакционный контент и позволяет людям весело общаться с вами. Его задача также состоит в том, чтобы постоянно подпитывать интеллект Кортаны через постоянное обновление, которое позволяет ей общаться с пользователем в соответствии с ее личностью. Личность состоит из четырех основных качеств: доступность, беспристрастность, позитивный настрой и спонтанность.

Принципиально важно подчеркнуть, что местная культура также сильно влияет на личность Кортаны. Например, английская версия не может совпадать с итальянской. С этой точки зрения Кортана соответствует региональному духу, на самом деле он знает много диалектов и имеет твердый фон связанные с использованием, обычаи. Он знает гимн Мамели и поддерживает сборную Италии по футболу, даже когда она не доходит до чемпионата мира.

Но как совместить эффективное программирование без логических противоречий с «человеческим» поведением футбольного болельщика, всегда позитивного, доступного и спонтанного? Короче говоря, что происходит, когда человеческий разум прячется за искусственным интеллектом?

Некоторое «странное» поведение в прошлом (теперь «исправленное») уже возникло, благодаря чему «правильные вопросы» к голосовому помощнику Windows позволили открывать зараженный сайт в браузере даже без проверки подлинности с помощью пароля.

Как объясняют исследователи McAfee, разработавшие технику атаки, проблема была связана с тем, что голосовой помощник Windows оставался активным даже тогда, когда компьютер был заблокирован, и его можно было использовать даже без проверки подлинности с помощью пароля или PIN-кода. Сценарий стал еще более тревожным, когда была продемонстрирована возможность использования USB-накопителя для разблокировки ПК. Эта серия комбинаций потенциально может привести к распространению хакерских атак на компьютеры, которые все связаны друг с другом.

Мужчины, на самом деле, атакуют системы искусственного интеллекта, а не наоборот, как мы ожидали от научно-фантастических фильмов.

Но что делать? Чтобы манипулировать результатами поиска, измените алгоритмы социальные медиа, то ранжирование и репутация веб-сайтов, нарушающих полет дронов или обманывающих автомобиль.

И поэтому, вопреки тому, на что мы надеялись, злонамеренное использование инструментов искусственного интеллекта не остановилось на создании сложных дезинформационных кампаний.

Тревога исходит из отчета европейского проекта Sherpaпосвященный правам человека и искусственному интеллекту, в котором подчеркивалось, как отдельные преступники и организованные хакеры нашли новую цель в атаке на «интеллектуальные» системы, вплоть до случаев, когда алгоритмическое управление может определять приоритеты скрытых интересов, наносить ущерб компаниям манипулирование данными и информацией в Интернете или оказание помощи правительственным партиям путем воздействия на политические дебаты посредством поддельные новости.

Но каково состояние искусства ИИ?

Несколько дней назад продвинутая система ИИ прошла научный тест третьего уровня, правильно ответив на 90 процентов вопросов. Результат был получен из AristoИИ, созданный Институтом искусственного интеллекта Аллена в США, еще раз демонстрирующий быстрый прогресс в области искусственного интеллекта. Сотни исследовательских институтов по всему миру работают над такими системами, как Aristo и за короткое время они получили результаты, которые всего десять лет назад казались недостижимыми. Увеличение вычислительной мощности компьютеров и совершенствование систем каталогизации и изучения данных позволили добиться значительного прогресса, сократив время программирования.

И хотя мы все немного обеспокоены «появлением Сингулярности», моментом, когда, по мнению ученых, таких как искусственный интеллект Рэя Курцвейла, будет соответствовать человеческому интеллекту, мы не понимаем, что базовые методы, которые теперь только подражают некоторым функциям человеческие когнитивные, используются во вредных целях, каждый день способны подорвать все те системы, которые мы используем, против компьютерных вторжений, медицинской диагностики, уровня водоснабжения, вплоть до систем банковского мошенничества.

Энди Патель, исследователь в Центре передового опыта в области искусственного интеллекта в F-Secure, партнер проекта Sherpa, объясняет: «Люди ошибочно отождествляют искусственный интеллект с человеческим интеллектом, и я думаю, именно поэтому они связывают угрозу ИИ с роботами-убийцами и неконтролируемыми компьютерами. Но человеческие атаки на ИИ происходят постоянно». Популярным примером этой атаки является манипулирование рейтингами поисковых систем или системами репутации, чтобы продвигать или «скрывать» определенный платный контент или нет. Тем не менее, эти атаки могут также использоваться для социальной инженерии отдельных лиц в сценариях атак, направленных на лиц, принимающих общественные решения.

В отчете шерпа отмечается, что методы искусственного интеллекта используются для создания чрезвычайно реалистичного письменного, аудио- и визуального контента. Это случай глубоких фальшивых видеороликов, полностью фальшивых клипов, благодаря которым можно, начиная с телевизионного снимка, имитировать рот говорящего, чтобы заставить его говорить то, о чем он никогда не мечтал. Какая польза от этого? Например, манипулировать доказательствами, создать дипломатический кризис, обмануть конкурента. Злобное использование искусственного интеллекта уже среди нас, и нам не нужно воображать убийцу, подобного фильму «Терминатор». Вот почему исследователи предлагают немедленно разработать интеллектуальные и безопасные системы.

Программисты Microsoft давно поняли потенциал атаки, использующей системы искусственного интеллекта, которые, как и любой хороший помощник, имеют естественную «склонность помогать нам», фактически они сделали это с течением времени, чтобы ограничить свою способность действовать и приобретать дополнительный опыт. В результате «конкурса» наем бывшего вице-президента Apple Билла Стасиора не остался незамеченным. Эта операция была передана прессе как из Сири в Кортану, Это показывает, что мы наконец серьезно относимся к тому факту, что предоставление полного контроля над искусственным интеллектом не является синонимом безопасности.

До сегодняшнего дня не обязательно быть хакером-экспертом, чтобы нарушать систему и получать информацию или получать незаконный доступ, достаточно знать человеческую природу, лежащую в основе холодной логики программирования, и уметь задавать правильный вопрос.

источники:
https://convcomp.it/cortana-quando-la-mente-umana-si-nasconde-dietro-lin...
Кортана: когда человеческий разум прячется за искусственным интеллектом
https://securingtomorrow.mcafee.com/other-blogs/mcafee-labs/want-to-brea...
Хотите взломать заблокированное устройство Windows 10? Спросите Кортана (CVE-2018-8140)
https://www.fastweb.it/web-e-digital/un-bug-di-cortana-rende-inutile-la-...
Как получить доступ к защищенному паролем компьютеру с помощью Cortana
Как злоумышленники могут злоупотреблять искусственным интеллектом? https://t.co/Q3yHHlGNJk - @project_sherpa @FSecure @ r0zetta # кибербезопасность # AIpic.twitter.com / r7vXv2RCgZ
TTPS: //www.repubblica.it/tecnologia/sicurezza/2019/07/18/news/perche_gli_umani _...
От Сири до Кортаны: Microsoft наняла бывшего вице-президента Apple Билла Стасиора
https://www.tomshw.it/business/dallassistenza-di-siri-a-quella-di-cortan...
https://www.macitynet.it/da-siri-a-cortana-microsoft-ha-assunto-lex-vice...
https://www.ilpost.it/2019/09/05/aristo-intelligenza-artificiale-test-sc...
Система искусственного интеллекта (ИИ) прошла научный тест третьего уровня, правильно ответив на 90 процентов вопросов
https://www.securityinfo.it/2018/08/16/violare-windows-in-stato-di-blocc...

Нарушать винду в заблокированном состоянии? Спросите Кортана