Кортана, что происходит, когда «Ле» просят опробовать миссию до предела?

(Ди Энрико Секки)
16/09/19

Кортана, искусственный интеллект от Microsoft с именем, заимствованным у персонажа из видеоигры Halo, что происходит, когда «ее» просят выполнить миссию на пределе возможностей?

Всего пять лет назад родился Кортана, цифровой помощник Microsoft, искусно запрограммированный на быстрое реагирование на запросы все более требовательных пользователей. Сегодня он болтун, обладающий остроумным умом, тонким юмором и естественной предрасположенностью помогать пользователям.

Что больше всего характеризует этот высокоразвитый искусственный интеллект, так это его заметная человечность. Даниэла одна редактор контента e копирайтер что друзья в шутку называют Кортаной. Она является одним из разработчиков итальянской версии цифрового помощника Microsoft, входящего в состав Международная команда Кортана и вместе со своими коллегами со всего мира он работает над личностью искусственного интеллекта Microsoft и своими разговорными навыками.

Она в основном создает творческий редакторский контент и заставляет людей с ней общаться. Ее задача также состоит в том, чтобы постоянно поддерживать интеллект Кортаны посредством непрерывного обновления, которое позволяет ей общаться с пользователем в соответствии с ее личностью. Личность, состоящая из четырех основных качеств: доступность, беспристрастность, позитивный настрой и непосредственность.

Критически важно отметить, что местная культура также сильно влияет на личность Кортаны. Английская версия, например, не может полностью совпадать с итальянской. С этой точки зрения Кортана соответствует региональному духу, на самом деле она знает множество диалектов и имеет солидный фон связанные с использованием, обычаями. Он знает гимн Мамели и болеет за сборную Италии по футболу, даже если она не доходит до чемпионата мира.

Но как совместить эффективное программирование без логических противоречий с «человеческим» поведением футбольного болельщика, который всегда позитивен, доступен и спонтан? Проще говоря, что происходит, когда человеческий разум прячется за искусственным интеллектом?

Некоторое «странное» поведение в прошлом (теперь «исправленное») уже возникло, благодаря чему «правильные вопросы» к голосовому помощнику Windows позволили открывать зараженный сайт в браузере даже без проверки подлинности с помощью пароля.

Как объясняют исследователи из McAfee, разработавшие метод атаки, проблема была связана с тем, что голосовой помощник Windows оставался активным даже тогда, когда компьютер был заблокирован, и его можно было использовать даже без аутентификации с помощью пароля или PIN-кода. Сценарий стал еще более тревожным, когда была продемонстрирована возможность использования USB-«флешки» для разблокировки ПК. Эта серия комбинаций потенциально может привести к увеличению хакерских атак на компьютеры, которые все соединены вместе.

Мужчины, на самом деле, атакуют системы искусственного интеллекта, а не наоборот, как мы ожидали от научно-фантастических фильмов.

Но что делать? Чтобы манипулировать результатами поиска, измените алгоритмы социальные медиа, то ранжирование и репутация веб-сайтов, нарушающих полет дронов или обманывающих автомобиль.

И поэтому, вопреки тому, на что мы надеялись, злонамеренное использование инструментов искусственного интеллекта не остановилось на создании сложных дезинформационных кампаний.

Тревога исходит из отчета европейского проекта. Sherpaпосвященный правам человека и искусственному интеллекту, в котором подчеркивалось, как отдельные преступники и организованные хакеры нашли новую цель в атаке на «интеллектуальные» системы, вплоть до случаев, когда алгоритмическое управление может определять приоритеты скрытых интересов, наносить ущерб компаниям манипулирование данными и информацией в Интернете или оказание помощи правительственным партиям путем воздействия на политические дебаты посредством поддельные новости.

Но каково состояние искусства ИИ?

Несколько дней назад продвинутая система ИИ прошла научный тест третьего уровня, правильно ответив на 90 процентов вопросов. Результат был получен из AristoИИ, созданный Институтом искусственного интеллекта Аллена в США, еще раз демонстрирующий быстрый прогресс в области искусственного интеллекта. Сотни исследовательских институтов по всему миру работают над такими системами, как Aristo и за короткое время они получили результаты, которые всего десять лет назад казались недостижимыми. Увеличение вычислительной мощности компьютеров и совершенствование систем каталогизации и изучения данных позволили добиться значительного прогресса, сократив время программирования.

И хотя мы все немного обеспокоены «появлением Сингулярности», моментом, когда, по мнению таких ученых, как Рэй Курцвейл, искусственный интеллект сравняется с человеческим интеллектом, мы не понимаем, что основные методы, которые теперь имитируют только некоторые функции познавательные способности человека, ежедневно используемые во вредных целях, способны подорвать все те системы, которые мы используем против компьютерных вторжений, медицинских диагнозов, уровней водоснабжения, вплоть до систем защиты от мошенничества в банках.

Объясняет Энди Патель, исследователь из центра передового опыта F-Secure в области искусственного интеллекта, партнера проекта Sherpa: «Люди ошибочно отождествляют искусственный интеллект с человеческим интеллектом, и я думаю, именно поэтому они связывают угрозу ИИ с роботами-убийцами и неконтролируемыми компьютерами. Но человеческие атаки на ИИ происходят постоянно». Популярным примером этой атаки является манипулирование рейтингом поисковых систем или системами репутации для продвижения или «сокрытия» определенного платного или бесплатного контента. Однако эти атаки могут также использоваться для социальной инженерии отдельных лиц в сценариях атак, направленных на лиц, принимающих решения.

В отчете Sherpa отмечается, что методы искусственного интеллекта используются для создания чрезвычайно реалистичного письменного, аудио и визуального контента. Это случай глубоких фейковых видеороликов, полностью фальшивых роликов, благодаря которым можно, начиная с телевизионной съемки, имитировать губу говорящего, чтобы заставить его говорить то, о чем он никогда не мог бы мечтать. Какая польза от этого? Например, чтобы манипулировать доказательствами, создать дипломатический кризис, обмануть конкурента. Злонамеренное использование искусственного интеллекта уже среди нас, и нам даже не нужно представлять себе убийцу, подобного тому, что есть в фильме «Терминатор». По этой причине исследователи предлагают сразу же разрабатывать интеллектуальные и безопасные системы.

Программисты Microsoft давно поняли потенциал атаки, использующей системы искусственного интеллекта, которые, как и любой хороший помощник, имеют естественную «склонность помогать нам», фактически они сделали это с течением времени, чтобы ограничить свою способность действовать и приобретать дополнительный опыт. В результате «конкурса» наем бывшего вице-президента Apple Билла Стасиора не остался незамеченным. Эта операция была передана прессе как из Сири в Кортану, Это показывает, что мы наконец серьезно относимся к тому факту, что предоставление полного контроля над искусственным интеллектом не является синонимом безопасности.

До сегодняшнего дня не обязательно быть хакером-экспертом, чтобы нарушать систему и получать информацию или получать незаконный доступ, достаточно знать человеческую природу, лежащую в основе холодной логики программирования, и уметь задавать правильный вопрос.

источники:
https://convcomp.it/cortana-quando-la-mente-umana-si-nasconde-dietro-lin...
Кортана: когда человеческий разум прячется за искусственным интеллектом
https://securingtomorrow.mcafee.com/other-blogs/mcafee-labs/want-to-brea...
Хотите взломать заблокированное устройство Windows 10? Спросите Кортана (CVE-2018-8140)
https://www.fastweb.it/web-e-digital/un-bug-di-cortana-rende-inutile-la-...
Как получить доступ к защищенному паролем компьютеру с помощью Cortana
Как злоумышленники могут злоупотреблять искусственным интеллектом? https://t.co/Q3yHHlGNJk - @project_sherpa @FSecure @ r0zetta # кибербезопасность # AIpic.twitter.com / r7vXv2RCgZ
TTPS: //www.repubblica.it/tecnologia/sicurezza/2019/07/18/news/perche_gli_umani _...
От Сири до Кортаны: Microsoft наняла бывшего вице-президента Apple Билла Стасиора
https://www.tomshw.it/business/dallassistenza-di-siri-a-quella-di-cortan...
https://www.macitynet.it/da-siri-a-cortana-microsoft-ha-assunto-lex-vice...
https://www.ilpost.it/2019/09/05/aristo-intelligenza-artificiale-test-sc...
Система искусственного интеллекта (ИИ) сдала экзамен по естествознанию в восьмом классе, правильно ответив на 90 процентов вопросов.
https://www.securityinfo.it/2018/08/16/violare-windows-in-stato-di-blocc...

Нарушать винду в заблокированном состоянии? Спросите Кортана

оборона рейнметалла