«Дельфинья атака»: Siri и Alexa слышат не только ваши команды
Чем опасны голосовые помощникиВпервые эта проблема была раскрыта два года назад исследователями из Китая. К ее изучению подключились сотрудники американских университетов — Калифорнийского, Беркли и Джорджтаунского. В 2016 году они доказали, что голосовые помощники вроде Siri от Apple или Alexa от Amazon могут распознавать команды в «белом шуме» — звуках работающего телевизора или роликов на YouTube — и открывать сторонние веб-сайты или переключаться в авиарежим.
В мае 2018 года исследователи из университета Беркли опубликовали статью, в которой говорится, что команды для голосовых помощников можно встроить непосредственно в музыку или другие аудиозаписи. Таким образом «умные» динамики смогут услышать, к примеру, инструкцию по добавлению какого-нибудь товара в список покупок пользователя в онлайн-магазине.
Но не только лишние покупки возникнут в результате такого вмешательства. Сбои в работе бытовых приборов, взломы данных на компьютерах и личных банковских счетах — вот некоторые более тяжелые последствия. Проблема в том, что скрытые команды недоступны человеческому уху.
О «Дельфиньей атаке» (DolphinAttack) пишет New York Times, цитируя Николаса Карлини из Беркли. Он участвовал в исследованиях и рассказал изданию, что команда специально провела эксперименты со звуковыми записями, чтобы проверить способность «умных» колонок к распознаванию зашифрованных, скрытых сигналов.
Amazon, Google и Apple постоянно работают над улучшением распознавания речи голосовыми помощниками и заверяют, что устройства понимают только человеческую речь. Однако эксперименты в Беркли доказывают обратное. Алгоритмами искусственного интеллекта можно манипулировать, и это грозит опасными последствиями.
Системы распознавания речи обычно переводят звуки в буквы, составляя из них фразы и слова. Однако исследователям удалось внести в аудиофайлы небольшие изменения, сделав звуковые волны незаметными для человеческого уха. Команды, составленные таким образом, можно «зашифровать» в обычных аудиофайлах, и пользователь не услышит изменений при их прослушивании. Но голосовой помощник распознает команду.
Как считает исследовательская компания Ovum, специализирующаяся на статистическом анализе данных, голосовые помощники и «умные» колонки уже в 2021 году будут находиться на пике популярности. По данным Juniper Research, больше половины всех американских домашних хозяйств к этому времени обзаведется хотя бы одним таким устройством.
По словам Карлини, пока что нет свидетельств использования «дельфиньих» звуков злоумышленниками, но это вопрос времени.