mikaprok (mikaprok) wrote,
mikaprok
mikaprok

Большой У-у-у-х



Новые «старые» горизонты

В конце 2010-х один из боковых проектов DARPA выделился в изолированное коммерческое направление.

В целом с ними это происходит регулярно – любые инновации неплохо было бы окупать на этапе опытно-промышленной эксплуатации, да заодно и тестировать в условиях приближенных к боевым.

На этот раз речь шла о программном модуле голосовых команд, части куда более крупного робототехнического начинания.

Новинку решили тестировать на самом популярной платформе того времени, производимой Apple.

Так на свет появилась Siri.

Первый блин вышел комом, второй – тоже покатился со стола. Только с третьего релиза появилось хоть что-то интересное.

Впрочем до середины 2010-х никто особенно не ухватился за идею и количество реальных пользователей оставалось небольшим.

Вслед за этим экспериментом все остальные производители начали с диким энтузиазмом практиковаться в сфере virtual assistants.

В частности, несколько лет назад Amazon презентовал Alexa.





Надо заметить, что имеет место интересный дисбаланс: штат разработчиков и аналитиков вокруг этих инструментов растет быстрее их популярности, так сказать авансом.

Voice recognition да и вообще AI темы, конечно, горячие, но не до степени содержания 2-5 тысяч человек (!)

А объяснение тут очень простое, проливающее свет на их реальную функциональность.

Это не только и не столько разработка, а головоломная научно-исследовательская деятельность.

Вот недавний пример деятельности virtual assistant.

Муж с женой разговаривали у себя дома в Портленде, рядом лежал телефон в спящем режиме и заряжался. Через некоторое время позвонил коллега мужа и рассказал душещипательную историю: он получил на почту звуковые файлы записи разговора пары и текстовую расшифровку их беседы.

При последующем осмотре, Alexa не показала признаков сохраненных записей и журнал команд был пустым.

Однако, при расшифровке заголовка отправленного письма выяснилось, что это был все-таки «жучок».





Amazon сослался, как водится, на экстремальную программную ошибку и «чудовищное совпадение», при котором в разговоре были одновременно даны команды на включение, запись, отсылку конкретному контакту в записной книжке, удаление логов и выключение.

Практически случайный сценарий :-)

Всякое же бывает, в конце концов.

Да-да.

В апреле компания Checkmarx исследовала Alexa на предмет уязвимостей системы безопасности.

Корректный сценарий такой: при возникновении непонятных ситуаций система ничего не предпринимает без явной внешней команды, а переспрашивает пользователя дважды, а затем выключается. Всё.

Таким образом уже этапа записи беседы не могло быть, там нужно произнести абракадабру, которую невозможно декодировать из случайного разговора.




Однако, в системных настройках можно изменить (и сделать это удаленно при обновлении) один параметр и в этом случае после включения Alexa сможет выполнять серию команд подряд, не спрашивая пользователя.

Более того, вся информация о командах и ключевых словах каждого наивного подписчика, как выяснилось, хранится в облаке Amazon. Неопределенное время.

Не хотите – делайте официальный запрос на удаление самостоятельно.

Считается, что сохраняется только и исключительно персональные данные, а не разговоры, ведущиеся людьми на фоне Alexa.

Проверить это в лоб нельзя, НО в этом году компания заявила патент, демонстрирующий оптимальное хранение аудио-информации в целях улучшения «диалоговых функций».





Ох уж эти фокусы, ох уж эти фокусники.

https://telegram.me/mikaprok


Tags: #alexa, #виртуальный ассистент, #ит, #сша, #техника, alexa, amazon, humour, it, usa
Subscribe
promo mikaprok july 7, 00:17 88
Buy for 20 tokens
Редкий для меня служебно-личный пост. За последние полгода накопилось просто какое-то невероятное количество тем, о которых стоит поговорить, но за повседневной текучкой не доходят руки. Причем большей частью тем вполне жежешных форматов, которые не нужно упрощать-адаптировать и…
  • Post a new comment

    Error

    default userpic

    Your reply will be screened

    Your IP address will be recorded 

    When you submit the form an invisible reCAPTCHA check will be performed.
    You must follow the Privacy Policy and Google Terms of use.
  • 21 comments