гаджетыНовостиразработчиктехнология

Главный научный сотрудник Amazon Alexa по разработке надежных систем искусственного интеллекта

Повысьте уровень технологий и стратегии корпоративных данных на Transform 2021.


В частности, за последние полвека людям пришлось адаптироваться к глубоким технологическим изменениям, таким как Интернет, смартфоны и персональные компьютеры. В большинстве случаев адаптация к технологии имеет смысл – мы живем в гораздо более глобализированном мире по сравнению с тем, что было 50 лет назад. Но когда дело доходит до технологий искусственного интеллекта и машинного обучения, есть разница. Поскольку они могут узнавать о людях и соответствовать их потребностям, ответственность ложится на адаптацию ИИ к пользователям, а не наоборот – по крайней мере, теоретически.

Рохит Прасад, главный научный сотрудник подразделения Amazon Alexa, считает, что отрасль находится на переломном этапе. В дальнейшем он должен гарантировать, что ИИ узнает о пользователях так же, как и пользователи, чтобы поддерживать уровень доверия, сказал он VentureBeat в недавнем телефонном интервью.

Один из способов, которым команда Amazon Alexa надеется внедрить ИИ с большим доверием и персонализацией, – это включение контекстной осведомленности, такой как индивидуальные предпочтения пользователей Alexa в семье или бизнесе. Начиная с конца этого года, пользователи смогут «обучать» Alexa таким вещам, как их диетические предпочтения (например, Alexa предлагает только вегетарианские рестораны и рецепты), применяя эту информацию к будущим взаимодействиям.

«Alexa установит ожидания относительно того, где будет использоваться эта информация о предпочтениях, и будет очень прозрачна в отношении того, что она узнает и повторно использует, помогая укрепить доверие с клиентом», – сказал Прасад. «Это преимущества этого».

Токсичность и конфиденциальность

Укрепление доверия не всегда было сильной стороной команды Alexa. В 2019 году Amazon запустила Alexa Answers, сервис, который позволяет любому клиенту Amazon отправлять ответы на оставшиеся без ответа вопросы. Amazon заверил, что заявки будут контролироваться с помощью комбинации автоматического и ручного просмотра, но анализ VentureBeat показал, что миллионы пользователей Alexa получили неверные, вводящие в заблуждение и оскорбительные вопросы. В апреле 2019 года Bloomberg сообщил, что Amazon нанимает контрактников для аннотирования тысяч часов аудио с иногда случайно активируемых устройств Alexa, что побудило компанию развернуть инструменты, ориентированные на пользователя, которые быстро удаляют данные, хранящиеся в облаке. Исследователи утверждают, что Amazon нарушает собственные правила разработчиков в отношении конфиденциальности местоположения на устройствах Alexa.

Отвечая на вопросы об ответах Alexa, Прасад сказал, что у Amazon «много работы. [to do]»На ограждениях и ранжирование ответов на вопросы при фильтрации информации, которая может быть нечувствительной для пользователя. “Мы знаем это [Alexa devices] часто бывают дома или в обществе, где могут быть разные возрастные группы людей разных национальностей, и мы должны относиться к этому с уважением », – сказал он.

По словам Прасада, несмотря на ошибки, Alexa за последний год стала более популярной на предприятии, особенно в центрах гостеприимства и ухода за престарелыми. Он утверждает, что одной из причин является способность Alexa внутренне направлять запросы в нужное приложение – возможность, которая обеспечивается машинным обучением.

Во время пандемии на предприятии произошел всплеск внедрения голосовых технологий. В недавнем опросе 500 руководителей ИТ и бизнеса в США, Франции, Германии и Великобритании 28% респондентов заявили, что используют голосовые технологии, а 84% планируют использовать их в следующем году.

«[Alexa’s ability] выбрать лучший опыт [is] распространяются на предприятие, и я бы сказал, что это большое отличие, потому что у вас может быть много разных способов создания опыта для многих разных предприятий и отдельных разработчиков », – сказал Прасад. «Alexa должна отправлять беспрепятственные запросы, и это очень важная проблема, которую мы решаем».

Снижение предвзятости

Еще одна важная, хотя и неразрешимая проблема, которую пытается решить Prasad, – это инклюзивный дизайн. Хотя модели естественного языка являются строительными блоками сервисов, включая Alexa, все больше данных показывает, что эти модели рискуют укрепить нежелательные стереотипы. Детоксикация была предложена как решение этой проблемы, но соавторы нового исследования предполагают, что даже этот метод может усилить, а не смягчить предубеждения.

Повышенное внимание к языковым предубеждениям происходит по мере того, как некоторые в сообществе ИИ призывают к более тщательному учету эффектов социальных иерархий, таких как расизм. В статье, опубликованной в июне прошлого года, исследователи Microsoft призвали к более тщательному изучению и исследованию взаимосвязи между языком, властью и предрассудками в их работе. В документе также сделан вывод о том, что в области исследования обычно не хватает четких описаний предвзятости и не удается объяснить, как, почему и для кого конкретная предвзятость вредна.

Что касается доступности, Prasad указывает на поддержку текстовых сообщений Alexa, что позволяет пользователям набирать сообщения, а не разговаривать с Alexa. Помимо этого, он говорит, что команда Alexa изучает «множество» различных способов, которыми Alexa может лучше понимать различные типы речевых паттернов.

«[Fairness issues] стать очень индивидуализированным. Например, если у вас мягкий голос, независимо от вашего пола или возрастной группы, вам может быть сложно заставить Alexa проснуться вместо вас », – сказал Прасад. «Вот где, например, может помочь более адаптивная установка пороговых значений».

Прасад также говорит, что команда работала над устранением предвзятости в графах знаний Alexa или базах данных, которые предоставляют Alexa факты о людях, местах и ​​вещах. Эти автоматически создаваемые графы знаний могут усилить предубеждения в содержащихся в них данных, например, «медсестры – женщины» и «борцы – мужчины».

«Это ранняя работа, но мы невероятно много работали, чтобы уменьшить эти предубеждения», – сказал Прасад.

Прасад считает, что решение этих проблем в конечном итоге приведет к «Святому Граалю» в ИИ: системе, которая понимает, как правильно обрабатывать все запросы без ручного моделирования или человеческого надзора. По его словам, такая система была бы более устойчивой к изменчивости и позволила бы пользователям обучать ее новым навыкам без необходимости трудоемкого проектирования.

«[With Alexa,] мы очень прагматично подходим к обобщенному анализу », – сказал он. «Самая большая проблема для меня, как исследователя ИИ, – это создание систем, которые работают хорошо, но также могут быть демократизированы, чтобы каждый мог создать отличные возможности для своих приложений».

VentureBeat

Миссия VentureBeat – стать цифровой городской площадью, где лица, принимающие технические решения, могут получить знания о преобразующих технологиях и транзакциях.

На нашем сайте представлена ​​важная информация о технологиях и стратегиях обработки данных, которая поможет вам руководить своей организацией. Мы приглашаем вас стать участником нашего сообщества, чтобы получить доступ:

  • актуальная информация по интересующим вас темам
  • наши информационные бюллетени
  • закрытый контент для лидеров мнений и льготный доступ к нашим ценным мероприятиям, таким как Преобразование 2021: Учить больше
  • сетевые функции и многое другое

Стать членом

Related Articles

Leave a Reply

Your email address will not be published. Required fields are marked *

Back to top button