Новости

Google DeepMind спрашивает, что означает неудача ИИ

Google DeepMind усердно работает над проблемой того, как сделать нейронные сети «надежными», но предстоит еще много работы, чтобы понять, что означает сбой. Одна вещь, которая может помочь: большая роль человека в определении успеха и неудачи.

Тирнан Рэй | 30 марта 2019. 00:04 GMT (17:04 PDT) | Тема: Искусственный интеллект

В течение многих лет изучалось, как сделать искусственный интеллект «устойчивым» к атакам и менее подверженным неудачам. Тем не менее, поле все еще сталкивается с тем, что на самом деле означает сбой в искусственном интеллекте, как отмечается в сообщении в блоге на этой неделе от подразделения DeepMind Google.

Пропущенный элемент может показаться очевидным для некоторых: это действительно помогло бы, если бы было больше человеческого участия в установлении граничных условий для функционирования нейронных сетей.

Исследователи Пушмит Кохли, Свен Говал, Кришнамурти, Движотам и Джонатан Уэсато занимались изучением этой проблемы и определили большую работу, которую еще предстоит сделать, и подытоживают ее под названием «Надежный и проверенный ИИ: тестирование спецификаций, надежное обучение». и формальное подтверждение. "

Существует богатая история проверочного тестирования компьютерных программ, но эти подходы «не подходят для современных систем глубокого обучения».

Зачем? Во многом потому, что ученые все еще изучают, что значит для нейронной сети следовать «спецификации», которая была для нее заложена. Не всегда понятно, что такое спецификация.

«Спецификации, которые фиксируют« правильное »поведение в системах ИИ, часто трудно точно сформулировать». пишут авторы.

Смотрите так же

Google обновляет Gmail для Android и iOS Что новог... Google обновляет Gmail для Android и iOS: что нового в обновленном приложении Gmail? В последнее время Google обновляет весь свой набор продуктов, пытаясь оптимизировать и адаптировать последние тенденции. Поисковый гигант недавно внес некоторые заметные изменения в GDrive и Документы, Листы, Слайды и Сайты в Интернете. В последних разработках Go...
Обновление авторских прав в ЕС с таргетингом на Go... Обновление было отмечено интенсивным лоббированием со стороны технологических компаний, включая Google и Facebook Google YouTube и Instagram Facebook должны будут установить фильтры В прошлом месяце законодатели ЕС одобрили Еврокомиссию Предложение было направлено на защиту креативной индустрии Европы На следующей неделе страны ЕС намерены согл...
Лучшие расширения Google Chrome. Это наиболее уста... Это самые «установленные» расширения Google Chrome Google Chrome - один из наиболее широко используемых веб-браузеров в мире. Хотя он может похвастаться несколькими функциями, которых вы не найдете в других браузерах, он также известен расширениями, которые делают вас более продуктивными и облегчают выполнение определенных задач. Однако, как сообщ...

Google DeepMind предлагает способы установить границы видов продукции, которые может генерировать нейронная сеть, чтобы не допустить неправильных действий.

Google-deepmind-геометрии из-verification.png

Google DeepMind спрашивает, что означает неудача ИИ

Исследователи DeepMind отмечают, что понятие «спецификация» происходит из мира программного обеспечения. Это предполагаемая функциональность компьютерной системы.

Как писали авторы в декабрьском посте, в AI может быть не одна спецификация, а три. Существует «идеальная» спецификация, что, как думают создатели системы, она может сделать. Затем есть спецификация «дизайн», «целевая функция», явно оптимизированная для нейронной сети. И, наконец, есть «раскрытая» спецификация, способ, которым вещь действительно работает. Они называют эти три спецификации, которые все могут немного отличаться друг от друга, пожелания, дизайн и поведение.

Проектирование искусственных нейронных сетей можно рассматривать как способ устранения разрыва между желанием, дизайном и поведением. Как они написали в декабрьском эссе, «проблема спецификации возникает, когда существует несоответствие между идеальной спецификацией и раскрытой спецификацией, то есть, когда система ИИ делает не то, что нам хотелось бы».

Они предлагают различные маршруты для тестирования и обучения нейронных сетей, которые более устойчивы к ошибкам и, вероятно, более точны к спецификациям.

Один из подходов состоит в том, чтобы использовать сам ИИ, чтобы понять, что смущает ИИ. Что означает использование системы обучения с подкреплением, такой как Google AlphaGo, чтобы найти наихудшие возможные пути выхода из строя другой системы подкрепления?

Авторы сделали именно это в статье, опубликованной в декабре. «Мы изучаем функцию ценностей, основанную на состязаниях, которая по опыту предсказывает, какие ситуации могут вызвать сбои агента». Агент в этом случае относится к агенту обучения подкрепления.

«Затем мы используем эту изученную функцию для оптимизации, чтобы сосредоточить оценку на наиболее проблемных входах». Они утверждают, что метод приводит к «значительным улучшениям по сравнению со случайным тестированием» систем обучения с подкреплением.

Должен прочитать

  • «ИИ очень, очень глупый». говорит лидер ИИ в Google (CNET).
  • Как получить все новые голоса Google Assistant прямо сейчас (CNET)
  • Объединенное подразделение Google AI. четкий сигнал о будущем AI (TechRepublic)
  • Топ 5: Что нужно знать об искусственном интеллекте (TechRepublic)

Другой подход заключается в обучении нейронной сети, чтобы избежать целого ряда выходных данных, чтобы она не сходила с рельсов и не делала действительно плохих прогнозов. Авторы утверждают, что «простая ограничивающая техника», называемая «распространением с ограниченным интервалом», способна обучить «проверенно устойчивую» нейронную сеть. Эта работа принесла им награду «Лучшая бумага» на конференции NeurIPS в прошлом году.

Смотрите так же

Что такое Google Duplex, самый умный чатбот, когда... Google Duplex теперь доступен на телефонах Pixel в 43 штатах Вводная часть мира в Google Duplex. технология, одновременно впечатляющая и немного жуткая,. привела к появлению человека-робота, разговаривающего с человеком, который даже не мог сказать, что разговаривает с роботом. Демонстрация во время Google I / O 2018 привела некоторых в замешатель...
Google Home и Amazon Echo только что получили ново... GOOGLE Home и Amazon Echo два самых популярных предложения для интеллектуальных колонок, но, похоже, оба только что получили нового конкурента от Xiaomi. Google Home выпущен еще в 2016 году и привлекает встроенным помощником, который позволяет владельцам задавать продукту множество вопросов. Кроме того, аппаратное обеспечение также может быть с...
Спецпровождение Google вызвало разногласия с фотор... Вице-президент Google по маркетингу Марвин Чоу вызвал споры в Twitter после того, как поделился изображением, сравнивая камеры в Google Pixel 3 и Apple iPhone XS. Вместо снимка драматического пейзажа или портрета, наполненного боке, изображение представляет собой уличную сцену при недостаточном освещении и демонстрирует разницу между камерой iPhone...

Теперь они выходят за рамки простого тестирования и обучения нейронной сети, чтобы избежать катастрофы, и они также начинают находить теоретическую основу для гарантии надежности. Они подошли к нему как к «проблеме оптимизации, которая пытается найти наибольшее нарушение проверяемого свойства».

Несмотря на эти достижения, в конце концов, «требуется много работы», пишут авторы, «чтобы создать автоматизированные инструменты для обеспечения того, чтобы системы ИИ в реальном мире делали« правильные вещи »».

Часть этой работы заключается в разработке алгоритмов, которые могут более интенсивно тестировать и обучать нейронные сети. Но некоторые из них, вероятно, связаны с человеческим фактором. Речь идет о постановке целей. целевой функции. для ИИ, соответствующего желанию людей.

«Потребуются системы, которые могут использовать частичные человеческие спецификации и изучать дополнительные спецификации на основе оценочной обратной связи. пишут они. поскольку мы создаем все более интеллектуальных агентов, способных демонстрировать сложное поведение и действовать в неструктурированной среде».

Предыдущее и связанное покрытие:

Руководство по искусственному интеллекту, от машинного обучения и общего искусственного интеллекта до нейронных сетей.

Недостаток глубокого обучения: от того, как оно связано с более широкой областью машинного обучения, до того, как начать с ним.

В этом руководстве объясняется, что такое машинное обучение, как оно связано с искусственным интеллектом, как оно работает и почему оно имеет значение.

Введение в облачные вычисления от основ до IaaS и PaaS, гибридных, общедоступных и частных облаков.

Смотрите так же

Samsung Galaxy S10 против Google Pixel 3: может ли... Пожалуй, самый ожидаемый телефон Android года, Samsung Galaxy S10 здесь. Телефон обладает новым дизайном, значительно улучшенными характеристиками и красивым большим дисплеем, что делает его одним из лучших телефонов на рынке и определенно одним из самых интересных. Конечно, Galaxy S10. не единственный флагманский смартфон на рынке. Еще одно устро...
Лучшие дополнения и аксессуары для Google Home... Эти в основном недорогие гаджеты могут сделать умные динамики Google еще лучше. Добро пожаловать на теневой рынок Google Home, симбиотическую экосистему сторонних продуктов, которая добавляет немного универсальности к Google Home Mini и оригинальному интеллектуальному динамику Google Home. Некоторые из них предоставляют истинную мобильность другим...
Google Home и Amazon Echo только что получили ново... GOOGLE Home и Amazon Echo два самых популярных предложения для интеллектуальных колонок, но, похоже, оба только что получили нового конкурента от Xiaomi. Google Home выпущен еще в 2016 году и привлекает встроенным помощником, который позволяет владельцам задавать продукту множество вопросов. Кроме того, аппаратное обеспечение также может быть с...