Ян Лекун

Как учится машина: Революция в области нейронных сетей и глубокого обучения

Мы живем во время революции, еще 50 лет назад казавшейся невероятной, — революции в области умных машин, которые теперь обучаются самостоятельно, вместо того чтобы просто выполнять запрограммированные команды. И возможности таких машин огромны: распознавание изображений, лиц и голосов, переводы на сотни языков, беспилотное управление автомобилями, обнаружение опухолей на медицинских снимках и многое другое. Автор книги Ян Лекун стоит у истоков этой революции. Лауреат премии Тьюринга, профессор Нью-Йоркского университета и руководитель фундаментальными исследованиями в Facebook, он является одним из изобретателей глубокого обучения, применяемого к так называемым искусственным нейронным сетям, архитектура и функционирование которых вдохновлены устройством человеческого мозга. В своей книге он, не прибегая к метафорам, делится своим научным подходом на стыке компьютерных наук и нейробиологии, проливая свет на будущее искусственного интеллекта, связанные с ним проблемы и перспективы. Сегодня искусственный интеллект действительно меняет все наше общество. Эта понятная и доступная книга перенесет вас в самое сердце машины, открывая новый увлекательный мир, который уже является нашей реальностью.
454 бумажные страницы
Дата публикации оригинала
2021
Год выхода издания
2021
Уже прочитали? Что скажете?
👍👎

Впечатления

    Алексейделится впечатлением7 месяцев назад
    💡Познавательно
    🎯Полезно

    Книга рассказывает историю обучаемости машин и эволюции их мышления. Во второй части речь идёт об актуальных достижениях. К концу чтения в голове всё будто по полочкам разложено, смотришь на это как на единый процесс.

    Anna Kolmykovaделится впечатлением7 месяцев назад
    👍Советую
    🎯Полезно
    🚀Не оторваться
    😄Весело

    Ян Лекун имеет непосредственное отношение ко всему, о чём пишет! Это делает чтение не только познавательным, но и увлекательным. Советую отдельно заострить внимание на главе про его опыт работы в Facebook.

    Учитывая, что нейросеть уже можно научить и рисовать картины, и сочинять песни Егора Летова, то мечта Ады Лавлейс о вычислительной машине-хужожнице не так далеко от реальности..

    xanthineделится впечатлением4 месяца назад
    👍Советую
    💡Познавательно

Цитаты

    xanthineцитирует4 месяца назад
    В истории науки технологические изобретения зачатую предшествуют теории и науке. Примеры приведены в таблице 10.1.

    Объектив, телескоп и микроскоп были изобретены задолго до того, как Ньютон разработал теорию оптики. Паровая машина работала более века, прежде чем Сади Карно ввел понятие теплового цикла и заложил основы термодинамики. Первые самолеты взлетели до того, как были разработаны аэродинамика, теории крыла и устойчивости полета. Первые программируемые компьютеры породили науку о вычислениях и алгоритмах, которую называют информатикой. Теория информации, предложенная Клодом Шенноном в Bell Labs в 1948 г., появилась лишь спустя десятилетия после появления первых удаленных коммуникаций и зарождения цифровых сетей.

    Таблица 10.1. Изобретение и лежащая в его основе теория

    Исследования в области ИИ все еще находятся на стадии разработки. Еще нет отдельной науки, связанной с ИИ. У нас нет единой теории интеллекта. Есть теория обучения, но она касается только контролируемого обучения и устанавливает для нас границы возможного, но не раскрывает секреты механизмов мозга или правильного подхода к самоконтролируемому обучению, которое характерно для биологических систем.

    Можем ли мы представить себе теорию интеллекта? Возникнет ли наука об интеллекте благодаря изобретению машин, способных к обучению? Эти вопросы составляют мою исследовательскую программу на ближайшие десятилетия. Открыть для себя основные механизмы и принципы работы интеллекта, независимо от того, естественный он или искусственный.
    xanthineцитирует4 месяца назад
    Интеллект — это не только интеллектуальные способности. Он затрагивает все сферы поведения. К нему относятся обучение, адаптация и способность принимать решения. Хотя мы до сих пор не до конца понимаем, как обучаются люди и животные, ИИ дает нам некоторые ответы — по умолчанию. Существование ИИ доказывает, что между машинным интеллектом и человеческим нет непреодолимой пропасти, и указывает направления, в которых мы должны работать.

    С точки зрения экономии средств машина использует в тысячи раз больше данных и энергии, чем мозг. В чем кроется эффективность работы последнего? Биологические нейроны медленные, но компактные, их много, и они потребляют очень мало энергии. Стремление к экономии энергии столь велико, что в любой момент в головном мозге активно лишь небольшое количество нейронов, которые при этом еще и экономичны сами по себе. «Тихий» нейрон тратит намного меньше энергии, чем нейрон, который посылает импульсы. Подобная слабая активность — это способ изучить аппаратную реализацию искусственных нейронных сетей будущего.

    До сих пор остается большой загадкой, как человек так быстро строит абстрактные представления об окружающем мире? Как он, управляя этими представлениями, учится рассуждать и разрабатывать планы действий, позволяющие ему разбить сложную задачу на более простые подзадачи?

    Ответ на эти вопросы прольет свет на другие загадки. Человек учится на небольшом количестве примеров. Он представляет сценарии, которые позволяют ему предвидеть последствия своих действий и, таким образом, сэкономить определенное количество знаний… Задача текущих исследований — обучение без использования большого количества примеров и энергии, которые на сегодняшний день характерны для ИИ.
    xanthineцитирует4 месяца назад
    Математик Владимир Вапник описал статистическую теорию машинного обучения, которая определяет условия, при которых система может извлекать концепцию из данных. Для справки, эта теория гласит, что для того, чтобы субъект смог чему-то обучаться, он обязательно должен специализироваться на ограниченной области задач.

    Данная теорема применима и к людям. Человеческий интеллект не универсален. Другими словами, существует врожденная необходимость предварительно настроить мозг на ограничение возможностей ради ускорения обучения. Мы знаем, что некоторые из зон мозга имеют особую архитектуру и предназначены для выполнения определенных задач, даже если мы не контролируем эти механизмы.

    Существует доказательство существования такой «проводки» в мозге животных и людей путем «доведения до абсурда». Нам уже известно, что зрительная кора, которая и вдохновила исследователей на создание сверточных сетей, является специализированной зоной. Представьте себе теперь, что вы носите очки, которые меняют каждый пиксель, который вы видите. Их линзы непрозрачные, они состоят из оптических волокон, которые направляют эти пиксели в разные места поля зрения. Таким образом, изображение, которое вы видите, становится непонятным. В нем нет смысла. Когда объект движется на фоне изображения, одни пиксели загораются, другие гаснут. Соседние пиксели на изображении пропадают, когда они проходят через эти очки. В таких условиях мозг практически не может что-либо распознать, потому что он неправильно подсоединен. Он запрограммирован на то, что соседние пиксели чаще всего имеют близкие значения и коррелированы. Это признак того, что наш мозг не универсален, а очень специализирован.

    Мозг, к тому же, очень пластичен. Некоторые эксперименты показывают, что существует своего рода «универсальная процедура коркового обучения», когда функция зоны коры определяется поступающим к нему пучком сигналов, который поступает к нему, а не областью, которая его принимает. В конце 1990-х гг. Мриганка Сур и его коллеги из Массачусетского технологического института извлекли плод у хорька незадолго до рождения. Они провели операцию, перерезав зрительный нерв и соединив его со слуховой корой [136]. Результаты были воодушевляющими: слуховая кора стала выполнять функцию зрительной коры и модифицировала нейроны, определяющие ориентированные контуры, обычно присутствующие в области первичной зрительной коры V1.

    Первоначальное строение слуховой коры несколько похоже на строение зрительной коры. Значит, если исходная структура соединений у разных зон близка, то в результате обучения в них может возникнуть любая необходимая функция. Это доказывает, что роль, выполняемая областью коры, на самом деле определяется сигналами, которые она получает, а не генетическим предварительным программированием «органа зрения» в головном мозге.

    Возможность существования «универсального алгоритма» в коре головного мозга дает надежду ученым, которые, как и я, ищут единый организующий принцип, лежащий в основе интеллекта и обучения.

На полках

    Vyacheslav Lyashuk
    Бизнес IT, IoT
    • 110
    • 42
    Издательская группа «Альпина»
    Альпина PRO
    • 22
    • 16
    Tamerlana
    Новые
    • 1.2K
    • 4
    Darja S
    non fiction
    • 220
    • 1
fb2epub
Перетащите файлы сюда, не более 5 за один раз