Самообучающийся алгоритм «Бусы»

Самообучающийся алгоритм «Бусы»

Сообщение talash » 11 окт 2017, 05:03

Самообучающийся алгоритм «Бусы».

Некоторые термины понятны всем людям без исключения, но в то же время очень сложны для детального описания или для научного формулирования. Это верно для большинства терминов из области интеллекта, и самого термина интеллект. Мысли, чувства, понимание, сознание, обучение, распознавание и интерес, чувство прекрасного в образе, в форме, в мелодии, чувство юмора. Интеллекту так же сложно четко сформулировать эти термины, как снеговику сложно ответить на вопрос «что такое снег?». Среди этих понятий я считаю «интерес» незаслуженно игнорируемым со стороны разработчиков искусственного интеллекта. Но мне именно этот термин наиболее интересен. Во вступлении я буду использовать обращения к книге Джефри Хокинса «Об интеллекте». Я не считаю себя фанатичным последователем его учения. Я не согласен полностью со всем содержимым книги, и еще более не согласен с методами компании Numenta, которая занимается практической реализацией идей Хокинса. Но среди научно-популярных работ «Об интеллекте» остается наиболее значимой для меня, и близкой к моим взглядам. Далее я постараюсь кратко описать ключевые идеи книги которые мне кажутся верными и важными. Читатели знакомые с работами Хокинса вспомнят обширные материалы из его работ за каждым ключевым утверждением, остальным могу только еще раз посоветовать книгу. Разработчики искусственного интеллекта должны изучать естественных носителей интеллекта.Хокинс ставит во главу угла неврологию и я согласен с этим. В попытках понять работу неизвестного устройства очень полезно заглянуть внутрь. Но для столь активного устройства как интеллект не менее полезно внимательно изучать его со стороны. Возьмем для примера автомобиль. Механик из прошлого, никогда не видевший ранее современные автомобили, может предположить наличие коробки передач только наблюдая и слушая работу современных автомобилей в движении. Я не изучал неврологию. Моей второй страстью после автоматизации была биология и науки о поведении живых существ. Многие не считают их науками в принципе, и они частично правы, потому что очень тяжело поставить чистый научный эксперимент на поведение, особенно на поведение людей. Но, в то же время, разработчики ИИ по разному интерпретируют знания полученные из неврологии, в зависимости от своих теорий. Можно сделать вывод что обе науки дают довольно туманные представления об интеллекте. Но всё равно новые идеи в области искусственного интеллекта должны вдохновляться реальными интеллектами, одна из таких идей следует далее. Самым интересным вопросом для современного исследователя ИИ должна быть проблема распознавания объектов. Когда это было озвучено Хокинзом в 2004, еще не было технологий deep learning. Так что эта идея была в противоречии с превалирующими тогда идеями, ставившими главной задачей имитацию «интеллектуального поведения», «принятие решений» или «человеческую речь». Все различные варианты функции распознавания в естественном интеллекте, такие как слух, зрение, осязание, чтение, понимание музыки и речи – работают по универсальному принципу. Этот принцип должен быть эластичным и самообучающимся. Эти требования легко видны из неврологии. Но опять, в 2004 году(и до сих пор) эти заявления шли в противоречие с большинством работ в области ИИ, которые пытались реализовать отдельные функции, отдельными специализированными способами, зачастую без пластики и самообучения.

Распознавание происходит практически моментально и основано на предыдущем опыте. Это значит, что мозг обладает специальной памятью. Устройство этой памяти рассматривается в книге, и принимается, что эта память вероятнее всего иерархическая и темпоральная(учитывающая время). Иерархическая – значит что элементы шаблонов высоких уровней должны состоять из шаблонов низких уровней, а те в свою очередь из простейших элементов. Темпоральная – значит что такая память должна быть способна сохранять последовательности событий. Хотя, в практической реализации первых версий HTM(иерархической темпоральной памяти) от компании Хокинса Numenta шаблоны большинства уровней не были темпоральными в принципе. Распознавание есть предвидение. Аргументы к этой базовой идее Хокинса так же основаны на неврологии. Дело в том, что половина сигналов в коре головного мозга идут вниз по иерархии. Согласно теории эти нисходящие потоки сигналов обеспечивают механизм пре-инициализации сенсоров, которые обеспечивают предвидение и распознавание. Вернемся к феномену интереса. Да, этот термин действительно сложно сформулировать. От вопросов «что такое интерес?» я перешел к попытке описать основные свойства интереса и интересного. 1.Практически всё может быть интересно либо скучно для человека. Книги, новости, другие люди, занятия, времяпрепровождение, звуки, картинки, ощущения, рассказы, виды из окна и взгляды на жизнь. 2.Интерес это основа игрового поведения. Игра ради одного только интереса это специфическая часть поведения уникальная для млекопитающих животных. Для большинства видов такое поведение имеет место быть только в детском возрасте, но спасибо эволюции, взрослые люди во многом похожи на детей. Таким образом мы можем испытывать интерес и учиться новому всю нашу жизнь. Шимпанзе меньше повезло в этом плане. Они могут выучить до нескольких тысяч слов на языке жестов пока молоды, но ни одного после того как повзрослели. Детеныши хищников млекопитающих тренируют техники охоты и окружающую среду в играх – это делает их приемы охоты более разнообразными относительно например рептилий. Но животные выросшие в зоопарках и питомниках уже не могут адаптироваться к дикой природе, так как время обучения упущено. 3.Интересно то, что частично понятно. Понимание при этом должно быть в некоторой золотой зоне. Если книга написана на неизвестном языке то читать такую книгу будет не интересно. Так же не интересно будет читать книгу с стихотворениями которые вы уже знаете наизусть. 4.Так же как в теории HTM, интерес легко ассоциируется с уровнем понимания и предвиденьем. Интерес возникает только там где мы видим некоторую логику, только там где мы можем частично понять и предвидеть определенные варианты развития событий. Секрет музыки является хорошим примером для понимания пунктов 3 и 4. Люди обладают музыкальным чувством благодаря механизмам вокализации речи, интонации. Звуки, которые соответствуют законам мелодичности прописанным в этих механизмах, кажутся нам музыкой. Некоторые мелодии приятны на слух даже если мы никогда не слышали их ранее. Распознавание есть предвидение, а наличие внутренних законов мелодичности и ритма как раз и позволяют нам предугадать возможные следующие ноты и элементы мелодии. Таким образом хорошая музыка

способна войти в золотую зону интереса даже если мы не слышали её раньше. Существуют так же различные предпочтения и стили музыки, я думаю предпочтения эти основываются на особенностях вокализационного механизма речи разных людей. Кто-то предпочитает мелодию, а кто-то ритм. Иногда музыка начинает нравится только после того как вы, послушав вероятно совет приятеля, прослушаете сложную композицию второй раз. Только тогда эта композиция доходит до вашей «золотой зоны» интереса. Поп-музыка обычно скроена проще, и старается сразу попасть в золотую зону для большинства людей. Но любая музыка, сложная либо простая, рано или поздно выйдет из зоны интереса и станет скучной, если вы будете прослушивать её бесконечно подряд. 5.Интерес универсален по предмету применения. Фактически 5 и 6 пункты это разбитие первого. Действительно, подобные рассуждения как для музыки мы можем провести для чего угодно. Для книг? Пожалуйста: иногда второе прочтение особенно интересно, ибо больше понимаешь или частично помнишь, предвидишь основные сюжетные события. Но рано или поздно любая книга станет скучной, если её беспрерывно изучать. 6.Интерес универсален по уровню. Я верю, что это верно, хотя не имею четких аргументов в пользу этого утверждения. Я верю, что механизм интереса для шаблонов низкого уровня иерархической памяти, применяется и для шаблонов верхнего уровня. Когда мои дети были младенцами, я наблюдал проявление всё того же механизма интереса на совершенно базовых вещах. Новорожденный младенец плохо видит, не распознает окружающий мир. Первые объекты, которые привлекают его внимание это как раз те, которые попадают в золотую зону интереса со стороны неясности и непонятности. Младенец таращится и старается не упустить из виду знакомые ему образы. Я верю, что неосознанное побрякивание ключами, постукивание карандашом по столу в офисе, кручение безделушек в руках – всё это низкоуровневые проявления игрового поведения и интереса. Все мы иногда таращимся на новое «как баран на новые ворота». Самообучающийся алгоритм «Бусы». В начале агент выполняет некоторые доступные для него действия и следит за реакцией. Затем повторяет и ищет повторение реакции. Последующее желание сделать что-то или добиться от окружающего мира определенной реакции уже не случайно, а зависит от «золотой зоны» интереса. Таким образом шаблоны темпоральной информации постоянно наращиваются, следуя последовательностям действие-реакция. Структуры для иерархической памяти не просто выбираются на базе предыдущего опыта, а последовательно наращиваются как бусы на ожерелье. Механизм интереса постоянно делает оценки и предлагает наиболее ценные «бусы» - которыми могут быть как реакция окружающего пространства, требующая проверку, так и собственные действия, которые с вероятностью «золотой зоны» эту реакцию вызовут. Если бусы себя не оправдывают и не повторяются, не являются закономерностью – они отбрасываются, зыбываются, и становятся не интересными. Если бусы себя оправдывают и повторяются – они становятся закономерностью, насаживаются на ожерелье, запоминаются, и так же становятся более не интересными для повторения. Самые первые движения любого млекопитающего отражаются в проприоритарных ощущениях(ощущения мышц собственного тела). Таким образом первые шаблоны памяти HTM могут быть созданы по принципу ожерелья пока организм еще в материнской утробе. Шаблоны второго этапа более сложные, но и тут - наиболее простой для распознавания объект реального мира для младенца – его собственное тело. Понаблюдайте как младенец делает первые

движения руками и ногами. Иногда он попадет собственными кулаками в глаза, и это оказывается так захватывающе интересно для него, что он повторяет эксперимент несколько раз, несмотря на то, что это больно :) Первые попытки реализовать HTM(иерархическую темпоральную память) в компании Numenta были только на уровне восприятия, без движения. Мне тогда казалось, что Хокинз изменяет собственным идеям, но возможно просто читая его книгу я читал свои мысли, а не его. Примерно год назад они анонсировали изучение сенсо-моторики, и я ожидал, что теперь наши взгляды совпадают, но механизмы сенсо-моторики разрабатываемые Numenta оказались лишь добавкой к старой «парализованной» теории иерархической темпоральной памяти. Я же считаю, что структура HTM изначально должна быть основана на алгоритмах использующих принцип действие-реакция. Так же, я не считаю, что паттерны памяти должны в принципе быть аллоцентрическими (быть применимы универсально относительно геометрии области восприятия и объекта), чего безуспешно добивается Numenta. Для активного существа, коим является носитель интеллекта, нет необходимости в аллоцентрических паттернах. Ведь интеллектуальное существо способно перемещаться в пространстве, и подстроить свои движения так, что бы установить сенсоры в начальную точку последовательности действий необходимых для распознавания. Например саккада распознавания лица у большинства людей начинается с фиксации глаз. Резюме. Ты видишь то, на что смотришь. Чаще всего ваш глаз видит то, что ожидает увидеть ваш мозг, в той точке куда был направлен ваш глаз следуя заранее выученной последовательности действий. Такие последовательности действий и ожидаемой реакции соответствуют тому или иному объекту реального мира, таким образом происходит распознавание. Интеллект млекопитающих обладает специальным алгоритмом, который помогает последовательно строить и совершенствовать эти последовательности. Этот механизм основан на рейтингах интересности и требует активных действий для своей работы. Он довольно простой и универсальный.

Александр Буянов. 09.10.2017
talash
Администратор
 
Сообщения: 214
Зарегистрирован: 24 май 2013, 17:48

Вернуться в Этология

Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей и гости: 1

cron