Цель — нейроморф

С.М. Комаров

Мозг живого существа способен обрабатывать информацию с гораздо большей скоростью и меньшими затратами энергии, чем кремниевый компьютер. Есть мнение, что это связано с принципиальным различием их устройства. В компьютере процессор неизменен и разделен с хранилищем памяти. У живого мозга все не так: он постоянно изменяется за счет формирования и исчезновения связей между нейронами и сама геометрия этих связей, в сущности, обеспечивают память.

Отказавшись от косной конструкции нынешнего кремниевого компьютера и используя гибкость живого мозга, удастся создать совершенную вычислительную машину — нейроморф. Так считают ученые и пытаются сделать материал для изготовления систем из искусственных нейронов и синапсов. Стараются они не от хорошей жизни: размер транзистора на современном чипе уже соизмерим с размером атома и, значит, дальнейшее экстенсивное, за счет увеличения плотности расположения элементов на кремниевой подложке, развитие вычислительной техники достигло своего предела.


pic_2022_05_16.jpg

Иллюстрация Александра Кука



Био- против техно


Чтобы осознать, с чем придется иметь дело, посмотрим на технические характеристики мозга человека и процессора компьютера. В мозгу находится сто млрд нейронов. Каждый из них может быть одновременно связан с десятью тысячами других нейронов. Для этого от нервной клетки отходит один аксон, по которому выходит сигнал, и огромное число дендритов — по ним информация входит. При этом конец аксона может разветвляться и таким образом передавать сигнал не одной клетке, а многим. Непосредственно сигнал идет через синапс, зону контакта аксона одной клетки с другой клеткой или ее дендритом, а порой аксоном.

У человека в 99% случаев сигнал через синапс передается с помощью химии: за счет выработки и перехода из клетки в клетку веществ-нейромедиаторов. Кибернетикам создать такой, мокрый и химический, биокомпьютер явно не по силам, да и не нужно. Они умеют работать с электричеством, на нем построена наша техническая цивилизация. Потому стоит обратить внимание на оставшийся 1% синапсов, они-то как раз электрические: изменение потенциала мембраны нейрона открывает канал в синапсе и по нему ток ионов идет из одной клетки в другую. А потом канал закрывается. То есть в основе работы мозга (ну, 1% его части) лежит импульсный ионный ток. Интересно, что у низших животных электрические синапсы распространены гораздо в большей степени, чем у человека.

Числовые характеристики электрической биомашинерии таковы.

Площадь нейрона измеряется в десятых долях квадратного микрона, а толщина синапса — 20–40 нм. Каждое синаптическое событие, то есть импульс ионного тока через него, требует одного фемтоджоуля энергии, а всего мозг потребляет 20 Вт мощности. Время, затрачиваемое клеткой на прохождение импульса через синапс и ее возвращение в исходное состояние, занимает от сотен микросекунд до сотен миллисекунд. Если исходить из того, что каждый синапс срабатывает один раз в секунду и у каждого нейрона есть десять тысяч синапсов, выходит, что человеческий мозг выполняет квадриллионы операций в секунду. Интересно, что нематода умудряется жить и размножаться, имея в своем распоряжении всего 302 нейрона.

А что с компьютерами? Самый совершенный процессор в 2022 году состоял из 114 млрд транзисторов (предположим, что каждый из них можно принять за аналог нейрона), а в чипах памяти их число уже перевалило за триллион. Размер транзистора измеряется несколькими квадратными нанометрами, время его срабатывания — десятки наносекунд. Процессор персонального компьютера потребляет около100 Вт мощности, а время срабатывания процессора, как следует из данных о тактовой частоте, исчисляется фемтосекундами. Самый мощный суперкомпьютер так же, как мозг, выполняет квадриллионы операций в секунду, правда, для работы ему нужно столько энергии, что приходится ставить специальную электростанцию.

Как видно, по всем параметрам, кроме потребления энергии, кремниевый процессор уже перегнал человеческий мозг, при этом компьютер проводит расчеты по заложенным в программу математическим моделям, которые человек выполнить не в состоянии. А вот сможет ли он решать столь же эффективно насущные задачи той же нематоды или предсказывать заморозки, глядя на бутоны черемухи и потыкав пальцем в небо? Это неочевидно.

Причина в том, что живой мозг не ведет расчета, он анализирует ситуацию, исходя из собственного или унаследованного (генетически либо с помощью обучения) опыта. Поэтому ему и не нужно особого быстродействия или значительной миниатюризации, поэтому и расход энергии столь экономный. Нейроморфный компьютер также должен не столько выполнять заложенные программистом алгоритмы, сколько обучаться и потом использовать постоянно пополняемые знания для решения новых задач. А как такое можно сделать, если в распоряжении человек есть только кремниевый процессор, который умеет обращаться с цифрами и ничего более? Как отказаться от цифры и возможно ли это?

Попытки предпринимают, из цифровых кремниевых процессоров строят искусственные нейронные cети, способные к обучению, но это суррогат. Обучение не приводит к новым знаниям, оно сводится к решению задач оптимизации на основе старых данных, и при этом к мозгу по своей энергетической эффективности, а тем более функциональной гибкости такие сети и близко не могут подойти. Как оказалось, дело не только в отсутствии идей, но и в наличии материалов, из которых можно сделать настоящий аналог нейрона и синапса.

Все изменилось в 2008 году, когда в лексиконе электротехников появилось новое слово: мемристор. Именно на это устройство возлагают надежды все создатели нейроморфной машины будущего.


Сопротивление памяти

История была такая. В 1971 году Леон Чуа (Leon О. Chua) из Университета Пердью высказал следующее соображение. У нас в электротехнике есть четыре базовые переменные. Это заряд, электрический ток, напряжение и магнитный поток. Заряд представляет собой интеграл от протекающего тока, магнитный поток можно выразить как интеграл от изменения напряжения; напряжение и ток связаны через сопротивление, заряд и напряжение — через емкость, магнитный поток и электроток — индуктивность. Сколько выходит уравнений? Верно, пять. А должно быть на эти четыре переменных шесть. Одно, связывающее магнитный поток и заряд, отсутствует. Вот и давайте придумаем такое устройство, которое их свяжет, назовем его мемристором.

Почему так? Потому, что такое устройство ведет себя как сопротивление с памятью. В самом деле, если для электротехники заряд — это интеграл, то есть сумма всего тока, который протек через сеть к настоящему времени, а магнитный поток — аналогичная сумма всех напряжений, то выходит, что на свойствах мемристора, связывающих заряд с потоком, скажется вся история этой сети. В этом его принципиальное отличие от сопротивления. Например, если подавать на сеть с мемристором импульсное напряжение, то амперметр, включенный в сеть, покажет не импульсное, а ступенчатое изменение тока в ней.

Леон Чуа, помимо прочих приводит в своей основополагающей статье (IEEE Transactions On Circuit Theory, 1971, 18, 5) пример прибора, который ведет себя и как мемристор, и как синапс. Это так называемая Е-ячейка: она выключает ток после того, как через сеть протек определенный заряд. У нее в серебряную емкость опущен золотой электрод с серебряным покрытием; стенки ячейки служат вторым электродом. Под действием напряжения серебро уходит с золотого электрода и осаждается на серебряной стенке, обеспечивая электрический ток. А когда серебро израсходовано, ток прекращается. То есть ячейка сначала имеет низкое сопротивление, а потом оно становится высоким; фактически ячейка запомнила, сколько тока через нее протекло. Для восстановления ячейки нужно пропустить ток в обратном направлении. Именно так проходит ток ионов и через синапс: сначала сопротивление ему мало, а после перемещения определенного заряда сопротивление растет, ток прекращается и нужно провести перезарядку.

Зачем такое устройство нейроморфной машине? Подумаем, как работает нейрон. Сигнал ему пытаются передавать тысячи соседей, которые дотянулись отростками своих аксонов до его дендритов или мембраны. Как выбрать наиболее значимый сигнал? Оказывается, самым-самым будет тот, что приходит от постоянного партнера. Это называется правилом Хебба по имени канадского физиолога Дональда Хебба, который в 1949 году предложил механизм, чтобы объяснить процесс обучения.

Согласно его теории, при учении, матерью которого, как мы знаем, служит повторение, клетки мозга объединяются в группы: если они раз за разом используют друг друга для выполнения какой-то функции, между ними усиливаются синаптические связи. При этом даже сами клетки меняются: в них случаются какие-то физиологические сдвиги.

Мемристор, сопротивление которого становится тем меньше, чем больше тока через него протекло, оказывается идеальным устройством для организации таких, усиливающихся, связей между искусственными нейронами. Мемристор становится и хранилищем памяти: он обеспечивает прохождение сигнала раз за разом по одному и тому же пути. И, что важно, при этом нет компьютера, который выполняет вычисления, скажем, вычисляет, сколь часто нейроны взаимодействуют между собой, и по итогу задает сопротивление соединяющего их пути.


Прорыв тонкой пленки

Про работу Леона Чуа забыли на долгие тридцать с лишним лет: вплоть до 2008 года можно найти лишь четыре ссылки на его статью, да и то две из них принадлежат самому автору. Причин тут две. Во-первых, для стремительно развивающейся цифровой техники с ее полной определенностью и необходимостью все точно посчитать, какие-то мутные операции, не подлежащие счету, были мало кому интересны. А во-вторых, не было материала, в котором можно создать сопротивление, зависящее от прошедшего тока. Точнее, такой материал не могли выявить. Однако в 2008 году исследователи из компании «Hewlett Packard» во главе со Стенли Уильямсом (R. Stanley Williams) рассказали в журнале «Nature» о создании первого мемристора. Его сделали из пленки диоксида титана, присоединенной к двум платиновым электродам.

Вообще-то диоксид титана ток не проводит. Однако у материаловеда всегда найдется хитрый обходной путь, следуя которому удается заставить материал вести себя неестественным образом. Например, если сделать не чистое соединение TiO2, а взять несколько больше титана, чем надо, тогда кислорода на все атомы титана не хватит и получатся кислородные вакансии — пустые места в тех узлах решетки, где должен быть кислород. Вокруг такой вакансии и формируется область, где проводимость возможна.

Американские ученые сделали полоску диоксида из двух участков. К первому электроду примыкал участок с дефицитом кислорода, а ко второму — из полноценного соединения. То есть половина полоски как будто могла проводить ток, а вторая этому току препятствовала.

Хотя кислородная вакансия, в сущности, пустое место, тем менее она фактически обладает электрическим зарядом. Поэтому под напряжением вакансия может двигаться. Не быстро, ведь речь идет о перемещении атомов в твердом теле, а не о токе электронов. При одном знаке приложенного напряжения вакансии двигались к первому электроду: пленка оставалась изолятором. А при другом просачивались ко второму электроду, создавая проводящие каналы. Тогда сопротивление падало, и тем сильнее, чем дольше тек ток или чаще включали напряжение. Если же напряжению опять меняли знак, вакансии двигались в обратную сторону, каналы разрушались и сопротивление снова росло. В общем, мемристор.

Почему же идею Леона Чуа удалость реализовать в металле спустя почти сорок лет после ее появления? Дело не только в идейных, но и в технических трудностях. Оказалось, что у такого устройства разница сопротивлений в проводящем и непроводящем состоянии обратно пропорциональна толщине. Американцы его заметили на пленках нанометровой толщины. Однако в семидесятые годы нанометровые пленки никто не умел делать (технологию изготовления процессоров из пленок толщиной 90 нм создали только к 2002 году), а на микронных мемристические эффекты не видны: различие сопротивлений в миллион раз меньше, чем у нанометровых.

Эта новаторская работа породила целое направление в материаловедении. Специалисты из разных стран стали делать аналогичные тонкопленочные мемристические устройства из оксидов разных металлов: алюминия, ванадия, гадолиния. Сейчас самым модным считается оксид гафния. Результат таков: главный интерес вызывает использование оксидных мемристоров для создания чипов памяти. Они весьма надежны и очень быстры — время записи и стирания информации исчисляется наносекундами.


Минимальная собака Павлова

А что же с использованием свежеобретенных мемристоров для создания нейроморфов? Движение по этому пути идет, и первыми на него вступили исследователи из Кильского университета Христиана Альбрехта во главе с Мартином Циглером (Martin Ziegler) в 2012 году. С помощью мемристора они построили простейшую модель поведения живого существа: электронную собаку Павлова. Для этого понадобился один-единственный мемристор в качестве и нейрона, и синапса.

Напомним, что в опытах лауреата Нобелевской премии за 1904 год И.П. Павлова собаке давали еду и при этом звенел звонок. У животного вырабатывался условный рефлекс: звонок — будет мясо — надо готовиться к пищеварению — выделять желудочный сок. И действительно, после закрепления рефлекса сок появлялся по звонку даже без наличия мяса.

У электронной собаки Циглера нет ушей, чувствительного носа и желудка. Да и мозгов из нейронов-аксонов тоже. На единственный мемристор подали напряжение от воображаемых ушей (звонок) и носа (мясо). В принципе, так все и устроено в реальности: электрический сигнал от органа чувств идет к нейрону мозга, а тот переправляет команду исполнительным органам; у живой собаки — отвечающим за капли желудочного сока. У электронной собаки и этот орган существовал в воображении экспериментаторов — им было достаточно, чтобы ток на выходе из мемристора существовал. Эксперимент удался: безмозглая мемристорная собака научилась давать «желудочный сок» по «звонку»! И как положено в мемристической системе, без всяких математических моделей физиологии и расчетов по ней на суперкомпьютерах.




В опытах Циглера и его коллег на мемристор подавали напряжение из двух источников. Одно было переменным и колебалось так, что не достигало значения, необходимого для перехода мемристора в хорошо проводящее состояние. А на фоне этих колебаний следовали импульсы достаточно большого напряжения, чтобы такой переход состоялся. Первое означало звонок, второе – мясо, то есть у электронной собаки звонок в ушах звенел с некоторой периодичностью, а мясо давали время от времени. Пока мясо не начали давать, звонок никак не действовал: мемристор ток не проводил, то есть желудочный сок не капал. Но вот дали мясо раз, дали другой, звонок в это время звенел, и чудо: мемристор запомнил, что через него течет ток, он стал открываться уже только по звонку. Получился полный аналог приобретенного рефлекса собаки Павлова.




Проблема плоского мышления

С изготовлением мемристора из тонкой пленки оксида металла рассуждения о том, что хорошо бы создать машину, использующую для своего обучения не алгоритм, прописанный программистом, а правило Хебба, перешли из области мудрствований теоретиков в практическую плоскость. Однако довольно скоро выяснилось, что найденный способ нехорош: применение технологии микроэлектроники с ее напылением неорганических составов в виде тонких пленок на плоские подложки отнюдь не ведет к созданию мало-мальски мощной нейроморфной машины. Почему так?

Присмотримся к собаке Циглера. Да, условный рефлекс у нее сформировали, а что дальше? Он же впечатан в эту схему навсегда. Где обещанная гибкость, адаптация мозга к новым условиям? Где способность решать какие-то другие задачи? Для этого, очевидно, нужно по меньшей мере стирать память мемристора и «программировать» собаку заново. Скажем, чтобы она попеременно давала желудочный сок то на «звонок», то на «свет». Сделать такую схему гораздо сложнее. Вот, например, работа Джеффа Сана (Jeff K.Y. Sun) из Калифорнийского университета в Беркли, где он выполнил магистерскую диссертацию в 2015 году.

Задача была построить схему из двух электронных нейронов, которая работала бы как в живом мозгу. То есть чтобы первый нейрон получал сигналы от своих дендритов, оценивал значимость каждого сигнала, суммировал их, формировал потенциал действия и передавал на следующий нейрон с тем, чтобы тот оформил сигнал и отправил его на выход. А затем, после отправки сигнала, оба вернулись в исходное состояние, как это делают настоящие нейроны. Всю схему напылили на подложу, поставили мемристор в качестве синапса между обоими нейронами, а для проверки соорудили собаку Павлова из двух сенсорных нейронов и одного исполнительного.

Схема работала исправно, но далось это нелегко. Например, чтобы обеспечить возвращение нейронов в исходное состояние, пришлось добавлять выпрямители, конденсаторы, направлять часть тока в обратную сторону. В общем, все оказалось гораздо сложнее, чем у Циглера: на один нейрон потребовалось 25 транзисторов, по 5 транзисторов на каждый дендрит, и 70 транзисторов плюс один мемристор для каждого синапса. С учетом того, что число нейронов в головном мозгу человека составляет сто миллиардов, а число синапсов исчисляется квадриллионами, очевидно, что методами микроэлектроники сделать что-то подобное не представляется возможным. И дело не только в этих огромных числах.

Микроэлектроника принципиально имеет дело с плоскими объектами, суть ее технологии состоит в напылении пленок на плоские подложки. Уйти в третье измерение присущими ей методами очень сложно, а может быть, и невозможно. А без этого никак не обеспечить нужную плотность связей нейронов со столь огромным числом соседей, как это происходит в трехмерном мозгу. Добиться случайной переменчивости связей и взаимного влияния элементов друг на друга в микроэлектронике с ее полным порядком на микросхеме и вовсе невозможно.


Показательное выступление органики

В начале второго десятилетия XXI века исследователей захватила идея попробовать органические проводящие материалы, ведь для работы с ними необязательно использовать пленочные технологии. Объектами их работ служат самые разные полимеры — от синтетических до натуральных вроде белков паутины шелкопряда, хитозана или цепочек ДНК. Расскажу более подробно об отечественном опыте, основываясь на защищенной в 2018 году докторской диссертации В.В. Ерохина из НИЦ «Курчатовский институт»: свои работы по созданию устройств для нейроморфов из органики он начал еще в 2005 году.

Возглавляемая В.В. Ерохиным научная группа сейчас работает с полианилином. Напомним, что за открытие электропроводящих полимеров Нобелевскую премию по химии за 2000 год получили Алан Хигер, Алан Макдиармид и Сирокава Хидеки. Первым был полиацетилен, который в качестве материала непригоден, а вот полианилин оказался отличной находкой: его просто изготовить, он устойчив к влаге и кислороду воздуха. Этот полимер способен находиться в нескольких состояниях: от полностью окисленного до полностью восстановленного с соответствующим изменением проводимости в сотню миллионов раз. Стало быть, для создания мемристора нужно, манипулируя электричеством, проводить обратимую окислительно-восстановительную реакцию. Это можно сделать, подав такую разность потенциалов, которая сделает реакцию возможной, а еще обеспечить приток ионов, чтобы те компенсировали электрический заряд, возникающий на полимерной цепочке при реакции.

Базовое устройство, получившееся у В.В. Ерохина и его коллег из РФ и Италии, выглядело так. К двум концам длинной полоски из полианилина прикрепили электроды, один из них заземлили, а посередине, поперек полоски, положили пластинку твердого электролита из полиэтиленоксида. Его используют в литиевых батарейках, поэтому логично, что в электролит добавили соль лития. В эту пластинку поместили третий электрод, который тоже заземлили.

При подаче на схему напряжения события могли развиваться по трем вариантам. Первый: напряжение препятствует движению ионов лития; никакого тока нет. Второй: литий движется внутрь полианилиновой полоски, однако сама она в проводящее состояние не переходит, напряжение маловато; есть слабый ток из-за движения ионов. Третий: и литий течет как надо, и напряжения достаточно для превращения полианилина в проводник; течет большой ток ионов и электронов. И чем больший заряд в этом, третьем, случае протечет, тем сильнее упадет сопротивление. В теории Хебба это называется «обучение без учителя»: система укрепляет те каналы, которые чаще использует.

А может ли эта система забыть, что с ней было? Да. Если приложить напряжение по первому варианту, то пойдет отток лития, начнется обратная реакция и полианилин станет изолятором. Различие сопротивлений между проводящим и непроводящим состояниями в реальном материале оказалось меньше, чем давала теория. Но за счет хитрых манипуляций его удалось довести до ста тысяч раз. В общем, полианилин с присоединенным к нему полиэтиленоксидом насыщенным литием, работает как надежная мемристическая система.


Улитка против собаки

Сделав мемристор, было логично опробовать его в известных и в новых экспериментах: собрали собаку Павлова и улитку. Собака была как собака, не хуже, чем у коллег: после обучения «мясом» ток по «звонку» был в полтора раза больше, чем до «обучения» Будь этот ток питанием для устройства, дающего капли желудочного сока, то наблюдатель увидел бы то же самое, что и Павлов в своих опытах.

Задачу усложнили и стали чередовать «мясо», положительный стимул, с «плетью», отрицательным стимулом, то есть на соответствующий контакт мемристора подавали напряжение, препятствующее переходу его в проводящее состояние (Павлов животных не бил, но современные физиологи в качестве отрицательного воздействия используют удар током). Электрическая собака вела себя как живая: если ее учили «мясом», она охотно пропускала электрический ток от сигнала «звонок», а когда били «плетью», ток от «звонка», наоборот, падал. А потом, при новом обучении «мясом», проводимость снова росла, причем в большей степени, чем в первой серии опытов, до использования «плети».

В отличие от собаки, мемристорную улитку никто не делал, В.В. Ерохин с коллегами оказались в передовиках. Обычно при наличии пищи улитка начинает делать глотательные движения. Однако можно научить совершать их уже при прикосновении пищи к ротовому отверстию. Обучается улитка очень быстро, и главную роль тут играют специальные клетки, которые обеспечивают долговременную память: они усиливают сигнал, идущий от сенсорного нейрона.

Улитка Ерохина состояла из двух мемристоров: один был исполнительным, а второй управляющим: сигнал от «звонка» шел через него, а от «мяса» — напрямую к исполнительному мемристору. Опять напряжения, подаваемого на вход «звонка», не хватало на перевод обоих мемристоров в проводящее состояние. Как и у собаки, у улитки, когда сигнала от «мяса» не было, на выходе получали слабый ионный ток. А вот демонстрация «мяса» привела к гораздо более надежному результату: если у собаки Павлова ток возрастал в полтора раза, то обученная улитка давала его увеличение в пять раз.

Так электроника показала, что использование усиливающих нейронов существенно улучшает обучение как неживой электроники, так и живых существ. Ну и, конечно, эта работа подтвердила, что с мемристорами действительно можно легко создавать очень близкие аналоги живого мозга. Пока что — примитивных существ.


Каналы в комке нервов

А что у нас с трехмерными системами? Оказывается, органическая электроника и здесь не подкачала. В простейшем случае такая система представляет собой просто комок из переплетенных волокон полианилина и насыщенного солью лития полиэтиленоксида. В этот комок при изготовлении был помещен серебряный электрод. И подобная, совершенно случайная система оказалась способна к обучению!

Выглядело это так. К комку подключили один входной электрод и два выходных. До обучения в них тек одинаковый ток. Но вот провели обучение, а именно на первый электрод подали потенциал, который способствовал переходу полианилина в проводящее состояние, а на второй, наоборот, — подавляющий переход. Так вот, в системе случайным образом сформировался хорошо проводящий канал, ведущий к первому электроду, и после обучения ток по нему был в десять раз сильнее, чем исходно. А на втором электроде он не изменился.

Почему кого-то должны волновать некие проводящие каналы в комке полимерных волокон? Ответ можно найти у автора исследования. В.В. Ерохин пишет так: «Процесс мышления может быть схематически связан с усилением/подавлением соответствующих путей прохождения сигнала, происходящий после того, как были проанализированы массивы внешних стимулов, но необязательно в момент их получения. Размышления не требуют новых стимулов — возможно, просто происходит адекватный выбор участков сети (участков нервной системы для простых организмов и достаточно простых задач; мозга для сложных аналогий и абстракций) для того, чтобы наложить на них новые (что не всегда обязательно) полученные стимулы и сформировать новые ассоциации». То есть формирование проводящих каналов превращает даже такие, крайне несовершенные, объемные мемристические системы в простейшие аналоги мозга.



Система из ничем не скрепленных, а просто спутанных волокон оказалась нестабильна, и уже через 40 минут проводимость в сформированном канале исчезала. Причина, видимо, в том, что из-за прохождения тока волокна нагревались, смещались и контакты терялись. Тогда аналогичную структуру сформировали в порах целлюлозной губки. Эта система работала гораздо надежнее. Был испробован и третий способ: подготовили твердый композит из обоих полимеров и золотых наночастиц. На нем также поставили интересные опыты по параллельному и последовательному обучению с известным принципиальным результатом: в мемристической системе, даже не задумываясь о ее внутреннем устройстве, можно по своему желанию создавать каналы с высокой и низкой проводимостью и так определять правила ее последующего функционирования.




Мемристическая личность

Интересно, что у полученных трехмерных мемристических систем уже заметны свойства, характерные для живого мозга. Например, у каждого комка волокон, у каждой наполненной полимерными волокнами губки имеется своя индивидуальность — она проявляется в разной величине тока, протекающего по сформированному в результате обучения каналу.

И это не единственная аналогия. Вот как пишет В.В. Ерохин: «Представляется интересным сравнить поведение разработанной системы с некоторыми свойствами мозга. В отличие от компьютеров, мозг человека и животных не является системой с полностью идентичной архитектурой: мозг каждого индивидуума имеет свои характерные связи даже внутри одного вида. Поэтому, несмотря на наличие предопределенных структурных особенностей, мозг может быть рассмотрен, до некоторой степени, как стохастическая система распределенных нейронов и связей между ними. Обучение отвечает за функциональное ‘структурирование’ мозга посредством усиления и/или ослабления путей прохождения сигнала. Поведение нашей системы во время последовательного обучения может быть связано с детским обучением или импринтингом. В детстве устанавливаются сильные ассоциации между явлениями, которые могут сохранять стабильность на протяжении всей жизни. Глубокое обучение требует концентрации на одном типе ассоциации в течение значительного периода времени. При этом импринтинг предполагает значительное ослабление связей, не задействованных на ранних стадиях обучения.

Одновременное обучение нашей системы, напротив, можно сравнить с повседневной жизнью взрослого человека, призванного решать имеющиеся проблемы в соответствии с наличием внешних стимулов и накопленного опыта. Это приводит к краткосрочным ассоциациям, которые могут измениться (если, конечно, они не часто повторяются) при изменении внешних стимулов. В мозгу механизм ‘нестираемой памяти’ основан на уничтожении связей, с одной стороны, и на усилении оставшихся, с другой стороны: в различных частях нервной системы скачки числа образования связей происходят в определенном возрасте, за которым следует отсечение некоторых ветвей аксонов и синапсов. Степень отсечения зависит от богатства окружающего мира: наибольшее отсечение происходит после сенсорного недостатка в критический период.

Таким образом, обучение в критическом возрасте играет фундаментальную роль в образовании черт, которые будут присущи индивидууму, так как оно вносит вклад в формирование зрелой анатомической сети. Последующее обучение ограничивается только усилением синапсов уже сформированной анатомической сети. Как описано выше, предполагается, что механизм возникновения сильного и стабильного обучения основан на усилении многочисленных параллельных путей прохождения сигнала между входными и выходными электродами, в отличие от ситуации слабого и обратимого обучения, когда происходит усиление малого числа параллельных путей прохождения сигнала».

Органическая электроника, несомненно, требует совсем иных подходов, нежели привычная нам электроника кремниевая. В системах полимерных мемристоров царит не строгий кремниевый порядок, а хаос, в них работает случайность. Однако в живых системах стихия случайности оказывается под контролем. Она оборачивается возникновением закономерностей и, соответственно, недостижимыми для кремниевого порядка эффективностью и расходом энергии. Исследователи ищут ключи, как овладеть тайнами управления стихией хаоса, и, как видно, кое-какие успехи у них имеются.

Из повестей Стругацких можно рассчитать, что появление живых и полуживых машин приходится на вторую половину XXI века. У творцов нейроморфной машины вполне есть запас времени, чтобы успеть к этому сроку.


pic_2022_05_20.jpg

В зависимости от степени окисления полианилина его сопротивление меняется в сотни миллионов раз, самое маленькое у пернигранилина. Превращение эмералдина в пернигранилин и обратно обеспечивает работу полианилинового мемристора


Разные разности
Камни боли
Недавно в МГУ разработали оптическую методику, позволяющую определить состав камней в живой почке пациента. Это важно для литотрипсии — процедуры, при которой камни дробятся с помощью лазерного инфракрасного излучения непосредственно в почках.
Женщина изобретающая
Пишут, что за последние 200 лет только 1,5% изобретений сделали женщины. Не удивительно. До конца XIX века во многих странах женщины вообще не имели права подавать заявки на патенты, поэтому частенько оформляли их на мужей. Сегодня сит...
Мужчина читающий
Откуда в голове изобретателя, ученого вдруг возникает идея, порой безумная — какое-нибудь невероятное устройство или процесс, которым нет аналогов в природе? Именно книги формируют воображение юных читателей, подбрасывают идеи, из которых выраст...
Пишут, что...
…археологи обнаружили на стоянке мамонтов Ла-Прель в округе Конверс бусину, сделанную из кости зайца, возраст которой составляет около 12 940 лет… …астрофизики впервые обнаружили молекулы воды на поверхности астероидов Ирис и Массалия… ...