Нейроморфные вычисления — следующий глобальный шаг в создании искусственного интеллекта — уже на подходе. Только на прошлой неделе в двух исследованиях были представлены компьютерные чипы, смоделированные на основе обработки информации из человеческого мозга.
Первый, опубликованный в Nature Materials, представляет идеальное решение для борьбы с непредсказуемостью синапсов (разрыв между двумя нейронами, которые передают и хранят информацию). Второй, опубликованный в Science Advances, еще больше усиливает вычислительную мощность системы, заполняя синапсы нанокластерами сверхмагнитного материала для ускорения кодирования информации.
Результат? Нейроморфные аппаратные системы, которые вычисляют быстрее и эффективнее, чем человеческий мозг.
«В конечном итоге мы хотим, чтобы чип размером с ноготь заменил один большой суперкомпьютер», — сказал д-р Живан Ким, который возглавлял первое исследование в MIT на эту тему.
«Мы видим кучу пустого информационного шума и приятно видеть среди всего этого качественную работу, представленную объективным образом», — говорит д-р Карвер Мид, инженер California Institute of Technology в Пасадине, не участвовавший в проведенной MIT работе.
От компьютерных программ до физического оборудования
Человеческий мозг — безусловный волшебник вычислений. Примерно с 100 миллиардами нейронов, плотно упакованных в размер небольшого футбольного мяча, мозг может ловко обрабатывать сложные вычисления с молниеносной скоростью, затрачивая на это очень мало энергии.
Но наука не стоит на месте. Так, в течение последних нескольких лет были разработаны алгоритмы, основанные на изучении активности человеческого мозга, которые могут идентифицировать лица, фальсифицировать голоса или играть в различные игры, при этом зачастую уже сейчас превосходя человеческие возможности.
Правда есть одна проблема — программное обеспечение является лишь частью этого сложного уравнения. Что же касается техники, то наши современные компьютеры с их транзисторами и двоичной системой счисления не оснащены должным образом для запуска таких мощных алгоритмов.
Вот тут и появляются нейроморфные чипы. Идея проста: изготовить компьютерный чип, имитирующий человеческий мозг на аппаратном уровне. Данные обрабатываются и сохраняются в чипе непрерывно, но каждый искусственный синапс может независимо накапливать и объединять мелкие биты информации из нескольких источников и обрабатывать только тогда, когда он достигает порога, аналогичного существующему в его биологическом аналоге.
Эксперты считают, что рост скорости и эффективности вычислений в таких системах будет огромным.
Во-первых, чипам больше не придется передавать данные между центральным процессором и блоками памяти, что отнимает время и энергию. И во-вторых, как и биологические нейронные сети, нейроморфные устройства могут поддерживать нейроны, которые управляют миллионами потоков параллельных вычислений.
«Мозг в одном чипе»
Теперь отбросим оптимизм в сторону, процесс воспроизведения биологического синапса в аппаратной форме не так прост, как кажется.
Нейроморфные чипы существуют во многих формах, но часто выглядят как наноразмерный металлический сэндвич. Такие «сэндвичи» обычно изготавливаются из проводящих пластин, окружающих коммутационную среду — проводящий материал, который действует как зазор в биологическом синапсе.
Когда подается напряжение, как и в случае ввода данных, ионы движутся внутри коммутационной среды, которая затем создает проводящие потоки для стимуляции нижней пластины. Это изменение проводимости имитирует то, как биологические нейроны меняют свой «вес» или силу соединения между двумя соседними нейронами.
До сих пор нейроморфные синапсы были довольно непредсказуемы. По словам Кима, это связано с тем, что коммутационная среда часто состоит из материала, который не может направлять ионы в нужное и точное место на нижней пластине.
«Когда вы подаете напряжение для передачи данных с помощью своего искусственного нейрона, вы должны каждый раз стирать предыдущую информацию, чтобы записать новую», — объясняет Ким. «Но в аморфном твердом теле, когда вы записываете данные снова, ионы устремляются в отличные от предыдущих направления, поэтому тут есть масса недостатков».
В своем новом исследовании Ким и его коллеги заменили аморфную коммутационную среду на кремний — материал с единственной линией дефектов, которая действует как канал для направления ионов.
Чип состоит с тонкой пластины, вытравленной в виде сот, на верхнюю часть которой напыляется кремний и германий, аналогично тому, как часто бывает в транзисторах. Всё вместе это создает воронкообразный канал, который отлично перемещает ионы через искусственный синапс.
Затем исследователи сделали нейроморфный чип, содержащий эти синапсы, и пропустили через него электрический импульс. Невероятно, но реакция синапсов отклонялась всего на 4%, что намного выше, чем в любом нейроморфном устройстве, выполненном с использованием аморфной коммутационной среды.
В компьютерной симуляции команда разработала многослойную искусственную нейронную сеть, используя параметры, полученные после измерений с чипа. После десятков тысяч циклов обучения их нейронная сеть правильно распознала примеры в 95% случаев, что всего на 2% ниже, чем в самых современных программных алгоритмах.
Каков потенциал роста? Нейроморфные чипы требуют гораздо меньше места, чем аппаратное обеспечение, использующее алгоритмы глубокого обучения. Забудьте про суперкомпьютеры — эти чипы смогут в один прекрасный день выполнять самые сложные вычисления прямо на наших мобильных устройствах.
Магнитное усиление
Между тем, в штате Колорадо, д-р Майкл Шнайдер из National Institute of Standards and Technology также пришёл к мысли, что стандартная коммутационная среда должна кануть в лета.
«Должен быть лучший способ сделать это, просто потому что природа придумала этот лучший способ», — говорит он.
Его ли у Шнайдера решение? Магнитные нанокластеры марганца.
Микросхема Шнайдера содержит два куска сверхпроводящих электродов, изготовленных из ниобия, которые пропускают электричество без сопротивления. Когда исследователи применяли к синапсу различные магнитные поля, они могли контролировать выравнивание «заполнения» марганца.
Коммутатор дал чипу двойной импульс. Во-первых, путем выравнивания коммутационной среды команда теперь может прогнозировать ионный поток и повышать однородность. А во-вторых, магнитный марганец сам по себе добавляет вычислительную мощность. Чип теперь может кодировать данные как на уровне электрического ввода, так и на направлении магнетизмов без увеличения синапса.
Это серьезно сработало. Чипы «стреляли» один миллиард раз в секунду, что на несколько порядков быстрее, чем человеческие нейроны. Кроме того, чипы требовали только одной десятитысячной энергии, используемой их биологическими аналогами, все время синтезируя входные данные из девяти различных источников.
Что будет дальше?
Эти исследования показывают, что мы можем приблизиться к эталону, где искусственные синапсы соответствуют или даже превосходят их человеческие аналоги.
Но как говорит д-р Стивен Фербер, эксперт в области нейроморфных вычислений — «У нас все еще есть сложности, прежде чем чипы начнут распространяться повсеместно.»
По его словам, многие из материалов, используемых в этих чипах, требуют при использовании определенных температур. Например, магнитные марганцевые стружки требуют температуры около абсолютного нуля, а это означает, что они нуждаются в гигантских охлаждающих баках, заполненных жидким гелием, что явно не практично для повседневного использования.
Другая сложность заключается в масштабируемости. Миллионы синапсов необходимы нам до того, как нейроморфное устройство можно будет использовать для решения повседневных проблем, таких как распознавание лиц.
Но эти проблемы могут быть лишь движущей силой проводимых исследований и испытаний. Также интенсивная конкуренция подталкивает команды к изучению новых идей и решений подобных проблем, как и описанные в статье, недавно выпущенные исследования.
Если это так, будущие чипы могут появляться в разных вкусах. Подобно нашему обширному набору алгоритмов глубокого обучения и операционных систем, компьютерные чипы будущего также могут варьироваться в зависимости от конкретных требований и потребностей.
По словам Фурбера, стоит развивать как можно больше различных технологических подходов, тем более, что неврологи все больше понимают, что делает наши биологические синапсы — окончательное вдохновение — настолько удивительно эффективным.