Нейроморфные
технологии

Нейроморфные технологии машинного обучения основаны на импульсных (спайковых) нейронных сетях и более биологически правдоподобных алгоритмах обучения, использующих механизмы спайковой межнейронной коммуникации и синаптической пластичности. Эти механизмы обеспечивают нейроморфным решениям преимущества в части энергоэффективности и высокой производительности. Наиболее ярко указанные преимущества проявляются при сочетании импульсных нейронных сетей с нейроморфными процессорами и нейроморфными сенсорами.

Импульсные нейронные сети

Импульсные (спайковые) нейронные сети (ИмНС) – это следующее (третье) поколение искусственных нейронных сетей, в которых более точно воспроизводятся принципы работы биологических нейронов и синапсов. ИмНС играют ключевую роль в развитии нейроморфных вычислений, приближая искусственные интеллектуальные системы к их биологическим аналогам.

Ключевые отличия ИмНС от традиционных искусственных нейронных сетей состоят в следующем:

Импульсы вместо чисел

Нейроны обмениваются не действительными числами, а дискретными импульсами (спайками) единичной амплитуды, ровно так, как это наблюдается в реальных живых организмах.

Асинхронность и событийность

Генерация и обработка спайков происходит асинхронно, а не послойно. Генерация спайков является ответом нейрона на некоторое стимулирующее воздействие (событие). При этом передача спайка от пресинаптического нейрона к постсинаптическому нейрону происходит не мгновенно, а может иметь синаптическую задержку.

Время как информативный фактор

Из асинхронного и событийного характера межнейронных коммуникаций следует, что спайковая активность нейронов является отдельным информативным фактором. Это позволяет естественным образом ввести в вычисления дополнительную размерность – время.

Локальность обучения

Для ИмНС наиболее актуален вопрос разработки алгоритмов обучения. Принципы обучения ИмНС отличаются от принципов, лежащих в основе классического метода обратного распространения ошибки, используемого для обучения традиционных искусственных нейронных сетей.

Подробнее

Переменная структура

Возможность адаптации (подстройки) внутренней топологии сети за счет роста и/или отмирания межнейронных связей.

Асинхронный и событийно-управляемый принцип работы ИмНС делает их чрезвычайно энергоэффективными и быстрыми, что открывает широкие возможности для практического применения этого вида нейронных сетей в энергоавтономных устройствах с ИИ, работающих в реальном времени.

Kaspersky
Neuromorphic Platform

Наша исследовательская группа разработала открытую платформу нейроморфного машинного обучения Kaspersky Neuromorphic Platform (KNP).

Используя инструментарий KNP, мы ведем исследования, направленные на создание эффективных методов обучения ИмНС на основе механизма STDP, разработку новых когнитивных архитектур и создание на их основе прикладных решений.

Примеры исследуемых архитектур SNN

Колончато-слоистая архитектура

CoLaNET (Columnar Layered NETwork) [1] – новая архитектура ИмНС с колончато-слоистой структурой для решения задач классификации. Особенностью CoLaNET является сочетание однотипных нейросетевых структур (колонок), соответствующих разным классам объектов, и функционально различающихся популяций нейронов (слоев) внутри колонок. Другая отличительная черта – это новое сочетание анти- Хеббовской и дофамин-модулированной пластичности [2]. Правила пластичности локальны и не используют принцип обратного распространения ошибки.

Cтруктура сети CoLaNET

Пример структуры сети CoLaNET с тремя колонками и пятью слоями в каждой колонке

Структура колонки

Три нижних слоя колонки (learning neurons, WTA, REWGATE) содержат несколько триплетов нейронов. Каждый такой триплет образует микроколонку. Колонка отвечает за класс, а микроколонки – за вариабельность объектов внутри соответствующего класса.

Нейросемантическая архитектура

Принципиально новая когнитивная архитектура (Neuro Semantic Network, NSN), обладающая следующими отличительными чертами:

Расширенная модель нейрона

Расширенная модель нейрона с добавленной упорядоченностью входов (альтернатива позиционному кодированию).

Локальный принцип обучения

Локальный принцип обучения с возможностью обратной связи (подкреплением) от среды (RL) вместо глобального метода на основе обратного распространения ошибки.

Механизм внимания в NSN

Механизм внимания, альтернативный вниманию в архитектуре трансформеров [3]. Обучается не на истории, а конфигурируется пользователем и обучается в динамике, на потоке данных.

Нейрогенез и иерархия признаков

Нейрогенез – место для новых признаков создается в сети, а не отнимается у других признаков. Иерархическая послойная организация нейросети – признак слоя l содержит до 8-ми (гиперпараметр сети) признаков слоя l-1. Обеспечивается экспоненциальный рост сложности, которого хватает на представления самой сложной концепции (альтернатива проектированию LLM).

Принцип минимизации ресурсов

Нейрогенез не должен приводить к неконтролируемому росту сети. Средство контроля и, одновременно, принцип обучения – минимизация представления информации в иерархической послойной сети. Суть подхода – оптимизационная задача поиска наиболее компактного иерархического разбиения на паттерны.

Нейроморфные процессоры

Нейроморфные процессоры вдохновлены принципами работы биологических нейронных сетей и создаются в соответствии с концепцией «вычисления рядом с памятью».

В нейроморфных процессорах вычислительное ядро располагается настолько близко к памяти, насколько это позволяет технология изготовления процессора. В результате, в нейроморфных процессорах, в отличие от вычислительных устройств с классической архитектурой фон Неймана, не возникают избыточные энергозатраты на пересылку данных между памятью и вычислительным ядром. Кроме того, нейроморфная архитектура естественным образом подходит для эффективной реализации асинхронных, событийно-управляемых разреженных вычислений, присущих биологоподобным импульсным нейронным сетям (ИмНС).

Сочетание ИмНС и нейроморфных процессоров позволяет решать задачи ИИ c энергетическими бюджетами на порядки меньшими, чем у аналогичных решений, работающих на CPU или GPU. Это открывает широкие возможности для переноса функций ИИ непосредственно на конечные устройства в соответствии с самыми передовыми технологическими трендами: «ИИ на чипе» и «ИИ на устройстве» (On-chip AI, Edge AI).

Именно поэтому, с каждым годом растет количество компаний и исследовательских центров, которые активно инвестируют в исследования нейроморфных архитектур, а также в разработку и производство нейроморфных процессоров, видя в этих технологиях большой бизнес-потенциал.

Лаборатория Касперского разрабатывает и развивает открытую программно-аппаратную платформу Kaspersky Neuromorphic Platform (KNP), в которой заложена глубокая интеграция с российским нейроморфным процессором «Алтай».

Нейроморфный процессор «Алтай» — совместная разработка компаний Мотив-Нейроморфные технологии и Лаборатории Касперского.

Нейроморфные сенсоры

Нейроморфные сенсоры – третья составляющая нейроморфного ИИ. Это сенсоры с событийным принципом работы, регистрирующие изменения в наблюдаемом процессе.

Примером нейроморфных сенсоров являются нейроморфные камеры (Dynamic Vision Sensor, DVS) [4, 5, 6, 7]. Каждый пиксель DVS-камеры работает независимо. Он порождает импульс (событие) при локальном (соответствующем его позиции) изменении яркости в сцене, вызванном, например, движением объекта. Количество импульсов может достигать сотен миллионов в секунду, что позволяет регистрировать DVS-камерами быстропротекающие процессы.

DVS-камеры, помимо высокой скорости, также обладают большим динамическим диапазоном (>120dB). Благодаря этому они могут эффективно применяться в практических задачах, где нет возможности контролировать внешние условия съемки, например в беспилотных автомобилях или мобильных телефонах.

Ниже приведены примеры изображений, получаемых DVS-камерой:

Светодиод, работающий на частоте до 1.2 kHz

Песочные часы

Дорожная сцена в снег

Список литературы

Развернуть список литературы

1. Kiselev M. Classifying Images with CoLaNET Spiking Neural Network--the MNIST Example //arXiv preprint arXiv:2409.07833. – 2024., доступ https://arxiv.org/abs/2409.07833.
2. Kiselev M. CoLaNET--A Spiking Neural Network with Columnar Layered Architecture for Classification //arXiv preprint arXiv:2409.01230. – 2024., доступ https://arxiv.org/abs/2409.01230
3. Vaswani A. Attention is all you need //Advances in Neural Information Processing Systems. – 2017., доступ https://arxiv.org/abs/1706.03762
4. P. Lichtsteiner, C. Posch, and T. Delbruck, “A 128×128 120 dB 15 µs latency asynchronous temporal contrast vision sensor,” IEEE J. SolidState Circuits, vol. 43, no. 2, pp. 566–576, 2008.
5. Gallego G. et al. Event-based vision: A survey //IEEE transactions on pattern analysis and machine intelligence. – 2020. – Т. 44. – №. 1. – С. 154-180.
6. https://www.prophesee.ai/
7. https://inivation.com/

Обратная связь

Для обсуждения возможностей сотрудничества напишите нам
на neuro@kaspersky.com или воспользуйтесь формой обратной связи