иконка меню

Kaspersky
Neuromorphic
Platform

Платформа машинного обучения с открытым исходным кодом,
предназначенная для проведения исследований в области импульсных
нейронных сетей (ИмНС) и когнитивных архитектур, а также создания
на их основе коммерческих продуктов.

Преимущества и применение нейроморфного ИИ

По аналогии с биологическими нейронными сетями, функционирование ИмНС асинхронно, локально и зависит от событий: активны и потребляют энергию только нейроны и синапсы, получившие импульсы.

Для оптимального выполнения такого типа вычислений применяются специальные вычислительные устройства – нейроморфные процессоры. Нейроморфные процессоры основаны на тех же биоинспирированных принципах, что и ИмНС, и имеют архитектуру, построенную в соответствии с концепцией «вычисления рядом с памятью».

Сочетание ИмНС и нейроморфных процессоров позволяет создавать ИИ-решения, обладающие высокой производительностью и существенно меньшим (как правило, на несколько порядков) энергопотреблением по сравнению с аналогичными ИИ-решениями, использующими традиционные искусственные нейронные сети и CPU или GPU платформы.

Энергоэффективность и производительность делают нейроморфный ИИ крайне многообещающей технологией для стремительно растущего сегмента промышленных и потребительских конечных устройств с ИИ (Edge AI), таких как:

  • сенсоры, датчики и контроллеры Интернета вещей (IoT);
  • автономные (мобильные) роботы, в том числе самообучающиеся и с нейроуправлением;
  • устройства умного дома;
  • носимая электроника: медицинские устройства, смартфоны, планшеты, умные часы, фитнесс-браслеты, наушники, очки виртуальной и дополненной реальности.

Основные сведения о Kaspersky
Neuromorphic Platform (KNP)

Две технологии создания импульсных нейронных сетей
Технология ANN2SNN

Преобразование нейронных сетей глубокого обучения (Artificial Neural Network, ANN) в их импульсные аналоги (Spiking Neural Network, SNN). Технология ANN2SNN предполагает обучение нейронной сети методом обратного распространения ошибки с квантованием весов и использованием ступенчатой функции активации нейронов (функции Хевисайда).

Технология ANN2SNN

Пакет ANN2SNN предназначен для создания нейронных сетей, которые можно преобразовать в импульсные нейронные сети и разместить для исполнения на нейроморфном процессоре «Алтай».

Для создания нейронных сетей необходимо использовать специальные тернарные слои, в которых учитываются ограничения нейроморфного процессора «Алтай». Тернарные слои соответствуют слоям библиотеки Keras со следующими отличиями:

  • Входными и выходными данными каждого из слоев нейронной сети являются бинарные тензоры соответствующей размерности.
  • Все веса слоев нейронной сети находятся в диапазоне {-1,0,1}.
  • Значение смещения (bias) в слое нейронной сети находится в диапазоне от -32 768 до 32 767.

Подробная техническая информация по пакету ANN2SNN приведена в онлайн справке KNP.
Технология SNN

Разработка топологий (архитектур) и обучение нейронных сетей в импульсном базисе. Технология SNN предполагает локальный принцип обучения нейронной сети на основе биологически реалистичной модели синаптической пластичности, зависящей от времени импульсов (spike-timing dependent synaptic plasticity, STDP).

Технология SNN

В KNP локальный принцип обучения на основе STDP реализуется через различные виды дельта-синапса.

Дельта-синапс – это синапс, который в ответ на каждый спайк, полученный от пресинаптического нейрона, отправляет одно синаптическое воздействие в постсинаптический нейрон для изменения его мембранного потенциала.

В KNP поддерживаются следующие модели синапсов для локального обучения на основе STDP:

  • Дельта-синапс с синаптической пластичностью, зависящей от времени получения спайка. Если импульс (спайк) от пресинаптического нейрона поступает в синапс перед генерацией спайка постсинаптическим нейроном, значение веса синапса увеличивается. Если спайк поступает на синапс после генерации спайка постсинаптическим нейроном, значение веса синапса уменьшается. Вес синапса определяет значение синаптического воздействия, отправляемого в постсинаптический нейрон.
  • Дельта-синапс с синаптической пластичностью, зависящей от синаптического ресурса. Синаптический ресурс определяется используемой моделью синаптической пластичности. В KNP реализованы Хеббовская, безусловная и дофаминовая модели пластичности.

Подробная техническая информация по компонентам KNP для импульсных нейронных сетей приведена в онлайн справке KNP.
Возможность создания импульсных нейронных сетей с гибкой структурной организацией за счет минимума жёстко принятых решений в программной архитектуре:

1. Фронт-энд - построение сети

2. Бэк-энд - работа сети

3. Между ними - сообщения

Популяция нейронов

Группа нейронов с одинаковым набором параметров

Синаптическая проекция

Группа синапсов с одинаковым набором параметров, связывающая две популяции

Сообщение

Единица информационного обмена в модели ИмНС. Примерами сообщений являются импульсы (спайки), испускаемые нейронами, и синаптические воздействия, генерируемые синапсами

Интеграция с российским нейроморфным
процессором «Алтай»

KNP поддерживает в качестве одного из аппаратных бэкендов российский нейроморфный процессор «Алтай». Нейроморфный процессор «Алтай» — совместная разработка компаний Мотив-Нейроморфные Технологии и Лаборатории Касперского.

В первом (текущем) поколении процессора «Алтай» реализована возможность инференса импульсных нейронных сетей.

Следующее поколение процессора «Алтай» (планируемый выход – 2026 г.) будет поддерживать возможность инференса и обучения импульсных нейронных сетей непосредственно на процессоре.

Модульная архитектура
Основные программные компоненты KNP:
  • Фреймворки для разработки на Python и С++;
  • Бэкенд для CPU (обучение, инференс);
  • Бэкенд для нейроморфного процессора «Алтай» (инференс);
  • Бэкенд для GPU (в разработке);
  • Программный эмулятор нейроморфного процессора «Алтай» («золотая модель»).

Обратная связь

Для обсуждения возможностей сотрудничества напишите нам
на neuro@kaspersky.com или воспользуйтесь формой обратной связи

Мы используем файлы cookie, чтобы сделать работу с сайтом удобнее. Продолжая находиться на сайте, вы соглашаетесь с этим. Подробную информацию о файлах cookie можно прочитать здесь.

Принять и закрыть