Письма в ЖЭТФ, том 101, вып. 4, с. 289-293 © 2015 г. 25 февраля
Перколяционный переход в активных нейронных сетях
с адаптивной геометрией
Ф. Д. ИудинД. И. Иудин, В. Б. Казанцев
Нижегородский государственный университет им. Лобачевского, 603950 Н. Новгород, Россия Институт прикладной физики РАН, 603950 Н. Новгород, Россия
Поступила в редакцию 28 ноября 2014 г.
После переработки 12 января 2015 г.
В статье предлагается математическая модель нейронной сети, морфологическая структура которой динамически меняется в зависимости от активности. Это свойство так называемой структурной пластичности, типичное для развивающихся нейронных систем мозга. Показано, что спонтанная генерация и распространение сигнала в таких сетях отвечают перколядионному переходу и возникновению компоненты связности, охватывающей всю систему. Более того, адаптивное изменение геометрической структуры сети приводит к кластеризации клеток и снижению эффективного порога перколядии, что соответствует экспериментальным наблюдениям нейробиологов.
БО!: 10.7868/80370274X15040116
Для исследования принципов распространения биоэлектрических сигналов и обработки информации в нейронных сетях мозга в современной нейро-биологии часто используются так называемые нейронные культуры [1—4]. Это диссоциированные клетки мозга животных, которые в питательной среде начинают развиваться и формировать живые нейронные сети, генерирующие биоэлектрические разряды. Механизмы генерации таких разрядов, как считается, подобны механизмам работы нейронных сетей в целом мозге. Одной из интересных особенностей культуральных сетей является изменение их морфологической архитектуры в развитии (в биологии структурная пластичность), связанное с перемещением клеток по подложке и возникновением новых связей, что, в свою очередь, приводит к изменениям сигналов активности.
С точки зрения нелинейной физики биоэлектрические разряды в нейронных культурах представляют собой лавинообразный процесс спонтанного возникновения электрических импульсов в локальных клетках и распространения его по сети за счет межнейронных связей (в биологии синапсов) [5]. Статистика этих сигналов, как показано в экспериментальных и модельных исследованиях, подчиняется характеристикам самоорганизованной критичности и является степенной [2, 3]. Сигналы спонтанной активности культур представляют собой последовательности кратковременных (пачечных) разрядов, состоя-
Че-таП: fd.iudin@gmail.com
щие из квазисинхронных возбуждений большого количества элементов сети [1, 3]. Механизмы генерации таких разрядов в биологии связывают со свойствами синаптической пластичности - зависимостью свойств межнейронной связи от частоты проходящих через эту связь сигналов [6]. Интересным фактом, наблюдаемым в биологических экспериментах, однако не учтенным в существующих моделях сетевой активности нейронов, являются движение нейронов по подложке и их группировка в плотные кластеры [7]. Интересно также, что в развитии нейронной культуры возникновение таких кластеров коррелирует с изменением рисунка сигналов активности от одиночных асинхронных разрядов к квазисинхронной пачечной активности [4].
В данном письме с помощью сравнительно простой феноменологической модели, построенной на основе теории перколяции, мы покажем, что квазисинхронная пачечная активность соответствует критической динамике и перколяционному переходу -"протеканию" биоэлектрического разряда по синап-тическим связям между подавляющим большинством нейронов сети. Более того, введение обратной связи, соответствующей перемещению нейронов по двумерной подложке в зависимости от градиента активности, приводит к формированию нейронных кластеров и снижению эффективного порога перколяции.
Рассмотрим основные особенности математической модели. Модель строится в двумерной геометрии, описывая монослой нейронов диссоциированной
культуры [1—4]. Отдельный нейрон моделируется в плоской перколяцнонной модели в виде окружности заданного радиуса, которая характеризует область приема входных сигналов от других нейронов и условно называется дендритной зоной (в биологии дендрит - входной отросток). Аксон (в биологии выходной отросток) в данной системе моделируется как отрезок длины Н > Д, конечная точка которого является передатчиком сигнала (рис. 1). Если конец та-
Рис. 1. Схема строения модельного нейрона
кого отрезка, принадлежащего одному нейрону, попадает в дендритную зону другого нейрона, мы считаем, что сигнал передается от первого нейрона ко второму.
Для описания динамики сети нейронов на двумерной подложке рассмотрим следующую систему уравнений, первое из которых описывает состояние нейрона, а второе - энергетический баланс:
Ej(t + l) = Ej(t)-ß(Ej-E0)~
(1)
Здесь ¡3 > 0 - константа релаксации, 6 - дельта-функция, Ео - энергия насыщения, Е - порог минимальной энергии (0 < Ё < Ео), Н(х) - функция Хевисайда, £ - количество энергии, затрачиваемое на генерацию импульса отдельным нейроном. Функция состояния Fj[Ij(t)] имеет следующий вид:
О, если Ijit) = 1,
Gj[Ij{t)}, если Ij{t)= 0,
Gjlljit)} = max < TL
1-(1 - p)*^1' - Q(t)
, где
распределенные на отрезке [0,1]. H[q — £j(i)] jH(Ej —
U
E)H
0-5- £ Ijit-i)
i3-e[i-T,i]
H
(1 -h)<
E
-Ф)
Сj(t), £j(t), $j(t) - случайные величины, равномерно
Отметим, что нейроны в модели могут возбуждаться как внешним импульсом, так и спонтанно, т.е. существует не нулевая, но достаточно малая вероятность самовозбуждения каждого нейрона. Феноменологическая модель (1), по сути, формализует все основные известные из биофизики закономерности биоэлектрических возбуждений в нейронах [8].
Топология связей в модельной сети при фиксированном параметре 7 = H/R, равном отношению характерной длины аксона к радиусу дендритной зоны, контролируется безразмерным параметром В = = 7гД2??, где п - концентрация нейронов на подложке. Очевидно, что при малых значениях параметра В <С 1 протяженные связные компоненты в сети модельных нейронов отсутствуют и любое спонтанное или вынужденное возмущение в ней распространяться не может. Это полностью соответствует экспериментальным наблюдениям на ранних стадиях развития культур [4]. Наоборот, при В 1 подавляющая часть элементов сети принадлежит единственной связной компоненте, простирающейся на все модельное поле. Для каждого фиксированного значения 7 существует критическое значение параметра Вс, при котором в системе впервые появляется цепочка связанных нейронов, способная передать возбуждение через всю модельную сеть. Максимальная связная компонента в ансамбле нейронов называется перколяционным кластером. Важно подчеркнуть, что интегральная синаптическая проводимость сети определяется именно перколяционным кластером как максимальной связной компонентой. Другими словами, если входное возмущение сети не затрагивает элементов перколяционного кластера, то оно не сможет охватить все модельное поле.
Одной из функциональных особенностей активных сетей нейронов является так называемая синаптическая пластичность. С точки зрения физики пластичность означает изменение силы взаимодействия между элементами ансамбля в зависимости от активности этих элементов. Дополним феноменологическую модель (1) пластичностью связей согласно правилу Хэбба [9]. Введем переменную pik{t), имеющую смысл статистического веса связи между г-м и к-м нейронами, если выполняется условие |oj — < R, где Cj - радиус-вектор j-го нейрона, cij - радиус-вектор конца аксона j-го нейрона, R - радиус дендритной зоны:
Перколяцпонный переход в активных нейронных сетях с адаптивной геометрией
291
1.0
У 0.8
0.6
0.4
0.2
0 0.2 0.4 0.6 0.8 1.0 0 0.2 0.4 0.6 0.8 1.0
х х
Рис. 2. Пространственное распределение нейронов в сети в статическом случае, т.е. случайно однородное распределение (а), и кластерное распределение после адаптивного изменения морфологии сети (Ь)
векторы его соседей, возбужденных в данный момент времени.
Рассмотрим теперь характерные особенности динамики сети с адаптивной морфологией в сравнении со статическим случаем. При отсутствии структурной пластичности динамика модели (1)-(3) выглядит следующим образом. Существует порог перколяции, при достижении которого в сети возникает компонента связности, охватывающая всю систему. Сигналы спонтанной активности сети при этом переходят от одиночных некоррелированных импульсов к квазисинхронным популяционным разрядам [4, 11].
Введение в систему механизма структурной адаптации согласно (4) приводит прежде всего к структурным изменениям, при которых случайно однородное начальное распределение нейронов изменяет свою пространственную топологию и формируются пространственные кластеры (рис.2). Отметим, что формирование подобных кластеров наблюдалось в эксперименте [7].
Рассмотрим теперь, какие изменения претерпевает активность сетей с кластерной архитектурой. Выберем параметры статической части модели (1)— (3) ниже порога перколяционного перехода так, чтобы активность имела вид одиночных некоррелированных импульсов (рис. За). Включим адаптацию. Рис. ЗЬ иллюстрирует растровую диаграмму активности в процессе адаптивной кластеризации сети. Интегральная активность увеличивается, и импульсы группируются в пачечную структуру при достижении кластерной топологии. Сравнивая такую ди-
Pik(t + 1) = Pik(t)( 1 - a) + ap0 + fik(t),
{A[l -Pifc(i)], если Ii(t) = 1,
m = o, ik(t + D = I, (3)
0 в остальных случаях.
Здесь ро - начальная вероятность возбуждения, a -константа диссипации, Д - коэффициент синаптиче-ской пластичности, определяющий, насколько сильно увеличивается вероятность связи при прохождении через нее сигнала.
Отметим, что синаптическая пластичность в биологии определяет механизмы адаптации и обучения нейронных сетей мозга [10]. Представленная перко-ляционная модель учитывает также эффект "забывания", которому соответствует асимптотическое возвращение весов связей к равновесным значениям.
Другим важным свойством нейронных сетей является возможность структурной адаптации (структурной пластичности) в зависимости от активности. Согласно экспериментальным данным [4, 7] эта адаптация заключается в пере
Для дальнейшего прочтения статьи необходимо приобрести полный текст. Статьи высылаются в формате PDF на указанную при оплате почту. Время доставки составляет менее 10 минут. Стоимость одной статьи — 150 рублей.