Неокогнитрон
Тип искусственной нейронной сети


Неокогнитрон — это иерархическая многослойная искусственная нейронная сеть, предложенная Кунихико Фукусимой в 1979 году. [1] [2] Она использовалась для распознавания японских рукописных символов и других задач распознавания образов и послужила источником вдохновения для сверточных нейронных сетей . [3]

Ранее, в 1969 году, он опубликовал похожую архитектуру, но с вручную разработанными ядрами, вдохновленными извилинами в зрении млекопитающих. [4] В 1975 году он усовершенствовал ее до Когнитрона, [5] [6] а в 1979 году он усовершенствовал ее до неокогнитрона, который изучает все сверточные ядра с помощью неконтролируемого обучения (в его терминологии, « самоорганизующегося путем «обучения без учителя»»). [2]

Неокогнитрон был вдохновлен моделью, предложенной Хьюбелем и Визелем в 1959 году. Они обнаружили два типа клеток в зрительной первичной коре, называемые простыми клетками и сложными клетками , а также предложили каскадную модель этих двух типов клеток для использования в задачах распознавания образов. [7] [8]

Неокогнитрон является естественным расширением этих каскадных моделей. Неокогнитрон состоит из нескольких типов клеток, наиболее важные из которых называются S-клетками и C-клетками. [9] Локальные признаки извлекаются S-клетками, а деформации этих признаков, такие как локальные сдвиги, допускаются C-клетками. Локальные признаки на входе постепенно интегрируются и классифицируются на более высоких уровнях. [10] Идея локальной интеграции признаков встречается в нескольких других моделях, таких как модель сверточной нейронной сети , метод SIFT и метод HoG .

Существуют различные виды неокогнитрона. [11] Например, некоторые виды неокогнитрона могут обнаруживать несколько шаблонов в одном и том же входе, используя обратные сигналы для достижения избирательного внимания . [12]

Смотрите также

Примечания

  1. ^ Фукусима, Кунихико (октябрь 1979 г.). "位置ずれに影響されないパターン認識機構の神経回路のモデル --- ネオコグニトロン ---" [Модель нейронной сети для механизма распознавания образов, на который не влияет изменение положения — Неокогнитрон —]. Пер. IECE (на японском языке). Дж62-А (10): 658–665 .
  2. ^ ab Fukushima, Kunihiko (1980). "Neocognitron: A Self-organizing Neural Network Model for a Mechanism of Pattern Recognition Unaffected by Shift in Position" (PDF) . Biological Cybernetics . 36 (4): 193– 202. doi :10.1007/BF00344251. PMID  7370364. S2CID  206775608. Архивировано (PDF) из оригинала 3 июня 2014 г. . Получено 16 ноября 2013 г. .
  3. ^ ЛеКун, Янн; Бенджио, Йошуа; Хинтон, Джеффри (2015). «Глубокое обучение» (PDF) . Nature . 521 (7553): 436– 444. Bibcode : 2015Natur.521..436L. doi : 10.1038/nature14539. PMID  26017442. S2CID  3074096.
  4. ^ Фукусима, Кунихико (1969). «Извлечение визуальных признаков с помощью многослойной сети аналоговых пороговых элементов». Труды IEEE по системной науке и кибернетике . 5 (4): 322– 333. doi :10.1109/TSSC.1969.300225. ISSN  0536-1567.
  5. ^ Фукусима, Кунихико (1975). «Когнитрон: самоорганизующаяся многослойная нейронная сеть». Биологическая кибернетика . 20 ( 3–4 ): 121–136 . doi :10.1007/BF00342633. ISSN  0340-1200. PMID  1203338.
  6. ^ Фукусима, К.: Самоорганизующаяся многослойная нейронная сеть «Когнитрон» (на японском), Доклад технической группы по распознаванию образов и обучению, Институт электронных коммуникаций и инженеров Японии, PRL74-25 (1974); и 1974 Nat. Conv. Rec. Института электронных коммуникаций и инженеров Японии, № S9-8 (1974)
  7. ^ Дэвид Х. Хьюбел и Торстен Н. Визель (2005). Мозг и визуальное восприятие: история 25-летнего сотрудничества. Oxford University Press US. стр. 106. ISBN 978-0-19-517618-6.
  8. ^ Хьюбел, Д. Х.; Визель, Т. Н. (октябрь 1959 г.). «Рецептивные поля отдельных нейронов в полосатой коре головного мозга кошки». J. Physiol . 148 (3): 574–91 . doi :10.1113/jphysiol.1959.sp006308. PMC 1363130. PMID  14403679 . 
  9. ↑ Фукусима 1987, стр. 83.
  10. ↑ Фукусима 1987, стр. 84.
  11. ^ Фукусима 2007.
  12. ↑ Фукусима 1987, стр. 81, 85.

Ссылки

  • Фукусима, Кунихико (апрель 1980 г.). «Неокогнитрон: модель самоорганизующейся нейронной сети для механизма распознавания образов, не зависящего от смещения положения». Биологическая кибернетика . 36 (4): 193– 202. doi :10.1007/bf00344251. PMID  7370364. S2CID  206775608.
  • Фукусима, Кунихико; Мияке, С.; Ито, Т. (1983). «Неокогнитрон: модель нейронной сети для механизма распознавания визуальных образов». Труды IEEE по системам, человеку и кибернетике . SMC-13 (3): 826– 834. doi :10.1109/TSMC.1983.6313076. S2CID  8235461.
  • Фукусима, Кунихико (1987). «Иерархическая модель нейронной сети для избирательного внимания». В Eckmiller, R.; Von der Malsburg, C. (ред.). Нейронные компьютеры . Springer-Verlag. стр.  81–90 .
  • Фукусима, Кунихико (2007). «Неокогнитрон». Scholarpedia . 2 (1): 1717. Bibcode : 2007SchpJ...2.1717F. doi : 10.4249/scholarpedia.1717 .
  • Хьюбел, Д. Х.; Визель, Т. Н. (1959). «Рецептивные поля отдельных норэонов в стриарной коре головного мозга кошки». J Physiol . 148 (3): 574–591 . doi :10.1113/jphysiol.1959.sp006308. PMC 1363130.  PMID 14403679  .
  • Неокогнитрон на Scholarpedia
  • NeoCognitron от инж. Габриэля Минарика - приложение (C#) и видео
  • Ресурсы Neocognitron на платформе Visiome — включая среду MATLAB
  • Beholder — симулятор Неокогнитрона


Значок заглушки

Эта статья, связанная с искусственным интеллектом , является заглушкой . Вы можете помочь Википедии, расширив ее.

Взято с "https://en.wikipedia.org/w/index.php?title=Неокогнитрон&oldid=1262420518"