Квантова нейронна мережа — Вікіпедія

Квантові нейронні мережі (QNNs) — модель нейронної мережі, яка базуються на принципах квантової механіки. Існує два різних підходи до дослідження QNN: одна експлуатаційна обробка квантової інформації для вдосконалення існуючих моделей нейронних мереж (іноді також і навпаки), а інша — пошук потенційних квантових ефектів у мозку.

Штучні квантові нейронні мережі[ред. | ред. код]

У обчислювальному підході до дослідження квантової нейронної мережі[1][2] вчені намагаються об'єднати моделі штучних нейронних мереж (які широко застосовуються в машинному навчанні для важливих завдань класифікації моделей) з перевагами квантової інформації з метою розробки більш ефективних алгоритмів (для перегляду див.[3]). Однією з важливих мотивів для цих досліджень є складність тренування класичних нейронних мереж, особливо в великих даних. Надія полягає в тому, що особливості квантового обчислення, такі як квантовий паралелізм або ефекти інтерференції[en] і заплутаності можуть використовуватися як відправні точки. Оскільки технологічна реалізація квантового комп'ютера все ще знаходиться на передчасній стадії, такі моделі квантової нейронної мережі є переважно теоретичними пропозиціями, які очікують їх реалізації в фізичних експериментах.

Дослідження квантової нейронної мережі все ще перебуває на початковій стадії, і є здебільшого нагромадженням пропозицій та ідей різного масштабу та математичної строгості. Більшість з них базується на ідеї заміни класичного двійкового або нейрона Маккаллоха-Піттса за допомогою кубіта (що можна назвати «курон»), в результаті чого нейронні одиниці можуть бути в суперпозиції станів «активації» і «спокою».

Історичне поняття[ред. | ред. код]

Перші ідеї щодо квантового розрахунку нейронів були опубліковані незалежно в 1995 році Роном Кріслі[4] та Субгашем Каком[en][5]. Вони обговорювали подібність функції нейронної активації з квантово-механічним рівнянням власних значень, а пізніше обговорювали застосування цих ідей для вивчення функції мозку[6] і обмеження цього підходу[7]. Аджіт Нараянан і Таммі Меннеер запропонували впровадження фотонної моделі квантової нейронної мережі, яка ґрунтується на теорії множинного всесвіту та «руйнується» в потрібну модель при вимірюванні[8]. З тих пір все нові і нові статті були опубліковані в журналах інформатики та квантової фізики, щоб знайти підходящу модель квантової нейронної мережі.

Квантові персептрони[ред. | ред. код]

Багато пропозицій було висунуто, щоб знайти квантовий еквівалент для персептрону, з якого побудовані нейронні мережі. Проблема полягає в тому, що функції нелінійної активації не відразу відповідають математичній структурі квантової теорії, оскільки квантова еволюція описується лінійними операціями і призводить до імовірнісного спостереження. Ідеї, що імітують функцію активації персептрону з квантово-механічним формалізмом, виходять з спеціальних вимірювань[9][10] для затвердження нелінійних квантових операторів (що є суперечливою математичною структурою)[11][12]. Нещодавно була запропонована пряма реалізація функції активації за допомогою ланцюгової схеми квантових обчислень Шульдом, Синайським та Петрукціоем на основі алгоритму квантової фазової оцінки[en][13].

Нечітка логіка[ред. | ред. код]

Значна частина інтересу була приділена «квантово-надихнутій» моделі, яка використовує ідеї квантової теорії для впровадження нейронної мережі на основі нечіткої логіки.[14]

Квантова асоціативна пам'ять[ред. | ред. код]

Алгоритм квантової асоціативної пам'яті[15] був представлений Деном Вентурою та Тоні Мартінезом в 1999 році. Автори не намагаються перекласти структуру моделей штучних нейронних мереж у квантову теорію, але запропонувати алгоритм для ланцюгової схеми квантових обчислень, який імітує асоціативну пам'ять. Стан пам'яті (в нейронній мережі Гопфілда збережена в вагах нейронних з'єднань), записуються в суперпозицію, а Гробер-подібний квантовий алгоритм пошуку витягує найближче до заданий вхідного значення. Перевага полягає в експоненціальній ємності накопичувачів станів пам'яті, проте залишається питання, чи має модель значення для вихідної мети моделей Гопфілда як демонстрації того, як спрощені штучні нейронні мережі можуть імітувати особливості мозку.

Квантові обчислення через Sparse Distributed Representations[ред. | ред. код]

Рінкус[16] пропонує, що розподілене представлення, зокрема «рідке розподілене представлення» (SDR), забезпечує класичну реалізацію квантових обчислень. Зокрема, набір кодів SDR, що зберігаються в полі кодування SDR, взагалі перетинаються між собою в різному ступені. В іншій роботі[17][18] , Рінкус описує фіксований алгоритм навчання, який зберігає подібність у вхідному просторі до подібності (розміру перетину) в коді SDR. Якщо припустити, що подібність вводу корелює з ймовірністю, це означає, що будь-який одиничний активний код SDR також є розподілом ймовірності по всім збереженим входам, з імовірністю для кожного входу яка вимірюється часткою його коду SDR, який є активним (тобто розміру його перетину з активним кодом SDR). Алгоритм навчання / висновку також може розглядатися як оператор оновлення стану і тому що будь-який активний SDR одночасно представляє як ймовірність одиничного вводу X, до якого він був призначений під час навчання та ймовірностей всіх інших збережених вхідних даних, той самий фізичний процес, який оновлює ймовірність того, що X також оновлює всі збережені імовірності. Ця теорія радикально відходить від стандартного уявлення про квантову обчислювальну та квантову фізичну теорію в цілому: замість того, щоб вважати, що в сукупності існують стани найнижчих сутностей у системі, тобто одиночні бінарні нейрони, вона передбачає лише те, що вищестоящий рівень, тобто складові об'єкти, тобто цілі SDR коди (які є наборами бінарних нейронів), існують в суперпозиції.

Квантове навчання[ред. | ред. код]

Більшість алгоритмів навчання наслідують класичну модель навчання штучної нейронної мережі для вивчення функції вводу-виводу заданого навчальної вибірки і використовують класичні цикли зворотного зв'язку для оновлення параметрів квантової системи, доки вони не сходяться до оптимальної конфігурації. Навчання як проблема оптимізації параметрів також наближається адіабатичними моделями квантових обчислень[19]. Нещодавно була розроблена нова стратегія пост-навчання для пошуку для покращення набору ваг на основі аналогії з квантовими ефектами, що відбуваються в природі. Техніка, запропонована в[20] ґрунтується на аналогії моделювання біологічного нейрона як напівпровідникової гетероструктури, що складається з одного енергетичного бар'єру, закріпленого між двома енергетично нижчими областями. Отже, функція активації нейрона розглядається як частинка, яка входить до гетероструктури та взаємодіє з бар'єром. Таким чином, допоміжне посилення до класичного процесу навчання нейронних мереж досягається за мінімальних додаткових обчислювальних витрат.

Біологічні квантові нейронні мережі[ред. | ред. код]

Хоча багато дослідників квантової нейронної мережі явно обмежують їх обсяги до обчислювальної точки зору, поле тісно пов'язане з дослідженнями потенційних квантових ефектів у біологічних нейронних мережах.[21][22] Моделі когнітивних агенцій та пам'яті на основі квантової колекції були запропоновані Субхашем Каком,[23], але він також вказує на конкретні проблеми обмежень на спостереження та управління цими спогадами з огляду на фундаментальні логічні причини.[24] Він також запропонував, щоб квантова мова була пов'язана з біологічними нейронними мережами.[25]

Поєднання квантової фізики та нейронауки також виражає яскраві суперечки за межами науки, прикладом яких можуть служити такі журнали, як NeuroQuantology[26] або[27] Однак у науковій сфері теорії про те, як мозок може зібрати поведінку частинок на квантовому рівні, суперечливо обговорюється[28][29]. Скупчення біології та квантової фізики нещодавно набуло динаміки завдяки виявленню ознак для ефективного транспорту енергії при фотосинтезі через квантові ефекти (див. квантова біологія ). Проте, поки що немає широко визнаних доказів для «квантового мозку».

Література[ред. | ред. код]

[30] [31]

  1. da Silva, Adenilton J.; Ludermir, Teresa B.; de Oliveira, Wilson R. Quantum perceptron over a field and neural network architecture selection in a quantum computer. Neural Networks. 76: 55—64. doi:10.1016/j.neunet.2016.01.002.
  2. Panella, Massimo; Martinelli, Giuseppe. Neural networks with quantum architecture and quantum learning. International Journal of Circuit Theory and Applications. 39: 61—77. doi:10.1002/cta.619.
  3. M. Schuld, I. Sinayskiy, F. Petruccione: The quest for a Quantum Neural Network, Quantum Information Processing 13, 11, pp. 2567—2586 (2014)
  4. R. Chrisley, Quantum Learning [Архівовано 24 Вересня 2017 у Wayback Machine.], In New directions in cognitive science: Proceedings of the international symposium, Saariselka, 4-9 August 1995, Lapland, Finland, P. Pylkkänen and P. Pylkkö (editors). Finnish Association of Artificial Intelligence, Helsinki, 77-89 (1995)
  5. S. Kak, On quantum neural computing [Архівовано 11 Вересня 2017 у Wayback Machine.], Advances in Imaging and Electron Physics 94, 259 (1995)
  6. S. Kak, The three languages of the brain: quantum, reorganizational, and associative [Архівовано 11 Вересня 2017 у Wayback Machine.]. In Learning as Self- Organization, K. Pribram and J. King (editors). Lawrence Erlbaum Associates, Mahwah, NJ, 185—219 (1996)
  7. A. Gautam and S. Kak, Symbols, meaning, and origins of mind. Biosemiotics (Springer Verlag) 6: 301—310 (2013)
  8. A. Narayanan and T. Menneer: Quantum artificial neural network architectures and components[недоступне посилання з квітня 2019], Information Sciences 128, 231—255 (2000)
  9. M. Perus: Neural Networks as a basis for quantum associative memory [Архівовано 11 Вересня 2017 у Wayback Machine.], Neural Network World 10 (6), 1001 (2000)
  10. M. Zak, C.P. Williams: Quantum Neural Nets, International Journal of Theoretical Physics 37(2), 651 (1998)
  11. S. Gupta, R. Zia: Quantum Neural Networks [Архівовано 8 Квітня 2019 у Wayback Machine.], Journal of Computer and System Sciences 63(3), 355 (2001)
  12. J. Faber, G.A. Giraldi: Quantum Models for Artificial Neural Network (2002), Electronically available: http://arquivosweb.[недоступне посилання з 01.07.2016] lncc.br/pdfs/QNN-Review. pdf
  13. M. Schuld, I. Sinayskiy, F. Petruccione: Simulating a perceptron on a quantum computer ArXiv:1412.3635 [Архівовано 11 Вересня 2017 у Wayback Machine.] (2014)
  14. G. Purushothaman, N. Karayiannis: Quantum Neural Networks (QNN's): Inherently Fuzzy Feedforward Neural Networks [Архівовано 11 Вересня 2017 у Wayback Machine.], IEEE Transactions on Neural Networks, 8(3), 679 (1997)
  15. D. Ventura, T. Martinez: A quantum associative memory based on Grover's algorithm [Архівовано 11 Вересня 2017 у Wayback Machine.], Proceedings of the International Conference on Artificial Neural Networks and Genetics Algorithms, pp. 22-27 (1999)
  16. G. Rinkus (2102): Quantum Computation via Sparse Distributed Representation. Neuroquantology 10(2) 311—315
  17. G. Rinkus (1996): A Combinatorial Neural Network Exhibiting Episodic and Semantic Memory Properties for Spatio-Temporal Patterns. Doctoral Thesis. Boston University. Boston, MA.
  18. G. Rinkus (2010): A cortical sparse distributed coding model linking mini- and macrocolumn-scale functionality [Архівовано 21 Травня 2021 у Wayback Machine.]. Frontiers in Neuroanatomy 4:17
  19. H. Neven et al.: Training a Binary Classifier with the Quantum Adiabatic Algorithm, arXiv:0811.0416v1 (2008)
  20. Kapanova, K. G., I. Dimov, and J. M. Sellier. «On randomization of neural networks as a form of post-learning strategy.» arXiv preprint arXiv:1511.08366 (2015).
  21. W. Loewenstein: Physics in mind. A quantum view of the brain, Basic Books (2013)
  22. H. Stapp: Mind Matter and Quantum Mechanics, Springer, Heidelberg (2009)
  23. Kak, S. Biological memories and agents as quantum collectives [Архівовано 11 Вересня 2017 у Wayback Machine.]. NeuroQuantology 11: 391—398 (2013)
  24. Kak, S. Observability and computability in physics, Quantum Matter 3: 172—176 (2014)
  25. Kak, S. (2016). Communication languages and agents in biological systems. In: Biocommunication: Sign-Mediated Interactions between Cells and Organisms. Eds.: J. Seckbach & R. Gordon. London, World Scientific Publishing: 203—226
  26. Архівована копія. Архів оригіналу за 27 Жовтня 2017. Процитовано 24 Грудня 2017.{{cite web}}: Обслуговування CS1: Сторінки з текстом «archived copy» як значення параметру title (посилання)
  27. Архівована копія. Архів оригіналу за 8 Січня 2018. Процитовано 24 Грудня 2017.{{cite web}}: Обслуговування CS1: Сторінки з текстом «archived copy» як значення параметру title (посилання)
  28. S. Hameroff: Quantum computation in brain microtubules? The Penrose-Hameroff 'Orch-OR' model of consciousness [Архівовано 9 серпня 2017 у Wayback Machine.], Philosophical Transactions Royal Society of London Series A, 356 1743 1869 (1998)
  29. E. Pessa, G. Vitiello: Bioelectrochemistry and Bioenergetics, 48 2 339 (1999)
  30. Neukart, Florian (2013). On Quantum Computers and Artificial Neural Networks. Signal Processing Research. 2 (1). Архів оригіналу за 6 лютого 2016. Процитовано 24 грудня 2017.
  31. Neukart, Florian (2014). Operations on Quantum Physical Artificial Neural Structures. Procedia Engineering. 2 (1): 1509—1517. doi:10.1016/j.proeng.2014.03.148.

Посилання[ред. | ред. код]