Квантовые нейросети: поиск оптимальной архитектуры без излишеств

Новый алгоритм позволяет находить эффективные гибридные квантовые нейросети, балансируя между точностью и вычислительной сложностью.

Процесс поиска архитектуры гибридной квантово-нейронной сети (HQNN) с учётом вычислительной сложности (FLOPs) включает в себя эволюционный отбор конфигураций квантовых слоёв – кодирования, количества кубитов, типов гейтов, схемы запутанности и глубины – из пространства в $23,328$ комбинаций, с последующей идентификацией Парето-оптимальных архитектур, обеспечивающих баланс между производительностью и эффективностью вычислений. — Процесс поиска архитектуры гибридной квантово-нейронной сети (HQNN) с учётом вычислительной сложности (FLOPs) включает в себя эволюционный отбор конфигураций квантовых слоёв – кодирования, количества кубитов, типов гейтов, схемы запутанности и глубины – из пространства в $23, 328$ комбинаций, с последующей идентификацией Парето-оптимальных архитектур, обеспечивающих баланс между производительностью и эффективностью вычислений.

Представлен метод поиска архитектуры нейронных сетей, учитывающий затраты по FLOPs и оптимизирующий производительность в условиях NISQ.

Современные гибридные квантово-нейронные сети (HQNN) обладают значительным потенциалом, однако их практическая реализация в эпоху NISQ сдерживается высокой вычислительной сложностью. В данной работе представлена система ‘FAQNAS: FLOPs-aware Hybrid Quantum Neural Architecture Search using Genetic Algorithm’ – новый фреймворк для автоматизированного поиска архитектур HQNN, оптимизирующий баланс между точностью и количеством операций с плавающей точкой (FLOPs). Полученные результаты демонстрируют, что учет FLOPs позволяет находить решения с сопоставимой точностью при значительно меньших вычислительных затратах на квантовой части сети. Возможно ли, таким образом, создать масштабируемые HQNN, эффективно использующие ресурсы квантовых компьютеров ближайшего будущего?

Классика против Квантов: Гонка за Эффективность

Классические модели машинного обучения ограничены в вычислительных ресурсах и энергопотреблении. С ростом объемов данных и сложности задач, требования к вычислительной мощности растут, что влечет за собой увеличение затрат и негативное воздействие на окружающую среду. Квантовое машинное обучение (КМО) предлагает потенциальное решение, используя квантовые явления, такие как суперпозиция и запутанность. КМО способно обрабатывать информацию принципиально новым способом, открывая возможности для решения задач, недоступных классическим алгоритмам. Однако, полная реализация КМО сталкивается со значительными техническими трудностями, связанными со стабильностью и масштабируемостью квантовых систем. Гибридные квантово-нейронные сети (ГКНС) представляют собой компромиссный подход, объединяющий преимущества как классических, так и квантовых вычислений. В ГКНС параметризованные квантовые схемы используются для извлечения признаков или выполнения операций, а классические нейронные сети выполняют оптимизацию и классификацию. Такая архитектура позволяет использовать существующую инфраструктуру классических вычислений, одновременно используя потенциал квантовых алгоритмов. Каждая «революционная» технология завтра станет техдолгом.

Автоматический Поиск: Баланс между Скоростью и Эффективностью

Разработка эффективных гибридных квантово-нейронных сетей (HQNNs) – сложная задача из-за огромного пространства поиска возможных архитектур и конфигураций квантовых схем. Традиционные методы автоматизированного машинного обучения (AutoML) часто не учитывают специфические вычислительные ограничения квантовых вычислений, что приводит к непрактичным решениям. Оптимизация с учётом FLOPs (FLOPs-aware NAS) решает эту проблему, включая вычислительную стоимость (FLOPs) в качестве ключевой цели оптимизации наряду с точностью. Такой подход позволяет находить архитектуры, которые обеспечивают наилучший компромисс между производительностью и эффективностью. В данной работе для эффективного поиска Парето-оптимальных решений, балансирующих производительность и эффективность, был использован генетический алгоритм Non-dominated Sorting Genetic Algorithm II. Метод был протестирован на пяти эталонных наборах данных, демонстрируя его способность находить архитектуры HQNNs, пригодные для практического применения.

На датасете Iris точность кандидатных архитектур гибридных квантово-нейронных сетей оценивалась в зависимости от вычислительных затрат, выраженных в классических (слева), квантовых (в центре) и суммарных FLOPs, при этом фиолетовые точки обозначают все рассмотренные архитектуры, а золотые звезды – Парето-оптимальные решения.

Проверка на Практике: От Данных к Результатам

Метод автоматического поиска архитектур нейронных сетей (NAS), ориентированный на вычислительную сложность (FLOPs), был успешно применён к ряду стандартных наборов данных, включая MNIST, Digits, Iris, Wine и Breast Cancer. Этот подход позволяет выявлять архитектуры, оптимизированные не только для достижения высокой точности, но и для минимизации требуемых вычислительных ресурсов. Обнаруженные архитектуры HQNN демонстрируют конкурентоспособную точность, достигая 90-95% на указанных наборах данных, при этом наблюдается значительное снижение количества FLOPs. Это подтверждает, что оптимизация для вычислительной эффективности не обязательно приводит к снижению производительности; напротив, она открывает новые возможности для сред с ограниченными ресурсами. На всех пяти наборах данных были идентифицированы Парето-оптимальные решения, демонстрирующие способность разработанной системы находить баланс между точностью и вычислительными затратами. Это свидетельствует о гибкости и эффективности предложенного подхода к автоматическому проектированию нейронных сетей.

На датасете Breast Cancer точность кандидатных архитектур гибридных квантово-нейронных сетей оценивалась в зависимости от вычислительных затрат, выраженных в классических (слева), квантовых (в центре) и суммарных FLOPs, при этом фиолетовые точки обозначают все рассмотренные архитектуры, а золотые звезды – Парето-оптимальные решения.

Кодирование Данных: Ключ к Квантовому Преимуществу

Параметризованные квантовые схемы служат основным квантовым компонентом в гибридных квантово-нейронных сетях (HQNN), обеспечивая возможность обучения сложным закономерностям. Эти схемы позволяют представлять и обрабатывать данные в квантовом пространстве, что потенциально может привести к экспоненциальному ускорению определенных алгоритмов машинного обучения. Эффективность HQNN напрямую зависит от способности квантовой схемы улавливать и представлять релевантные признаки входных данных. Критически важным фактором для максимизации потенциала параметризованных квантовых схем является эффективное кодирование данных. Два основных подхода к кодированию данных включают в себя Angle Embedding и Amplitude Embedding. Выбор подходящего метода кодирования зависит от конкретной задачи и структуры данных. Сочетание архитектур HQNN, оптимизированных с использованием автоматического нейронного поиска (NAS), и эффективных стратегий кодирования данных обещает ускорить внедрение квантового машинного обучения (QML) в практических приложениях. NAS позволяет автоматически находить оптимальные конфигурации квантовых схем, а эффективное кодирование данных обеспечивает наиболее подходящее представление информации для квантовой обработки. В конечном итоге, все эти инновации – лишь новый виток старой истории о попытках заставить элегантную теорию работать в реальном мире.

На датасете Digits точность кандидатных архитектур гибридных квантово-нейронных сетей оценивалась в зависимости от вычислительных затрат, выраженных в классических (слева), квантовых (в центре) и суммарных FLOPs, при этом фиолетовые точки обозначают все рассмотренные архитектуры, а золотые звезды – Парето-оптимальные решения.

Преодолевая Ограничения: К Масштабируемому Квантовому Будущему

Несмотря на перспективность гибридных квантово-нейронных сетей (HQNN), для реализации их полного потенциала необходимо преодолеть ограничения, присущие современным квантовым устройствам промежуточного масштаба (NISQ). Основные проблемы связаны с когерентностью кубитов, ошибками при квантовых операциях и ограниченным числом доступных кубитов. Текущие исследования направлены на разработку методов смягчения ошибок и оптимизацию архитектур HQNN для конкретных аппаратных платформ. Особое внимание уделяется алгоритмам квантово-классического обучения, позволяющим эффективно использовать как квантовые, так и классические вычислительные ресурсы. Разрабатываются новые схемы кодирования квантовой информации, направленные на повышение устойчивости к шуму. Решение этих задач позволит создать новое поколение масштабируемых и эффективных алгоритмов квантового машинного обучения. Перспективным направлением является разработка адаптивных алгоритмов обучения, способных автоматически оптимизировать параметры HQNN в зависимости от характеристик аппаратной платформы и решаемой задачи.

На датасете MNIST точность кандидатных архитектур гибридных квантово-нейронных сетей оценивалась в зависимости от вычислительных затрат, выраженных в классических (слева), квантовых (в центре) и суммарных FLOPs, при этом фиолетовые точки обозначают все рассмотренные архитектуры, а золотые звезды – Парето-оптимальные решения.

В статье описывается поиск оптимальной архитектуры гибридных квантово-нейронных сетей, балансирующий между точностью и вычислительной сложностью. Интересно наблюдать, как исследователи стремятся к достижению парето-оптимальности, избегая излишне сложных квантовых схем. В этом контексте вспоминается высказывание Винтона Серфа: «Интернет – это не только технология, но и способ мышления». Подобно тому, как интернет эволюционировал, стремясь к эффективности и доступности, и эта работа демонстрирует, что даже в сложных квантовых вычислениях можно найти элегантные решения, не усложняя систему сверх меры. Каждый «революционный» шаг в области квантовых вычислений рано или поздно станет техдолгом, поэтому поиск баланса – задача вечная.

Что дальше?

Представленная работа, как и большинство попыток автоматизации поиска архитектур, неизбежно сталкивается с проблемой переноса результатов из контролируемой среды в реальность. Оптимизация по FLOPs – это, конечно, полезно, но суровая правда в том, что производительность на симуляторе и на реальном NISQ-устройстве разделены пропастью. Каждая «оптимальная» архитектура, выявленная алгоритмом, в конечном итоге станет ещё одним компромиссом между теорией и шумом.

Более того, погоня за «гибридностью» как таковой представляется несколько искусственной. Вполне вероятно, что дальнейшее усложнение этих систем лишь увеличит количество параметров, требующих точной калибровки, и создаст новые возможности для возникновения ошибок. Не нужно больше микросервисов — нам нужно меньше иллюзий относительно сложности и надежности квантовых вычислений.

Будущие исследования, вероятно, сосредоточатся на разработке более устойчивых к шуму алгоритмов обучения и на поиске архитектур, которые можно эффективно реализовать на доступном аппаратном обеспечении, а не на бесконечной гонке за теоретической производительностью. Каждая «революционная» технология завтра станет техдолгом, и гибридные квантовые нейронные сети не станут исключением.

Оригинал статьи: https://arxiv.org/pdf/2511.10062.pdf

Связаться с автором: https://www.linkedin.com/in/avetisyan/