Метод автоматического выбора архитектуры графовой нейронной сети на основе цикла проверки гипотез с использованием больших языковых моделей
- 1 Финансовый университет при Правительстве РФ (Москва, Россия)
Аннотация
Постановка проблемы. Графовые нейронные сети – один из основных инструментов для решения задач машинного обучения на графовых структурах. При этом качество решения существенно зависит от выбора архитектуры, а структурные свойства графа во многом определяют, какие семейства моделей перспективны для конкретной задачи. Используемые на практике методы подбора архитектур и настройки гиперпаметров, как правило, являются ресурсоемкими и непрозрачными с точки зрения принимаемых решений. В настоящее время появляются подходы на основе больших языковых моделей, которые в перспективе могут решить эту проблему.
Цель. Разработать и экспериментально оценить алгоритм автоматического выбора архитектуры графовой нейронной сети, основанный на цикле рассуждения «гипотеза–измерение–решение–рефлексия», в котором источником гипотез выступает большая языковая модель, а их проверка ведется в контролируемой среде на Python без ограничений на набор анализируемых характеристик графа.
Результаты. Предложен авторский алгоритм HypoGNN, формализующий поиск архитектуры графовой нейронной сети как итеративный процесс принятия решений. Отмечено, что каждая итерация поиска состоит из четырех шагов с принудительной фиксацией формулируемой гипотезы, измерением свойств графа, обучением архитектуры и рефлексией по итогам шага. Проведено систематическое сравнение HypoGNN с шестью базовыми методами при сопоставимом вычислительном бюджете. Показано, что предложенный метод обеспечивает наилучшую среднюю точность на пяти из шести датасетов и демонстрирует наиболее стабильное качество среди всех рассмотренных подходов. Дополнительно отмечено, что формальная структура цикла позволяет проводить количественный анализ траектории поиска.
Практическая значимость. Полученные результаты можно использовать при разработке прикладных моделей на графовых данных. Предложенный алгоритм может быть интегрирован в существующие конвейеры обучения графовых нейронных сетей.
- Поступила
- 07.09.2026
- Одобрена
- 15.09.2026
- Принята
- 01.10.2026
Для цитирования
Блохин Н.В. Метод автоматического выбора архитектуры графовой нейронной сети на основе цикла проверки гипотез с использованием больших языковых моделей // Динамика сложных систем - XXI век. 2026. Т. 20. № 5. С. 47−55. DOI: https://doi.org/10.18127/j19997493-202605-07
Список источников
- Блохин Н.В. Метод построения иерархической укладки графов на основе силовых алгоритмов и графовых нейронных сетей // Информационно-измерительные и управляющие системы. 2025. Т. 23. № 3. С. 37–46. DOI 10.18127/j20700814-202503-04
- Блохин Н.В., Макрушин С.В. Построение эмбеддингов компаний на основе векторного представления отраслей экономики и связей между компаниями // Нейрокомпьютеры: разработка, применение. 2025. Т. 27. № 2. С. 5–12. DOI 10.18127/j19998554-202502-01
- Cassimon T., Mercelis S., Mets K. Neural Architecture Search under Black-Box Objectives with Deep Reinforcement Learning and Increasingly-Sparse Rewards // Proceedings of the 2020 International Conference on Artificial Intelligence in Information and Communication (ICAIIC). Fukuoka, Japan: IEEE. 2020. DOI 10.1109/ICAIIC48513.2020.9065031
- Bergstra J., Bengio Y. Random Search for Hyper-Parameter Optimization // Journal of Machine Learning Research. 2012. V. 13. P. 281–305.
- Akiba T., Sano S., Yanase T., Ohta T., Koyama M. Optuna: A Next-generation Hyperparameter Optimization Framework // Proceedings of the 25th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining (KDD '19). Anchorage, AK. USA: ACM. 2019. P. 2623–2631. arXiv:1907.10902.
- Elsken T., Metzen J.H., Hutter F. Neural Architecture Search: A Survey // Journal of Machine Learning Research. 2019. V. 20. № 55. P. 1–21.
- Oloulade B.M., Gao J., Chen J., Lyu T., Al-Sabri R. Graph Neural Architecture Search: A Survey // Tsinghua Science and Technology. 2022. V. 27. № 4. P. 692–708. DOI 10.26599/TST.2021.9010057
- Gao Y., Yang H., Zhang P., Zhou C., Hu Y. Graph Neural Architecture Search // Proceedings of the Twenty-Ninth International Joint Conference on Artificial Intelligence (IJCAI-20). 2020. P. 1403–1409. DOI 10.24963/ijcai.2020/195
- Liu H., Simonyan K., Yang Y. DARTS: Differentiable Architecture Search // Proceedings of the 7th International Conference on Learning Representations (ICLR 2019). New Orleans, LA, USA, 2019.
- Qin Y., Zhang Z., Wang X., Zhang Z., Zhu W. NAS-Bench-Graph: Benchmarking Graph Neural Architecture Search // Advances in Neural Information Processing Systems 35 (NeurIPS 2022). Datasets and Benchmarks Track. 2022.
- Wang H., Gao Y., Zheng X., Zhang P., Bu J., Yu P.S. Graph Neural Architecture Search with Large Language Models // Science China Information Sciences. 2025. V. 68. Art. 222103. DOI 10.1007/s11432-024-4539-1
- Wang J., Liu H., Di S., Wang Z., Wang J., Chen L., Zhou X. Proficient Graph Neural Network Design by Accumulating Knowledge on Large Language Models // Proceedings of the 19th ACM International Conference on Web Search and Data Mining (WSDM '26). Boise, ID, USA: ACM. 2026. DOI 10.1145/3773966.3777982
- Zheng X., Wei L., Li Y., Yao Q. Automated Decision-Making on Networks with LLMs through Knowledge-Guided Evolution // Proceedings of the Thirty-Fourth International Joint Conference on Artificial Intelligence (IJCAI 2025), Demo Track. 2025. P. 11137–11140. DOI 10.24963/ijcai.2025/1279
- Yao S., Zhao J., Yu D., Du N., Shafran I., Narasimhan K., Cao Y. ReAct: Synergizing Reasoning and Acting in Language Models // Proceedings of the 11th International Conference on Learning Representations (ICLR 2023). Kigali, Rwanda. 2023.
- Wang X., Chen Y., Yuan L., Zhang Y., Li Y., Peng H., Ji H. Executable Code Actions Elicit Better LLM Agents // Proceedings of the 41st International Conference on Machine Learning (ICML 2024). PMLR, 2024. V. 235. P. 50208–50232.
- Lu C., Lu C., Lange R.T., Foerster J., Clune J., Ha D. The AI Scientist: Towards Fully Automated Open-Ended Scientific Discovery. 2024. arXiv:2408.06292.
