Н.А. Андриянов1

1 Финансовый университет при Правительстве Российской Федерации (Москва, Россия)

Постановка проблемы. В настоящее время неуклонно растет число исследований, проводимых в сфере искусственного интеллекта, а именно: глубокого обучения. Вместе с тем наблюдается тенденция к усложнению нейронных сетей, что требует эффективных решений в аппаратной части. Одним из основных факторов, влияющих на производительность процессора, является их безопасность. Так, процессор подвержен атакам на hyperthreading, в результате которых происходит изоляция одного из потоков и облегчается доступ к важным данным. Кроме того, высокая скорость вычислений необходима не только на этапе обучения, но и во время инференса нейронных сетей, особенно в задачах обработки видеоинформации, поэтому оптимизация скорости работы является одним из актуальных направлений развития. В этой связи важно рассмотреть различные аппаратные решения с целью поиска эффективных вычислительных устройств для задач глубокого обучения.

Цель. Исследовать известные вычислительные устройства для организации эффективного обучения и инференса с учетом энергопотребления.

Результаты. Проведен аналитический обзор различных аппаратных решений, используемых в современном глубоком обучении. Выполнен сравнительный анализ таких аппаратных устройств для вычислений, как центральный процессор CPU, графический процессор GPU, тензорный процессор TPU, а также программируемые логические интегральные схемы FPGA и ASIC. Представлены примеры устройств каждого типа, отмечены их преимущества и недостатки.

Практическая значимость. Представленные данные будут полезны инженерам и специалистам в области глубокого обучения для определения круга задач, для решения которых можно использовать то или иное аппаратное устройство.

Андриянов Н.А. Аппаратные решения в искусственном интеллекте // Нейрокомпьютеры: разработка, применение. 2022. T. 24. № 5. С. 67-73. DOI: https://doi.org/ 10.18127/j19998554-202205-07

1. Non von Neumann computing // Nature Nanotechnology (Nat. Nanotechnol.) [Электронный ресурс] – Режим доступа: https://www.nature.com/collections/dhdjceebhg, дата обращения 05.09.2022.
2. Brodowicz M., Sterling T. A non von Neumann continuum computer architecture for scalability beyond Moore's law // The ACM International Conference. May 2016. Р. 112-118.
3. Molyakov A. A prototype computer with non-von Neumann architecture based on strategic domestic J7 microprocessor // Automatic Control and Computer Sciences. 2016. V. 50(8). Р. 682-686. DOI: 10.3103/S0146411616080137.
4. Князьков В.С. Архитектура и особенности тензорных процессоров семейства Google TPU // [Электронный ресурс] – Режим доступа: https://www.researchgate.net/publication/343057328_Arhitektura_i_osobennosti_tenzornyh_processorov_semejst-va_Google_TPU, дата обращения 07.09.2022.
5. TPU Cloud // [Электронный ресурс] – Режим доступа: https://cloud.google.com/tpu/, дата обращения 07.09.2022.
6. Fitch A. Inside Intel’s Strategy to Compete with Nvidia in the AI-Chip Market // [Электронный ресурс] – Режим доступа: https://www.wsj.com/articles/inside-intels-strategy-to-compete-with-nvidia-in-the-ai-chip-market-11649447815, дата обращения 08.09.2022.
7. Сухих А.В., Васяева Н.С. Исследование классификаций кластерных систем // Кибернетика и программирование. 2016. № 2. С. 20-27. DOI: 10.7256/2306-4196.2016.2.18074.
8. Hennessy J.L., Patterson D.A. A New Golden Age for Computer Architecture // Communications of the ACM. 2019. V. 62(2).
   Р. 48-60. DOI: 10.1145/3282307.
9. Varghese S. OpenBSD disables hyperthreading support for Intel CPUs due to likely data leaks // [Электронный ресурс] – Режим доступа: https://www.itwire.com/business-it-news/security/83301-openbsd-disables-hyperthreading-support-for-intel-cpus-due-to-likely-data-leaks.html, дата обращения 08.09.2022.
10. Андриянов Н.А. Анализ ускорения логического вывода нейронных сетей на процессорах Intel с использованием инструментария OpenVINO Toolkit // Системы синхронизации, формирования и обработки сигналов. 2020. Т. 11. № 4. С. 32-39.
11. Andriyanov N., Khasanshin I., Utkin D., Gataullin T., Ignar S., Shumaev V., Soloviev V. Intelligent System for Estimation of the Spatial Position of Apples Based on YOLOv3 and Real Sense Depth Camera D415 // Symmetry. 2022. V. 14(1), id 148.
    DOI: 10.3390/sym14010148.
12. Андриянов Н.А., Дементьев В.Е., Ташлинский А.Г. Обнаружение объектов на изображении: от критериев Байеса и Неймана–Пирсона к детекторам на базе нейронных сетей EfficientDet // Компьютерная оптика. 2022. Т. 46. № 1. С. 139-159.
    DOI: 10.18287/2412-6179-CO-922.
13. Andriyanov N.A. Analysis of the acceleration of neural networks inference on Intel processors based on OpenVINO Toolkit // Proceedings of IEEE 2020 Systems of Signal Synchronization, Generating and Processing in Telecommunications (SYNCHROINFO). 2020. Р. 1-4. DOI: 10.1109/SYNCHROINFO49631.2020.9166067.
14. Anand A. Wide&Deep Learning for Recommender Systems // [Электронный ресурс] – Режим доступа: https://me-dium.com/analytics-vidhya/wide-deep-learning-for-recommender-systems-dc99094fc291, дата обращения: 11.09.2022.
15. A decade of accelerated computing augurs well for gpus // [Электронный ресурс] – Режим доступа: https://www.next-platform.com/2019/07/10/a-decade-of-accelerated-computing-augurs-well-for-gpus, дата обращения: 03.09.2022.
16. Simpson P.A. FPGA Design, Best Practices for Team Based Reuse // 2nd edition. Switzerland: Springer International Publishing AG. 2015. 16 p. ISBN 978-3-319-17924-7.
17. OpenVINO Benchmark // [Электронный ресурс] – Режим доступа: https://softline.ru/uploads/f/3f/76/35/d0/35/fd/a3/f7/d7/lab5.pdf, дата обращения: 12.09.2022.
18. Barkalov A., Titarenko L., Mazurkiewicz M. Foundations of Embedded Systems // Studies in Systems, Decision and Control. 2019. V. 195, id 86596100. DOI:10.1007/978-3-030-11961-4.
19. Feretti L. Tensor Processing Units: enabling the next generation of fast, affordable AI // [Электронный ресурс] – Режим доступа: https://www.codemotion.com/magazine/ai-ml/machine-learning/tensor-processing-units-enabling-the-next-generation-of-fast-affor-dable-ai/ дата обращения: 15.09.2022.
20. Нагалин А.В., Хильченко Р.Г., Шутько Е.М. Модель процесса адаптивного управления мощностью излучения лазера в условиях помех по величине отраженного от ретрорефлектора оптического сигнала // Радиотехника. 2021. Т. 85. № 1. С. 13-19.