Группа исследователей из Калифорнийского университета разработала метод, позволяющий вдвое увеличить скорость вычислений и вдвое снизить энергопотребление стандартных компьютерных систем. Он основан на оптимизированном распределении задач между различными процессорами, чтобы они могли обрабатываться одновременно. Помимо увеличения скорости обработки, этот метод также снижает энергопотребление.
Если раньше компьютеры состояли из одного центрального процессора (CPU) с несколькими ядрами, то сегодня они включают в себя различные микропроцессоры, призванные оптимизировать общую производительность. К ним относятся графические процессоры, или GPU, предназначенные для обработки графики, а также ускорители для машинного обучения и искусственного интеллекта.
При выполнении программы эти компоненты работают независимо друг от друга. Они чередуют обработку данных, обмениваясь ими друг с другом, что требует много времени и энергии. Кроме того, при передаче информации часто возникают узкие места, которые ограничивают общую эффективность системы.
Столкнувшись с этой проблемой, группа исследователей из Калифорнийского университета в Риверсайде разработала новый метод обработки данных. В его основе лежит схема под названием «Одновременная и гетерогенная многопоточность» (SHMT), которая позволяет обрабатывать данные параллельно, избегая узких мест. Такой подход позволяет программам работать быстрее и является более энергоэффективным. Подробная информация о системе была представлена на международном симпозиуме по микроархитектурам (Micro 2023) и доступна в электронной библиотеке ACM.
Концепция, основанная на QAWS
Концепция SHMT задействована во время выполнения программы, а точнее во время планирования — процесса, в котором система выбирает порядок и расположение задач, решая, какие операции должны быть выполнены на каждом типе процессора. Система SHMT использует политику планирования под названием Quality-Aware Work-Stealing (QAWS). Она оптимизирует систему, делая ее «осведомленной» о релевантности задач. QAWS также опирается на стратегию «кражи работы», чтобы сбалансировать нагрузку между различными аппаратными ресурсами. Другими словами, если один процессор недогружен по сравнению с другими, он может «украсть» задачи у более нагруженного компонента, чтобы сбалансировать использование ресурсов.
Чтобы облегчить управление задачами, задачи сначала сегментируются на «операции высокого уровня», или HLOP. Затем система выполнения может распределить HLOP по очередям различных аппаратных компонентов, таких как CPU, GPU или ускоритель алгоритмов искусственного интеллекта, чтобы они могли обрабатываться параллельно.
Удвоение скорости обработки и снижение энергопотребления вдвое
Для проверки своего подхода исследователи разработали компьютерную систему, оснащенную обычными процессорами, которые можно встретить в современных компьютерах и смартфонах. Однако они внесли несколько изменений, чтобы смоделировать типичную производительность и рабочие нагрузки центра обработки данных.
Результаты тестирования показали, что использование их системы SHMT почти вдвое увеличило скорость обработки приложений по сравнению с традиционным методом обработки. Кроме того, этот подход позволил снизить энергопотребление при выполнении задач на 51 %.
Для реализации концепции SHMT требуется еще много работы, но в долгосрочной перспективе она может значительно снизить эксплуатационные расходы на ИТ-системы. Если программное обеспечение сможет выполнять больше задач за меньшее время и с меньшими затратами ресурсов, производители смогут создавать более дешевые устройства, которые при этом будут хорошо работать.
Для крупномасштабных систем, включая центры обработки данных, эффект будет еще более значительным: резко сократятся расходы на электроэнергию и потребность в охлаждении.
