Специалисты Пермского Политеха создали инновационный способ распределения вычислительных задач, который принимает во внимание не только предполагаемое время выполнения, но и степень точности этого прогноза. Благодаря этому время отклика снижается на 8–10%, а нагрузка на серверы распределяется на 60–70% равномернее, причем без необходимости в дорогостоящем оборудовании. Эту информацию представители ПНИПУ передали редакции CNews.
Ежедневно поисковые системы, стриминговые платформы, интернет-магазины и прочие онлайн-сервисы обрабатывают миллионы запросов пользователей: открыть страницу, выполнить сложное вычисление, воспроизвести видео. За кулисами этого процесса работает особая программа — планировщик, или диспетчер задач. Именно он в режиме реального времени определяет, на какой из тысяч вычислительных узлов направить запрос, чтобы пользователь получил ответ максимально быстро, а ни один сервер не пострадал от перегрузки.
Главная сложность заключается в том, что современные алгоритмы распределения задач действуют практически вслепую — им не хватает общей картины, и они не способны точно спрогнозировать последствия. Одни алгоритмы ориентируются исключительно на текущую ситуацию: выбирают устройство с самой короткой очередью. Однако такой сервер может оказаться устаревшим и медленным, из-за чего пользователь будет ждать ответа в несколько раз дольше — секунды превратятся в десятки секунд, а в часы пик — в минуты. Другие подходы пытаются предсказать будущее (оценивают длительность задачи), но их прогнозы часто бывают неточными: запрос попадает на перегруженный или неподходящий компьютер, и система начинает работать с задержками. Третьи методы задействуют искусственный интеллект, но они слишком ресурсоемки: требуют суперкомпьютеров (десятков тысяч объединенных процессоров), огромных массивов данных и постоянного обучения, что на практике оказывается чересчур дорогим и медленным решением.
В результате часть серверов простаивает без дела, другие работают на пределе возможностей, а пользователи вынуждены ждать, пока загрузится страница или исчезнет значок буферизации видео.
Чтобы решить эту проблему, ученые Пермского Политеха предложили метод, который распределяет задачи между компьютерами, учитывая не только сам прогноз, но и его надежность. В сравнении с существующими решениями новая разработка сокращает время выполнения задач и заметно улучшает равномерность загрузки вычислительных узлов.
По сути, это интеллектуальный диспетчер, принимающий решения на основе трех критериев. Во-первых, он оценивает, сколько времени займет задача на каждом конкретном компьютере. Во-вторых, анализирует его текущую загруженность. И в-третьих, проверяет, насколько точными были предыдущие прогнозы для данной вычислительной машины.
«Наш подход связывает точность прогнозирования с показателями работы каждого узла вычислительной системы. Когда фактические результаты обработки задач оказываются хуже ожидаемых, планировщик уменьшает приоритет и перенаправляет задачу более стабильному исполнителю. Такое устройство получает меньше задач до тех пор, пока прогнозы снова не станут точными. Приоритет отдается тем компьютерам, чьи реальные показатели работы наиболее близки к прогнозируемым. Это позволяет сбалансировать нагрузку для более рационального использования ресурсов вычислительной системы», – отметил Егор Трушкин, аспирант кафедры «Автоматика и телемеханика» ПНИПУ.
Чтобы оценить эффективность новой методики, исследователи провели ряд вычислительных экспериментов на программной модели и реальном стенде с применением технологий виртуализации, воспроизводя различные сценарии работы – от идеальных условий до полного хаоса с непредсказуемыми сбоями в статистике.
«В ситуациях, когда моделировалось нестабильное поведение вычислительного узла, прогнозы значительно расходились с реальными данными. При этом традиционные методы распределения ресурсов направляют задачи на ненадежные серверы, которые "замедлялись" и "образовывали заторы". А наш метод, дополнительно учитывающий достоверность прогноза, продемонстрировал высокую эффективность вычислительной системы: время выполнения задач снизилось на 8–10%, а равномерность распределения нагрузки между серверами повысилась на 60–70%», – сообщил Владимир Фрейман, профессор кафедры «Автоматика и телемеханика» ПНИПУ, доктор технических наук.
К примеру, интернет-магазин в "черную пятницу" посещают 10 млн человек. При старом подходе сайт справляется, скажем, с 8 млн, а 2 млн пользователей ожидают или покидают ресурс. Новая методика позволяет обработать на 10% больше, то есть 9 миллионов. Это означает тысячи дополнительных заказов и доходов без приобретения нового оборудования.
А выравнивание нагрузки на 60-70% – это как если раньше один продавец в магазине работал за троих и не успевал, а другой простаивал, теперь же очередь распределяется так, что все сотрудники загружены равномерно. В итоге никто не перегружается, а покупателей обслуживают быстрее.
Разработка ученых не требует значительных вычислительных ресурсов – в отличие от методов, основанных на нейросетях, ей не нужны суперкомпьютеры, огромные объемы данных для обучения и постоянная перенастройка. Это позволяет внедрять метод в стандартные серверные системы без дополнительных аппаратных затрат.
Такой механизм можно интегрировать в любой интернет-сервис: поисковики, онлайн-кинотеатры, магазины, банковские приложения и облачные платформы. Внедрение этой технологии даст компаниям возможность обрабатывать больше запросов на том же оборудовании и экономить на электроэнергии и покупке новых компьютеров. А для обычных пользователей это означает быструю загрузку сайтов, плавное видео без задержек и мгновенный отклик приложений – даже вечером в час пик, когда интернет перегружен.
