Высокопроизводительные параллельные вычисления на кластерных системах

Кафедра информатики и автоматизации научных исследований

Специальность: Математическое моделирование, численные методы и комплексы программ

Преподаватель: Бартенев Ю.Г.

Дисциплина «Высокопроизводительные параллельные вычисления на кластерных системах»  относится к числу профессиональных дисциплин, является обязательной дисциплиной и изучается на 2 году обучения, в 3 семестре.

Освоение курса опирается на знания, умения, навыки и компетенции, сформированные на двух предшествующих уровнях образования. На уровне бакалавриата курсы «Высокоуровневые методы программирования», «Объектноориентированное программирование». На уровне магистратуры курсы «Модели и методы эффективного использования распределенных вычислительных систем», «Методы и технологии суперкомпьютерных вычислений», «Средства параллельного программирования».

Планируемые результаты обучения по дисциплине:
ЗНАТЬ: основные методы научно-исследовательской деятельности.
УМЕТЬ: выделять и систематизировать основные идеи в научных текстах; критически оценивать любую поступающую информацию, вне зависимости от источника; избегать автоматического применения стандартных формул и приемов при решении задач.
ВЛАДЕТЬ: навыками сбора, обработки, анализа и систематизации информации по теме исследования; навыками выбора методов и средств решения задач исследования.
ЗНАТЬ: основные направления, проблемы, теории и методы философии, содержание современных философских дискуссий по проблемам общественного развития.
УМЕТЬ: формировать и аргументировано отстаивать собственную позицию по различным проблемам философии; использовать положения и категории философии для оценивания и анализа различных социальных тенденций, фактов и явлений.
ВЛАДЕТЬ: навыками восприятия и анализа текстов, имеющих философское содержание, приемами ведения дискуссии и полемики, навыками публичной речи и письменного аргументированного изложения собственной точки зрения.
ЗНАТЬ: возможные сферы и направления профессиональной самореализации; приемы и технологии целеполагания и целереализации;пути достижения более высоких уровней профессионального и личного развития.
УМЕТЬ: выявлять и формулировать проблемы собственного развития, исходя из этапов профессионального роста и требований рынка труда к специалисту; формулировать цели профессионального и личностного развития, оценивать свои возможности, реалистичность и адекватность намеченных способов и путей достижения планируемых целей.
ВЛАДЕТЬ: приемами целеполагания, планирования, реализации необходимых видов деятельности, оценки и самооценки результатов деятельности по решению профессиональных задач; приемами выявления и осознания своих возможностей, личностных и профессионально-значимых качеств с целью их совершенствования.
ЗНАТЬ: материал фундаментальных разделов математического моделирования сложных технических, организационных и социальных систем.
УМЕТЬ: применять классические подходы к решению канонических задач математического моделирования сложных технических, организационных и социальных систем.
ВЛАДЕТЬ: численными методами и информационными технологиями исследования проблем принятия решений в сложных технических, организационных и социальных системах.
ЗНАТЬ: основной аппарат математического моделирования, численных методов и комплексов программ.
УМЕТЬ: использовать классические подходы к решению задач принятия решений в различных областях человеческой деятельности.
ВЛАДЕТЬ: фундаментальными знаниями в области математического моделирования сложных технических, организационных и социальных систем.
ЗНАТЬ: основные пакеты профессиональных прикладных программ.
УМЕТЬ: решать типовые задачи в области математического моделирования сложных технических, организационных и социальных систем с использованием численных методов и комплексов программ.
ВЛАДЕТЬ: навыками работы с пакетами профессиональных прикладных программ.

Содержание

Декомпозиция данных приложения для распараллеливания вычислений на кластере Разбиение данных математического моделирования представимых графами как средство организации параллельных вычислений. Типы вычислительных кластеров (однородные, неоднородные по производительности вычислений и обмену данными). Общая и частные постановки постановки оптимизационной задачи сбалансированного разбиения взвешенного графа данных для распределения на сеть вычислительных устройств. Методы, инструменты и библиотеки для решения задачи разбиения взвешенного графа.
Способы и средства параллельной обработки данных в процессе математического моделирования на вычислительном кластере и оценки их эффективности. Средства распараллеливания общего назначения (MPI, OpenMP). Параллельный и параллельно-конвейерный способ обработки данных. Примеры применения обоих способов при решении задач математического моделирования. Способы оценки эффективности распараллеливания (явные и косвенные сильное и слабое масштабирование). Прогноз количественных соотношений подсистем перспективных суперЭВМ на примере моделирования физических процессов явными методами. Типовые подзадачи, возникающие в процессе математического моделирования, и математические библиотеки параллельного решения типовых подзадач.
Способы и средства решения систем линейных уравнений на вычислительном кластере Прямые и итерационные методы решения систем линейных алгебраических уравнений (СЛАУ) и ниши их применения. Предобусловливатели итерационных решателей. Градиентные методы решения СЛАУ с разреженными матрицами (CG, BiCGStab). Параллельные предобусловливатели (многосеточные предобусловливатели, дополнение Шура, блочные предобусловливатели Якоби и Шварца). Примеры и особенности ряда библиотек параллельных решателей СЛАУ. Взаимосвязь решателей СЛАУ с решением других типовых задач математического моделирования (задачи модального и гармонического анализа, коррекции сетки).

Литература

  1. В.В.Воеводин, Ю.А.Кузнецов. Матрицы и вычисления. (Серия: “Справочная математическая библиотека”). М: Наука, Главная редакция физико-математической литературы, 1984.,318 стр. (В библиотеке ННГУ 4 экз.)
  2. Джордж А, Лю Дж.  Численное решение больших разреженных систем уравнений.    Пер. с англ. — М.: Мир, 1984. — 333 с. (В библиотеке ННГУ 3 экз.)

Вопросы для экзамена

  1. Типы вычислительных кластеров и обшая постановка задачи декомпозиция данных для решения задач математического моделирования.
  2. Способы декомпозиции сеточных данных для математического моделирования на однородном и неоднородном кластере.
  3. Возможности современных программные средств (математических библиотек) для декомпозиции данных.
  4. Назначение, основные возможности OpenMP и особенности существующих реализаций.
  5. Назначение, основные возможности MPI и особенности существующих реализации.
  6. Способы и средства исследования производительности и масштабируемости параллельных приложений.
  7. Инструменты исследования эффективности использования параллельным приложением аппаратных возможностей.
  8. Современное математическое обеспечение основных этапов математического моделирования физических процессов: построители компьютерных моделей, построители поверхностных и объёмных сеток, библиотеки свойств веществ, решатели, оптимизаторы, визуализаторы.
  9. Место решателей СЛАУ в процессе математического моделирования физических процессов. Метод Ньютона решения нелинейной системы сеточных уравнений.
  10. Основные методы решения СЛАУ с плотной и разреженной матрицей. Вычислительная сложность решения СЛАУ с плотной матрицей методом Гаусса и ортогональными методами, повышение точности машинных вычислений.
  11. Предобусловленные итерационные решателей: простой итерации, решателей в подпространствах Крылова: CG, BiCGStab и др.. Основные виды простых предобусловливателей: Якоби, Гаусса-Зейделя.
  12. Современные предобусловливатели для итерационного решения СЛАУ с плохообусловленными матрицами: ILU/IC, дополнение Шура, приближенная обратная матрица.
  13. Многосеточные решатели и предобусловливатели. Разновидности: геометрический, алгебраический селективный и алгебраический агрегативный.
  14. Число обусловленности матрицы и связь с точностью и сходимостью итерационных решателей. Оценка числа обусловленности. Понятие о решении частичной спектральной задачи. Библиотеки решателей СЛАУ и частичной спектральной задачи.

Отчетность

  • Семестр 3: Зач