Высшее образование - Лупин С.А., Посыпкин М.А. - Технологии параллельного программирования [2011, PDF, RUS]

Предисловие
Введение
Области применения параллельных вычислений
Краткий обзор архитектуры параллельных систем
Структура и целевая аудитория пособия
1. Параллельные программы на основе передачи сообщений
1.1. Параллельные процессы, взаимодействующие с помощью передачи сообщений
1.2. Простейшая MPI-программа
1.3. Пересылка данных между двумя процессами
1.4. Численное интегрирование: параллельная реализация на основе MPI
1.5. Семантика точечных обменов
1.6. Организация буферизованных пересылок
1.7. Прием сообщения по шаблону
1.8. Стратегия управляющий-рабочие (master-slave): адаптивная квадратура
1.9. Отложенные пересылки данных
1.10. Коммуникаторы и группы
1.11. Коллективные взаимодействия процессов
2. Многопоточное программирование
2.1. Процессы и потоки в многозадачной операционной системе
2.2. Создание и завершение потока в интерфейсе POSIX Threads.
2.3. Многопоточная программа численного интегрирования
2.4. Синхронизация
3. Среда программирования OpenMP
3.1. Общая организация среды OpenMP и модель выполнения
3.2. Hello World на OpenMP
3.3. Опции для переменных в OpenMP-программе
3.4. Синхронизация в OpenMP
3.5. Распределение работы между параллельными потоками
Заключение
Литература
Приложение 1. Справочная информация по MPI
Коды ошибок
Функции точечных обменов
Работа с типами данных
Коллективные взаимодействия
Операции с группами и коммуникаторами
Приложение 2. Основные функции многопоточного программирования
Приложение 3. Учебный компьютерный класс, как средство реализации параллельных вычислений
Приложение 4. Язык параллельного программирования mpC