Алгоритм Беллмана-Форда

1 Свойства и структура алгоритма

1.1 Общее описание алгоритма

Алгоритм Беллмана-Форда предназначен для решения задачи поиска кратчайшего пути на графе. Для заданного ориентированного взвешенного графа алгоритм находит кратчайшие расстояния от выделенной вершины-источника до всех остальных вершин графа. Алгоритм Беллмана-Форда масштабируется хуже других алгоритмов решения указанной задачи (сложность $O(mn)$ против $O(m + n\ln n)$ у алгоритма Дейкстры), однако его отличительной особенностью является применимость к графам с произвольными, в том числе отрицательными, весами.

1.2 Математическое описание алгоритма

Пусть задан граф $G = (V, E)$ с весами рёбер $f(e)$ и выделенной вершиной-источником $u$. Обозначим через $d(v)$ кратчайшее расстояние от источника $u$ до вершины $v$.

Алгоритм Беллмана-Форда ищет функцию $d(v)$ как единственное решение уравнения

$d(v) = \min \{ d(w) + f(e) \mid e = (w, v) \in E \}, \quad \forall v \ne u,$

с начальным условием $d(u) = 0$.

1.3 Вычислительное ядро алгоритма

Основной операцией алгоритма является релаксация ребра: если $e = (w, v) \in E$ и $d(v) \gt d(w) + f(e)$, то производится присваивание $d(v) \leftarrow d(w) + f(e)$.

1.4 Макроструктура алгоритма

Алгоритм последовательно уточняет значения функции $d(v)$.

• В самом начале производится присваивание $d(u) = 0$, $d(v) = \infty$, $\forall v \ne u$.
• Далее происходит $n-1$ итерация, в ходе каждой из которых производится релаксация всех рёбер графа.

Структуру можно описать следующим образом:

1. Инициализация: всем вершинам присваивается предполагаемое расстояние $t(v)=\infty$, кроме вершины-источника, для которой $t(u)=0$ .

2. Релаксация множества рёбер $E$

а) Для каждого ребра $e=(v,z) \in E$ вычисляется новое предполагаемое расстояние $t^' (z)=t(v)+ w(e)$.

б) Если $t^' (z)\lt t(z)$, то происходит присваивание $t(z) := t' (z)$ (релаксация ребра $e$ ).

3. Алгоритм производит релаксацию всех рёбер графа до тех пор, пока на очередной итерации происходит релаксация хотя бы одного ребра.

Если на $n$-й итерации всё ещё производилась релаксацию рёбер, то в графе присутствует цикл отрицательной длины. Ребро $e=(v,z)$, лежащее на таком цикле, может быть найдено проверкой следующего условия (проверяется для всех рёбер за линейное время): $t(v)+w(e)\lt d(z)$

1.5 Схема реализации последовательного алгоритма

Последовательный алгоритм реализуется следующим псевдокодом:

Входные данные:
  граф с вершинами V, рёбрами E с весами f(e);
  вершина-источник u.
Выходные данные: расстояния d(v) до каждой вершины v ∈ V от вершины u.

for each v ∈ V do d(v) := ∞
d(u) = 0

for i from 1 to |V| - 1:
    for each e = (w, v) ∈ E:
        if d(v) > d(w) + f(e):
            d(v) := d(w) + f(e)

1.6 Последовательная сложность алгоритма

Алгоритм выполняет $n-1$ итерацию, на каждой из которых происходит релаксация $m$ рёбер. Таким образом, общий объём работы составляет $O(mn)$ операций.

Константа в оценке сложности может быть уменьшена за счёт использования следующих двух стандартных приёмов.

1. Если на очередной итерации не произошло ни одной успешной релаксации, то алгоритм завершает работу.
2. На очередной итерации рассматриваются не все рёбра, а только выходящие из вершин, для которых на прошлой итерации была выполнена успешная релаксация (на первой итерации – только рёбра, выходящие из источника).

1.7 Информационный граф

На рисунке 1 представлен информационный граф алгоритма, демонстрирующий описанные уровни параллелизма. На приведенном далее информационном графе нижний уровень параллелизма обозначен в горизонтальных плоскостях. Множество всех плоскостей представляет собой верхний уровень параллелизма (операции в каждой плоскости могут выполняться параллельно).

Нижний уровень параллелизма на графе алгоритма расположен на уровнях {2 и 3}, соответствующим операциям инициализации массива дистанций (2) и обновления массива c использованием данных массива ребер {3}. Операция {4} - проверка того, были ли изменения на последней итерации и выход из цикла, если таковых не было.

Рисунок 1. Информационный граф обобщенного алгоритма Беллмана-Форда.

Верхний уровень параллелизма, как уже говорилось, заключается в параллельном подсчете дистанций для различных вершин-источников, и на рисунке отмечен разными плоскостями.

1.8 Ресурс параллелизма алгоритма

При использовании атомарных операций для вычисления минимума релаксация рёбер может производится параллельно. В этом случае потребуется $O(n)$ шагов при использовании $O(m)$ процессоров.

Алгоритм Δ-шагания может рассматриваться как параллельная версия алгоритма Беллмана-Форда.

1.9 Входные и выходные данные алгоритма

Входные данные: взвешенный граф $(V, E, W)$ ($n$ вершин $v_i$ и $m$ рёбер $e_j = (v^{(1)}_{j}, v^{(2)}_{j})$ с весами $f_j$), вершина-источник $u$.

Объём входных данных: $O(m + n)$.

Выходные данные (возможные варианты):

1. для каждой вершины $v$ исходного графа – последнее ребро $e^*_v = (w, v)$, лежащее на кратчайшем пути от вершины $u$ к $v$, или соответствующая вершина $w$;
2. для каждой вершины $v$ исходного графа – суммарный вес $f^*(v)$ кратчайшего пути от от вершины $u$ к $v$.

Объём выходных данных: $O(n)$.

1.10 Свойства алгоритма

Алгоритм может распознавать наличие отрицательных циклов в графе. Ребро $e = (v, w)$ лежит на таком цикле, если вычисленные алгоритмом кратчайшие расстояния $d(v)$ удовлетворяют условию

$d(v) + f(e) \lt d(w),$

где $f(e)$ – вес ребра $e$. Условие может быть проверено для всех рёбер графа за время $O(m)$.

2 Программная реализация алгоритма

2.2 Локальность данных и вычислений

2.2.1 Локальность реализации алгоритма

2.2.1.1 Структура обращений в память и качественная оценка локальности

В ходе исполнения алгоритма данные о рёбрах читаются последовательно (идеальная локальность), однако чтение и обновление вектора расстояний зависит от структуры графа и обычно является случайным (локальность отсутствует).

2.2.1.2 Количественная оценка локальности

Для обработки одного ребра:

1. чтение данных о ребре не должно вызывать промаха по кэшу, так как данные о рёбрах читаются последовательно
2. чтение и обновление массива расстояний, напротив, почти наверняка вызовет два промаха по кэшу (по одному для каждого конца ребра)

2.3 Возможные способы и особенности параллельной реализации алгоритма

Программа, реализующая алгоритм поиска кратчайших путей, состоит из двух частей: части, отвечающей за общую координацию вычислений, а так же параллельные вычисления на многоядерных CPU, и GPU части, отвечающей только за вычисления на графическом ускорителе.

2.4 Масштабируемость алгоритма и его реализации

2.4.2 Масштабируемость реализации алгоритма

Проведём исследование масштабируемости параллельной реализации алгоритма Беллмана-Форда согласно методике. Исследование проводилось на суперкомпьютере "Ломоносов-2 Суперкомпьютерного комплекса Московского университета.

Набор и границы значений изменяемых параметров запуска реализации алгоритма:

• число процессоров [1 : 28] с шагом 1;
• размер графа [2^20 : 2^27].

Проведем отдельные исследования сильной масштабируемости вширь реализации алгоритма Беллмана-Форда.

Производительность определена как TEPS (от англ. Traversed Edges Per Second), то есть число ребер графа, который алгоритм обрабатывает в секунду. С помощью данной метрики можно сравнивать производительность для различных размеров графа, оценивая, насколько понижается эффективность обработки графа при увеличении его размера.

Рисунок 2. Параллельная реализация алгоритма Беллмана-Форда масштабируемость различных версий реализации алгоритма: производительность в зависимости от размера графа

2.7 Существующие реализации алгоритма

• C++: Boost Graph Library (функция bellman_ford_shortest).
• Python: NetworkX (функция bellman_ford).
• Java: JGraphT (класс BellmanFordShortestPath).