Фильтр Блума

Фи́льтр Блу́ма (англ. Bloom filter) — это вероятностная структура данных, придуманная Бёртоном Блумом в 1970 году, позволяющая проверять принадлежность элемента к множеству. При этом существует возможность получить ложноположительное срабатывание (элемента в множестве нет, но структура данных сообщает, что он есть), но не ложноотрицательное.

Фильтр Блума может использовать любой объём памяти, заранее заданный пользователем, причём чем он больше, тем меньше вероятность ложного срабатывания. Поддерживается операция добавления новых элементов в множество, но не удаления существующих (если только не используется модификация со счётчиками).

Описание структуры данных

Пример фильтра Блума с $m=18$ и $k=3$, хранящего множество {x, y, z}. Цветные стрелки указывают на места в битовом массиве, соответствующие каждому элементу множества. Этот фильтр Блума может определить, что элемент w не входит в множество, так как один из соответствующих ему битов равен нулю.

Фильтр Блума представляет собой битовый массив из m бит. Изначально, когда структура данных хранит пустое множество, все m бит обнулены. Пользователь должен определить k независимых хеш-функций h₁, …, h_k, каждая из которых отображает множество элементов в множество мощностью m. (Иными словами, каждому элементу хеш-функция сопоставляет число от 1 до m.) Для каждого элемента e биты массива с номерами h₁(e), …, h_k(e) равными значениям хеш-функций устанавливаются в 1.

Для проверки принадлежности элемента e к множеству хранимых элементов необходимо проверить состояние битов h₁(e), …, h_k(e). Если хотя бы один из них равен нулю, элемент не может принадлежать множеству (иначе бы при его добавлении все эти биты были установлены). Если все они равны единице, то структура данных сообщает, что е может принадлежать множеству. При этом может возникнуть две ситуации: либо элемент действительно принадлежит множеству, либо все эти биты оказались установлены по случайности при добавлении других элементов, что и является источником ложных срабатываний в этой структуре данных.

Независимость хеш-функций обеспечивает минимальную вероятность повторения индексов h_k(e), минимизируя число бит установленных в 1 несколько раз. (А это главный источник ложноположительных срабатываний.)

Вероятность ложноположительного срабатывания

Оценка вероятности ложного срабатывания p как функция от числа вставленных элементов n и размера битового массива m, при оптимальном числе хеш-функций $k=(m/n)\ln 2$.

Пусть размер битового массива равен m бит и задано k хеш-функций. Предположим, что множество хеш-функций выбирается случайно, и для любого элемента x каждая хеш-функция h_i назначает ему одно из мест в битовом массиве с равной вероятностью

$\Pr(h_{i}(x)=p)={\frac {1}{m}},\quad p=1\ldots m,$

и, кроме того, значения $h_{i}(x)$ являются независимыми в совокупности случайными величинами (для упрощения последующего анализа).

Тогда вероятность того, что в некоторый p-й бит не будет записана единица во время операции вставки очередного элемента равна

$\Pr(h_{1}(x)\neq p\cap \ldots \cap h_{k}(x)\neq p)=\Pr(h_{i}(x)\neq p)^{k}=\left(1-{\frac {1}{m}}\right)^{k}.$

А вероятность того, что p-й бит останется равным нулю после вставки n различных элементов x₁, …, x_n в изначально пустой фильтр Блума равна

$\Pr \left(\forall i\in \{1\dots k\},\ \forall j\in \{1\ldots n\},\ h_{i}(x_{j})\neq p\right)=\left(1-{\frac {1}{m}}\right)^{kn}\approx e^{-kn/m}$

для достаточно большого m ввиду второго замечательного предела.

Ложноположительное срабатывание состоит в том, что для некоторого элемента y, не равного ни одному из вставленных, все k бит с номерами h_i(y) окажутся ненулевыми, и фильтр Блума ошибочно ответит, что y входит во множество вставленных элементов. Вероятность такого события примерно равна

$(1-e^{-kn/m})^{k}.$

Очевидно, что эта вероятность уменьшается с ростом m (размера битового массива) и увеличивается с ростом n (числа вставленных элементов). Для фиксированных m и n оптимальное число k (число хеш-функций), минимизирующих её, равно

$\textstyle k={\frac {m}{n}}\ln 2\approx 0{,}6931{\frac {m}{n}}.$

При этом сама вероятность ложного срабатывания равна

$2^{-k}\approx {0{,}6185}^{m/n}.$

Как следствие, заметим, что для того, чтобы фильтр Блума поддерживал заданную ограниченную вероятность ложного срабатывания, размер битового массива должен быть линейно пропорционален числу вставленных элементов.

Свойства

• В отличие от многих других структур данных (например, хеш-таблиц), также хранящих множество элементов, фильтр Блума может представлять универсальное множество всех возможных элементов. В этом случае все биты в его битовом массиве равны единице.
• Объединение и пересечение двух фильтров Блума одинакового размера и c одинаковым множеством хеш-функций может быть реализовано побитовыми операциями OR и AND над их битовыми массивами.

Применение

По сравнению с хеш-таблицами фильтр Блума может обходиться на несколько порядков меньшими объёмами памяти, жертвуя детерминизмом. Обычно он используется для уменьшения числа запросов к несуществующим данным в структуре данных с более дорогостоящим доступом (например, расположенной на жестком диске или в сетевой базе данных), то есть для «фильтрации» запросов к ней.

Примеры практических применений:

• Прокси-сервер Squid использует фильтры Блума для опции cache digests.
• Google BigTable использует фильтры Блума для уменьшения числа обращений к жесткому диску при проверке на существование заданной строки или столбца в таблице базы данных.
• Компьютерные программы для проверки орфографии.

См. также

• Фильтр Блума с подсчётом