Больших чисел закон

БОЛЬШИХ ЧИСЕЛ ЗАКОН, общий принцип, согласно которому совместное действие большого числа случайных факторов приводит при некоторых весьма общих условиях к результату, почти не зависящему от случая. Сближение частоты наступления случайного события с его вероятностью при возрастании числа испытаний (так называемая устойчивость частот) может служить примером действия этого принципа.

На рубеже 17 и 18 века Я. Бернулли доказал теорему, утверждающую, что в последовательности независимых испытаний, в каждом из которых вероятность наступления некоторого события А имеет одно и то же значение р, 0<р<1, верно соотношение

при любом фиксированном ε > 0 и n →∞; здесь S_n - число появлений события А в первых n испытаниях, S_n/n - часто­та появлений, Р - вероятность события, указанного в скобках. Эта Бернулли теорема была распространена С. Пуас­соном на случай последовательности не­зависимых испытаний, где вероятность появления события А может зависеть от номера испытания. Пусть эта вероят­ность для k-го испытания равна p_k k=1, 2,.. и пусть

Тогда Больших чисел закон в форме Пуассона утверждает, что

для любого фиксированного ε > 0 при n →∞. Строгое доказательство этого ут­верждения было дано П. Л. Чебышевым (1846). Термин «закон больших чисел» впервые встречается у Пуассона, так он назвал вышеуказанное обобщение тео­ремы Бернулли.

Дальнейшие обобщения утверждений Бернулли и Пуассона возникают, ес­ли заметить, что случайные величины S_n можно представить в виде суммы S_n = X₁ + ...+Х_n независимых случайных величин, где Х_k = 1, если А появляется в k-м испытании, и Х_k = 0 в противном случае, k=1, .., n. При этом мате­матическое ожидание E(S_n/n) равно р для случая Бернулли и р_n для слу­чая Пуассона. Другими словами, в обо­их случаях рассматривается отклоне­ние среднего арифметического величин Х₁, ..., Х_n, от среднего арифметического их математических ожиданий.

В работе П. Л. Чебышева «О средних величинах» (1867) было установлено, что для независимых случайных вели­чин Х₁, Х₂, ..., соотношение

при n →∞ верно для любого фиксиро­ванного ε > 0 при весьма общих пред­положениях. Чебышев предполагал, что математические ожидания ЕХ²_k ограничены одной и той же постоянной, хотя из его доказательства видно, что достаточно ограниченности дисперсий DX_k, или да­же выполнения условия

при n →∞. Таким образом, Чебышев по­казал возможность широкого обобще­ния теоремы Бернулли. А. А. Марков отметил возможность дальнейших обоб­щений и предложил применять название «Больших чисел закон» ко всей совокупности обобще­ний теоремы Бернулли, и в частности к (3). Метод Чебышева основан на уста­новлении общих свойств математических ожиданий и на использовании т. н. Че­бышева неравенства. Последующие до­казательства различных форм Больших чисел закона в той или иной степени являются развитием метода Чебышева. Применяя надлежа­щее «урезание» случайных величин X_k (замену их вспомогательными величи­нами X_k,n, равными X_n,k =X_k, если |X_k-EX_k|≤ t_n , и равными нулю в про­тивном случае, где t_n зависят лишь от n), Марков распространил Больших чисел закон на случаи, когда дисперсии слагаемых не существуют. Например, он показал, что (3) имеет место, если для некоторого числа δ > 0 величины Е|Х_k - ΕX_k|^{1 +δ} ограниче­ны одной и той же постоянной.

Аналогично доказывается теорема Хинчина (1929): если X₁ , Х₂, .. имеют одинаковые законы распределения и EX₁ существует, то Больших чисел закон (3) выполняется.

Существуют примеры, когда Больших чисел закон не выполняется. Так, он не выполняется, если случайные величины X₁, Х₂, ... име­ют Коши распределение, т. е. распреде­ление с плотностью 1/(π(1 +х²)). Здесь средние арифметические (Х₁+...+Х_n)/n первых n случайных величин имеют при любом n то же самое распределение, что и отдельные слагаемые. Для рас­пределения Коши математическое ожидание не существует.

Применимость Больших чисел закона к суммам зави­симых величин связана в первую оче­редь с убыванием зависимости между случайными величинами X_i и X_j при увеличении разности их номеров, т. е. при увеличении |i-j|. Впервые соответ­ствующие теоремы были доказаны А. А. Марковым (1907) для величин, связан­ных в Маркова цепь.

Представление об отклонениях S_n/n от А_n = (ЕХ₁ + ... + ЕХ_n)/n, наряду с неравенством Чебышева и его уточне­ниями, даёт центральная предельная теорема.

Предыдущие результаты можно обоб­щать в различных направлениях. Так, всюду выше рассматривалась т. н. сходимость по вероятности. Рассматривают и другие виды сходимости, например сходимость в среднем квадратичном и сходимость с вероятностью 1 (сходимость почти на­верное). Обобщения Больших чисел закона на случай сходимости с вероятностью 1 называют усиленными Больших чисел законами.

Пусть X₁, Х₂, ... - последователь­ность случайных величин и, как и рань­ше, S_n = X₁ + ... + Х_n. Говорят, что по­следовательность Х₁, Х₂, ... удовлетво­ряет усиленному Больших чисел закону, если существу­ет такая последовательность постоян­ных А_n, что вероятность соотношения S_n/n – А_n —> 0 при n —> ∞ равна 1. После­довательность X₁, Х₂, ... удовлетворяет усиленному Больших чисел закону тогда и только то­гда, когда при любом фиксированном ε > 0 вероятность одновременного вы­полнения неравенств

стремится к 1 при n →∞. Таким образом, здесь рас­сматривается поведение всей последовательности сумм в целом, в то время как в обычном Больших чисел законе речь идёт лишь об отдельных суммах. Если последовательность X₁, Х₂, ... удовлетворяет усиленному Больших чисел закону, то она удовлетворяет и обычно­му Больших чисел закону с теми же самыми А_n, т. е.

при любом фиксированном ε > 0 и n→∞. Обратное, вообще говоря, неверно.

Усиленный Больших чисел закон был впервые сфор­мулирован и доказан Э. Борелем (1909) для схемы Бернулли. Частные случаи схемы Бернулли возникают, например, при разложении взятого наудачу (т. е. с рав­номерным распределением) действитель­ного числа из отрезка [0, 1] в беско­нечную дробь по какому-либо основанию. Так, в двоичном разложении

случайные величины Χ₁(ω), Χ₂(ω),.. принимают два значения 0 и 1 с веро­ятностью ¹/₂ каждое и являются неза­висимыми. Сумма S_n(ω) = ∑ⁿ_k-1X_k(ω) равна числу единиц среди первых n зна­ков двоичного разложения ω, а S_n(ω)/n- их доле. В то же время случайную ве­личину S_n можно рассматривать как число «успехов» в схеме Бернулли с ве­роятностью «успеха» (появления 1), равной ¹/₂. Борель доказал, что доля еди­ниц S_n(ω)/n стремится к ¹/₂ при n→∞ для почти всех ω из отрезка [0, 1] (т. е. лебегова мера множества тех точек ω[0, 1], для которых limS_n(ω)/n = ¹/₂, при n→∞, равна 1). Аналогично, при разложении ω по основанию 10 можно назвать «ус­пехом» появление какой-либо одной из цифр 0, 1, ..., 9 (например, цифры 3). При этом получается схема Бернулли с вероятно­стью успеха ¹/₁₀, и частота появления выбранной цифры среди первых n знаков десятичного разложения ω стремит­ся к ¹/₁₀ для почти всех ω из отрезка [0, 1] (такие числа ω иногда называют нормальными). Борель отметил также, что частота появления любой фиксированной группы из r цифр стремится к ¹/₁₀^r для почти всех ω.

В случае независимых слагаемых наи­более известными являются условия справедливости усиленного Больших чисел закона, ус­тановленные А. Н. Колмогоровым: дос­таточное (1930) - для величин с ко­нечными дисперсиями и необходимое и достаточное (1933) - для одинаково распределённых величин (заключающееся в существовании математического ожидания этих величин). Теорема Колмогорова для независимых случайных величин X₁, Х₂, ... с конечными дисперсиями ут­верждает, что из условия

вытекает справедливость усиленного Больших чисел закона с А_n = E(S_n/n).

Представление об отклонениях S_n/n от А_n даёт повторного логарифма за­кон.

Лит.: Бернулли Я. О законе больших чисел. М., 1986; Колмогоров А. Н. Теория вероятностей и математическая статистика. М., 1986; Гнеденко Б. В., Хинчин А. Я. Элементарное введение в теорию вероятностей. 10-е изд. М., 2003; Ширяев А. Н. Вероятность-1. Элементарная теория вероятностей. Математические основания. Предельные теоремы. 3-е изд. М., 2004; Гнеденко Б. В. Курс теории вероятностей. 8-е изд. М., 2005.