Закон больших чисел предельные теоремы

В начале курса мы уже говорили о том, что математические законы теории вероятностей получены абстрагированием реальных статистических закономерностей, свойственных массовым случайным явлениям. Наличие этих закономерностей связано именно с массовостью явлений, то есть с большим числом выполняемых однородных опытов или с большим числом складывающихся случайных воздействий, порождающих в своей совокупности случайную величину, подчиненную вполне определенному закону. Свойство устойчивости массовых случайных явлений известно человечеству еще с глубокой древности. В какой бы области оно ни проявлялось, суть его сводится к следующему: конкретные особенности каждого отдельного случайного явления почти не сказываются на среднем результате масс и таких явлений; случайные отклонения от среднего, неизбежные в каждом отдельном явлении, в массе взаимно погашаются, нивелируются, выравниваются. Именно эта устойчивость средних и представляет собой физическое содержание «закона больших чисел», понимаемого в широком смысле слова: при очень большом числе случайных явлений средний их результат практически перестает быть случайным и может быть предсказан с большой степенью определенности.

В узком смысле слова под «законом больших чисел» в теории вероятностей понимается ряд математических теорем, в каждой из которых для тех или иных условий устанавливается факт приближения средних характеристик большого числа опытов к некоторым определенным постоянным.

В 2.3 мы уже формулировали простейшую из этих теорем — теорему Я. Бернулли. Она утверждает, что при большом числе опытов частота события приближается (точнее — сходится по вероятности) к вероятности этого события. С другими, более общими формами закона больших чисел мы познакомимся в данной главе. Все они устанавливают факт и условия сходимости по вероятности тех или иных случайных величин к постоянным, не случайным величинам.

Закон больших чисел играет важную роль в практических применениях теории вероятностей. Свойство случайных величин при определенных условиях вести себя практически как не случайные позволяет уверенно оперировать с этими величинами, предсказывать результаты массовых случайных явлений почти с полной определенностью.

Возможности таких предсказаний в области массовых случайных явлений еще больше расширяются наличием другой группы предельных теорем, касающихся уже не предельных значений случайных величин, а предельных законов распределения. Речь идет о группе теорем, известных под названием «центральной предельной теоремы». Мы уже говорили о том, что при суммировании достаточно большого числа случайных величин закон распределения суммы неограниченно приближается к нормальному при соблюдении некоторых условий. Эти условия, которые математически можно формулировать различным образом — в более или менее общем виде, — по существу сводятся к требованию, чтобы влияние на сумму отдельных слагаемых было равномерно малым, т. е. чтобы в состав суммы не входили члены, явно преобладающие над совокупностью остальных по своему влиянию на рассеивание суммы. Различные формы центральной предельной теоремы различаются между собой теми условиями, для которых устанавливается это предельное свойство суммы случайных величин.

Различные формы закона больших чисел вместе с различными формами центральной предельной теоремы образуют совокупность так называемых предельных теорем теории вероятностей. Предельные теоремы дают возможность не только осуществлять научные прогнозы в области случайных явлений, но и оценивать точность этих прогнозов.

В данной главе мы рассмотрим только некоторые, наиболее простые формы предельных теорем. Сначала будут рассмотрены теоремы, относящиеся к группе «закона больших чисел», затем — теоремы, относящиеся к группе «центральной предельной теоремы».

sernam.ru

ЗАКОН БОЛЬШИХ ЧИСЕЛ. ПРЕДЕЛЬНЫЕ ТЕОРЕМЫ 306

ЕЩЁ МАТЕРИАЛЫ ПО ТЕМЕ:

Если возможные значения дискретной случайной величины X неотрицательны и существует ее математическое ожидание M(X)= а , то для любого числа A>0 справедливо неравенство

(9.1)

В этом случае выполняется неравенство (9.2)

Неравенства (9.1) и (9.2) называют неравенствами Маркова

Если X – случайная величина, математическое ожидание которой M(X)= а,

а дисперсия D(X) конечна, то для любого числа e> 0 выполняются неравенство:

(9.3)

(9.4)

Теорема Чебышева. Если случайные величины X1, X2 ,…Xn независимы, имеют математическое ожидание M(Xi) и дисперсии D(Xi) , ограниченные одним и тем же числом С , то для любого числа e> 0 выполняется неравенство

. (9.5)

Отсюда следует, что

. (9.6)

Если все случайные величины Xi (i=1,2,3,…n) имеют одно и то же математическое ожидание M(Xi) =а (i=1,2,…,n) , то неравенство (9.5) принимает вид

(9.7)

переходя к пределу при n → ∞ , отсюда получают

(9.8)

Теорема Бернулли. Если в каждом из независимых испытаний вероятность p появления события A постоянна , то вероятность того что отклонение частоты т/п от вероятности p по модулю не превзойдёт числа e > 0 , больше чем разность 1-pq/ n e ² , т.е

. (9.9)

Отсюда следует, что

. (9.10)

Теорема Чебышева. Если в каждом из независимых испытаний вероятность p появления события A постоянна , то вероятность того что отклонение частоты т/п от вероятности p по модулю не превзойдёт числа e > 0 , больше чем разность 1-pq/ n e ² , т.е.

. (9.11)

Пример 1. Для случайной величины Х известна дисперсия D(X)=0,01 и неравенство . Найти значение e.

Решение. Согласно формуле (9.4) получаем . По условию .

Из этих двух равенств следует, что

Ответ : e³0,5.

Пример 2. Найти вероятность того, что частота появления шестерки в 10000 независимых подбрасываниях интегрального кубика отклоняется от вероятности появления шестерки по модулю меньше чем на 0,01.

Решение. Воспользуемся неравенством (9.5). В данном случае п=1000, р=1/6, q=5/6, поэтому

.

Ответ : 0,86.

Пример 3.При каком числе независимых испытаний вероятность выполнения неравенства превысит 0,96, если вероятность появления события в отдельном испытании р=0,7?

Решение.По условию задачи имеем: e=0,2, р=0,7, поэтому q=0,3; требуется определить п с помощью неравенства (9.5). Условие P>0,96 равносильно неравенству При подстановке значений р=0,7, q=0,3 и e=0,2 в последнее неравенство находим, что Следовательно, требуемое неравенство выполняется при числе независимых испытаний, начиная со 132.

studepedia.org

Тема 7. Закон больших чисел и предельные теоремы

1. Неравенство Маркова

2. Неравенство Чебышева.

3. Частные случаи неравенства Чебышева.

4. Сходимость по вероятности

5. Теорема Чебышева

6. Теорема Бернулли

7. Интегральная теорема Муавра – Лаплапса.

При изучении массовых однородных случайных явлений обнаруживаются определенные устойчивые закономерности, которые проявляются тем точнее, чем большее число явлений рассматривается. Приведем несколько примеров.

Пример 1. Организуется или реорганизуется работа столовой с целью повышения качества обслуживания. Неизвестно какое количество посетителей придет в нее в определенные промежутки времени, какие блюда они будут заказывать, и сколько времени будет продолжаться обслуживание каждого посетителя. Однако существуют вполне определенные средние величины, которые позволяют укомплектовать столовую обслуживающим персоналом, оборудованием, завезти необходимое количество продуктов и т.д.

Таких примеров можно привести множество. Во всех этих примерах проявляется общий принцип закона больших чисел, который академик А.Н. Колмогоров сформулировал следующим образом: «Совокупное действие большого числа случайных факторов приводит (при некоторых, весьма общих, условиях) к результату почти не зависящему от случая». Иначе закон больших чисел можно сформулировать следующим образом: при большом числе случайных величин их средний результат перестает быть случайным и его можно предсказать с большой степенью определенности. На этом положении основано практическое применение закона больших чисел.

Нас закон больших чисел будет интересовать с математической точки зрении, а именно, при каких условиях случайные величины подчиняются закону больших чисел. Эти вопросы решаются с помощью теорем Маркова, Чебышева, Бернулли, которые составляют сущность закона больших чисел в узком смысле.

1. Неравенство Маркова.

Теорема. Если случайная величина принимает только неотрицательные значения и существует ее математическое ожидание , то для любого положительного числавыполняется неравенство

. (1)

Неравенство (1) будем называть первым неравенством Маркова.

.

studfiles.net

Математический форум Math Help Planet

Обсуждение и решение задач по математике, физике, химии, экономике

Часовой пояс: UTC + 4 часа [ Летнее время ]

Введение в анализ

Теория очередей (СМО)

Закон больших чисел и предельные теоремы

Вполне естественна потребность количественно уточнить утверждение о том, что в «больших» сериях испытаний частоты появления события «близки» к его вероятности. Следует ясно представить себе известную деликатность этой задачи. В наиболее типичных для теории вероятностей случаях дело обстоит так, что в сколь угодно длинных сериях испытаний остаются теоретически возможными оба крайних значения частоты

Поэтому, каково бы ни было число испытаний [math]n[/math] , нельзя утверждать с полной достоверностью, что будет выполнено, скажем, неравенство

Во всех подобных задачах любая нетривиальная оценка близости между частотой и вероятностью действует не с полной достоверностью, а лишь с некоторой меньшей единицы вероятностью. Можно, например, доказать, что в случае независимых испытаний с постоянной вероятностью [math]p[/math] появления события неравенство

Здесь мы прежде всего хотим подчеркнуть, что в приведенной формулировке количественная оценка близости частоты [math]\frac<\mu>[/math] к вероятности [math]p[/math] связана с введением новой вероятности [math]P[/math] .

Реальный смысл оценки (8) таков: если произвести [math]N[/math] серий по [math]n[/math] испытаний и сосчитать число [math]M[/math] серий, в которых выполняется неравенство (7), то при достаточно большом [math]N[/math] приближенно будет

Но если мы захотим уточнить соотношение (9) как в отношении степени близости [math]\frac[/math] к вероятности [math]P[/math] , так и в отношении надежности, с которой можно утверждать, что такая близость будет иметь место, то придется обратиться к рассмотрениям, аналогичным тем, которые мы уже провели в применении к близости [math]\frac<\mu>[/math] и [math]p[/math] . При желании такое рассуждение можно повторять неограниченное число раз, но вполне понятно, что это не позволит нам совсем освободиться от необходимости на последнем этапе обратиться к вероятностям в примитивном грубом понимании этого термина.

Не следует думать, что подобного рода затруднения являются какой-то особенностью теории вероятностей. При математическом изучении реальных явлений мы всегда их схематизируем. Отклонения хода действительных явлений от теоретической схемы можно, в свою очередь, подвергнуть математическому изучению. Но для этого сами эти отклонения надо уложить в некоторую схему и этой последней пользоваться уже без формального математического анализа отклонений от нее.

Заметим, впрочем, что при реальном применении оценки

к единичной серии из [math]n[/math] испытаний мы опираемся и на некоторые соображения симметрии: неравенство (10) указывает, что при очень большом числе [math]N[/math] серий соотношение (7) будет выполняться не менее чем в 99,99% случаев; естественно с большой уверенностью ожидать, что, в частности, неравенство (7) осуществится в интересующей нас определенной серии из [math]n[/math] испытаний, если мы имеем основания считать, что эта серия в ряду других серий занимает рядовое, ничем особенным не отмеченное положение.

Вероятности, которыми принято пренебрегать в различных практических положениях, различны. Выше уже отмечалось, что при ориентировочных расчетах расхода снарядов, гарантирующего выполнение поставленной задачи, удовлетворяются нормой расхода снарядов, при которой поставленная задача решается с вероятностью 0,95, т. е. пренебрегают вероятностями, не превышающими 0,05. Это объясняется тем, что переход на расчеты, исходящие из пренебрежения, скажем, лишь вероятностями, меньшими 0,01, приводил бы к большому увеличению норм расхода снарядов, т. е. практически во многих случаях к выводу о невозможности выполнить поставленную задачу за тот короткий промежуток времени, который для этого имеется, или с фактически могущим быть использованным запасом снарядов.

Иногда и в научных исследованиях ограничиваются статистическими приемами, рассчитанными исходя из пренебрежения вероятностями в 0,05. Но это следует делать лишь в случаях, когда собирание более обширного материала очень затруднительно. Рассмотрим в виде примера таких приемов следующую задачу. Допустим, что в определенных условиях употребительный препарат для лечения какого-либо заболевания дает положительный результат в 50%, т. е. с вероятностью 0,5. Предлагается новый препарат и для проверки его преимуществ над старым планируется применить его в десяти случаях, выбранных беспристрастно из числа больных, находящихся в том же положении, что и те, для которых установлена эффективность старого препарата в 50%. При этом устанавливается, что преимущество нового препарата будет считаться доказанным, если он даст положительный результат не менее чем в восьми случаях из десяти. Легко подсчитать, что такое решение связано с пренебрежением вероятностью получить ошибочный вывод (т. е. вывод о доказанности преимущества нового препарата, в то время как он равноценен или даже хуже старого) как раз порядка 0,05. В самом деле, если в каждом из десяти испытаний вероятность положительного исхода равна [math]p[/math] , то вероятности получить при десяти испытаниях 10,9 или 8 положительных исходов, равны соответственно

В сумме для случая [math]p=\frac<1><2>[/math] получаем [math]P=P_<10>+P_9+P_8=\frac<56><1024>\approx0,\!05[/math] .

Таким образом, в предположении, что на самом деле новый препарат точно равноценен старому, мы рискуем сделать ошибочный вывод о том, что новый препарат превосходит старый, с вероятностью порядка 0,05. Чтобы свести эту вероятность приблизительно к 0,01, не увеличивая числа испытаний [math]n=10[/math] , пришлось бы установить, что преимущество нового препарата будет считаться доказанным лишь тогда, когда его применение даст положительный результат не менее чем в девяти случаях из десяти. Если это требование покажется сторонникам нового препарата слишком суровым, то придется назначить число испытаний [math]n[/math] значительно большим, чем 10. Если, например, при [math]n=100[/math] установить, что преимущества нового препарата будут считаться доказанными при 65″>[math]\mu>65[/math] , то вероятность ошибки будет лишь [math]P\approx0,\!0015[/math] .

Если норма в 0,05 для серьезных научных исследований явно недостаточна, то вероятностью ошибки в 0,001 или в 0,003 по большей части принято пренебрегать даже в столь академических и обстоятельных исследованиях, как обработка астрономических наблюдений. Впрочем, иногда научные выводы, основанные на применении вероятностных закономерностей, обладают и значительно большей достоверностью (т. е. построены на пренебрежении значительно меньшими вероятностями). Об этом еще будет сказано далее.

В рассмотренных примерах мы уже неоднократно применяли частные случаи биномиальной формулы (6)

для вероятности [math]P_m[/math] получить ровно т положительных исходов при [math]n[/math] независимых испытаниях, в каждом из которых положительный исход имеет вероятность р. Рассмотрим при помощи этой формулы вопрос, поставленный в начале этого параграфа, о вероятности

В связи с рассмотренным примером применения формулы (17) следует отметить, что оценки остаточного члена формулы (17), дававшиеся в теоретических сочинениях по теории вероятностей, долго оставались мало удовлетворительными. Поэтому применения формулы (17) и ей подобных к расчетам при не очень больших [math]n[/math] или при вероятностях [math]p[/math] , очень близких к 0 или к 1 (а такие вероятности во многих случаях и имеют особенно большое значение) часто основывались лишь на опыте проверок такого рода результатов для ограниченного числа примеров, а не на достоверно установленных оценках возможной ошибки. Более подробное исследование, кроме того, показало, что во многих практически важных случаях приведенные выше асимптотические формулы нуждаются не только в оценке остаточного члена, но и в уточнении (так как без такого уточнения остаточный член слишком велик). В обоих направлениях наиболее полные результаты принадлежат С. Н. Бернштейну.

Соотношения (11), (17) и (18) можно переписать в виде

[math]\mathbf

\!\left\<\,\vline\,\frac<\mu>-p\,\vline\, [math]\sigma_<\xi^<(i)>>>0[/math] в 0″>[math]\sigma_<\xi^<(j)>>>0[/math] , то условие (24) равносильно тому, что [math]R=0[/math] .

Коэффициент корреляции [math]R[/math] характеризует степень зависимости между случайными величинами. Всегда [math]|R|\leqslant1[/math] , причем [math]R=\pm1[/math] только при наличии линейной связи

Для независимых величин [math]R=0[/math] .

В частности, равенство (24) соблюдается, если величины [math]\xi^<(i)>[/math] и [math]\xi^<(j)>[/math] независимы между собой. Таким образом, для взаимно независимых слагаемых всегда действует равенство (23). Для средних арифметических

Предположим теперь, что для всех слагаемых дисперсии не превосходят некоторой постоянной

и в силу неравенства Чебышева при любом [math]t[/math]

Неравенство (26) содержит в себе так называемый закон больших чисел в форме, установленной Чебышевым: если величины [math]\xi^<(i)>[/math] взаимно независимы и имеют ограниченные дисперсии, то при возрастании [math]n[/math] их средние арифметические [math]\zeta[/math] , всё реже заметно отклоняются от своих математических ожиданий [math]M(\zeta)[/math] .

Более точно говорят, что последовательность случайных величин

Чтобы получить из неравенства (26) предельное соотношение (27), достаточно положить

Большой ряд исследований А.А. Маркова, С.Н. Бернштейна, А.Я. Хинчина и других посвящен вопросу возможно большего расширения условий применимости предельного соотношения (27), т. е. условий применимости закона больших чисел. Эти исследования имеют принципиальное значение. Однако еще более важным является точное исследование распределения вероятностей отклонений [math]\zeta-M(\zeta)[/math] .

Великой заслугой русской классической школы в теории вероятностей является установление того факта, что при очень широких условиях асимптотически (т. е. со все большей точностью при неограниченно растущих [math]n[/math] ) справедливо равенство

mathhelpplanet.com

Закон больших чисел. Предельные теоремы теории вероятностей

Теория вероятностей изучает закономерности, свойственные массовым случайным явлениям. Как и любая другая наука, теория вероятностей предназначена для того, чтобы возможно точнее предсказать результат того или иного явления или эксперимента. Если явление носит единичный характер, то теория вероятностей способна предсказать лишь вероятность исхода в весьма широких пределах. Закономерности проявляются только при большом числе случайных явлений, происходящих в однородных условиях.

Группа теорем, устанавливающих соответствие между теоретическими и экспериментальными характеристиками случайных величин и случайных событий при большом числе испытаний над ними, а также касающихся предельных законов распределения, объединяются под общим названием предельных теорем теории вероятностей.

Есть два типа предельных теорем: закон больших чисел и центральная предельная теорема.

Закон больших чисел, занимающий важнейшее место в теории вероятностей, является связующим звеном между теорией вероятностей как математической наукой и закономерностями случайных явлений при массовых наблюдениях над ними.

Закон играет очень важную роль в практических применениях теории вероятностей к явлениям природы и техническим процессам, связанным с массовым производством.

Предельные законы распределения составляют предмет группы теорем – количественной формы закона больших чисел. Т.е. закон больших чисел – ряд теорем, в каждой из которых устанавливается факт приближения средних характеристик большого числа испытаний к некоторым определенным постоянным, т.е. устанавливают факт сходимости по вероятности некоторых случайных величин к постоянным. Это теоремы Бернулли, Пуассона, Ляпунова, Маркова, Чебышева.

1. а) Теорема Бернулли – закон больших чисел (была сформулирована и доказана ранее в п. 3 § 6 при рассмотрении предельной интегральной теоремы Муавра-Лапласа.)

При неограниченном увеличении числа однородных независимых опытов частота события будет сколь угодно мало отличаться от вероятности события в отдельном опыте. Иначе, вероятность того, что отклонение относительной частоты наступления события А от постоянной вероятности р события А очень мало при стремится к 1 при любом : .

b) Теорема Чебышева.

При неограниченном увеличении числа независимых испытаний среднее арифметическое наблюдаемых значений случайной величины, имеющей конечную дисперсию, сходится по вероятности к ее математическому ожиданию иначе, если независимые одинаково распределенные случайные величины с математическим ожиданием и ограниченной дисперсией , то при любом справедливо: .

Теорема Чебышева (обобщенная).Если случайные величины в последовательности попарно независимы, а их дисперсии удовлетворяют условию , то для любого положительного ε > 0 справедливо утверждение:

или, что то же .

c) Теорема Маркова. (закон больших чисел в общей формулировке)

Если дисперсии произвольных случайных величин в последовательности удовлетворяют условию: , то для любого положительного ε > 0 имеет место утверждение теоремы Чебышева: .

d) Теорема Пуассона.

При неограниченном увеличении числа независимых опытов в переменных условиях частота события А сходится по вероятности к среднему арифметическому его вероятностей при данных испытаниях.

Замечание.Ни в одной из форм закона больших чисел мы не имеем дела с законами распределения случайных величин. Вопрос, связанный с отысканием предельного закона распределения суммы , когда число слагаемых неограниченно возрастает, рассматривает центральная предельная теорема.

2. Теорема Ляпунова – центральная предельная теорема (устанавливает условия, при которых указанный предельный закон является нормальным.)

Теорема Ляпунова(простейшая форма, когда взаимно независимы и одинаково распределены)

Если случайные величины взаимно независимы и имеют один и тот же закон распределения с математическим ожиданием m и дисперсией , причем существует третий абсолютный момент , то при неограниченном увеличении закон распределения суммы неограниченно приближается к нормальному.

Замечание.Случайные величины , фигурирующие в теореме, могут обладать произвольными распределениями вероятностей. Если считать, что все одинаково распределены, то придем к интегральной теореме Муавра-Лапласа (п. 3 § 6), представляющей собой простейший частный случай центральной предельной теоремы.

studopedia.ru

Это интересно:

  • Что за доплата к пенсии была в августе Прибавка к пенсии в августе: постоянная или разовая Сегодня, когда курс рубля падает все больше, а цены на продукты в России, к сожалению, не склонны уменьшаться, любая помощь от государства может стать заметным подспорьем для того, […]
  • Заявления о приеме на работу трудовой кодекс Заявление о приеме на работу (форма и образец) Обновление: 3 марта 2017 г. ​Пример заявления о приеме на работу Трудоустройство работника предполагает оформление множества документов. Большую часть их предписывает составлять трудовое […]
  • Молодые несовершеннолетние Психологические проблемы несовершеннолетних родителей На сегодняшний день, психологические проблемы несовершеннолетних родителей, развиваются все сильнее. По статистике молодые несовершеннолетние родители отказываются от ребенка в […]
  • Производные основные правила Найти производную: алгоритм и примеры решений Операция отыскания производной называется дифференцированием. В результате решения задач об отыскании производных у самых простых (и не очень простых) функций по определению производной […]
  • Сопротивление проводника из закона ома Сопротивление проводника из закона ома Ом экспериментально установил закон, согласно которому сила тока, текущего по однородному (в смысле отсутствия сторонних сил) металлическому проводнику, пропорциональна падению напряжения V на […]
  • Заявление на разрешение приватизации Приватизация земельного участка: образец заявления, порядок оформления 01.03.2015 г. в силу вступил законодательный акт, продлевающий, так называемую «дачную амнистию». Федеральный закон от 23.06.14 №171-ФЗ позволил гражданам […]