Тырсин А.Н. Теория вероятностей и математическая статистика. Учебное пособие

Подождите немного. Документ загружается.

Определим теперь, используя базовую таблицу однофакторного дисперси-

онного анализа, межгрупповую и внутригрупповую дисперсии:

1660

4980

−

38,454

7270

)1(

−

В результате имеем фактическое расчетное значение F–отношения

calc

65,3

38,454

1660

Критическое значение F−критерия для уровня значимости α = 0,05 найдем

из таблицы: F

(3; 16) = 3,24. Поскольку ψ

calc

> F

(3; 16), то гипотеза H

отвер-

гается, т.е. на уровне значимости α = 0,05 различие между партиями сырья ока-

зывает существенное влияние на величину разрывной нагрузки.

10.3. Понятие о многофакторном дисперсионном анализе

Когда на отклик воздействует несколько факторов, может возникнуть не-

обходимость рассмотрения многофакторных моделей. Например, однофактор-

ная модель может оказаться незначимой, если влияние фактора A является не-

существенным на фоне большого внутригруппового разброса s

. Этот разброс

может быть вызван не только случайными причинами, но также действием еще

одного «мешающего» фактора B. Фактор B дополнительно включается в мо-

дель, чтобы попытаться уменьшить действие неучтенных факторов и повысить

влияние на отклик закономерных причин. Аналогично возникает необходи-

мость рассмотрения трех- и многофакторных моделей.

10.3.1. Модель данных при независимом действии двух факторов

Рассмотрим матрицу наблюдений двухфакторного анализа (табл. 10.4).

Главный фактор – фактор A, к примеру, влияние настройки станка; дополни-

тельный фактор – фактор B, например, влияние качества сырья. Фактор A при-

нимает n, а фактор B – m различных значений, т.е. n – число станков, m – число

партий сырья. Уровни фактора A – способы обработки – отображаются в таб-

лице по столбцам, а уровни фактора B – блоки – по строкам. Это простейшая

матрица наблюдений двухфакторного анализа, т.к. в каждой ячейке имеется

только одно наблюдение y

. В отличие от однофакторного анализа наблюдения

в любом столбце не являются однородными, т.е. не образовывают выборки, ес-

ли влияние мешающего фактора значимо. Вклады факторов A и B в значения

отклика на соответствующих уровнях j и i обозначим через a

и b

. Между фак-

торами нет взаимодействия. Таким образом, каждое наблюдение y

представля-

ется в виде аддитивной модели

),...,1,,...,1(, njmiaby

ijjiij

++= .

Предполагается, что для случайных величин ε

справедливо требование нали-

чия нормального закона распределения , причем дисперсия одина-

кова при всех значениях j и i.

),0(

σN

131

Таблица 10.4

Уровни фактора A (способы обработки)

Блоки

…

… … … … … … …

…

… … … … … … …

…

Величины вкладов a

и b

не могут быть восстановлены однозначно. Так,

увеличение всех b

и уменьшение всех a

одновременно на одну и ту же кон-

станту не изменит значения y

. Для однозначного определения вкладов факто-

ров следует использовать отклонения β

и τ

отклика от μ в результате действия

факторов B и A: β

+ τ

= b

+ a

− μ; , где μ − общая сред-

няя значений отклика, ее оценкой является величина

0,0

=τ=β

∑∑

Величины β

, … , β

называются эффектами блоков, они характеризуют

отклонения от β в результате действия фактора B; τ

, … , τ

– эффекты обра-

ботки, характеризуют отклонения отклика из-за действия фактора A. Тогда

),...,1,,...,1(, njmiy

ijjiij

=ε+

+β+μ=

Как и в случае однофакторного анализа, нулевая гипотеза H

об отсутствии эф-

фектов обработки имеет вид:

0...

10.3.2. Базовая таблица двухфакторного дисперсионного анализа при

независимом действии факторов

Общая сумма квадратов Q разбивается уже на три части: Q

и Q

, обуслов-

ленные влиянием факторов, и остаточную часть Q

, обусловленную случайной

изменчивостью самих наблюдений за счет неучтенных факторов, т.е.

44443444421

4434421

44344214434421

∑∑∑∑∑∑

∗∗

∗

+−−+−+−=−

ijij

yyyyyynyymyy

)()()()(

где

∑

∗

ijj

– среднее по j-му столбцу,

)( yy

−

∗

– оценка эффекта обра-

ботки τ

;

∑

∗

iji

– среднее по i-му блоку,

)( yy

−

∗

– оценка эффекта

блока β

. Базовая таблица двухфакторного дисперсионного анализа приведена в

табл. 10.5.

132

При выполнении гипотезы H

об отсутствии эффектов обработки статисти-

ки s

и s

являются несмещенными оценками общей дисперсии σ

. Поэтому

для проверки нулевой гипотезы дисперсия по фактору A сравнивается с оста-

точной дисперсией. С этой целью вычисляется F–отношение ,

=ψ ss

имеющее F–распределение с n–1, (n–1)(m–1) степенями свободы. На уровне

значимости α гипотеза H

отвергается, если ψ

calc

()

)1)(1(;1

%100

−

−−

⋅α

mnnF

. В

этом случае влияние фактора A на отклик значимо.

Таблица 10.5

Источник дис-

персии

Сумма квадра-

тов

Число степеней

свободы

Средний квадрат

(оценка диспер-

сии)

Главные эффек-

ты

A∪B

= QB

+ Q

B n+m−2

−+

∪

Фактор A (спо-

соб обработки)

n−1

−

Фактор B

m−1

−

Остаточное рас-

сеяние

ост

(n−1)(m−1)

)1)(1(

−−

Полная (общая)

Q = Q

A∪B

+ QB

nm−1

−

Аналогично, по F–отношению проверяется гипотеза об отсут-

ствии влияния фактора B. По F–отношению проверяется зна-

чимость двухфакторной модели с независимым действием факторов.

=ψ ss

ε∪∪

=ψ ss

BABA

10.3.3. Модель данных при взаимодействии факторов

Мы рассмотрели случай, когда в каждой ячейке матрицы производится од-

но наблюдение. Анализ выполняется в предположении независимости или ад-

дитивности эффектов столбцов и строк, а также остаточных эффектов. Это ад-

дитивное свойство на практике встречается редко. Предположим, что к некото-

рой смеси, из которой делается подошва, добавляются два химических вещест-

ва. Добавление вещества A увеличивает прочность материала на 8%, вещества

B − на 5%. Однако это не означает, что добавление обоих веществ увеличивает

прочность подошвы на 13%.

Если между факторами существует взаимодействие, то ему присуща своя

дисперсия σ

. Без наличия параллельных наблюдений выделить величину σ

из общей дисперсии невозможно. Поэтому рассмотрим общую модель, когда в

каждой ячейке производится несколько наблюдений. Ограничимся так назы-

ваемыми сбалансированными планами эксперимента, когда в каждой ячейке

содержится равное число наблюдений L.

Каждое наблюдение ),...,1(, Lly

ijl

, представляется в виде

ijlijjiij

y ε+ν+

+β+μ= ,

где ν

− эффект взаимодействия факторов (i-го уровня фактора B с j-м уровнем

фактора A), ε

ijl

− вариация внутри ячейки.

Основное тождество двухфакторного дисперсионного анализа примет вид

133

===

+++=−=

∑∑∑

QQQQyyQ

ABBA

ijl

111

)(

Оценки дисперсий по факторам имеют прежний вид (табл. 10.5), оценка

дисперсии взаимодействия факторов

)1)(1(

−−

, оценка остаточной

дисперсии

)1(

−

Lnm

и оценка полной дисперсии

−

nmL

Остаточная часть Q

характеризует влияние прочих случайных факторов

(кроме факторов A, B и их взаимодействия), она обусловлена наличием не-

скольких наблюдений в ячейке:

∑∑∑

===

∗ε

−=

ijijl

yyQ

111

)(

Значимость влияния факторов A, B и их взаимодействия проверяют по со-

ответствующим F–отношениям (например, ).

=ψ ss

ABAB

Глава 11. Корреляционный анализ

Понятия корреляции и регрессии появились во второй половине XIX в. бла-

годаря работам английских статистиков К. Пирсона и Ф. Гальтона. Для выясне-

ния тех или иных причинно-следственных связей необходимо вести одновре-

менные наблюдения над парой или большим числом случайных величин.

Определение 11.1. Корреляционный анализ – совокупность методов иссле-

дования параметров многомерного признака, позволяющая по выборке из гене-

ральной совокупности сделать статистические выводы о мерах статистической

зависимости между компонентами исследуемого признака.

11.1. Типы признаков и их классификация

Исследуемые переменные по виду шкалы принимаемых значений подразде-

ляются на количественные, порядковые и классификационные (рис. 11.1).

Количественные признаки измеряются либо в непрерывной шкале, напри-

мер, длина, либо в интервальной или дискретной шкале − когда об их величине

судят по попаданию наблюдения в определенный диапазон значений, напри-

мер, измерение времени при усадке материала с точностью до недели.

Порядковые (ординальные) признаки не поддаются количественной оценке.

Реальным содержанием их измерений является тот порядок, в котором вы-

страиваются объекты по степени выраженности измеряемого признака. На

сколько (или, во сколько раз) признак более выражен, не имеет значения, дей-

ствительны лишь операции типа «больше», «меньше».

Содержанием измерений классификационных (номинальных) признаков яв-

ляются лишь соотношения типа

или

≠

, ),( ba

∈

или ),( ba

∉ . Вза-

имный порядок здесь уже не имеет значения. Каждый признак делит группу ис-

134

следуемых объектов на подгруппы. Например, при обработке социологических

анкет признак пола разделяет людей на мужчин и женщин; профессия имеет

уже большее число наименований.

Рис. 11.1. Классификация основных типов переменных по виду шкалы прини-

маемых значений и способу измерения статистической связи.

11.2. Виды зависимостей между количественными переменными

11.2.1. Функциональные и статистические зависимости

Обозначим через Y и одну и набор случайных величин, за-

висимость между которыми нас интересует. Модель взаимосвязи определяется

природой анализируемых переменных, и бывает двух видов.

)...,,(

1 p

XXX =

Функциональные зависимости )(x

имеют место при исследовании

связей между неслучайными переменными. Выборочные значения y зависят

только от соответствующих значений x = (x

, x

, …, x

) и полностью ими опре-

деляются. В этом случае в статистических методах нет необходимости.

Статистические зависимости характеризуются тем, что изменение одной

из величин влечет изменение закона распределения другой. Они возникают:

1) При исследовании связей между случайными переменными Y и

. В этом

случае величины Y и

зависят от множества неконтролируемых факторов;

2) При исследовании связей между случайными или неслучайными перемен-

ными Y и

, измеряемыми с некоторой случайной ошибкой. В этом случае на-

блюдаются не сами переменные, а искаженные, случайные величины

;

),...,1(,, piXXYY

xiiy

=ε+=

′

ε+=

′

3) При анализе влияния на случайный показатель Y неслучайных факторов

, X

, … , X

. Такая связь может быть вызвана двумя причинами:

135

- ошибками измерения показателя Y, по отношению к которым ошибки изме-

рения факторов X

, … , X

пренебрежимо малы;

влиянием помимо факторов X

, … , X

еще и ряда неучтенных факторов.

11.2.2. Типы корреляционных зависимостей

Отметим особый частный случай статистической зависимости – корреля-

ционную зависимость, изучаемую в корреляционном анализе.

Определение 11.2. Статистическая зависимость, при которой при измене-

нии одной из величин изменяется среднее значение другой, называется корре-

ляционной зависимостью.

136

)

Корреляционная зависимость может быть представлена в виде

)(][]/[ xYMxYM

ϕ==

или (][]/[ yXMyXM

, (11.1)

где cons

≠ϕ )(, cons

y ≠ψ )(. Уравнения (11.1) называются (модельными) урав-

нениями регрессии соответственно Y по X и X по Y, функции ϕ(x) и ψ(y) − функ-

ции (модели) регрессии, а их графики – (модельными) линиями регрессии.

Основная задача корреляционного анализа – выявление статистической

связи между случайными переменными и оценка ее тесноты.

Перед изложением материала остановимся на некоторых «ограничитель-

ных» моментах в применении корреляционного анализа.

Американскому писателю О. Генри принадлежит ироническое определение

статистики: «Есть три вида лжи − просто ложь, ложь злостная и … статисти-

ка!». Попробуем разобраться в причинах, побудивших написать эти слова.

Существо и причины найденной статистической зависимости лежат вне

статистических методов. Например, можно обнаружить положительную кор-

реляцию между дозами лекарств и смертностью больных, хотя при очень серь-

езных заболеваниях смертность увеличивается не из-за больших доз медика-

ментов, а вопреки им. Корреляционная зависимость может быть обусловлена:

причинной зависимостью между X и Y;

общей зависимостью X и Y от третьей величины;

неоднородностью материала;

быть чисто формальной (нонсенс-корреляция).

Причинная зависимость существует, например, между талантом и успе-

хом, между временем работы и стоимостью произведенной продукции, между

урожайностью сельскохозяйственных культур и погодными условиями.

Причиной корреляции вследствие неоднородности является неоднородный

статистический материал, в котором объединены в один показатель различные

качественные признаки.

В случае зависимости от третьей величины (совместная корреляция)

найденная корреляционная связь не будет отражать фактической причинной за-

висимости и приведет к неправильным выводам.

В ряду беспричинных корреляций имеется еще формальная корреляция, не

находящая никакого объяснения и основанная лишь на количественном соот-

ношении между переменными.

При анализе значимости корреляции можно предложить схему (рис. 11.2),

позволяющую выявить истинную корреляцию за счет исключения других воз-

можных зависимостей.

Рис. 11.2. Схема выявления причинной корреляции.

Задача научного исследования состоит в отыскании причинных зависимо-

стей. Только знание истинных причин явлений позволяет правильно истолко-

вывать наблюдаемые закономерности. Однако корреляция как формальное

статистическое понятие сама по себе не вскрывает причинного характера

связи. Поэтому, при логических переходах от корреляционной связи между пе-

ременными к их причинной взаимообусловленности необходимо глубокое про-

никновение в сущность анализируемых явлений.

11.3. Анализ парных статистических связей между количествен-

ными переменными

Рассмотрим зависимость случайной величины Y от одной случайной (или

неслучайной) величины X.

11.3.1. Диаграмма рассеяния. Эмпирическая линия регрессии

Двумерная статистическая зависимость может быть наглядно представлена

диаграммой рассеяния (рис. 11.3).

137

Рис. 11.3. Диаграмма рассеяния для сгруппированных данных.

Наблюдениями являются парные данные (x

, y

), образующие выборку.

Множества значений x

и y

разбиваются на интервалы группировки, границы

которых определяют координатную cетку. Каждая пара признаков (x

, y

) изо-

бражается в виде точки в соответствующей ячейке. Если в каждом интервале

изменения X вычислить средние значения

)5,...,1(,

и соединить соответ-

ствующие точки

),(

yx , где

x – середины интервалов, то получим ломаную

линию

– эмпирическую линию регрессии, которая в первом приближении харак-

теризует форму связи. По ней можно судить, как в среднем меняется y в зави-

симости от изменения x. На рисунке связь между X и Y

– положительная. Рас-

положение точек относительно линии регрессии характеризует тесноту стати-

стической связи.

Рассмотрим две диаграммы рассеяния 1 и 2, изображенные на рис. 11.4.

Рис. 11.4. Диаграммы рассеяния, отличающиеся теснотой связи между X и Y.

Линии регрессии y по x расположены одинаково, однако точки на диа-

грамме 2 расположены гораздо ближе к линии регрессии, чем точки на диа-

грамме 1. Если бы y полностью определялся переменной x, то все точки лежали

бы на линии регрессии. При этом каждому возможному значению x было бы

поставлено в соответствие определенное значение y, характеризуемое функ-

циональной зависимостью y = f(x). Чем сильнее влияние прочих факторов, тем

дальше точки отстоят от линии регрессии. В случае 2 влияние прочих факторов

меньше и зависимость между y и x является более тесной.

Если

aconstxy ==)(, т.е. линия регрессии – горизонтальная прямая (рис.

11.5), то переменная Y не коррелированна с X.

138

Рис. 11.5. Некоррелированные, независимые случайные величины.

Как было показано в § 4.4, некоррелированность не следует смешивать с

независимостью. Случайные величины X и Y независимы, если

)()(),( y

<=<< . Независимые случайные величины всегда не

коррелированны. Обратное, в общем случае, неверно: переменная Y может за-

висеть от X, но так, что центры условных распределений не меняются, а изме-

няются условные дисперсии (на рис. 11.6, диаграмма слева).

Рис. 11.6. Некоррелированные, зависимые случайные величины.

Еще один пример зависимости Y от X, представленный на рисунке, – так

называемый «сезонный тренд» (на рис. 11.6, диаграмма справа).

11.3.2. Измерение тесноты парной связи. Коэффициент корреляции

Измерение тесноты связи между переменными позволяет убедиться в ее

наличии. Если связь несущественна, то дальнейшие усилия по поиску вида мо-

дели зависимости и ее параметров неоправданны.

Рассмотрим важный для практики случай, когда связь между X и Y линей-

на:

xbbxy

)( +=

. Мерой силы линейной связи признаков X и Y является ко-

эффициент корреляции Пирсона ρ(X,Y), определенный по формуле (2.10).

Ковариация cov(X, Y), а, следовательно, и коэффициент корреляции ρ(X, Y)

для независимых случайных величин равны нулю. Однако равенство

cov(X, Y) = 0 не означает в общем случае независимости X и Y, т.е. является не-

обходимым, но не достаточным условием для независимости признаков. Вели-

чина ковариации зависит от единиц измерения. Поэтому на практике чаще ис-

пользуют коэффициент корреляции, являющийся безразмерной величиной.

Предложение 11.1. (Свойства коэффициента корреляции). Для коэффи-

циента корреляции ρ(X, Y) двух случайных величин X и Y справедливо:

139

не меняется от прибавления к X и Y постоянных слагаемых и от умно-

жения X и Y на положительные числа, т.е. не зависит от выбора начала отсчета

и единиц измерения;

2) Если одну из случайных величин умножить на −1, то коэффициент корреля-

ции поменяет знак;

3) −1 ≤ ρ(X, Y) ≤ 1;

4) При ρ(X, Y) = ±1 имеет место линейная функциональная зависимость;

5) Для двумерной нормально распределенной случайной величины из равенства

ρ(X, Y) = 0 следует стохастическая независимость X и Y. #

Замечание 11.1. Величина ρ(X, Y), близкая к ±1, указывает, что зависи-

мость случайных величин почти линейная. Значения ρ(X, Y), близкие к 0, озна-

чают, что связь между случайными величинами либо слаба, либо не носит ли-

нейного характера, например, является параболической (рис. 11.7).

Рис. 11.7. Параболическая связь

Таким образом, коэффициент корреляции характеризует степень прибли-

жения зависимости между случайными величинами к линейной функциональ-

ной зависимости. При вычислении выборочного (эмпирического) коэффициен-

та корреляции теоретические величины заменяются их оценками:

[][]

∑∑

∑

−⋅−

−−

yyxx

)()(

))((

. (11.2)

Если распределение величин X и Y близко к нормальному, то корреляция между

ними является линейной и выборочный коэффициент корреляции r

является

надежной оценкой теоретического коэффициента ρ(X, Y). При r

> 0 связь меж-

ду переменными положительная, величины X и Y с точностью до случайных

погрешностей одновременно возрастают или убывают. Если r

< 0, то связь от-

рицательная, с возрастанием одной величины другая – убывает.

Замечание 11.2. Оценка наличия корреляции (11.2) между рядами наблю-

дений является параметрической, т.к. подразумевает наличие бинормальной ге-

неральной совокупности с параметром ρ, оцениваемым с помощью r.

140