Зінченко О.П., Степанюк Я.В. Біометрія. Частина ІІ. Основи варіаційної статистики

Подождите немного. Документ загружается.

8. Висота рослин у см (х) і кількість язичкових квіток у суцвітті (у)

романа звичайного:

Х:

33 44 34 32 22 31 29 37 30 34 33 29 46 38 32 32 32 32 34 28

У:

20 17 17 13 13 15 17 13 22 21 19 12 21 36 21 18 21 17 23 15

9. Висота рослин у см (х) і кількість стеблових листків (у) у романа

звичайного:

Х:

48 48 40 44 45 66 60 54 69 33 45 43 44 48 37 50 38 43 50 42

У:

18 13 11 12 14 18 20 21 22 12 16 13 13 18 14 14 12 14 16 15

10. Висота рослин у см (х) і довжина максимального стеблового листка

у мм

(у) у романа звичайного:

Х:

28 42 31 54 37 60 32 55 35 59 32 31 44 58 44 31 44 48 46 37

У:

38 49 38 61 45 62 42 52 35 68 38 37 61 52 26 55 55 52 54 38

11. Відсоток рослин із стеблом, інтенсивно забарвленим антоціаном у

популяціях романа (

х) та географічна широта у градусах (у):

У:

56,0 56,1 57,5 58,5 59,2 60,2 61,0 62,0 63,0 64,5

Х:

0,0 4,0 4,5 6,0 7,0 11,0 14,0 25,0 24,0 26,0

12. Відсоток червоностеблових рослин у популяціях романа (х) і

максимальна середньомісячна температура

(у):

У:

15,3 15,5 16,1 16,4 16,6 17,1 17,8 18,0 19,2

Х:

66,5 51,0 42,0 32,0 24,0 20,0 7,5 4,5 1,0

Обчислити коефіцієнт рангової кореляції за даними наступних задач:

13. Двома студентами (

А та Б) були розподілені за ступенем складності

15 екзаменаційних питань. Визначити ступінь узгодженості їх оцінок:

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15

2 3 1 7 6 4 11 5 9 10 8 15 14 13 12

14. Чи впливає порядок збору проб (

x) на число бактерій (y), що в них

містяться:

1 2 3 4 5 6 7 8

24 14 13 20 12 5 10 6

15. Чи корелює склад флори двох територій (х) та (y) за родинами

рослин, які наводяться під номерами 1–12.

1 2 3 4 5 6 7 8 9 10 11 12

10,7 12,5 11,8 6,6 3,0 4,6 2,4 2,5 3,1 2,6 3,0 3,6

12,9 13,2 5,1 5,4 7,3 4,2 5,6 4,1 4,8 3,4 1,1 2,0

Література

1. Зінченко О. П. Методичні матеріали для проведення лабораторних і

практичних занять з курсу “Математичні методи в біології (Статистичні

таблиці) / О. П. Зінченко, В. П. Бенедь.– Луцьк: ВДУ, 1995.– Ч. 1.– 39 с.

2. Лакин Г. Ф. Биометрия / Г. Ф. Лакин.– М.: Высш. школа, 1990.– C. 254-266.

3. Терентьев П. В. Практикум по биометрии / П. В. Терентьев, Н.

С. Ростова.–

Л.: Изд-во Ленингр. ун-та, 1977.– C. 92.

Лабораторна робота №16.

Тема:

Кореляція за альтернативними і якісними показниками

Мета: Навчитись підраховувати коефіцієнт кореляції за

альтернативними та якісними показниками.

Матеріал і обладнання: калькулятори, комп’ютери, статистичні

таблиці.

Контрольні питання:

1. Процентна характеристика сукупності.

2. Оцінка вірогідності різниці між процентними характеристиками двох

альтернативних сукупностей.

3. Обчислення коефіцієнта кореляції при альтернативній мінливості.

Інформаційний матеріал

Процентна характеристика сукупності

Статистичну обробку даних при альтернативній класифікації зводять

до аналізу кількісного співвідношення між чисельностями даних в обох

групах і встановлення процентів наявності

і відсутності досліджуваного

ефекту або ознаки. Якщо кількість випадків з наявним ефектом позначити

а кількість випадків з відсутнім ефектом

, то процент наявності ефекту

−

буде

%100⋅=

, а процент відсутності ефекту дорівнюватиме q

=⋅

−

100%

, де – повний обсяг сукупності.

У біологічній практиці часто трапляється така ситуація, коли

експериментальні дані поділяються тільки на два класи так, що в одному

класі концентруються об’єкти з наявністю певної ознаки, а в другому – з

відсутністю

цієї ознаки. У багатьох випадках така класифікація відбиває саму

природу явищ. Наприклад, ми спостерігаємо розподіл біологічних об’єктів на

жіночі і чоловічі особини, проводимо класифікацію людей на хворих і

здорових, поділяємо тварин на корисних і шкідливих тощо. Така

класифікація, коли увага зосереджується тільки на двох альтернативних

можливостях і сукупність варіант поділяється

на дві категорії за наявністю

або відсутністю певної ознаки, називається альтернативною; мінливість

даних при цій класифікації також називається альтернативною

. Очевидно, що

=−100% процент наявного ефекту

є оцінкою вибірки в цілому.

Мінливість процентної характеристики альтернативної сукупності оцінюють

обчисленням стандартної похибки процента наявного або відсутнього ефекту

за такою формулою:

⋅

. Вона аналогічна стандартній похибці

середнього арифметичного при кількісній мінливості (Кількісною мінливістю

ми називатимемо всі раніше розглянуті випадки, коли статистичний аналіз

ведеться безпосередньо з числовими значеннями варіант) і є оцінкою

розсіяння процента досліджуваного ефекту завдяки статистичній природі

подій в сукупностях.

Статистично оброблені результати в альтернативному експерименті

записують так:

(із зазначенням ) pm

± n

Середнє квадратичне відхилення при альтернативній мінливості не

має практичного застосування. Це зрозуміло, тому що

є мірою

індивідуальної мінливості, тоді як процент наявності ефекту

характеристикою сукупності в цілому, для якої мірою мінливості є

стандартна похибка процента

. m

Оцінка вірогідності різниці між процентними характеристиками

двох альтернативних сукупностей.

Щоб встановити ступінь вірогідності різниці між процентними

характеристиками досліджуваних двох груп, достатньо провести це

порівняння для одного показника альтернативної мінливості –

або

Наприклад, якщо обстежують процент певного захворювання у

представників двох різних видів тварин і дослідника цікавить, чи справді вид

А більше піддається даному захворюванню, ніж вид В, то достатньо

проаналізувати вірогідність різниці в проценті

хворих тварин між обома

видовими групами (

), тому що процент здорових тварин q

=−100% .

Як і в загальному випадку, ймовірність доведення різниці між

процентами наявності ефекту здійснюють обчисленням коефіцієнта

Стьюдента

, який визначають як відношення величини цієї різниці до її

стандартної похибки

= , де dpp=−

. Стандартну похибку різниці між

процентами двох досліджуваних груп

обчислюють за формулою

mpq

⎛

⎝

⎜

⎞

⎠

⎟

, де

– середній процент наявності ефекту для обох

груп. Його обчислюють, в загальному випадку, беручи до уваги можливу

різну кількість дослідів в обох групах, за формулою

⎛

⎝

⎜

⎞

⎠

⎟

⋅

100% .

Якщо ж

, то середній процент

≈

можна обчислити за спрощеною

формулою:

. В обох випадках середній процент відсутності ефекту

q обчислюють як 100% −

Обчислення коефіцієнта кореляції

при альтернативній

мінливості.

При альтернативній мінливості, коли експериментальні дані

групуються за типом дворозрядної класифікації, їх зручно подавати за

табличною формою. У табл. 24 наведено чотириклітинну кореляційну

решітку, у клітини якої записують дані про кількість випадків з позитивним і

негативним ефектами

і для одного і другого варіаційних рядів, один з

яких (

−

) розміщений по горизонталі, а другий (y ) – по вертикалі. Для того

щоб легко було користуватися формулою коефіцієнта кореляції, клітини

кореляційної решітки умовно позначають, наприклад,

а, б, в, г.

З таблиці 24 видно, що кореляційна решітка складається, по суті,

усього з чотирьох клітин, а в крайніх клітинах подано значення відповідних

сум. У нижній правій клітині зазначено суму всіх даних, тобто

Таблиця 24

Ряд

Наявність ефекту

(

Відсутність

ефекту (—)

∑

Наявність ефекту

(

а б а+б

Відсутність

ефекту (—)

в г в+г

∑

а+в б+г а+б+в+г = п

Використовуючи умовні позначення кореляційної решітки, коефіцієнт

кореляції при альтернативній мінливості обчислюють за формулою

()()()()

гвбагбва

бваг

++++

−

Для доведення вірогідності кореляції при альтернативній мінливості

переводимо

в (табл. 13, [1]) і обчислюємо коефіцієнт Стьюдента за

формулою:

tzn=−3.

Якщо обчислене

відповідає ймовірності

> 095, за таблицею

Стьюдента, то кореляція статистичне істотна.

Для цієї мети можна також використати критерій Пірсона, який

обчислюють за формулою

=⋅nr

Робота №1.

Статистична обробку даних при альтернативній

класифікації.

Розгляньте приклад і запишіть його у зошит.

Приклад.

Дослідних лабораторних мишей (56 шт.) опромінювали

рентгенівськими променями у відповідній дозі. Через певний строго

визначений час загинуло 19 мишей. Треба зробити узагальнюючий висновок

про процент смертності мишей від опромінення заданою дозою

рентгенівських променів. Експериментальні дані наведено в табл. 25.

Таблиця 25

Класи Кількість Процент

Наявний ефект (+) 19 34

Відсутній ефект ( – ) 37 66

Всього 56 100

Середня смертність мишей при даній дозі %34%100

=⋅=p ,

отже, %3,634

6631

34 ±=

⋅

±=±

mp .

Можна зробити висновок з вірогідністю, наприклад, 0,95 (

20,

), що

смертність мишей характерна для заданої дози рентгенівських променів,

лежить у межах

±⋅ =

2 22 6 46 6%,,.

Робота №2.

Оцінка вірогідності різниці між процентними

характеристиками двох альтернативних сукупностей.

Розгляньте приклад і запишіть його у зошит.

Приклад

. Вивчалася мутагенна дія ультрафіолету з довжиною хвилі

на культуру мікроорганізмів. У першому досліді (

) в чашці Петрі

спостерігалися 18 мутантних і 75 нормальних колоній. У другому досліді (

)

з 147 колоній мутантних було 41. Треба встановити, чи можна вважати

вірогідно доведеним, що досліджувані довжини хвилі ультрафіолету мають

різну мутагенну дію. Отже, для першої групи

, . Процент

мутацій у цій групі

18=

100%

100% 19 4%=⋅ =⋅ =

, . Процент відсутності

. qp

100% 80 6%=−=,

Для другої групи

147

, , n

= p

147

100% 27 9%

=⋅ =, ,

100% 72 1%=−=,

В обох дослідах різниця між процентами мутацій

. d =−=27 9% 19 4% 8 5%,,,

Яка ймовірність того, що визначена різниця в мутагенній дії не

випадкова, а справді показує різний вплив ультрафіолету досліджених

довжин хвиль на генетичні структури мікроорганізмів?

Обчислимо стандартну похибку встановленої різниці

mpq

⎛

⎝

⎜

⎞

⎠

⎟

Спочатку визначимо середні проценти

і q :

⎛

⎝

⎜

⎞

⎠

⎟

⋅=

100%

18 41

93 147

100% 24 5%,

;

q =− =100% 24 5% 75 5%.,,

Тоді

=⋅⋅+

⎛

⎝

⎜

⎞

⎠

⎟

=24 5 75 5

147

57%,, ,

;

===

В таблиці нормального інтеграла ймовірностей (табл. 2 [1]) знаходимо,

що значенню

15,

відповідає ймовірність 0,864.

Оскільки вона менша за 0,95 (граничне значення, при якому різницю

вважають статистичне істотною), проведені обстеження не дають підстав

стверджувати, що досліджувані довжини хвиль ультрафіолету

відрізняються за мутагенною дією.

Зрозуміло, що величини різниці між процентами наявності і

відсутності ефекту ідентичні:

=−=27 9 19 4 8 5,,,; dq

−

806 721 85,,,

У формулу

входять середні проценти наявності і відсутності ефекту m

і q , отже, встановити ймовірність різниці між обома групами можна як за

наявністю ефекту, так і за його відсутністю.

Робота №3.

Обчислення коефіцієнта кореляції при альтернативній

мінливості.

Розгляньте приклад і запишіть його у зошит.

Приклад.

Дослідника-радіобіолога цікавить, чи пов’язані між собою

поява злоякісних новоутворень у віддалений після опромінення період та

різке зниження лейкоцитів безпосередньо після опромінення (лейкопенія) і

наскільки тісний цей зв’язок. Щоб з’ясувати це питання, було проведено

96 дослідів на білих мишах. Тварин опромінювали відповідною дозою

рентгенівських променів і підраховували у

них лейкоцити після опромінення.

Встановлювали загальну кількість тварин, в яких розвинулася лейкопенія.

Через відповідний проміжок часу після опромінення підраховували загальну

кількість тварин, в яких з’явилися злоякісні пухлини, причому як у групі, в

якій спостерігалася лейкопенія. Так і в групі, в якій кількість лейкоцитів

залишалася в межах норми. Коефіцієнт кореляції

між названими

радіобіологічними показниками визначали за приведеною вище схемою.

Цифрові дані, внесені безпосередньо в кореляційну решітку, наведено в табл. 26.

Таблиця 26

Ряд

Ряд х

Поява

злоякісних

пухлин (

Відсутність

злоякісних

пухлин (—)

∑

Наявність лейкопенії (+)

27 13 40

Відсутність лейкопенії (—)

1 55 56

∑

28 68

96=n

З таблиці видно, що з 28 тварин, у яких з’явилися злоякісні пухлини

після опромінення, тільки в одному випадку кількість лейкоцитів не

зменшилася. З іншого боку, лейкопенія спостерігалася також і в тих

випадках, які не супроводжувалися злоякісним ростом, таких випадків було

13 із 40. Обчислимо коефіцієнт кореляції між досліджуваними явищами

71,0

56406828

5527

⋅⋅⋅

⋅

=r .

Він свідчить, що між смертністю мишей від дії рентгенівських

променів і появою в них лейкопенії після опромінення існує позитивний

кореляційний зв'язок середньої тісноти, вірогідність якого доведено з

імовірністю

> 099, , тому що для

071,

089,

, а

58,89389,0 ==t

Завдання для самостійної роботи

1. Досліджувався радіобіологічний ефект опромінення білих мишей

нейтронами відповідної енергії і дози, який оцінювався за процентом

смертності мишей за 14 днів. Із 100 опромінених тварин загинуло 84. Який

процент смертності мишей вимикається опроміненням тварин нейтронами

даної енергії і дози?

2. При опроміненні мишей

-радіацією з 500 опромінених тварин

загинуло 84. У яких межах коливається процент смертності мишей при даній

дозі опромінення? Вірогідність висновку повинна мати ймовірність р=0,99.

3. Із 1500 хворих, які перебувають на обліку в даній поліклініці, 172

мають симптоми гіпотонії. Який теоретично очікуваний процент гіпотоників

в області на підставі даних поліклініки? Вірогідність висновку повинна мати

ймовірність

р=0,95.

4. Із 186 висіяних гібридних насінин сої в другому поколінні дістали

такі результати: рослин з батьківською ознакою nб=54, рослин з

материнською ознакою nм=132. Який процент появи сої з батьківською

ознакою у другому ппоколінні?

5. Із 290 гібридних мух дрозофіл у другому поколінні дістали такі

результати: дрозофіл з материнською ознакою nм=75, дрозофіл з

батьківською ознакою nб=215. Який процент появи дрозофіл з материнською

ознакою в другому поколінні?

6. Вивчалась реакція корів на захворювання А. З групи 284 корів

ярославської породи захворіло 83, а з 120 корів холмогорської породи – 30

корів. В яких

межах коливається процент хворих тварин у корів ярославської

породи? Вірогідність висновку повинна мати ймовірність р=0,95. В яких

межах коливається процент хворих тварин у корів холмогорської породи?

Вірогідність висновку повинна мати ймовірність р=0,95. Обчисливши

величину коефіцієнта Стьюдента, сказати, чи існує статистично істотна

різниця між середніми процентами хворих тварин в обох групах

корів.

7. Досліджували ефективність двох щеплень проти сухоти у морських

свинок. Ефективність щеплення А становила 60%, а щеплення В — 70%.

Кількість тварин в обох групах дорівнювала 100. Чи можна вважати

вірогідним, що щеплення В ефективніше на 10%? Яка ймовірність цього

твердження?

8. Середня схожість насіння кукурудзи, намоченого в розчині

мікроелементів, одержана на основі дослідів проростання 100 насінин

становила 98

3%. Схожість насіння, що не було намочене (посіяно також

100 насінин), становила 90

2%. Яка ймовірність того, що підвищення

схожості насіння кукурудзи в середньому на 8% від його намочування в

розчині мікроелементів є статистичне вірогідним?

9. Подано кореляційну решітку:

+ –

+ 20 80

– 80 20

Обчислити коефіцієнт кореляції між ознаками

х і у.