Журнал - Проблемы криобиологии 2010 №4

Подождите немного. Документ загружается.

399

problems

of cryobiology

Vol. 20, 2010, №4

проблемы

криобиологии

Т. 20, 2010, №4

где i – текущий индекс, отражающий номер спо-

соба проведения статистического анализа: M

–

вероятность сохранности спермиев (выражение 1);

– вероятность разности средних показателей

сохранностей в контроле и опыте (M

= |S

– S

|);

– вероятность эффективности криоконсервиро-

вания (выражение 2); M

– вероятность разности

средних показателей эффективностей, рассчитанных

для контрольной и опытной групп (M

= |W

– W

|).

Воспроизводимость результатов эксперимента

оценивали при помощи коэффициента вариации:

%100⋅=

. (4)

Повышение воспроизводимости результатов z

определяли как отношение коэффициентов вариа-

ций, полученных из величины среднеквадрати-

ческого отклонения показателя сохранности спер-

миев S и разности сохранности спермиев, оценен-

ных в контроле и опыте ∆S = |S

– S

)1(

∆−∆

−

. (5)

Аналогично определяли повышение воспроизво-

димости z

при использовании показателя эффек-

тивности W и его разности в контроле и опыте ∆W =

– W

| для вычисления z

)1(

−

, (6)

)1(

∆−∆

−

. (7)

Повышение воспроизводимости результатов z

обусловленных отношением коэффициентов вариа-

ций, полученных из разности величин сохранности

и эффективности в контроле и опыте:

)1(

∆−∆

. (8)

Минимальное количество эякулятов N, обеспе-

чивающих достоверное среднее значение сохран-

ности спермиев (выражение 1) и эффективности

их криоконсервирования (выражение 2) с уровнем

надежности Р ≥ 0,95, определяли по [3]:













, (9)

%100⋅=

. (4)

An increase of reproducibility results z

was defi-

ned as the ratio of the variation coefficients, derived

from the value of standard deviation of the integrity in-

dices of spermatozoa S and difference of spermatozoa

integrity in the control and experiment ∆S = |S

– S

)1(

∆−∆

−

. (5)

In the same way there was determined the rise in

reproducibility z

when using the efficiency index W

and its differences in the control and experiment ∆W =

– W

| to calculate z

)1(

−

, (6)

)1(

∆−∆

−

. (7)

Increase in reproducibility of the results z

stipu-

lated with the ratio of the variation coefficients and

obtained from the difference values of integrity and

efficiency in the control and experiment was counted

on the formula:

)1(

∆−∆

. (8)

Minimal number of ejaculates N, providing the statis-

tically significant mean value of spermatozoa integrity

(expression 1) and the efficiency of their cryopreser-

vation (expression 2) with the reliability level P ≥ 0.95

was determined according to the formula [3]:













, (9)

where t is Student's criterion (if the number of ejaculates

k = 5, t = 2.78); p is admissible relative error (p = 5%).

Correlation of spermatozoa initial state with the

values of their post-thaw integrity and efficiency of

this procedure was examined by means of Pearson

criterion r [2, 5, 6]. The obtained indices of integrity

and efficiency were expressed in percentage.

Results and discussion

At the first research stage to determine the appli-

cation conditions for existing criteria of statistical sig-

nificance of the integrity difference of animal sperma-

tozoa with similar initial state S

in the control and

400

problems

of cryobiology

Vol. 20, 2010, №4

проблемы

криобиологии

Т. 20, 2010, №4

где t – критерий Стьюдента (для

количества образцов эякулята k = 5,

t = 2,78); р – допустимая относи-

тельная ошибка, выраженная в про-

центах, р = 5%.

Корреляцию начального состоя-

ния спермиев с величинами их

сохранности после криоконсервиро-

вания и эффективностью данной

процедуры определяли при помощи

критерия Пирсона r [2, 5, 6]. Полу-

ченные показатели сохранности и

эффективности выражали в про-

центах.

Результаты и обсуждение

На первом этапе исследования

для определения условий примени-

мости существующих критериев

достоверности различия сохран-

ности спермиев животных, имею-

щих одинаковое начальное состоя-

ние S

в контрольной и опытных

группах, проведен анализ выборок,

составленных по аналогии с экспе-

риментально полученными данны-

ми [4] (табл. 1).

Начальная сохранность спер-

миев изменялась от 70 до 90% с

шагом 5%. Показатели сохраннос-

ти в опытной и контрольной группах

определяли из выражения (2), с

учетом погрешности визуального

способа оценки подвижности спер-

миев 5%, по установленным пока-

зателям эффективности криокон-

сервирования спермиев в контроль-

ной W

= 55% и опытной W

= 50%

группах.

Методом альтернативного варьи-

Таблица 1. Сохранность деконсервированных спермиев, полученных

из эякулятов с одинаковой начальной подвижностью S

в контрольной и опытных группах

Table 1. Integrity of thawed spermatozoa derived from ejaculates with

similar initial motility S

in the control and experimental groups

ремоН

ыборп

elpmaS

%,ьтсоннархоС

%,ytirgetnI

%,ьтсонвиткеффЭ

ffEi %,ycneic

S-

W-

10905540,547,16,550,056,5a39,1

25805540,547,18,859,259,5a60,2

30854040,557,13,650,053,6a71,2

45704040,000,03,353,350,000,0

50704530,597,11,750,051,7a94,2

икнецоыртемарапеиксечитситатС

tsitatSi tnemssessafosretemaraplac

0,080,540,140,4-2,653,150,5-

9,91,112,012,5-6,33,33,5-

N0383238-43 9 -

t- 32,1b85,3- c37,3b05,3-

Примечание: S

и S

– сохранность спермиев в контроле и опыте после криокон-

сервирования, W

– эффективность криоконсервирования в контроле и опыте;

параметрические критерии анализа достоверности различия Стьюдента: непарные

для одной пары проб – t

, пяти – t

; парные – t

∆

;

– средняя величина вероятности

сохранности спермиев S (и эффективности их криоконсервирования W), N –

минимальное количество эякулята, обеспечивающего достоверное среднее зна-

чение Р

≥ ≥

≥ 0,95, С

– коэффициент вариации, %; a, b и c – уровни надежности дос-

товерности различия средних значений 0,95, 0,99 и 0,999 соответственно.

Notes: S

and S

are sperm integrity values in the control and experimental samples

after cryopreservation; W

and W

are cryopreservation efficiencies in the control and

experimental groups; parametric criteria in Student’s analysis of differences’

significance: non-paired for one pair of samples are t

; for five pairs are t

; paired

criteria are t

∆

;

is mean value of probability for sperm integrity, S (and their

cryopreservation efficiency, W); N is minimal number of ejaculates providing significant

mean value Р

≥ ≥

≥ 0.95; С

is variation coefficient, %; a, b and c are statistical significance

reliability levels of the differences of means, 0.95, 0.99 and 0.999, correspondingly.

рования t

получена достоверность различия в опы-

те и контроле Р ≥ 0,95 для показателя эффектив-

ности W. Максимальная достоверность различия

Р ≥ 0,999 наблюдается для показателей эффектив-

ности криоконсервирования с применением непар-

ных t

= 3,73 и парных t

∆

= 3,50 (Р ≥ 0,99) критериев

Стьюдента, предназначенных для оценки различия

средних разностей (контроль-опыт) и средней раз-

ности между выборками. Для сохранности получе-

на достоверность различия Р ≥ 0,99 при использо-

вании парного критерия Стьюдента t

∆

= 3,58.

Менее пригодным оказался общепринятый не-

парный критерий Стьюдента t

оценки разности

средних величин сохранностей спермиев Р < 0,95.

Применение непараметрического критерия χ

не

experimental groups there were analyzed the samplings

composed on the analogy of experimental findings [4]

(Table 1).

Initial integrity of spermatozoa changed from 70 to

90% with 5% step. The integrity indices in experimen-

tal and control groups were derived from the expres-

sion (2) with taking into account an error of visual as-

sessment of spermatozoa motility 5% on the determined

indices of cryopreservation efficiency for the sperma-

tozoa in the control W

= 55% and experimental W

50% groups.

By the method of alternative variation, t

, the sta-

tistical significance of difference in the experimental

and control groups P ≥ 0.95 was obtained for the effi-

ciency index W. Maximum statistical significance of

ремоН

ыборп

elpmaS

%,ьтсоннархоС

%,ytirgetnI

%,ьтсонвиткеффЭ

ffEi %,ycneic

109085454545,050,051,65

258080454048,741,742,65

308570404048,240,054,35

45757040404043,353,35

50707530453040,051,75

икнецоыртемарапеиксечитситатС

tsitatSi tnemssessafosretemaraplac

M0,080,670,040,240,042,441,052,55

9,95,58,85,68,87,014,42,3

N039423142536 3

t19,164,1-24,1-66,3-

401

problems

of cryobiology

Vol. 20, 2010, №4

проблемы

криобиологии

Т. 20, 2010, №4

обеспечило достоверности различия проб, получен-

ных в контрольной и опытной группах (Р < 0,95).

Использование критерия Уилкоксона Т обеспечи-

вает уровень надежности различия Р ≥ 0,95 не ме-

нее чем для 7 эякулятов.

На следующем этапе исследования проведен

сравнительный анализ методов статистической

обработки результатов деконсервированных спер-

миев, имеющих разную начальную сохранность в

контрольной и опытных группах S

и S

(табл. 2).

Начальная сохранность спермиев изменялась сту-

пенчато в контрольной группе от 70 до 90% и в

опытной от 70 до 80% с шагом 5%. Различие на-

чального состояния спермиев, оцененное по крите-

рию Стьюдента t

= 1,91 в сравниваемых группах,

оказалось недостоверным Р < 0,95.

Для оценки влияния различия начального сос-

тояния спермиев на показатели их сохранности

после криоконсервирования поменяли местами

величины эффективности в контрольной W

= 50%

и опытной W

= 55% группах. Достоверность раз-

личия начального состояния спермиев в опытной

и контрольной группах, оцененного непарным кри-

терием Стьюдента, имеет положительный знак, а

сохранность деконсервированных спермиев –

step in experimental one. The difference

of initial state of spermatozoa, estimated

according to Student's criterion t

= 1.91

in the groups to be compared, occurred

to be statistically insignificant P < 0.95.

To estimate the effect of different ini-

tial state of spermatozoa on the indices

of their integrity after cryopreservation

the efficiency values in the control W

50% and experimental W

= 55% groups

were switched. The statistical significan-

ce of initial state of spermatozoa in the

experimental and control groups assessed

with non-paired Student's criterion is posi-

tive value and the integrity of thawed sper-

matozoa is a negative, t

= –1.46 (P <

0.95). The use of non-parametric Wilco-

xon criteria provides the reliability level

of the difference P ≥ 0.95 with the num-

ber of assays derived from more than 10

ejaculates.

Statistical insignificance of the devia-

tion of initial state of spermatozoa (Ta-

ble 2) does not provide the statistically sig-

nificant difference of their integrity un-

der the same cryopreservation conditions

= 50% and experimental W

= 55%),

as well as in the first experiment W

55% and experimental W

= 50% (Ta-

ble 1). Therefore insignificant difference

of spermatozoa initial state integrity

means

0201

SS −

= 4% (an error of visual

Примечание: см. табл. 1; S

и S

– приведенные величины сохранности (8)

полученные для контрольной и опытной групп.

Notes: see the Table 1; S

and S

are integrity values (expression 8), obtained

for the control and experimental groups.

Таблица 2. Сохранность деконсервированных спермиев,

полученных из эякулятов с разной начальной подвижностью в

контрольной S

и опытной S

группах

Table 2. Integrity of thawed spermatozoa derived form ejaculates with

different initial motility in the control S

and experimental S

groups

the difference P ≥ 0.999 was observed for the indices

of cryopreservation efficiency with applying non-paired

= 3.73 and paired t

∆

= 3.50 (P ≥ 0.99) Student's cri-

teria, designated for the estimation of differences of

the mean differences (in control and experimental

groups) and average difference between current val-

ues (obtained in these groups). For spermatozoa integ-

rity there was obtained the statistical significance of

the difference P ≥ 0.99 when using the paired Student's

criterion t

∆

= 3.58.

Less suitable occurred to be traditional non-paired

Student's criterion t

for estimation of the mean values

for spermatozoa integrity P < 0.95. Application of non-

parametric criterion χ

did not provide statistically sig-

nificant differences of assays obtained in the control

and experimental groups (P < 0.95). Use of Wilcoxon’s

T criterion provides the reliability level of the differ-

ence P ≥ 0.95 not less than for 7 ejaculates.

At the following research stage there has been per-

formed a comparative analysis of the methods of sta-

tistical processing of the results for frozen-thawed sper-

matozoa with different initial integrity in the control and

experimental groups S

and S

(Table 2). Initial integ-

rity of spermatozoa changed stepwise in the control

group from 70 to 90% and from 70 to 80% with 5%

402

problems

of cryobiology

Vol. 20, 2010, №4

проблемы

криобиологии

Т. 20, 2010, №4

отрицательный t

= –1,46 (Р < 0,95). Использование

непараметрических критериев Уилкоксона обеспе-

чивает уровень надежности различия Р ≥ 0,95, при

количестве проб, полученных более чем из 10 эяку-

лятов.

Недостоверность расхождения начального со-

стояния спермиев (табл. 2) не обеспечивает досто-

верного различия их сохранности при тех же усло-

виях криоконсервирования (W

= 50% и W

= 55%),

как и в первом опыте (W

= 55% и W

= 50%). Сле-

довательно, незначительное различие средних по-

казателей сохранности начального состояния спер-

миев

0201

SS −

= 4% (ошибка визуального опреде-

ления подвижности спермиев составляет 5%) мо-

жет влиять на результат оценки выбранного спо-

соба криоконсервирования.

Для сопоставления величин сохранности декон-

сервированных спермиев, полученных из разных

эякулятов S

≠ S

, предложен следующий способ.

Вычисление показателей сохранности спермиев и

эффективности их криоконсервирования в контроль-

ных пробах производили из выражений (1) и (2). В

опытной группе определяли среднюю величину эф-

фективности

для проб, в которых совпадали

значения начальной сохранности с контролем

i01

= S

i02

∑

, (10)

где W

– эффективность (выражение 2) криокон-

сервирования спермиев в i-й опытной группе; h –

количество эякулятов, имеющих одинаковые зна-

чения начальной сохранности в контрольной и

опытных группах.

Для сравнения показателей сохранности декон-

сервированных спермиев, полученных в опытных

пробах, с контролем (при разной начальной со-

хранности S

≠ S

) необходимо определить вели-

чину приведенной сохранности

в опытных

пробах:

()

202012

WSSSS −+=

. (11)

Эффективность криоконсервирования спермиев

в опытных группах

W =

. (12)

Результаты проверки предложенных формул

(10)–(12) представлены в табл. 2. Достоверность

различия Р ≥ 0,999 получена для показателя эффек-

examination of spermatozoa motility makes 5%) may

affect the result of assessment of the chosen cryopre-

servation way.

To compare the integrity values of thawed sperma-

tozoa obtained from different ejaculates S

≠ S

, there

has been proposed the following method. The integrity

and efficiency indices for spermatozoa cryopreservation

in the control assays were derived from the expres-

sions (1) and (2). In experimental group the efficiency

value

was determined for the assays, wherein the

values of initial integrity coincided with the control

i01

= S

i02

∑

, (10)

where W

is efficiency (expression 2) of spermatozoa

cryopreservation in the i-th experimental group; h is

the number of ejaculates with similar values of initial

integrity in the control and experimental groups.

To compare the integrity indices of frozen-thawed

spermatozoa obtained in the experimental assays with

the control (at different initial integrity S

≠ S

) it is

necessary to determine the value of the

reduced

integrity in experimental assays:

()

202012

WSSSS −+=

. (11)

The cryopreservation efficiency of spermatozoa

in experimental groups is as follows:

W =

. (12)

The results of checking the formulas (10)–(12) are

presented in Table 2. The statistically significant dif-

ferences P ≥ 0.999 is obtained for the efficiency in-

dex, calculate by means of non-paired Student's crite-

rion t

= –3.66.

The obtained correlation coefficients r = 0.95 point

to the relation between initial state of spermatozoa and

their post-thaw integrity (Table 1, 2) and almost com-

plete absence of that (r = –0,12÷0,23) when using the

assessment efficiency index of the chosen cryopre-

servation protocol.

To compare the results on integrity of spermatozoa

cryopreserved with different protocols it is necessary

that their mean values would be obtained with the reli-

ability level of P ≥ 0.95. Minimal amount of ejaculate

(expression 9) for the integrity index (Table 1, 2) made

13÷38 (if the method of separate ejaculate was ap-

plied) and 3÷6 for the efficiency (with no meeting this

limitation).

0,7

0,9

1,1

1,3

1,5

1,7

1,9

2,1

2,3

403

problems

of cryobiology

Vol. 20, 2010, №4

проблемы

криобиологии

Т. 20, 2010, №4

тивности, вычисленного при помощи непарного кри-

терия Стьюдента t

= –3,66.

Полученные коэффициенты корреляции r = 0,95

указывают на наличие явной связи между началь-

ным состоянием спермиев и их сохранностью после

криоконсервирования (табл. 1 и 2) и практически

полное отсутствие таковой r = –0,12÷0,23 при ис-

пользовании показателя эффективности оценки вы-

бранного способа криоконсервирования.

Для сравнения результатов сохранности спер-

миев, криоконсервируемых разными способами,

необходимо, чтобы их средние значения были по-

лучены с уровнем надежности Р ≥ 0,95. Минималь-

ное количество эякулята (выражение 9) для пока-

зателя сохранности (табл. 1 и 2) составило 13÷38

(при условии применения метода раздельного эя-

кулята), а эффективности – 3÷6 (без необходимости

соблюдения данного ограничения).

Таким образом, применение показателя эффек-

тивности повышает воспроизводимость результа-

тов деконсервированных спермиев в 2÷3 раза (ко-

эффициент вариации снижается от 7÷11 до 3÷4%

см. табл. 1 и 2). Увеличение воспроизводимости

результатов [4] происходит за счет учета связи со-

стояния спермиев до и после их криоконсервиро-

вания (точнее через отношение этих величин,

выражение 2). Аналогичным образом повышается

воспроизводимость посредством применения пар-

ных критериев t

∆

[2, 5, 6], фиксирующих связь в

парах контроль-опыт (через их разность).

Математическое моделирование (выражение 5)

показало, что максимальное повышение воспроиз-

водимости z

= 1,8÷2,3 установлено для параметра,

учитывающего величину разности сохранности в

опыте и контроле, составившую 5%, при сохран-

ности деконсервированного объекта 20÷80%

(рис. 1). Увеличение расхождения сохранности в

сравниваемых группах до 50% снижает воспроиз-

водимость (z

= 0,8).

Применение показателя эффективности (выра-

жение 6) повышает воспроизводимость результа-

тов z

= 8,7 при эффективности криоконсервиро-

вания 90% и сохранности объекта 20% (рис. 2).

Снижение величины эффективности до уровня со-

хранности понижает воспроизводимость z

= 1,0.

Разность показателей эффективности, рассчи-

танных для контрольной и опытной групп (выраже-

ние 7), обеспечивает максимальную величину вос-

производимости z

= 8,3, полученную при разнице

сохранности объекта 5% и эффективности криокон-

сервирования 90% (рис. 3). При снижении эффек-

тивности до 50 % воспроизводимость уменьшается

= 4,6. Минимальная величина z

= 1 может быть

получена, если показатель сохранности, разность

эффективности и эффективность составляют 50%.

Рис. 1. Повышение воспроизводимости результатов

криоконсервирования биообъекта, вычисленное как

отношение коэффициентов вариации сохранности и её

различия в контроле и опыте (выражение 5).

Fig. 1. Reproducibility enhancement of cryopreservation

results of bioobject, counted as the ratio of integrity

variation coefficients and its difference in the control and

experimental groups (expression 5).

Thus the use of the efficiency index exceeds the

reproducibility of the results for frozen-thawed sper-

matozoa in 2÷3 times (variation coefficient reduces

from 7÷11 to 3÷4%, see Tables 1 and 2). The repro-

ducibility of the results increases when the relationship

of spermatozoa state prior to and after cryopreservation

is taken into account [4], i. e. via the ratio of these

values (expression 2). In the similar way the repro-

ducibility of the results is enhanced by means of appli-

cation of paired criteria t

∆

[2, 5, 6], which fix the rela-

tion in the pairs: control-experiment either prior to or

after effect of testing factor (via their difference).

Mathematical modeling (expression 5) has shown

that maximum rise in the reproducibility z

= 1.8÷2.3

was established for the parameter, considering the value

of difference in the experimental and control groups’

integrities, making 5% at the integrity of frozen-thawed

object of 20÷80% (Fig. 1). The increase in in-tegrity

deviation in the groups under comparison up to 50%

reduces the reproducibility (z

= 0.8).

Use of the efficiency index (expression 6) enhances

the reproducibility of the results z

= 8.7% at 90%

cryopreservation efficiency and 20% object integrity

(Fig. 2). The reduction of the efficiency value down to

the level of integrity reduces the reproducibility z

1.0.

The difference of efficiency indices, calculated for

the control and experimental groups (expression 7),

provides the maximum reproducibility value z

= 8.3,

obtained at the difference of 5% object integrity and

90% cryopreservation efficiency (Fig. 3). During the

reduction of efficiency down to 50% the reproducibil-

Различие сохранности, %

Differences in integrity, %

Воспроизводимость, у.е.

Reproducibility, arb. units

Cохранность, %

Integrity, %

0,0

1,0

2,0

3,0

4,0

5,0

6,0

7,0

8,0

9,0

0,0

1,0

2,0

3,0

4,0

5,0

6,0

7,0

8,0

9,0

404

problems

of cryobiology

Vol. 20, 2010, №4

проблемы

криобиологии

Т. 20, 2010, №4

Для определения кратности повышения вос-

производимости результатов предложенного спо-

соба, по сравнению с существующим аналогом, про-

веден анализ данных, оцененных для параметров

разности сохранности и разности эффективности

(выражение 8, рис. 4). Установлено, что макси-

мальное повышение воспроизводимости z

= 4,5

наблюдается при эффективности 90% и сохран-

ности 20%. Снижение эффективности до 50% пони-

жает воспроизводимость z

= 2,5. Минимальная

воспроизводимость z

= 1 получена при сохраннос-

ти биообъекта 50%.

Расчеты проводились при условии, что величи-

ны расхождения сохранности и эффективности

равны (∆S = ∆W). Результаты экспериментов [4] по-

казывают, что расхождение величин сохранности

превышает различие показателей эффективности

∆S > ∆W в контроле и опыте при использовании

одного способа криоконсервирования и наоборот,

∆S < ∆W – при использовании разных способов.

Необходимо учитывать, что воспроизводимость

результатов зависит от соотношения величин ∆S и

∆W. Следует отметить, что при повышении вос-

производимости результатов можно сократить ко-

личество эякулята в K раз (K = z

, выражение 9).

Таким образом, воспроизводимость результа-

тов научного исследования зависит от методов

планирования и проведения эксперимента, обра-

ботки полученных данных, поскольку оценить дан-

ную величину без осуществления статистического

анализа невозможно. Вариация начального состоя-

ния спермиев животных (в диапазоне от 70 до 90%)

значительно влияет на воспроизводимость резуль-

ity decreases z

= 4.6. Minimum value z

= 1 may be

obtained if the integrity index, efficiency difference and

efficiency make 50%.

For determination of multiplicity of reproducibility

rise for the results of the proposed method if com-

pared with existing analogue, there were analyzed the

data assessed for the parameters of integrity differ-

ence and the one of efficiency (expression 8, Fig. 4).

The maximum rise in reproducibility z

= 4.5 has been

found at 90% efficiency and 20% integrity. Decrease

of the efficiency down to 50% reduces the reprodu-

cibility (z

= 2.5). Minimum reproducibility z

= 1 was

obtained at the bioobject integrity of 50%.

The calculations were performed under the condi-

tion that the values of deviation of integrity and effi-

ciency were equal (∆S = ∆W). The experimental re-

sults [4] have shown that the deviation of the integrity

values exceeds the difference of the efficiency indi-

ces ∆S > ∆W in the control and experimental group

when using the same cryopreservation method, and

vice versa, ∆S < ∆W if using various methods. It should

be taken into account that the reproducibility of the

results depends on the condition of the ratio of the val-

ues ∆S and ∆W. It should be noted that when increas-

ing the reproducibility of the results the amount of ejacu-

late may be reduced in K times (K = z

, expression 9).

Thus the reproducibility of the scientific research

results depends on the methods of planning and per-

forming the experiment, processing of the findings,

since the estimation of this value without statistical

analysis is impossible. The variation of initial state of

animals' spermatozoa (within the range from 70 to 90%)

significantly affects the reproducibility of the cryopre-

Рис. 2. Повышение воспроизводимости результатов

криоконсервирования биообъекта, вычисленное как

отношение коэффициентов вариации показателей

сохранности и эффективности (выражение 6).

Fig. 2. Reproducibility enhancement of cryopreservation

results of bioobject, counted as the ratio of integrity

variation coefficients and efficiency (expression 6).

Рис. 3. Повышение воспроизводимости результатов

криоконсервирования биообъекта, вычисленное как

отношение коэффициентов вариации показателей

сохранности и разницы эффективности в контроле и

опыте (выражение 7).

Fig. 3. Reproducibility enhancement of cryopreservation

results of bioobject, counted as the ratio of integrity

variation coefficients and efficiency difference in the control

and experimental groups (expression 7).

Сохранность, %

Integrity, %

Воспроизводимость, у.е.

Reproducibility, arb. units

Эффективность, %

Efficeincy, %

Различие эффективности, %

Differences in efficiency, %

Воспроизводимость, у.е.

Reproducibility, arb. units

Cохранность, %

Integrity, %

405

problems

of cryobiology

Vol. 20, 2010, №4

проблемы

криобиологии

Т. 20, 2010, №4

татов криоконсервирования. Повышение воспроиз-

водимости результатов и обеспечение их сопоста-

вимости реализуются при использовании предло-

женного биометрического способа, с помощью ко-

торого можно определить условия многократного

снижения количества опытов криоконсервирования

суспензий клеток в процессе проведения поисковых

опытов, тогда как общепринятые параметрические

и непараметрические методы статистического

анализа рассчитаны на обработку уже проведен-

ного эксперимента. Методы планирования, содер-

жащиеся в программных пакетах STADIA,

SPSS-17, модулях многофакторного анализа

MANOVA позволяют определить направление

поиска (градиент роста целевой функции), а не

условия решения поставленной задачи исследова-

ния (минимальное количество измерений, обеспе-

чивающих достоверный результат).

Полагаем, что данный способ окажется приме-

нимым при анализе сохранности спермиев разных

видов животных, человека и птицы, а также показа-

телей их переживаемости [1, 8].

Выводы

1. Предложен биометрический способ анализа

сохранности деконсервированных спермиев живот-

ных, обеспечивающий сопоставимость результа-

тов, при работе с эякулятами, имеющими разное

начальное состояние.

2. Данные математического моделирования по-

казали, что биометрический способ повышает вос-

производимость результатов опыта до 4,5 раз в

сравнении с существующими аналогами.

3. Сравнение различных методов статистичес-

кого анализа данных криоконсервирования спер-

миев животных показало, что при использовании

предложенного способа с уровнем надежности

Р ≥ 0,95 необходимо минимальное количество

образцов.

servation results. Rise in the reproducibility of the re-

sults and providing their comparability are implemented

when using the proposed biometric method, by means

of which the conditions of multiple reduction of the

number of experiments on cryopreservation of cell

suspensions during the researches can be determined.

Meanwhile traditional parametric and non-parametric

methods of statistical analysis are meant for the pro-

cessing of already done experiment. The methods of

planning containing in the software STADIA, SPSS-

17, multifactor analysis modules MANOVA, enable the

determining of the search direction (growth gradient

of objective function), but not the conditions of the so-

lution of the research task set (minimal number of

measurements, providing the statistical significance of

the result).

This method is believed to be applied when analyzing

the integrity of spermatozoa of different animal, hu-

man and avian species, as well as the indices of their

survival [1, 8].

Conclusions

1. There has been proposed the biometric method

for analyzing the integrity of frozen-thawed spermato-

zoa of animals providing the comparability of the re-

sults when working with ejaculates with different ini-

tial state.

2. The data of mathematical modeling have shown

that biometric method increases the reproducibility of

the experimental results up to 4.5 times if compared

with the existing analogues.

Литература

Бугров А.Д. Криоповреждение и криозащита спермиев

быков при глубоком замораживании.– Харьков, 2010.–

317 с.

Гланц С. Медико-биологическая статистика / Пер. с англ.–

М.: Практика, 1998.– 459 с.

Горбунов Л.В. Определение минимального количества

измерений, обеспечивающего достоверный научный

результат // Агроекологічний журнал.– 2002.– Вип. 1.–

С. 69–71.

Горбунов Л.В., Бучацький Л.П. Вплив різної якості еяку-

ляту на оцінку ефективності реалізації складових етапів

кріоконсервування сперміїв коропу // Рибне господар-

ство.– 2007. – Вип. 1. – С. 32–35.

Новиков Д.А., Новочадов В.В. Статистические методы в

медико-биологическом эксперименте (типовые слу-

чаи).– Волгоград: Изд-во ВГМУ, 2005.– 84 с.

Лакин Б.Ф. Биометрия – М.: Высш. шк., 1990. – 254 с.

1,0

1,5

2,0

2,5

3,0

3,5

4,0

4,5

Рис. 4. Повышение воспроизводимости результатов

криоконсервирования биообъекта, вычисленное как

отношение коэффициентов вариации показателей,

имеющих равные значения различия сохранности и

эффективности в контроле и опыте (выражение 8).

Fig. 4. Reproducibility enhancement of cryopreservation

results of bioobject, counted as the ratio of variation

coefficients of the indices with equal values of the integrity

difference and efficiency in the control and experimental

groups (expression 8).

Различие сохранности, %

Differences in integrity, %

Воспроизводимость, у.е.

Reproducibility, arb. units

Cохранность, %

Integrity, %

406

problems

of cryobiology

Vol. 20, 2010, №4

проблемы

криобиологии

Т. 20, 2010, №4

References

Bugrov A.D. Cryodamage and cryoprotection of bovine sperm

during deep freezing. – Kharkov, 2010. – 317p.

Glants S. Medico-biological statistics/ Translated from

English.– Moscow: Praktika, 1998.– 459p.

Gorbunov L.V. Determining of minimal number of measu-

rements, providing statistically significant scientific result //

Agroekologichnyy Zhurnal.– 2002.– Issue 1.– P. 69–71.

Gorbunov L.V., Buchatsky L.P. Effect of different quality of

ejaculate on efficiency assessment of cryopreservation

constitutive stages’ implementation for carp sperm// Rybne

Gospodarstvo.– 2007.– Issue 1.– P. 32–35.

Novikov D.A., Novochadov V.V. Statistical methods in medico-

biological experiment (typical cases).– Volgograd, 2005.– 84 p.

Lakin B.F. Biometry.– Moscow: Vysshaya shkola, 1990. –

254p.

Orlov A.I. High statistical technologies// Zavodskaya

laboratoriya. – 2003.– Vol. 69, N11.– P. 55–60.

Ostashko F.I. Biotechnlogy of cattle reproduction. – Kiev:

Naukova dumka, 1995. – 195 p.

Chubukova I.A. Data mining: Manual.– Moscow, 2006.– 382 p.

Accepted in 25.06.2010

3. Comparison of different methods of statistical

analysis for the data on cryopreservation of animals'

spermatozoa has demonstrated that minimum number

of ejaculates is implemented when using the proposed

way with the reliability level P ≥ 0.95.

Орлов А.И. Высокие статистические технологии //

Заводская лаборатория.– 2003.– Т. 69, №11.– С. 55–60.

Осташко Ф.И. Биотехнология воспроизведения крупного

рогатого скота.– Киев: Наук. думка.– 1995.– 195 c.

Чубукова И.А. Data mining: Учеб. пособие.– М., 2006.–

382 с.

Поступила 25.06.2010

Рецензент C.Е. Гальченко

407

* Автор, которому необходимо направлять корреспонденцию:

пр. Ленина, 60, г. Харьков, Украина 61001; тел.: (+38057) 341-

01-54, электронная почта: ogrammal@mail.ru.

* To whom correspondence should be addressed: 60, Lenina

ave., Kharkov, Ukraine 61001; tel.: +380 57 341 0154, e-mail:

ogrammal@mail.ru

Institute for Scintillation Materials of the National Academy

of Sciences of Ukraine, Kharkov, Ukraine

Институт сцинтилляционных материалов

НАН Украины, г. Харьков

problems

of cryobiology

Vol. 20, 2010, №4

проблемы

криобиологии

Т. 20, 2010, №4

УДК 547.569.2:611.36.018.1:577.336

Н.С.КАВОК, И.А.БОРОВОЙ, М.Ю. МАЛЮКИНА*

Влияние различных концентраций ДМСО на динамику гормон-

стимулированных изменений трансмембранных потенциалов

изолированных гепатоцитов крыс при оценке методом

флуоресцентных зондов

UDC 547.569.2:611.36.018.1:577.336

N.S. KAVOK, I.A., BOROVOY, M.YU. MALYUKINA*

Effect of Different DMSO Concentrations on Dynamics of Hormone-

Stimulated Changes in Transmembrane Potentials of Isolated Rat

Hepatocytes During Assessment with Fluorescent Probes

Методом флуоресцентной микроскопии оценивали изменения трансмембранного потенциала плазматической и

митохондриальной мембран изолированных гепатоцитов крыс при стимуляции катехоламинами на фоне воздействия

криопротекторного агента диметилсульфоксида (ДМСО). Величину клеточного потенциала оценивали по интенсивности

флуоресценции зонда Н-510 на основе 3, 3-диалкилкарбоцианин бромида (где в качестве алкила использовали этил), изменение

митохондриального потенциала – по интенсивности флуоресценции агрегатов митохондриального красителя JC-1. Показано,

что динамика флуоресцентных изменений отражает двухфазный характер гиперполяризации клеточной мембраны под влиянием

адреналина и альфа-миметика – фенилэфрина. Стимулирующий эффект фенилэфрина в присутствии 2%-го раствора ДМСО

сохранялся на первой фазе клеточного ответа и отсутствовал на второй. При действии токсической концентрации крио-

протектора (8%) влияние альфа-агониста полностью блокировалось. Стимулирующий эффект гормона на митохондриальный

потенциал полностью отсутствовал уже при 2%-й концентрации криопротектора. Таким образом, полученные данные

свидетельствуют о влиянии ДМСО на начальные этапы сигнальной трансдукции.

Ключевые слова: флуоресцентные зонды, гепатоциты, трансмембранный клеточный потенциал, трансмембранный

митохондриальный потенциал, ДМСО.

Методом флуоресцентної мікроскопії визначали зміну трансмембранного потенціалу плазматичної та мітохондріальної

мембран ізольованих гепатоцитів щурів при стимуляції катехоламінами на фоні впливу кріопротекторного агента

диметилсульфоксиду (ДМСО). Величину плазматичного потенціалу оцінювали за інтенсивністю флуоресценції зонда Н-510

на основі 3,3-діалкілкарбоціанін броміду (де в якості алкілу використовували етил), зміну мітохондріального потенціалу – за

інтенсивністю флуоресценції агрегатів мітохондріального барвника JC-1. Показано, що динаміка флуоресцентних змін відображає

двофазний характер гіперполяризацій клітинної мембрани під впливом адреналіну та альфа-міметику – фенілефріну.

Стимулюючий ефект фенілефріну у присутності 2%-го розчину ДМСО зберігався на першій фазі клітинної відповіді та був

відсутній на другій. При токсичній концентрації кріопротектора (8%) дія альфа-агоніста повністю блокувалась. Стимулюючий

ефект гормону на мітохондріальний потенціал повністю був відсутнім вже при 2%-й концентрації кріопротектора. Таким

чином, отримані дані свідчать про вплив ДМСО на початкові етапи сигнальної трансдукції.

Ключові слова: флуоресцентні зонди, гепатоцити, трансмембранний клітинний потенціал, трансмембранний мітохондріальний

потенціал, ДМСО.

Using flourescent microscopy technique, the changes of transmembrane potential of plasma and mitochondrial membranes of the

isolated rat hepatocytes has been estimated under the stimulation by catecholamines against the background influence of dimethyl

sulfoxide (DMSO) cryoprotectant. The fluorescence intensity of probe H-510 based on 3, 3-dialkylcarbocyanine bromide (where

alkyl was used as ethyl) was a measure of the plasmatic potential value, whereas the fluorescence intensity of mitochondrial JC-1 dye

aggregates was used to estimate a mitochondrial potential value. It was shown that the dynamics of fluorescent changes reflected the

diphase character of hyperpolarization of cellular membrane under influence of adrenaline and alpha-agonist, phenylephrine. Stimulative

effect of phenylephrine on cellular potential in 2% DMSO presence is observed in the first phase of cellular response and is absent in

the second one. The toxic concentration (8%) of the cryoprotectanttotally blocks the alpha-agonist action. Hormone stimulative effect

on mitochondrial potential was not observed even at 2% cryoprotectant concentration. Thus, the data obtained reveal the influence of

DMSO on the initial stages of signal transduction.

Key words: fluorescent probes, hepatocytes, transmembrane cellular potential, transmembrane mitochondrial potential, DMSO.

Трансмембранный потенциал плазматической

мембраны (∆Ψ

) является одним из высокочув-

ствительных параметров при оценке функциональ-

ной активности клеток. Изменения ∆Ψ

относятся

к ранним проявлениям гормональных эффектов на

Transmembrane potential of plasma membrane

(∆Ψ

) is one of highly sensitive parameters when esti-

mating the functional activity of cells. The changes of

∆Ψ

are related to early manifestations of hormonal

effects at the level of plasma membrane. Herewith

408

problems

of cryobiology

Vol. 20, 2010, №4

проблемы

криобиологии

Т. 20, 2010, №4

уровне плазматической мембраны. При этом гор-

мональная регуляция трансмембранного потенциа-

ла может осуществляться с участием, по крайней

мере, двух механизмов: посредством мембранной

-ATPазы или вследствие прямого влияния

гормона на мембранную ионную проницаемость.

На разных типах клеток с помощью различных

методов и подходов было установлено, что неза-

висимо от природы действующего агониста ти-

пичной особенностью клеточной активации яв-

ляется изменение мембранного потенциала и внут-

риклеточной концентрации ионов кальция. Фазовый

характер изменений мембранного потенциала

клеток печени крысы в ответ на стимуляцию адре-

налином был показан ранее с помощью электро-

физиологического метода на целой печени [7]. От-

мечена связь индуцированных агонистами флук-

туаций потенциала с проявлением метаболичес-

кого эффекта [16]. Однако данные, полученные на

изолированных клетках, достаточно противоре-

чивы [14]. В настоящих исследованиях для оценки

потенциала плазматической мембраны был приме-

нен предложенный в работе Ehrenberg et al. [13]

подход, основанный на микрофлуориметрии оди-

ночных клеток. В данном методе оценки наряду с

другими потенциал-чувствительными зондами

могут применяться также производные карбоциа-

нинов.

Не менее важной и еще более сложной задачей

является оценка митохондриального трансмемб-

ранного потенциала (∆Ψ

). Он может быть харак-

теристикой не только митохондриальной функции,

но и состояния клетки в целом. Потенциал рассеи-

вается в процессе синтеза АТР, Ca

-транспорта

или работы иных митохондриальных белков-пере-

носчиков. Однако с помощью флуоресцентных по-

тенциал-чувствительных красителей удалось заре-

гистрировать высокоамплитудные спонтанные

кратковременные изменения мембранного потен-

циала одиночных митохондрий как в клетках, так

и в изолированных органеллах [9, 15]. С помощью

митохондриального зонда JC-1 на одиночных

гепатоцитах нами было показано, что нарушение

окислительного баланса клеток под влиянием

индукторов оксидативного стресса сопровождает-

ся адекватными изменениями флуоресценции

агрегатов молекул зонда в клетках [1]. Таким обра-

зом, данный подход позволяет изучать механизмы

клеточной адаптации к действию разнообразных

факторов на уровне одиночных клеток.

Повреждение клеток при замораживании кле-

точных суспензий и тканей зачастую заключается

в нарушениях структуры мембран и ингибирова-

нии мембранно-связанных ферментов, что, в свою

очередь, влияет на изменение потенциала клетки.

При использовании криопротекторов для возмож-

ной защиты биообъектов от эффектов заморажи-

hormonal regulation of transmembrane potential may

be implemented with the involvement at least of two

mechanisms of membrane Na

-ATPase and direct

effect of hormone on membrane ion permeability.

In various cell types using different techniques and

approaches there has been established that independ-

ently on the nature of acting agonist the feature of cell

activation is the change of membrane potential and in-

tracellular concentration of calcium ions. Phase cha-

racter of the changes in membrane potential of rat liver

cells in response to stimulation of adrenalin has been

demonstrated previously in solid liver by means of elec-

trophysiological method [7]. There has been found the

relationship between induced agonists of potential fluc-

tuations and the manifestation of metabolic effect [16].

However the data obtained in isolated cells are quite

controversial [14]. In our research for the estimation

of plasma membrane potential we applied the proposed

by Ehrenberg et al. [13] approach, based on microfluo-

rimetry of single cells. In this method the derivatives

of carbocyanines could be used along with other po-

tential sensitive probes.

Not less important, but also more complicated task

is the assessment of mitochondrial transmembrane

potential (∆Ψ

). It may be the characteristic of not only

mitochondrial function, but in a whole of cell state. Po-

tential diffuses during ATP synthesis, Ca

-transport

or the activity of other mitochondrial carrier proteins.

However by means of fluorescent potential-sensitive

dyes it was possible to record high amplitude sponta-

neous short-term changes of membrane potential of

single mitochondria both in cells and in isolated orga-

nelles [9, 15]. Using mitochondrial probe JC-1 in single

hepatocytes we have shown that the disorder of oxida-

tive balance of cells under the effect of inducers of

oxidative stress is accompanied with adequate changes

in fluorescence of probe molecules’ aggregates in cells

[1]. Thus this approach enables to study the mecha-

nisms of cell adaptation to the effect of different fac-

tors at the level of single cells.

Damage of cells during freezing of cell suspensions

and tissues frequently consists in the impairment of

membrane structure and inhibition of membrane-bound

enzymes, that is in its turn affects the change of a cell

potential. When using the cryoprotectants for potential

protection of bioobjects from the effects of freezing

the data on the influence of cryoprotectants on cell

functions and subcellular structures are needed. It is

known that the presence of cryoprotectants depend-

ing on temperature, concentration and exposure time

may lead to the strengthening of heterogeneity of lipid

bilayer of membranes, disorder of their barrier proper-

ties, inhibition of the activity of cytoplasm and mem-

brane enzyme complexes [6]. It has been established

that the effect of cryoprotective agent DMSO under

different concentrations on transmembrane potential

of plasma membrane may be mediated both by the