КОЭФФИЦИЕНТ ЭНТРОПИИ

относительный показатель, который измеряет неравномерность, неопределенность распределения единиц рассматриваемой совокупности по значениям атрибутивного признака. Поэтому К.э. абсолютный и К.э. относительный используются в практической статистике для оценки уровня концентрации единиц совокупности на основе признака, измеренного в номинальной или порядковой шкале. В основе расчета этих показателей лежит оценка вероятности ( ) i p x того, что у произвольно выбранной единицы наблюдения признак будет иметь значение той или иной категории. К.э. абсолютный оценивается по формуле:
img width="307" height="80" src="/upload/content/1582184185_22.files/image108.jpg"
Величины
img width="119" height="28" src="/upload/content/1582184185_22.files/image109.jpg"
определяются по табл., составленной для этих вероятностей. Абсолютная энтропия изменяется в пределах от 0 до некоторого макс. значения H max:
img width="172" height="45" src="/upload/content/1582184185_22.files/image110.jpg"
ЕслиH(x) =0, то это означает, что все единицы совокупности относятся к одной категории, т.е. в совокупности отсутствует неопределенность. Следовательно, значение абсолютной энтропии, близкое к нулю, означает макс. концентрацию единиц по значению варьирующей категориальной переменной. Полное отсутствие концентрации наблюдается в случае, если единицы совокупности распределены между категориями равномерно, т.е. при равномерном распределении. Для равномерного распределения количество единиц в каждой категории значений варьирующего признака обратно пропорционально количеству вариантов значений признака (т.е. количеству категорий) и равно n/k. При этом энтропия распределения максимальна:
img width="191" height="66" src="/upload/content/1582184185_22.files/image111.jpg"
где k – число категорий распределения. Следовательно, макс. значение абсолютной энтропии – max H , т.е. энтропия равномерного распределения. При этом уровень концентрации единиц по значению варьирующей категориальной переменной минимален. Чтобы сравнить уровень концентрации единиц нескольких совокупностей на основе атрибутивного признака (или чтобы сравнить уровень концентрации единиц одной совокупности на основе нескольких атрибутивных признаков) с использованием коэффициентов абсолютной энтропии, необходимо, чтобы количество категорий, выделенных для каждой из сопоставляемых структур, было одинаково:
img width="219" height="23" src="/upload/content/1582184185_22.files/image112.jpg"
При различном количестве категорий, выделенных по значениям атрибутивного признака, для сравнения уровня концентрации единиц совокупности необходимо перейти к К.э. относительной. Его статистическая структура обеспечивает возможность проведения сопоставлений, независимо от количества категорий по всем сравниваемым структурам. При его расчете в качестве базы сравнения используется энтропия равномерного распределения для соответствующего количества категорий:
img width="153" height="84" src="/upload/content/1582184185_22.files/image113.jpg"
К. относительной э. показывает, какая часть от макс. энтропии (энтропии равномерного распределения) зафиксирована в наблюдаемой группировке единиц совокупности. Следовательно, относительная энтропия характеризует, во сколько раз наблюдаемый уровень концентрации единиц по значениям атрибутивного признака отличается от минимально возможного уровня (при заданном количестве категорий). Т.о., сопоставление К. относительной э. позволяет сделать вывод о степени отклонения наблюдаемого эмпирического уровня концентрации от эталонного уровня, независимо от количества категорий признаков, положенных в основу сопоставляемых группировок. См. также Показатель статистический.