ТЕОРИЯ ИНФОРМАЦИИ

в узком смысле - математич. теория передачи сообщений в системах связи (телефон, телеграф и т. п.), возникшая на базе основополагающих трудов К. Шеннона (США). Основана на следующих представлениях: сообщения (точнее, их коды) поступают из источника сообщений через канал связи (с возможными помехами) в приемник информации. Эти сообщения изменяют систему знаний (тезаурус) приемника, уменьшая уровень его разнообразия, неопределенности, измеряемый энтропией. Энтропия системы сообщений определяется их вероятностями как среднее значение логарифмов величин, обратных этим вероятностям. Среднее количество информации (по Шеннону) определяется уменьшением энтропии приемника в рез-те изменения его представлений о распределении вероятностей состояний источника. При таком определении общее количество информации, содержащееся в отдельных, не связанных друг с другом сообщениях, получается суммированием количеств информации этих сообщений. Единица измерения информации задается средним количеством информации, содержащимся в сообщениях о том, какое из двух равновероятных состояний реализовалось на самом деле, и наз. "бит" (начало и конец английского binary digit - двоичный разряд). С использованием этого понятийного аппарата удается решать ряд задач теории передачи сообщений (расчет пропускной способности каналов связи, создание эффективных систем кодирования и т. п.) не только для технич., но и биологич. приложений (психофизика, распространение биоинформации и т. п.). Теоретически установлена тесная связь количества информации с физич. энтропией (мерой неопределенности распределения молекул в идеальных физич. системах), возрастающей в ходе термодинамич. процессов. Имеются попытки усовершенствовать теоретико-информационные построения, включив в них такое понятие, как, напр., ценность информации с т. зр. той или иной цели. Хотя расширительное толкование информации как субстрата процессов управления в сложных системах не вкладывается в теоретико-информационные представления, они тем не менее широко используются в кибернетич. анализе любых систем и процессов, в к-рых в к.-л. мере применимы понятия "разнообразие", "неопределенность", "передача и восприятие информации" и др. Напр., в терминах Т.и. получено достаточно продуктивное уточнение известного неформального принципа кибернетики о том, что разнообразие системы управления должно быть не ниже разнообразия управляемого объекта. В социологии понятия количества информации и энтропии используются прежде всего в связи с проблемами обработки эмпирич. многомерной информации (статистич., анкетной и т. п.) для оценки информативности признаков и их совокупностей. Имеется также ряд попыток "термодинамического" моделирования массового поведения на основе представления о том, что массовое поведение в слабоструктурированной системе в равновесии максимизирует энтропию этой системы. Следует указать прежде всего на исследования коммуникационных процессов типа распределения пассажиропотоков населения большого города, а также гиперболических распределений (городов по численности населения, населения страны по доходам, ученых по числу публикаций и т. п.), характерных для замкнутых соц. систем. Эти идеи используются также для моделирования поведения населения в потреблении материальных и культурных благ. Лит.: Шеннон К. Работы по теории информации и кибернетике. М., 1964; Гаврилец Ю.Н. Социально-экономическое планирование. М., 1974; Вильсон А.Дж. Энтропийные методы моделирования сложных систем. М., 1978; Петров В.М., Яблонский А.И. Математика и: социальные процессы. М, 1980. Б.Г. Миркин.