LINUX.ORG.RU
Форум — Talks  

Пара вопросов по Теории Информационных Процессов


0

0

Я тут задание по теории информационных процессов делаю. Возникли вопросы. Здесь люди образованные обитают, может кто и подскажет, а то мне больше не у кого спросить...

1. Нужно вычислить условные дифференциальные энтропии h(X+Y|Y) и h(Y|X+Y), где X и Y - независимые непрерывные источники, ... (не важно)
а) Что значит h(X+Y|Y)? Я это понимаю как выражение для энтропии, т.е. случайную величину, которая характеризует неопределённость , приходящуюся на одно сообщение источника X+Y (т.е. объединения источников X и Y) при условии, что уже известно сообщение источника Y.
б) Где я ошибаюсь:
- Т.к. X и Y - независимы, то h(X+Y|Y)=h(X|Y)=h(X) и далее вычисляю её...
- h(Y|X+Y)=0 полюбому и всегда

2. "Докажите, что кодовые расстояния Хэмминга и Ли совпадают при сравнении двоичных и троичных кодовых комбинаций."
а) Не понял смысл вопроса - кого с чем сравнивают (Хэмминга с Ли или двоичные с троичными комбинациями)
б) Кто такой Ли? У меня есть пара умных книжек - нет такого нигде. В сети искал - Хэмминг есть, Ли нет. Т.е. что такое кодовые расстояния по Ли? Я нашёл что такое кодовые расстояния по Хэммингу - число символов, в которых кодовые комбинации отличаются друг от друга. Может, это и называется так "кодовые расстояния Хэмминга и Ли"?
в) Как считать кодовые расстояния для троичных кодовых комбинаций?

Спасибо.

PS. А может у кого есть хорошая книжка по этому делу? Я не нашёл.
PPS. Модераторы, не удаляйте топик, пожалуйста.

anonymous

> Кто такой Ли?

Ли--создатель современной абстрактной алгебры--алгебры Ли.

h(X+Y|Y)=h(X|Y)=h(X). Я вообще не понял суть величины h, но это равенство меня ваще смущает. Если h удовлетворяет аксиомам вероятности из классич. теор. вреа, то это неправильно:)

Unforgiven ★
()

Н-да травка сушилась между страниц оччень умной книжки, видимо....

anonymous
()

>б) Кто такой Ли?

Превет, как тебя не выгнали еще?

Книжку купи:

Хамфрис "Введение в теорию алгебр Ли и их представлений"

Sun-ch ☆
()
Ответ на: комментарий от Sun-ch

2Unforgiven:
>Я вообще не понял суть величины h
h-мера неопределённости выбора
>Если h удовлетворяет аксиомам вероятности из классич. теор. вреа, то это неправильно:)
Почему? Я рассуждал так: h(X+Y|Y) = т.к. сообщение от источника Y уже известно, то никакой неопределённости у него уже нет и соот-но = h(X|Y) = т.к. X и Y независимы, то = h(X).

2Sun-ch:
>Превет, как тебя не выгнали еще?
Да вот, всё собираются, но что-то никак ...
>Книжку купи:

Хамфрис "Введение в теорию алгебр Ли и их представлений"
Не катит. Если я буду по книжке на каждый зачёт покупать...

anonymous
()
Ответ на: комментарий от anonymous

>Не катит. Если я буду по книжке на каждый зачёт покупать...

Думаешь всю жизнь на шару прожить?

Не выйдет.

Мне мужики рассказывали, у них на собеседовании спросили какую то фигню

из дискретки, 8 из 10 сразу отказали.

Sun-ch ☆
()
Ответ на: комментарий от anonymous

h = -lnP

где P -- вероятность. так определяется или нет? если так, то h(X|Y) = h(X) + h(Y)

anonymous
()
Ответ на: комментарий от anonymous

Лошки. Ли (Lee, не Lie) это известный строитель диаграмм Вороного.

dilmah ★★★★★
()

>h(X+Y|Y)=h(X|Y)=h(X)

Да ну нет в теор. вере теорем про сумму вероятностей событий (исключая формулы полной вероятности). Есть тока про произведение.

Dilmah, развивай в себе чувство такта и уважай собеседников.

Unforgiven ★
()
Ответ на: комментарий от Unforgiven

> Dilmah, развивай в себе чувство такта и уважай собеседников.

так это Санчо адресовалось -- он же про алгебры Ли задвинул -- а он не обидится..

dilmah ★★★★★
()

2Sun-ch:
>Думаешь всю жизнь на шару прожить?
Да не, я на самом деле-то ботаю, просто так получилось, что с этим ТИПом запорка + ещё препода душат другими предметами - контрольные, зачёты всякие. А так я белый и пушистый...

2anonymous (*) (13.05.2005 12:37:35):
>h(X|Y) = h(X) + h(Y)
Нифига, это про объединение источников - h(X+Y)<=h(X)+h(Y) //равно если источники независимы

2hateful_dead:
>может пригодится?
респект, ща заценю

anonymous
()
Вы не можете добавлять комментарии в эту тему. Тема перемещена в архив.
Talks