В коробке 48 шариковых ручек и 5 гелевых. Наудачу извлекают четыре ручки. Какое количество информации содержится в сообщении, что одна ручка...
Условие:
В коробке 48 шариковых ручек и 5 гелевых. Наудачу извлекают четыре ручки. Какое количество информации содержится в сообщении, что одна ручка шариковая, а три другие ‒ гелевые? Подсчитайте энтропию источника информации.
Решение:
Для подсчета количества информации и энтропии источника информации, мы можем использовать формулу Шеннона:
I = -log2(P)
где I - количество информации, P - вероятность события.
В данном случае, у нас есть 48 шариковых ручек и 5 гелевых ручек в коробке. Если мы извлекаем 4 ручки наудачу, то вероятность извлечения одной шариковой ручки будет:
P(шариковая) = 48 / (48 + 5) = 48 / 53
А вероятность извлечения трех гелевых ручек будет:
P(гелевая) = 5 / (48 + 5) = 5 / 53
Теперь мы можем подсчитать количество информации для каждого события:
I(шариковая) = -log2(48 / 53) I(гелевая) = -log2(5 / 53)
Так как мы извлекаем 4 ручки наудачу, то общее количество информации будет равно сумме информации для каждого события:
I(общее) = 4 * I(шариковая) + I(гелевая)
Теперь мы можем подставить значения и посчитать:
I(общее) = 4 * (-log2(48 / 53)) + (-log2(5 / 53))
После вычислений, мы получим количество информации и энтропию источника информации.