Как найти информационный вес символа этого сообщения

Пример 1. Алфавит содержит 32 буквы определить информационный вес 1 символа.

Решение: Алфавитный подход измеряется по формуле: 2ⁱ = N. Где i – это информационный вес одного символа в битах, N – мощность алфавита, которая измеряется в буквах. Исходя из этого, подставляем имеющиеся в условии задачи данные в формулу: 2ⁱ = N,   2ⁱ = 32 (буквы).

2⁵ = 32. Значит I = 5 бит.

Ответ: Информационный вес одного символа составляет 5 бит.

Пример 2. Алфавит содержит 16 букв определить информационный вес 1 символа.

Решение: Алфавитный подход измеряется по формуле 2ⁱ = N. Подставляем данные в формулу:

2ⁱ = N,   2ⁱ = 16 (букв).   2⁴ = 16. Значит I = 4 бит(а).

Ответ: Информационный вес одного символа составляет 4 бита.

Пример 3. Сообщение, записанное буквами 8 символьного алфавита, содержит 30 символов. Какой объем информации оно несет?   Решение:

1. Алфавитный подход измеряется по формуле 2ⁱ = N. Сначала найдем информационный вес одного символа. Подставляем данные в формулу: 2ⁱ = N, 2ⁱ = 8, 2³ = 8. Значит I = 3 бит(а).  

2. Информационный вес одного символа 3 бита, в сообщении 8 символов, значит:

3 бита * 30 символов = 90 бит.

Ответ: Информационный вес сообщения составляет 90 бит.

Пример 4. Сообщение, записанное буквами 128 символьного алфавита, содержит 20 символов. Какой объем информации оно несет?   Решение:

1. Подставляем данные в формулу: 2ⁱ = N, 2ⁱ = 128, 2⁷ = 128. Значит I = 7 бит.  

2. Информационный вес одного символа 7 бит, в сообщении 20 символов, значит:

7 бита * 20 символов = 140 бит.

Ответ: Информационный вес сообщения составляет 140 бит.

Пример 5.

Определить мощность алфавита, если сообщение, содержащее 40 символов, занимает 30 байт.

Решение:

1) В алфавитном подходе все измеряется в битах, поэтому переводим 30 байт в биты.

Так как 1 байт = 8 бит, то 30 байт* 8 = 240 бит.

2) 240 бит / 40 символов = 6 бит (информационный вес одного символа ).

3) Алфавитный подход измеряется по формуле 2ⁱ = N. Подставляем данные в формулу: 2⁶ = N, 2⁶ = 64.

Ответ: мощность алфавита составляет 64 символа.

Пример 6.

Определить мощность алфавита, если сообщение, содержащее 64 символа, составляет 32 байта.

1) В алфавитном подходе все измеряется в битах . Переводим 32 байта в биты. 32 байт * 8 = 256 бит.

2) 256 бит / 64 символа = 4 бита (информационный вес одного символа ).

3) Алфавитный подход измеряется по формуле 2ⁱ = N. Подставляем данные в формулу: 2⁴ = N, 2⁴ = 16.

Ответ: мощность алфавита составляет 16 символов.

§ 1.6. Измерение информации

Информатика. 7 класса. Босова Л.Л. Оглавление

---

Ключевые слова:

• бит
• информационный вес символа
• информационный объём сообщения
• единицы измерения информации

1.6.1. Алфавитный подход к измерению информации

Одно и то же сообщение может нести много информации для одного человека и не нести её совсем для другого человека. При таком подходе количество информации определить однозначно затруднительно.

Алфавитный подход позволяет измерить информационный объём сообщения, представленного на некотором языке (естественном или формальном), независимо от его содержания.

Для количественного выражения любой величины необходима, прежде всего, единица измерения. Измерение осуществляется путём сопоставления измеряемой величины с единицей измерения. Сколько раз единица измерения «укладывается» в измеряемой величине, таков и результат измерения.

При алфавитном подходе считается, что каждый символ некоторого сообщения имеет определённый информационный вес — несёт фиксированное количество информации. Все символы одного алфавита имеют один и тот же вес, зависящий от мощности алфавита. Информационный вес символа двоичного алфавита принят за минимальную единицу измерения информации и называется 1 бит.

Обратите внимание, что название единицы измерения информации «бит» (bit) происходит от английского словосочетания binary digit — «двоичная цифра».

За минимальную единицу измерения информации принят 1 бит. Считается, что таков информационный вес символа двоичного алфавита.

1.6.2. Информационный вес символа произвольного алфавита

Ранее мы выяснили, что алфавит любого естественного или формального языка можно заменить двоичным алфавитом. При этом мощность исходного алфавита N связана с разрядностью двоичного кода i, требуемой для кодирования всех символов исходного алфавита, соотношением: N = 2ⁱ.

Разрядность двоичного кода принято считать информационным весом символа алфавита. Информационный вес символа алфавита выражается в битах.

Информационный вес символа алфавита i и мощность алфавита N связаны между собой соотношением: N = 2ⁱ.

Задача 1. Алфавит племени Пульти содержит 8 символов. Каков информационный вес символа этого алфавита?

Решение. Составим краткую запись условия задачи.

Известно соотношение, связывающее величины i и N : N = 2ⁱ.

С учётом исходных данных: 8 = 2ⁱ. Отсюда: i = 3.

Полная запись решения в тетради может выглядеть так:

1.6.3. Информационный объём сообщения

Информационный объём сообщения (количество информации в сообщении), представленного символами естественного или формального языка, складывается из информационных весов составляющих его символов.

Информационный объём сообщения I равен произведению количества символов в сообщении К на информационный вес символа алфавита i;I = К • i.

Задача 2. Сообщение, записанное буквами 32-символьного алфавита, содержит 140 символов. Какое количество информации оно несёт?

Задача 3. Информационное сообщение объёмом 720 битов состоит из 180 символов. Какова мощность алфавита, с помощью которого записано это сообщение?

1.6.4. Единицы измерения информации

В наше время подготовка текстов в основном осуществляется с помощью компьютеров. Можно говорить о «компьютерном алфавите», включающем следующие символы: строчные и прописные русские и латинские буквы, цифры, знаки препинания, знаки арифметических операций, скобки и др. Такой алфавит содержит 256 символов. Поскольку 256 = 2⁸, информационный вес каждого символа этого алфавита равен 8 битам. Величина, равная восьми битам, называется байтом. 1 байт — информационный вес символа алфавита мощностью 256.

1 байт = 8 битов

Бит и байт — «мелкие» единицы измерения. На практике для измерения информационных объёмов используются более крупные единицы:

1 килобайт = 1 Кб = 1024 байта = 2¹⁰ байтов
1 мегабайт = 1 Мб = 1024 Кб = 2¹⁰ Кб = 2²⁰ байтов
1 гигабайт = 1 Гб = 1024 Мб = 2¹⁰ Мб = 2²⁰ Кб = 2³⁰ байтов
1 терабайт = 1 Тб = 1024 Гб = 2¹⁰ Гб = 2²⁰ Мб = 2³⁰ Кб = 2⁴⁰ байтов

Задача 4. Информационное сообщение объёмом 4 Кбайта состоит из 4096 символов. Каков информационный вес символа используемого алфавита? Сколько символов содержит алфавит, с помощью которого записано это сообщение?

Ответ: 8 битов, 256 символов.

Задача 5. В велокроссе участвуют 128 спортсменов. Специальное устройство регистрирует прохождение каждым из участников промежуточного финиша, записывая его номер цепочкой из нулей и единиц минимальной длины, одинаковой для каждого спортсмена. Каков будет информационный объём сообщения, записанного устройством после того, как промежуточный финиш пройдут 80 велосипедистов?

Решение. Номера 128 участников кодируются с помощью двоичного алфавита. Требуемая разрядность двоичного кода (длина цепочки) равна 7, так как 128 = 2⁷. Иначе говоря, зафиксированное устройством сообщение о том, что промежуточный финиш прошёл один велосипедист, несёт 7 битов информации. Когда промежуточный финиш пройдут 80 спортсменов, устройство запишет 80 • 7 = 560 битов, или 70 байтов информации.

Ответ: 70 байтов.

---

Самое главное.

При алфавитном подходе считается, что каждый символ некоторого сообщения имеет опредёленный информационный вес — несёт фиксированное количество информации.

1 бит — минимальная единица измерения информации.

Информационный вес символа алфавита i и мощность алфавита N связаны между собой соотношением: N = 2ⁱ.

Информационный объём сообщения I равен произведению количества символов в сообщении К на информационный вес символа алфавита i: I = K•i.

1 байт = 8 битов.

Байт, килобайт, мегабайт, гигабайт, терабайт — единицы измерения информации. Каждая следующая единица больше предыдущей в 1024 (210) раза.

---

Вопросы и задания.

1.Ознакомтесь с материалами презентации к параграфу, содержащейся в электронном приложении к учебнику. Используйте эти материалы при подготовке ответов на вопросы и выполнении заданий.

2. В чём суть алфавитного подхода к измерению информации?

3. Что принято за минимальную единицу измерения информации?

4. Что нужно знать для определения информационного веса симво­ла алфавита некоторого естественного или формального языка?

5. Определите информационный вес i символа алфавита мощ­ностью N, заполняя таблицу

6. Как определить информационный объём сообщения, представлен­ного символами некоторого естественного или формального языка?

7. Определите количество информации в сообщении из Ксимво­лов алфавита мощностью N, заполняя таблицу

8. Племя Мульти пишет письма, пользуясь 16-символьным алфави­том. Племя Пульти пользуется 32-символьным алфавитом. Вож­ди племён обменялись письмами. Письмо племени Мульти содер­жит 120 символов, — а письмо племени Пульти — 96. Сравните информационные объёмы сообщений, содержащихся в письмах

9. Информационное сообщение объёмом 650 битов состоит из 130 символов. Каков информационный вес каждого символа этого сообщения?

10. Выразите количество информации в различных единицах, заполняя таблицу

11. Информационное сообщение объёмом 375 байтов состоит из 500 символов. Каков информационный вес каждого символа этого сообщения? Какова мощность алфавита, с помощью кото­рого было записано это сообщение?

12. Для записи текста использовался 64-символьный алфавит. Какое количество информации в байтах содержат 3 страницы текста, если на каждой странице расположено 40 строк по 60 символов в строке?

13. Сообщение занимает 6 страниц по 40 строк, в каждой строке за­писано по 60 символов. Информационный объём всего сообще­ния равен 9000 байтам. Каков информационный вес одного сим­вола? Сколько символов в алфавите языка, на котором записано это сообщение?

14. Метеорологическая станция ведёт наблюдение за влажностью воздуха. Результатом одного измерения является целое число от 0 до 100 процентов, которое записывается цепочкой из нулей и единиц минимальной длины, одинаковой для каждого изме­рения. Станция сделала 8192 измерения. Определите информа­ционный объём результатов наблюдений.

15. Племя Пульти пользуется 32-символьным алфавитом. Свод основных законов племени хранится на 512 глиняных таблич­ках, на каждую из которых нанесено ровно 256 символов. Какое количество информации содержится на каждом носителе? Какое количество информации заключено во всём своде законов?

---

Оглавление

§ 1.5. Двоичное кодирование

§ 1.6. Измерение информации

Тестовые задания для самоконтроля

---

Видеоурок: Измерение информации.

Алфавитный подход к измерению информации

Каждый символ некоторого сообщения имеет определённый информационный вес – несёт фиксированное
количество информации.

Все символы одного алфавита имеют один и тот же вес, зависящий от мощности алфавита.

Информационный вес символа двоичного алфавита принят за минимальную единицу измерения информации и называется 1 бит
(bit)».

Информационный вес символа произвольного алфавита 

•  Алфавит любого языка можно заменить двоичным алфавитом. 

• Для кодирования N символов произвольного алфавита требуется i-разрядный
двоичный код 

•  Информационный вес символа = разрядность двоичного кода. 

•  Мощность алфавита и информационный вес символа алфавита: N=2ⁱ

Информационный объем сообщения

Информационный объём I сообщения равен произведению количества K символов в сообщении на
информационный вес i символа алфавита:

I=K*i

К – Число символов в символьном сообщении

I – Количество информации в
символьном сообщении

Задача 1

Алфавит племени Пульти
содержит 8 символов. Каков информационный вес символа этого алфавита?

Решение:
Составим
краткую запись условия задачи.

N=8,

i
– ?

Известно
соотношение, связывающее величины 

i
и N:      N = 2ⁱ.

С
учетом исходных данных: 8 = 2ⁱ. Отсюда:  i = 3.

Ответ:
3
бита.

Задача 2

Сообщение, записанное
буквами 32-символьного алфавита, содержит 140 символов. Какое количество информации оно несёт?

Решение:

N
= 32,                            I = K  
i,   N = 2 ⁱ 

K = 140 

I  – ?

32 = 2 ⁱ, i = 5, I = 140    5 = 700 (битов)

Ответ:
700
битов

Задача 3

Информационное сообщение
объёмом 720 битов состоит из 180 символов. Какова мощность алфавита, с помощью которого записано это сообщение?

Решение.

I = 720;  K = 180;  N  – ?

N = 2 ⁱ,  I = K   i, i = I/K   

i
= 720/180 = 4 (бита);  N = 2⁴ = 16 (символов)

Ответ:
16
символов.

На прошлых уроках мы
узнали:

·     Алфавитом
языка называется набор всех различных символов, которые
используются для представления информации на этом языке.

·     Любой
алфавит характеризуется своей мощностью, так называется количество
символов, которые в него входят.

·     Мощность
двоичного алфавита – всего два символа.

·     Двоичным
кодированием называется запись информации с помощью
символов двоичного алфавита, а двоичным кодом – код информации,
получившийся в результате двоичного кодирования.

·     Двоичное
кодирование универсально, это означает, что с помощью
двоичного кода можно представить любую информацию.

·     На
компьютере любая информация хранится в виде двоичных кодов.

Вопросы:

·     Алфавитный
подход к измерению информации.

·     Информационный
вес символа.

·     Информационный
объём сообщения.

·     Единицы
измеряется информации.

Как мы помним, информация
для человека – это набор сигналов, которые человек получает из различных
источников. Человек, каким-то образом их воспринимает и интерпретирует, придёт
им какое-то значение. Однако разные люди могут интерпретировать сигналы по-разному.
Так одно и то же сообщение, то есть один и тот же набор сигналов, может нести
разным людям совершенно разную информацию. Как же тогда можно измерить
информацию?

Всего существует два
подхода к измерению информации. Первый подход – содержательный. Как ясно
из названия, он оценивает содержание информации. А как же можно оценить
содержание информации? Универсально оценить содержание любой информацию
позволяют её свойства: объективность, достоверность полнота, актуальность,
полезность и понятность. Однако, часть свойств информации субъективна, то есть
для разных людей информация может быть по-разному полезна, понятна или
актуальна. Потому измерение информации с помощью этого подхода часто тоже
субъективно. Для того, чтобы объективно измерить информацию нельзя опираться на
её содержание.

Измерить информацию независимо
от её содержания позволяет алфавитный подход.  Рассмотрим его подробнее.
Прежде чем что-нибудь выразить количественно, необходимо установить, для этого
единицу измерения. Так расстояние измеряется в метрах, а время в секундах. А в
чём же измеряется информация? В алфавитном подходе считается, что каждый символ
алфавита, который использован для записи информации, имеет некоторый
информационный вес. Это означает, что он несёт некоторое количество информации.
Все символы одного и того же алфавита имеют одинаковый информационный вес.
Информационный вес каждого из символов алфавита зависит от мощности этого
алфавита. Минимальная единица измерения информации – это информационный вес
одного символа двоичного алфавита. Эта величина получила название один бит. 
Слово бит на английском языке (Bit)
произошло как результат сокращения словосочетания «Binary
digit», что в переводе
на русский язык, означает «двоичный символ».

Почему же именно один бит
был принят в качестве минимальной единицы измерения информации? Как мы помним
из прошлого урока, любую информацию можно записать в виде её двоичного кода, то
есть представить её как совокупность двоичных символов. В то же время меньшей
информационной единицы, чем один бит просто не существует. Наверняка у вас
возник вопрос, почему? Вспомним, чем является любой алфавит. Любой алфавит –
это знаковая система. А какая знаковая система минимальна? Сколько символов она
содержит? 2. Так как 1 символ, вне знаковой системы не может нести информацию.
То есть двоичный алфавит – это минимальная знаковая система.

Раньше мы узнали, что
алфавит любого языка, естественного или формального можно заменить двоичным
алфавитом. Для этого всем символам алфавита можно присвоить уникальные двоичные
коды одинаковой разрядности. Причём минимальная разрядность двоичного кода, необходимая,
для кодирования одного символа алфавита,
зависит от мощности кодируемого алфавита. Запишем выражение для этой
зависимости. Мощность алфавита обозначим латинской буквой «М», а минимальную
необходимую разрядность двоичного кода – буквой «i».
Тогда M = 2ⁱ,
или перемноженной последовательности из i
двоек. При этом, если мощность алфавита нельзя получить простым перемножением
двоек, то она увеличивается до числа, которое можно получить таким образом. Это
делается потому, что иначе двоичный код с меньшей разрядностью не сможет
уникальным образом закодировать все символы алфавита.

Информационным весом
символа называется, количество информации, которое он несёт в
рамках своего алфавита. Она равна минимальной разрядности двоичного кода,
необходимой для равномерного кодирования алфавита этого символа. Информационный
вес символа, как и любая информация измеряется в битах.

Задача: алфавит
русского языка содержит:

·    
тридцать
три буквы,

·    
десять
арабских цифр,

·    
одиннадцать
знаков препинания,

·    
и
пробел.

Вычислить информационный
вес одного символа из алфавита русского языка.

В начале нужно найти
мощность русскоязычного алфавита M.
Для этого посчитаем общее число всех символов: букв – 33, количество цифр – 10,
количество знаков препинания – 11 и добавим ещё 1, то есть пробел. M
= 33 + 10 + 11+ 1 = 55. Общая мощность русского алфавита равна 55 символам.
Теперь найдём, какая разрядность двоичного кода потребуется, чтобы закодировать
1 символ алфавита мощностью 55 символов. Информационный вес символа будет равен
этой разрядности. То есть M
= 55 = 2ⁱ. Число 55 мы не можем
получить простым перемножением двоек. Поэтому увеличим число до 64-х. Для того,
чтобы получить 64, нужно перемножить 6 двоек или 2⁶. i
= 6. Мы можем дать ответ: информационный вес одного символа русского алфавита –
6 бит.

Таким образом мы
научились измерять информацию, которую несёт 1 символ алфавита. Однако в
действительности информация передаётся целыми сообщениями, которые складываются
из множества символов. Как же измерить такую информацию? Размер информации,
которую несёт сообщение, называется его информационным объёмом. Он
складывается из информационных весов всех символов, из которых состоит
сообщение. Его можно рассчитать следующим образом… Обозначим информационный
объём сообщения латинской буквой «V»,
а латинской буквой «L» – длину сообщения, в
символах. Так V = i
× L. То есть информационный
объём равен произведению информационного веса одного символа и количества
символов в сообщении.

Задача: сообщение
содержит 296 бит информации. Его длина – 37 символов. Какова максимальная
мощность алфавита, с помощью символов которого записано это сообщение?

Так как мы знаем
информационный объём сообщения и его длину – мы можем найти информационный вес
одного его символа. Информационный вес символа равен информационному объёму
сообщения делённому на длину сообщения, i
= V / L.
296 / 37 = 8 бит. Информационный вес одного символа нашего алфавита – восемь
бит. Так как мы знаем информационный вес каждого символа алфавита, то есть
разрядность двоичного кода символа такого алфавита, мы можем найти его
максимальную мощность. Максимальная мощность равна двум в степени
информационного веса символа. M
= 2ⁱ = 2⁸ = 256.
Мы можем дать ответ: максимальная мощность алфавита – 256 символов.

Итак, минимальная единица
измерения информации один бит, и мы можем выразить с помощью этой величины
любой объём информации, но всегда ли это удобно? Ведь текст на компьютере может
содержать десятки и даже сотни тысяч символов, а звуки и изображения
представляются миллиардами символов двоичного кода. Для удобства измерения
такой информации были введены и более крупные единицы.

Первая из них – байт,
рассмотрим, как же он появился и чему равен. В самом начале большая
часть информации на компьютерах была текстовой. Для набора информации
использовалось несколько алфавитов, или кодировок. Большинство из них содержало
по 256 символов. Это означает что информационный вес одного символа в таком
алфавите был 8 бит. Так же именно 8 бит информации могли одновременно
обрабатывать процессоры того времени. Эта величина и была названа байтом.

Так же существуют и ещё
более крупные единицы информации, например килобайты (Кб). Некоторые из вас
могут подумать, что в 1 килобайте 1000 байт, так же как в 1 килограмме – 1000
грамм. Однако это не верно. Для более удобного измерения информации на
компьютере 1 килобайт содержит не 1000, а 1024 байта. Почему именно 1024?
Потому, что 1024 = 2¹⁰. Есть и ещё более крупные величины. Так один
мегабайт (Мб) содержит 1024 Кб. Ещё десять лет назад информация, содержащаяся на
компьютере, измерялась в гигабайтах. Один гигабайт (Гб) содержит 1024 Мб. Сейчас
на одном домашнем компьютере могут храниться терабайты (Тб) информации, и в 1 Тб
– сколько, как вы думаете? – Правильно: 1024 Гб.

Задача:
на заводе работает автоматическая система учёта рабочего времени. По приходу на
работу, и при уходе с работы сотрудник вставляет свою карту-пропуск в
специальное устройство и оно заносит в память сообщение, которое состоит из 2
частей: уникального двоичного кода сотрудника и текущего времени. Найти
минимальный информационный объём, который устройство внесло
в память за день, если известно, что:

·     всего
на заводе работает 714 сотрудников;

·     на
работу вышло 698 сотрудников;

·     часть
сообщения, которая содержит текущее время, имеет информационный объём 3 байта;

·     все
уникальные двоичные коды сотрудников имеют одинаковую разрядность.

Итак, минимальный
информационный объём – V_общ.,
который устройство занесло в память в течение дня можно найти, умножив
информационный объём одного сообщения V_сообщ.
на количество сообщений N_сообщ.
Количество сообщений N_сообщ.
равно количеству сотрудников N_сотр.,
которые вышли на работу в течение дня, умноженному на 2, так как на каждого
сотрудника приходится 2 сообщения: одно – когда он приходит на работу, а второе
– когда уходит. N_сообщ.
= N_сотр.
× 2 = 1396 сообщений за день.

Информационный объём
одного сообщения состоит из информационного объёма уникального двоичного кода
сотрудника V_кода и
информационного объёма времени, который равен 3 байтам. Теперь нам нужно найти
информационный объём уникального двоичного кода сотрудника. Мы можем
представить всех сотрудников, которые работают на заводе, в качестве алфавита
мощностью 714 символов. Нам остаётся найти информационный вес одного символа.

Как мы помним это можно
сделать по формуле M=2ⁱ.
Мы не можем получить 714 путём перемножения двоек, зато мы можем так получить
число 1024. 1024 = 2¹⁰. Значит информационный объём V_кода
= 10 бит. Теперь найдём информационный объём V_сообщ.
он состоит из 10 бит уникального двоичного кода и 3 байт времени. Переведём 3
байта в биты, для этого умножим число 3 на 8. 3 × 8 = 24 бита и 10 бит
кода. Информационный объём одного сообщения V_сообщ. =
24 + 10 = 34 бита. Теперь остаётся лишь найти информационный объём V_общ.
Для этого информационный объём одного сообщения V_сообщ.
умножим на количество сообщений N_сообщ.
34 × 1396 = 47 464 бита. Для удобства переведём в более крупные величины.
47 464 / 8 = 5933 байта, 5933 / 1024 = 5,8 Кб. Ответ: За день в память
устройства поступило 5,8 Кб информации.

Важно запомнить:

·     Алфавитный
подход позволяет измерить объём информации не зависимо от её
содержания. При этом каждый символ несёт, некоторое количество информации, имеет
информационный вес (i).

·     Минимальная
единица измерения информации – 1 бит.

·     Мощность
алфавита равна двум в степени, равной информационному весу
символа (M = 2ⁱ).

·     Информационный
объём сообщения равен произведению информационного веса
одного символа и длины сообщения (V
= i × L).

·     1
байт
= 8 бит.

·     Байты,
килобайты (Кб), мегабайты (Мб), гигабайты (Гб), терабайты (Тб)
– единицы измерения информация. Каждая следующая больше предыдущей в 1024 раза.