За единицу количества информации принято элементарное количество информации о событии, которое заключается в выполнении одного из двух равновероятных исходов.

Такая единица названа бит. (bit — binary digit — двоичная цифра).

Компьютер оперирует числами не в десятичной, а в двоичной системе счисления, поэтому в кратных единицах измерения количества информации используется коэффициент 2 ⁿ.

Следующей по величине единицей измерения количества информации является байт, причем

1 байт = 2³ бит = 8 бит.

Для обозначения больших количеств информации применяются производные от байта единицы:

1 Кбайт = 2 ¹⁰ байт = 1024 байт

1 Мбайт = 2 ¹⁰ Кбайт = 1024 Кбайт

1 Гбайт = 2 ¹⁰ Мбайт = 1024 Мбайт

В общей теории информации (раздел теории алгоритмов) предлагается алгоритмический метод оценки информации в сообщении.

Каждый согласится, что слово 0101...01 сложнее слова 00...0, а слово, где 0 и 1 выбираются из эксперимента - бросания монеты (где 0 – «орел», 1 – «решка»), сложнее обоих предыдущих.

Компьютерная программа, производящая слово из одних нулей, крайне проста: печатать один и тот же символ. Для получения 0101...01 нужна чуть более сложная программа. Случайная, не обладающая никакими закономерностями последовательность не может быть произведена никакой "короткой" программой. Длина программы, производящей хаотичную последовательность, должна быть близка к длине последней.

Таким образом любому сообщению можно приписать количественную характеристику, отражающую сложность (размер) программы, которая позволяет ее произвести.

Для определенности задаются некоторой конкретной вычислительной машиной, например машиной Тьюринга, а предполагаемая количественная характеристика - сложность слова (сообщения) определяется как минимальное число внутренних состояний машины, требующихся для его воспроизведения

Системы счисления

Как только люди стали общаться между собой, они стали считать. Самыми первыми инструментами счета были пальцы, палочки и камешки. Слово «камешки» по латински читается calculi, а их перебрасывание при счете - calculare, означает считать. Когда расчеты (например с покупателями) стали фиксировать на табличках или папирусе появились системы счисления

Системой счисленияназывают правила для записи чисел цифровыми знаками.

Системы счисления различаются выбором базисных чисел (цифр) и правилами образования из них всех остальных чисел

Все системы счисления делятся на две большие группы: позиционные и непозиционные. В позиционных системах счисления значение цифры зависит от ее положения в чис­ле, а в непозиционных — не зависит.

Самой рас­пространенной из непозиционных систем счисления являет­ся римская. В качестве цифр в римской системе использу­ются: I (1), V (5), X (10), L (50), С (100), D (500), М (1000).

Значение цифры не зависит от ее положения в числе. Каждый числовой знак (цифра) имеет одно и тоже значение. На­пример, в числе XXX (30) цифра X встречается трижды и, в каждом случае, обозначает одну и ту же величину — число 10, три раза по 10 в сумме дают 30.

Величина числа в римской системе счисления определя­ется как сумма или разность цифр в числе. Древним римлянам, чтобы указать большое число, приходилось либо рисовать громоздкие строки повторяющихся символов, либо увеличивать алфавит этих символов. Но все эти «маленькие хитрости» оказались бессильны перед проблемой записи «гигантских» чисел.

Выход был найден, когда стали применять позиционные системы счисления.

В позиционной системе счисления число представляется в виде «определенной последовательности» нескольких цифр.

Количествен­ное значение каждой цифры изменяется в зависимости от ее положения (позиции) в числе. Позиция цифры в числе называется разрядом. Разряд числа возрастает справа налево, от младших разрядов к старшим. Поэтому одна и та же цифра может иметь различное числовое значение.

Например, число 555 записано в привычной для нас свернутой фор­ме. Мы настолько привыкли к такой форме записи, что уже не замечаем, как в уме умножаем цифры числа на различ­ные степени числа 10.

В развернутой форме записи числа такое умножение про­изводится в явной форме.

555₁₀ = 5 ^.10² + 5 ^. 10¹ + 5 ^. 10°.

Как видно из примера, число в позиционных системах счисления записывается в виде суммы числового ряда степе­ней основания (в данном случае 10), в качестве коэффициен­тов которых выступают цифры данного числа.

Для записи десятичных дробей используются разряды с отрицательными значениями степеней основания. Напри­мер, число 555,55 в развернутой форме будет записываться следующим образом:

555,55₁₀ = 5 ^.10²+ 5 ^. 10¹ + 5 ^. 10°+ 5 ^. 10^-1 + 5 ^. 10^-2,

Позиционные системы счисления характеризуется своимоснованиемпод которым подразумевается число знаков (символов),используемыхдлиизображения цифр. При этом в качестве основания системыможно взятьлюбое число.

В вычислительной технике наиболее распространенными в настоящее время являются десятичная, двоич­ная, восьмеричная и шестнадцатеричная системы счисления.

Таблица Позиционные системы счисления

Система счисления	Основание	Алфавит цифр
Десятичная		0. 1,2,3,4.5,6,7,8,9
Двоичная		0, 1
Восьмеричная		0. 1,2,3,4,5,6,7
Шестнадцатеричная		0, 1,2,3,4,5,6,7,8,9,A(10) B(11),С(12),D(13),Е(14), F(15)