Пакетная обработка Конвейерная обработка
ОП состоит из банков, в которых хранятся слова. Для доступа (скажем, чтения) к слову необходимо задать его адрес на шине адреса, подождать некоторое время (скажем, 100 нс) и считать данные на шине данных.
Если надо считать 4 слова, то можно задать адрес первого слова, подождать, считать слово. Затем задать адрес второго слова... Таким образом, полный цикл займёт более 400 нс.
Чтобы ускорить процесс доступа к памяти, придумали расслоение. Для этого данные читаются не из одного банка, а из нескольких. Либо одновременно, либо почти одновременно.
Первый метод расслоения - это пакетная обработка. В этом случае адрес (точнее, его части) выдаётся сразу на все банки памяти. И из каждого банка считывается одно слово. Получаем (в нашем примере) время доступа 100 нс. Только вместо одного слова мы получили на шине данных четыре. При этом никаких сложных архитектурных решений не применяли. Но и оставшиеся 3 слова могут быть в данный момент не нужны. Поэтому надо составлять программу так, чтобы все 4 одновременно считываемых слова были нужны одновременно.
Второй метод расслоения сложнее. Здесь в каждый банк памяти вводится что-то типа буфера адреса. А на выходе каждого банка что-то типа буфера данных. Адреса выдаются на каждый банк без значительной задержки, один за другим, без ожидания результата.
Это выглядит так: А1-А2-А3-А4-Ожидание100нс-ЧтениеДанных1-ЧтениеДанных2-ЧтениеДанных3-ЧтениеДанных4.
Таким образом, мы можем считать из ОП 4 произвольных слова. Но затратим всего около 108 нс, время, соизмеримое с чтением одного слова. Это очень эффективной метод, но он требует дополнительных схемотехнических решений - буферов адреса, данных, системы управления всем этим делом (что-то типа арбитра, который будет решать, к какому банку можно обращаться в данный момент на чтение, а к какому - на задание адреса). Также есть вероятность неупорядоченной выдачи данных на шину, этого тоже нельзя допускать.
Пример.
Первый случай. Мы хотим считать слова 1,2,3,4.
В пакетном методе задаём адрес одного слова и считываем цепочку из 4 слов: 1-2-3-4.
В конвейерном методе по-очереди задаём все 4 адреса и считываем те же 1-2-3-4.
Второй случай. Хотим считать 1,6,11,16 слова.
В первом методе мы получим:
(1)-2-3-4; 5-(6)-7-8; 9-10-(11)-12; 13-14-15-(16)
то есть никакого выигрыша, нужно всё так же 4 обращения.
В конвейерном методе мы зададим адреса 1,6,11,16 по очереди во все банки: в первый 1, во второй 6, в третий 11 и в четвёртый 16.
И получим эти все 4 слова очень быстро, практически за время доступа к одному слову.
Итак, пакетный метод проще в реализации, а конвейерный - эффективнее чем пакетный, но сложнее в реализации.
Кэш — это память с большей скоростью доступа, предназначенная для ускорения обращения к данным, содержащимся постоянно в памяти с меньшей скоростью доступа (далее «основная память»).
Кэш состоит из набора записей. Каждая запись ассоциирована с элементом данных или блоком данных (небольшой части данных), которая является копией элемента данных в основной памяти. Каждая запись имеет идентификатор, определяющий соответствие между элементами данных в кэше и их копиями в основной памяти.
Среднее время доступа в системе с кэш:
Т доступа сред кэш = Т обращения + (kпромахов * Т потерь), где:
- Тобращ - время обращения;
- kпромахов- коэффициент промахов, обычно меньше 10% (0<=k<=1);
- Тпотерь - потеря времени при обращении к оперативной памяти.
Параметры КЭШа:
Адресация ОП – 18 бит
Емкость кэш – 2 Кслов = 128 блоков
Размер блока – 16 слов
Емкость ОП – 256 Кслов = 16384 блоков
3 способа организации кэш:
1. Если каждый блок основной памяти имеет только одно фиксированное место, на котором может поместиться в кэш, то такой кэш называется кэшем с прямым отображением.
2. Если некоторый блок основной памяти располагается в любом месте кэша, то такой кэш называется полностью ассоциативным.
3. Если блок ОП может располагаться на ограниченном количестве мест в кэш, то такой кэш называется множественно-ассоциативным (частично-ассоциативный, n‑канальный).
- Архитектура кэш-памяти. Прямое распределение информации в кэш-памяти.