Программаны векторлық өңдеу мүмкіндіктері

Дәріс жоспары

· Бағдарлама векторы туралы түсінік

· CRAY C90 компьютерінің архитектурасында осал жерін талдау (бір процессор)

· Компьютер өніміне кері факторлардың суммалық әсері.

Программаны векторлау туралы түсінік

Деректер векторы, программадағы векторлар

Деректер векторы- бұл жадта бір-бірінен бірдей қашықтықта орналасқан реттелген деректер жиыны. Векторларға жолдар, бағандар, диагноналдар, бүтін массивтер мысал бола алады, сонымен қатар, екіөлшемді матрицаның қиғаш бөлігі вектор болып табылмайды.

Программаны векторлық өңдеу мүмкіндіктері

Программаның орындалу барысында векторлық командалар болса, онда программаның кейбір фрагменттері векторлық режимде өңделе алады. Программада мұндай векторларды табу және олардың векторлық командаға ауысуы программа векторы деп аталады. Векторлау үшін тәуелсіз операциялар мен вектор-аргументтер қажет. Векторлауға үміткерлер-бұл программаның ең ішкі циклдері.

Мысал. Массивтің барлық элементтерінің поддиагнольді бөлігін өңдеуді орындау қажет; бұл жағдайда біз жол бойынша, баған бойынша векторлай аламыз, бірақ массивтің подиагональді бөлігінің жадының тұрақсыз орналасуына байланысты біз барлық деректерді бірден векторлық режимде өңдей алмаймыз.

Барлық көрсетілген шарттар орындалу үшін векторланған фрагментке мысал:

Do i=1,n

A(i) = A(i) + s

EndDo

Векторланбаған фрагментке мысал:

Do i=1,n

A(i) = A(i-1)+s

End Do

Векторлау үшін кедергі(препятсвия)

Нақты цикл үшін векторлау кедергісі көп болуы мүмкін, олардың ішіндегі кейбіреулері:

· Деректер бойынша тәуелділік(алдыңғы фрагмент).

· Тұрақты орналасқан векторлардың жоқ болуы:

Do i=1,n

ij = FUNC(i)

A(i) = A(i)+B(ij)

End Do

· Деректерге салынған циклдің болуы – мұндай фрагментті жүзеге асыру үшін тиісті векторлық команда жоқ.

· Белгісіз программа мен функцияның шақырылуы:

Do i=1,n

CALL SUBR(A,B)

End Do

CRAY C90 компьютерінің архитектурасында осал жерін талдау (бір процессор). Компьютердің нақты өнімділігін төмендететін талдау факторын талқылайтын атақты Амдал заңынанбастайық. Бұл заң программамен жұмыс істеу барысында оның ең жай бөлігі анықтайды. Негізінде, кейбір программаның жартысы-аса тізбекті есептеу.

Бұл фактордың әсері екі жақтама бағалануы тиіс. Біріншіден, алгоритмнің өзі программаның көптеген Гоперацияларында тізбектес Г1 және Г2Влияние данного фактора надо оценивать с двух сторон. Во-первых, по природе самого алгоритма все множество операций программы Г разбивается на последовательные операции Г1 и операции Г2, исполняемые в векторном режиме. Если доля последовательных операций велика, то программист сразу должен быть готов к тому, что большого ускорения он никакими средствами не получит и, быть может, следует уже на этом этапе подумать об изменении алгоритма.

Во-вторых, не следует сбрасывать со счетов и качество компилятора, который может не распознать векторизуемость отдельных конструкций и, тем самым, часть "потенциально хороших" операций из Г2 перенести в Г1.

Прекрасной иллюстрацией к действию закона Амдала могут служить наши эксперименты, которые мы проводили с алгоритмом компактного размещения данных. Задача ставилась следующим образом: l разрядов из каждого элемента массива A(i) надо плотно упаковать по элементам массива B. Если очередная секция из l разрядов целиком не помещается в очередном элементе B(j), то оставшаяся часть должна быть перенесена в следующий элемент B(j+1) (примерная схема данного преобразования показана на рис.1). Общее число элементов массива A было порядка одного миллиона.

Рис.1 Примерная схема сжатия данных

Первоначально был реализован самый простой алгоритм, который перебирает по очереди все элементы массива A, для каждого выделяет битовую секцию из l разрядов, записывает в соответствующий элемент B(j) и, если необходимо, увеличивает j на единицу, записывая остаток из текущей секции в следующий элемент массива B. Алгоритм в таком виде не мог быть векторизован, выполнялся в скалярном режиме, а значит, не мог в принципе получить никакого выигрыша от параллельной структуры компьютера CRAY Y-MP C90.

Немного подумав, нетрудно понять, каким образом можно модифицировать данный алгоритм и сделать его основную часть векторизуемой. Ясно, что, начиная с некоторого номера i0, смещения пакуемых секций всех элементов массива A в массиве B будут повторяться, причем будут повторяться циклически с периодом не более чем 63 (число разрядов в слове данного компьютера равно 64, но знаковый разряд в каждом элементе B(j) надо было пропускать). Поэтому битовые секции всех элементов A(ibeg+i*63), i=0... для каждого фиксированного значения ibeg=1...63 будут расположены, начиная с одного и того же смещения в элементах массива B, причем эти элементы массива B будут расположены так же с некоторым фиксированным шагом! Становится понятной общая схема нового алгоритма: упаковку первых 63 элементов делаем, как и прежде в скалярном режиме, запоминая смещения в элементах массива B и определяя шаг по этому массиву, а затем в векторном режиме располагаем секции элементов A(ibeg+i*63), i=1...для каждого значения ibeg отдельно. После реализации второго алгоритма оказалось, что время его работы в 30 раз (!) меньше времени работы первого алгоритма. Основная причина очевидна - значительное увеличение доли операций Г2, выполняемых в векторном режиме.

Примерная схема первого варианта (каждая итерация ждет окончания предыдущей для определения смещения в слове массива B):

· выделение битовой секции из A(i)

· запись в B(j) с позиции p

· если вся секция в B(j) не поместилось, то переносим остаток в B(j+1), j=j+1,

· модификация p, i=i+1

· следующий шаг

Примерная схема векторного варианта:

· определение смещений (p[ibeg]) для первых 63 элементов массива A - для каждого ibeg=1,63:

· выделение битовой секции из A(i*63+ibeg)

· запись очередной секции в B(j) с позиции p[ibeg]

· i=i+1, j=j+bstep

Следующие два фактора, снижающие реальную производительность (они же определяют невозможность достижения пиковой производительности) - секционирование длинных векторных операций на порции по 128 элементов и время начального разгона конвейера, относятся к накладным расходам на организацию векторных операций на конвейерных функциональных устройствах. Временем начального разгона конвейера, в частности, определяется тот факт, что очень короткие циклы выгоднее выполнять не в векторном режиме, а в скалярном, когда этих накладных расходов нет.

В отличие от секционирования операций дополнительное время на разгон конвейера требуется лишь один раз при старте векторной операции. Это стимулирует к работе с длинными векторами данных, так как с ростом длины вектора доля накладных расходов в общем времени выполнения операции быстро падает. Рассмотрим следующий фрагмент программы:

Do i=1,n

a(i)=b(i)*s + c(i)

End Do

В табл.1 показана зависимость производительности компьютера CRAY Y-MP C90 на данном фрагменте от длины вектора, т.е. от значения n (указанные значения производительности здесь и далее могут на практике немного меняться в зависимости от текущей загрузки компьютера и некоторых других факторов - их нужно рассматривать скорее как некоторый ориентир).

Длина

длина вектора	производительность, Mflop/s	длина вектора	производительность, Mflop/s
	7.0		413.2
	14.0		548.0
	27.6		491.0
	100.5		659.2
	181.9		720.4
	301.0		768.0
	433.7		802.0
	364.3

Табл.1 Производительность CRAY Y-MP C90 на операции ai=bi*s+ci

Конфликты при обращении в память у компьютеров CRAY Y-MP полностью определяются аппаратными особенностями организации доступа к оперативной памяти. Память компьютеров CRAY Y-MP C90 в максимальной конфигурации разделена на 8 секций, каждая секция - на 8 подсекций, а каждая подсекция на 16 банков памяти. Ясно, что наибольшего времени на разрешение конфликтов потребуется при выборке данных с шагом 8*8=64, когда постоянно совпадают номера и секций и подсекций. С другой стороны, выборка с любым нечетным шагом проходит без конфликтов вообще, и в этом смысле она эквивалентна выборке с шагом единица. Возьмем следующий пример:

Do i=1,n*k,k

a(i)=b(i)*s + c(i)

End Do

В зависимости от значения k, т.е. шага выборки данных из памяти, происходит выполнение векторной операции ai=bi*s+ci длины n в режиме с зацеплением. Производительность компьютера (с двумя секциями памяти) на данной операции показана в таблице 2.

шаг по памяти	производительность на векторах из
100 элементов	1000 элементов	12800 элементов
	240.3	705.2	805.1
	220.4	444.6	498.5
	172.9	274.6	280.1
	108.1	142.8	147.7
	71.7	84.5	86.0
	41.0	44.3	38.0
	22.1	25.7	22.3
	21.2	20.6	20.3

Табл.2 Влияние конфликтов при обращении к памяти: производительность компьютера CRAY Y-MP C90 в зависимости от длины векторов и шага перемещения по памяти.

Как видим, производительность падает катастрофически. Однако еще одной неприятной стороной конфликтов является то, что "внешних" причин их появления может быть много (в то время как истинная причина, конечно же, одна - неудачное расположение данных). В самом деле, в предыдущем примере конфликты возникали при использовании цикла с неединичным четным шагом. Значит, казалось бы, не должно быть никаких причин для возникновения конфликтов при работе фрагмента следующего вида:

Do i=1,n

Do j=1,n

Do k=1,n

X(i,j,k) = X(i,j,k)+P(k,i)*Y(k,j)

End Do

End Do

End Do

Однако это не совсем так и все зависит от того, каким образом описан массив X. Предположим, что описание имеет вид:

DIMENSION X(40,40,100)

По определению Фортрана массивы хранятся в памяти "по столбцам", следовательно при изменении последнего индексного выражения на единицу реальное смещение по памяти будет равно произведению размеров массива по предыдущим размерностям. Для нашего примера, расстояние между соседними элементами X(i,j,k) и X(i,j,k+1) равно 40*40=1600=25*64, т.е. всегда кратно наихудшему шагу для выборки из памяти. В тоже время, если изменить лишь описание массива, добавив единицу к первым двум размерностям:

DIMENSION X(41,41,100),

то никаких конфликтов не будет вовсе. Последний пример возможного появления конфликтов - это использование косвенной адресации. В следующем фрагменте

Do j=1,n

Do i=1,n

XYZ(IX(i),j) = XYZ(IX(i),j)+P(i,j)*Y(i,j)

End Do

End Do

в зависимости от того, к каким элементам массива XYZ реально происходит обращение, конфликтов может не быть вовсе (например, IX(i) равно i) либо их число может быть максимальным (например, IX(i) равно одному и тому же значению для всех i).

Следующие два фактора, снижающие производительность, определяются тем, что перед началом выполнения любой операции данные должны быть занесены в регистры. Для этого в архитектуре компьютера CRAY Y-MP предусмотрены три независимых канала передачи данных, два из которых могут работать на чтение из памяти, а третий на запись. Такая структура хорошо подходит для операций, требующих не более двух входных векторов для выполнения в максимально производительном режиме с зацеплением, например, Ai = Bi*s+Ci.

Однако операции с тремя векторными аргументами, как например Ai = Bi*Ci+Di, не могут быть реализованы столь же оптимально. Часть времени будет неизбежно потрачено впустую на ожидание подкачки третьего аргумента для запуска операции с зацеплением, что является прямым следствием ограниченной пропускной способности каналов передачи данных (memory bottleneck). С одной стороны, максимальная производительность достигается на операции с зацеплением, требующей три аргумента, а с другой на чтение одновременно могут работать лишь два канала. В таблице 3 приведена производительность компьютера на указанной выше векторной операции, требующей три входных вектора B, C, D, в зависимости от их длины.

длина вектора	производительность, Mflop/s
	57.0
	278.3
	435.3
	445.0

Табл.3 Производительность CRAY Y-MP C90 на операции ai=bi*ci+di

Теперь предположим, что пропускная способность каналов не является узким местом. В этом случае на предварительное занесение данных в регистры все равно требуется некоторое дополнительное время. Поскольку нам необходимо использовать векторные регистры перед выполнением операций, то требуемые для этого операции чтения/записи будут неизбежно снижать общую производительность. Довольно часто влияние данного фактора можно заметно ослабить, если повторно используемые вектора один раз загрузить в регистры, выполнить построенные на их основе выражения, а уже затем перейти к оставшейся части программы. Рассмотрим следующий фрагмент:

Do j=1,120

Do i=1,n

DP(i) = DP(i) + s*P(i,j-1) + t*P(i,j)

End Do

End Do

На каждой итерации по j для выполнения векторной операции требуются три входных вектора DP(i), P(i,j-1), P(i,j) и один выходной - DP(i), следовательно за время работы всего фрагмента будет выполнено 120*3=360 операций чтения векторов и 120 операций записи. Если явно выписать каждые две последовательные итерации цикла по j и преобразовать фрагмент к виду:

Do j=1,120,2

Do i=1,n

DP(i) = DP(i)+s*P(i,j-1)+t*P(i,j)+s*P(i,j)+t*P(i,j+1)

End Do

End Do

то на каждой из 60-ти итераций внешнего цикла потребуется четыре входных вектора DP(i), P(i,j-1), P(i,j), P(i,j+1) и опять же один выходной. Суммарно, для нового варианта будет выполнено 60*4=240 операций чтения и 60 операций записи. Преобразование подобного рода носит название "раскрутки" и имеет максимальный эффект в том случае, когда на соседних итерациях цикла используются одни и те же данные.

Теоретически, одновременно с увеличением глубины раскрутки растет и производительность, приближаясь в пределе к некоторому значению. Однако на практике максимальный эффект достигается где-то на первых шагах, а затем производительность либо остается примерно одинаковой, либо падает. Основная причина данного несоответствия теории и практики заключается в том, что компьютеры CRAY Y-MP C90 имеют сильно ограниченный набор векторных регистров: 8 регистров по 128 слова в каждом. Как правило любая раскрутка требует подкачки дополнительных векторов, а следовательно, и дополнительных регистров. Таблица 4 содержит данные по производительности CRAY Y-MP C90 на обсуждаемом выше фрагменте в зависимости от длины векторов и глубины раскрутки.

глубина раскрутки	производительность на векторах из
64 элементов	128 элементов	12800 элементов
	464.4	612.9	749.0
	591.4	731.6	730.1
	639.3	780.7	752.5
	675.3	807.7	786.8

Табл.4 Зависимость производительности компьютера CRAY Y-MP C90 от глубины раскрутки и длины векторов.

Теперь вспомним, что значение пиковой производительности вычислялось при условии одновременной работы всех функциональных устройств. Значит если некоторый алгоритм выполняет одинаковое число операций сложения и умножения, но все сложения выполняются сначала и лишь затем операции умножения, то в каждый момент времени в компьютере будут задействованы только устройства одного типа. Присутствующая несбалансированность в использовании функциональных устройств является серьезным фактором, сильно снижающим реальную производительность компьютера - соответствующие данные можно найти в таблице 5.

В наборе функциональных устройств нет устройства деления. Для выполнения данной операции используется устройство обратной аппроксимации и устройство умножения. Отсюда сразу следует, что, во-первых, производительность фрагмента в терминах операций деления будет очень низкой и, во-вторых, использование деления вместе с операцией сложения немного выгоднее, чем с умножением. Конкретные значения производительности показаны в таблице 5.

длина вектора	производительность на операции
ai=bi+ci	ai=bi*ci	ai=bi/ci	ai=s/bi+t	ai=s/bi*t
	35.5	41.9	24.8	45.7	46.1
	202.9	198.0	88.4	197.4	166.5
	343.8	341.2	117.2	283.8	215.9
	373.1	376.8	120.0	297.0	222.5

Табл.5 Производительность CRAY Y-MP C90 на операциях одного типа и операциях с делением.

Если структура программы такова, что в ней либо происходит частое обращение к различным небольшим подпрограммам и функциям, либо структура управления очень запутана и построена на основе большого числа переходов, то потребуется частая перезагрузка буферов команд, а значит возникнут дополнительные накладные расходы. Наилучший результат достигается в том случае, если весь фрагмент кода уместился в одном буфере команд. Незначительные потери производительности будут у фрагментов, расположенных в нескольких буферах. Если же перезагрузка частая, т.е. фрагмент или программа обладают малой локальностью вычислений, то производительность может изменяться в очень широких пределах в зависимости от способа организации каждой конкретной программы.

Заканчиваем с негативными факторами и переходим к выводам.