Рэй Дункан - Оптимизация программ на ассемблере

Несмотря на все более широкое распространение языков программирования высокого уровня и интегрированных средств программирования, оптимизация программ на ассемблере остается актуальной темой дискуссий программистов. Можно упомянуть, например, форум программистов, проведенный сетью PC MagNET, который стал ареной многочисленных "дуэлей": то один, то другой участник предлагал всем желающим решить небольшую, но интересную задачу программирования - и рассматривал присылаемые решения, ожидая, кто-же и как решит задачу наименьшей кровью, т.е. затратив минимум байтов на программу. Подобно этому, проведенная сетью BIX конференция по языку ассемблера для процессоров 80x86 и 80x88 стала трибуной немалого числа основательных рассуждений по поводу неочевидных аспектов оптимизации ассемблерных программ. Несмотря на самый общий и широкий интерес к проблеме, литература по оптимизации ассемблерных программ для процессоров 80x86 и 80x88 на удивление скудна. В 1989 году, готовясь к докладу на эту тему для конференции по развитию программного обеспечения, я просмотрел оглавления всех основных журналов по программированию и обнаружил лишь горстку статей на эту тему. С другой стороны, литература по оптимизации программ для компиляторов высокого уровня весьма обширна, и многие концепции, развитые в ней, будут полезны и при программировании на языке ассемблера. Так что говорить, что литературы совсем нет, было бы несправедливо. Ниже мы сначала рассмотрим общие методики оптимизации, а затем обсудим более серьезный вопрос - когда и что стоит оптимизировать.

В этом документе будут обсуждаться некоторые общие вопросы и концепции оптимизации. Будет разговор и о компромиссах, на которые приходится идти, оптимизируя быстродействие и размер программы. Будут рассмотрены конкретные методы, относящиеся к переходам и вызовам подпрограмм, а также метод отказа от универсальности. Ниже мы подробнее рассмотрим некоторые классические образцы "локальной" оптимизации. В том числе: оптимизацию циклов, применение таблиц управляющих параметров, а также об ориентированных на конкретные модели процессоров командах. Но важно помнить, что эти частные методики следует использовать только при определенных обстоятельствах, а именно: после того, как вы убедитесь, что применили правильные алгоритмы и структуры данных, что полностью отладили программу и что средства профилирования показали вам те самые фрагменты программы, которые ограничивают производительность. Стоит еще раз повторить мудрое изречение доктора Кнута: "Многие беды программирования проистекают от преждевременной оптимизации".

1. Оптимизация по быстродействию

Если вы пришли к выводу, что ваша программа работает недостаточно быстро, первое, что надо сделать, это убедится, что вы решаете задачу, пользуясь наилучшими алгоритмами и представлениями данных. Замена примитивного или неадекватного алгоритма более подходящим может ускорить выполнение вашей программы на порядок и более. Так что если вы проведете несколько дней, штудируя знаменитые книги Кнута или Седжуика (в надежде подобрать алгоритм, до которого вряд ли додумались бы сами), - будьте уверены: вы сделали выгодное вложение своего драгоценного времени. Аналогично переход от "очевидной", но простой структуры данных (такой, как связный список) к более сложной (например, бинарному дереву) может дать такие результаты, которые с лихвой окупят ваши усилия по усовершенствованию программы.

Если вы уверены, что выбрали наилучшие алгоритмы и структуры данных, следующее, на что следует обратить внимание, - это использование программой данных, хранимых в памяти. Даже самые быстрые устройства работы с дисками, используемые в персональных компьютерах, работают несравнимо медленнее, чем такие мощные вычислители, как процессоры 80386 или 80486, так что постарайтесь свести обращения к диску до возможного минимума. Ознакомьтесь со всеми имеющимися типами данных, доступными программе DOS, - расширяемой и отображаемой памятью, старшими блоками памяти и так далее - и полностью используйте возможности оперативной памяти для хранения в ней данных, с которыми работает ваша программа, чтобы время обращения к ним было минимальным. Полезно также познакомиться с техникой уплотнения данных, поскольку почти во всех случаях быстрее оказывается сначала уплотнить, а затем распаковать данные, когда в них возникает необходимость, чем по нескольку раз считывать неуплотненную информацию с диска.

Еще одной темой, заслуживающей обсуждения, является уменьшение объема вычислений в программе. Составители компиляторов пользуются забавными терминами - устранение общих подвыражений, сворачивание констант, распространение констант - для того что бы, по сути, сказать одно и то же: во время работы программы одно и то же значение ни в коем случае не должно вычисляться дважды. Вместо этого программа должна рассчитывать каждое значение лишь один раз и сохранять его для повторного использования. Еще лучше переносить вычисления со стадии исполнения на стадию ассемблирования, всякий раз, когда это позволяют ограниченные математические "способности" MASM, TASM или OPTASM. Совершенно аналогично вам, возможно, удастся существенно повысить быстродействие программы, преобразовав вычисления в обращения к таблицам, которые заранее генерируются и сохраняются отдельной программой.

Если вы сделали все возможное на абстрактом уровне по всем названным направлениям, пора спускаться на грешную землю. Осталось немногое - "отжать из программных кодов всю воду" и "прочистить все циклы", особенно если программа существенно использует работу с дисплеем и выводит на экран графику. Вот некоторые из самых общих процедур этой категории.

В процессорах 80x86, но не 80x88, вам, возможно, также удастся увеличить скорость исполнения программы на несколько процентов за счет выравнивания расположения данных и меток, на которые происходит передача управления, относительно некоторых границ. Процессоры 8088 и 80188 - с 8-разрядной шиной и им без разницы на какую границу выровнены данные, поэтому выравнивание можно отключить или установить на границу байта (1 байт, 8 бит); процессоры 8086, 80186 и 80286 - с 16-разрядной шиной и им "удобнее" работать с данными, выровненными на границу слова (2 байта, 16 бит); процессор 80386 - с 32-разрядной шиной, поэтому он предпочитает выравнивание на границу двойного слова (4 байта, 32 бита); из-за устройства его внутренней кэш-памяти процессору 80486, то же с 32-разрядной шиной, легче работать, если произведено выравнивание на границу параграфа (16 байт, 96 бит).

Если же все остальное успеха не принесло, а вы пишите некую штучную, специальную программу, а не программный пакет, предназначенный для продажи на массовом рынке, проблему быстродействия, может быть, проще "решить" аппаратным путем. При существующих сегодня ценах часто оказывается намного выгоднее заказать новый, более мощный компьютер для работы с вашей специализированной программой, чем тратить время на мучения, связанные с переделкой программы, ее оптимизацией и последующей отладкой заново. К сожалению, безоглядное и некритическое принятие этого подхода такими производителями программных изделий, как Microsoft, Borland и Lotus, привело к рождению громоздких монстров, подобных таким как Windows 3.0 и 3.1, Programmer's Workbench, Microsoft C 6.0, и Microsoft C++ 7.0, Borland C++ 3.0 и Borland C++ 3.1, Borland Pascal 7.0, а также и Lotus 1-2-3 3/G, - но это уже тема другого разговора.

2. Оптимизация по размеру

Если работоспособность вашей программы ограничена ее размером, а не скоростью исполнения, то вам надо вновь подумать над стратегией оптимизации - на этот раз над ухищрениями, в точности противоположными тем, что вы использовали для увеличения быстродействия. Тщательно изучите свою программу и определите, что создает основную проблему - размер кода или объем данных.

Если вам приходится работать с большими блоками данных, то нужный эффект может дать их организация в нетривиальные структуры. Однако замена быстро обрабатываемых, но неплотных массивов и таблиц более компактными структурами типа связных списков или упаковка данных с использованием битовых полей, вероятно, даст не слишком большие преимущества. Примитивное уплотнение таблиц и иных структур данных и их последующее, по необходимости, разуплотнение обычно не очень полезно, так как часто требуется разуплотнять все данные лишь для того, чтобы добраться до какого-то одного пункта, а программы уплотнения/разуплотнения сами по себе обычно занимают заметный объем памяти.

Большие просмотровые таблицы и массивы можно поместить в дисковый файл и при необходимости считывать его в память малыми частями. Но это может нанести сокрушительный удар по производительности, если данные запрашиваются в случайном порядке. Часто можно вообще отказаться от использования просмотровых таблиц и производить вычисление значений переменных заново всякий раз, когда в последних возникает необходимость. Вы также должны искать и устранять константы и переменные, которые реально никогда не используются программой, поскольку вместо них она использует другие величины, вычисленные ранее во время разработки и отладки. Во всяком случае, я еще раз хочу подчеркнуть, что чрезвычайно важно усвоить, как пользоваться всеми видами памяти, доступными компьютеру, и сделать программу достаточно гибкой, чтобы она могла использовать все и каждую из них.

Оптимизация программы с целью уменьшения размера - это совсем не то же самое, что оптимизация для повышения быстродействия. Во-первых, вы должны просмотреть весь текст программы и устранить все предложения и процедуры, которые никогда не выполняются или недоступны ни из какой точки программы (мертвые коды). Если вы работаете с большой прикладной программой, над которой до вас уже потрудились несколько программистов, вас, возможно, даже удивит, как много строк можно безболезненно удалить. Во-вторых, проанализируйте программу заново и соберите все идентичные или функционально сходные последовательности кода в подпрограммы, которые могут быть вызваны из любой точки программы. Чем более универсальными вам удастся сделать подпрограммы, тем более вероятно, что их код может быть использован повторно. Если вы будете последовательно придерживаться этого подхода, где только возможно, то получите очень компактную программу модульного типа, состоящую главным образом из вызовов подпрограмм.

Если вы сделали все, что я рекомендовал выше, а вам по-прежнему не хватает памяти, то попробуйте поискать удачи еще на нескольких путях. Вы можете перекомпилировать свою программу в относительно независимые модули, которые могут поодиночке считываться в память как оверлеи. Вы можете закодировать функционирование вашей программы в таблицах, "управляющих" ее исполнением. Вы можете прибегнуть к методике "прошитого" кода или псевдокода и представить логику вашей программы с использованием гораздо меньшего объема памяти за счет некоторого снижения быстродействия. Можно, наконец, прибегнуть к тяжелой артиллерии современной компьютерной технологии и использовать стандартный интерпретатор или компилятор "малого языка", который в свою очередь будет служить виртуальной машиной для прикладной программы. Quick BASIC, Excel и Brief - самые привычные примеры применения соответственно стратегии прошитого кода, псевдокода и малого языка.

В конечном счете, если вы пишете специализированную прикладную программу, преодолеть проблемы памяти возможно (снова) удастся объединенным программно-аппаратным путем. Среди многих возможностей есть такие: использование более высоких версий операционной системы, таких как DOS 5.0 или OS/2 2.0 для расширения объема рабочей памяти (в пределах первых 640 Кбайт); установка еще одной платы расширения памяти, переход к компьютерам на процессорах 80386 и 80486, которые поддерживают большую память по сравнению с использовавшейся вами машиной на процессоре 8086, 8088, 80186, 80188 или 80286; и/или запуск вашей программы под управлением расширителя DOS.

3. А стоит ли оптимизировать?

Оптимизация кодов на любом языке всегда требует идти на компромиссы, среди которых такие, как:

Все это кажется очевидным, но в большинстве реальных ситуаций принять оптимальное решение не так просто, как кажется на первый взгляд. Классическим примером является выбор между двумя приведенными ниже инструкциями, каждая из которых может быть использована для перемещения некоторого значения из регистра DX в регистр AX (конечно, с различным побочными эффектами):

В процессорах 80x86 и 80x88 команда MOV занимает 2 байта и требует 2 тактов центрального процессора, тогда как команда XCHG занимает 1 байт, но требует 3 тактов. Пока все кажется ясным: надо выбирать между скоростью и памятью. Но реальное время исполнения команды существенно зависит от контекста, размера очереди команд центрального процессора, размера и характеристик кэш-памяти системы и так далее, тогда как даже число циклов, требуемых для исполнения инструкций, меняется от одной модели центрального процессора к другой. Как оказывается, практически невозможно предсказать скорость исполнения нетривиальной последовательности инструкций в процессоре фирмы Intel, особенно в последних моделях 80386 и 80486, в которых более интенсивно используется конвейерная обработка, - вам придется составлять различные возможные комбинации инструкций, запускать их и экспериментально определять время их исполнения.

Аналогично баланс между временем исполнения программы и временем ее разработки и баланс между возможностями сопровождения программы и ее быстродействием редко бывают столь однозначны, как нам бы хотелось, а долговременные последствия ошибочных решений могут быть весьма неприятными. Вообще же, занимаясь оптимизацией, важнее всего понимать, когда ее делать, а когда лучше оставить все как было. Процитируем Дональда Кнута: "Многие беды программирования проистекают от преждевременной оптимизации". Прежде чем думать о настройке своей программы, убедитесь, что она правильная и полная, что вы используете верный алгоритм для решения поставленной задачи и что вы составили самый ясный, самый простой, самый структурированный код, который только был возможен.

Если программа удовлетворяет всем этим критериям, то, на самом деле, ее объем и скорость исполнения в большинстве случаев будут вполне приемлемыми без каких-либо дальнейших усовершенствований. Одно только использование ассемблера само по себе приводит к увеличению скорости исполнения программы в 2-3 раза и примерно к такому же уменьшению размера по сравнению с аналогичной программой на языке высокого уровня. И еще: если что-то упрощает чтение программы и ее сопровождение, то обычно это же одновременно приводит к увеличению скорости исполнения; здесь можно назвать отказ от макаронных кодов со многими ненужными переходами и вызовами подпрограмм (которые являются тяжелой работой для процессоров с архитектурой 80x86 или 80x88, поскольку они сбрасывают очередь команд), а также предпочтение простых прямолинейных машинных команд аналогичным сложным.

Тем не менее, вашей наиглавнейшей заботой должны быть ощущения потенциального пользователя при работе с вашей программой: насколько производительной покажется программа ему? Прислушаемся к словам Майкла Эбраша: "Всякая оптимизация, ощущаемая пользователем, заслуживает того, чтобы ее сделать". И наоборот, если в массах пользователей о вашей программе складывается мнение, как о тупой и неуклюжей, то очень вероятно, что она не будет должным образом оценена. Примером может служить судьба пакета ToolBook. Следовательно, должно казаться, что ваша программа мгновенно откликается на действия пользователя, даже тогда, когда она занята длительными вычислениями или операциями с диском. Она должна поддерживать экран дисплея в "живом" состоянии, заполняя его чем-нибудь вроде циферблатов, термометров, и позволять пользователю безопасно прерывать длительные операции в любое время, если его намерения изменились и он решил заняться чем-нибудь еще.

Если вы действительно вынуждены прибегнуть к шлифовке кода и циклов с помощью методов, о которых я говорил выше, то постарайтесь затратить свои время и силы на действия в правильном направлении. Помните о естественной иерархии временных масштабов: среди операций, перечисленных ниже, каждая следующая требует на порядок больше времени, чем предшествующая. Итак, это операция регистр/регистр, операции с памятью, операции с диском и операции взаимодействия с пользователем. Так что не тратьте силы на то, чтобы сократить несколько машинных циклов в программе, если скорость ее исполнения ограничена операциями обращения к дисковым файлам: вместо этого попытайтесь найти способы сократить число таких операций. А после того, как вы сделали что-то, что в принципе могло бы быть оптимизацией, проведите дотошную проверку полученных результатов и вообще - проверяйте, проверяйте, проверяйте.

В своей превосходной книге "Пишем эффективные программы" Джон Бентли рассказывает кошмарную историю из жизни фирмы Bell Labs - историю, которую мы все и всегда должны помнить:

"В начале 60-х годов Виктор Высоцкий работал над усовершенствованием компилятора Фортрана, причем в число исходных требований входило отсутствие сколько-нибудь заметного снижения времени компиляции. Одна из подпрограмм исполнялась редко (во время разработки Высоцкий оценил, что она должна вызываться в одном проценте компиляций, причем в каждой из них лишь однажды), но работала крайне медленно. Поэтому Высоцкий затратил неделю на удаление из нее лишних циклов. Модифицированный компилятор работал достаточно быстро. После двух лет интенсивной эксплуатации компилятор выдал сообщение о внутренней ошибке при компиляции одной программы. Когда Высоцкий исследовал компилятор, он обнаружил, что ошибка была в прологе "критической" подпрограммы и что эта ошибка содержалась в данной подпрограмме всегда, с самого начала производства".

Высоцкий совершил 3 принципиальных ошибки: он не провел полный анализ программы перед тем, как приступить к оптимизации, так что он напрасно тратил время на оптимизацию подпрограммы, не влияющей на быстродействие; он не смог сделать оптимизацию правильно; и он не провел испытаний оптимизированной подпрограммы, чтобы убедится, что она работает согласно спецификации.

Я совсем не хочу тыкать пальцем в мистера Высоцкого: в своей жизни я совершил множество промахов куда как серьезнее, но (поскольку я не работаю в Bell Labs) эти промахи, к счастью, не были увековечены в книге Джона Бентли. Однако этот случай из жизни Высоцкого - хороший пример того, как время и энергия могут быть растрачены в пустую на святое дело оптимизации и как рано или поздно проявляется отказ от методичного исполнения всех основных процедур профилирования и контроля в процессе оптимизации.

4. Отказ от универсальности

Операции умножения и деления требуют немалых усилий от почти любого центрального процессора, поскольку должны быть реализованы (аппаратно или программно) через сдвиги и сложения или сдвиги и вычитания соответственно. Старинные 4-разрядные и 8-разрядные процессоры не содержали машинных команд для умножения или деления, так что эти операции приходилось реализовывать при помощи длинных подпрограмм, где явным образом выполнялись сдвиги и сложения или вычитания. Первые 16-разрядные процессоры, такие, как 8086, 8088 и 68000, действительно позволяли производить операции умножения и деления аппаратными средствами, но соответствующие процедуры были невероятно медленными: в процессорах 8086 и 8088, к примеру, для деления 32-разрядного числа на 16-разрядное требовалось примерно 150 тактов.

Поэтому маленькие хитрости для ускорения или устранения операций умножения и деления были и пока остаются среди первых приемов, которые изучает любой программист, стремящийся к совершенству. Большинство из этих хитростей относится к категории, которую называют "отказ от универсальности". Под этим понимается замена рассчитанных на общий случай команд умножения и деления (или вызов соответствующих подпрограмм) последовательностями сдвигов и сложений или вычитаний для случая конкретных операндов.

Давайте сначала рассмотрим простейшую процедуру оптимизации умножения. Чтобы умножить число на степень двойки, его достаточно просто сдвинуть влево на необходимое число двоичных (битовых) позиций. Вот так, например, выглядит, некоторая общая, но медленная последовательность команд для умножения значения переменной MyVar на 8:

В процессорах 8086 и 8088 эта программа может быть преобразована в более "быструю" последовательность сдвигов:

Если требуется сдвиг на одну или две позиции, то обычно проще всего выполнить эти операции над операндами в памяти. Если нужен сдвиг на много позиций, то повышенная скорость операций над регистровыми операндами вполне компенсирует дополнительную команду для загрузки числа в какой-либо регистр и извлечения его оттуда после сдвига.

Но не торопитесь - даже эта простая оптимизация не так тривиальна, как кажется! Очередь команд в процессорах семейства 80x86 и 80x88, конкретная модель процессора, которая используется в вашем компьютере, и наличие или отсутствие кэш-памяти могут в совокупности сыграть самые причудливые шутки. В некоторых случаях и на некоторых моделях центрального процессора иногда стоит использовать эту команду в варианте "сдвиг на указанное в CL число позиций":

А в процессорах 80186, 80188, 80286, 80386 и 80486 имеется вариант "сдвиг на число позиций, заданное непосредственным операндом", что еще удобнее:

Если вам требуется умножать на степень двойки числа длиной больше 16 разрядов, для организации операций над двумя и более регистрами используется флажок переноса. Например, для умножения 32-разрядного числа в DX:AX на 4 можно записать:

Творчески сочетая сдвиги и сложения, можно организовать быстрое умножение на почти любое конкретное значение. Следующий фрагмент производит умножение значения в регистре AX на 10:

Использование отказа от универсальности для деления несколько более ограничено. Деление на степень двойки, конечно, очень просто. Вы просто сдвигаете число вправо, следя лишь за выбором подходящей команды сдвига для желаемого типа деления (со знаком или без знака). Нахождение же остатка от деления на степень двойки для чисел без знака еще проще. Для этого надо просто выполнить одну команду операции логического И над операндом и непосредственным значением, которое, в свою очередь, должно быть представлено в виде уменьшенного на единицу значения делителя. Для чисел со знаком тут дела обстоят не так просто, так как знак остатка от деления должен быть равен знаку делителя и не зависит от знака делимого. Реализация этих операций потребует обязательного присутствия условных переходов, а это уже плохо. Например, для выполнения деления без знака на 4 содержимого регистра AX можно написать:

а для процессоров 80186, 80188, 80286, 80386 и 80486 можно вместо этого использовать команду:

Нахождение остатка от деления числа без знака на 4 производится следующим образом:

Деление со знаком на 4 обеспечит, например, последовательность:

Единственная разница между командой логического (без знака) сдвига SHR и командой арифметического (со знаком) сдвига SAR состоит в том, что SHR копирует старший, знаковый разряд в следующий, а затем заменяет знаковый разряд нулем, тогда как SAR, после копирования знакового разряда в следующий, оставляет его значение неизменным.

Выбор правильной команды сдвига для быстрого деления очень важен, особенно, если вы имеете дело с адресами. Если вы случайно использовали арифметическое деление (со знаком) вместо деления без знака, которое предполагали сделать, последствия этого иногда проявляются сразу же - а иногда и нет; образовавшаяся "блоха" может до поры притаиться и укусить вас позже, когда какое-нибудь изменение размера или порядка компоновки прикладных программ выпустит ее на волю. (Между прочим не забывайте, что мнемоническое обозначение SHL и SAL транслируются в одну и ту же машинную команду и не без причины, не так ли?)

Деление на степени двойки со сдвигами может быть выполнено с помощью флага переноса, и оно ничуть не более сложно, чем умножение. Например, для выполнения деления со знаком на 8 значения в регистрах DX:AX можно использовать последовательность:

Но, в отличие от операции умножения, использование сдвигов для более быстрого деления или нахождения остатков от деления на произвольные величины, такие как 3 или 10, а не на степени двойки на удивление хлопотно. Если вы решите покорпеть над написанием программы быстрого деления на 10, в которой используется метод, аналогичный приведенному выше методу умножения на 10, то вскоре обнаружите, что полученная программа - длинная, работает медленно, и, более того, - вы уже сделали 90% работы, необходимой для составления обобщенной программы деления, использующей сдвиги и вычитания. Обычно целесообразнее вместо этого обдумать всю ситуацию заново и преобразовать алгоритм или структуру данных так, чтобы избежать деления на "неудобные" числа.

Прежде чем оставить эту тему и двигаться дальше, я должен упомянуть одну изящную оптимизацию, авторство которой приписывают Марку Збиковскому, одному из авторов версий 2.x и 3.x системы MS-DOS. Приведенный ниже фрагмент делит без знаковое значение в регистре AX на 512:

Теперь, когда вы увидели этот нетривиальный прием, у вас наверняка возникло множество идей о том, как организовать умножение или деление без знаковых чисел на относительно большие степени двойки: 256, 512 и так далее, при помощи последовательностей команд XCHG или MOV.

5. Оптимизация переходов и вызовов подпрограмм

Макаронные программы, изобилующие ветвлениями и переходами во всех направлениях, нежелательны во всех смыслах, а при работе с процессорами серий 80x86 и 80x88 - особенно. Можете считать это утверждение напутствием, цель которого - побудить программистов на ассемблере и тех, кто занимается оптимизацией компиляторов, должным образом структурировать программы. Тут есть свои проблемы, но прежде, чем обсуждать оптимизацию переходов и вызовов, давайте обсудим некоторые особенности процессоров фирмы Intel.

Быстродействие этих процессоров в значительной мере определяется их архитектурой, основанной на простой конвейерной схеме, содержащей три компоненты: шинный интерфейс (BIU - Bus Interface Unit), очередь упреждающей выборки и исполнительный модуль (EU - Execution Unit). Когда шина памяти находится в нерабочем состоянии (например, при выполнении команды из многих циклов, операнды которой находятся в регистрах), шинный интерфейс извлекает байты команд из памяти и помещает их в очередь упреждающей выборки, последовательно продвигаясь дальше от текущего положения командного счетчика центрального процессора. Когда исполнительный модуль завершает выполнение очередной команды, он в первую очередь ищет следующую команду в очереди упреждающей выборки: если она там действительно имеется, то к ее расшифровке можно приступать сразу же, не обращаясь лишний раз к памяти.

Как же при такой реализации конвейерной обработки происходят переходы и вызовы подпрограмм? Всякий раз, когда исполнительный модуль расшифровывает команду перехода или вызова, он аннулирует текущее содержимое очереди упреждающей выборки и устанавливает новое содержимое счетчика команд. После этого шинный интерфейс должен снова выбирать байты команд, теперь уже начиная с нового адреса, и заносить их в очередь. Исполнительный модуль в это время вынужден "простаивать" до тех пор, пока не будет восстановлена полная команда. Кроме того, все обращения к памяти, которые требуются для исполнения команды перехода по новому адресу, также оказывают влияние на выборку следующих команд из памяти. Может пройти немалое время, прежде чем шина снова заполнит очередь упреждающей выборки так, чтобы исполнительный модуль мог работать с максимальной скоростью. Ситуацию усложняет то, что размер очереди командных байтов разный для разных моделей центральных процессоров. Он составляет всего 4 байта в ранних моделях и 32 байта в компьютерах последних моделей. Это один из факторов, делающий крайне сложным предсказание времен исполнения для конкретных последовательностей команд исходя из количества тактов и длин в байтах. Кроме того, состояние очереди команд для различных типов центральных процессоров зависит и от "выравнивания" команд. Шинный интерфейс должен выбирать команды в соответствии с разрядностью адресной и информационной частей шины. Поэтому производительность очереди команд может существенно ухудшиться из-за неудачных адресов вызовов или переходов. Например, в процессоре 8086 с 16-разрядной шиной памяти выборка из памяти всегда происходит по 16 битов за один раз, так что если команда, на которую передается управление при переходе или вызове подпрограммы начинается с нечетного адреса, половина первого обращения к памяти пропадает впустую.

Все это подталкивает нас к осознанию первого правила оптимизации переходов и вызовов: проверьте, что их точки назначения попадают в подходящие границы адресов для того типа процессора, на котором ваша программа будет исполняться чаще всего. Сделайте это, добавив подходящий атрибут выравнивания (WORD или DWORD) в объявления сегментов и вставив директиву ALIGN перед каждой меткой.

Процессоры 8088 и 80188 имеют 8-разрядную внешнюю шину, так что они абсолютно нечувствительны к выравниванию. Если потенциальными потребителями вашей программы являются пользователи компьютеров на процессорах 8088 или 80188, к выравниванию прибегать не стоит, поскольку оно лишь потребует дополнительной памяти, но не увеличит производительность.

В то же время, если программе предстоит работать главным образом на компьютерах с процессорами 8086, 80186 или 80286, следует произвести выравнивание в границах WORD, а если она рассчитана на процессоры 80386 или 80486 - используйте выравнивание в границах DWORD. (Для процессора 80486, в котором есть внутренняя кэш-память, лучше, когда позиции лежат на 16-байтовых границах, но тратить в среднем по 8 лишних байт на каждую метку мне кажется непозволительной роскошью.)

Следующее эмпирическое правило, относящееся к переходам и вызовам, очень простое: избавляться от них везде, где только можно. По крайней мере в частях программы, где быстродействие определяется лишь в основном процессором. Для этого организуйте программу так, чтобы она исполнялась прямым, последовательным образом, с минимальным числом точек принятия решения. В результате очередь команд будет почти всегда заполнена, а вашу программу будет легче читать, сопровождать и отлаживать. После того, как вы улучшили программу насколько возможно за счет структурирования, следует решить, надо ли двигаться дальше, и постараться увеличить производительность введением в программу "плохой структуры", например преобразовав переходы к общим точкам выхода из подпрограмм в множественные выходы. В крайних случаях короткие подпрограммы можно преобразовать в макрокоманды, тогда команды процессора будут исполняться последовательно и дополнительных затрат времени на передачу и возврат управления не будет.

Если в программе требуется условный переход, проанализируйте точку принятия решения и организуйте программу так, чтобы вероятность перехода была ниже, чем его отсутствия. Таким образом вы уменьшите количество сбросов очереди команд. Например, если программа производит проверку знака переменной, которая может быть отрицательной только в редких случаях, при особых обстоятельствах, то сделайте так, чтобы ваша программа "проскакивала" через точку разветвления при положительном значении переменной:

Аналогично, если разные значения некой переменной инициируют разные действия и вам требуется произвести множественные, за которыми следуют условные переходы, то попытайтесь переместить сравнения с наиболее вероятным значением ближе к началу цепочки:

Если требуется произвести сравнения с многими значениями, разбросанными по диапазону с большими разрывами, реализовать множественные сравнения можно по принципу бинарного дерева, сначала сделав рассечение всего диапазона значений каким-то одним значением из середины всего диапазона, а затем проверяя, в каком отношении к этому значению находится контролируемая переменная (больше, меньше, равно), затем (если переменная больше или меньше параметра сравнения) деля оставшийся интервал другим значением, и так далее. Такая стратегия чрезвычайно эффективна, если значения распределены более или менее однородно и редко. Если же они распределены плотно, то часто наилучшим решением является использование "таблицы переходов". Например, представьте себе, что в регистре AL находится ASCII-символ и есть набор подпрограмм, запускаемых при некоторых определенных символах. Сначала мы составим таблицу адресов подпрограмм в позициях, соответствующих численным значениям ASCII-кодов символов, а затем реализуем разветвления через таблицу следующим образом:

Есть еще две методики оптимизации, связанные с переходами и вызовами, которые требуют внесения определенной степени "деструктурированности" во всем остальном верную программу и называются "сращиванием хвостов" и "устранением рекурсивных хвостов". Каждая из них подразумевает преобразование вызовов в переходы: вызовы по самой своей природе требуют большего времени, чем переходы, поскольку помещают в стек адрес возврата и в результате требуют больше обращений к памяти. Сращивание хвостов - это просто преобразование команды CALL, непосредственно за которой следует команда RET, в команду JMP. Например, последовательность:

Такая оптимизация приводит к следующему: поскольку адрес команды, вызывающей PROC1, находится в стеке на входе в PROC2, процедура PROC2 возвращается прямо к исходной вызывающей программе, тем самым устраняются лишние команды CALL и RET. Если программа PROC2 физически (в памяти) следует за программой PROC1, то можно обойтись даже без команды JMP PROC2, и за выполнением PROC1 может сразу же следовать PROC2.

Устранение рекурсивных хвостов очень похоже на сращивание хвостов. Когда программа последовательно вызывает сама себя и этот вызов расположен непосредственно перед последней командой RET в программе, вызов может быть преобразован в переход, что и увеличит скорость, и уменьшит необходимый объем памяти в стеке. Например, программа:

Такая рекурсивная программа часто может быть еще оптимизирована за счет преобразования рекурсии в цикл.

6. Оптимизация циклов

Литература о компиляторах переполнена обсуждением методов оптимизации циклов, которым присваивают самые экзотические названия: "разгрузка циклов", "вывод инвариантов за циклы", "устранение индуктивных переменных", "сращивание циклов", "разматывание циклов" и тому подобное. На самом деле все перечисленные методы можно свести к двум простым эмпирическим правилам:

Первое из правил следует из старинной истины, гласящей, что 90% времени исполнения программы приходится на 10% ее кода. Если вы попытаетесь найти роковые 10%, скорее всего окажется, что это циклы того или иного рода. Поэтому первое, что следует сделать, когда вы пытаетесь ускорить выполнение программы, - это найти в ней "горячие точки" и проверить все циклы в них в качестве потенциальных объектов оптимизации. Цикл отнюдь не всегда представляет собой изящную конструкцию, завершающуюся командами LOOP, LOOPZ или LOOPNZ (в особенности, разумеется, если программу писали не вы, а кто-то другой); часто это просто серия команд, исполнение которых повторяется в зависимости от значения некоторой управляющей переменной или флажка.

Циклы можно подразделить на две категории: к первой относятся циклы, время исполнения которых определяется какими-то внешними механизмами синхронизации, ко второй - те, в которых работает только процессор. В качестве примера цикла первой разновидности можно привести, скажем, такой, в котором набор символов передается на параллельный порт. Скорость исполнения программы ни при каких обстоятельствах не будет превышать темпа приема байтов параллельным портом, а быстродействие этого порта по крайней мере на два порядка ниже, чем время исполнения любой приемлемой кодовой последовательности управления портом. Вы, конечно, можете ради собственного удовольствия заняться оптимизацией подобных циклов с внешней синхронизацией, но для дела лучше поискать точку приложения сил в другом месте. Такой точкой вполне могут стать циклы второй категории - свободные от взаимодействия с "внешним миром".

Для полной оптимизации циклов необходим методический подход к проблеме. Прежде всего тщательно проверьте каждый из циклов с целью отыскания операций, которые никак не связаны с переменной цикла, и разгрузите цикл от этих вычислений (в большинстве случаев соответствующие команды удается разместить перед циклом). Проанализируйте оставшиеся коды и по возможности упростите их, применяя просмотр управляющих таблиц, ориентированные на конкретную модель процессора команды, отказ от универсальности и любые другие известные вам приемы, которые позволяют сократить кодовые последовательности и избавиться от "дорогостоящих" команд. Если в каких-то вычислениях используется текущее значение переменной цикла, попытайтесь вывернуть ситуацию на изнанку, рассчитывая нужные величины из начального и конечного значений переменной цикла, т.е. без перебора.

В качестве примера рассмотрим не слишком удачную программу, которая суммирует все кратные 5 элементы массива со словной точностью и оставляет результат в регистре AX:

После того, как вы оптимизировали содержимое цикла насколько это было возможно, стоит посмотреть, не удастся ли где-то избавиться от управляющих циклом операций перехода или вызова подпрограмм. Идея здесь та же, что и при оптимизации переходов и вызовов, которые мы обсуждали в предыдущей главе. Суть дела в том, что в микропроцессорах серий 80x86 и 80x88 фирмы Intel интенсивно используется простая конвейерная система, состоящая из шинного интерфейса, очереди упреждающей выборки, в которую поступают ждущие исполнения и извлекаемые из памяти команды, и исполнительного устройства, получающего информацию из очереди для декодирования и исполнения. При обнаружении перехода или вызова подпрограммы очередь очищается и все циклы памяти, которые потребовались для заполнения позиций в ней после команды передачи управления, пропадают зря. При этом исполнительное устройство должно ожидать, пока шинный интерфейс извлечет и передаст в очередь новые команды из новых адресов. Так что переходы и вызовы подпрограмм обходятся гораздо "дороже", чем может показаться, если просто подсчитать нужное для них число тактов, руководствуясь документацией фирмы Intel.

Один из способов избавиться от сравнений и условных переходов называется объединением, или сращиванием циклов. При этом коды реорганизуются так, чтобы сделать один цикл из нескольких повторяющихся одинаковое число раз. Например, из двух циклов вида:

Другой способ избавиться от циклов - "размотать" их, т.е. устранить управляющие циклом кодовые последовательности, просто повторив содержимое цикла нужное число раз. Это дает особенно хорошие результаты в тех случаях, когда время, необходимое для исполнения содержимого цикла, оказывается меньше, чем время выполнения операций, управляющих циклом. Например цикл:

"Разматывание" циклов - классический пример повышения быстродействия за счет объема необходимой памяти. Каждый раз, когда вы решаете, стоит ли прибегнуть к данному приему, следует посмотреть, насколько это оправдано с точки зрения длины цикла и числа его повторений с учетом доступных для вашей программы вычислительных ресурсов. Иногда "разматывание" удается применить в самых неожиданных точках программы. К примеру, те из нас, кому доводилось составлять программы на языке ассемблера для процессоров 80x86 или 80x88, научились распознавать ситуации, в которых можно использовать специальные команды обработки символьных последовательностей. Достаточно часто мы включали в свои программы примерно такие коды:

В приведенной последовательности имеется цикл, хотя и неявный. При обработке префикса REP требуется определенное время на установку начальных параметров, а результат исполнения REP в точности таков же, как если бы мы написали:

При работе на некоторых процессорах фирмы Intel и при небольшом числе итераций часто оказывается лучше не пользоваться префиксом REP, а написать команды обработки строк подряд:

Но это один из случаев, когда требуется выяснить, насколько хорош будет тот или иной вариант в условиях вашей конкретной программы. Время исполнения любого из вышеприведенных фрагментов невозможно точно определить, подсчитывая такты и байты команд, так как это время зависит еще и от программного контекста, а также аппаратных характеристик системы: разрядности шины памяти, глубины упреждающей очереди команд, наличия (или отсутствия) и объема кэш-памяти процессора и так далее.

7. Управляющие таблицы

Мы уже отмечали, что почти всегда бывает целесообразно перенести вычисления из цикла за его пределы (или из "глубоко" вложенного цикла во внешний цикл), а также отсрочить вычисления до тех пор, пока их результаты реально не потребуются. Еще более эффективный вариант оптимизации состоит в том, чтобы приурочить вычисления не ко времени исполнения программы, а к моменту ее компиляции или ассемблирования, либо выполнять вычисления с помощью специализированной программы, сохранять результаты в промежуточном файле и извлекать их оттуда по мере необходимости. Особенно удобная категория оптимизации этого типа называется просмотром управляющих таблиц.

Рассмотрим прикладную систему, в которой будет особенно целесообразно использовать управляющие таблицы. Представьте себе программу, в которой требуется поворачивать и перемещать отрезки линий, чтобы создавать у пользователя иллюзию объемного изображения. Такая программа, естественно, должна определять синусы и косинусы углов. Для вычисления этих функций обычно применяют числа с плавающей точкой и разложение в ряды, расчет которых влечет за собой многократные умножения и деления, а эти операции с точки зрения времени счета "стоят" недешево. Кроме того, получаемые таким способом величины имеют значительно более высокую точность, чем это реально требуется для обычных графических адаптеров персональных компьютеров: даже числа с плавающей точкой одинарной точности (32 разряда) вычисляются до 8 десятичных знаков, из которых нужны только 4 или 5 (разрешение графики в лучшем случае 1024x768 элементов изображения).

Именно здесь и можно воспользоваться преимуществами таблицы, в которую можно занести синусы углов с шагом в 1 градус и с точностью до 4 десятичных знаков.

Прежде всего образуем структуру данных, в которой номер каждого элемента будет соответствовать углу в градусах, а значение - синусу этого угла, умноженному на 10.000:

Подготовив такую таблицу, мы без особых затруднений можем составить небольшую подпрограмму, которая будет принимать значение угла в диапазоне от 0 до 359 градусов в регистре AX, а в ответ выдавать в вызывающую программу значение синуса этого угла в том же регистре:

Для дополнительного ускорения работы своей программы мы можем преобразовать подпрограмму в макроопределение, чтобы коды вставлялись в программу везде, где это потребуется. На рис. 1 показаны более общая форма данной процедуры и соответствующая процедура расчета косинуса.

;
; ITRIG.ASM - целочисленные тригонометрические функции.
; (C) Copyright 1991 Ray Duncan
;

title ITRIG - Integer Trig Lookup
name ITRIG
model small,c

dataseg

Table label word

dw 0, 175, 349, 523, 698
dw 872, 1045, 1219, 1392, 1564
dw 1736, 1908, 2079, 2250, 2419
dw 2588, 2756, 2924, 3090, 3256
dw 3420, 3584, 3746, 3907, 4067
dw 4226, 4384, 4540, 4695, 4848
dw 5000, 5150, 5299, 5446, 5592
dw 5736, 5878, 6018, 6157, 6293
dw 6428, 6561, 6691, 6820, 6947
dw 7071, 7193, 7314, 7431, 7547
dw 7660, 7771, 7880, 7986, 8090
dw 8192, 8290, 8387, 8480, 8572
dw 8660, 8746, 8829, 8910, 8988
dw 9063, 9135, 9205, 9272, 9336
dw 9397, 9456, 9511, 9563, 9613
dw 9659, 9703, 9744, 9781, 9816
dw 9848, 9877, 9903, 9925, 9945
dw 9962, 9976, 9986, 9994, 9998
dw 10000

;
; TRIG - рабочая подпрограмма для функций SIN и COS.
;
; Входные данные:
; AX - угол в градусах от 0 до 180.
; Выходные данные:
; AX - значение функции.
; Используемые данные:
; BX - промежуточные расчеты.
;

Trig proc near

Trig endp

;
; COSINE - вычисление косинуса угла.
;
; Входные данные:
; AX - угол в градусах от 0 до 360.
; Выходные данные:
; AX - косинус угла умноженный на 10.000.
; Используемые данные:
; ничего
;

Cosine proc near

Cosine endp

;
; SINE - вычисление синуса угла.
;
; Входные данные:
; AX - угол в градусах от 0 до 360.
; Выходные данные:
; AX - синус угла умноженный на 10.000.
; Используемые данные:
; ничего
;

Sine proc near

Иногда управляющие таблицы можно весьма эффективно использовать в ситуациях, где мысль о них просто не приходит в голову. Пусть, например, вам поручено составить подпрограмму, которая будет подсчитывать число ненулевых разрядов в байте. Первое побуждение обычно состоит в том, чтобы составить цикл со сдвигами и действительно подсчитать ненулевые разряды. Но ведь значительно быстрее будет воспользоваться таблицей, позиции в которой будут соответствовать значениям байта - от 0 до 255, а значения в этих позициях - числу ненулевых разрядов для каждого из таких значений байта:

И снова, чтобы еще более повысить быстродействие, можно оформить эту подпрограмму как макроопределение и встраивать в программу везде, где требуется. Для байтовых таблиц можно еще повысить производительность, замещая команды MOV на специальные команды XLAT. Вместе с тем здесь необходимо подчеркнуть, что таким образом можно будет обрабатывать не только байтовые таблицы. Мне довелось познакомиться с великолепной программой подсчета слов (ее автор Терье Матисен), в которой использовалась таблица из 64 Кбайт для просмотра всех двусимвольных комбинаций в поиске разделителей слов. Утверждается также, что Гордон Летуин применил аналогичную методику для сканирования битовой карты свободного пространства на диске в подсистеме обработки файлов HPFS операционной системы OS/2.

8. Оптимизация для конкретных моделей процессоров

Если ваша программа будет работать на компьютерах с конкретными моделями процессоров, или вы считаете, что есть смысл подготовить несколько версий программы для работы на разных машинах, можно попытаться воспользоваться ориентированными на определенные модели процессоров командами. По сравнению с процессорами 8086 и 8088, набор команд процессоров 80186, 80188 и 80286 ощутимо дополнен. Многие из новых команд позволяют повысить производительность программы:

Если ваша программа будет исполняться только на компьютерах с процессорами 80186, 80286, 80386 или 80486, можно также выровнять по границе слов все элементы данных и целевые адреса для команд передачи управления. Таким образом можно повысить производительность на несколько процентов за счет относительно небольшого объема памяти. (При работе на процессорах 8086 выравнивание по границам слов также дает определенный выигрыш, но для процессоров 8088 и 80188 - с 8-разрядной шиной - это бессмысленно.)

Составляя программу для процессоров 80386 и 80486 и их разновидностей, можно повысить производительность 16-разрядной программы, пользуясь всеми вышеперечисленными командами для процессоров 80186, 80188 и 80286 и, кроме того, выравнивания данные и адреса передачи управления по границам 32-разрядных слов, а также с помощью следующих дополнительных особенностей:

Естественно, выжать максимум из архитектуры 80386 или 80486 можно при помощи расширителей DOS или системы OS/2 2.0, переводя вашу программу в 32-разрядный защищенный режим. В результате вы получите доступ ко всем 32-разрядным регистрам, расширенной адресации и к адресному пространству до 4 Гбайт.

В процессоре 80486 предусмотрено всего три дополнительных команды, которых нет у процессора 80386 и к которым можно обращаться из прикладной программы:

Вместе с тем длительность команд, выраженная в числе тактов, у процессоров 80486 совсем не такая, как у процессоров 80286 и 80386. В общем, можно сказать, что время исполнения простейших команд было сокращено за счет более сложных. Это означает, что программа, первоначально составленная для процессора 8086 или 8088, возможно, будет работать быстрее на процессоре 80486, чем ее аналог, в исходном варианте предназначавшийся для процессоров 80286 и 80386. Такова жизнь. И, еще кое-что, о чем стоит подумать, работая с процессорами 80486: встроенная кэш-память объемом 8 Кбайт, которая работает лучше всего, если информация выровнена по границам параграфов, а также встроенный математический сопроцессор. К сожалению, недавний выпуск фирмой Intel процессоров 80486SX без математического сопроцессора означает, что гарантированной возможности работать с числами с плавающей точкой на самых высокопроизводительных моделях компьютеров у нас по-прежнему нет.

Введение