Настоящий обзор является третьим из серии обзоров, подготавливаемых сотрудниками Института высокопроизводительных вычислений и баз данных Министерства науки и технологий РФ. Мы постарались описать основные изменения, произошедшие на рынке высокопроизводительных систем в минувшем году и оценить тенденции и перспективы развития наиболее широко распространенных суперкомпьютерных архитектур.
Как и предыдущие документы, данный обзор основан на анализе информации, публикуемой в ежегодных выпусках списка наиболее мощных суперкомпьютерных систем TOP500. Список распространяется и поддерживается немецким Университетом г. Маннхейм и некоммерческой организацией Netlib.
Событием 1999 года стал успех компании IBM. С момента появления предыдущего обзора IBM сумела выйти на первое место по количеству установленных систем, увеличив свое представительство в списке ТОР500 на 40% (рис. 1), и потеснив компанию SGI. Интегральная производительность суперкомпьютеров IBM почти достигла суммарной производительности мощнейших систем SGI/Cray 1998 года, превысив прошлогодние показатели более чем в 2 раза (рис. 2). Во многом этот результат был получен благодаря модернизации системы Blue Pacific SST, созданной в рамках программы ASCII. За счет модернизации производительность компьютера увеличилась в 4 раза, в результате чего ASCII Blue Pacific SST, с 5808 процессорами и 2.1 Tflops производительности, переместился на вторую строчку ТОР500, уступая только системе ASCII Red. За все время существования списка, большее количество систем, имела только компания SGI, после поглощения Cray Research в 1998 г. (рис. 3).
Позиции SGI/Cray в 1999 году серьезно пошатнулись. Компания потеряла почти 10% от общего числа отмеченных инсталляций, уступив первое место IBM (рис. 1). Потери SGI/Cray практически зеркально отразили изменения в позициях IBM: по результатам 1999 года IBM установила почти сколько же систем, сколько потеряла SGI/Cray. Тем не менее, SGI/Cray продолжает лидировать в верхней части списка, где сосредоточены наиболее мощные компьютерные системы, даже притом, что самый мощный суперкомпьютер компании, ASCI Blue Mountain с 6144 процессорами и производительностью 1.6 Tflops, разработанный в рамках программы ASCI, занимает лишь третье место, пропустив вперед систему IBM ASCII Blue Pacific.

Рис. 1. Соотношение количества компьютеров различных производителей, представленных в списке TOP500.

Рис. 2. Соотношение суммарной производительности суперкомпьютеров различных изготовителей.

Рис. 3. Эволюция количества систем различных производителей представленных в TOP500 в 1993 - 1999 гг.
Несмотря на то, что первое место в TOP500 по прежнему принадлежит компьютеру ASCII Red компании Intel, представительство последней в списке неуклонно сокращается (в 1999 году осталось 4 системы). Это объясняется тем, что компания перестала развивать свое присутствие на рынке высокопроизводительной техники (последняя инсталляция датируется 1997 г.).
К осени 1999 года довольно четко оформились сферы интересов и ареалы распространения систем ведущих производителей суперкомпьютеров: системы SGI/Cray оккупируют верхнюю и среднюю, IBM - центральную, а Sun - нижнюю части списка TOP500 (табл. 1).
| Изготовители | TOP10 | TOP50 | TOP100 | TOP500 |
| SGI/Gray | 6 | 27 | 42 | 132 |
| IBM | 2 | 8 | 25 | 141 |
| Hitachi | 1 | 5 | 7 | 10 |
| Fujitsu | 0 | 5 | 10 | 27 |
| NEC | 0 | 0 | 9 | 21 |
| Sun | 0 | 1 | 2 | 113 |
Табл.1. Число суперкомпьютерных систем крупнейших производителей в ТОР500.
Sun несколько утратила свои позиции по сравнению с прошлым годом, что объясняется тем, что она инсталлирует относительно "слабые" 64-х процессорные системы с архитектурой SMP. Однако этот факт нисколько не умаляет коммерческого успеха компании, почти на треть увеличившей свое представительство в списке.
У компании Hewlett-Packard в 1999 г. напротив наметился определенный успех. Разработка новых систем позволила ей усилить свои позиции, превысив прошлогодние показатели по числу систем и суммарной производительности почти в 3 раза. Однако, несмотря на то, что Hewlett-Packard занимает 4-ую позицию по числу инсталлированных систем, компьютеры, предлагаемые компанией, обладают довольно низкой производительностью (так в ТОР100 не попадает ни одной системы HP).
Единственная из остававшихся в списке система CM-5/1056 компании TMC с производительностью 59.7 Gflops (установка 1993 года) была снята с эксплуатации в Лос-Аламосской лаборатории и, таким образом, выбыла из ТОР500. Самая "старая" высокопроизводительная система списка - VPP500/28 компании Fujitsu 1993 года установки, с производительностью 40.48 Gflops с 28 процессорами - занимает 364 позицию, и, скорее всего, покинет список в 2000 году.

Рис. 4. Соотношение суммарной производительности суперкомпьютерных систем различных производителей с 1993 по 1999 гг.
География инсталляций
Соединенные Штаты Америки сохранили свое безусловное лидерство в ТОР500, как по количеству систем, так и по суммарной производительности парка установленных суперкомпьютеров. В США находятся 272 системы (в 1998 году их было 290) из 500 (см. рис. 5). За единственным исключением это компьютеры американских производителей. Единственная машина не американского производства, векторная система VPP700/22 компании Fujitsu, принадлежит Национальной астрономической обсерватории США.

Рис. 5. География инсталляций суперкомпьютерных систем.
Несмотря на семипроцентный рост количества суперкомпьютерных систем в Европе, общая производительность парка "европейских" суперкомпьютеров выросла незначительно - всего на 1% (рис. 6 и рис. 7).

Рис. 6. Соотношение числа суперкомпьютеров, установленных в различных регионах мира.

Рис. 7. Суммарная производительность парка суперкомпьютеров, установленных в различных регионах мира.
Распределение суперкомпьютеров в первой десятке выглядит следующим образом: 8 систем установлены в США; одна - в Японии (векторная система SR8000/128 компании Hitachi с 128 процессорами и производительностью 873.6 Gflops установлена в Токийском Университете в 1999 году и занимает 5-ю позицию списка); одна - в Германии (MPP-система T3E1200 компании SGI c 812 процессорами и производительностью 671.2 Gflops на 9-й позиции). Три первые строчки ТОР10 занимают суперкомпьютеры, разработанные в рамках американской программы ASCII.
В первой десятке Европы в течение минувшего года произошли серьезные изменения:
1. первое место принадлежит системе Cray Т3Е1200, установленной в Немецкой погодной службе Оффенбаха (9-ое место TOP500);
2. на второй позиции - лидер 1998 года, система Cray T3E900 с 876 процессорами и 552 Gflops производительностью, принадлежащая Метеорологической службе Великобритании (11-ое место TOP500);
3. на третьем месте находится новая система Cray Т3Е1200, установленная в той же Метеорологической службе Великобритании в 1999 году (13 позиция TOP500);
4. на четвертое место сместился номер 2 европейской десятки 1998 года - система Cray Т3Е1200 Манчестерского университета (14 позиция TOP500);
5. далее следуют три системы, установленные в Германии (20, 25, 27 места TOP500), принадлежащие соответственно Научно-исследовательскому центру в Юлихе (инсталляция 1999 года), Исследовательскому обществу Макса Планка в Гархинге и Университету HWW в Штудгарте. Все три системы имеют марку SGI/Cray T3E;
6. на восьмом месте - новая инсталляция Французского метеорологического центра в Тулузе - векторная система VPP5000/31 компании Fujitsu (32 место TOP500);
7. девятое место занимает Cray Т3Е900, установленный в 1999 году в Информационно-техническом центре Берлина (39 место TOP500);
8. замыкает десятку Cray Т3Е900 с 540 процессорами и 234 Gflops производительностью из Научно-исследовательского центра в Юлихе (43 место TOP500).
Германия, традиционно уделяющая повышенное внимание к высокопроизводительным системам, сохранила лидерство среди европейских стран, как по количеству установленных суперкомпьютеров, так и по их производительности (рис. 8 и рис. 9). Франция вышла на вторую позицию европейского списка, увеличив количество установленных компьютеров более чем в 3 раза (1998 год - 14 систем, 1999 год - 38) и, таким образом, потеснив Великобританию.

Рис. 8. Соотношение суммарной производительности европейских суперкомпьютеров.

Рис. 9. Соотношение количества суперкомпьютеров в различных государствах Европы.
Несмотря на то, что Япония как и в прошлом году занимает третье место по количеству и суммарной производительности инсталлированных систем, ее показатели значительно выше, чем у любого из европейских государств. Япония является второй страной после Соединенных Штатов Америки суперкомпьютерные системы, которой широко представлены в TOP500. Исходя из этого, положение Японии на рынке высокопроизводительных систем, следует считать, несомненно, более устойчивым, чем положение любой из стран Европы.
Следует также заметить, что суммарная производительность систем, установленных в других странах мира (т.е. не в США, Европе или Японии) увеличилась за год почти в 3 раза и достигла 1.3 Tflops, что в 1.5 раза превысило темпы развития любого из лидеров. В этих странах наблюдается серьезный дефицит на рынке высокопроизводительных систем, который они будут насыщать в ближайшие годы.
Области применения
Наибольшее количество инсталляций в TOP500 1999 года принадлежит промышленности. Число систем в этой области выросло на 39 машин и достигло 246 (рис. 10 и рис. 11), что составляет почти половину списка. Тем не менее, скорость захвата TOP500 промышленными суперкомпьютерами заметно упала (в 1998-м году добавилось 11% от общего числа, в 1999-м - 6%). К 2000 году компьютеры, устанавливаемые в промышленности, вплотную приблизилась к наиболее высокопроизводительной части списка. Закрепиться в этой области достаточно проблематично, т.к. требует огромных капиталовложений. Дальнейшее увеличение количества инсталляций в промышленной сфере будет серьезно затруднено, и, видимо, практической необходимости в этом нет.

Рис. 10. Области применения суперкомпьютеров.

Рис. 11. Эволюция количества суперкомпьютерных систем в различных областях применения.
Наибольшей производительностью обладают суперкомпьютерные системы, применяемые в исследовательской области (рис. 11 и рис. 12). Всего за год общая производительность подобных систем увеличилась почти в 2 раза.
Две явные тенденции в ТОР500 - наибольшее количество систем в промышленной области и наивысшая производительность в исследовательской - по сути являются характеристиками этих двух областей. Промышленность описывается большим числом инсталляций "средних", по меркам ТОР500, систем, научные исследования нуждаются в нестандартных, сверхмощных суперкомпьютерах для решения сложнейших научно-технических задач. Если первая сфера финансируется, как правило, бизнесом, то вторая получает средства в основном, из государственных источников. Подобная ситуация, очевидно, сохранится достаточно долго: в промышленности отсутствует класс высокозатратных задач, сравнимых с задачами исследовательской области, а для научных организаций не имеет смысла чрезмерно наращивать количество компьютерных систем.

Рис. 12. Суммарная производительность парка суперкомпьютеров, обслуживающих различные области применения.

Рис. 13. Эволюция производительности суперкомпьютеров, обслуживающих различные области применения.
Максимальное число потерь в TOP500 в 1999 году - у академической области, если в 1998 году ей принадлежало 90 машин, то в 1999 - только 70. В основном, выбывшие системы размещались в нижней части списка, т.е. системы, относящиеся к разряду "маломощных". Однако превосходство академической области над промышленной по количеству систем до ТОР100 сохраняется (табл. 2).
| Область | TOP10 | TOP50 | TOP100 | TOP250 |
| Академическая | 1 | 9 | 20 | 42 |
| Административная | 2 | 5 | 8 | 23 |
| Исследовательская | 7 | 28 | 53 | 91 |
| Промышленная | 0 | 2 | 9 | 76 |
| Производители | 0 | 6 | 10 | 18 |
Табл. 2. Распределение количества машин по первым 10, 50, 100 и 250 позициям в TOP500.
В 1999 году компания Sun удержала свои лидирующие позиции в промышленной области. Тем не менее, ее быстро догоняет, корпорация IBM, за год увеличившая число инсталляций в промышленности на 25 %, сейчас долю IBM обеспечивают 87 систем, инсталлированных в различных промышленных компаниях (рис. 14). Третью позицию заняла компания Hewlett-Packard, увеличившая количество промышленных инсталляций в 17 раз и обогнавшая компанию SGI.
Рис. 14. Распределение суперкомпьютерных систем различных производителей по областям применения.
Архитектура
Одной из особенностей ТОР500 1999 года стало увеличение числа кластерных систем, которое достигло 11. Интересно, что три кластера, попавшие в список мощнейших систем мира, - так называемые "самоделки", т.е. "self-made clusters", созданы силами исследовательских организаций. Самая мощная самоделка, объединяющая 580 процессоров с общей производительностью 232.6 Gflops, занимает 44-ое место в ТОР500 и установлена в Национальной Лаборатории в Сандиа (США). Две другие инсталлированы в Лос-Аламосской Национальной Лаборатории (США) и в Боннском Университете (Германия).

Рис. 15. Распределение систем TOP500 по архитектурам.

Рис. 16. Производительность суперкомпьютеров с различными архитектурами.
Направление массивно-параллельных систем лидирует, как по количеству, так и по суммарной производительности установленных систем (рис. 15 и рис. 16). Заметное оживление претерпел рынок систем с PVP-архитектурой, их количество в списке достигло 62, что почти в 1.5 больше, чем в 1998 году (рис. 17). Одна из современных PVP-систем, 128-процессорный суперкомпьютер SR8000/128 компании Hitachi, даже вошла в первую десятку TOP500 (для сравнения, минимальное количество процессоров у MPP-системы из десятки лидеров - 812). Основными производителями, поддерживающими производство векторных машин, являются японские фирмы, NEC, Fujitsu и Hitachi; компании SGI, несмотря на наличие перспективной серии SV1-SV2, так и не удалось наладить продажу этого класса систем.

Рис. 17. Эволюция развития суперкомпьютерных архитектур с 1993 по 1999 г.
Американские компании значительно большее внимание уделяют системам с MPP и SMP-архитектурами. Безусловным лидером в области SMP-систем является компания Sun Microsystems. Широко известны и ценятся потребителями MPP-системы IBM и ccNUMA компьютеры компании SGI.
Список 500 мощнейших высокопроизводительных систем в 1999 году обновился наполовину. Суммарная производительность представленных в нем суперкомпьютеров выросла в 1,72 раза и достигла 50.97 Tflops. Мощность наиболее "слабой" системы ТОР500 1999 года - 33.09 Gflops, что в 2 раза больше чем у аналогичной системы 1998 года. Та же тенденция в эволюции наблюдается и у систем, занимающих 100-ю позицию списка. Производительность систем, занимающих 100-ю и 500-ю позиции, отличается более чем в 3 раза.

Рис. 18. Тенденции суммарной производительности высокопроизводительных систем TOP500.
Неизменный лидер ТОР500 трех последних лет, детище компании Intel - ASCII Red. По состоянию на конец 1999 года эта система была оснащена 9632 процессорами и обладала 2.3 Tflops производительностью. В списке 1999 года присутствуют 3 суперкомпьютерные системы (ASCII Red компании Intel - 2.3 Tflops, ASCII Blue Pacific CTT компании IBM - 2.1 Tflops, ASCII Blue Mountain компании SGI/Cray - 1.6 Tflops) преодолевшие барьер в 1 Tflops.
2. "SGI Announces Sale of Cray Vector Supercomputer Business to Tera Computer Company",
www.sgi.com/newsroom/press_releases/2000/march/cray.html
3. "Tera Computer Company to Acqure Supercomputer Pioneer Cray from SGI" www.cray.com/news/0003/acquisition.html
4. "SGI/Cray no longer dominates the TOP500 - IBM in the lead",
www.hoise.com/primeur/99/articles/weekly/AE-PR-12-99-28.html
5. www.csa.ru/CSA/tutor/review97.html- обзор
"Высокопроизводительные компьютерные системы в 1997 г".
6. www.csa.ru/CSA/tutor/artv7.htm - обзор "Высокопроизводительные компьютерные системы в 1998 году"
[Начало]