1996
Годовой отчет

Отдел системной интеграции
и сетевого обеспечения

Ноябрь 1996


  • 1 Основные задачи отдела

  • 2 Отчет

  • 3 План дальнейших работ


    1 Основные задачи отдела

    1.1 Введение

    Основными задачами отдела системной интеграции и сетевого администрирования Института высокопроизводительных вычислений и баз данных являются: поддержка аппаратных средств и программного обеспечения суперкомпьютерного центра, обеспечение целостности данных и работа с пользователями. Наряду с этими (традиционными для системного отдела) задачами, сотрудники отдела выполняют программные проекты, нацеленные на предоставление более удобного доступа к кластеру суперкомпьютеров.

    Проектирование и администрирование локальных и глобальных сетей является важной составляющей деятельности отдела.

    1.2 Персонал

    Отдел системной интеграции является вероятно самым молодым по своему составу в институте. Наши сотрудники --- выпускники ведущих университетов России, таких как Санкт-Петербургский Государственный Университет, Санкт-Петербургский Государственный Технический Университет, Санкт-Петербургский Государственный Институт Точной Механики и Оптики, Балтийский Государственный Технический Университет, и т.д.

    Высокий профессиональный уровень сотрудников отдела иллюстрирует следующий список операционных систем, с которыми они хорошо знакомы: SunOS, Solaris, ConvexOS, PARIX, Linux, WinowsNT, и т.д. Сотрудники владеют всеми основными языками программирования (C, C ++, Java, SQL, 4GL, PL1) и имеют опыт работы с пакетами OSF/Motif, IPC, TLI, XDR/RPC.

    1.3 Структура отдела

    На настоящий момент отдел системной интеграции и сетевого администрирования состоит из трех лабораторий: Это формальное разделение не мешает тесному сотрудничеству между сотрудниками отдела, так что в большинстве случаев наш отдел можно рассматривать как единую рабочую команду. Практическая работа проводится в рамках постоянных или временных рабочих групп, обычно включающих в себя сотрудников различных лабораторий.

    1.4 CSA

    Суперкомпьютерный центр института является общедоступным образовательным и научным вычислительным ресурсом федерального значения. Этот центр известен под названием Центра супекомпьютерных технологий (CSA). В задачи отдела системной интеграции и сетевого администрирования входит планирование и управление работой вычислительного и сетевого оборудования центра. На данный момент в центре работают следующие суперкомпьютерные системы: Суммарный объем дискового пространства центра достигает 50 Гигабайт. Кроме того в рамках кластера суперкомпьютеров действует ленточный роботизированный комплекс общей емкостью до 2,5 Терабайт.

    Доступ пользователей к ресурсам суперкомпьютерного кластера возможен как по системе Российских образовательных и научных сетей (удаленный доступ), так и непосредственно из терминальных классов центра. Центр соединен с внешним миром через Российскую Университетскую Сеть (RUNNet), которая максимально приближает нас к конечным пользователям. Сетевая структура центра была разработана нашим отделом, и в настоящее время включает: оптоволоконный сегмент FDDI, сегменты локальной сети Ethernet (TP, FOIL, BNC), и оптический канал E1 WAN до центрального узла RUNNet. Маршрутизация и управление траффиком ведется при помощи оборудования Digital Equipment Corp. (DEChub 900) и CISCO Systems, Inc. (CISCO 2500).

    1.5 Поддержка пользователей

    Компьютерные системы инсталлированные в CSA уникальны для России и Восточной Европы. Именно поэтому особое внимание уделяется детальному изучению архитектуры, аппаратных средств, и программного обеспечения суперкомпьютеров.

    Приобретенный опыт очень актуален для пользователей. Мы предоставляем учебные материалы, проводим лекции, и организуем регулярные семинары, посвященные принципам и практике оптимизации прикладных программ.

    Работают ``горячие'' линии поддержки пользователей как в системных вопросах, так и по проблемам, связанным с прикладным программным обеспечением, инсталлированном в центре.

    1.6 Направления деятельности

    Можно выделить следующее основные направления нашей работы:

    2 Отчет

    2.1 Проекты и программы

    В 1996 отдел проводил работы в рамках долгосрочной государственной программы по созданию централизованного компьютерного и информационного ресурса федерального уровня для Российской академической и образовательной сети. Финансирование этих работ составило около 60% годового бюджета отдела.

    Выделение целевых средств из Фонда Технологического Развития Российского Министерства Науки позволило приобрести и установить многопроцессорную систему типа Parsytec CC/16.

    Разработка сетевой инфраструктуры центра частично финансировалась Российским фондом фундаментальных исследований (РФФИ) по гранту No. 96-07-89218.

    2.2 Установка и конфигурирование нового аппаратного и программного обеспечения

    В феврале 1996 года в суперкомпьютерном центре была установлена многопроцессорная векторно-конвейерная система Convex C-3440, выполнены задачи по установке и конфигурации. Была изменена конфигурация суперкомпьютера Convex C-3820 с целью создания распределенного вычислительного кластера, объединяющего ресурсы машин C-3820 и C-3440. Для поддержки кластера были запущена сетевая информационная служба NIS, сетевая файловая система NFS, а также произведена соответствующая переконфигурация CXbatch (NQS-подобной системы пакетной обработки).

    В июле институт получил многопроцессорную систему типа Parsytec CC/16. Это первая система с архитектурой MIMD, установленная в центре. Новый суперкомпьютерный ресурс интегрирован в локальную сеть центра.

    В начале декабря 1996 года в суперкомпьютерном центре была инсталлирована массивно-параллельная система Convex SPP 1600/XA, являющаяся на сегодняшний день наиболее мощным суперкомпьтерным ресурсом России. В рамках суперкомпьютерного кластера с декабря 1996 года действует роботизированный ленточный комплекс с суммарным объемом хранимой информации до 2,5 Терабайт.

    2.3 Администрирование сетей

    Усилиями сотрудников отдела был организован сетевой доступ к ресурсам суперкомпьютерного центра из удаленного офиса института. Сетевое решение было выполнено на базе синхронных модемов NOKIA и маршрутизатора CISCO. Эта схема позволила минимизировать ежемесячную плату за связь (которая не превышает $50), обеспечивая при этом достаточную скорость обмена (128 Кбод).

    2.4 Поддержка пользователей

    Поддержка пользователей включает в себя консультации по ``горячей'' линии (телефон и электронная почта) по срочным вопросам, обучение наиболее актуальным аспектам программирования для векторных и параллельных компьютеров (в виде лекций и семинаров), а также публикации методических материалов, доступных в виде печатных изданий и в гипертекстовой форме на WWW-сервере института.

    В течение 1996 были опубликованы следующие статьи:

    2.4.1 Программирование и адаптация ПО

    В настоящее время невозможно использовать компьютеры только статическим способом (т.е. удовлетвориться использованием заранее инсталлированного программного обеспечения). Причина в том, что компьютерный мир сегодня развивается очень быстрыми темпами, предлагая каждый день новые и новые идеи. Глобальные сети помогают людям совместно использовать их достижения. Свободно распространяемое программное обеспечение (freeware, shareware) стало очень популярным, и часто является стандартом (TeX, gzip, gcc, xpaint, и т.д.).

    Чтобы дать возможность пользователям работать в привычной среде (то есть с матобеспечением, стандартным для персональных компьютеров и рабочих станций), мы устанавливаем на наших платформах программные продукты проекта GNU.

    Поскольку операционные системы ConvexOS (как и операционные системы любых других суперкомпьютеров) в качестве платформ программирования известны не так хорошо, как, скажем, SunOS или Linux, большинство общедоступного программного обеспечения нуждается в адаптации для успешной трансляции и установки.

    В этом году сотрудниками отдела была произведена адаптация к ConvexOS 11.0 следующих пакетов:

    В некоторых случаях было необходимо дополнительное программирование. В частности, одна из решенных проблем состояла в расширении гипертекстового сервера так, чтобы он мог комфортно обслуживать русскоязычную аудиторию. Проблема заключается в том, что имеются по крайней мере три наиболее часто используемых типа кодировки для кириллицы. Кодировка KOI8 традиционно используется под UNIX и является стандартом для передачи почты; две другие используются на PC. Это так называемая альтернативная котировка IBM --- de facto для DOS, и кодировка cp-1251, используемая под Windows.

    Такой разброс кодирокок вызывает большое количество проблем при перенесении данных с персональных компьютеров на системы, работающие под управлением UNIX и обратно.

    Для администратора WWW-серверов дела обстоят еще хуже, потому что он должен гарантировать каждому пользователю получение документов в правильной (в соответствии с настройками программного обеспечения пользователя) кодировке. В то же время данные, посылаемые пользователем должны быть обратно преобразованы в кодировку сервера.

    Для правильного выполнения этих задач было разработано четыре модуля поддержки кириллицы для гипертекстового сервера Apache. Это заменило устаревшее временное решение, основанное на CGI-скриптах, вызываемых по запросам пользователей русскоязычных документов. Новый вариант производит конвертацию намного эффективнее и быстрее, так как все преобразования выполняются сервером.

    Созданное программное обеспечение (насколько мы знаем) является наиболее полным, позволяет гибко настраиваться под пользователей, поддерживает работу с модулями и декодер кириллицы к интерфейсу CGI.

    Сотрудниками отдела был перенесен и инсталлирован на ConvexOS объектный кэш-модуль Harvest из сетевого информационного поискового пакета Harvest. Это дало возможность пользователям RUNNet обращаться к мощному кэш-серверу, обрабатывающему запросы протоколов HTTP, FTP, и Gopher. В настоящее время proxy-сервер обрабатывает в среднем 750 запросов в час.

    Другая проблема выявилась при анализе внешнего траффика сети RUNNet. Было замечено, что 80 процентов от всех соединений составляют соединения с WWW портами. Несмотря на существование мощного proxy-сервера большинство пользователей игнорирует очевидные преимущества информационного кэширования.

    Именно поэтому в ноябре 1996 была начата разработка пилот-проекта, который позволил бы создать систему прозрачного кэширования запросов. Предполагается, что такая система сможет замкнуть на себя от 30 до 50 процентов всего международного траффика сети RUNNet, снижая тем самым загрузку сетевых каналов. Задача маршрутизации значительной доли международного траффика RUNNet ставит достаточно серьезные требования к компьютерной платформе, предназначенной для организации прозрачного кэш-сервера. Ежедневная нагрузка оценивается в несколько Гигабайт при тысячах одновременных соединений. Мы планируем использовать для этой цели двухпроцессорную систему Convex.

    Пилот-проект состоит из трех частей:

    В настоящий момент в разработке находится вторая стадия проекта. Мы планируем закончить пилот-проект к 31 декабря 1996 года и начать тестирование. Результаты тестирования будут использованы в целях разработки спецификации для дальнейшего развития кэширующего программного обеспечения.

    2.5 Базы данных, Web, FTP, Proxy

    В 1996 году отдел выполнял практическую работу по установке и конфигурированию сервера гипертекста CSA, сопровождению FTP архива и proxy сервера. Проводилось обучение пользователей и администраторов работе с proxy сервером, представлению информации на гипертекстовом сервере, давались консультации персоналу других отделов.

    В 1997 году институт планирует приобретение профессионального сервера баз данных для многопроцессорной системы. А пока сотрудниками отдела была выполнена экспериментальная установка серверов Postgress95 и miniSQL. Целью инсталляций было обучение персонала и подготовка сотрудников к работе с профессиональным SQL-сервером. Кроме того, это позволило начать перенос на SQL-платформу наиболее серьезных задач учета статистики.

    Далее, указанные две SQL платформы используются для изучения (и разработки) механизма взаимодействия между WWW и SQL серверами. Работа в этом направлении привела к разработке WebShell для miniSQL, являющегося монитором SQL с CGI-ориентированными функциями для обработки форм гипертекста, основанных на POST/GET протоколах. Так как этот интерфейс изолирует фактический SQL от CGI, мы надеемся, что большинство разработанных интерфейсных модулей можно будет использовать и с профессиональным SQL сервером.

    2.6 Проблемы защиты

    Суперкомпьютерный кластер является общедоступным ресурсом, который не содержит частной или коммерческой информации. До настоящего момента нашей основной целью являлось обеспечение возможности самого широкого доступа к ресурсам CSA. Именно поэтому, кластер был сконфигурирован как открытая общедоступная сеть.

    Концепция защиты и обеспечения целостности информации в центре основана на:

    Любая компьютерная система не гарантирована от сбоев. Чтобы быть готовыми к возможным аварийным ситуациям, в рамках отдела функционирует специальная группа ``быстрого реагирования'', способная в короткий срок и с наименьшими потерями для пользователей произвести необходимые работы в широком спектре: от диагностики аппаратного обеспечения до программирования и исправления ядра операционной системы.

    2.7 Международные отношения

    Хорошо развивается сотрудничество отдела в области параллельных вычислений с немецкой корпорацией Parsytec Computers Gmbh. Группа из трех сотрудников нашего отдела посетила промышленный отдел Parsytec Computers Gmbh в городе Аахен (Германия) с целью обучения и проведения консультаций.

    В результате этого визита также были установлены контакты с Центром параллельных вычислений в Падерборнском университете.

    3 План дальнейших работ

    3.1 Проекты

    В 1997 году отдел продолжит работу по государственной программе по созданию и разработке централизованного компьютерного и информационного ресурса федерального уровня для Российской академической и образовательной сети.

    Как подразделение института отдел также будет участвовать в правительственной программе по созданию быстродействующей сети, объединяющей наиболее важные вычислительные и информационные центры западной части России.

    Предполагается участие отдела в европейской программе SICMA-EAST, которая будет выполняться в тесном сотрудничестве с Санкт-Петербургским отделением корпорации Parsytec Computers Gmbh.

    3.2 Целостность данных и защита систем

    Сотрудники отдела продолжат текущую работу по обеспечению целостности системы и безопасности данных пользователя: создание регулярных копий и увеличение эффективности работы в кластере.

    Мы считаем, что в 1997 году проблема защиты должна стать одним из наиболее важных направлений работы отдела благодаря следующим факторам:

    Внутри института предполагается разработать систему административного сетевого управления, что позволит оснастить административную сеть высоким уровнем защиты.

    3.3 Работа с пользователями

    Планируется провести автоматизацию процесса регистрации и учета пользователей. Административная информация, управление доступом и регистрация пользователей станут доступными через гипертекстовый сервер. Это сделает регистрацию более быстрой и позволит оперативно устранять большинство возникающих вопросов.

    Работа с пользователями будет продолжена: планируется организация поэтапного обучения, проведения лекций и консультаций для пользователей, выпуск новых учебных пособий. В отделе организуются бакалаврские курсы для студентов Института точной механики и оптики по программированию параллельных систем и архитектуре суперкомпьютеров.

    3.4 Параллельные системы

    Отдел продолжит работу по изучению архитектуры MIMD. Предполагается продолжать сотрудничество с фирмой Parsytec Computers Gmbh, которое в 1997 будет акцентировано на разработке программного обеспечения для компьютеров типа Parsytec CC.

    3.5 Инициативные проекты

    Отдел планирует начать инициативный проект создания системы распределенного документооборота, включающую в себя доступ к базам данных по архивам и библиотеке института. Система должна быть сетевой, надежно защищенной и иметь платфоро-независимую архитектуру.

    3.6 Активные сетевые объекты

    Интеграция SQL и WWW серверов будет продолжена поддержкой активных сетевых объектов, включая объекты языка Java.

    3.7 Распределенные информационные инструментальные средства поиска

    Будет разработан прозрачный кэш-сервер. Отделом планируется разработка интегрированной индексированной поисковой системы, что позволит использовать в процессе поиска кэшируемую информацию.

    3.8 Работа с сетями

    Как уже отмечалось, 1997 год должен станет поворотным в отношении сетевого развития Центра.

    Планируется организация прямого изолированного быстродействующего канала связи с московскими компьютерными центрами. Такой канал станет прототипом будущей сети, которая свяжет основные высокопроизводительные компьютерные ресурсы европейской части России в единую систему общего доступа.

    Отделом системной интеграции в институте будет создана собственная инфраструктура администрирования глобальных сетей.

    3.9 ATM инициатива

    Решение сетевых проблем, которые встанут перед институтом в 1997 году, требует более глубокого понимания современных технологий работы с сетями. Чтобы быть готовым к их решению, в отделе предполагается организовать специальную группу для изучения ATM технологий.

    3.10 CADAM группа

    В 1997 году институт планирует организовывать компьютерный класс с целью разработки и обучения CAD/CAM технологий. Предварительное изучение вопросов CADAM будет выполняется инициативной группой внутри отдела сетевой интеграции.


    The file was converted from TeX source with FunnyTeX utility by Mike Krutikov