В серверной ММВБ-РТС (или как все усртоено изнутри)

dmitrytkachev

NYSE-трейдер
Как и на чем работает IT служба ММВБ-РТС

Журнал Cnews, май 2012 года
О том, какие информационные системы важны для специфического биржевого рынка, почему произошел отказ от HP-UX и Windows в пользу Red Hat Linux, чем была вызвана миграция с SuperDome на стандартные x86, а также о гонке производительности систем для привлечения инвесторов и компаний, размещающих свои бумаги, CNews рассказал управляющий директор по ИТ объединенной биржи ММВБ-РТС Ваган Варданян.

— Давайте начнем с услуг, которые биржа оказывает своим клиентам. В чем ваша специфика как потребителя ИТ по сравнению с зарубежными коллегами?
— Сначала хочу отметить, что биржа относится к достаточно критичным областям, ее смело можно сравнить с авиацией или атомной энергетикой. У нас нет возможности учиться на ошибках, так как их цена крайне высока. Этим во многом определяются и наши требования к ИТ-ландшафту. Если говорить об ИТ-инфраструктуре российской биржи, то она достаточно стандартна для любых наших коллег в мире, но все‑таки у нас есть определенные особенности из‑за того, что российский финансовый рынок развивался обособлено от Запада. Это отразилось и на специфике ИТ отечественной биржи. У нас совсем недавно начали развиваться технологии высокоскоростной торговли. Благодаря им стали появляться услуги в области colocation, размещения серверов профессиональных участников рынка на наших площадках. Хотя за рубежом на крупных биржах этот бизнес начал развиваться на несколько лет раньше. У нас сейчас происходит то же самое, только с небольшим опозданием. Это обуславливает разницу в инфраструктуре. В остальном все компоненты ИТ достаточно стандартны. Несмотря на разницу в устройстве самого биржевого рынка в разных странах, биржа работает по вполне стандартным и понятным принципам. Ее основой является непосредственно торговля: заключение сделок или «мэтчинг» (от англ. matching, регулярная сверка покупок и продаж биржевыми дилерами — прим. CNews) плюс есть инфраструктура клиринга (от англ. clearing, процесс расчета взаимных требований участников торгов).
— А если сравнить вас с игроками других близких рынков? Например, финансового.
— По сравнению с банками в нашем клиринге есть определенная специфика, мы отличаемся от финансовой индустрии с точки зрения используемых технологий и требований. Банковские системы есть у организаций нашей группы, обладающих банковской лицензией. У самой биржи банковских систем нет, наши достаточно уникальные решения лицензируются Федеральной службой по финансовым рынкам (ФСФР). Также надо учитывать, что помимо торгов биржа выступает поставщиком информации. Это тоже часть нашего бизнеса, а банки такой деятельностью не занимаются.
— Если необходимо увидеть в режиме реального времени данные по разным финансовым инструментам, то эту информацию тоже можно получить от вас?
— Да, в итоге — от нас. Мы работаем со всеми ведущими дистрибуторами рыночной информации, как российскими, так и международными, которые эти данные потом доставляют до конечных терминалов наших клиентов. Если быть еще точнее, то до профессиональных участнков торгов и их клиентов. И в этом отличие от информатизации традиционного финансового блока.
КАК МЕНЯЕТСЯ ИТ-ИНФРАСТРУКТУРА БИРЖИ
— Какая аппаратная подложка вам необходима, чтобы обеспечить перечисленные услуги? Есть ли в ней что‑то специфическое?
— Используется довольно типовое аппаратное обеспечение. Причем оно отличалось у двух объединившихся бирж, их ИТ-стандарты были разными. И РТС, и ММВБ удалось в свое время обойтись без мейнфреймов, поскольку они образовывались уже в 90‑е. Это направление нас миновало, хотя целый ряд крупных мировых фьючерсных систем живут именно на таких аппаратных системах.
Нужно выделить две группы продуктов. Торгово-клиринговые системы, доставшиеся от РТС, мы называем FORTS, а унаследованные от ММВБ — ASTS. Для вторых недавно, в ноябре 2011 г., мы завершили миграцию с ОС HP-UX на Red Hat Linux, которая дает лучшее быстродействие. Это достаточно распространенная в мире платформа для биржевых операций именно благодаря ее способности максимально раскрыть возможности аппаратной платформы, выжать из нее максимум по продуктивности. У биржи количество операций велико, быстродействие для нас важно, мы выжимаем из техники все, на что она способна.
Более того, ряд новых бирж, образовавшихся уже в 21 веке в Европе и США, стали первопроходцами в использовании специализированного аппаратного обеспечения, доработанного специально под них. В России такого пока нет, еще есть что оптимизировать и на стандартной технике.
— Для вас важнее получить «числомолотилку» — большое количество операций в единицу времени, а не большое хранилище данных?
— В ежедневной работе биржи, при мэтчинге диски не работают, все операции производятся в оперативной памяти. Но СХД тоже нужны для хранения данных, так как на бирже генерируется гигантский объем информации. Для ее дальнейшего анализа, структуризации, передачи профессиональным участникам торгов и регуляторам, естественно, используются системы хранения.
Но они работают в режиме Т+, то есть задействуются после момента совершения сделки, постфактум.
— Как я понял, сейчас вы уже используете стандартные x86 сервера, верно?
— Да. Сейчас это уже стандарт для обеих продуктовых линеек. Раньше в семействе ASTS у нас были HP SuperDome, сейчас мы фактически перешли на x86. В семействе FORTS такой формат был принят исторически.
— Получается, вы отказались и от железа Hewlett-Packard, и от ОС.
— Да, теперь у нас появилась возможность выбора разных платформ ведущих производителей аппаратного обеспечения — HP, IBM, DELL и т. д. Сейчас мы развязали себе руки для выбора той из них, которая максимально подходит под наши требования.
— Миграция ASTS на стандартные сервера и другую ОС была связана с объединением бирж?
— Нет, это отдельный проект, который давно назревал, но начался только в 2010 г. и закончился в конце 2011 г. уже на волне объединения, но не был с ним связан. Это был первый апгрейд такого масштаба с момента запуска ASTS в 1993 г. Конечно, его нужно было сделать раньше. Теперь у нас достаточный запас по производительности, который дает возможность развивать бизнес.
— Помимо смены аппаратной подложки и операционной системы что‑то еще менялось? СУБД, прикладное ПО?
— Прикладное ПО, естественно, перекомпилировалось, затем тестировалось, но его замены не было. Наши приложения модифицируются постоянно, но в рамках этого проекта никакие изменения не закладывались. СУБД также сохранилась.
— Какая?
— Достаточно узкоспециализированная СУБД Firebird. Она хотя и общего пользования, но нельзя сказать, что популярна. Эта база данных используется для внутрисервисных функций. Дальше вся информация переносится в базу Oracle, поверх которой уже работают системы отчетности и другие. То есть в торговой системе используется Firebird, а вот все, что из нее выходит, уже попадает в Oracle для дальнейшей обработки и анализа.
— Торговая система — это основное ПО, которое есть у биржи? По сути, аналог банковской АБС, верно?
— Да, это основная часть, но далеко не единственная — за клиринг и передачу данных владельцам терминалов отвечает другое ПО. Просто торговые системы всегда на виду, о них говорят, их производительность сравнивают. Для полноты картины нужно отметить, что на бирже РТС и до объединения, и сейчас исторически больше используются платформы Microsoft, включая.NET, но сейчас готовится переход на Linux.
— И тоже Red Hat?
— Вопрос еще не решен и наверняка говорить еще рано. Идет процесс выбора платформы. По всей видимости, действительно будет та же версия Linux, но пока это еще не точно.
— На FORTS аппаратная часть менялась?
— Нет, изначально ориентировались на x86. Сейчас ведутся работы по оптимизации аппаратного обеспечения, выбору наиболее оптимальных серверов.
— Пока у вас прозвучала унификация на серверах стандартной архитектуры и Linux, но вы не назвали никаких изменений в ИТ, непосредственно связанных с объединением бирж. Что‑то все‑таки пришлось менять в ИТ-ландшафте именно из‑за этого?
— Мы слушаем рынок, пытаемся понять, что нужно его участникам. Само объединение произошло, в том числе, для улучшения рыночной инфраструктуры. Первое, что необходимо сделать с точки зрения участника — это интеграция электронных систем доступа к бирже. Эту область изменения ожидают в первую очередь: унификация стандартов, протоколов, доступ в торговые системы.
Следующим шагом будет унификация систем клиринга: изменение клиринговых центров и приложений, которые работают там. Если эти две задачи решены, то вопрос о том, какая аппаратная подложка и какое системное ПО работают, становится чисто техническим моментом. Когда вы обращаетесь к услугам банка, вас не очень интересует, какая у него АБС. Мы хотим создать единый интерфейс биржи, после чего уже проводить оптимизацию внутри торговой системы.
СКОЛЬКО НУЖНО ЛЮДЕЙ И МАШИН
— Каков масштаб вашей ИТ-инфраструктуры? Как велико число сотрудников, АРМов, серверов?
— Существует средний для мировых бирж процент сотрудников, занятых технологиями, от общего штата. У нас он на нижней границе среднего, а в среднем это 25 – 30 % от общего числа. Биржи — это высокотехнологические предприятия, конечно.
— А в абсолютном выражении это сколько ИТ-шников?
— Мы говорим о нескольких сотнях, включая обслуживание всей инфраструктуры — и торговой, и расчетной, и клиринговой. Столько людей во всех ИТ-подразделениях всех компаний группы. Объем нашего серверного хозяйства — это многие сотни серверов и пара сотен рэков.
Сейчас готовится отдельная стратегия по развитию центров обработки данных (ЦОД), в рамках которой мы будем готовиться к построению нового дата-центра. Ввести его в эксплуатацию мы намерены в 2014 г.
— А сколько их сейчас?
— Для биржи ЦОД — это не только важный элемент инфраструктуры. Для нас это, в том числе, еще и способ заработка на услугах, связанных с размещением серверов, предоставлении сервисов клиентам и т. д. В мировой практике это формирует значительную долю дохода.
На сегодня у нас есть три дата-центра и программа их постепенной консолидации. Помимо собственных нужд они предназначены для обеих категорий наших клиентов: профессиональных участников рынка (брокеры, банки, дилеры и т. д.) и поставщиков информации (информационные агентства).
— Каким количеством автоматизированных рабочих мест вы располагаете?
— Здесь нет каких‑то потрясающих чисел. Понятно, что ПК есть у всех, но количество сотрудников, которые непосредственно отвечают за управление торгами, достаточно ограничено. Это менее сотни мест рабочих, буквально несколько десятков. Этого достаточно, чтобы обеспечить управление торгами, их администрирование и мониторинг. В этом плане акцент делается на разработку терминалов для участников торгов, не на собственные АРМ.
Кстати, еще до объединения ММВБ был разработан продукт для мобильных платформ iMicex. Сейчас он активно развивается, на него очень большой спрос. Скоро этот клиент будет доступен и для Android. Пока для этой платформы функционал приложения чисто информационный, торговать пока через него нельзя.
— Для iOS уже все работает?
— Да, есть брокеры, которые предоставляют эти решения своим клиентам. Через них можно торговать уже сейчас.
ЧТО МОЖНО НАПИСАТЬ САМИМ
— Насколько сильно у вас развиты собственные разработки?
— Подавляющее большинство приложений пишутся внутри компании, своими силами. Мы используем аутсорсинг для очень точечных, функционально небольших решений, где необходима глубокая специальная экспертиза. Но все наши ключевые сервисы и разрабатываются, и поддерживаются штатными программистами. Торговые места и терминалы — лишь малая часть, главное — это ядро.
В случае FORTS сейчас это уже третье поколение продуктов. Если мы говорим о семействе ASTS, то в свое время стояла приобретенная зарубежная система, но за прошедшее время она достаточно сильно изменилась. В данный момент она уже является продуктом ММВБ-РТС, можно считать ее нашей внутренней разработкой. Мы полностью владеем кодом, вносим все изменения и развиваем систему.
— Вы можете назвать соотношение обслуживающих и разрабатывающих ИТ-шников?
— Процентов 60 — это разработка, и только 40 % — поддержка. Это неплохое соотношение, с учетом того, что мы больше ресурсов тратим на разработку новых продуктов и стараемся минимизировать ресурсы на поддержку.
— Каков ИТ-бюджет биржи? При таком количестве разработчиков должен быть значительный фонд оплаты труда.
— Нам бы не хотелось раскрывать эту информацию. Можете сделать прикидки из названных чисел. Для внешнего ИТ-рынка мы достаточно специализированный заказчик, нам очень редко подходят стандартные решения. Мы не большой заказчик, наша инфраструктура сопоставима со средним банком. У нас нет большой региональной сети. Но задачи, которые стоят перед нами — сложны и интересны. Обычно они на острие технологий, вот это, мне кажется, самое главное, а не размер бюджета.
 

dmitrytkachev

NYSE-трейдер
И ЧТО МОЖНО ПОЛУЧИТЬ ОТ ИТ-РЫНКА
— Когда вы ведете проекты не своими силами, например, интеграционные работы, кто, как правило, выступает подрядчиком?
— Есть ряд поставщиков, которые традиционно делают для нас определенную часть работы. Можно отметить EPAM, которая помогала с разработкой FIX Engine — системы для общения с биржей по общепринятым протоколам (отправка заявок на торги). Практически все биржи, все профессиональные участники торгов, работают по этому стандарту. В мировой индустрии существует несколько поставщиков этих решений, но EPAM является одним из лидеров в этой сфере.
Кроме того, есть решения компании «Эксперт система», которые исторически использовались для доступа к платформе FORTS. Это два крупных внешних поставщика. Остальные более нишевые и их решения очень узко ориентированы.
— Интеграторы вам не нужны, получается.
— По сути, биржа сама по себе и есть интегратор. Она и по основной деятельности своей — интегратор рынка, потому что мы объединяем различные отрасли и знания. И в том что касается ИТ, во многом специфика и сложность задач такова, что знания концентрируются внутри биржи. У нас достаточно сильная собственная команда.
РОССИЙСКАЯ БИРЖА НА МИРОВОМ ФОНЕ
— Можно ли технически сравнить вас с крупными зарубежными биржами? Франкфурт, Лондон, Nasdaq…
— Биржевое сообщество достаточно открыто. Мы общаемся с коллегами, знаем об их ИТ-проектах и в курсе, кто чем занимается. Объединенная биржа достаточно неплохо смотрится на фоне своих мировых конкурентов. По числу транзакций, обрабатываемых системой в единицу времени, мы находимся в числе первых 15 в мире.
По показателю производительности — также вполне конкурентоспособны.
И мы более чем конкурентоспособны в системах риск-менеджмента. Это исторически сложилось исходя из нашей структуры рынка и проблем нашей биржевой инфраструктуры. Наши системы реального времени предторгового риск-менеджмента серьезно продвинуты. То, что у нас используется уже многие годы, только сейчас начинает появляться в ряде ведущих мировых бирж.
Слабее мы, естественно, в наборе продуктов. В том, что биржа может дать участникам рынка как провайдер ИТ-услуг. Однако эта область сейчас активно развивается. Наши международные конкуренты ушли вперед, но у нас есть план догнать их и позиционировать российскую биржу не только как площадку для совершения сделок и расчетов, но, в том числе и как провайдера услуг.
— Расскажите подробнее про торговый риск-менеджмент, в котором вы сильны. Это контроль «пускать — не пускать» для потенциальных участников торгов?
— В режиме реального времени делается расчет по ряду параметров и лимитов, которые предшествуют заключению сделки на бирже.
— То есть, заявка может быть отклонена автоматизированной системой? По каким признакам?
— По наличию средств или бумаг на счету участника. Основной вопрос: есть ли у него достаточно средств для проведения транзакции.
БИРЖА КАК СЕРВИС-ПРОВАЙДЕР
— О collocation вы сказали, а будет ли ММВБ-РТС предоставлять участникам торгов более высокоуровневые услуги? Продавать виртуальные сервера или сдавать в аренду готовые приложения?
— Мы сейчас работаем над стратегией в этом направлении. Будут продукты по модели SaaS. Мы хотим иметь полную линейку решений для участника рынка, доступную от биржи. Чтобы он мог выбирать услуги, которые биржа делает сама, либо продукты сторонних поставщиков, которые доступны на нашей платформе. Пока конкретных сервисов я сейчас назвать не могу, но в этом направлении ведется работа.
— Вы уже дважды упомянули «стратегии»: для ЦОДов и для SaaS. А какие еще высокоуровневые документы биржи описывают развитие ваших ИТ?
— Они еще не приняты. Например, сейчас передо мной лежит один из таких рабочих документов — «Развитие интеграции ИТ объединенной биржи». Говорить о них имеет смысл после принятия.
— Какие еще услуги вы можете предоставлять участникам торгов?
— Поскольку биржа является своего рода магнитом, притягивающим большое количество информации, то в первую очередь логично развивать системы бизнесаналитики. Это наиболее вероятный вектор развития. B нем необходимы для разных прикладных задач: рыночной аналитики, риск-менеджмента и т. д. — чтобы люди могли найти данные по активности своей компании, своего сегмента рынка, и принять на их основании те или иные решения.
— Какую долю в выручке биржи формируют услуги?
— Мы очевидно отстаем от международных бирж по проценту дохода от продажи рыночной информации и услуг. Это данность, с которой мы будем работать, чтобы повысить эту долю.
— Какой в среднем по миру процент от выручки бирж приходится на внешние ИТ-услуги?
— От 7 % до 20 %, в зависимости от стратегии биржи. Некоторые их них своей задачей считают сдачу в аренду торговых систем, их продажу и так далее. А есть биржи, которые не делают ставку на это направление, отсюда и разброс. Если взять биржи типа NYSE или Nasdaq, то у них этот процент достаточно велик, ближе к 20 %. Мы хотим хотя бы приблизиться 7 – 10 %.
Надо отметить, что у нас в отличие от названных коллег есть собственные пост-трейд и расчетные функции (они же покупают их у аутсорсеров), а это значит, что доля ИТ-услуг у ММВБ-РТС снижается просто из‑за наличия ряда продуктов, нетипичных для международных бирж. Особенно в Штатах клирингом и депозитариями занимаются сторонние компании. Так что сравнивать очень сложно, потому что инфраструктуры рынка отличаются фундаментально.
КАК БУДЕТ РАЗВИВАТЬСЯ ИТ БИРЖИ ДАЛЬШЕ
— Какие еще важные моменты вы прописали в стратегии развития биржи помимо увеличения доли выручки от предоставления ИТ-услуг?
— Развитие всей линейки наших торговых систем для обеспечения нужной производительности. Объемы трейдинга с развитием алгоритмической торговли, естественно, увеличиваются, и способность его обслуживать — это задача, которая постоянно стоит перед любой биржей.
Фундаментальных изменений в ИТ-инфраструктуре мы больше не ожидаем. Основное развитие идет в области параллелизации вычислений и в использовании сверхскоростных шин передачи данных. Сейчас мы как раз выбираем такие решения. Эти два вектора проходят через все биржи.
— Когда вы планируете полностью завершить технологическую интеграцию двух площадок?
— Мы ожидаем, что основные проекты по интеграции будут закончены к концу первого квартала 2013 г.
— Какие‑то направления, подразделения не пережили объединения? Избавлялись от чего‑то избыточного в сфере ИТ?
— С точки зрения ИТ избыточности не было. Обе организации до объединения испытывали сильный кадровый голод. Определенная оптимизация, естественно, планируется, но нельзя сказать, что она будет сильной. Двум командам до объединения ресурсов не хватало, две площадки конкурировали друг с другом. Сейчас весь потенциал вместо конкуренции направлен на создание новых продуктов.
— Насчет конкуренции: ощущаете ее с зарубежными площадками?
— Основная наша борьба — это перевод размещений и торговли российскими ценными бумагами с международных площадок на российские. Здесь не только и не столько в технологиях дело, как в инфраструктуре рынка. Для того чтобы сделать торговлю в России такой же привлекательной, как на западных площадках, привлечь инвесторов, нужно менять правила: обеспечивать доступ пенсионных фондов и т. д. С точки же зрения технологий — это гонка вооружений. Ты должен быть лучше, быстрее, производительнее. Нужно иметь инфраструктуру, которая в состоянии обеспечить гигантское количество транзакций, к тому же удобную для участников.
— Нет желания использовать в работе один из отечественных суперкомпьютеров?
— В своей инфраструктуре мы рано или поздно придем к многопроцессорным распределенным вычислениям на своих стандартных серверах. В данный момент система к этому не готова. Нужно работать над дальнейшим распараллеливанием процессинга в ней. Что касается именно суперкомпьютеров, то это, конечно, очень надежная технология, но она очень дорогая. Очень многие международные биржи идут ровно по тому же сценарию, по которому движемся и мы.
 

Beast

Почетный гражданин
было бы только чем торговать... росфонда в полной Ж. сплошной инсайд и никакого свободного рынка....
А Квик так вообще издевательство над трейдерами

Только ЦМЕ и найс, только запад. но эт имхо, кому нравится - могут лезть в это Г. тут как в анекдоте про сантехника и ученика "Учись, а то так и будешь всю жизнь ключи подавать" :D
 

Beast

Почетный гражданин
еще в тему, от Слепакова :D
А так то чо, молодцы, отмыли энную сумму.
только наверняка 60-80% от заявленной суммы осели у кого-то в карманах в качестве откатов и премиальных :D
 
Последнее редактирование модератором:

dmitrytkachev

NYSE-трейдер
было бы только чем торговать... росфонда в полной Ж. сплошной инсайд и никакого свободного рынка....
А Квик так вообще издевательство над трейдерами

Только ЦМЕ и найс, только запад. но эт имхо, кому нравится - могут лезть в это Г. тут как в анекдоте про сантехника и ученика "Учись, а то так и будешь всю жизнь ключи подавать" :D
В целом согласен, но для диверсификации акции в долгосрок прикупать можно на свободные длинные деньги. Лучше чем депозит в банке держать. А то вдруг границу прикроют с какой нибудь из сторон. Мало ли....
 
Верх