ТРУДЫ СЕМИНАРАdfgm.math.msu.su/spec/rashevskii/tsvta_xxvii.pdf · явил...

М О С К О В С К И Й Г О С У Д А Р С Т В Е Н Н Ы Й У Н И В Е Р С И Т Е Тимени М. В. Л О М О Н О С О В А

ТРУДЫ СЕМИНАРАПО ВЕКТОРНОМУИ ТЕНЗОРНОМУ

АНАЛИЗУС ИХ ПРИЛОЖЕНИЯМИ

К ГЕОМЕТРИИ, МЕХАНИКЕИ ФИЗИКЕ

ВЫПУСК XXVII

М Е Х А Н И К О - М А Т Е М А Т И Ч Е С К И Й Ф А К У Л Ь Т Е ТКАФЕДРА ДИФФЕРЕНЦИАЛЬНОЙ ГЕОМЕТРИИ И ПРИЛОЖЕНИЙ

2 0 1 1

УДК 514; 515.1ББК 22.15

Т 78

Труды семинара по векторному и тензорному анализу с ихприложениями к геометрии, механике и физике. Вып. XXVII

Москва. МГУ им. М. В. Ломоносова, механико-математический факуль-тет, кафедра дифференциальной геометрии и приложений. 2011.

Редакционная коллегия: А. Т. Фоменко (главный редактор), Э. Б. Винберг,Н. П. Долбилин, Л. Е. Евтушик, А. О. Иванов, Д. П. Ильютко (секретарь),Г. Л. Литвинов, В. О. Мантуров (зам. главного редактора), О. В. Мантуров ,А. С. Мищенко, А. Л. Онищик, А. А. Ошемков, И. Х. Сабитов, А. С. Солодов-ников, А. А. Тужилин, А. И. Шафаревич.

Издание «Трудов семинара по векторному и тензорному анализу» было начатов 1933 г. В. Ф. Каганом. На протяжении многих лет в этих сборниках публиковалисьнаиболее яркие работы участников и гостей московской геометрической и топологиче-ской школы, а также первые работы молодых геометров — студентов и аспирантов.

Настоящий выпуск содержит статьи, представляющие различные направленияразвития современной геометрии и топологии. Авторы статей в разное время высту-пали с докладами на семинарах кафедры дифференциальной геометрии и приложенийи других геометрических семинарах механико-математического факультета МГУ. Кругтем, рассматриваемых в предложенных статьях, достаточно широк. Здесь обсуж-даются топология интегрируемых гамильтоновых систем, геометрия вариационныхзадач и теория минимальных сетей, некоторые вопросы, связанные с симплектическойгеометрией, топологией особенностей гладких отображений, маломерной топологией,комбинаторной геометрией, различные задачи, возникающие в теории топологическихгрупп, теории групп и алгебр Ли, тензорной алгебре, теории связностей, теории рас-слоений, алгебраической топологии.

Выпуск рассчитан на научных работников, аспирантов и студентов старших кур-сов, интересующихся геометрией и топологией.

ISBN 978-5-211-06253-5 c⃝ Издательство Московскогоуниверситета, 2011 г.

С О Д Е Р Ж А Н И Е

Олег Васильевич Мантуров . . . . . . . . . . . . . . . . . . . . . 4Доклады, сделанные на семинаре (октябрь 2009 – май 2011) . . . . . . 9Статьи участников семинара . . . . . . . . . . . . . . . . . . . . . 41В. В. Горбацевич. Об униформизируемых многообразиях . . . . . . . . 42M. B. Граев, Г. Л. Литвинов. Интегральная геометрия, обобщенные преоб-

разования Фурье и вопрос И. М. Гельфанда . . . . . . . . . . . . 51А. О. Иванов, А. А. Тужилин, А. Ю. Ерёмин„ Е. С. Ероховец, З. Н. Овсян-

ников, А. С. Пахомова, О. В. Рублёва, Н. П. Стрелкова, Е. И. Фило-ненко. Минимальные заполнения псевдометрических пространств . . 83

Е. А. Кудрявцева, Т. А. Лепский. Топология слоений и теорема Лиувиллядля интегрируемых систем с неполными потоками . . . . . . . . . 106

А. С. Мищенко, К. Моралес Мелендес. Описание G-расслоений на про-странствах с квази-свободным собственным действием дискретной груп-пы G . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 150

А. Т. Фоменко. Геометрическое построение решений неавтономного уравне-ния X ′(t) = K(t)X(t) для классических трехмерных алгебр Ли . . . 173

ОЛЕГ ВАСИЛЬЕВИЧ МАНТУРОВ(3 июля 1936 – 23 июля 2011)

Настоящий выпуск «Трудов семинара по векторному и тензорно-му анализу» посвящен памяти Олега Васильевича Мантурова.

Двадцать третьего июля 2011 года после тяжелой продолжи-тельной болезни скончался профессор, заслуженный деятель наукиРоссии Олег Васильевич Мантуров. Его имя неразрывно связанос развитием геометрии, топологии, теории групп и алгебр Ли в нашейстране начиная с середины 1950-х гг. и, с того же времени —с нашим семинаром.

Олег Васильевич Мантуров родился 3 июля 1936 года в Москве.Его родители — Василий Константинович и Мария Афанасьев-на — приехали в Москву из Рязанской и Тульской областей;в то время Москва нуждалась в людях. Они устроились работатьв научно-исследовательский институт судостроительной промышлен-ности, Мария Афанасьевна — инженером, заведующим лаборатори-ей, а Василий Константинович — мастером, где проработали до вы-хода на пенсию.

1941 год, война, отец ушел на фронт, а мать с двумя малень-кими детьми и старухой матерью уехала в эвакуацию в Мордовию.В 1943 г. семейство вернулось в Москву (отец — после раненияпод Сталинградом). С 1943 по 1953 гг. Олег Васильевич училсяв средней школе 407, окончил ее с золотой медалью. В школе про-явил интерес к математике, начал посещать математические кружкипри мехмате МГУ (руководители Н. Н. Ченцов и Е. А. Морозова),в последний школьный год — студенческий кружок (руководительЕ. Б. Дынкин). Олег Васильевич участвовал в математических олим-пиадах при мехмате МГУ, дважды был победителем (вторая пре-мия – 1951, первая премия – 1952). В 1953 г. Олег Васильевичпоступил на мехмат МГУ. Время учебы Олега Васильевича на мех-мате было временем расцвета советской науки. Он слушал лек-ции А. Я. Хичина, И. Р. Шафаревича, Л. С. Понтрягина, А. Г. Курошаи других замечательных математиков. В мире и в Советском Союзешироко развивалась алгебраическая топология, в 1958 г. вышелсборник трудов «Расслоенные пространства» под ред. Е. Б. Дынкина,В. Г. Болтянского и М. М. Постникова.

ОЛЕГ ВАСИЛЬЕВИЧ МАНТУРОВ 5

Уже на первом курсе Олег Васильевич написал научную работу«Классификация антилинейных преобразований».

Вся жизнь и трудовая деятельность Олега Васильевича быласвязана с научной работой в области математики и преподаваниемматематики в высшей школе.

После окончания мехмата МГУ в 1958 г. Олег Васильевич по-ступает в аспирантуру к П. К. Рашевскому. Олег Васильевич всегдасчитал Петра Константиновича своим учителем и свято чтил егопамять. В 1962 г. Олег Васильевич защитил блестящую кандидат-скую диссертацию «Однородные римановы пространства с неприво-димой группой вращений». По своей важности классификация этихпространств была следующей после работы Э. Картана, связаннойс классификацией симметрических пространств.

После защиты кандидатской Олег Васильевич три года рабо-тает ассистентом кафедры математики Всесоюзного заочного энер-гетического института. Затем в течение 1964–1981 гг. Олег Ва-сильевич работал в Московском кооперативном институте (с 1966по 1981 гг. — заведующим кафедрой математики и физики). С 1981по 2009 гг. он работает в Московском областном педагогическоминституте (МОПИ–МПУ–МГОУ) заведующим кафедрой геометрии,в 1982–1983 гг. был проректором по научной работе. В осеннемсеместре 1999/2000 г. работал в Университете Фатих (Стамбул, Тур-ция). С 1982 г. он регулярно выезжал в провинциальные университе-ты и педагогические институты для оказания методической помощи.При кафедре геометрии МОПИ–МПУ–МГОУ успешно работалааспирантура, под руководством Олега Васильевича выполнили дис-сертационные исследования и защитили кандидатские диссертации 13молодых советских и российских математиков.

В начале 1980-х гг. многие ученики Олега Васильевича, частозаканчивавшие провинциальные педагогические институты, проходи-ли через домашние семинары Олега Васильевича, через «Семинарпо векторному и тензорному анализу» и через три-четыре года за-щищали физико-математические диссертации на актуальные темы:однородные пространства, мультипликативный интеграл, топология.

Все это время Олег Васильевич не порывал связей с МГУ, ссеминаром по векторному и тензорному анализу, регулярно приобщаясвоих учеников к ведущим научным центрам нашей страны.

На многие кандидатские диссертации, защищаемые математикамииз различных московских геометрических и топологических школ,Олег Васильевич оказал непосредственное влияние.

Много времени Олег Васильевич уделял также компьютернойгеометрии, внедрению пакета «Mathematica» в математическое обра-зование, написанию электронных учебников. Результатом этого былауспешная защита под руководством Олега Васильевича Мантурова

6 ОЛЕГ ВАСИЛЬЕВИЧ МАНТУРОВ

более двадцати кандидатских и трех докторских методических дис-сертаций.

Многие ученики Олега Васильевича занимали и занимают долж-ности заведующих кафедрами в разных вузах бывшего СоветскогоСоюза.

Первый крупный научный успех Олега Васильевича Мантуро-ва — его кандидатская диссертация, написанная под руководствомП. К. Рашевского, — имеет фундаментальное значение. В 1968 г.этот результат был повторен с дополнительными подробностями из-вестным американским топологом Дж. Вольфом. В настоящее времяоднородные римановы пространства с неприводимой группой вра-щений носят имя пространств Мантурова–Вольфа. В предисло-вии к сборнику избранных трудов семинара «Tensor and VectorAnalysis. Geometry, Mechanics, and Physics», вышедшему под редак-цией А. Т. Фоменко, О. В. Мантурова, В. В. Трофимова в издательствеGordon and Breach в 1998 г., известный английский тополог НайджелХитчин писал об особой роли семинара в развитии геометрии итопологии в СССР и в мире и особо отмечал центральную рольработ О. В. Мантурова по классификации однородных пространств(они заняли примерно треть издания).

В середине 1960-х гг. математические интересы Олега Василье-вича были связаны с новыми идеями в алгебраической топологии(K-теория и др.). Он принимает участие в работе известного семи-нара С. П. Новикова. Изучение новых методов топологии позволилопоставить вопросы о глубоких свойствах геометрических объектов —однородных римановых пространств. Эти свойства обусловлены темобстоятельством, что теория однородных пространств и K-теориятесно связаны с теорией представлений полупростых групп Ли, ко-торая в то время была уже далеко продвинута. Результаты исследо-ваний этого направления составили содержание докторской диссер-тации Олега Васильевича «Векторные расслоения над компактнымиоднородными пространствами» (1973). В этой работе впервые былпрактически применен изоморфизм Ботта для очень широкого классаконкретных пространств.

Начиная с 1981 г. Олег Васильевич руководил геометрическимсеминаром при Московском областном педагогическом институте,а также известным методическим семинаром «Передовые идеи в пре-подаваннии математики в СССР и за рубежом» (временами разделяяэту работу с другими известными учеными). Этот семинар был осно-ван И. К. Андроновым в 1950-х гг.

Олег Васильевич Мантуров был многолетним участником зна-менитого семинара по векторному и тензорному анализу, а с1983 г. — одним из его руководителей (совместно с С. П. Новиковым,А. Т. Фоменко, Л. В. Сабининым, В. В. Трофимовым). В то время нашсеминар был ведущим семинаром в Советском Союзе, и через него

ОЛЕГ ВАСИЛЬЕВИЧ МАНТУРОВ 7

проходило множество докторских диссертаций по геометрии и топо-логии. Научные интересы этого периода в основном касались следу-ющих направлений.

1. Разработка так называемого принципа включения. Уста-новлено, что при выполнении некоторых условий тензоры, инвари-антные относительно неприводимой линейной группы, могут бытьвыражены простой формулой. Указаны многочисленные примененияпринципа к различным геометрическим задачам.

2. Мультипликативный интеграл. Как известно, конструкциямультипликативного интеграла является весьма общей и включа-ет в себя многие разделы математики. Были установлены новыеприложения мультипликативного интеграла, разработаны некоторыеметоды исследований, поставлены естественно возникающие задачи.

3. Связь между теорией узлов и теорией представлений. Рядизначальных фактов такой связи навел на мысль о более система-тическом изучении вопроса. Конец XX в. был ознаменован бурнымразвитием теории узлов и ее взаимосвязи с различными разделамиматематики, в частности, с теорией представлений групп и алгебр Ли.

Открытость и добродушие всегда привлекали к Олегу Василье-вичу учеников и коллег. На протяжении многих десятков лет мно-гие участники нашего семинара консультировались у Олега Васи-льевича по самым различным математическим вопросам, он про-оппонировал десятки докторских и кандидатских диссертаций поразличным разделам геометрии, топологии, теории групп и ал-гебр Ли. В 2000 г. Олег Васильевич совместно с профессоромВ. В. Трофимовым и В. О. Мантуровым основали при кафедре диффе-ренциальной геометрии и приложений мехмата МГУ семинар «Узлыи теория представлений», работающий до сих пор. Олег Василье-вич принимал участие в написании ряда книг научного и учебногохарактера. Среди них «Толковый словарь математических терми-нов» (М.: Просвещение, 1965; в соавторстве с Ю. К. Солнцевым,Ю. И. Соркиным, Н. Г. Фединым; тираж 100 000 экз.), «Математикав понятиях, терминах и определениях» (в 2-х т.; М.: Просвеще-ние, 1979, 1981; в соавторстве с Ю. К. Солнцевым, Ю. И. Соркиным,Н. Г. Фединым; тиражи обоих томов 280 000 зкз.), «Курс высшейматематики» / учебник для втузов СССР (М.: Высшая школа, 1986;в соавторстве с Н. М. Матвеевым; тираж 70 000 зкз.), «Курс высшейматематики» / учебник для втузов СССР (М.: Высшая школа, 1990;тираж 70 000 экз.), «Элементы тензорного исчисления» (М.: Про-свещение, 1992; тираж 19 000 экз.). Олег Васильевич читал науч-ные лекции в некоторых европейских странах (Испания, Португалия,Италия, Германия), участвовал в работе многих авторитетных науч-ных конференций. В 1996 г. ему присвоено звание «Заслуженныйдеятель науки Российской Федерации».

8 ОЛЕГ ВАСИЛЬЕВИЧ МАНТУРОВ

Олег Васильевич был активным инициатором возобновления ра-боты семинара по векторному и тензорному анализу и возобновленияиздания его трудов.

Олег Васильевич был не только замечательным ученым и блиста-тельным лектором. Он никогда не отказывал в помощи людям, про-оппонировать диссертацию, довести диссертацию до защиты, своимучастием способствовать развитию математики в том или ином городеРоссии, прорецензировать или отредактировать статью. Несмотря натяжелую болезнь, Олег Васильевич продолжал работать с молодымиматематиками, поддерживать связь со своими учениками во многихвузах страны, до 2010 г. нес полную нагрузку профессора, регуляр-но посещал наш вновь открывшийся семинар, до последних днейинтересовался самыми разнообразными научными направлениями.Отзывчивость и чуткость Олега Васильевича проявлялись не тольков математике. Он всегда был рад прийти на помощь, поддержатьморально и материально своих коллег в трудную минуту или во времяболезни. До 2009 г., будучи сам тяжело болен и продолжая активноработать, Олег Васильевич постоянно ухаживал за умирающей ма-терью.

Имя Олега Васильевича навсегда останется в памяти нашихученых как одного из самых ярких представителей советской геомет-рической и топологической школы, автора ярких работ и известныхкниг, основателя научной школы, руководителя известных семинаров,доброго и отзывчивого человека, ученого и учителя.

А. Т. ФоменкоГ. Л. ЛитвиновВ. О. МантуровД. П. Ильютко

АННОТАЦИИ ДОКЛАДОВ, СДЕЛАННЫХ НА СЕМИНАРЕС ОКТЯБРЯ 2009 Г. ПО МАЙ 2011 Г.

10 АННОТАЦИИ ДОКЛАДОВ

О. В. МантуровПринцип включения

29 октября 2009 г.

Пусть F — представление группы G в линейном пространстве L.Нас интересуют полилинейные формы W в L, инвариантные отно-сительно F (G). Такие объекты интересны для изучения когомологий(кососимметрические формы), для изучения инвариантов представле-ния — инвариантных функций на L (симметрические полилинейныеформы W (x1, . . . , xn), рассмотренные для x = x1 = . . . = xn)и тому подобных объектов. Построение полилинейных форм в Lудобно производить в том случае, когда пространство L являетсяматричным пространством. А именно, будем рассматривать в каче-стве полилинейных форм на L формы W (x1, . . . , xn) = Tr(x1 ·. . .·xn),где x1, . . . , xn — матрицы из L, знак « · » означает матричноеумножение, «Tr» означает след. Указанные полилинейные формыможно подвергнуть симметризации. Ситуация, при которой простран-ство представления является матричным, естественно возникает приследующих обстоятельствах. Пусть G/H — однородное простран-ство, а g, h — алгебры Ли групп G,H . Рассмотрим представлениеAd(H) на g в предположении, что G — линейная (матричная)группа. Имеет место разложение линейных (матричных) пространствна инвариантные и неприводимые относительно Ad(H) подпростран-ства g = h + b1 + . . . + bk , в которых действуют неприводимыепредставления Ad(H), F1, . . . , Fk . При этом полилинейные формыW (x1, . . . , xn) = Tr(x1 · . . . · xn) на bj , j = 1, . . . , k, инвариантныотносительно Fj . Описанный способ построения инвариантных по-лилинейных форм называется принципом включения и может бытьприменен к некоторым задачам тензорной алгебры.

АННОТАЦИИ ДОКЛАДОВ 11

Д. П. ИльюткоЧетырехвалентные графы, хордовые диаграммы

и матрицы инцидентности

5 ноября 2009 г.

Рассмотрим оснащенный четырехвалентный граф, т.е. 4-валент-ный граф, в каждой вершине которого задана структура противопо-ложных ребер. Будем рассматривать только те графы, для которыхсуществует эйлеров обход, при движении вдоль которого мы все-гда переходим с ребра на противоположное ему. Примером такого4-валентного графа может служить проекция узла на плоскость.Такой обход задает гауссову диаграмму, т.е. окружность с хордами.Известно, что для любого связного 4-валентного графа можно по-строить «поворачивающий» эйлеров обход, т.е. во время движенияпо нему мы переходим с ребра на соседнее непротивоположное емуребро. Такой обход тоже дает хордовую диаграмму. В топологиии комбинаторике применяются как гауссовы диаграммы, так и по-ворачивающие хордовые диаграммы. Иногда удобнее использоватьповорачивающие обходы, как, например, при исследовании вложения4-валентных графов в плоскость, иногда — гауссовы диаграммы,инварианты Васильева. В докладе будут рассмотрены обе хордо-вые диаграммы и доказана теорема, позволяющая перейти от одниххордовых диаграмм к другим диаграммам. Решение дается простойформулой на языке матриц инцидентности. В конце доклада будетпредложен ряд нерешенных задач.


Н. П. ДолбилинПараллелоэдры: классические и новые результаты,

проблема Вороного


Параллелоэдр — одно из основных понятий геометрии чисели геометрической кристаллографии, которое было введено великимкристаллографом Е. С. Федоровым (1885). Параллелоэдр определя-ется как выпуклый d-многогранник, чьи параллельные копии запол-няют пространство Ed нормальным (т.е. грань в грань) образом.Параллелепипед — наиболее очевидный пример паралллеоэдра. На-много интересней другой пример параллелоэдра — перестановочныймногогранник. Предполагается рассказать об основных результа-тах теории параллелоэдров (Минковский, Вороной, Венков и др.),о некоторых новых результатах (теорема об индексе и др.). Будет данобзор основных результатов, относящихся к гипотезе Вороного обаффинной эквивалентности произвольного параллелоэдра некоторо-му параллелоэдру Вороного.


В. О. Мантуров

Хордовые диаграммы, свертки тензоров,инварианты Васильева узлов и вложения

четырехвалентных графов в двумерные поверхности


Хорошо известна следующая конструкция, принадлежащая ДрорБар-Натану: по трехвалентному графу Γ и алгебре Ли G строитсячисло, получаемое сверткой тензора структурных констант алгеб-ры G согласно этому графу. Среди трехвалентные графов особуюроль играют так называемые хордовые диаграммы — графы, со-стоящие из одного ориентированного цикла, проходящего через всевершины, и набора неориентированных ребер-хорд, соединяющихточки на цикле. На хордовых диаграммах имеется так называемоечетырехчленное соотношение, благодаря которому они приобрета-ют структуру алгебры Хопфа. Эта алгебра связана с инвариантамиВасильева узлов: каждой функции на хордовых диаграммах, удо-влетворяющей четырехчленному соотношению, соответствует инва-риант Васильева. Оказывается, что многие известные функции изтеории графов удовлетворяют этому соотношению и, следовательно,задают инварианты Васильева. В частности, таковыми являются ифункции, получающиеся согласно конструкции Бар-Натана, по тойпричине, что 4T-соотношение соответствует тождеству Якоби. Этаконструкция (и ее обобщение, связанное не только с алгеброй Ли,но и с ее представлением) дает одно из описаний инвариантов узлов,связанных с алгебрами Ли — квантовых инвариантов.

В настоящем докладе мы затронем два вопроса.1. Дан четырехвалентный граф, у которого в каждой вершине

четыре исходящих полуребра разбиты на две пары (формально) про-тивоположных. В какие двумерные поверхности можно вложить этотграф, чтобы соотношение противоположности сохранялось, а поверх-ность была разбита на диски способом, допускающим шахматнуюраскраску?

2. Какими свойствами будут обладать функции на хордовых диа-граммах, получающиеся из присоединенного представления алгебрыsl(n) посредством конструкции Бар-Натана?

Оказывается, задачи 1 и 2 тесным образом связаны: произ-водящая функция для вложений графов в двумерные поверхности«похожа» на функцию на некоторых соответствующих графам хор-довых диаграммах. Будет упомянута связь этой теории с другими


комбинаторными конструкциями, в частности, с работой Бар-Натанапро проблему четырех красок и алгебру so(3). Будет сформулированряд задач, одна из которых — переформулировка задачи 1 — звучитследующим образом.

Дана симметричная матрица M размера n × n над полем издвух элементов. Нужно разбить множество индексов 1, . . . , nматрицы M на два подмножества I и J и описать всевозможныезначения, которые пробегает сумма рангов соответствующихквадратных матриц MI и MJ .

В частности, матрицы с суммой рангов 0, т.е. с двумя ну-левыми блоками по диагонали, соответствуют так называемымd-диаграммам, которые играют ключевую роль в ряде задач теорииузлов и теории графов.


А. И. ШафаревичСпектральные серии дифференциальных операторов,соответствующие сингулярным инвариантным кривым

частично интегрируемых гамильтоновых систем


Хорошо известно, что инвариантным многообразиям класси-ческих гамильтоновых систем (например, лиувиллевым торам илиустойчивым периодическим траекториям) при определенных условияхсоответствуют спектральные серии квантовых операторов. В основеэтого соответствия лежит геометрическая конструкция (каноническийоператор и условия квантования Маслова или комплексное векторноерасслоение над инвариантным многообразием). В докладе обсужда-ется обобщение такой конструкции на случай сингулярных кривых —сепаратрисных диаграмм частично интегрируемых систем — и опи-сываются соответствующие спектральные серии.


Э. Б. ВинбергТриады, короткие SO3-подгруппыи квазиэллиптические плоскости

3 декабря 2009 г.

Пусть G — связная простая компактная группа Ли с триви-альным центром. Триадой в группе G называется тройка сопряжен-ных инволютивных элементов s1 , s2 , s3 , удовлетворяющих условиюs1s2s3 = e (т.е. вместе с единицей составляющих четверную группуКлейна). Порядок элементов в триаде несуществен, так как простоегеометрическое рассуждение (принадлежащее А. Н. Минченко) пока-зывает, что любая их перестановка реализуется некоторым внутрен-ним автоморфизмом группы G. Простейшим и исходным примеромтриады является множество диагональных матриц (кроме единичной)в группе SO3 . Ясно, что триада в любой подгруппе H ⊂ G являетсятриадой в G. В частности, всякая подгруппа, изоморфная SO3 (мыв дальнейшем будем называть такие подгруппы SO3-подгруппами),определяет триаду в G. Однако несопряженным SO3-подгруппаммогут отвечать сопряженные триады.

Назовем SO3-подгруппу короткой, если размерности неприво-димых компонент ее присоединенного представления в касательнойалгебре Ли группы G не превосходят 5 (т.е. равны 1, 3 или 5).Классификация коротких SO3-подгрупп легко может быть извлеченаиз классификации всех 3-мерных простых подалгебр простых ал-гебр Ли, полученной Е. Б. Дынкиным. Путем классификации триади ее сравнения с классификацией коротких SO3-подгрупп доклад-чик в 2005 г. установил, что всякая триада содержится в короткойSO3-подгруппе, определенной однозначно с точностью до сопряжен-ности, а недавно А. Н. Минченко получил простое априорное доказа-тельство этого факта.

В серии работ 1960-х гг. Л. В. Сабинин изучал однородные про-странства, названные им трисимметрическими. В предыдущих терми-нах они могут быть описаны как однородные пространства G/H , гдеH — подгруппа, нормализуемая некоторой триадой и содержащаяее централизатор. Сабинин классифицировал все несимметрическиетрисимметрические пространства и, тем самым, частично классифи-цировал триады.

Другой тип геометрий, связанных с триадами, обобщает эллип-тические плоскости над полями R и C и телом кватернионов H.А именно, для любой триады s1, s2, s3 ∈ G рассмотрим симметри-ческое пространство X = G/K , где K = ZG(s1). Тогда s1 — это


симметрия относительно точки o = eK этого пространства, s2 —симметрия относительно некоторой другой точки p. Назовем точкиx, y ∈ X ортогональными, если пара (x, y) G-эквивалентна паре(o, p). Множество точек, ортогональных какой-либо точке, назовемее полярой. Это связное вполне геодезическое подмногообразие по-ловинной размерности, изоморфное K/L, где L = ZK(s2). Полярыточек будем называть прямыми. Отображение «точка → поляра»биективно и сохраняет отношение инцидентности. В этом смыслепространство X можно называть квазиэллиптической плоскостью.Любые две точки общего положения принадлежат одному и тому жеконечному числу d прямых, называемому степенью данной квази-эллиптической плоскости, и, по двойственности, любые две прямыеобщего положения пересекаются по d точкам. Геометрии такого ти-па изучались в 1980–1990-х гг. в работах Б. И. Ченя, Т. Нагано иК. Атсуямы.

Анализируя градуировку касательной алгебры g группы G, опре-деляемую триадой, можно каноническим образом построить некото-рую неассоциативную алгебру J с инволюцией так, что касатель-ное пространство To(X) естественно отождествляется с J ⊕ J . Этопозволяет называть X квазиэллиптической плоскостью над J . Самаалгебра Ли g при этом в некотором обобщенном смысле оказываетсяалгеброй косоэрмитовых матриц третьего порядка над J . В случае,когда J — тензорное произведение двух композиционных алгебр,такие алгебры Ли были построены докладчиком в 1964 г., что про-лило некоторый свет на гипотезу Б. А. Розенфельда о существованиипроективных (или, более точно, эллиптических) плоскостей над тен-зорными произведениями алгебры октав на композиционные алгебры.В настоящее время можно считать, что гипотеза Розенфельда в ееправильном понимании доказана. Более того, оказалось, что все сим-метрические пространства особых групп Ли являются квазиэллип-тическими плоскостями над некоторыми неассоциативными алгеб-рами (не обязательно тензорными произведениями композиционныхалгебр).

Неассоциативные алгебры описанного выше типа впервые появи-лись в работах И. Л. Кантора в 1960–1970-х гг. (в несколько другойсвязи). Впоследствии их аксиоматическая теория была построенаБ. Н. Аллисоном.


В. А. ВасильевИнтегрируемые овалы и монодромия


Я расскажу о паре проблем интегральной геометрии, которыеявно «зажились» в качестве нерешенных.

Ограниченная область в Rn с гладкой границей называется ал-гебраически интегрируемой, если объемы, отсекаемые от нее всевоз-можными аффинными гиперплоскостями, являются алгебраическойфункцией на пространстве всех этих гиперплоскостей.

Ньютон доказал, что в R2 не бывает выпуклых алгебраически ин-тегрируемых областей, а согласно Архимеду шар в R3 алгебраическиинтегрируем; легко проверить также, что интегрируемы всевозмож-ные эллипсоиды в нечетномерных пространствах.

Две задачи, пока не решенные в полной общности, таковы.1. Существуют ли алгебраически интегрируемые овалы в четно-

мерных пространствах?2. Существуют ли алгебраически интегрируемые овалы в нечет-

номерных пространствах, кроме эллипсоидов?Я расскажу о подходах к решению этих задач и о частичных

результатах. Например, ни в каких четномерных пространствах не су-ществует выпуклых овалов, а в R2 не существует и невыпуклых. Еслиони (помимо эллипсоидов) и существуют в нечетномерных простран-ствах, то должны удовлетворять крайне сильным ограничениям нагеометрию комплексификации границы области. Мне представляется,что имеющейся на сегодняшний день теории достаточно для реше-ния этих двух задач, и завершение доказательств — задача скорееолимпиадного типа, которая может поддаться изобретательному итехнически сильному энтузиасту.


А. В. БолсиновБигамильтоновы структуры и особенности

интегрируемых гамильтоновых систем


Гамильтонова система на пуассоновом многообразии M называ-ется интегрируемой, если она имеет достаточно много коммутирую-щих первых интегралов f1, . . . , fs , которые функционально незави-симы на M почти всюду. Классическая теорема Лиувилля описыва-ет поведение системы в окрестности неособого совместного уровняпервых интегралов. Однако структура сингулярного множества K ,на котором дифференциалы первых интегралов становятся линейнозависимыми, также очень важна для анализа поведения системы вцелом. Как правило, именно это множество содержит положенияравновесия системы и наиболее интересные замкнутые траектории.Цель доклада — показать, что в случае бигамильтоновых системструктура множества K тесно связана со свойствами соответствую-щего пучка согласованных скобок Пуассона. Понимание этой взаи-мосвязи оказывается чрезвычайно эффективным при изучении осо-бенностей интегрируемых систем, особенно в случае многих степенейсвободы, где использование других методов приводит к серьезнымвычислительным трудностям. Поскольку во многих задачах скобкиПуассона имеют естественную алгебраическую интерпретацию, бига-мильтонова технология позволяет переформулировать аналитическиеи топологические вопросы, относящиеся к динамике рассматривае-мых системы, на чисто алгебраическом языке, что приводит к про-стым и естественным ответам.


А. С. МищенкоФормула Хирцебруха, ее обобщения и приложения

18 февраля 2010 г.

Формула Хирцебруха связывает сигнатуру многообразия с неко-торым характеристическим классом того же многообразия. А именно,формула Хирцебруха имеет следующий вид:

signX = 22k⟨L(X), [X]⟩,

где характеристический класс L(X) есть так называемый мультипли-кативный род Хирцебруха, который задается формулой

L(X) =∏j

tj/2

th(tj/2),

а образующие tj — такие формальные образующие Ву, что

σk(t21, . . . , t

2n) = pk(X),

где pk(X) суть целочисленные классы Понтрягина.Ключевым моментом в формуле Хирцебруха является то обстоя-

тельство, что ее левая часть выражается исключительно в гомотопи-ческих терминах, в то время как правая часть есть инвариант гладкойструктуры многообразия, точнее инвариант ориентируемых бордизмовгладких многообразий. Это значит, что если два гладких многооб-разия являются гомотопически эквивалентными (и, значит, имеют,вообще говоря, различные классы Понтрягина), то, тем не менее,род Хирцебруха, как некоторый многочлен от классов Понтрягина,принимает одно и то же значение.

Это обстоятельство породило много естественных проблем, неко-торые из которых привели к глубоким результатам, а другие до сихпор остаются нерешенными. В докладе будет, в частности, рассказаноо недоказанной до сих пор гипотезе Новикова о гомотопическойинвариантности высших сигнатур и о коротком естественном до-казательстве теоремы Новикова о топологической инвариантностирациональных классов Понтрягина, которое представил М. Громов наоснове гомотопической инвариантности некоторых высших сигнатур.


В. О. МантуровЧетность в теории узлов и маломерной топологии

4 марта 2010 г.

Доклад основан на развитии следующей идеи. Предположим, чтонекоторая топологическая/комбинаторная теория задается диаграм-мами с узловыми точками (особенности, перекрестки и т.д.) и дви-жениями, при этом узловые точки можно разделить естественнымобразом на четные и нечетные так, что при движениях свойствочетности ведет себя «правильным» образом. Тогда четность позволя-ет: 1) усиливать известные инварианты в данной теории; 2) строитьновые инварианты; 3) строить функториальные отображения. Первойобластью применения четности являются так называемые свободныеузлы — резкое упрощение понятия виртуального узла, получаемоепосредством забывания на гауссовых диаграммах узлов стрелок изнаков на перекрестках. Хорда гауссовой диаграммы (и соответ-ствующий ей перекресток) называется четной, если количество хорд,зацепленных с ней, четно.

У т в е р ж д е н и е 1. Диаграмма, у которой все хорды не-четны и нет пары сократимых (в смысле второго движения)хорд, является минимальной.

Утверждение 1, в частности, дает бесконечное число примеровнетривиальных свободных узлов — контрпримеров к гипотезе Тура-ева.

У т в е р ж д е н и е 2. Отображение на гауссовых диаграм-мах, удаляющее нечетные хорды, является корректно опреде-ленным отображением свободных узлов.

Приведенные выше два утверждения верны для ЛЮБОЙ ЧЕТ-НОСТИ (не обязательно гауссовой).

Классификация всех четностей в теории виртуальных узлов явля-ется открытым вопросом. Открыт и вопрос о существовании нетри-виальных четностей в теории классических узлов.

Другим применением четности является задача о кобордизмахсвободных узлов. Скажем, что свободный узел (оснащенный четы-рехвалентный граф) кобордантен нулю, если его можно затянуть об-разом двумерного диска со стандартными особенностями (эта задачав более слабой формулировке исследовалась Картером, Тураевым,Орром и др.). Будет предложен простой инвариант свободных узлов,принимающий значения в бесконечной диэдральной группе, нетри-виальность которого доставляет препятствие к кобордантности нулю


свободного узла. Ключевым рассуждением в этой работе являетсяперенос понятия четности с точек самопересечения одномерной кри-вой на двойные линии самопересекающейся двумерной поверхности.

Будут также упомянуты применения четности к классификацииатомов и их симметрий, а также к двумерным поверхностям в четы-рехмерном пространстве.


О. В. ШварцманСвободные алгебры автоморфных форм

на верхней полуплоскости H

18 марта 2010 г.

Рассмотрим пару (коконечная фуксова группа G; ее фак-тор автоморфности a(g, z)), обозначим градуированную алгебруG-a-автоморфных форм через A(G, a).

Разумеется, такие алгебры интенсивно изучались. Тем удиви-тельнее, что важный (с точки зрения теории инвариантов) вопрособ описании свободных алгебр автоморфных форм не ставился исистематически не исследовался. В докладе будет рассказано о том,как устроены все пары (G, a), для которых алгебра A(G, a) явля-ется алгеброй многочленов от двух переменных. Понимание того,как устроены свободные алгебры, позволяет переосмыслить многиечастные результаты о структуре алгебр фуксовых автоморфных форм,а их доказательства сильно упростить. Кроме того, с помощью полу-ченного описания свободных алгебр удалось построить бесконечныелинейные группы отражений в C2 , которые служат аналогами конеч-ных групп Шепарда–Тода.


А. Г. СергеевКвантование универсальногопространства Тейхмюллера

1 апреля 2010 г.

Универсальное пространство Тейхмюллера T есть фактор группыQS(S1) квазисимметричных гомеоморфизмов окружности S1 по мо-дулю преобразований Мёбиуса (дробно-линейных преобразований).Напомним, что гомеоморфизм окружности S1 называется квазисим-метричным, если он продолжается до квазиконформного автоморфиз-ма единичного круга. Пространство T содержит фактор S группыDiff+(S1) диффеоморфизмов S1 по модулю преобразований Мёбиуса.Обе группы QS(S1) и Diff+(S1) действуют естественным образом насоболевском пространстве H := H

1/20 (S1;R) полудифференцируемых

функций на окружности.Задача квантования пространств T и S возникает в теории струн,

где T и S выступают в качестве фазовых многообразий. Напомним,что решение задачи квантования для заданного фазового многообра-зия, наделенного заданной алгеброй Ли гамильтонианов (наблюдае-мых), означает построение неприводимого представления указаннойалгебры в гильбертовом пространстве квантования.

В случае пространства S роль алгебры наблюдаемых играеталгебра Ли Vect(S1) группы Diff+(S1). В качестве пространстваквантования берется фоковское пространство F (H), построенное пособолевскому пространству H = H

1/20 (S1;R). Инфинитезимальная

версия действия группы Diff+(S1) на H порождает неприводимое(проективное) представление алгебры Vect(S1) в пространстве F (H),определяющее квантование S .

В случае пространства T ситуация становится более сложной,поскольку действие группы QS(S1) на T не является гладким. Темсамым не существует классической алгебры Ли, отвечающей группеQS(S1). Однако можно построить квантовую алгебру Ли наблю-даемых Derq(QS), которая порождается квантовыми дифференциа-лами, действующими на фоковском пространстве F (H). Указанныедифференциалы порождаются интегральными операторами dqh на Hс ядрами, задаваемыми разностными производными преобразованийh ∈ QS(S1).


М. Э. КазарянЛежандровы характеристические классы

и исчисление особенностей гиперповерхностей


Теория многочленов Тома описывает классы когомологий, двой-ственные циклам особенностей отображений общего положения.А именно, эти классы описываются как универсальные многочленыот классов Черна (или Штиффеля–Уитни, в зависимости от кон-текста) многообразий, участвующих в отображении. Лежандровыманалогом этих многочленов служат характеристические классы, свя-занные с изолированными особенностями гиперповерхностей. В до-кладе будет описано кольцо когомологий, связанное с исчислениемособенностей гиперповерхностей, его вещественный и комплексныйаналоги, примеры вычислений, вытекающие из них ограничения насосуществование особенностей. Особое внимание будет обращено наисчисление мультиособенностей, которое несмотря на далеко разви-тые вычислительные методы (сотни явных формул) во многом оста-ется гипотетическим на протяжении уже нескольких лет.


Б. Ю. СтернинТеорема Атьи–Зингера

об индексе эллиптических операторов


Эллиптический дифференциальный оператор на гладком замкну-том многообразии является фредгольмовым и, следовательно, опре-делен его индекс — целое число, равное разности размерностей ядраи коядра оператора. Индекс является гомотопическим инвариантомоператора, и в свое время И. М. Гельфанд поставил задачу вычисле-ния индекса в топологических терминах. Эта проблема была решенаАтьей и Зингером. Именно, они выразили индекс в терминах классакогомологий, отвечающего коэффициентам оператора (его символа)и характеристических классов многообразия. Для конкретных опе-раторов (Эйлера, сигнатуры, оператора Дирака и др.), отвечающихгеометрическим структурам на многообразии, формула Атьи–Зингерадает явные выражения для индекса через характеристические классыструктуры, определяющие эти операторы. Более того, она, в частно-сти, дает объяснение целочисленности соответствующих родов.

Цель доклада — рассказать о теореме Атьи–Зингера. Предпола-гается, что все необходимые сведения из анализа и топологии будутсообщаться в ходе доклада. В то же время, знакомство с элементамиK-теории приветствуется.


И. Х. СабитовРешение проблемы пар Бонне

13 мая 2010 г.

Парой Бонне называются две изометричные поверхности с об-щей средней кривизной. Такие поверхности рассматривал еще Бонне(1867). Он установил, что «в общем» поверхности даже локальноопределяются однозначно своей метрикой и средней кривизной, ноесть отдельные случаи, когда это не так. Описанию этих «отдельных»случаев посвящена обширная литература. В начале 1980-х гг. былоустановлено, что для компактных поверхностей с непостоянной сред-ней кривизной не бывает троек Бонне, а вопрос о существовании илинесуществовании пар Бонне оставался открытым. Доклад посвящендоказательству несуществования пар Бонне, т.е. верна

Т е о р е м а. Компактная поверхность произвольного родаоднозначно определяется своей метрикой и средней кривизной.


А. О. Иванов, А. А. ТужилинМинимальные заполнения в смысле М. Громова

конечных метрических пространств

23 сентября 2010 г.

Заполнением называется пленка, затягивающая граничное много-образие и не уменьшающая внутреннего расстояния между гранич-ными точками. Заполнение минимально, если оно имеет наименьшийвозможный объем. Мы рассмотрим одномерный стратифицирован-ный вариант минимальных заполнений — минимальные взвешенныеграфы, соединяющие конечные метрические пространства. В докладебудут приведены разнообразные свойства таких заполнений, а такжесформулирован ряд гипотез, в частности, формула, вычисляющаявес минимального заполнения через периметры обходов границы.Кроме того, будет рассказано о связи минимальных заполнений иминимальных деревьев Штейнера, а также о некоторых аналогахотношения Штейнера, которые, возможно, могут быть использованыдля вычисления последнего.


В. В. ГорбацевичО пространствах алгебр Лификсированной размерности


Доклад будет посвящен изучению строения пространства Lienвсех n-мерных алгебр Ли (над некоторым полем K ; обычноK = R,C). Вначале будет дан обзор основных общих результатовоб Lien , полученных за последние десятилетия. Затем будет рас-сказано о новых результатах, полученных докладчиком за последниенесколько лет.

Будут рассмотрены некоторые вопросы, касающиеся условийЯкоби как системы алгебраических уравнений.

Основное же внимание в докладе будет уделено изучению непри-водимых компонент алгебраического множества Lien . Будет описанопересечение всех таких компонент. При этом будет использоватьсяпонятие сжатия алгебр Ли, о котором будет подробно рассказано.

Кроме того, будут рассмотрены вопросы о деформациях ал-гебр Ли и о жестких (т.е. не допускающих нетривиальных деформа-ций) алгебрах Ли.


Е. М. БениаминовКвантовая механика как асимптотика решений

обобщенного уравнения Крамерса


Рассматривается обобщенное уравнение Крамерса вида

∂φ

∂t= − p

m

∂φ

∂x+∂V

∂x

∂φ

∂p− i

~

(mc2 + V − p2

2m

)+

+γ∂

∂p

((p+ i~

∂

∂x

)φ+ kTm

∂φ

∂p

),

моделирующее тепловое рассеяние волны φ(x, p, t) в фазовом про-странстве. Функция ρ(x, p, t) = |φ(x, p, t)|2 интерпретируется какраспределение вероятностей нахождения частицы, связанной с вол-ной, в фазовом пространстве. Показывается, что решения этого урав-нения через время порядка 1/γ (при большом γ , где γ = β/m —сопротивление среды на единицу массы) описывается стандартнымуравнением Шредингера. Через время порядка γ возникает явлениедекогеренции. Далее процесс переходит к смешанному состояниюГиббса теплового равновесия квантовой системы.

С другой стороны, если величина γ мала (масса существеннобольше β), то ρ(x, p, t) описывается классическим уравнением Ли-увилля, и фаза волны φ несущественна.


А. Г. СергеевГипотеза о гармонических сферах


Гармонические сферы задаются гладкими отображениями рима-новой сферы в римановы многообразия, являющимися экстремалямифункционала энергии, определяемого интегралом типа Дирихле. Ониудовлетворяют нелинейным эллиптическим уравнениям, обобщаю-щим уравнение Лапласа–Бельтрами. В случае, когда рассматривае-мые римановы многообразия являются комплексными, голоморфныеи антиголоморфные сферы являются локальными минимумами функ-ционала энергии, однако у него имеются, как правило, и неминималь-ные критические точки.

С другой стороны, поля Янга–Миллса также являются экстрема-лями некоторого функционала, задаваемого действием Янга–Миллса.Локальные минимумы этого функционала называются инстантонамии анти-инстантонами. Вначале считалось, что они исчерпывают всекритические точки действия Янга–Миллса на 4-мерном евклидовомпространстве R4 , пока не были построены примеры неминимальныхполей Янга–Миллса.

Имеется очевидное формальное сходство между полями Янга–Миллса и гармоническими отображениями, но после работы Атьи1984 г. стало ясно, что это сходство имеет на самом деле более глу-бокую природу. Более конкретно, гипотеза о гармонических сферахутверждает, что имеется прямое соответствие между пространствоммодулей G-полей Янга–Миллса на R4 и пространством гармони-ческих отображений римановой сферы в пространство петель ΩG,где G — компактная группа Ли. Доклад посвящен обсуждениюуказанной гипотезы и возможных путей ее доказательства.


С. М. НатанзонТопологические инварианты и пространства модулей

квази-однородных горенштеновых особенностей


Мы находим все компоненты связности пространства модулейквази-однородных горенштеновых особенностей и топологическиеинварианты, описывающие эти компоненты. Мы доказываем, чтокаждая компонента связности гомеоморфна клетке факторизованнойпо дискретной группе. Доклад основан на совместной работе с АннойПратуссевич.


О. Я. Виро(по Skype)

Новые инварианты зацеплений, определяемыепочти как модуль Александера


В зейфертовском вычислении модуля Александера посредствомповерхности Зейферта вместо обычных гомологий можно употребитьдругие функторы. Например, любую топологическую квантовую тео-рию поля или гомологии Хованова. Топологическая квантовая теорияполя основанная на sl2 дает инварианты, относящие классическомузацеплению векторное пространство с оператором, след которогоесть значение крашеного многочлена Джонса в корне из единицы.Гомологии Хованова дают инварианты, относящие поверхности, глад-ко вложенной в S3 × S1 , биградуированный модуль над кольцоммногочленов Лорана.


А. М. РайгородскийГрафы расстояний и диаметров

в евклидовом пространстве и на сфере


Настоящий доклад посвящен двум классическим проблемам, ко-торые лежат на стыке комбинаторной геометрии и теории графов.По существу речь пойдет о хроматических числах графов расстоянийи диаметров в некоторых метрических пространствах. Графом рас-стояний мы называем граф, вершины которого суть точки простран-ства, а ребра — отрезки заданной длины, соединяющие некоторыепары вершин. В свою очередь в графе диаметров мы соединяемребрами те и только те пары вершин, расстояние между которымимаксимально. Рассматриваемые задачи тесно связаны с проблемамиНелсона–Хадвигера о раскраске пространства и Борсука о раз-биении множеств на части меньшего диаметра. Мы дадим обзоризвестных результатов, а также расскажем о недавних достижениях,связанных с раскрасками евклидовой сферы.


Ю. Т. ЛисицаПроизводная по объему

непрерывной дифференциальной формыв компактном подмногообразии

21 февраля 2011 г.

Т е о р е м а. Пусть Mn — ориентируемое n-мерное C1-мно-гообразие над R, и пусть Sm — его m-мерное ориентиру-емое подмногообразие. Для каждого компактного k-мерногоориентированного регулярного подмногообразия Lk многообра-зия Sm , 0 6 k < m 6 n, и каждой непрерывной m-формыс компактными носителями ωmc на Mn существует такая одно-значно определенная непрерывная k-форма ωK на Lk , что

limVλ→Lk

1

|Vλ|

∫−→V λ

ωmc =1

|Lk|

∫−→L k

ωk,

где Vλ |λ ∈ Λ — конфинальная система всех окрестностейподмногообразия Lk в Sm , |Vλ| — это m-объем Vλ , и |Lk| являет-ся k-объемом подмногообразия Lk . Ориентации на Mn , Sm и Lkфиксированы и согласованы.

При k = 0 и m = n получаем классическую теорему о дифферен-цировании аддитивной функции Φ(Vλ) =

∫−→V λ

f(x1, . . . , xn) dx1 . . . dxn

по объему Vλ в каждой точке L0 = (x01, . . . , x0n) многообразия Mn ,

причем

limVλ→L0

1

|Vλ|

∫−→V λ

f(x1, . . . , xn) = f(x01, . . . , x0n).

Если учесть, что эта последняя теорема имеет многочисленные при-ложения при выведении важных уравнений математической физики(уравнение теплопроводности, уравнение неразрывности, уравнениединамики движущейся в пространстве сплошной среды, волновоеуравнение и др.), то обобщение этой теоремы может служить, напри-мер, нахождению первый интегралов подобных уравнений или ещедля обнаружения каких-нибудь закономерностей.


И. М. НиконовГомологии Хованова

14 марта 2011 г.

Гомологии зацеплений, определенные Ховановым в конце XX в.,стали первым представителем нового класса инвариантов узлов —категорификаций полиномиальных инвариантов, нахождение и иссле-дование которых во многом определяло развитие теории в последниедесять лет. Идея категорификации состоит в переходе от полино-миального инварианта узла к цепному комплексу, который строит-ся по диаграмме узла и градуированная эйлерова характеристикакоторого совпадает с исходным полиномом. При этом требуется,чтобы гомологии комплексов, соответствующих разным диаграммамузла, совпадали между собой. Гомологии Хованова категорифицируютполином Джонса.

В 2007 г. З. Жабо, Р. Ожват и Я. Расмусен предложили другуюкатегорификацию полинома Джонса — нечетные гомологии Ховано-ва. Нечетный комплекс Хованова иозоморфен обычному комплексу,но имеет другие дифференциалы. Нечетные и четные гомологии Хо-ванова совпадают для альтернированных узлов и над полем харак-теристики 2, но в общем случае ведут себя различно. В частности,обычные гомологии Хованова зацеплений не сохраняются при мута-циях, а нечетные — сохраняются, как было доказано Дж. Блумом.Конструкция Блума позволяет распространить определение нечет-ных гомологий Хованова на теорию граф-зацеплений, определеннуюД. П. Ильютко и В. О. Мантуровым. Теория граф-зацеплений являет-ся комбинаторным аналогом теории узлов, грубо говоря, кодирующимзацепления с точностью до мутаций. Построению категорификацииполинома Джонса и построению нечетных гомологий Хованова в тео-рии граф-зацеплений и будет посвящен доклад.


А. Н. ПаршинПроблема модулей в теории представлений групп

28 марта 2011 г.

Проблема классификации геометрических объектов, таких какмногообразия, векторные расслоения, подмногообразия или циклы,хорошо известна в алгебраической геометрии. Наличие конечногочисла алгебраических параметров или «модулей» приводит к вопросуо построении соответствующего алгебраического многообразия такихпараметров. Как ни странно, в теории представлений групп различ-ных классов такая задача почти не ставилась, хотя отдельные резуль-таты и идеи в этом направлении высказывались И. Р. Шафаревичем,И. М. Гельфандом и другими. Недавно докладчиком была построенатеория необязательно унитарных представлений дискретных нильпо-тентных групп класса 2, т.е. дискретных групп Гейзенберга. В этойтеории в качестве пространств модулей представлений появляютсякомпактные алгебраические многообразия, являющиеся семействамиабелевых многообразий — феномен ранее не встречавшийся в теориипредставлений. Мы дадим обзор этой новой теории и обсудим в связис ней вопрос о пространстве модулей представлений для другихклассов групп.

Литература

Parshin A. N. Representations of higher adelic groups and arithmetic,Proc. ICM Hyderabad, 2010 (arXiv:mathNT/1012.0486).


В. О. МантуровЧетность и проекция виртуальных узлов

на классические узлы


В докладе будет построено отображение (проекция) из множествавиртуальных узлов на множество классических узлов, которое тож-дественно переводит классические узлы в себя.

Более точно, будет доказанаТ е о р е м а. Существует корректно определенное отобра-

жение диаграмм виртуальных узлов в диаграммы виртуальныхузлов, такое что

1) отображение оставляет все виртуальные перекресткивиртуальными и переводит некоторые классические пере-крестки в виртуальные;

2) образом отображения является диаграмма, эквивалент-ная классической диаграмме посредством движения объез-да (или, что эквивалентно, гауссова диаграмма которойклассическая);

3) эквивалентные посредством движений Рейдемейстера идвижений объезда диаграммы переводятся в эквивалент-ные диаграммы.

Построение этого отображения является конструктивным лишьотчасти, так как оно опирается на информацию о минимальном пред-ставителе зацепления.

Тем не менее в качестве мгновенных следствий мы получаем рядтеорем о связи классических и виртуальных узлов.

Центральным в построении является изобретенное автором поня-тие четности.

Будут обсуждаться различные задачи, связанные с функтори-альностью отображений, переносом инвариантов и многомернымианалогами.

Литература1. Мантуров В. О. Четность в теории узлов, Матем. сб. 2010. 201, 5.

65—110.2. Manturov V. O. A functorial map from virtual knots to classical knots

and generalisations of parity, arXiv:math.GT/1011.4640.


И. Д. ШкредовО некоторых геометрических задачах

аддитивной комбинаторики


Мы рассмотрим несколько вопросов комбинаторной теории чи-сел, например, задачу об удвоении выпуклого множества, в которыхоказываются полезными геометрические соображения.

Выпуклое множество целых чисел — это такая последователь-ность A = a1 < a2 < . . ., что ее последовательные раз-ности (ai+1 − ai) возрастают. С помощью замечательной теоремыСемереди–Трёттера об инциденциях в системах точек и псевдокривыхбудет показано, что для любого выпуклого множества выполнено|A+A| > |A|3/2 . Также мы обсудим несколько аналогичных вопросовна плоскости (Z/pZ) × (Z/pZ).


А. В. ЧернавскийО работах М. А. Штанько

16 мая 2011 г.

Основные результаты М. А. Штанько относятся к построениюдостаточно полной теории так называемых локально односвязныхвложений в Rn (или вложений, имеющих свойство 1-ULC, или «руч-ных»). Он ввел понятие размерности вложения, с помощью которогоохарактеризовал такие вложения компактов коразмерности большедвух как вложения, для которых размерность вложения совпадаетс обычной размерностью компактов. Если это свойство не выпол-нено, размерность вложения равна n − 2. Затем он показал, чтов тех же коразмерностях любое вложение компакта аппроксимиру-ется ручными, что приводит к решению проблемы Менгера об уни-версальности менгеровских компактов для компактов, лежащих в Rn .Далее он распространил свой метод для доказательства аналогичнойтеоремы аппроксимации для вложений многообразий коразмерно-сти 1. Его работа содержала одно неверное утверждение. В работеAncel–Cannon было получено новое доказательство этого результата,в полной мере основывавшееся на технике Штанько, но упомянутоеутверждение было обойдено за счет интересной, хотя и достаточнотяжелой техники многозначных отображений, после чего эта теоремастала называться Ancel–Cannon теоремой. В докладе будет показа-но, что ошибочное утверждение Штанько имело чисто техническоезначение, не является необходимым, и поэтому доказательство можетбыть проведено полностью по его плану.

СТАТЬИ УЧАСТНИКОВ СЕМИНАРА

В. В. ГОРБАЦЕВИЧ

ОБ УНИФОРМИЗИРУЕМЫХ МНОГООБРАЗИЯХ

Статья посвящена одному свойству гладких многообразий,обобщающему свойство униформизируемости для римановыхповерхностей. Рассмотрены некоторые свойства униформизиру-емых многообразий малой размерности (компактных и неком-пактных), а также компактных униформизируемых многообразийпроизвольной размерности.

Эта заметка посвящена одному свойству гладких многообразий,обобщающему свойство униформизируемости для римановых поверх-ностей. Будут рассмотрены некоторые свойства униформизируемыхмногообразий малой размерности, а также компактных униформизи-руемых многообразий произвольной размерности.

Понятие униформизации, являющееся одним из основных в ком-плексном анализе и некоторых других областях математики, быловведено классиками еще во второй половине XIX в., когда нача-лось детальное изучение многозначных аналитических функций. Уни-формизировать данную многозначную аналитическую функцию (илисоответствующие ей аналитическое выражение, множество) означа-ет в своем первоначальном понимании параметрически представитьэту функцию с помощью однозначных голоморфных или, вообщеговоря, мероморфных функций. При этом обычно приходится пе-реходить от исходной области определения функции — римановойповерхности — к некоторому ее накрытию (иногда разветвленному,т.е. имеющему особенности).

В 1907 г. А. Пуанкаре и П. Кёбе (их предшественниками былиГ. Шварц и Ф. Клейн) доказали, что любая риманова поверхность Sконформно эквивалентна D/Γ, где D — одна из трех классическихобластей C, C = S2 и H — плоскость Лобачевского (или же∆ — единичный круг в C), а Γ ⊂ Hol(D) — дискретная подгруппав группе Hol(D) голоморфизмов области D. Здесь во всех трехслучаях оказывалось, что Hol(D) транзитивна на D, т.е. область Dоднородна (хотя транзитивная группа Hol(D) тут не всегда комплекс-на), причем D = Hol(D)/K , где K — максимальная компактная

ОБ УНИФОРМИЗИРУЕМЫХ МНОГООБРАЗИЯХ 43

подгруппа в Hol(D) (при этом она максимальна среди всех связныхподгрупп Ли, если D = C). Тем самым всякая риманова поверхностьможет быть представлена в виде Γ\G/K , где G — группа Ли,K — максимальная компактная подгруппа в G, а Γ — дискретнаяподгруппа (причем свободная от кручения и свободно действующаяна D). Это представление называется униформизацией поверхно-сти S (точнее, униформизацией ее областью D = G/K ). Кстати,проблема униформизации алгебраических многообразий произволь-ной размерности — это 22-я проблема Гильберта. Иногда утвер-ждают, что она уже решена методами теории автоморфных функций,однако есть основания полагать, что это не исчерпывающее решениеуказанной проблемы Гильберта.

Пусть теперь M — произвольное многообразие (не обязательнокомпактное). Назовем M униформизируемым, если оно может бытьпредставлено (с точностью до диффеоморфизма) в виде M = Γ\G/H ,где G — группа Ли (возможно, несвязная, но имеющая конечноечисло связных компонент), H — замкнутая подгруппа Ли в G,а Γ — дискретная подгруппа, свободно действующая на G/H . Та-кое представление (и само однородное пространство G/H ) будемназывать (топологической) униформизацией многообразия M . ЗдесьG/H = M — многообразие, накрывающее M , а Γ — соответ-ствующая дискретная группа скольжений этого накрытия. Локальномногообразие M в этом случае устроено как G/H . При этом суще-ствуют такие открытые подмножества Ui ⊂ M и диффеоморфизмыUi → Vi ⊂ G/H , что функции перехода можно рассматриватькак отображения Ui ∩ Uj → G (с учетом естественного действиягруппы Ли G на G/H ).

Об униформизации в несколько другом контексте говорится в [1].В [12] введено понятие G/H-структуры на многообразии M :

предполагается, что существует такое открытое покрытие Uα этогомногообразия и диффеоморфизмы fα : Uα → Vα ⊂ G/H , что функцииперехода f−1

β fα = fαβ : ϕα(Uα ∩ Uβ) → ϕβ(Uα ∩ Uβ) индуцированыотображениями в G. Если многообразие G/H не односвязно, то ононе обязательно накрывает это многообразие M . Например, многооб-разие G/H0 (где H0 — связная компонента единицы стационарнойподгруппы Ли H ) тоже имеет G/H-структуру.

Если многообразие униформизуемо однородным пространствомG/H , то оно имеет G/H-структуру. Обратное, конечно, неверно, таккак униформизуемое многообразие обязательно накрывается некото-рым однородным многообразием.

Рассмотрим некоторые варианты понятия униформизации.Многообразие M называется слабо униформизируемым, если оно

может быть представлено в виде пространства двойных смежныхклассов F\G/H , где F,H — замкнутые подгруппы Ли G, при-

44 В. В. ГОРБАЦЕВИЧ

чем естественное действие подгруппы Ли F на G/H таково, чтопространство его орбит имеет структуру гладкого многообразия. Такбудет, например, если подгруппа H компактна и ее действие на F\Gэквиорбитно (т.е. все орбиты — одного орбитного типа). Такое обоб-щение понятия униформизируемости, как оказалось, изучать доволь-но трудно.

Многообразие M называется обобщенно униформизируемым, ес-ли M = Γ\G/H , где Γ — (дискретная) подгруппа в группе диф-феоморфизмов Diff(G/H) однородного пространства G/H , действиекоторой на G/H свободно и дискретно. Ясно, что униформизируемоемногообразие будет и обобщенно униформизуемым в обычном смыслеэтого слова. Естественно предполагать, что обратное утверждениеневерно.

Рассмотрим некоторые примеры, связанные с понятием унифор-мизации.

1. Всякое однородное многообразие (т.е. многообразие, на кото-ром существует транзитивное действие некоторой группы Ли) уни-формизируемо. Если многообразие накрывается однородным, то ононе обязательно однородно, но всегда будет обобщенно униформизи-руемо.

2. Если многообразие M односвязно, то оно униформизуемое(даже обобщенно) тогда и только тогда, когда оно однородно.

Отсюда вытекает, что существуют многообразия, не являющие-ся униформизируемыми (даже обобщенно). Например, четырехмер-ное односвязное многообразие CP 2 # CP 2 — связная сумма двухэкземпляров комплексной проективной плоскости — не являетсяоднородным (см. [8], где перечислены все односвязные компактныеоднородные многообразия размерностей 6 6).

3. Если компактное односвязное многообразие M имеет размер-ность 2 или 3, то оно диффеоморфно стандартной сфере (для случаяn = 3 это нам дает доказанная недавно гипотеза Пуанкаре) и потомуоднородно. В этих размерностях интересны примеры неуниформизи-руемых неодносвязных многообразий — об этом и пойдет речь ниже.

В силу упоминавшейся выше теоремы униформизации Пуанкаре–Кебе любая риманова поверхность (т.е. двумерное многообразиес комплексной структурой) униформизируема.

4. Для некоторых униформизируемых многообразий существуют инестандартные униформизации. Например, рассмотрим тор Tn — онсам является группой Ли и потому автоматически униформизируем(сам собой). Но можно построить и другие его униформизации —имеющие вид Γ\R, где Γ — дискретная подгруппа (изоморфная Zn)в разрешимой (причем не только не абелевой, но даже не нильпо-тентной) односвязной группе Ли R (см. [2]).

5. Геометрии Тёрстона на четырехмерных многообразиях тесносвязаны с темой данной статьи — там тоже фигурируют униформиза-


ции. Многообразие M4 , несущее геометрию Тёрстона, представляет-ся в виде M4 = Γ\X , где X = G/K риманово многообразие одногоиз семи хорошо известных ныне типов (подробнее см. [10]).

Переходим к более подробному рассмотрению униформизациимногообразий M малой размерностей.

Если dim(M) = 1, то многообразие M диффеоморфно прямой R1

или окружности S1 . Так как оба эти многообразия однородны, то ониуниформизируемы.

Пусть теперь M — поверхность (двумерное многообразие). Вве-дем на ней структуру римановой поверхности (используя конформныеотображения I и II — в неориентируемом случае — рода). Тогда,используя сформулированную выше классическую теорему унифор-мизации, получаем, что такое многообразие M всегда униформи-зируемо. Отметим при этом, что группа Ли G в представленииM = Γ\G/H может оказаться несвязной (так будет, если M неори-ентируема), но всегда имеет конечное число связных компонент.

Переходим к многообразиям размерности 3. Тут нужно отметить,что интерес автора к теме униформизации многообразий был вомногом инспирирован одним вопросом, который немало лет назад за-дал ему Б. П. Комраков. В используемой здесь терминологии вопросзвучал так: будет ли любое компактное трехмерное многообразиеуниформизируемо? Тогда же автор дал отрицательный ответ. В каче-стве примера неуниформизируемого компактного трехмерного много-образиям было предложено многообразие M = (S2×S1)#(S2×S1) —связная сумма двух экземпляров многообразия S2×S1 . Тот факт, чтоэто многообразие не является униформизируемым (даже в обобщен-ном смысле) связан со специальными свойствами фундаментальнойгруппы этого многообразия (подробнее об этом будет сказано ниже).Далее будут доказаны некоторые общие результаты, касающиесяуниформизации трехмерных компактных многообразий.

Вначале введем некоторые нужные нам алгебраические понятия.Две группы Γ1, Γ1 называются слабо соизмеримыми, если в нихсуществуют такие подгруппы конечных индексов Γ′

i ⊂ Γi (i = 1, 2), ав тех — конечные нормальные делители Φi ⊂ Γ′

i , что группы Γ′1/Φ1

и Γ′2/Φ2 между собой изоморфны. Например, слабо соизмеримы

группы, которые имеют изоморфные между собой подгруппы конеч-ных индексов (такие группы называют соизмеримыми). В частности,любая конечная группа слабо соизмерима с тривиальной.

Теперь — несколько слов о понятии виртуальной когомологиче-ской размерности групп.

Пусть Π — произвольная группа, a U = Z[Π] — ее целочис-ленное групповое кольцо. Будем называть Π-модулями произвольныемодули над кольцом U . Группа Π называется группой типа (FL)(т.е. имеющей конечную длину), если тривиальный Π-модуль Z об-


ладает конечной свободной резольвентой, состоящей из свободныхU -модулей. Когомологической размерностью cd(Π) группы Π назы-вается наименьшая возможная длина n такой свободной резольвен-ты. Равенство n = cd(Π) эквивалентно тому, что Hq(Π, A) = 0 длявсех q > n и всех Π-модулей A, но Hn(Π, A′) = 0 для некоторогоΠ-модуля A′ .

Если группа Π имеет кручение, то обязательно cd(Π) = ∞.Имея целью использовать когомологическую размерность при изу-чении более общих групп (которые часто имеют кручение), оказалосьудобно ввести понятие виртуальной когомологической размерности.Группу Π будем называть группой типа (VFL) (т.е. виртуально типа(FL)), если существуют подгруппа конечного индекса Π′ в Π, ав ней конечная нормальная подгруппа Φ такие, что группа Π′/Φявляется группой типа (FL). Другими словами, тут предполагается,что группа Π слабо соизмерима с группой типа (FL).

Если Π — группа типа (VFL) то положим vcd(Π) = cd(Π′/Φ)(для групп Π′ и Φ, фигурирующих в определении выше). Легкоубедиться, что это определение корректно, т.е. не зависит от выбораподгрупп Π′ и Φ. Полученное число vcd(Π) называется виртуальнойкогомологической размерностью группы Π.

Для компактного однородного многообразия известно, что

vcd(π1(M)) 6 dim(M),

можно доказать и другие свойства групповой когомологической ха-рактеристики vcd (см., например, обзор [3]).

Т е о р е м а 1. Пусть M3 — компактное трехмерное мно-гообразие. Если оно обобщенно униформизуемо, то

vcd(π1(M)) = 0, 1 или 3,

причем:1) если vcd(π1(M)) = 0, то многообразие M конечнолистно

накрывается трехмерной сферой S3 и M = S3/D, где D —некоторая конечная группа, гладко и свободно действую-щая на S3 (имеется список всех таких конечных групп —см., например, [4]);

2) если vcd(π1(M)) = 1, то группа π1(M) соизмерима с Z(точнее, имеет ее в качестве подгруппы конечного ин-декса) и многообразие M конечнолистно накрываетсямногообразием S2 × S1 ;

3) если vcd(π1(M)) = 3, то многообразие M накрываетсяевклидовым пространством R3 (в частности, многообра-зие M асферично) и группа π1(M) не имеет кручения.


Д о к а з а т е л ь с т в о. Пусть M = Γ\G/H , где Γ — дискрет-ная подгруппа в Diff(G/H) — группе диффеоморфизмов однородногопространства G/H . Группу Ли G мы можем считать односвязной.Однородное пространство G/H накрывает M . Однородное про-странство G/H0 (где H0 — связная компонента единицы подгруп-пы H ) — односвязная накрывающая для G/H (так как группа Ли Gодносвязна, а подгруппа H0 связна). Поэтому однородное простран-ство G/H0 — это универсальная накрывающая для трехмерногокомпактного многообразия M . В частности G/H0 — односвязноетрехмерное однородное пространство. Но тогда M = G/H0 диффео-морфно S3, S2 × R или R3 [5]. Рассмотрим последовательно три этивозможных случая.

Если M = S3 , то M = S3/D, где D — конечная группа,действующая свободно на S3 . Тут vcd(π1(M)) = 0.

Если M = S2×R, то многообразие M конечнолистно накрываетсямногообразием S2×S1 [11]. В частности, в π1(M) имеется подгруппаконечного индекса, изоморфная Z и, в частности, vcd(π1(M)) = 1.

Если M = R3 , то многообразие M асферично и vcd(π1(M)) = 3.Фундаментальная группа любого асферичного конечномерного мно-гообразия свободна от кручения.

Заметим, что для теоремы 1 справедливо и «обратное утвер-ждение»: если некоторое многообразие накрывается одним из трехмногообразий S3 , S2×S1 или R3 , то оно будет обобщенно униформи-зируемым. Это вытекает из того, что все три указанные многообразияоднородны.

В связи с пунктом (3) теоремы 1 заметим также, что не всегдаасферичное многообразие имеет универсальным накрытием евкли-дово пространство [7]. Поэтому тот факт, что M = R3 в теоре-ме 1, выделяет обобщенно униформизируемые среди всех асферичныхтрехмерных многообразий.

Если многообразие Mn произвольной размерности таково, чтоM=Rn , то оно, очевидно, обобщенно униформизируемо (так как мно-гообразие Rn однородно). Тут соответствующих групп Γ ⊂ Diff(Rn)очень много (даже при n = 3). В частности, среди них находятся всекристаллографические группы (о которых см., например, обзор [3]).

С л е д с т в и е 1. Многообразие (S2 × S1) # (S2 × S1) неявляется ни униформизируемым ни даже обобщенно унифор-мизируемым.

Д о к а з а т е л ь с т в о. Фундаментальная группа многообразия(S2 × S1) # (S2 × S1) по теореме ван-Кампена изоморфна сво-бодной группе F (2) = Z ⋆ Z с двумя образующими. Когомологи-


ческая размерность этой группы равна 1. Если бы многообразиеM = (S2 × S1) # (S2 × S1) было бы обобщенно униформизируемым,то в силу Теоремы 1 в его фундаментальной группе существовалабы подгруппа конечного индекса, изоморфная Z. Но для свободнойгруппы F (2) такое невозможно. Получили противоречие.

Дадим описание универсального накрытия для многообразия(S2 × S1) # (S2 × S1): это дерево, задающее свободную группу сдвумя образующими, причем в каждой вершине этого дерева «растет»двумерная сфера.

И еще одно замечание к теореме 1. При ее доказательстве ис-пользовался чисто топологический факт из [11]. Можно дать и болееалгебраическое доказательство (частичного результата).

Если M = S2 × S1 , то число концов многообразия e(M) равно 2.Но тогда в π1(M) имеется подгруппа конечного индекса, изоморф-ная Z (подробности см. в [9]).

Немного отклонимся от темы данной статьи. Рассуждением,аналогичными приведенным выше, можно доказать такое утвер-ждение: для любого компактного многообразия N многообразие(S2×S1)#(S2×S1)×N никогда не будет однородным. Дело в том, чтофундаментальная группа компактного однородного многообразия неможет иметь, как нетрудно доказать, используя свойства компактныходнородных пространств, прямого разложения вида F (2) × Π нидля какой группы Π. Отметим, что возможно и в некотором смыслеобратное явление — прямое произведение неоднородного многообра-зия и однородного (даже группы Ли) может оказаться однородным.Например, прямое произведение Fg × S3 компактной ориентируемойповерхности Fg рода g > 2 (не являющейся однородным многооб-разием) и трехмерной сферы (или, что то же, группы Ли SU(2)),является однородным (подробнее см. обзор [6]).

Если многообразие M униформизируемо (M = Γ\G/H ), то Γ —дискретная подгруппа в некоторой группе Ли G. При этом еслимногообразие M трехмерно, то vcd(Γ) 6 3.

Представляет немалый интерес такойВопрос: какими могут быть дискретные подгруппы D в связных

группах Ли, которые имеют vcd(D) 6 3? Как их описать хотя быс точностью до соизмеримости?

Вот предполагаемый список таких групп:а) разрешимые группы D с точностью до соизмеримости — по-

лициклические группы ранга 6 3 (можно считать, что они не имеюткручения и разлагаются в полупрямое произведение вида Z ·Z2);

б) дискретные подгруппы без кручения в группах Ли SL2(C)(в частности, в SL2(R)) и A (универсальной накрывающей группыSL2(R));


в) группы вида Γg и Γg × Z, где Γg — фундаментальная группакомпактной ориентируемой поверхности Fg рода g > 2.

Рассмотрим теперь некоторые свойства униформизируемых ком-пактных многообразий произвольной размерности. При их изученииочень полезно расслоение Мостова (см. например [6]). Это рассло-ение, которое строится для любого односвязного (и не обязательнокомпактного) однородного многообразия M . А именно, существуетпредставление M в виде пространства векторного расслоения, базойкоторого является односвязное компактное однородное многообразие(на котором существует транзитивное действие полупростой ком-пактной группы Ли). Следующее утверждение касается компактныхуниформизируемых многообразий произвольной размерности. Онообобщает некоторые утверждения теорем 1 на случай многообразийпроизвольной размерности. Доказательство теоремы 2 основано наиспользовании расслоения Мостова, но является более сложным, чемдля теоремы 2 и потому здесь не приводится.

Т е о р е м а 2. Пусть M — n-мерное компактное, котороеобобщенно униформизируемо. Тогда имеют место следующиеутверждения:

1) vcd(π1(M)) 6 n;

2) vcd(π1(M)) = n тогда и только тогда, когда M = Rn(и тогда многообразие M асферично);

3) vcd(π1(M)) = n− 1;

4) если vcd(π1(M)) = 1, то группа π1(M) слабо соизмеримас Z.

Теперь рассмотрим вкратце вопрос о некомпактных униформизи-руемых трехмерных многообразиях M3 .

Если такое M3 обобщенно униформизируемо, то универсальнонакрывающее его многообразие M должно быть диффеоморфно R3

или S2×R (это доказывается так же, как в теореме 1, только нужноисключить случай M = S3 в силу некомпактности M ).

Если M = R3 , то M асферично, а группа Γ не имеет кручения иcd(Γ) 6 2. Можно предположить, что такая группа Γ либо свободна(например, для M = F × R, где F — некомпактная поверхность (еефундаментальная группа обязательно свободна) или же она изоморф-на группам Z или Z2 ⋆ Z2 (эта группа изоморфна фундаментальнойгруппе бутылки Клейна K2).

Пусть теперь M = S2 × R. Так как M некомпактно, группа Γдолжна быть конечна. Видимо, она может быть только тривиальнойили иметь порядок 2 (например, для случая многообразия RP 2×R).


Л И Т Е Р А Т У Р А

1. А п а н а с о в Б. Н. Геометрия дискретных групп и многообразий. Наука,Москва. 1991.

2. A u s l e n d e r L. An exposition of the structure of solvmanifolds. Bull. Amer.Math. Soc. 1973. 79, 2. 227–285.

3. В и н б е р г Э. Б., Ш в а р ц м а н О. В. Дискретные группы движений про-странств постоянной кривизны. Итоги науки и техн. Совр. пробл. матем. Фунд.направл. 1988. 29. 147–259.

4. В о л ь ф Д ж. Пространства постоянной кривизны. Наука, Москва. 1982.5. Г о р б а ц е в и ч В. В. О трехмерных однородных пространствах. Сиб. матем.

журн. 1977. 18, 2. 280–293.6. Г о р б а ц е в и ч В. В., О н и щ и к А. Л. Группы Ли преобразований. Итоги

науки и техн. Совр. пробл. матем. Фунд. направл. 1988. 20. 103–240.7. D a v i s M. W. Groups generated by reflections and aspherical manifolds not

covered by Euclidean space. Ann. of Math. 1983. 117. 293–325.8. K a g a T., W a t a b e T. Simply connected 6-manifolds of large degree of sym-

metry. Sci. Rep. Niigata Univ., Ser. A. 1975. 12. 15–32.9. М а с с и У., С т о л л и н г с Д ж. Алгебраическая топология. Мир, Москва.

1977.10. С к о т т П. Геометрии на трехмерных многообразиях. Мир, Москва. 1986.11. T o l l e f s o n J. The compact 3-manifolds covered by S2×R. Proc. Amer. Math.

Soc. 1974. 45. 461–462.12. T o m a s s i n i A. G-Geometrie omogenee e uniformizzazione. Boll. Unione Mat.

Ital., Sez. A, Mat. Soc. Cult. (8). 1998. 1, Suppl. 71–74.

М. И. ГРАЕВ, Г. Л. ЛИТВИНОВ ∗

ИНТЕГРАЛЬНАЯ ГЕОМЕТРИЯ,ОБОБЩЕННЫЕ ПРЕОБРАЗОВАНИЯ ФУРЬЕ

И ВОПРОС И. М. ГЕЛЬФАНДА

Старый вопрос И. М. Гельфанда: почему некоторые важныезадачи интегральной геометрии (преобразование Радона и др.)связаны с гармоническим анализом на группах, а для других,очень похожих задач такой связи не видно? В статье указа-ны стандартные задачи интегральной геометрии, порождающиегармонический анализ (теорему Планшереля и т.п.) на парахкоммутативных гипергрупп, находящихся в двойственности типаПонтрягина. В результате удается построить большие серии но-вых содержательных примеров гипергрупп.

Посвящается нашим учителям

§ 1. ВВЕДЕНИЕ

Предметом интегральной геометрии (в смысле [1,2,14]) являютсяинтегральные преобразования, сопоставляющие функциям на неко-тором многообразии (или пространстве) X их интегралы по некото-рому семейству X подмногообразий в X , так что возникают новыефункции, определенные на X . Одна из основных задач интегральнойгеометрии состоит в восстановлении исходной функции на X пополученной функции на X .

Такие задачи возникают в теории представлений групп, когдаX — однородное пространство некоторой группы G, а семействоподмногообразий X является однородным пространством той жегруппы G. Тогда преобразование интегральной геометрии можнотрактовать как «квантование» (по терминологии И. М. Гельфанда)геометрического преобразования — реализации одного однородного

∗ E-mail addresses: [email protected], [email protected]. Первый авторподдержан грантом РФФИ 10-01-00041-a. Второй автор поддержан совместнымгрантом РФФИ и CNRS (Франция).

52 М. И. ГРАЕВ, Г. Л. ЛИТВИНОВ

пространства группы G в виде семейства подмногообразий другогопространства. Именно, исходные однородные пространства заменя-ются пространствами функций на этих однородных пространствах, апереход от одного однородного пространства к другому — соответ-ствующим преобразованием одного функционального пространства вдругое. Это преобразование и его формула обращения связываютмежду собой задачи гармонического анализа на разных однородныхпространствах.

Одно из простейших преобразований интегральной геометрии —преобразование Радона [3] на плоскости R2 , относящее функциямf(x, y) на R2 их интегралы по прямым. Задавая прямые на R2

уравнениями y = ax + b, это преобразование можно представитьв виде

f(x, y) 7→ (Rf)(a, b) =

∞∫−∞

f(x, ax+ b) dx.

Применив символику дельта функций, его можно также представитьв виде интеграла по всей плоскости:

f(x, y) 7→ (Rf)(a, b) =

∫R2

f(x, y)δ(y − ax− b) dx dy.

Известно, что исходная функция f восстанавливается по своемупреобразованию Радона ϕ = Rf по следующей формуле обращения:

f(x, y) = c

∫R2

ϕ(a, b)|y − ax− b| da db,

где коэффициент c зависит от нормировки меры на (R2)∗ , а интегралследует принимать в смысле регуляризованного значения.

В этом примере плоскость R2 и множество прямых на R2 яв-ляются однородными пространствами одной и той же группы —группы движений на плоскости. Аналогична и ситуация для аналоговэтого преобразования на пространствах произвольной размерности.Однако для построения формулы обращения групповая структураэтого преобразования не используется. Имеется также цикл преоб-разований интегральной геометрии, не связанных с понятием группы,для которых построение формулы обращения сходно со случаемпреобразования Радона.

ИНТЕГРАЛЬНАЯ ГЕОМЕТРИЯ И ВОПРОС И. М. ГЕЛЬФАНДА 53

Чтобы пояснить содержание этой работы, сравним преобразова-ние Радона на R2 c преобразованием Фурье∗ на R2 :

f(x, y) 7→ (Ff)(ξ, η) =

∫R2

f(x, y)ei(ξx+ηy) dx dy.

Существует простая связь между преобразованием Радона и пре-образованием Фурье на R2, на основе которой вывод формулы об-ращения для преобразования Радона сводится к формуле обращениядля преобразования Фурье: если ψ = Ff , то

f(x, y) =

∫R2

ψ(ξ, η)e−i(ξx+ηy) dξ dη.

Между тем, имеется и существенное различие между этими двумяпреобразованиями. Прежде всего, преобразование Радона локально:для вычисления функции (Rf)(a) достаточно знать значение функ-ции f только на соответствующей прямой. Далее, оно геометрично,т.е. может трактоваться как «квантование» геометрического преоб-разования. Напротив, преобразование Фурье нелокально, зато ядрапрямого и обратно преобразования Фурье комплексно сопряжены.Отсюда следует и формула Планшереля для этих преобразований:∫

R2

|f(x)|2dx =

∫(R2)∗

(Ff)(ξ) dξ.

Дело в том, что преобразование Фурье связано с групповыми свой-ствами пространства Rn (которое рассматривается как группа отно-сительно сложения векторов); это преобразование переводит функ-ции, определенные на группе Rn в функции, определенные на двой-ственной к ней (в смысле Л. С. Понтрягина) группе (которая в данномслучае также изоморфна Rn).

Наша цель состоит в том, чтобы получить аналоги преобразова-ния Фурье для некоторых задач интегральной геометрии, т.е. «пере-строить» ее исходные интегральные преобразования таким образом,чтобы получить обобщенные преобразования Фурье и формулы об-ращения вида

f(x) 7→ f(χ) =

∫X

f(x)e(x, χ) dµ(x), (1)

∗Здесь и в последующих интегральных формулах предполагается, что коэффици-енты, обычно стоящие перед знаком интеграла, уже учтены в нормировке меры, покоторой ведется интегрирование.


f(χ) 7→ f(x) =

∫X

f(χ)e(x, χ) dµ(χ), (2)

где X и X — многообразия или локально компактные пространствас мерами dµ и dµ соответственно, x ∈ X , χ ∈ X , и функцияe(x, χ) определена на декартовом произведении X×X . В этом случае(и при естественных дополнительных условиях) X и X являютсягипергруппами в смысле Ж. Дельсарта [4], причем эти гипергруппыкоммутативны и взаимно двойственны, а обобщенное преобразованиеФурье связано с гармоническим анализом на этих гипергруппах исоответствующей теорией представлений. Основные понятия и неко-торые сведения из теории гипергрупп описаны ниже в § 2.

Для преобразования Радона на R2 такая «перестройка» состоитв том, что в его определении ядро δ(·) заменяется на произволь-ное ядро a(·). Таким образом, исходное локальное интегральноепреобразование заменяется преобразованием уже, вообще говоря,нелокальным. Ищутся ядра a(·), для которых существует формулаобращения, и ядро в этой формуле обращения комплексно сопряженоядру исходного интегрального преобразования. Полученные инте-гральные преобразования естественно называть обобщенными пре-образованиями Фурье (короче ОПФ), ассоциированными с исходнымпреобразованием Радона.

Оказывается, что и в ряде других задач интегральной геометрииобобщенные преобразования Фурье вида (1) с формулами обраще-ния вида (2) удается получить как результат композиции исходныхинтегральных преобразований с дополнительными преобразованиямидостаточно простой структуры. При этом возникают новые примерыкоммутативных гипергрупп. Эти примеры тесно связаны с гипергео-метрическими функциями и их обобщениями.

§ 2. ГИПЕРГРУППЫ И ОБОБЩЕННЫЕ ПРЕОБРАЗОВАНИЯ ФУРЬЕ

Имеются тесные связи между рядом стандартных задач инте-гральной геометрии (в смысле И. М. Гельфанда) и коммутативнымигипергруппами (находящимися в двойственности типа Понтрягина)и гармоническим анализом на этих гипергруппах. Этот результатможно рассматривать как ответ на старый вопрос И. М. Гельфандаоб алгебраических основаниях интегральной геометрии.

Стандартными объектами интегральной геометрии являются глад-кое многообразие (или пространство) X и семейство X его подмно-гообразий. Предположим, что X имеет структуру гладкого много-образия или диффеологического пространства, и на каждом y ∈ X


задана фиксированная мера dyx. Тогда в пространстве функций на Xопределено интегральное преобразование

J : f(x) 7→ f(y) =

∫y∈X

f(x) dyx,

которое можно также представить в следующей форме:

J : f(x) 7→ f(y) =

∫X

f(x)a(x, y) dx, (3)

где a(x, y) является обобщенной функцией (например, распределе-нием умеренного роста) на X × X , a(x, y) = δy(x), supp a(x, y) =

= (x, y) ∈ X × X | x ∈ y и dx — фиксированная мера на X . Фор-мула обращения для этого преобразования может быть представленав виде

J−1 : f(y) 7→ f(x) =

∫X

f(y)b(x, y) dy,

где b(x, y) — обобщенная функция на X×X и dy — фиксированнаямера на X . Мы рассматриваем комплекснозначные функции.

Чтобы связать преобразования J с гипергруппами, заменим ихпреобразованиями более общего вида

F : f(x) 7→ f(y) =

∫f(x)e(x, y) dx, (4)

где e(x, y) — произвольная обобщенная функция на X × X . Пред-положим, что это преобразование порождает такой изоморфизмL2(X, dx) → L2(X, dy), что справедлива следующая обобщеннаяформула Планшереля:∫

f(x)g(x) dx =

∫f(y)g(y) dy. (5)

Дополнительно предположим, что этот изоморфизм можно про-должить на δ-функции и положим g(x) = δx(·); тогда из формулы (4)следует, что δx = e(x, y), так что справедлива следующая формулаобращения:

f(x) =

∫f(y)e(x, y) dy. (6)


С другой стороны, формула Планшереля (5) следует из фор-мул (4) и (6). Мы предполагаем, что в пространстве L2(X, dx) име-ется такое плотное линейное локально выпуклое подпространство S(линеал), что S состоит из непрерывных функций (не всех) и линеалS = F (S) обладает такими же свойствами относительно простран-ства L2(X, dy). Предполагается, что S и S являются алгебрами от-носительно обычного произведения функций и изоморфизм (4) можнопродолжить на δ-функции, принадлежащие пространствам M и M ,сопряженным (двойственным) пространствам S и S соответственно.

Описанная конструкция является формализацией и обобщениемэвристических соображений Б. М. Левитана [5, 6].

В указанном случае (так что справедливы формулы (4) и (6)и, следовательно, формула (5)) назовем преобразование F обоб-щенным преобразованием Фурье (сокращенно ОПФ), а функцииe(x, y) и e(x, y) — обобщенными экспонентами.

П р е д л о ж е н и е 1. При указанных предположениях Xимеет структуру коммутативной гипергруппы в следующемсмысле: в S действует система операторов обобщенногосдвига, удовлетворяющих аксиоме ассоциативности Ж. Дель-сарта [4]; наличие нейтрального элемента, вообще говоря, непредполагается. Эти операторы обобщенного сдвига опреде-ляются формулой

Ryf(x) =

∫f(χ) · e(y, χ) · e(x, χ) dχ,

где χ ∈ X задает характер χ(x) = e(x, χ) на X . Аналогичноx(χ) = e(x, χ) является характером на X .

Коммутативность гипергруппы означает, что операторы обобщен-ного сдвига коммутируют друг с другом. Тогда и X является гипер-группой, двойственной к X ; разумеется, гипергруппа X двойственнак X и F−1(δy) = e(x, y).

Доказательство этого утверждения дано в следующем разделе.Например, если X = X = Rn , dx и dy — нормированные инва-

риантные меры, то F — обычное преобразование Фурье, e(x, y) —экспоненциальная функция ei⟨x,y⟩ , а в качестве S можно принятьпространство Л. Шварца комплекснозначных функций, быстро убы-вающих со всеми производными. В этом случае пространство Mсостоит из всех обобщенных функций (распределений) умеренногороста.

Ниже в § 6 пространство S совпадает с пространством всехгладких комплекснозначных функций на компактной гипергруппе X ,


а в остальных разделах совпадает с пространством Л. Шварца нагипергруппе X .

Основной результат состоит в том, что для стандартных задачинтегральной геометрии можно построить такое дополнительное пре-образование L, что F = LJ является обобщенным преобразованиемФурье, порождающим гипергрупповые структуры на X и X .

Другой подход состоит в построении такого семейства Jλ пре-образований типа (3) с ядрами aλ(x, y), что aλ0 = a(x, y), Jλ0 = J ,Jλ1 = J−1 для некоторых значений λ0 и λ1 (вообще говоря, мно-гомерного) параметра λ, и поиске такого значения λ = µ этогопараметра λ, что Jµ является обобщенным преобразованием Фурье,порождающим гипергрупповые структуры на X и X .

§ 3. ОБОБЩЕННАЯ СВЕРТКА И ОПЕРАТОРЫОБОБЩЕННОГО СДВИГА

Условимся через x, y обозначать точки из X и через ξ точкипространства X .

Используя формулы (4) и (6), можно определить обобщеннуюсвертку f ∗ g функций f(x) и g(x) на X по формуле

f ∗ g = F−1(f · g), где f = Ff и g = Fg.

Аналогично определяется обобщенная свертка функций, определен-ных на X . Таким образом обобщенная свертка на гипергруппе по-рождается обычным умножением функций на двойственной гипер-группе.

Ассоциативная и коммутативная операция обобщенной сверткипорождает структуры гипергрупповых алгебр в M и M . Обычноструктуры гипергрупповых алгебр возникают и в пространствах сум-мируемых функций, мер и обобщенных функций с компактным но-сителем, аналитических функционалов и др. Каждая гипергрупповаяалгебра порождает свой тип гармонического анализа [12].

Представления гипергрупповых алгебр можно трактовать какпредставления соответствующих гипергрупп, обобщенные экспонен-ты являются характерами (порождают одномерные представлениягипергрупп) и собственными функциями операторов обобщенногосдвига, см. [5, 6, 12].

Операторы обобщенного сдвига задают коумножение в простран-ствах функций на гипергруппе X по формуле f(x) 7→ f(x, y) == Rxf(y), где x, y ∈ X , а Rxf(y) совпадает со значением функци-


онала δx ∗ δy на функции f . Легко видеть, что

Ryf(x) =

∫f(χ) · e(y, χ) · e(x, χ) dχ,

где χ ∈ X задает характер χ(x) = e(x, χ) на X . Аналогичноx(χ) = e(x, χ) является характером на X . Подробности см., напри-мер, в [12]. Аксиома ассоциативности для операторов обобщенногосдвига Rx состоит в том, что RxLy = LyRx для всех элементов x и yиз X , где операторы Ly определяется равенством Lyf(x) = Rxf(y).Эта аксиома непосредственно следует из ассоциативности обобщен-ной свертки и определений. Отсюда легко выводится предложение 1.

Обычно требуется существование нейтрального элемента x0∈X(единицы гипергруппы), для которого справедливо равенство

Rx0 = I, (7)

где I — тождественный оператор. Это означает, что δx0 являетсяправой единицей относительно обобщенной свертки; если этот эле-мент является и левой единицей, то гипергруппа называется редуци-рованной. Условие (7) выполнено, если и только если e(x0, y) = 1

для всех y ∈ X . Это условие нам не понадобится. Гипергруппа яв-ляется коммутативной, если соответствующая обобщенная сверт-ка коммутативна. В этой статье мы рассматриваем коммутативныегипергруппы. Дополнительные условия (аксиомы) выделяют специ-альные классы гипергрупп (в зависимости от конкретных задач иприложений). Различные версии понятия гипергруппы обсуждаются,например, в [4–12]. Разумеется, любая группа (или полугруппа) Gявляется примером гипергруппы; в этом случае сдвиги Rx имеют вид

Rx : f(t) 7→ f(tx),

где tx — произведение элементов группы, свертка определяетсяобычным образом и т.п. Другим примером является группа или по-лугруппа G со стохастическим умножением. В этом случае произве-дением элементов x и y является вероятностная мера µ на G. То-гда обобщенной сверткой дельта-функций, сосредоточенных на этихэлементах, и является мера µ. По линейности эта операция про-должается до ассоциативной обобщенной свертки на пространствеограниченных мер на G.

Имеется сравнительно немного нетривиальных содержательныхпримеров гипергрупп, связанных с гармоническим анализом; одна изцелей настоящей статьи и состоит в том, чтобы увеличить набортаких примеров. Наиболее известными и важными примерами такогорода являются пары Гельфанда, связанные с гармоническим анали-зом сферических функций, см., например, [6, 12].


§ 4. ОПФ, СВЯЗАННЫЕ С ОБОБЩЕННЫМИПРЕОБРАЗОВАНИЯМИ РАДОНА В R3

4.1. ПРЕОБРАЗОВАНИЕ РАДОНА НА R3

Преобразование Радона на R3 (см. [3]) ставит в соответствиефункциям f на R3 их интегралы по плоскостям в R3 , т.е. функцииRf на многообразии плоскостей в R3 . Для его явного описанияусловимся задавать плоскости в R3 уравнениями

x3 = a1x1 + a2x2 + a3,

(отбрасываются плоскости, параллельные оси x3) и примем dx1dx2в качестве меры на каждой такой плоскости. Набор a = (a1, a2, a3)трактуется как система локальных координат на многообразии плос-костей в R3 .

В этих обозначениях преобразование Радона ϕ = Rf есть функ-ция ϕ(a) = ϕ(a1, a2, a3), заданная равенством

ϕ(a1, a2, b) =

∫R2

f(x1, x2, a1x1 + a2x2 + b) dx1 dx2.

Используя обобщенную дельта-функцию, можно представить это ра-венство в форме интеграла по всему пространству R3 :

ϕ(a1, a2, a3) =

∫R3

f(x1, x2, x3)δ(x3 − a1x1 − a2x2 − a3) dx1 dx2 dx3.

З а м е ч а н и е. Имеются другие способы описания преобразо-вания Радона в R3 , на которых мы здесь не останавливаемся.

Известно (см., например, [14]), что справедлива следующая фор-мула обращения преобразования Радона: если ϕ(a) = Rf(a), то

f(x) =

∫R2

∂2ϕ(a1, a2, a3)

∂a23

∣∣∣∣a3=x3−a1x1−a2x2

da1 da2,

или, в выражении через производную дельта-функции,

f(x) =

∫R3

ϕ(a1, a2, a3)δ′′(x3 − a1x1 − a2x2 − a3) da1 da2 da3.

Заметим, что эта формула обращения локальна, т.е. для восста-новления функции f в произвольной точке x достаточно знать ееинтегралы по плоскостям, бесконечно близким в этой точке.


4.2. ОБОБЩЕННЫЕ ПРЕОБРАЗОВАНИЯ РАДОНА НА R3

О п р е д е л е н и е 1. Свяжем с каждой обобщенной функциейu(t) на R и обозначим через Ju интегральное преобразование в про-странстве функций f на R3 вида

(Ruf)(a) =

∫R3

f(x1, x2, x3)u(x3 − a1x1 − a2x2 − a3) dµ(x),

dµ(x) = dx1dx2dx3.

Назовем операторы Ru обобщенными преобразованиями Радона.Таким образом, обобщенные преобразования Радона получа-

ются заменой в определении обычного преобразования Радонадельта-функции δ(t) на произвольную обобщенную функцию u(t).

Формула обращения для обобщенного преобразования Радо-на получается применением преобразования Фурье к функциямf(x), u(t) и ϕ = Ruf . Обозначим через f(ξ) и u(s) преобразованияФурье функций f(x) и u(t) и через ϕ(a1, a2, c) преобразование Фурьепо a3 функции ϕ(a1, a2, a3), т.е.

f(ξ) =

∫R3

f(x)ei⟨ξ,x⟩ dx, u(s) =

∫R

u(t)eist dt,

ϕ(a1, a2, c) =

∫R

ϕ(a1, a2, a3)eica3 da3.

Т е о р е м а 1. Если ϕ = Ruf, то преобразования Фурьеf(ξ), u и ϕ функций f , u и ϕ связаны соотношением

ϕ(a1, a2, c) = f(−a1c,−a2c, c)u(−c). (8)

Д о к а з а т е л ь с т в о. Выразив в равенстве

ϕ(a) =

∫R3

f(x)u(x3 − a1x1 − a2x2 − a3) dx

функции f и u через их преобразования Фурье f и u, мы получим

ϕ(a) =

∫R

f(a1c, a2c,−c)u(c)eica3 dc.

Соотношение (8) получается применением к обеим частям этого ра-венства преобразования Фурье по a3 .


С л е д с т в и е 1. Если обобщенная функция u — обычнаяфункция, и эта функция почти всюду отлична от нуля, тоf однозначно выражается через обобщенное преобразованиеРадона ϕ = Ruf .

В самом деле, из (8) следует, что при этих условиях функция f ,а тогда и функция f , однозначно выражается через функцию ϕ.

Т е о р е м а 2. Если обобщенная функция u удовлетворя-ет условиям следствия 1, то функция f следующим образомвыражается через свое обобщенное преобразование Радонаϕ = Ruf :

f(x) =

∫R2

ϕ(a)U(x3 − a1x1 − a2x2 − a3) da1 da2, (9)

гдеU(t) =

∫R

[u(c)]−1c2eict dc.

Д о к а з а т е л ь с т в о. Имеем

f(x) =

∫R3

f(ξ)e−⟨ξ,x⟩ dξ =

=

∫R3

f(−a1c,−a2c, c)eic(a1x1+a2x2−x3) c2 dc da1 da2.

Значит, согласно (8),

f(x) =

∫R3

ϕ(a1, a2, c)[u(−c)]−1c2eic(a1x1+a2x2−x3) dc da1 da2.

Подставив сюда выражение ϕ через функцию ϕ, получаем (9).

4.3. ОПИСАНИЕ ОПФ, СВЯЗАННЫХ С ОБОБЩЕННЫМИ

ПРЕОБРАЗОВАНИЯМИ РАДОНА В R3

Т е о р е м а 3. Если обобщенная функция u(t) на R естьобычная функция, отличная от нуля для почти всех c ∈ R, тообобщенное преобразование Радона Ru является ОПФ тогдаи только тогда, когда

|u(c)| = |c| для почти всех c ∈ R. (10)


Д о к а з а т е л ь с т в о. Из теоремы 2 следует, что обобщенноепреобразование Радона Ru является ОПФ тогда и только тогда,когда

U(t) = u(t), где U(t) =

∫R

[u(c)]−1c2eict dc. (11)

Равенство (11) эквивалентно равенству

[u(c)]−1c2 =

∫R

u(t)e(−ict)dt = u(c),

т.е. равенству (10).

4.4. ПРИМЕРЫ

Условиям теоремы 3 удовлетворяют функции вида u(c) == |c|1+iρsgnϵc, где ρ ∈ R и ϵ = 0, 1. Известно [13], что обратнымипреобразованиями Фурье этих функций являются при (ρ, ϵ) = (0, 1)обобщенные функции |t|−2−iρsgnϵ(t), а при (ρ, ϵ) = (0, 1) — функ-ция δ′(t).

Таким образом, ОПФ, ассоциированными с обобщенным преоб-разованием Радона на R3 , являются преобразования вида

f(x) 7→∫R3

f(x)δ′(p(a, x)) dx

и

f(x) 7→∫R3

|p(a, x)|−2−iρsgn(p(a, x))dx при (ρ, ϵ) = (0, 1),

где p(a, x) = x3 − a1x1 − a2x2 − a3 .

§ 5. ОПФ, СВЯЗАННЫЕ С ОБОБЩЕННЫМПРЕОБРАЗОВАНИЕМ РАДОНА В Rn И Cn

Определения и результаты предыдущего раздела для случая про-странства R3 переносятся на случай пространств Rn и Cn припроизвольном n. Изложим их в более краткой форме.

Преобразование Радона на Rn и Cn ставит в соответствие функ-циям f на этих пространствах их интегралы по гиперплоскостям.Условимся задавать эти гиперплоскости уравнениями вида

xn = a1x1 + . . .+ an−1xn−1 + an


и примем a = (a1, . . . , an) в качестве системы локальных координатна множестве гиперплоскостей, В этих обозначениях преобразованиеРадона функций на Rn и Cn задается равенством

(Rf)(a) =∫Ln

f(x)δ(xn − a1x1 − . . .− an−1xn−1 − an) dµ(x),

где соответственно L = R и L = C, а dµ(x) — лебегова мера на Ln .Обобщенным преобразованием Радона на Rn и Cn , ассоци-

ированным с обобщенной функцией u(t) соответственно на R и C,называется интегральное преобразование вида

(Ruf)(a) =

∫Ln

f(x)u(xn − a1x1 − . . .− an−1xn−1 − an) dµ(x).

Если ϕ = Ruf , то справедливо следующее соотношение междупреобразованиями Фурье f и u функций f и u и преобразованиемФурье ϕ функции ϕ по an :

ϕ(a1, . . . , an−1, c) = f(−a1c, . . . ,−an−1c, c)u(−c).

Из этого соотношения следует, что если обобщенная функция u —обычная функция, почти всюду отличная от нуля, то существуетформула обращения, выражающая исходную функцию f через ееобобщенное преобразование Радона ϕ = Ruf. По аналогии сослучаем R3 эта формула обращения имеет вид

f(x) =

∫Ln

ϕ(a)U(xn − a1x1 − . . . an−1xn−1 − an) da,

где

U(t) =

∫L

[u(c)]−1|c|keiRe ct dµ(c),

k = n− 1 при L = R, k = 2(n− 1) при L = C.

Отсюда по аналогии с обобщенным преобразованием Радонана R3 следует

Т е о р е м а 4. Обобщенное преобразование Радона Ru яв-ляется ОПФ тогда и только тогда, когда |u(c)| = |c|

n−12 в слу-

чае поля L = R и |u(c)| = |c|n−1 в случае поля L = C.


З а м е ч а н и е. Аналог теоремы 4 имеет место и для обобщен-ных преобразований Радона на Ln , где L — произвольное непре-рывное неархимедово локально компактное поле.

П р и м е р. В случае L = C условиям теоремы 4 удовлетворяютфункции u(c) = cλcµ , λ, µ ∈ C, где Re(λ+µ) = n− 1, λ−µ = n ∈ Z.В особом случае (λ, µ) = (k, n − 1 − k), k = 0, 1, . . . , n − 1

соответствующее ОПФ Ru задается ядром u(t) = ∂n−1

∂tk∂tn−1−k δ(t),

где δ(t) — дельта-функция на C. В неособом случае ядром ОПФявляется функция u(t) = t−λ−1t

−µ−1 .В случае L = R условиям теоремы 4 удовлетворяют функции

u(c) = |c|n−12

+iρsgnϵ(c), ρ ∈ R, ϵ = 0, 1. В особом случае, когдаn — нечетное число, n = 2k + 1 и u(c) = ck , ядром соответству-ющего ОПФ является обобщенная функция u(t) = δk(t). В любомнеособом случае ядром соответствующего ОПФ является функцияu(t) = |t|−

n+12

−iρsgnϵ(t).

§ 6. ОПФ, СВЯЗАННЫЕ С ПРЕОБРАЗОВАНИЯМИФУНКЦИЙ НА СФЕРЕ Sn ⊂ Rn+1

6.1. ИНТЕГРАЛЬНЫЕ ПРЕОБРАЗОВАНИЯ НА СФЕРЕ Sn ⊂ Rn+1

Рассмотрим интегральное преобразование в пространстве функ-ций на сфере Sn, относящее этим функциям их интегралы по геодези-ческим гиперповерхностям (аналогам больших кругов на S2). В сфе-рических координатах ω эти гиперповерхности задаются уравнениями⟨ξ, ω⟩ = 0, а само интегральное преобразование представимо в виде

F (ω) → (JF )(ξ) =

∫Sn

F (ω)δ(⟨ξ, ω⟩) dω, (12)

где dω — инвариантная мера на сфере.Согласно этому определению, JF ≡ 0 на подпространстве нечет-

ных функций. Поэтому преобразование (12) предполагается задан-ным на подпространстве четных функций. Аналогом его на подпро-странстве нечетных функций является преобразование вида

(JF )(ξ) =

∫Sn

F (ω)sgn(⟨ξ, ω⟩)δ(⟨ξ, ω⟩) dω.


Обобщенные преобразования Ju , связанные с этими двумя пре-образованиями, имеют вид

(JuF )(ξ) =

∫Sn−1

F (ω)u(⟨ξ, ω⟩) dω,

где u(·) — произвольная обобщенная функция на R, соответственночетная или нечетная.

6.2. ОПИСАНИЕ ОПФ, СВЯЗАННЫХ СО СФЕРОЙ: ПЕРВЫЙ ПОДХОД

Имеется два подхода к описанию ОПФ, связанных со сферой.Первый, кратко изложенный в этом пункте, основан на связи меж-ду обобщенными интегральными преобразованиями, связанными сосферой Sn, и обобщенными преобразованиями Радона в Rn . Второй(см. п. 6.3) исходит исключительно из формулы обращения для пре-образования Фурье в пространстве Rn+1 .

Ограничимся для определенности пространством четных функцийна сфере. Имеется простая связь между преобразованием Радонана Rn и преобразованием J четных функций на сфере Sn . Именно,рассмотрим отображение Rn на полусферу в Sn , где Rn ⊂ Rn+1 —гиперплоскость xn+1 = 1:

ωi =xi|x|, i = 1, . . . , n, ωn+1 =

1

|x|, где |x| =

(1 +

n∑i=1

x2i

)1/2.

Образ пространства функций на Rn при этом отображении можноинтерпретировать как пространство четных функций на Sn . Нетрудноубедиться, что операторы R преобразования Радона на Rn переходятпри этом отображении в операторы на Sn вида (12), а операторы Juобобщенного преобразования Радона — в операторы Ju обобщен-ного преобразования на сфере с тем же ядром u. Отсюда и изописания ОПФ, связанных с обобщенным преобразованием Радонана Rn следует

Т е о р е м а 5. Интегральные преобразования в простран-стве четных функций на сфере Sn вида

(JρF )(ξ) =

∫Sn

F (ω)|⟨ξ, ω⟩|−n+12

+iρ dω, ρ ∈ R,

являются ОПФ.


Аналогично, в пространстве нечетных функций на Sn ОПФ явля-ются интегральные преобразования вида

(Jρ,ϵF )(ξ) =

∫Sn

F (ω)|⟨ξ, ω⟩|−n+12

+iρsgn(⟨ξ, ω⟩) dω.

Приведем доказательство теоремы 5 в несколько иной форме.Продолжим четную функцию F на Sn до четной функции на

Rn+1 степени однородности −n+12 −iρ и дифференциальную n-форму

dω на Sn — до дифференциальной n-формы dx на Rn+1 степениоднородности n + 1. Свяжем с функцией F следующую дифферен-циальную n-форму на Rn+1 :

Ω(x; ξ) = F (x)|⟨ξ, x⟩|−n+12

+iρ dx.

Из определения следует, что Ω — форма степени однородности 0на Rn+1 , являющаяся однородной степени однородности −n+1

2 + iρ

относительно вектора ξ ∈ Rn+1 .Пусть Σ — любая поверхность в Rn+1 , пересекающая в одной

ненулевой точке почти каждую прямую, проходящую через ноль.Тогда из условия на Ω следует, что интеграл

Φ(ξ) =

∫Σ

F (x)|⟨ξ, x⟩|−n+12

+iρ dx (13)

не зависит от выбора поверхности Σ. Аналогично, продолжим четнуюфункцию Φ(ξ), заданную на сфере (Sn)∗ ⊂ (Rn+1)∗ равенством (13),до четной функции на (Rn+1)∗ степени однородности −n+1

2 + iρ

и n-форму dσ∗ на (Sn)∗ — до n-формы dx∗ на Rn+1 степениоднородности n+ 1. Тогда для этого продолжения интеграл

F (x) =

∫Σ∗

Φ(ξ)|⟨ξ, x⟩|−n+12

−iρ dx∗, (14)

где Σ∗ — любая поверхность в (Rn+1)∗ , пересекающая в однойненулевой точке почти каждую прямую, выходящую из нуля, и dσ∗ —мера на Σ∗ , ассоциированная с лебеговой мерой на (Rn+1)∗ , не за-висит от выбора поверхности Σ∗.

В случае, когда Σ — гиперплоскость xn+1 = 1 и Σ∗ — гипер-плоскость an = 1, преобразование (13) является ОПФ, ассоции-рованным с преобразованием Радона в Rn, а (14) — обращением


этого преобразования. Поэтому F = F . Значит, F = F и при любомвыборе Σ и Σ∗ . Таким образом, преобразование (13) является ОПФпри любом выборе поверхности Σ и в частности в случае, когда Σ —полусфера, что и требовалось доказать.

6.3. ОПИСАНИЕ ОПФ, СВЯЗАННЫХ СО СФЕРОЙ: ВТОРОЙ ПОДХОД

Приведем описание обобщенных интегральных преобразований иОПФ в пространстве функций на сфере, основанный исключительнона преобразовании Фурье в пространстве Rn+1 и его формуле обра-щения.

Свяжем с каждым числом λ ∈ C следующее обобщенное инте-гральное преобразование в пространстве четных функций на сфе-ре Sn :

(Jλf)(σ) =Γ(−λ

2

)Γ(λ+12

) ∫Sn

f(ω)|⟨σ, ω⟩|λ dω.

Интеграл сходится при Reλ > −1 и определен при любом λ ∈ C каканалитическое продолжение по λ. В частности, J−1 = J .

Аналогично определим обобщенное интегральное преобразованиев пространстве нечетных функций на сфере Sn :

(Jλ,ϵf)(σ) =Γ(−λ

2

)Γ(λ+12

) ∫Sn

f(ω)|⟨σ, ω⟩|λsgn(⟨σ, ω⟩) dω.

Т е о р е м а 6. Справедливы следующие формулы обращенияинтегральных преобразований Jλ :

если ϕ = Jλf, то f = J−λ+n−1ϕ.

Те же формулы обращения справедливы для интегральных пре-образований Jλ,ϵ .

Д о к а з а т е л ь с т в о. Запишем формулы для преобразованияФурье и его обращения в сферических координатах на Rn+1 :

ϕ(ρσ) =

∫Sn

∞∫0

f(rω)eiρr⟨σ,ω⟩rn dr dω,

f(rω) =

∫Sn

∞∫0

ϕ(ρσ)e−iρr⟨σ,ω⟩ρn dρ dσ.

(15)


Перейдем в этих равенствах, где f — четная функция на Rn+1 , отфункций f и ϕ к их преобразованиям Меллина по r и ρ соответ-ственно:

fλ(ω) =

∞∫0

f(rω)rλ dr, ϕλ(σ) =

∞∫0

ϕ(ρσ)ρλ dρ, λ ∈ C.

Здесь интегралы сходятся при Reλ > −1, а при Reλ < −1 их нужнопонимать как аналитические продолжения по λ.

Умножим обе части первого уравнения в (15) на ρλ и выполниминтегрирование по ρ. При вычислении интеграла в правой частивоспользуемся формулой для преобразования Фурье обобщеннойфункции |ρ|λ (см. [13]):

F(|ρ|λ) =Γ(λ+12

)Γ(−λ

2

) |s|−λ−1.

Мы получим

ϕλ(σ) =Γ(λ+12

)Γ(−λ

2

) ∫Sn

f−λ+n−1(ω)⟨σ, ω⟩|−λ−1 dω.

Аналогично, умножив обе части второго из уравнений (15) на r−λ+n−1

и интегрируя по r, мы получим

f−λ+n−1(ω) =Γ(−λ+n

2

)Γ(λ−n+1

2

) ∫Sn

ϕλ(σ)⟨σ, ω⟩|λ−n dσ.

Положив f(ω) = fλ+n(ω) и ϕ(σ) = ϕ−λ−1(σ), получаем заменой λна −λ+ 1 в полученных равенствах

ϕ(σ) =Γ(−λ

2

)Γ(λ+12

) ∫Sn

f(ω)⟨σ, ω⟩|λ dω,

f(ω) =Γ(λ+n+1

2

)Γ(−λ−n

2

) ∫Sn

ϕ(σ)⟨σ, ω⟩|−λ−n−1 dσ.

Таким образом, ϕ = Jλf и f = J−λ−n−1ϕ, что и требовалось.С л е д с т в и е 2. Обобщенное преобразование Jλ является

ОПФ тогда и только тогда, когда −λ − n − 1 = λ, т.е. когдаλ = −n+1

2 + iρ, ρ ∈ R.Отметим, что мы получили примечательный пример компактных

гипергрупп, двойственных друг к другу.


§ 7. ОПФ, СВЯЗАННЫЕ С КОМПЛЕКСОМ ПРЯМЫХ В C3 ,ПЕРЕСЕКАЮЩИХ КРИВУЮ

7.1. КОМПЛЕКСЫ ПРЯМЫХ В C3 И СВЯЗАННОЕ С НИМИИНТЕГРАЛЬНОЕ ПРЕОБРАЗОВАНИЕ J

Пусть Λ — плоская алгебраическая кривая в C3 и K — се-мейство (комплекс на языке интегральной геометрии) прямых в C3 ,пересекающих кривую Λ. Не нарушая общности, можно предпола-гать, что Λ — бесконечно удаленная кривая, заданная в однородныхкоординатах (x0, x1, x2, x3) параметрическими уравнениями

x0 = 0, x1 = u1(t)x3, x2 = u2(t)x3, t ∈ C.

Тогда прямые комплекса K задаются в координатах (x1, x2, x3) урав-нениями

x1 = u1(t)x3 + α1, x2 = u2(t)x3 + α2,

где t, α1 α2 ∈ C. Примем комплексные числа t, α1, α2 в качествелокальных координат на многообразии прямых комплекса K .

Свяжем с комплексом K интегральное преобразование

J : f(x) 7→ (Jf)(α, t) = ϕ(α, t), (16)

ϕ(a, t) =

∫C

f(u1(t)x3 + α1, u2(t)x3 + α2, x3) dµ(x3),

где dµ(x3) — мера Лебега на соответствующей комплексной прямой.Таким образом, J ставит в соответствие функциям f на C3 ихинтегралы по прямым комплекса K .

Запишем (16) в другой, более удобной форме:

Jf(α, t) =

∫C3

f(x) δ(x1−u1(t)x3−α1) δ(x2−u2(t)x3−α2) dµ(x), (17)

где δ(·) — дельта-функция на C, dµ(x) — мера Лебега на C3 .Известно, что комплекс K допустим в смысле [2], т.е.

1) для любой алгебраической кривой Λ функция f может бытьвосстановлена по ее образу ϕ = Jf ;

2) для восстановления функции f в произвольной точке x до-статочно знать значения функции ϕ на множестве прямых,бесконечно близких к x (локальность формулы обращения).


7.2. ОБОБЩЕННЫЕ ИНТЕГРАЛЬНЫЕ ПРЕОБРАЗОВАНИЯ Ja

Обозначим через La оператор свертки по α = (α1, α2) функцииϕ(α, t) = ϕ(α1, α2, t) с обобщенной функцией a(α, t) = a(α1, α2, t):

La : ϕ(a, t) 7→∫C2

ϕ(α+ s, t)a(s, t) dµ(s).

Определим обобщенное интегральное преобразование Ja в простран-стве функций f на C3 , ассоциированное с кривой Λ и обобщеннойфункцией a(s, t), как композицию (произведение) Ja = LaJ инте-грального преобразования J , ассоциированного с комплексом K , иоператора свертки La . Согласно этому определению

(Jaf)(α, t)=

∫C3

f(x) a(x1−u1(t)x3−α1, x2−u2(t)x3−α2, t) dµ(x), (18)

т.е. Ja получается заменой в формуле (17) для J обобщенной функ-ции δ(s1)δ(s2) на обобщенную функцию a(s1, s2, t).

В дальнейшем на функции a(s, t) будет наложено дополнительноеусловие.

7.3. ФОРМУЛА ОБРАЩЕНИЯДЛЯ ИНТЕГРАЛЬНОГО ПРЕОБРАЗОВАНИЯ Ja

Будем предполагать, что f ∈ S , где S — пространствоЛ. Шварца комплекснозначных быстро убывающих со всеми произ-водными функций на C3 .

Пусть ϕ = Jaf . Обозначим через f(ξ) = f(ξ1, ξ2, ξ3) пре-образование Фурье функции f , а через ϕ(ξ1, ξ2, t) и a(ξ1, ξ2; t) —преобразования Фурье по α функций ϕ(α1, α2, t) и a(α1, α2, t) соот-ветственно. Из (18) легко выводится

Т е о р е м а 7. Функции f , ϕ и a связаны соотношением

ϕ(ξ1, ξ2, t) = f(ξ1, ξ2,−u1(t)ξ1 − u2(t)ξ2) · a(−ξ1,−ξ2, t). (19)

С л е д с т в и е 3. Если обобщенная функция a — обычнаяфункция, то функция f , а значит, и исходная функция f одно-значно восстанавливается по функции ϕ = Jaf тогда и толькотогда, когда a(ξ1, ξ2, t) = 0 почти всюду на C3 .


С л е д с т в и е 4. Функция ϕ = Jaf удовлетворяет следую-щему условию симметрии:

ϕ(ξ1, ξ2; t) a(−ξ1,−ξ2, t′) = ϕ(ξ1, ξ2; t′) a(−ξ1,−ξ2, t)

для любых (ξ1, ξ2, t) и (ξ1, ξ2, t′) таких, что u1(t)ξ1 + u2(t)ξ2 =

= u1(t′)ξ1 + u2(t

′)ξ2 .О п р е д е л е н и е 2 (см., например, [14]). Назовем функцией

Крофтона, связанной с кривой Λ, функцию CrΛ(ξ) = CrΛ(ξ1, ξ2, ξ3),равную числу решений t уравнения u1(t)ξ1 + u2(t)ξ2 + ξ3 = 0, т.е.числу точек пересечения кривой Λ и прямой ξ1x1 + ξ2x2 + ξ3x3 = 0на бесконечно удаленной плоскости. Если функция CrΛ(ξ) почтивсюду постоянна, то назовем эту постоянную числом Крофтона иобозначим через CrΛ .

Очевидно, что функция Крофтона алгебраической кривой Λ ⊂ C3

почти всюду постоянна и CrΛ = 0.З а м е ч а н и е. Определение функции Крофтона переносится на

алгебраические кривые Λ ⊂ L3 , где L — произвольное локальнокомпактное непрерывное поле. Однако, в отличие от случая L = C,функция Крофтона, вообще говоря, не постоянна и может приниматьнулевые значения на некотором открытом подмножестве.

Т е о р е м а 8. Если обобщенная функция a(ξ1, ξ2, t) — обыч-ная функция, почти всюду отличная от нуля, то имеет местоследующая формула обращения интегрального преобразова-ния Ja : если ϕ = Jaf , то

f(x) =

∫ϕ(α, t)A(x1−u1(t)x3−α1, x2−u2(t)x3−α2; t) dµ(α) dµ(t),

(20)где

A(s1, s2, t) =1

CrΛ

∫C2

|u′1(t)ξ1 + u′2(t)ξ2|2

a(ξ1, ξ2; t)eiRe(s1ξ1+s2ξ2) dµ(ξ).

Д о к а з а т е л ь с т в о. По формуле обращения для преобразо-вания Фурье в C3 имеем

f(x) =

∫C3

f(ξ)e−iRe⟨x, ξ⟩ dµ3(ξ) =

=1

CrΛ

∫f(ξ1, ξ2,−u1(t)ξ1 − u2(t)ξ2)|u′1(t)ξ1 + u′2(t)ξ2|2 dµ(ξ)dµ(t).


Отсюда и из (19) следует, что

f(x) =

=1

CrΛ

∫ϕ(ξ1, ξ2; t)

|u′1(t)ξ1+u′2(t)ξ2|2

a(−ξ1,−ξ2; t)e−iRe[x1(t)ξ1+x2(t)ξ2] dµ(ξ)dµ(t),

где xi(t) := xi−ui(t)x3 , i = 1, 2. Заменив под интегралом функцию ϕее выражением через функцию ϕ, получаем (20).

7.4. ОПФ, СВЯЗАННЫЕ С КОМПЛЕКСОМ K

Т е о р е м а 9. Если обобщенная функция a(ξ1, ξ2; t) удовле-творяет условиям теоремы 8, то преобразование Ja , заданноеравенством (18), является ОПФ, связанным с комплексом K ,тогда и только тогда, когда

|aξ1, ξ1; t| = Cr−1/2Λ |u′1(t)ξ1 + u′2(t)ξ2|. (21)

Д о к а з а т е л ь с т в о. Из теоремы 8 следует, что преобразо-вание Ja , является ОПФ тогда и только тогда, когда ядро a(s, t)связано с ядром A(s, t) в формуле обращения (20) соотношением

A(s1, s2; t) = a(s1, s2; t),

т.е.

1

CrΛ

∫C3

|u′1(t)ξ1 + u′2(t)ξ2|2

a(ξ1, ξ2; t)eiRe(s1ξ1+s2ξ2) dµ(ξ) = a(s1, s2; t). (22)

Равенство (22) эквивалентно равенству

|u′1(t)ξ1 + u′2(t)ξ2|2

CrΛa(ξ1, ξ2; t)=

∫a(s1, s2; t)e

−iRe(s1ξ1+s2ξ2) dµ(s).

Поскольку правая часть этого равенства есть a(ξ1, ξ2; t), отсюдаследует (21), что и требовалось.

7.5. ПРИМЕРЫ

1. a(ξ; t) = Cr−1/2Λ (u′1(t)ξ1 + u′2(t)ξ2)

λ(u′1(t)ξ1 + u′2(t)ξ2))µ, где

Re(λ + µ) = 1, λ − µ — целое число.


Тогда, если (λ, µ) = (1, 0), (0, 1), то

a(s; t) = Cr−1/2Λ

(s1u′1(t)

)−λ−1( s1

u′1(t)

)−µ−1

δ(u′1(t)s2 − u′2(t)s1);

при (λ, µ) = (1, 0)

a(s; t) = Cr−1/2Λ

(u′1(t)

∂

∂s1+ u′2(t)

∂

∂s2

)δ(s1, s2);

при (λ, µ) = (0, 1)

a(s; t) = Cr−1/2Λ

(u′1(t)

∂

∂s1+ u′2(t)

∂

∂s2

)δ(s1, s2).

2. a(ξ; t) = Cr−1/2Λ (u′1(t)ξ1+u

′2(t)ξ2)(ξ1/ξ1)

λ1(ξ2/ξ2)λ2 , λ1, λ2 = 0.

Тогда

a(s; t) = Cr−1/2Λ

(u′1(t)s

−λ1−21 sλ1−1

1 s−λ2−12 sλ2−1

1 +

+u′2(t)s−λ1−11 sλ1−1

1 s−λ2−22 sλ2−1

1

).

Приведенные формулы следуют из известных формул для преобра-зований Фурье обобщенных функций zλzµ на C (см. [2]).

§ 8. ОПФ, СВЯЗАННЫЕ С КОМПЛЕКСОМ ПРЯМЫХ В R3 ,ПЕРЕСЕКАЮЩИХ КРИВУЮ

Рассмотрим, подобно случаю C3 , комплекс прямых в R3 , пересе-кающих плоскую алгебраическую кривую Λ в бесконечно удаленнойплоскости. Прямые комплекса K задаются уравнениями

x1 = u1(t)x3 + α1, x2 = u2(t)x3 + α2, t ∈ R,

где t, α1, α2 ∈ R, а связанные с K обобщенные интегральныепреобразования функций f на R3 — равенствами

(Jaf)(α, t) =

∫R3

f(x)a(x1 − u1(t)x3 − α1, x2 − u2(t)x3 − α2, t) dµ(x).

Подобно комплексному случаю, преобразование Фурье f(ξ1, ξ2, ξ3)функции f и преобразования Фурье функций ϕ = Jaf и a, т.е.


функции ϕ(ξ1, ξ2, t) и a(ξ1, ξ2, t), связаны соотношением (19), и выводформулы обращения для преобразования Ja основан на этом соот-ношении.

В отличие от комплексного случая, функция Крофтона CrΛ(ξ)вещественной кривой Λ, т.е. число вещественных решений t уравне-ния u1(t)ξ1 + u2(t)ξ2 + ξ3 = 0, не постоянна и может обращаться внуль в некоторой области. Ее отличие от нуля почти всюду на R3 —дополнительное условие существования формулы обращения для Ja .

В результате имеем:Т е о р е м а 10. Если обобщенная функция a — обычная

функция, почти всюду отличная от нуля на R3 , то функция fоднозначно восстанавливается по функции ϕ = Jaf тогда итолько тогда, когда функция Крофтона CrΛ(ξ) почти всюдуотлична от нуля.

В самом деле, в этом и только этом случае функция f может бытьвосстановлена на основании (19) почти в каждой точке ξ .

Т е о р е м а 11. Если выполнены условия теоремы 10, тофункция f восстанавливается из функции Jaf по формуле

f(x) =

∫R3

ϕ(α, t)A(x1 − u1(t)x3 − α1, x2 − u2(t)x3 − α2; t) dµ(α) dµ(t),

где

A(s1, s2, t) =

=

∫R2

|u′1(t)ξ1 + u′2(t)ξ2|CrΛ(ξ1, ξ2,−u1(t)ξ1 − u2(t)ξ2) a(ξ1, ξ2; t)

ei(ξ1s1+ξ2ξ2) dµ(ξ).

С л е д с т в и е 5. Обобщенное интегральное преобразова-ние Ja является ОПФ тогда и только тогда, когда

|a(ξ1, ξ2, t)|2 =|u′1(t)ξ1 + u′2(t)ξ2|

CrΛ(ξ1, ξ2,−u1(t)ξ1 − u2(t)ξ2). (23)

В частности, если u1(t) и u2(t) — линейные функции, тоCrΛ(ξ) ≡ 1, а потому соотношение (23) принимает вид

|a(ξ1, ξ2, t)| = |u′1(t)ξ1 + u′2(t)ξ2|1/2.

П р и м е р. CrΛ(ξ) ≡ 1; |a(ξ1, ξ2, t)| = |u′1(t)ξ1 + u′2(t)ξ2|1/2+iρ .Ядро ОПФ имеет вид

a(s; t) =

∣∣∣∣ s1u′1(t)

∣∣∣∣−3/2−iρδ(u′1(t)s2 − u′2(t)s1).


§ 9. ОПФ, СВЯЗАННЫЕ С КОМПЛЕКСОМ k-МЕРНЫХПЛОСКОСТЕЙ В Cn

9.1. ОПИСАНИЕ КОМПЛЕКСА K

Обобщим введенное в § 7 определение комплекса прямых в C3 наслучай k-мерных плоскостей в пространстве Cn при произвольныхn и k < n.

Представим пространство Cn в виде прямой суммы пространствCn = Ck ⊕ Cl, k + l = n, с координатами x = (x1, . . . , xk) иy = (y1, . . . , yl) и введем k-мерное семейство линейных отображенийCk → Cl вида x 7→ y = u(t)x, где u(t) = ∥uij(t)∥ — фиксирован-ная (l, k)-матрица, элементы которой — алгебраические функции отt = (t1, . . . , tk), ti ∈ C. Подробнее:

yi = ui1(t)x1 + . . .+ uik(t)xk, i = 1, . . . , l.

C матрицей u(t) свяжем n-мерный комплекс K , состоящий изk-мерных плоскостей в Cn , заданных уравнениями

yi = ui1(t)x1 + . . .+ uik(t)xk + αi, i = 1, . . . , l. (24)

В короткой записи:

y = u(t)x+ α.

Условие, что K — n-мерное подмногообразие в многообразии всехk-мерных плоскостей (т.е. комплекс K невырожден) эквивалентноусловию невырожденности отображения t 7→ u(t) пространства Ckв пространство (l, k)-матриц.

Примем векторы α = (α1, . . . , αk) и t = (t1, . . . , tk) в качествекоординат на комплексе K .

Геометрическая структура введенного комплекса такова. Уравне-ния y = u(t)x, t ∈ Ck задают на Cn в однородных координатахk-мерное семейство (k − 1)-мерных плоскостей в бесконечно уда-ленной гиперплоскости x0 = 0. Элементами комплекса K являют-ся k-мерные плоскости в Cn, содержащие хотя бы одну из этих(k − 1)-мерных плоскостей, В частности, при k = 1 комплекс Kсостоит из прямых в Cn , пересекающих фиксированную кривуюв бесконечно удаленной гиперплоскости. Для случая n = 3 он былуже рассмотрен в § 7.


9.2. ИНТЕГРАЛЬНОЕ ПРЕОБРАЗОВАНИЕ, СВЯЗАННОЕС КОМПЛЕКСОМ K

Свяжем с комплексом K интегральное преобразование J , отно-сящее функциям f(x, y) на Cn их интегралы по плоскостям комплек-са:

Jf(α, t) =

∫Ck

f(x, u(t)x+ α) dµ(x),

где dµ(x) — лебегова мера на Ck . Выражение для J удобно пред-ставить в виде

Jf(α, t) =

∫Cn

f(x, y) δ(y − u(t)x− α) dµ(x) dµ(y), (25)

где δ(·) — дельта-функция на Ck.Поставим задачу: восстановить функцию f по ее интегральному

преобразованию ϕ = Jf . Для ее решения перейдем от функцииϕ(α, t) к ее преобразованию Фурье по α:

ϕ(ξ, t) =

∫Cl

ϕ(α, t)eiRe⟨α,ξ⟩ dµ(α),

где ⟨α, ξ⟩ =l∑

i=1αiξi . Из формулы обращения для преобразования

Фурье следует

ϕ(α, t) =

∫(Cl)∗

ϕ(ξ, t)e−iRe⟨α,ξ⟩ dµ(ξ), (26)

где (Cl)∗ — пространство, сопряженное к Cl , а лебегова мера dµ(ξ)нормирована так, что множитель перед интегралом отсутствует.

Из формулы (25) легко следует

Т е о р е м а 12. Функция ϕ и преобразование Фурье fфункции f связаны соотношением

ϕ(ξ, t) = f(−ξu(t), ξ), (27)

где ξu(t) — k-вектор с координатами

ηj =

l∑i=1

ξiuij(t), j = 1, . . . , k.


С л е д с т в и е 6. Для любого невырожденного комплексаk-мерных плоскостей в Cn , заданных уравнениями (24), ассо-циированное с ним интегральное преобразование f 7→ ϕ = Jfобратимо.

В самом деле, согласно (27), преобразование Фурье f функ-ции f (а значит, и сама функция f ) однозначно восстанавливаетсяпо функции ϕ тогда и только тогда, когда образ пространства пар(ξ, t) ∈ Cl × Ck при отображении (ξ, t) 7→ (−ξu(t), ξ) являетсяоткрытым всюду плотным подмножеством в Ck ⊕ Cl , т.е. для почтикаждой пары (η, ξ) существует решение t уравнения η = −ξu(t).Это требование заведомо выполняется для аналитической матри-цы u(t). Опишем явно формулу обращения интегрального преобра-зования J .

О п р е д е л е н и е 3. Назовем функцией Крофтона, связан-ной с комплексом K , функцию CrK(η, ξ) на Ck ⊕Cl, равную числурешений t уравнения η = −ξu(t). Если функция Крофтона почтивсюду постоянна, назовем эту постоянную числом Крофтона иобозначим через CrK .

Для случая k = 1, n = 3 это определение было уже введенов § 7. Как и там, очевидно, что в силу аналитичности функций uij(t),функция Крофтона почти всюду постоянна и почти всюду отличнаот нуля.

Будем далее предполагать, что CrΛ < ∞. Это условие выполня-ется, например, когда элементы матрицы u(t) являются полиномами.Обозначим эту отличную от нуля постоянную через CrΛ .

Явное выражение f через ϕ = Jf получается из соотноше-ния (27) обратным преобразованием Фурье:

f(x, y) =

∫f(η, ξ)e−iRe[⟨x,η⟩⟨y,ξ⟩] dµ(ξ) dµ(η) =

=1

CrK

∫f(−ξu(t), ξ) |ω(ξ, t)|2 e−iRe⟨y−u(t)x,ξ⟩ dµ(ξ) dµ(t),

где ω — якобиан, т.е. ω(ξ, t) = ∂η(ξ,t)∂t . Очевидно, что ω(ξ, t) —

однородный полином степени k от ξ1, . . . , ξl .Следовательно, в силу равенства (26), справедливо соотношение

f(x, y) =1

CrK

∫ϕ(ξ, t)|ω(ξ, t)|2e−iRe⟨y−u(t)x,ξ⟩ dµ(ξ) dµ(t) =

=1

CrK

∫ϕ(α, t)|ω(ξ, t)|2e−iRe⟨y−u(t)x−α,ξ⟩ dµ(ξ) dµ(t) dµ(α).


Интегрируя по ξ и α, получаем:Т е о р е м а 13. При условии, что CrK < ∞, справедлива

следующая формула обращения для интегрального преобразо-вания J :

f(x, y) =1

CrK

∫Ck

ω

(i∂

∂α, t

)ω

(i∂

∂α, t

)ϕ(α, t)

∣∣∣∣∣α=y−u(t)x

dµ(t).

9.3. ОБОБЩЕННЫЕ ПРЕОБРАЗОВАНИЯ, СВЯЗАННЫЕС КОМПЛЕКСОМ K

Свяжем с комплексом K общий класс преобразований, заменивв определении (25) интегрального преобразования J дельта-функциюδ(s) на Cl произвольной обобщенной функцией вида a(s, t):

(Jaf)(α, t) =

∫f(x, y) a(y − u(t)x− α, t) dµ(x) dµ(y). (28)

Легко видеть, что функция Jaf является сверткой по α функцииϕ = Jf с функцией a(s, t):

(Jaf)(α, t) =

∫Cl

ϕ(α+ s, t) a(s, t) dµ(s).

Отсюда следуетТ е о р е м а 14. Преобразования Фурье по α функций ϕ= Jf

и ψ = Jaf связаны соотношением

ψ(ξ, t) = ϕ(ξ, t) a(−ξ, t), (29)

где a(−ξ, t) — преобразование Фурье по α функции a(α, t).Из (29) следует, что задачи о восстановлений функции f по

функции Jf и по функции Jaf сводятся одна к другой.Укажем явное выражение функции f через функцию ψ = Jaf .

Из формул (27) и (29) следует

ψ(ξ, t) = f(−ξu(t), ξ) a(−ξ, t). (30)

Если ядро a — обычная функция, почти всюду отличная от нуля, торавенство (30) однозначно определяет функцию f . Отсюда, применяяобратное преобразование Фурье, получаем:


Т е о р е м а 15. Если CrK < ∞, а ядро a(ξ, t) — обычнаяфункция на Cn , почти всюду отличная от нуля, то справед-лива следующая формула обращения интегрального преобразо-вания f 7→ ψ = Jaf :

f(x, y) =

∫ψ(α, t)A(y − u(t)x− α, t) dµ(α) dµ(t),

где

A(s, t) =1

CrK

∫|ω(ξ, t)|2

a(ξ, t)eiRe⟨s,ξ⟩ dµ(ξ). (31)

9.4. ОПФ, СВЯЗАННЫЕ С КОМПЛЕКСОМ K

Т е о р е м а 16. При условиях теоремы 15 интегральноепреобразование Ja является ОПФ тогда и только тогда, ко-гда преобразование Фурье a(ξ, t) по s ядра a(s, t) удовлетворя-ет соотношению

|a(ξ, t)| = Cr−1/2K |ω(ξ, t)|, где ω(ξ, t) =

∂(ξu(t))

∂t. (32)

Д о к а з а т е л ь с т в о. Если выполнены условия теоремы 15,то преобразование Ja обратимо, и ядро A(s, t) обратного преобразо-вания задается формулой (31). Условие, что Ja есть ОПФ, имеет вид

A(s, t) = a(s, t). (33)

Перейдя в этом равенства от функций A(s, t) и a(s, t) к их преобра-зованиям Фурье по s, получаем

|ω(ξ, t)|2

CrΛa(ξ, t)=

∫a(s, t)e−iRe⟨s,ξ⟩ds = a(ξ, t),

что эквивалентно равенству (32).

9.5. ПРИМЕРЫ ОПФ

Примерами ОПФ являются интегральные преобразования Jaс ядрами a(s, t), преобразования которых по s — функции a(ξ, t)вида

a(ξ, t) = Cr−1/2K ω(ξ, t)

l∏p=1

ξλpp ξ

−λpp , λp ∈ C.


Опишем явно соответствующие ядра a(s, t). Поскольку ω(ξ, t) —однородный полином от ξ1, . . . , ξl степени k, то функция a(ξ, t) имеетвид

a(ξ, t) =∑

m1+...+ml=k

[um1,...,ml

(t)

l∏p=1

(ξmp+λpp ξ

−λpp )

].

Следовательно,

a(s, t) =∑

m1+...+ml=k

[um1,...,ml

(t)l∏

p=1

F(ξmp+λpp ξ

−λpp )

],

где F — оператор обратного преобразования Фурье. В частности [2],

если λp = 0, p = 1, . . . , l, то F(ξmp+λpp ξ

−λpp ) есть, с точностью до

множителя, функция s−mp−λp−1p s

λp−1p .

В особом случае λ1 = . . . = λl = 0 ОПФ локально и его ядроa(s, t) имеет вид

a(s, t) = Cr−1/2K ω

(∂

∂s; t

)δ(s).

§ 10. ОПФ, СВЯЗАННОЕ С КОМПЛЕКСОМ k-МЕРНЫХПЛОСКОСТЕЙ В Rn

Рассмотрим аналог задачи из предыдущего раздела для веще-ственного пространства Rn .

Пусть K — n-мерное алгебраическое подмногообразие в мно-гообразии всех k-мерных плоскостей пространства Rn (комплексплоскостей), и пусть плоскости из K заданы, как и в случае про-странства Cn, уравнениями (24). Векторы α = (α1, . . . , αl) ∈ Rlи t = (t1, . . . , tk) ∈ Rk в этих уравнениях являются локальнымикоординатами на K . Подобно комплексному случаю, мы связываемс K семейство интегральных преобразований f 7→ ϕ = Jaf вида (28),где a(s, t) — обобщенная функция на Rn , а интегрирование ведетсяпо лебеговой мере на Rn . Решаются те же задачи: 1) получитьформулу обращения для интегрального преобразования Ja и 2) наосновании этой формулы обращения описать преобразования Ja ,являющиеся ОПФ.

Решение этих задач основано на соотношении между преобразо-ваниями Фурье f и a функции f и ядра a по s и преобразованием ϕфункции ϕ по α. Оно задается той же формулой (30), что и в случае


комплексного пространства, Из него, в предположении, что преобра-зование Фурье ядра a по s является обычной функцией, почти всюдуотличной от нуля, выводится формула обращения.

Различие между комплексным и вещественным случаями связа-но со свойствами функции Крофтона комплекса K В комплексномслучае она почти всюду постоянна и отлична от нуля. В веще-ственном случае эти свойства, вообще говоря, не выполняются, идля существования формулы обращения дополнительно требуется,чтобы функция Крофтона комплекса K была почти всюду отличнаот нуля.

Поэтому для вещественного комплекса K имеет место следующийаналог теоремы 15.

Т е о р е м а 17. Если функция Крофтона CrΛ(ξ, η) комплек-са K конечна и почти всюду отлична от нуля, а ядро a(ξ, t) —обычная функция, почти всюду отличная от нуля, то справед-лива следующая формула обращения интегрального преобразо-вания f 7→ ϕ = Jaf :

f(x, y) =

∫ϕ(α, t)A(y − u(t)x− α, t) dµ(α) dµ(t),

где

A(s, t) =

∫|ω(ξ, t)|a(ξ, t)

ei⟨s,ξ⟩ dµ(ξ).

С л е д с т в и е 7. Интегральное преобразование Ja явля-ется ОПФ, если преобразование Фурье a(ξ, t) по s ядра a(s, t)удовлетворяет равенству

|a(ξ, t)|2 = Cr−1Λ (ξ, ξu(t))|ω(ξ, t)|.

В частности, если элементы матрицы u(t) — линейные функ-ции, то функция Крофтона равна тождественно единице, а потому|a(ξ, t)| = |ω(ξ, t)|1/2 .

П р и м е р. В случае, когда k = 1, CrΛ(ξ, η) ≡ 1 и a(ξ, t) =

=∣∣∣n−1∑i=1

u′i(t)ξi

∣∣∣1/2+iρ , ядро ОПФ имеет вид

a(s; t) =∣∣∣ s1u′1(t)

∣∣∣−3/2−iρ n−1∏i=2

δ(u′1(t)si − u′i(t)s1).



1. Г е л ь ф а н д И. М. Интегральная геометрия и ее связь с теорией представле-ний. Успехи мат. наук. 1960. 15, 2. 155–164.

2. Г е л ь ф а н д И. М., Г р а е в М. И., В и л е н к и н Н. Я. Обобщенные функ-ции, вып. 5. Интегральная геометрия и связанные с ней вопросы теории представ-лений. Физматгиз, Москва. 1962.

3. R a d o n J. Uber die Bestimmung von Funktionen durch ihre Integralwarte lngsgewisser Mannigfaltigkeiten. Ber. Verh. Sachs. Akad. 1917. B, 69. 262–281.

4. D e l s a r t e J. Hypergroups et operateur de permutation et de transformation.Colloque International du CNRS. 1956. 71. 274–290.

5. Л е в и т а н Б. М. Теория операторов обобщенного сдвига. Наука, Москва.1973.

6. L e v i t a n B. M., L i t v i n o v G. L. Generalized displacement operators. In:Encyclopaedia of Mathematics, 4. Kluwer Acad. Publ., Dordrecht. 1989. 224–228.

7. J e w e t t R. I. Spaces with an abstract convolution of measures. Adv. Math. 1975.18. 1–101.

8. Б е р е з а н с к и й Ю. М., К а л ю ж н ы й А. А. Гармонический анализ на ги-перкомплексных системах. Наукова думка, Киев. 1992.

9. R o s s K. A. Signed hypergroups — a survey. Contemporary Mathematics. 1995.183. 319–329.

10. B l o o m W. B., H e y e r H. Harmonic analysis of probability measures on hyper-groups. De Gruyter, Berlin e.a. 1995.

11. S c h w a r t z A. L. Three lectures on hypergroups. In: International conferenceon harmonic analysis. Birkhauser, Basel. 1997. 93–129.

12. L i t v i n o v G. L. Hypergroups and hypergroup algebras. J. Soviet Math. 1987.38, 4. 1734–1761.

13. Г е л ь ф а н д И. М., Ш и л о в Г. Е. Обобщенные функции и действия надними. Физматгиз, Москва. 1959.

14. Г е л ь ф а н д И. М., Г и н д и к и н С. Г., Г р а е в М. И. Избранные задачиинтегральной геометрии. Добросвет, Москва. 2000.

А. О. И В А Н О В, А. А. Т У Ж И Л И Н, А. Ю. Е Р Ё М И Н,

Е. С. Е Р О Х О В Е Ц, З. Н. О В С Я Н Н И К О В, А. С. П А Х О М О В А,

О. В. Р У Б Л Ё В А, Н. П. С Т Р Е Л К О В А, Е. И. Ф И Л О Н Е Н К О ∗

МИНИМАЛЬНЫЕ ЗАПОЛНЕНИЯПСЕВДОМЕТРИЧЕСКИХ ПРОСТРАНСТВ

Настоящая работа посвящена новому направлению в теорииэкстремальных сетей — исследованию одномерных минималь-ных заполнений. Являясь частным случаем обобщения проблемыГромова о минимальных заполнениях на случай стратифициро-ванных многообразий, рассматриваемая задача имеет самостоя-тельный интерес и может быть представлена также как обобще-ние другой классической задачи — проблемы Штейнера о поискекратчайшей сети с заданной границей. Работа представляет со-бой обзор современного состояния теории и включает недавниерезультаты участников семинара «Экстремальные сети», прохо-дящего на механико-математическом факультете МГУ.


Рассматриваемая в настоящей статье проблема возникла в ре-зультате синтеза двух классических задач: проблемы Штейнера ократчайших сетях и проблемы Громова о минимальных заполнениях.Напомним вкратце историю этих задач.

Проблема Штейнера — это задача об оптимальном соедине-нии конечного множества точек метрического пространства. По-видимому, первые формулировки этого типа возникли в трудах Фер-ма, поставившего вопрос о поиске такого расположения точки наплоскости, что сумма расстояний от нее до вершин заданного тре-угольника наименьшая из возможных. В течении нескольких сто-летий был получен полный ответ (Торричелли, Симпсон, Хайнен;

∗ Работа выполнена при поддержке Российского фонда фундаментальных иссле-дований (грант 10–01–00748-а), Программы поддержки ведущих научных школРФ (грант НШ-3224.2010.1), Программы «Развитие научного потенциала выс-шей школы» (грант 2.1.1.3704) и Программы «Научные и научно-педагогическиекадры инновационной России» (контракты 02.740.11.5213 и 14.740.11.0794).

84 А. О. И В А Н О В, А. А. Т У Ж И Л И Н, и др.

подробности см. в [1]), из которого ясно, что, соединяя три точкина плоскости, бывает выгодно добавить четвертую точку-развилку.Важность таких дополнительных точек прекрасно понимал Гаусс,обсуждавший в переписке с Шумахером задачу о том, как соеди-нить Гамбург, Бремен, Ганновер и Брауншвейг кратчайшей системойдорог. В 1934 г. Ярник и Кесслер [2] сформулировали общую зада-чу, которая теперь известна как классическая проблема Штейнера.Фактически их задача представляет собой обобщение задачи Ферма иГаусса о кратчайшем соединении на случай произвольного конечногомножества точек плоскости. Что касается самого Штейнера, то онзанимался другим обобщением задачи Ферма: найти в пространстветакую точку, для которой сумма расстояний до заданных точек будетнаименьшей возможной. Отметим, что недоразумение о приоритетевозникло благодаря популярной книге Куранта и Роббинса «Чтотакое математика?» [3], где задача Ферма была приписана Штейнеру,а задача Ярника и Кесслера была названа просто обобщением про-блемы Штейнера.

Понятие минимального заполнения появилось в работах Громо-ва [4] в следующем виде. Пусть M — гладкое замкнутое многообра-зие, на котором задана функция расстояния ρ. Рассмотрим всевоз-можные пленки W , затягивающие M , т.е. компактные многообразияс краем, равным M . Рассмотрим на многообразии W функцию рас-стояния d, не уменьшающую расстояния между точками из M . Такоеметрическое пространство W = (W,d) будем называть заполнениемметрического пространства M = (M,ρ). Задача Громова состоит вописании точной нижней грани объемов заполнений, а также описа-нии тех пространств W , называемых минимальными заполнениями,на которых эта нижняя грань достигается.

Интерес к минимальным заполнениям объясняется прежде всеготем, что на этом языке естественно формулируются многие класси-ческие неравенства римановой геометрии, см. подробности и точ-ные ссылки в книге [5], а также в диссертации С. В. Иванова [6].Так, например, неравенство Безиковича, утверждающее, что объемриманова куба не меньше произведения расстояний между его про-тивоположными гранями, вытекает из того, что стандартный куб вевклидовом пространстве является минимальным заполнением своейграницы. Другой пример — неравенство Пу, оценивающее снизу дли-ну кратчайшей нестягиваемой петли на проективной плоскости. Этонеравенство следует из того, что стандартная полусфера представ-ляет собой минимальное заполнение своей граничной окружности,наделенной внутренней метрикой. Отметим также, что минимальныезаполнения имеют разнообразные применения в теории динамическихсистем, асимптотической геометрии, математической физике и т.д.

В контексте проблемы Штейнера естественно рассмотреть в каче-стве M конечное метрическое пространство. Тогда возможные запол-

МИНИМАЛЬНЫЕ ЗАПОЛНЕНИЯ ПСЕВДОМЕТРИЧЕСКИХ ПРОСТРАНСТВ 85

нения — метрические пространства, имеющие структуру одномерныхстратифицированных многообразий (которые можно рассматриватькак реберно взвешенные графы с неотрицательными весовыми функ-циями), что приводит к следующему частному случаю обобщенияпроблемы Громова.

Пусть M — произвольное конечное множество и G = (V,E) —некоторый связный граф. Будем говорить, что G соединяет M ,если M ⊂ V . В этом случае также будем говорить, что M —граница графа G. Пусть теперь M = (M,ρ) — конечное псевдо-метрическое пространство (в отличие от метрики, расстояния междуразными точками могут быть равны нулю), G = (V,E) — связныйграф, соединяющий M , и ω : E → R+ — некоторое отображение внеотрицательные вещественные числа, называемое обычно весовойфункцией и порождающее взвешенный граф G = (G,ω). Весомвзвешенного графа G называется величина ω(G), равная сумме весоввсех ребер этого графа. Функция ω задает на V псевдометрику dω , аименно, расстоянием между вершинами графа G назовем наименьшийиз весов путей, соединяющих эти вершины. Если для любых точекp и q из M выполняется ρ(p, q) 6 dω(p, q), то взвешенный графG называется заполнением пространства M, а граф G — типомэтого заполнения. Число mf(M), равное inf ω(G) по всем запол-нениям G пространства M, назовем весом минимального заполне-ния, а заполнение G , для которого ω(G) = mf(M), — минимальнымзаполнением. Если минимизировать вес заполнений фиксированноготипа, то получаем минимальные параметрические заполнения,вес которых обозначается через mpf(M, G). Основная задача —научиться вычислять mf(M), mpf(M, G) и описывать минимальные(параметрические) заполнения.

§ 2. НЕОБХОДИМЫЕ ОПРЕДЕЛЕНИЯ И ПРЕДВАРИТЕЛЬНЫЕРЕЗУЛЬТАТЫ

Пусть G = (V,E) — произвольный связный граф и X = (X, d) —псевдометрическое пространство. Отображение Γ: V → X назовемсетью в X , параметризованной графом G = (V,E) или сетьютипа G. Вершинами и ребрами сети Γ называются ограниченияотображения Γ соответственно на вершины и ребра графа G. Длинойребра Γ: vw → X назовем число d(Γ(v),Γ(w)), а длиной d(Γ)сети Γ — сумму длин всех ее ребер. В дальнейшем мы будемрассматривать граничные задачи на графах, фиксируя во множествахвершин V графов G = (V,E) некоторые, вообще говоря, произволь-ные подмножества ∂G и называя их границами. Говоря о графах,мы будем всегда предполагать, что у них заданы некоторые грани-цы, возможно пустые. Границей ∂Γ сети Γ назовем ограничениеотображения Γ на ∂G. Если M ⊂ X — конечное множество и


M ⊂ Γ(V ), то будем говорить, что сеть Γ соединяет множе-ство M . Вершины графов и сетей, не являющиеся граничными,будем называть внутренними. Число

smt(M) = infd(Γ) | Γ — сеть, соединяющая M

назовем длиной кратчайшей сети. Отметим, что соединяющая Mсеть Γ, для которой d(Γ) = smt(M), существует не всегда; см. нетри-виальные примеры в [8] и [9]. Если такая сеть существует, то онаназывается кратчайшей сетью, соединяющей M , или на M .Одна из разновидностей проблемы Штейнера состоит в описаниикратчайших сетей, соединяющих конечные подмножества псевдомет-рических пространств.∗

При изучении кратчайших сетей и минимальных заполнений есте-ственно возникает более широкий класс объектов — минимальныепараметрические сети (заполнения). Дело в том, что структура па-раметризующего графа априори не известна, что делает описанныевыше задачи комбинаторно сложными. В параметрических аналогахэтих задач структура графа задается заранее, что существенно облег-чает поиск решения. Например, как мы увидим ниже, задача о мини-мальном параметрическом заполнении сводится к задаче линейногопрограммирования.

Пусть G=(V,E) — связный граф с границей ∂G и φ : ∂G→X —некоторое отображение, где X = (X, d) — псевдометрическое про-странство. Обозначим через [G,φ] множество всех сетей Γ: V → Xтипа G таких, что ∂Γ = φ. Положим

mpn(G,φ) = infΓ∈[G,φ]

d(Γ)

и полученное число назовем длиной минимальной параметри-ческой сети. Если существует сеть Γ ∈ [G,φ], для которойd(Γ) = mpn(G,φ), то Γ называется минимальной параметриче-ской сетью типа G с границей φ.

У т в е р ж д е н и е 3. Пусть X = (X, d) — произвольноепсевдометрическое пространство, и M — конечное непустоеподмножество X . Тогда

smt(M) = infmpn(G,φ) | φ(∂G) =M.

Таким образом, задача вычисления длины кратчайшей сети сво-дится к изучению минимальных параметрических сетей.

∗Обозначение smt представляют собой аббревиатуру английского терминаSteiner Minimal Tree — минимальное дерево Штейнера, обычно используемого длякратчайшей сети, все ребра которой невырождены (отличны от отображений в точку)и которая, поэтому, является деревом.


Пусть M = (M,ρ) — конечное псевдометрическое пространствои G = (V,E) — произвольный связный граф, соединяющий M .В этом случае мы всегда будем считать, что граница такого графа Gфиксирована и равна M . Обозначим через Ω(M, G) все весовыефункции ω : E → R+ такие, что (G,ω) — заполнение простран-ства M. Положим

mpf(M, G) = infω∈Ω(M,G)

ω(G)

и назовем полученное число весом минимального параметриче-ского заполнения типа G пространства M. Если существуетω ∈ Ω(M, G), для которого ω(G) = mpf(M, G), то (G,ω) на-зывается минимальным параметрическим заполнением типа Gпространства M.

У т в е р ж д е н и е 4. Пусть M = (M,ρ) — конечное псев-дометрическое пространство. Тогда

mf(M) = infG

mpf(M, G).

Таким образом, задача поиска веса минимального заполне-ния метрического пространства M может быть разбита на двеподзадачи — во-первых, нужно уметь находить вес минимально-го параметрического заполнения для фиксированного графа G и,во-вторых, нужно выбрать среди всевозможных типов заполненияграф G, для которого вес минимального параметрического заполне-ния (mpf(M, G)) будет минимален.

§ 3. ПРИМЕР: ТРЕХТОЧЕЧНОЕ ПСЕВДОМЕТРИЧЕСКОЕПРОСТРАНСТВО

Пусть в псевдометрическом пространстве M = p1, p2, p3 всеготри точки, расстояния между которыми равны ρ(pi, pj) = ρij .

Рассмотрим взвешенный граф (G,ω) с четырьмя вершинамиp1, p2, p3 и x, в котором вершина x соединена с тремя остальными,пусть вес ребра ω(xpi) =

ρji+ρik−ρjk2 . Легко видеть, что расстояние по

этому графу между вершинами pi и pj равно в точности ρij . Поэтомунеравенства dω(pi, pj) > ρ(pi, pj) из определения заполнения выпол-няются и этот граф является заполнением данного пространства. Еговес равен ρ12+ρ23+ρ31

2 .Осталось понять, почему это заполнение минимально, т.е. поче-

му не найдется заполнения меньшего веса. Во-первых, у нас естьфактически только один способ соединить три точки — если толькомы не будем добавлять «лишние» ребра, но это увеличивает вес


графа и потому «невыгодно» нам (ниже мы будем говорить об этомболее подробно и аккуратно, а сейчас позволим себе считать этоочевидным).

Поэтому будем считать, что три вершины p1, p2, p3 соединены тре-мя ребрами с вершиной x. Остается подобрать веса ω1 , ω2 , ω3 этихребер так, чтобы получилось заполнение с минимально возможнымсуммарным весом ω1 + ω2 + ω3 .

Из определения заполнения получаем

ω1 + ω2 > ρ12, ω2 + ω3 > ρ23, ω3 + ω1 > ρ31,

откуда, складывая, получаем 2ω1+2ω2+2ω3 > ρ12+ρ23+ρ31 . Значит,меньше, чем получили выше, не получится, и mf(M,ρ) = ρ12+ρ23+ρ31

2 .

§ 4. СУЩЕСТВОВАНИЕ МИНИМАЛЬНОГОПАРАМЕТРИЧЕСКОГО ЗАПОЛНЕНИЯ

Пусть M = (M,ρ) — конечное псевдометрическое пространство,соединенное некоторым (связным) графом G = (V,E). Как и выше,через Ω(M, G) обозначим множество, состоящее из всех весовыхфункций ω : E → R+ , для которых G = (G,ω) является заполнениемпространства M, а через Ωm(M, G) — его подмножество, состоящееиз весовых функций, для которых G — минимальное параметриче-ское заполнение пространства M.

У т в е р ж д е н и е 5. Множество Ωm(M, G) ⊂ Ω(M, G) —непустой выпуклый компакт в линейном пространстве REвсех функций на E .

Другими словами основной результат можно сформулировать так:С л е д с т в и е 1. Для любого M и любого соединяющего

его графа G существует минимальное параметрическое запол-нение типа G пространства M.

Д о к а з а т е л ь с т в о. Для краткости мы не будем обращатьвнимание на вопрос о выпуклости и докажем лишь существованиеминимального параметрического заполнения.

Условие, что весовая функция ω определяет заполнение про-странства M, может быть записано в виде следующей системынеравенств:

∑e∈γ

ω(e) > ρ(p, q), где γ — путь в G, соединяющий

вершины p и q , лежащие в M , а также неравенств ω(e) > 0, e ∈ E ,гарантирующих неотрицательность весов ребер.

Минимальные параметрические заполнения соответствуют мини-мумам линейной функции S(ω) =

∑e∈E

ω(e) на Ω(M, G), поэтому


нам нужно доказать, что минимум этой функции на этом множестведостигается.

Множество Ω(M, G) замкнуто, так как все неравенства в системенестрогие.

Кроме того, ясно, что множество Ω(M, G) непусто — если всеω(e) достаточно велики, то все неравенства системы выполняются(например, если для всех e выполнено ω(e) > max

p,q∈Mρ(p, q)).

Рассмотрим любую точку из Ω(M, G) и соответствующую весо-вую функцию ω0 . Множество Ω(M, G) ∩ w | S(ω) 6 S(ω0) ⊂ REзамкнуто и ограничено, т.е. является компактом. На этом компактенепрерывная функция S достигает минимума. Очевидно, что это бу-дет минимум функции S не только на Ω(M, G)∩w | S(ω) 6 S(ω0),но и на всем множестве Ω(M, G).

З а м е ч а н и е 1. Задача о поиске минимального параметри-ческого заполнения в псевдометрическом пространстве фактическисводится к задаче линейного программирования.

§ 5. РЕДУКЦИЯ К ДЕРЕВЬЯМ И СУЩЕСТВОВАНИЕМИНИМАЛЬНОГО ЗАПОЛНЕНИЯ

В предыдущем параграфе было показано, что поиск минималь-ного параметрического заполнения является задачей линейного про-граммирования. Выбор оптимального графа, в свою очередь, являет-ся сложной переборной задачей, но перебор может быть существенносокращен, если заметить, что при выборе G можно ограничитьсяграфами некоторого специального вида.

Пусть M=(M,ρ) — некоторое псевдометрическое пространство.О п р е д е л е н и е 1. Назовем дерево G = (V, E) бинарным,

если у него множество висячих вершин совпадает с M (т.е. гра-ничными являются висячие вершины и только они), а множествовнутренних вершин V \M состоит из вершин степени 3.

П р е д л о ж е н и е 1. Для бинарного дерева выполнено со-отношение |E| = 2|M | − 3.

П р е д л о ж е н и е 2. Пусть M фиксировано. Тогда числобинарных деревьев, соединяющих M , конечно.

Понятие бинарного дерева оказывается очень важным при изуче-нии минимальных заполнений в связи со следующей теоремой:

Т е о р е м а 1. Пусть M — конечное псевдометрическоепространство, G = (G,ω) — некоторое его заполнение. Тогдасуществует G′ = (G′, ω′) — заполнение M такое, что G′

является бинарным деревом и ω′(G′) 6 ω(G).


Подробное формальное доказательство этой теоремы может бытьнайдено в статье [10]. В данной работе мы ограничимся краткимнаброском доказательства.

Д о к а з а т е л ь с т в о. Если в графе G присутствует цикл,то удалив из него произвольное ребро, получим взвешенный графс весом не больше, чем у исходного. Легко видеть, что данный графтакже будет являться заполнением M. Продолжая эту процедурудалее, можем прийти к заполнению, являющимуся деревом. Далее,если у полученного дерева какие-то висячие вершины не являютсяграничными (т.е. не принадлежат M ), то они могут быть удаленывместе с инцидентными им ребрами. Если же наоборот, какая-то изграничных вершин не является висячей, то она может быть сделанависячей с помощью вклейки ребра нулевого веса. Таким образом,пришли к взвешенному дереву G1 = (G1, ω1), являющемуся за-полнением M, причем множество висячих вершин G1 совпадаетс M . Далее, вершины степени более чем 3 могут быть расщепленыс помощью вклейки ребра нулевого веса, а вершины степени 2удалены с объединением инцидентных им ребер в одно ребро, вескоторого равен сумме весов удаленных. После всех этих операцийполучим взвешенное бинарное дерево G′ = (G′, ω′), являющеесязаполнением M. Заметим, что при всех проводимых операциях весграфа не возрастал, поэтому ω′(G′) 6 ω(G).

Из данной теоремы, в частности, следует, что

mf(M) = infG

mpf(M, G) = infG′

mpf(M, G),

где в последнем выражении минимизация происходит только лишьпо бинарным деревьям. Пусть G1, . . . , Gn — все бинарные деревья,соединяющие M . Вследствие утверждения 5 для каждого бинар-ного дерева Gi существует весовая функция ωi такая, что (Gi, ωi)является минимальным параметрическим заполнением M. Итого,получаем

mf(M) = infG′

mpf(M, G) = miniwi(Gi).

Выбрав i, на котором достигается минимум, получим, что (Gi, wi)является минимальным заполнением пространства M .

Таким образом, доказана следующая

Т е о р е м а 2. Пусть M — конечное псевдометрическоепространство. Тогда множество его минимальных заполненийнепусто, более того, среди них есть минимальное заполнение,являющееся бинарным деревом.


СОГЛАШЕНИЕ

Из теорем 1 и 2 вытекает, что при изучении минимальных запол-нений всегда можно ограничиться рассмотрением бинарных деревьев.В дальнейшем, если не оговорено противное, мы всегда будемпредполагать это условие выполненным.

§ 6. ОБХОДЫ, ПЕРИМЕТРЫ И МИНИМАЛЬНЫЕ ЗАПОЛНЕНИЯ

Пусть G = (V,E) — бинарное дерево с границей M . Выбросимиз G некоторое ребро e, и пусть G1 и G2 — связные компонентыполученного леса. Положим Mi = M ∩ Gi .

П р е д л о ж е н и е 3. В сделанных обозначениях, множе-ства Mi не пусты.

Полученное разбиение M1,M2 множества M обозначим черезPG(e).

Пусть S — конечное множество. Назовем циклическим по-рядком на множестве S произвольную циклическую перестановкуπ : S → S .

Циклический порядок π на M назовем планарным по отноше-нию к G или обходом G, если для каждого e ∈ E и Mi ∈ PG(e)существует единственная точка p ∈Mi , для которой π(p) ∈Mi .

У т в е р ж д е н и е 6. Пусть G = (G,ω) — взвешенное де-рево с границей M и π — произвольный циклический порядокна M . Тогда ∑

p∈Mdω(p, π(p)) > 2ω(G).

Более того, равенство достигается, если и только если π —обход G.

Д о к а з а т е л ь с т в о. Обозначим через γp путь в дереве G,соединяющий p и π(p). Тогда dω(p, π(p)) = ω(γp). Для доказатель-ства неравенства достаточно проверить, что для каждого ребра eграфа G существуют такие различные p и q из M , что пути γp и γqсодержат e. Для этого рассмотрим разбиение PG(e) = M1,M2.Легко видеть, что в каждом Mi существует такая точка pi , что π(pi)лежит в Mj , j = i. Точки p1 и p2 можно выбрать в качествеp и q . Осталось заметить, что порядок π планарный, если и толькоесли каждое ребро e содержится ровно в двух таких путях γp .Доказательство закончено.

Пусть M = (M,ρ) — конечное псевдометрическое пространство,и π — произвольный циклический порядок на M . Периметром


пространства M по отношению к порядку π назовем величину

P (M, π) =∑p∈M

ρ(p, π(p)),

а minπ P (M, π), где минимум берется по всевозможным циклическимпорядкам π на M , назовем периметром псевдометрического про-странства M и обозначим через P (M). Отметим, что P (M) —длина пути, являющегося решением задачи о коммивояжере [11].

Далее, полупериметром p(M, π) пространства M по отно-шению к порядку π и просто полупериметром p(M) конечногопсевдометрического пространства M назовем половину соответству-ющего периметра:

p(M, π) = P (M, π)/2, p(M) = P (M)/2.

Кроме того, в дальнейшем нам понадобится следующее обозначе-ние. Если G = (G,ω) — некоторое заполнение конечного псевдомет-рического пространства M = (M,ρ), то множество всех циклическихпорядков на M , планарных по отношению к дереву G, т. е. всехобходов G, будем обозначать через O(G) или через O(G). Будемтакже говорить, что каждый такой обход (порядок) определен на M.

Из утверждения 6 и определения заполнения получаем следую-щий результат.

С л е д с т в и е 2. Пусть G=(G,ω) — произвольное запол-нение конечного псевдометрического пространства M=(M,ρ)и π ∈ O(G). Тогда ω(G) > p(M, π), иными словами,

ω(G) > maxπ∈O(G)

p(M, π)

и, значит,

mf(M) > minG

maxπ∈O(G)

p(M, π) > p(M),

где минимум можно брать как по всем деревьям с границей M ,так и лишь по бинарными деревьями с границей M .

Далее, еслиω(G) = max

π∈O(G)p(M, π),

то G — минимальное параметрическое заполнение и

mpf(M, G) = maxπ∈O(G)

p(M, π).


§ 7. ПРИМЕР: АДДИТИВНЫЕ ПРОСТРАНСТВА

Аддитивные пространства особенно популярны в биоинформати-ке. Они играют важную роль при изучении эволюции. Напомним,что конечное псевдометрическое пространство M = (M,ρ) называ-ется аддитивным, если M можно соединить взвешенным деревомG = (G,ω), для которого ρ совпадает с ограничением dω на M .Дерево G называется порождающим для пространства M.

Не всякое псевдометрическое пространство является аддитивным.Оказывается, критерием аддитивности пространства является прави-ло четырех точек: для любых четырех точек pi , pj , pk , pl величиныρ(pi, pj) + ρ(pk, pl), ρ(pi, pk) + ρ(pj , pl), ρ(pi, pl) + ρ(pj , pk) являют-ся длинами сторон равнобедренного треугольника с основанием, непревосходящим боковой стороны.

У т в е р ж д е н и е 7 [12,13]. Псевдометрическое простран-ство аддитивно, если и только если для него выполняетсяправило четырех точек.

Напомним, что взвешенный граф, не имеющий ребер нулевоговеса, называется невырожденным.

У т в е р ж д е н и е 8 [14, 15]. Если ограничиться рассмот-рением невырожденных деревьев, то порождающее дерево ад-дитивного метрического пространства единственно.

Следующий критерий полностью решает задачу о минимальныхзаполнениях для аддитивных псевдометрических пространств.

Т е о р е м а 3. Минимальными заполнениями аддитивногопсевдометрического пространства являются его порождаю-щие деревья и только они.

Д о к а з а т е л ь с т в о. Пусть сначала G = (G,ω) — некотороепорождающее дерево аддитивного псевдометрического пространстваM = (M,ρ). Покажем, что G — минимальное заполнение для M.

Пусть G′ = (G′, ω′) — некоторое минимальное заполнениедля M, и π′ — планарный порядок на M по отношению к G′ . Тогда,в силу утверждения 6,∑

p∈Mdω′(p, π′(p)) = 2ω′(G′).

С другой стороны, для любых двух точек p и q из M имеемdω′(p, q) > ρ(p, q) = dω(p, q), где неравенство следует из определениязаполнения, а равенство выполнено в силу того, что G — порожда-ющее дерево аддитивного пространства M. Поэтому∑

p∈Mdω(p, π

′(p)) 6∑p∈M

dω′(p, π′(p)) = 2ω′(G′).


Снова, по утверждению 6, имеем

2ω(G) 6∑p∈M

dω(p, π′(p)),

откуда ω(G) 6 ω(G′) и, значит, G — тоже минимальное заполнениепространства M, что и требовалось.

Докажем теперь обратное утверждение. Пусть M = (M,ρ) —аддитивное пространство и G = (G,ω) — произвольное минимальноезаполнение для M. Покажем, что G — порождающее дерево для M.

Пусть G = (G, ω) — некоторое порождающее дерево для M.В силу уже доказанного прямого утверждения теоремы, дерево Gявляется минимальным заполнением для M, откуда ω(G) = ω(G).Пусть π — некоторый обход дерева G. Тогда, по утверждению 6,

2ω(G) 6∑p∈M

dω(p, π(p)) и∑p∈M

dω(p, π(p)) = 2ω(G),

откуда, в силу условия ρ(p, π(p)) = dω(p, π(p)) 6 dω(p, π(p)) иравенства ω(G) = ω(G) заключаем, что ρ(p, π(p)) = dω(p, π(p)) длякаждой точки p ∈ M . С другой стороны, для каждой пары p и qвершин из M существует обход дерева G, для которого эти точки —последовательные, поэтому ρ(p, q) = dω(p, q) для любых p и q из M ,т. е. G тоже порождает M. Теорема доказана.

Пусть G = (G,ω) — произвольное взвешенное дерево с гра-ницей M . Тогда, очевидно, дерево G является заполнением псев-дометрического пространства (M,dω), а значит, по теореме 3 —минимальным заполнением этого пространства. С другой стороны,каждое минимальное заполнение имеет такой вид в силу следующегорезультата.

У т в е р ж д е н и е 9. Пусть G = (G,ω) — минимальное за-полнение псевдометрического пространства M = (M,ρ). ТогдаG также является минимальным заполнением для простран-ства (M,dω).

С л е д с т в и е 3. Множество всех минимальных заполне-ний совпадает с множеством всевозможных взвешенных дере-вьев.

Другими словами, для любого взвешенного дерева существуетметрическое пространство, такое что данное взвешенное дерево яв-ляется его минимальным заполнением (более того, метрическое про-странство можно выбрать аддитивным).

Для невзвешенных деревьев верен еще более сильный резуль-тат, доказанный студенткой механико-математического факультета


Е. С. Ероховец. Для его формулировки нам потребуется определениеультраметрического пространства.

О п р е д е л е н и е 2. Метрическое пространство M = (M,ρ)называется ультраметрическим, если для любых x, y, z ∈ Mвыполнено усиленное неравенство треугольника

ρ(x, y) 6 max(ρ(x, z), ρ(y, z)).

Любое ультраметрическое пространство является аддитивным(см. [18]), обратное неверно. Выполнено следующее утверждение:

У т в е р ж д е н и е 10. Множество типов всех минималь-ных заполнений ультраметрических пространств совпадаетсо множеством всевозможных деревьев. Другими словами, длялюбого дерева G существуют ультраметрическое простран-ство M и весовая функция ω такие, что взвешенный граф(G,ω) является минимальным заполнением пространства M.

С л е д с т в и е 4. Вес минимального заполнения аддитив-ного пространства M = (M,ρ) равен полупериметру про-странства M.

Следующий критерий аддитивности был получен студенткой ме-ханико-математического факультета О. В. Рублёвой [19].

У т в е р ж д е н и е 11. Вес минимального заполнения псев-дометрического пространства равен полупериметру этогопространства тогда и только тогда, когда пространствоаддитивно.

§ 8. РЕАЛИЗАЦИЯ МИНИМАЛЬНЫХ ЗАПОЛНЕНИЙ

В данном разделе мы покажем, что задача о минимальных за-полнениях может быть сведена к проблеме Штейнера в специальныхметрических пространствах.

Рассмотрим конечное множество M = p1, . . . , pn и псевдомет-рическое пространство M = (M,ρ). Положим ρij = ρ(pi, pj). Че-рез ℓn∞ обозначим n-мерное арифметическое пространство с нормой

∥(v1, . . . , vn)∥∞ = max|v1|, . . . , |vn|,

а через ρ∞ — порожденную нормой ∥ · ∥∞ метрику на ℓn∞ , т.е.ρ∞(v, w) = ∥w − v∥∞ . Определим отображение φM : M → ℓn∞ поформуле

φM(pi) = pi = (ρi1, . . . , ρin).

У т в е р ж д е н и е 12. Отображение φM является изомет-рией с образом.


Построенное выше отображение φM назовем изометрией Ку-ратовского.

Пусть G = (G,ω) — заполнение пространства M = (M,ρ),где G = (V,E). Добавим к графу G ребра, соединяющие вершины,принадлежащие граничному множеству M и доопределим на нихвесовую функцию следующим образом:

ω(x, y) = ρ(x, y), где x, y ∈M.

Обозначим через dω псевдометрику на V , порожденную получив-шиимся взвешенным графом.

У т в е р ж д е н и е 13. Для любых вершин w, v ∈ V имеемdω(v, w) 6 dω(v, w). Если к тому же v, w ∈ M , то выполненоdω(v, w) = dω(v, w) = ρ(v, w).

Определим сеть ΓG : V → ℓn∞ типа G, положив

ΓG(v) = (dω(v, p1), . . . , dω(v, pn)).

Эту сеть назовем сетью Куратовского заполнения G .Из утверждения 13 мгновенно вытекает следующий результат.У т в е р ж д е н и е 14. Имеем ∂ΓG = φM(M).Отображение псевдометрических пространств назовем нерастя-

гивающим, если оно не увеличивает расстояний между точками.Из утверждения 13 получаем еще один результат.

У т в е р ж д е н и е 15. Отображение ΓG из (V, dω) в ℓn∞ ,является нерастягивающим.

З а м е ч а н и е 2. Аналог утверждения 15 имеет место в суще-ственно более общих предположениях [6].

Для произвольной сети Γ в метрическом пространстве (X, d),обозначим через ωΓ весовую функцию на G, индуцированнуюсетью Γ, т.е. ωΓ(vw) = d(Γ(v),Γ(w)).

С л е д с т в и е 5. Пусть G = (G,ω) — минимальное пара-метрическое заполнение пространства (M,ρ), и Γ = ΓG —соответствующая сеть Куратовского. Тогда ω = ωΓ .

Д о к а з а т е л ь с т в о. Так как Γ изометрично отображает про-странство (M,ρ) в ℓn∞ , то взвешенный граф (G,ωΓ) является запол-нением пространства (M,ρ). По утверждению 15, для каждого ребраe ∈ E выполнено ω(e) > ωΓ(e). Поэтому, в силу минимальностизаполнения (G,ω), все эти неравенства выполнены в форме равенств.Следствие доказано.

Пусть Γ — некоторая сеть в псевдометрическом пространстве X ,параметризованная графом G, а H = (H,ω) — некоторый взве-шенный граф. Мы будем говорить, что Γ и H изометричны, еслисуществует изоморфизм взвешенных графов H и G = (G,ωΓ).


Из следствия 5 и существования минимальных параметрическихсетей, а также кратчайших сетей, в конечномерном нормированномпространстве [7] получаем следующий результат.

Т е о р е м а 4. Пусть M = (M,ρ) — псевдометрическоепространство, состоящее из n точек, и φM : M → ℓn∞ — изо-метрия Куратовского. Каждое минимальное параметрическоезаполнение типа G пространства M изометрично соответ-ствующей сети Куратовского, которая, в этом случае, явля-ется минимальной параметрической сетью типа G с грани-цей φM . Обратно, каждая минимальная параметрическая сетьтипа G на φM(M) изометрична некоторому минимальномупараметрическому заполнению типа G пространства M.

Т е о р е м а 5. Пусть M = (M,ρ) — псевдометрическоепространство, состоящее из n точек, и φM : M → ℓn∞ —изометрия Куратовского. Тогда для M существует минималь-ное заполнение G , а соответствующая сеть Куратовского ΓGявляется кратчайшей сетью в пространстве ℓn∞ , соединяю-щей множество φM(M). Обратно, каждая кратчайшая сетьна φM(M) изометрична некоторому минимальному заполне-нию пространства M.

Из данного следствия вытекает, что для M′ = φM(M) ⊂ ℓn∞ —образа произвольного псевдометрического пространства при изомет-рии Куратовского выполнено mf(M′) = smt(M′). На самом делеверна более сильная теорема, доказанная Овсянниковым:

Т е о р е м а 6. Пусть n — произвольное натуральное числоили бесконечность, K ⊂ ℓn∞ — конечное подпространство.Тогда mf(K) = smt(K).

§ 9. ОБОБЩЕННЫЕ МИНИМАЛЬНЫЕ ЗАПОЛНЕНИЯ

До сих пор мы требовали, чтобы веса всех ребер в заполнениибыли неотрицательными. Но можно искать минимум веса среди за-полнений с произвольной, необязательно неотрицательной, весовойфункцией. Такие заполнения будем называть обобщенными. Оказы-вается, что при переходе к обобщенным минимальным заполнениямсохраняется большинство свойств минимальных заполнений (подроб-ности см. в работе [16]).

Замечательный факт состоит в том, что для всякого конечногопсевдометрического пространства веса минимального и минимально-го обобщенного заполнений равны, т.е. минимум веса на множествезаполнений с неотрицательной весовой функцией совпадает с мини-мумом веса на более широком множестве заполнений с произвольнойвесовой функцией.


Этот результат позволяет существенно упростить исходную за-дачу поиска веса минимального заполнения — пропадает необходи-мость требовать и проверять неотрицательность весов ребер. С помо-щью обобщенных заполнений был получен ряд важных результатов,о которых мы расскажем в § 10.

Приведем определения обобщенных заполнений.Обобщенным взвешенным графом назовем пару (G,ω) =

= (V,E, ω), где ω : E → R — произвольная функция. Определимdω : V × V → R следующим образом: dω(u, v) есть наименьшийиз весов простых (реберно несамопересекающихся) путей с концамиu и v . Функция dω вообще говоря не является неотрицательной и необязана удовлетворять неравенству треугольника.

Обобщенным заполнением конечного псевдометрическогопространства M = (M,ρ) назовем обобщенный взвешенныйграф G , соединяющий M , если для любых u, v ∈ M выполняетсяρ(u, v) 6 dω(u, v).

Весом mpf−(M, G) обобщенного минимального параметри-ческого заполнения типа G пространства M назовем inf ω(G)по всем обобщенным заполнениям пространства M данного фикси-рованного типа G. Всякое обобщенное заполнение типа G, на кото-ром этот вес достигается, будем называть обобщенным минималь-ным параметрическим заполнением типа G.

Весом mf−(M) обобщенного минимального заполнения назо-вем величину inf mpf−(M, G), где inf берется по всем деревьям G,соединяющим M так, что все висячие вершины G являются гра-ничными, т.е. содержатся в M . Всякое заполнение такого типа, накотором этот inf достигается, назовем обобщенным минимальнымзаполнением.

Т е о р е м а 7. Для всякого конечного псевдометрическогопространства M имеет место равенство mf−(M) = mf(M).

З а м е ч а н и е 3. Аналогичное утверждение для минимальныхпараметрических заполнений неверно. Несложно привести примерпространства M и графа G, для которых mpf−(M, G) < mpf(M, G).

§ 10. МУЛЬТИЦИКЛИЧЕСКИЕ ПОРЯДКИ И МУЛЬТИОБХОДЫ

В этом параграфе мы обобщим понятия циклического порядка иобхода, что позволит доказать несколько важных теорем, в частностиполучить минимаксную формулу для веса минимального заполнения.Подробные доказательства всех утверждений данного параграфа мо-гут быть найдены в работе [17].


10.1. ОПРЕДЕЛЕНИЯ

Пусть S — конечное множество мощности n. Назовем мульти-циклическим порядком кратности k на множестве S отобра-жение π : Znk → S такое, что

1) для любого j ∈ Znk π(j) = π(j + 1),

2) для любого элемента s ∈ S его прообраз при отображении πсостоит ровно из k элементов.

Пусть G — бинарное дерево с границей M . Напомним определе-ние разбиения границы дерева, порожденного удалением ребра e ∈ E ,данное в § 6.

Пусть e ∈ E — любое ребро дерева G. После его удалениядерево G распадется на две связные компоненты, обозначим их G1и G2 . Положим Mi = M ∩ Gi . Обозначим через PG(e) = M1, M2полученное разбиение множества M .

Мультициклический порядок на M назовем планарным по от-ношению к G или мультиобходом G, если существует такое l, чтодля каждого e ∈ E и Mi ∈ PG(e) существует ровно l элементовp ∈ Znk , для которых π(p) ∈ Mi , но π(p + 1) /∈ Mi . Такое lназовем кратностью мультиобхода, мультиобходы кратности lтакже будем называть l-обходами. Множество всех мультиобхо-дов G обозначим T (G).

З а м е ч а н и е 4. Определение планарного обхода G из § 6практически совпадает с определением 1-обхода G. Разница состоитв том, что каждому планарному обходу соответствует M 1-обходов,отличающихся циклическим сдвигом.

П р е д л о ж е н и е 4. Если мультициклический порядок яв-ляется мультиобходом, то его кратность как мультиобходаравна его кратности как мультициклического порядка.

Для любых i, j ∈ M обозначим через Γij путь из вершины iв вершину j .

П р е д л о ж е н и е 5. Мультициклический порядок π намножестве M является мультиобходом кратности l тогда итолько тогда, когда для любого e ∈ E среди путей Γπ(j)π(j+1)

ровно 2l проходят через e.

П р е д л о ж е н и е 6. Пусть π является l-обходом дере-ва G, v ∈ V — внутренняя вершина степени 3, e1, e2, e3 —инцидентные ей ребра. Тогда среди путей Γπ(j)π(j+1), 0 6 j < nlровно по l проходят через каждую из пар ребер (e1, e2),(e2, e3), (e1, e3).


Итак, пусть M = (M, ρ) — псевдометрическое пространство,π — произвольный мультициклический порядок кратности k на нем.Мультипериметром пространства M по отношению к поряд-ку π назовем величину

p(M, π) =1

2k

nk−1∑j=0

ρ(π(j), π(j + 1)).

10.2. ОСНОВНЫЕ РЕЗУЛЬТАТЫ

Следующая лемма может быть доказана абсолютно аналогичноследствию 2.

Л е м м а 1. Пусть G = (G, w) — произвольное обобщенноезаполнение пространства M типа G, π — произвольный муль-тиобход дерева G. Тогда выполнено неравенство

w(G) > p(M, π).

Следующая теорема позволяет вычислить вес минимального па-раметрического обобщенного заполнения.

Т е о р е м а 8. Пусть M = (M, ρ) — псевдометрическоепространство, а G — бинарное дерево с границей M . Тогда

mpf−(M, G) = maxπ∈T (G)

p(M, π).

Из данной теоремы сразу следует формула для вычисления ве-са обобщенного минимального заполнения псевдометрического про-странства.

Т е о р е м а 9. Пусть M = (M, ρ) — псевдометрическоепространство. Тогда выполнено

mf(M) = minG

maxπ∈T (G)

p(M, π).

Д о к а з а т е л ь с т в о. Действительно,

mf−(M) = minG

mpf−(M, G) = minG

maxπ∈T (G)

p(M, π).

Так как M является псевдометрическим пространством, то по тео-реме 7 имеем mf−(M) = mf(M).


10.3. СЛЕДСТВИЯ

В данном разделе мы применим полученные результаты для дока-зательства некоторых свойств обобщенных минимальных заполнений.В частности, будут доказаны некоторые утверждения, связанные сточными граничными путями и изучены свойства обобщенных мини-мальных заполнений метрических пространств, находящихся в общемположении.

Пусть задано псевдометрическре пространство M = (M, ρ) ибинарное дерево G с границей M .

О п р е д е л е н и е 3. Назовем мультиобход σ дерева G макси-мальным, если p(M, σ) = max

π∈T (G)p(M, π).

О п р е д е л е н и е 4. Пусть G = (G, w) — обобщенное за-полнение пространства M. Путь в G , соединяющий граничныеточки, называется точным, если его вес в G равен расстояниюмежду этими точками в M. Назовем m-обход σ дерева G точ-ным, если все пути Γσ(k)σ(k+1) , 0 6 k < mn точны, т.е. еслиw(Γσ(k)σ(k+1)) = ρ(σ(k), σ(k + 1)). Более подробно о точных путяхи ребрах можно прочитать в [10].

П р е д л о ж е н и е 7. Пусть σ — мультиобход дерева G.Тогда следующие утверждения равносильны:

1. Мультиобход σ является максимальным.

2. Для любого обобщенного минимального параметрическо-го заполнения пространства M типа G мультиобход σявляется точным.

3. Для какого-то обобщенного минимального параметриче-ского заполнения пространства M типа G мультиоб-ход σ является точным.

С л е д с т в и е 6. Если G — бинарное дерево, то у обоб-щенного минимального параметрического заполнения типа G(и тем более у минимального заполнения, обобщенного илинет) есть хотя бы один точный мультиобход.

Из предложения 7 следует, что любой граничный путь, лежащийхотя бы в одном максимальном обходе бинарного дерева G, являет-ся точным в любом обобщенном минимальном заполнении типа G.Оказывается, это утверждение допускает естественное обращение.

П р е д л о ж е н и е 8. Пусть граничный путь Γab не входитни в один максимальный мультиобход бинарного дерева G. То-гда существует обобщенное минимальное заполнение типа G,в котором он не является точным.


Рассмотрим линейное пространство U с базисом uij и коорди-натами αij . Любое псевдометрическое пространство M = (M, ρ) наn точках можно отождествить с элементом u ∈ U с помощью отоб-ражения M 7→ u =

∑i, jρ(i, j)uij . Множество всех псевдометрических

пространств на n точках является выпуклым конусом в U , так какявляется пересечением полупространств вида αij + αjk − αik > 0.Приведенное отождествление позволяет говорить про топологическиесвойства семейств метрических пространств, составленных из фик-сированного числа точек.

Будем говорить, что некоторое свойство выполняется для псев-дометрического пространства, находящегося в общем положении,если при каждом n оно выполняется для открытого всюду плотногомножества n-точечных псевдометрических пространств.

В статье [10] выдвигается гипотеза, что минимальное заполне-ние псевдометрического пространства, находящегося в общем поло-жении, представляет собой невырожденное (т.е. не имеющее ребернулевого веса) бинарное дерево. В статье [16] доказывается теоре-ма 7, фактически утверждающая, что для любого обобщенного ми-нимального заполнения псевдометрического пространства существуетнеобобщенное заполнение того же веса (разумеется, являющеесяминимальным заполнением).

Следующее утверждение, одновременно доказывающее упомяну-тую гипотезу и усиливающее указанную теорему в случае псевдомет-рического пространства общего положения, может быть доказано сиспользованием свойств мультиобходов.

Т е о р е м а 10. Для псевдометрического пространства,находящегося в общем положении, всякое обобщенное ми-нимальное заполнение представляет собой бинарное деревос ребрами положительного веса.

§ 11. ОТНОШЕНИЯ

В теории минимальных сетей Штейнера важной характеристикойявляется отношение Штейнера. Напомним, что длиной минимальногодерева Штейнера называется величина

smt(M) = infd(Γ) | Γ — сеть, соединяющая M ,а длиной минимального остовного дерева называется величина

mst(M) = infd(Γ) | Γ — связная сеть с множеством вершин M .Отношением Штейнера конечного неодноточечного под-

множества M метрического пространства X называется от-ношение длин построенных на M минимального дерева Штейнера и


минимального остовного дерева, т.е. величина

sr(M) = smt(M)/mst(M).

Точная нижняя грань чисел sr(M) по всем таким подмноже-ствам M пространства X называется отношением Штейнера про-странства X и обозначается через sr(X ) (см. [20]).

Вычисление отношения Штейнера конкретного пространств —трудная задача (см. обзор в [8] или в [1]). Основываясь на мини-мальных заполнениях, мы определим еще два отношения, которые,как мы надеемся, могут оказаться полезными и для поиска отношенияШтейнера.

З а м е ч а н и е 5. Всюду ниже конечное подмножество M мыбудем считать не менее чем двухточечным, не оговоривая это.

Пусть X = (X, ρ) — произвольное метрическое пространство,и M ⊂ X — некоторое конечное подмножество. ОтношениемШтейнера–Громова подмножества M назовем величину

sgr(M) = mf(M,ρ)/mst(M,ρ).

Величину inf sgr(M), где инфимум берется по всем нетривиальнымконечным подмножествам из X с не более чем n вершинами, обо-значим через sgrn(X ) и назовем отношением Штейнера–Громовастепени n пространства X ; наконец, величину inf sgrn(X ), гдеинфимум берется по всем натуральным n > 1, назовем отношениемШтейнера–Громова пространства X и обозначим через sgr(X ).

Суботношением Штейнера подмножества M будем называтьвеличину

ssr(M) = mf(M,ρ)/ smt(M,ρ).

Величину inf ssr(M), где инфимум берется по всем нетривиальнымконечным подмножествам из X с не более чем n > 1 вершинами,обозначим через ssrn(X ) и назовем суботношением Штейнерастепени n пространства X ; наконец, величину inf ssrn(X ), гдеинфимум берется по всем натуральным n > 1, назовем суботноше-нием Штейнера пространства X и обозначим через ssr(X ).

Сформулируем ряд результатов об отношении Штейнера–Гро-мова и суботношении Штейнера, в том числе приведем примеры вы-числения этих отношений в конкретных метрических пространствах.

У т в е р ж д е н и е 16 [10]. Пусть X = (X, ρ) — метри-ческое пространство, в котором существует хотя бы одинправильный треугольник. Тогда sgr3(X ) = 3/4.

У т в е р ж д е н и е 17 [10]. Отношение Штейнера–Громовапроизвольного метрического пространства не меньше 1/2. Су-ществуют метрические пространства, у которых отношениеШтейнера–Громова равно 1/2.


У т в е р ж д е н и е 18 [10]. Суботношение Штейнера

ssr3(Rn, ρ) = ssr3(Rn), n > 2,

где ρ — стандартная евклидова метрика, равно√3/2.

Приведем некоторые результаты, касающиеся филогенетиче-ских пространств.

Рассмотрим множество конечных слов, составленных из буквконечного алфавита. Рассмотрим три операции со словами: уда-ление одной буквы из слова; добавление одной буквы на любуюпозицию; замена одной буквы. Расстояние между двумя словами вфилогенетическом пространстве — это наименьшее число операций,в результате которых из одного слова можно получить второе.

Следующие результаты получены студенткой механико-математи-ческого факультета МГУ А. С. Пахомовой.

У т в е р ж д е н и е 19. Пусть X — филогенетическое про-странство с алфавитом из двух или более букв. Тогда sgr(X ) == 1/2, ssr3(X ) = 3/4, а если в алфавите хотя бы три буквы, тоssr4(X ) = 2/3.

У т в е р ж д е н и е 20. Для любого метрического простран-ства X выполнено ssrn(X ) > n

2(n−1) . Если X — филогенетиче-ское пространство с алфавитом из n − 1 или более букв, тоэто неравенство превращается в равенство.

Пусть F — произвольное семейство конечных подмножеств мет-рического пространства X . Определим суботношение Штейне-ра ssr(F) семейства F как infM∈F ssr(M). Следующий резуль-тат получен студенткой механико-математического факультета МГУЕ. И. Филоненко [21].

У т в е р ж д е н и е 21. Пусть F — множество всех вы-пуклых четырехугольников на евклидовой плоскости. Тогдаssr(F) =

√3/2.


1. И в а н о в А. О., Т у ж и л и н А. А. Теория экстремальных сетей. Институткомпьютерных исследований, Москва, Ижевск. 2003.

2. J a r n i k V., K o s s l e r M. O minimalnich grafeth obeahujicich n danijch bodu.Cas. Pest. Mat. a Fys. 1934. 63. 223–235.

3. К у р а н т Р., Р о б б и н с Г. Что такое математика? Элементарный очерк идейи методов. МЦНМО, Москва. 2001.

4. G r o m o v M. Filling Riemannian manifolds. J. Diff. Geom. 1983. 18. 1–147.5. Б у р а г о Д. Ю., Б у р а г о Ю. Д., И в а н о в С. В. Курс метрической геомет-

рии. Институт компьютерных исследований, Москва, Ижевск. 2004.


6. И в а н о в С. В. Объемы и площади в метрической геометрии. Дисс. на соис-кание ученой степени д.ф.-м.н., Санкт-Петербург. 2009.

7. I v a n o v A. O., T u z h i l i n A. A. Minimal networks: The Steiner problem andits generalizations. CRC Press N.W., Boca Raton, Florida. 1994.

8. И в а н о в А. О., Т у ж и л и н А. А. Отношение Штейнера. Современное со-стояние. Математические вопросы кибернетики. 2002. 11. 27–48.

9. Б о р о д и н П. А. Пример несуществования точки Штейнера в Банаховом про-странстве. Матем. заметки. 2010. 87, 4. 514–518.

10. И в а н о в А. О., Т у ж и л и н А. А. Одномерная проблема Громова о мини-мальном заполнении. Матем. сборник (в печати).

11. П р е п а р а т а Ф., Ш е й м о с М. Вычислительная геометрия: Введение.Мир, Москва. 1989.

12. З а р е ц к и й К. А. Построение дерева по набору расстояний между висячимивершинами. УМН. 1965. 20. 90–92.

13. S i m o e s - P e r e i r a J. M. S. A note on the tree realizability of a distance matrix.J. Combinatorial Th. 1969. 6. 303–310.

14. С м о л е н с к и й Е. А. Об одном способе линейной записи графов. Журн.вычисл. матем. и матем. физ. 1962. 2, 2. 371–372.

15. H a k i m i S. L., Y a u S. S. Distane matrix of a graph and its realizability. Quart.Appl. Math. 1975. 12. 305–317.

16. И в а н о в А. О., О в с я н н и к о в З. Н., С т р е л к о в а Н. П., Т у ж и л и н А. А.Одномерные минимальные заполнения с ребрами отрицательного веса. ВестникМоск. ун-та, Сер. Матем. Мех. (в печати).

17. Е р ё м и н А. Ю. Формула веса минимального заполнения конечного метриче-ского пространства. Матем. сборник (в печати).

18. D e z a M. M., D e z a E. Encyclopedia of Distances. Springer-Verlag, Berlin,Heidelberg. 2009.

19. Р у б л ё в а О. В. Критерий аддитивности конечного метрического пространстваи минимальные заполнения. Вестник Моск. ун-та, Сер. Матем. Мех. (в печати).

20. G i l b e r t E. N., P o l l a k H. O. Steiner minimal trees. SIAM J. Appl. Math.1968. 16. 1–29.

21. Ф и л о н е н к о Е. И. Суботношение Штейнера степени 4 евклидовой плоско-сти. Вестник Моск. ун-та, Сер. Матем. Мех. (в печати).

Е. А. К У Д Р Я В Ц Е В А, Т. А. Л Е П С К И Й ∗

ТОПОЛОГИЯ СЛОЕНИЙ И ТЕОРЕМА ЛИУВИЛЛЯДЛЯ ИНТЕГРИРУЕМЫХ СИСТЕМ

С НЕПОЛНЫМИ ПОТОКАМИ

Изучаются интегрируемые гамильтоновы системы (C2, ω,H)с дополнительным первым интегралом F = Im f , где ω == Re(dz ∧ dw), H = Re f(z, w), f(z, w) = z2 + Pn(w) —гиперэллиптический многочлен, n ∈ N. При n > 3 система имеетнеполные потоки на любом лагранжевом слое f−1(a). Описа-на топология лагранжева слоения в малой окрестности любогослоя f−1(a) в терминах числа n и набора кратностей критическихточек функции f на слое. Получено полное описание топологиилагранжева слоения в терминах отмеченной системы путей и на-бора исчезающих графов. Получен комплексный аналог теоремыЛиувилля для систем, отвечающих многочленам Pn(w) с про-стыми вещественными корнями, в терминах семейства плоскихфундаментальных многоугольников.


Пусть дана интегрируемая гамильтонова система (M2n, ω,H)с первыми интегралами f1, . . . , fn (см. определение 1). Возникаетотображение момента Φ = (f1, . . . , fn) : M

2n → Rn и лагранжевослоение, лагранжевыми слоями которого являются связные ком-поненты множеств уровня Φ−1(ξ1, . . . , ξn), где (ξ1, . . . , ξn) ∈ Rn .В случае, когда векторные поля sgrad fi являются полными, при-менима теорема Лиувилля [1], описывающая топологию неособогослоя Φ−1(ξ1, . . . , ξn), топологию слоения в окрестности компактного

∗ Работа выполнена при поддержке Российского фонда фундаментальных иссле-дований (грант 10–01–00748-а), Программы поддержки ведущих научных школРФ (грант НШ-3224.2010.1), Программы «Развитие научного потенциала выс-шей школы» (грант 2.1.1.3704) и Программы «Научные и научно-педагогическиекадры инновационной России» (контракты 02.740.11.5213 и 14.740.11.0794).

ТОПОЛОГИЯ СЛОЕНИЙ ДЛЯ СИСТЕМ С НЕПОЛНЫМИ ПОТОКАМИ 107

неособого слоя и координаты действие-угол в окрестности компакт-ного неособого слоя.

Общая задача по нахождению аналога теоремы Лиувилля в слу-чае интегрируемых гамильтоновых систем с неполными векторнымиполями sgrad fi была поставлена А. Т. Фоменко. А. И. Шафаревичембыл предложен широкий класс интегрируемых гамильтоновых си-стем с неполными полями sgrad fi , а именно — класс систем(R4 = C2(z, w),Re(dz ∧ dw),Re(f(z, w))) с дополнительным первыминтегралом F = Im(f(z, w)), где f : C2 → C — голоморфнаяфункция двух комплексных переменных. Этот класс был введенХ. Флашкой [2]. Алгебраические системы с неполными векторнымиполями рассматривались также в работах Л. Гаврилова [3], Л. Бэйтсаи Р. Кушмана [4] и авторов [5–7].

В настоящей работе развиваются методы, предложенные в рабо-тах [5–12]. В работе изучается лагранжево слоение для гамильтоно-вых систем с комплекснозначным полиномиальным гамильтонианомf(z, w) = z2 + Pn(w), n ∈ N.

На основе теоремы Р. Тома [13] (см. теорему 1) указаны возмож-ные значения количества особых точек, лежащих на одном и томже слое, и наборов кратностей этих особых точек (следствие 1).Для гиперэллиптических многочленов, имеющих только морсовскиекритические точки, установлено взаимно однозначное соответствиемежду всевозможными наборами количеств особых точек на осо-бых слоях и диаграммами Юнга специального вида (следствие 2).Описана топология лагранжева слоения в окрестности критиче-ской точки (локальная топологическая классификация особенностейлагранжева слоения; см. предложения 1 и 2), в окрестности осо-бого слоя (полулокальная топологическая классификация особен-ностей лагранжева слоения; см. теорему 2 и следствие 4), а так-же на всем C2 в терминах «отмеченной системы путей» и на-бора «исчезающих графов» (см. следствие 5). Как следствие, длятрех бесконечных серий таких систем полностью описана топо-логия слоения и вычислены операторы монодромии (см. предло-жения 3, 4, 5). Получен комплексный аналог теоремы Лиувиллядля рассматриваемых систем (теоремы 3, 4). В частности, в ма-лой окрестности неособого слоя f−1(0) построены «комплексныекоординаты действие-угол» в терминах семейства плоских фунда-ментальных многоугольников. Аналог теоремы 3 в других терминахимеется в [6].

Авторы выражают глубокую признательность А. Т. Фоменкоза постановку задачи и внимание к работе. Авторы благодарныА. Т. Фоменко и А. И. Шафаревичу за указание на широкий классинтегрируемых гамильтоновых систем с неполными потоками.

108 Е. А. К У Д Р Я В Ц Е В А, Т. А. Л Е П С К И Й

§ 2. ПРЕДВАРИТЕЛЬНЫЕ ПОНЯТИЯ И УТВЕРЖДЕНИЯ

О п р е д е л е н и е 1. Гамильтоновой системой называетсятройка (M2n, ω,H), где M2n — гладкое многообразие, ω — сим-плектическая структура на M2n , H : M2n → R — гладкая веще-ственнозначная функция, называемая функцией Гамильтона (илигамильтонианом). Система называется интегрируемой, если су-ществует набор из n гладких функций f1, . . . , fn : M

2n → R, на-зываемых первыми интегралами, такой что выполнены следующиеусловия:

1) набор f1, . . . , fn функционально независим на M2n , т.е.df1, . . . , dfn линейно независимы в каждой точке всюду плотногоподмножества в M2n , и f1 = H ;

2) при любых i, j = 1, . . . , n функции fi и fj находят-ся в инволюции относительно симплектической структуры ω , т.е.fi, fj = ωkl ∂fi

∂xk∂fj∂xl

= 0 в локальных координатах x1, . . . , x2n ,где ωkl — компоненты матрицы, обратной матрице ∥ωkl∥.

О п р е д е л е н и е 2. Векторным полем косой градиент функ-ции f : M2n → R называется поле sgrad f такое, что для любойфункции g : M2n → R выполнено соотношение f, g = sgrad g(f).В локальных координатах x1, . . . , x2n векторное поле sgrad f имеетвид (sgrad f)i = ωij ∂f

∂xj.

С каждой гамильтоновой системой связано уравнение Гамильтона.О п р е д е л е н и е 3. Уравнением Гамильтона гамильтоно-

вой системы (M2n, ω,H) называется дифференциальное уравнениеx(t) = sgradH|x(t) , где t ∈ I — параметр в некотором интервалеI ⊂ R. Если гамильтонова система является интегрируемой и всерешения уравнения Гамильтона существуют глобально, т.е. допускаютпродолжение параметра t на R, то систему назовем интегрируемойпо Лиувиллю или вполне интегрируемой.

Топологическая классификация невырожденных вполне интегри-руемых гамильтоновых систем изучается в [1].

О п р е д е л е н и е 4. Точка x ∈ M2n называется критиче-ской (или особой), если df1(x), . . . , dfn(x) линейно зависимы. Отоб-ражение Φ: M2n → Rn , Φ: x 7→ (f1(x), . . . , fn(x)), называетсяотображением момента. Образ Φ(x) любой критической точкиx ∈M2n называется критическим значением отображения момен-та. Бифуркационной диаграммой ΣΦ ⊂ Rn называется множествокритических значений отображения момента.

З а м е ч а н и е 1. При n = 1 особые точки x ∈ M2 совпадаютс критическими точками функции Гамильтона.


О п р е д е л е н и е 5. Лагранжевым слоением, отвечающимвполне интегрируемой гамильтоновой системе, назовем разбиениемногообразия M2n на связные компоненты совместных поверх-ностей уровня интегралов f1, . . . , fn . Слоем (или листом) ин-тегрируемой гамильтоновой системы (M2n, ω,H) с первыми ин-тегралами f1, . . . , fn назовем компоненту связности подмножестваTξ1,...,ξn = x ∈ M2n|f1(x) = ξ1, . . . , fn(x) = ξn. (Слои являютсялагранжевыми подмногообразиями с особенностями; подмножествоTξ1,...,ξn связно, если набор функций (f1, . . . , fn) состоит из веще-ственных и мнимых частей комплекснозначных многочленов Лора-на n переменных, образующих «невырожденный для своих много-гранников Ньютона» набор из n/2 многочленов, и если размерно-сти многогранников Ньютона равны n [14, § 2, теорема]; последниеусловия выполнены, например, для гиперэллиптического комплекс-нозначного многочлена f(z, w), рассматриваемого в данной работе.)Слой Tξ1,...,ξn называется неособым, если все его точки неособые(т.е. в каждой его точке df1, . . . , dfn линейно независимы), иначеособым. Две интегрируемые гамильтоновы системы (M2n

i , ωi,Hi)с наборами первых интегралов Φi = (fi,1, . . . , fi,n) такие, что всеслои Φ−1

i (ξ1, . . . , ξn) связны, i = 1, 2, называют послойно экви-валентными [1, определение 1.29], если существуют сохраняющиеориентацию гомеоморфизмы h1 : M1 → M2 и h2 : Rn → Rn такие,что Φ1 = h2 Φ2 h1 .

О п р е д е л е н и е 6. Аналогично определениям 1 и 2 опре-деляются C-гамильтонова система (M2n, ωC, f) и векторное по-ле косой градиент sgradC f , где M2n — комплексное много-образие размерности dimCM = n, ωC — комплекснозначнаязамкнутая невырожденная дифференциальная 2-форма на M2n ,f : M2n → C — голоморфная функция на M2n .

2.1. ВАЖНЫЙ КЛАСС КОМПЛЕКСНЫХ ГАМИЛЬТОНОВЫХ СИСТЕМ

Пусть M4 = C2(z, w). Рассмотрим четырехмерное многообразиеR4(x1, y1, x2, y2) и диффеоморфизм R4(x1, y1, x2, y2) → C2(z, w),(x1, y1, x2, y2) 7→ (x1 + iy1, x2 + iy2) = (z, w). На R4 вве-дем симплектическую структуру ω = dx1 ∧ dx2 − dy1 ∧ dy2(заметим, что ω = Re(dz ∧ dw)), а также введем функциюH = Re(f(z, w)) : R4 → R, где f(z, w) — комплексный многочлендвух комплексных переменных. Согласно следующей лемме, гамиль-тонова система

(R4, ω,H) = (C2(z, w),Re(dz ∧ dw),Re(f(z, w))) (1)

имеет дополнительный первый интеграл F = Im(f(z, w)).


Л е м м а 1 [5, лемма 2.1]. Если многочлен f(z, w) отличенот константы на C2 , то гамильтонова система (1) явля-ется интегрируемой с дополнительным первым интеграломF = Im(f(z, w)), причем sgradF = −i sgradH .

Л е м м а 2 [5, лемма 2.2]. Векторное поле sgradH совпа-дает с косым градиентом sgradC f комплекснозначной функ-ции f(z, w) относительно комплекснозначной симплектическойструктуры ωC = dz ∧ dw на C2(z, w), т.е. sgradH = sgradC f(см. определение 6).

По лемме 2 уравнения Гамильтона системы (C2, ωC, f) и системы(R4, ω,H) = (C2,Re(ωC),Re f) совпадают. Далее будем рассмат-ривать только C-гамильтоновы системы. Леммы 1 и 2 приводятк следующему определению.

О п р е д е л е н и е 7. Две C-дифференцируемые функции f1,f2 ,где fi : Mi → C, i = 1, 2, будем называть эквивалентными (соответ-ственно топологически эквивалентными), если существует ком-плексный диффеоморфизм (соответственно сохраняющий ориентациюгомеоморфизм) h : M1 →M2 такой, что f2 h = f1 .

В § 3 и § 4 исследуются классы топологической эквивалентно-сти гиперэллиптических многочленов f = f(z, w) в малых окрест-ностях критических точек (соответственно критических слоев), т.е.получена локальная (соответственно полулокальная) топологическаяклассификация особенностей таких функций. Глобальная тополо-гическая классификация получена в § 5. Ясно, что из топологи-ческой эквивалентности таких функций следует послойная экви-валентность соответствующих лагранжевых слоений (см. определе-ния 5, 7).

О п р е д е л е н и е 8. (А) Римановой метрикой пополне-ния ds2ξ на неособом слое Tξ = f−1(ξ) для функции f назовемриманову метрику

ds2ξ := ∆ξ∆ξ =1

2(∆ξ ⊗∆ξ +∆ξ ⊗∆ξ)

на Tξ , где голоморфная 1-форма ∆ξ определена на слое Tξсоотношением ∆ξ(sgradC f |Tξ

) = 1. Отметим, что риманова мет-рика ds2ξ является плоской, и интегральные траектории векторныхполей sgradC f |Tξ

и i sgradC f |Tξявляются ее геодезическими.

(Б) На слое Tξ определена функция расстояния ρξ:Tξ×Tξ→R,где для любых x, y ∈ Tξ , ρξ(x, y) — нижняя грань длин всех кривых,лежащих в Tξ и соединяющих точки x, y , длина в смысле римановойметрики пополнения ds2ξ .


2.2. МОНОДРОМИЯ СЛОЕНИЯ, ЗАДАВАЕМОГО МНОГОЧЛЕНОМ

Для любых r > 0, ξ0 ∈ C обозначим

D2ξ0,r := ξ ∈ C | |ξ − ξ0| < r, D

2ξ0,r := ξ ∈ C | |ξ − ξ0| 6 r.

Пусть f : C2 → C — многочлен двух комплексных переменных, от-личный от константы, с конечным множеством критических значенийΣf = ξisi=1 , где ξi ∈ C, i = 1, . . . , s (для гиперэллиптическогомногочлена f(z, w) = z2 + Pn(w) степени n, очевидно, s 6 n).Тогда множество C \ Σf неособых значений гомотопически эквива-лентно букету s = |Σf | окружностей, и его фундаментальная группаπ1(C \ Σf ) изоморфна свободной группе Fs ранга s.

З а м е ч а н и е 2. (А) Пусть ξ ∈ C \ Σf — неособое значениефункции f , и γi — простой гладкий путь в C, ведущий из ξ в особоезначение ξi ∈ Σf , 1 6 i 6 s, причем пути попарно пересекаютсятолько в начальной точке ξ . Рассмотрим петлю ξi := γξ,ξi · sξi,ε · γ

−1ξ,ξi

,

где sξi,ε = ∂D2ξi,ε — окружность малого радиуса ε > 0, идущая в по-

ложительном направлении вокруг точки ξi , не содержащая внутрисебя точек ξj при j = i, j = 1, . . . , s, γξ,ξi — часть пути ξi , идущаяиз ξ в точку пересечения окружности sξi,ε с путем γξ,ξi . Тогда гомо-топические классы ξ∗i := [ξi] ∈ π1(C \ Σf , ξ) петель ξi , i = 1, . . . , s,являются свободными образующими группы π1(C \ Σf , ξ) ∼= Fs .

(Б) Предположим, что f(z, w) = z2 + Pn(w) — гиперэллип-тический многочлен. Пусть ξi,ε — точка пересечения окружности

sξi,ε = ∂D2ξi,ε с путем γξ,ξi (см. (А)). Предположим, что Γi ⊂ Tξi,ε —

не обязательно связный «исчезающий граф» (например, исчезающаяокружность) для функции f |

f−1(D2ξi,ε

), см. замечания 4, 5, определе-

ние 13 и следствие 5. Перенесением этого графа при помощи изо-топии слоев над путем γξ,ξi получим граф Γi в слое Tξ . Аналогичнопонятию окружности, исчезающей над путем (см. [15, Гл. I, § 3.2,лемма 2]), назовем полученный граф Γi графом, исчезающим надпутем γξ,ξi .

О п р е д е л е н и е 9. Обозначим E:=∪

ξ∈C\Σf

Tξ , f |E: E→C\Σf ,

и предположим, что (E,C \ Σf , f |E) является локально триви-альным расслоением (это верно для гиперэллиптического много-члена, согласно лемме 5 ниже). Рассмотрим соответствующее го-мологическое расслоение (f |E)∗ :

∪ξ∈C\Σf

H1(Tξ) → C \ Σf , где


H1(Tξ) := H1(Tξ;Z). Зафиксируем точку ξ ∈ C \ Σf , тогдакаждый элемент u ∈ π1(C \ Σf , ξ) задает класс отображений[Mu] ∈ π0(Homeo(Tξ)), называемый монодромией, отвечающейэлементу u, и автоморфизм Mu : H1(Tξ) → H1(Tξ), называе-мый оператором монодромии, отвечающим элементу u. Гомо-морфизм µ : π1(C \ Σf , ξ) → Aut(H1(Tξ)), u 7→ Mu , называет-ся представлением монодромии. Образ фундаментальной группыµ(π1(C \ Σf , ξ)) ⊂ Aut(H1(Tξ)) называется группой монодромии иобозначается через M.

О п р е д е л е н и е 10. Критическая точка p ∈ C2 много-члена f(z1, z2), в которой матрица вторых частных производных∥∥∥∂2f(z1,z2)∂zi∂zj

∣∣∣p

∥∥∥ невырождена, называется морсовской критической

точкой. Многочлен называется морсовским, если все его критиче-ские точки морсовские.

З а м е ч а н и е 3 (формула Пикара–Лефшеца; см. [15, Гл. I, § 2,предложение 4; § 3, лемма 2 и теоремы 3, 4]). Пусть на особом слоеf−1(ξi) лежит ровно одна критическая точка, причем она являетсяморсовской. Согласно формуле Пикара–Лефшеца, оператор моно-дромии Mξ∗i

∈ Aut(H1(Tξ)), отвечающий образующей ξ∗i фундамен-тальной группы π1(C\Σf , ξ) (см. обозначение 2 (А) и определение 9),имеет вид Mξ∗i

(h) = h + ⟨∆i, h⟩∆i , h ∈ H1(Tξ), где ∆i ∈ H1(Tξ) —исчезающий цикл (т.е. класс гомологий исчезающей окружности) надпутем γξ,ξi , см. обозначение 2 (Б), ⟨∆i, h⟩ — индекс пересеченияциклов ∆i и h в H1(Tξ).

О п р е д е л е н и е 11. Кратностью критической точки p ∈ C2

многочлена f(z, w) (числом Милнора) называется степень отобра-

жения Γ: S3ε → S3 , (z, w) 7→(∂f∂z (z, w),

∂f∂w (z, w)

)∣∣(∂f∂z (z, w),

∂f∂w (z, w)

)∣∣ , где S3ε — сфера

в C2 с центром в точке p достаточно малого радиуса ε [15, гл. I, § 3,предложение 1].

2.3. ГИПЕРЭЛЛИПТИЧЕСКИЕ МНОГОЧЛЕНЫ: ТОПОЛОГИЯ НЕОСОБОГОСЛОЯ, ЛОКАЛЬНАЯ КЛАССИФИКАЦИЯ ОСОБЕННОСТЕЙ

ЛАГРАНЖЕВА СЛОЕНИЯ

О п р е д е л е н и е 12. Комплексный многочлен вида f(z, w) == z2 + Pn(w), где Pn(w) — многочлен степени n ∈ N от w,будем также называть гиперэллиптическим многочленом степе-ни n (имеется в виду степень по w), а также гиперэллиптическимгамильтонианом степени n системы (C2, dz ∧ dw, f(z, w)).


Л е м м а 3 [6, лемма 3]. Пусть ξ ∈ C — неособое значениегиперэллиптического многочлена f(z, w) = z2 + Pn(w). Тогдаслой Tξ = f−1(ξ) ⊂ C2 гомеоморфен сфере с [n−1

2 ] ручками и

без 3+(−1)n

2 точек.Л е м м а 4 (локальная классификация особенностей: критичес-

кая точка типа Ak−1 ; см. [6, лемма 4]). Для любого гиперэллипти-ческого многочлена f(z, w) = z2 + Pn(w) и любой его кри-тической точки p ∈ C2 кратности k − 1 существуютε > 0 и замкнутая окрестность U

4 ⊂ C2 точки p, такиечто функция f |

U4 эквивалентна функции g : V

4ε,k → C, где

g(z, w) = z2 + wk + f(p),

V4ε,k = (z, w) ∈ C2 | |z2 + wk| 6 ε, |w| 6 (2ε)1/k. (2)

2.4. НАБОРЫ КРАТНОСТЕЙ КРИТИЧЕСКИХ ТОЧЕК НА ОСОБЫХ СЛОЯХ

Т е о р е м а 1 (Р. Том [13, теорема 1]). Любой системе ξjsj=1

различных комплексных чисел и любой системе наборов нату-ральных чисел (pij)

kji=1 , 1 6 j 6 s, таких что при любом j ∈ [1, s]

выполнены соотношенияkj∑i=1

(pij + 1) 6 n иs∑j=1

kj∑i=1

pij = n − 1,

можно сопоставить многочлен P = Pn(w) степени n, имеющиймножество критических значений ξjsj=1 и набор кратностей

(pij)kji=1 критических точек из P−1(ξj) для каждого j ∈ [1, s].

Для гиперэллиптического многочлена f(z, w) = z2 + Pn(w) обо-значим количество различных особых значений через s(f), а количе-ство критических точек на особом слое Tξj = f−1(ξj) — через kj ,1 6 j 6 s(f). Набор кратностей критических точек на особомслое Tξj обозначим (pij)

kji=1 , а сумму этих кратностей обозначим

µj :=kj∑i=1

pij , 1 6 j 6 s(f). Из теоремы Тома (см. теорему 1) получаем

следующее утверждение о количествах критических точек на особыхслоях для гиперэллиптических многочленов.

С л е д с т в и е 1. Пусть дан произвольный гиперэллипти-ческий многочлен f(z, w) = z2 + Pn(w) степени n ∈ N. Тогда:

1) µ1 + · · ·+ µs(f) = n− 1;2) kj 6 µj , kj + µj 6 n для любого j = 1, . . . , s(f).


Верно обратное: для любых чисел s ∈ N ∪ 0, k1, . . . , ks ,µ1, . . . , µs ∈ N, удовлетворяющих условиям 1) и 2) выше,любого разбиения (pij)

kji=1 каждого µj в сумму kj натураль-

ных слагаемых, 1 6 j 6 s, и любых различных точекξ1, . . . , ξs ∈ C существует гиперэллиптический многочлен сте-пени n = µ1+ · · ·+µs+1, имеющий ровно s различных критиче-ских значений, равных ξ1, . . . , ξs , причем на особом слое Tξj име-

ется ровно kj критических точек, с кратностями p1j , . . . , pkjj ,

j = 1, . . . , s.Последовательность (µ1, . . . , µm) ∈ Nm называется диаграммой

Юнга, если µ1 > . . . > µm . Максимальное число µ1 называетсявысотой диаграммы Юнга, а квадраты i−1 6 x 6 i, j−1 6 y 6 jпри i = 1, . . . , µj , j = 1, . . . ,m на плоскости R2 с координатамиx, y — клетками диаграммы Юнга.

С л е д с т в и е 2. Пусть n ∈ N и задана диаграмма Юнга(µ1, . . . , µm), которая имеет n−1 клетку и высоту не более [n2 ],т.е. удовлетворяет условиям:

1) общее количество клетокm∑i=1

µi = n− 1;

2) высота диаграммы µi 6 [n2 ], i = 1, . . . ,m.Тогда существует гиперэллиптический многочлен f(z, w) == z2 + Pn(w) степени n, имеющий только морсовские крити-ческие точки, причем количество его особых значений равноs(f) = m, а количество критических точек на i-м особом слоесовпадает с µi , 1 6 i 6 s(f).

Верно обратное: для любого гиперэллиптического много-члена f(z, w) = z2 + Pn(w) степени n, имеющего только мор-совские критические точки, диаграмма Юнга, составленная изколичеств критических точек на особых слоях, имеет n − 1клетку и высоту не более [n2 ].

§ 3. ТОПОЛОГИЯ СЛОЕНИЯ В ОКРЕСТНОСТИ ОСОБОЙ ТОЧКИ(ЛОКАЛЬНАЯ КЛАССИФИКАЦИЯ ОСОБЕННОСТЕЙ)

Аналогично (2), для любых n ∈ N, ε > 0 обозначим

V4ε,n := (z, w) ∈ C2 | |z2 + wn| 6 ε, |w| 6 (2ε)1/n,

V 4ε,n := (z, w) ∈ C2 | |z2 + wn| 6 ε, |w| < (2ε)1/n.

(3)


П р е д л о ж е н и е 1 (топология слоения в замкнутой окрест-ности критической точки четной кратности [6, утверждение 1]).При четном n ∈ N для любых ε > 0 и ξ0 ∈ C функцияg = gn : V

4ε,n → C, определенная формулой g(z, w) = z2 + wn + ξ0 ,

топологически эквивалентна функции q = qn : M4ε,n → C, где

M4ε,n = ([0, ε]× S1 × S1 × ([−1, 0−]

⊔[0+, 1]))/∼, а отношение экви-

валентности ∼ порождено следующими n+ 1 отношениями:

(r, φ, t+φ+2πkn , 0−) ∼1,k (r, φ,

t−φ−2πkn , 0+), 0 6 k < n,

(0, φ, ψ, h) ∼2 (0, 0, ψ, h),(4)

где вторая и третья координаты рассматриваются по мо-дулю 2π , r ∈ [0, ε], φ = φ mod 2π , ψ = ψ mod 2π , t ∈ [−π, π],h ∈ [−1, 0−]

⊔[0+, 1]. При этом q(r, φ, ψ, h)=reiφ+ξ0 и g(V

4ε,n) =

= q(M4ε,n) = D

2ξ0,ε . Здесь 0+ := 0 ∈ [0+, 1], 0− := 0 ∈ [−1, 0−].

З а м е ч а н и е 4. (А) (Исчезающая окружность или исчезаю-щий граф). Пространство M4

ε,n:=([0, ε]×S1×S1×([−1, 0−]⊔[0+, 1]))/∼получено из тривиально расслоенного пространства M4

ε,n := [0, ε]××S1 × S1 × ([−1, 0−] ⊔ [0+, 1]) путем отождествлений, описанныхв (4) и имеющих следующий «геометрический» смысл. В простран-стве M4

ε,n каждый слой (r, φ mod 2π) × S1 × ([−1, 0−] ⊔ [0+, 1])является несвязным объединением двух цилиндров, причем первоесоотношение ∼1 , порожденное набором соотношений ∼1,k форму-лы (4), 0 6 k < n, превращает слой в связную двумерную поверх-ность рода n−2

2 с краем из двух компонент, отождествляя «верхнее»основание первого цилиндра, разбитое на n равных дуг (которыепометим последовательно символами a1, . . . , an при положительномобходе основания цилиндра), с «нижним» основанием второго ци-линдра, разбитым на n равных дуг (которые пометим последова-тельно символами an, . . . , a1 при положительном обходе основанияцилиндра), причем первое разбиение на дуги повернуто на угол φ/nв направлении своей ориентации, а второе разбиение — на тот жеугол в направлении противоположном своей ориентации, при помощипопарного склеивания соответствующих дуг с учетом ориентации.На каждом слое ((r, φ mod 2π) × S1 × ([−1, 0−] ⊔ [0+, 1]))/∼1

получаем граф ((r, φ mod 2π) × S1 × 0−, 0+)/∼1 с двумя вер-шинами и n ребрами a1, . . . , an , каждое из которых соединяет обевершины, гомеоморфный графу K2,n и называемый исчезающимграфом для функции gn . При n = 2 исчезающий граф гомеоморфенокружности и называется исчезающей окружностью. Оставшее-ся соотношение ∼2 в (4) отождествляет друг с другом слои вида


((0, φmod 2π)×S1×([−1, 0−]⊔[0+, 1]))/∼1 , φ mod 2π ∈ S1 (особыйслой). Из соотношений в (4) следует, что на особом слое исчезающийграф склеивается в точку («перетяжка» на особом слое). Такимобразом, семейство исчезающих графов (исчезающих окружностейпри n = 2) на неособых слоях стремится к особой точке («исчезает»)при стремлении слоя к особому.

(Б) Из (А) и доказательства предложения 1 следует, что исчеза-ющий граф αξ на неособом слое Tξ = g−1

n (ξ), ξ ∈ D2ξ0,ε \ ξ0, имеет

вид αξ = (prw |Tξ)−1( n−1∪i=0

γ0,wi,ξ

), где prw : (z, w) 7→ w, а wi,ξ —

корни уравнения wn = ξ − ξ0 , 0 6 i < n, через γa,b обозначенпрямолинейный отрезок на C с концами a, b ∈ C.

(В) (Локальная монодромия). Обозначим Tξ := g−1n (ξ), ξ ∈ D

2ξ0,ε .

Согласно предложению 1, имеем локально тривиальное расслоение

gn|V 4ε,n\Tξ0

: V4ε,n \ Tξ0 → D

2ξ0,ε \ ξ0 ⊂ C (5)

над проколотым двумерным кругом. Обозначим объединение особойточки (0, 0) и всех исчезающих графов αξ (см. (А) и (Б)) через

Z3ε,n :=

( ∪ξ∈D2

ξ0,ε\ξ0

αξ

)∪ (0, 0). Оно является трехмерным ком-

плексом. Рассмотрим функцию

gn|V 4ε,n\Z3

ε,n: V

4ε,n \ Z3

ε,n → D2ξ0,ε ⊂ C. (6)

Тогда описанная в предложении 1 топологическая эквивалентностьфункций индуцирует послойную эквивалентность слоения (6) триви-альному расслоению над двумерным кругом

D20,ε × S1 × ([−1, 0) ⊔ (0, 1]) → D

20,ε.

Здесь мы использовали гомеоморфизм D20,ε ≈ ([0, ε]×S1)/∼, где от-

ношение эквивалентности ∼ порождено отношениями (0, φmod2π)∼∼ (0, 0 mod 2π) при всех φ mod 2π ∈ S1 . В силу тривиально-сти расслоения (6) над кругом, определена локальная монодро-мия [Mξ∗0

] ∈ π0(Homeo(Tξ0+ε,Tξ0+ε \ V 4ε,n)) исходного расслое-

ния (5) над проколотым двумерным кругом, отвечающая образую-щей ξ∗0 фундаментальной группы π1(D

2ξ0,ε \ ξ0, ξ0+ε) (см. опреде-

ление 9). Здесь подгруппа Homeo(Tξ0+ε,Tξ0+ε \V 4ε,n)⊂Homeo(Tξ0+ε)


состоит из всех гомеоморфизмов слоя Tξ0+ε , ограничение ко-торых на Tξ0+ε \V 4

ε,n является тождественным отображением, и

Mξ∗0∈ Homeo(Tξ0+ε,Tξ0+ε \ V 4

ε,n). Из предложения 1 получаем, что

в качестве представителя Mξ∗0локальной монодромии можно взять

гомеоморфизм

Mξ∗0: (ε, 0, ψ, h) 7→

(ε, 0, ψ + 2π

n δ(1− |h|), h),

(ψ, h) ∈ S1 × ([−1, 0−] ∪ [0+, 1]), где координата ψ рассматриваетсяпо модулю 2π , δ ∈ C∞(R) — такая неубывающая гладкая функция,что δ|(−∞,0] = 0 и δ|[1,+∞) = 1. То есть, локальная монодромия [Mξ∗0

]является «элементарным скручиванием Дэна вокруг исчезающегографа» αξ0+ε на слое Tξ0+ε . В частности, при n = 2 локальнаямонодромия является скручиванием Дэна вокруг исчезающей окруж-ности αξ0+ε на слое Tξ0+ε .

П р е д л о ж е н и е 2 (топология слоения в замкнутой окрест-ности критической точки нечетной кратности [6, утверждение 2]).При нечетном n ∈ N для любых ε > 0 и ξ0 ∈ C функцияg = gn : V

4ε,n → C, заданная формулой g(z, w) = z2 + wn + ξ0 ,

топологически эквивалентна функции q = qn : M4ε,n → C, где

M4ε,n = ([0, ε]×S1×S1×[−1, 0])/∼, отношение эквивалентности ∼

порождено следующими n+ 1 отношениями:(r, φ, φ+t+2πk

n , 0)∼1,k

(r, φ, φ−t+2πk

n + 2π, 0), 0 6 k < n,

(0, φ, ψ, h) ∼2 (0, 0, ψ, h),(7)

где вторая и третья координаты рассматриваются по моду-лю 2π и 4π соответственно, r ∈ [0, ε], φ = φ mod 2π ∈ R/2πZ,ψ = ψ mod 4π ∈ R/4πZ, t ∈ [−π, π], h ∈ [−1, 0]. При этомq(r, φ, ψ, h) = reiφ + ξ0 и g(V

4ε,n) = q(M4

ε,n) = D2ξ0,ε .

Д о к а з а т е л ь с т в о проводится аналогично доказательствув работе [6, утверждение 1]. При этом гомеоморфизм h1 : V

4ε,n →M4

ε,n

при нечетном n определяется формулой

h1(z, w) :=

(r, φ, 2 arg

(√α(w)

),− |α(w)|−r1/n

(2ε)1/n−r1/n

), (z, w) = (0, 0),

(0, 0, 0, 0), (z, w) = (0, 0),

где вторая и третья координаты точки h1(z, w) ∈ M4ε,n рассматрива-

ются по модулю 2π и 4π соответственно, z2 + wn = reiφ , r ∈ [0, ε],


06φ< 2π , φ := 0 при r = 0, функции l = l(r, φ, w) ∈ Z ∩ [0, n−1]и α(w) = αr,φ,l(w) определяются теми же формулами, что ив [6, утверждение 1] (см. шаги 2 и 3 доказательства), причем в каче-стве функции

√α(w) берется ее ветвь, такая что при |w| = (2ε)1/n ,

z2 + wn = reiφ и r ∈ [0, ε] выполнено Im z(√α(w)

)n < 0.

З а м е ч а н и е 5. (А) (Исчезающий граф). Аналогично замеча-нию 4, пространство M4

ε,n := ([0, ε]×S1×S1× [−1, 0])/∼ получено из

тривиально расслоенного пространства M4ε,n := [0, ε]×S1×S1×[−1, 0]

путем отождествлений, описанных в (7) и имеющих следующий «гео-метрический» смысл. В пространстве M4

ε,n каждый слой являетсяцилиндром (r, φ mod 2π) × S1 × [−1, 0], причем первое соотно-шение ∼1 , порожденное набором соотношений ∼1,k формулы (7),0 6 k < n, превращает слой в связную двумерную поверхностьрода n−1

2 с связным краем, отождествляя точки «верхнего» осно-вания цилиндра, разбитого на 2n равных дуг (которые пометим по-следовательно символами a1, . . . , an, a−1

1 , . . . , a−1n при положительном

обходе основания цилиндра, причем разбиение на дуги повернуто наугол φ

2n mod 2π в направлении ориентации этого основания), припомощи попарного склеивания соответствующих дуг с обращениемориентации. На каждом слое ((r, φ mod 2π) × S1 × [−1, 0])/∼1

получаем граф ((r, φ mod 2π) × S1 × 0)/∼1 с двумя вершинамии n ребрами a1, . . . , an , каждое из которых соединяет обе вершины,гомеоморфный графу K2,n и называемый исчезающим графом дляфункции gn . (При n = 1 исчезающий граф является отрезком.)Оставшееся соотношение ∼2 в (7) отождествляет друг с другом слоивида ((0, φ mod 2π) × S1 × [−1, 0])/∼1 , φ mod 2π ∈ S1 (особыйслой). Из соотношений в (7) следует, что на особом слое исчезающийграф склеивается в точку («перетяжка» на особом слое). Такимобразом, семейство исчезающих графов на неособых слоях стремитсяк особой точке («исчезает») при стремлении слоя к особому.

(Б) Из (А) и доказательства предложения 2 следует, что дляисчезающего графа αξ на неособом слое Tξ = g−1

n (ξ), ξ ∈ D2ξ0,ε\ξ0,

верна та же формула что и в замечании 4 (Б).(В) (Локальная монодромия). Аналогично замечанию 4, обозна-

чим Tξ := g−1n (ξ), ξ ∈ D

2ξ0,ε , и через Z3

ε,n :=

( ∪ξ∈D2

ξ0,ε\ξ0

αξ

)∪(0, 0)

объединение особой точки (0, 0) и всех исчезающих графов αξ(см. (А) и (Б)), оно является трехмерным комплексом. Согласнопредложению 2, имеем локально тривиальное расслоение (5) надпроколотым двумерным кругом, причем описанная в этом утвержде-


нии топологическая эквивалентность функций индуцирует послойнуюэквивалентность слоения (6) тривиальному расслоению

D20,ε × S1 × [−1, 0) → D

20,ε

над двумерным кругом. Аналогично замечанию 4 (Б), определеналокальная монодромия [Mξ∗0

] ∈ π0(Homeo(Tξ0+ε,Tξ0+ε \ V 4ε,n)) ис-

ходного расслоения (5) над проколотым кругом, отвечающая образу-ющей ξ∗0 фундаментальной группы π1(D

2ξ0,ε \ξ0, ξ0+ε). Из предло-

жения 2 получаем, что в качестве представителя Mξ∗0этой локальной

монодромии можно взять гомеоморфизм

Mξ∗0: (ε, 0, ψ, h) 7→

(ε, 0, ψ + 2π

n δ(1− |h|), h),

(ψ, h) ∈ S1 × [−1, 0], где координата ψ рассматривается по моду-лю 4π , функция δ как в замечании 4 (Б). То есть, локальная мо-нодромия [Mξ∗0

] является «элементарным скручиванием Дэна вокругисчезающего графа» αξ0+ε на слое Tξ0+ε .

С л е д с т в и е 3 (топология слоения в замкнутой окрестностиморсовской критической точки). Для любых ε> 0 и ξ0 ∈ C функцияg : V

4ε,2 → C, g(z, w) = z2 +w2 + ξ0 , топологически эквивалентна

функции q : M4ε → C, где M4

ε = [0, ε]×S1×S1×([−1, 0−]⊔[0+, 1])/∼,

отношение эквивалентности ∼ в определении M4ε порождено

соотношениями:

(r, φ, ψ, 0+) ∼1 (r, φ,−ψ + φ, 0−),

(0, φ, ψ, v) ∼2 (0, 0, ψ, v),

где вторая и третья координаты рассматриваются по моду-лю 2π , 0+:= 0∈ [0+, 1], 0−:= 0∈ [−1, 0−], 06 r6 ε, φ=φmod 2π ∈∈ R/2πZ, ψ=ψ mod 2π ∈ R/2πZ, h ∈ [−1, 0−]

⊔[0+, 1]. При этом

q(r, φ, ψ, h) = reiφ + ξ0 , g(V4ε,2) = q(M4

ε ) = D2ξ0,ε .

§ 4. ТОПОЛОГИЯ СЛОЕНИЯ В ОКРЕСТНОСТИ ОСОБОГО СЛОЯ(ПОЛУЛОКАЛЬНАЯ КЛАССИФИКАЦИЯ ОСОБЕННОСТЕЙ)

На протяжении данного параграфа обозначим l :=k∪j=1

lj , где

l1 − 1, . . . , lk − 1 — набор кратностей всех особых точек p1, . . . , pkна слое Tξ0 = f−1(ξ0). При k = 0 положим l := 0. Обозначим


через M2g,b компактную связную ориентированную поверхность рода

g > 0, край которой состоит из b > 0 компонент. Она гомео-морфна сфере с g ручками, из которой выкинуты внутренности bпопарно непересекающихся замкнутых двумерных дисков. Обозна-чим через M2

g,h,b связную ориентированную поверхность, полученнуюиз компактной поверхности M2

g,b выкидыванием h внутренних точек.

Л е м м а 5 [6, лемма 5]. Пусть Tξ0 = f−1(ξ0) — (особое илинеособое) множество уровня гиперэллиптического многочленаf(z, w) = z2 + Pn(w) степени n > 2, содержащее ровно k > 0критических точек p1, . . . , pk ∈ Tξ0 , причем кратности этихточек равны l1 − 1, . . . , lk − 1 соответственно, где l1, . . . , lk > 2.Тогда l 6 n, l < n+ k и существует ε0 > 0, такое что для лю-бого ε ∈ (0, ε0] существуют четырехмерные окрестности U4

j,ε

точек pj в f−1(D2ξ0,ε), 1 6 j 6 k, такие что:

(А) функция f |U

4j,ε

эквивалентна функции glj : V4ε,lj → C, где

glj (z, w) = z2 + wlj + ξ0 , см. (2) и (3), а также топологическиэквивалентна функции qlj : M

4ε,lj

→ C (см. предложения 1 и 2),j = 1, . . . , k;

(Б) функция f∣∣(f−1(D

2ξ0,ε

))\k∪

j=1U4j,ε

топологически эквивалент-

на функции f0 : D2ξ0,ε × Ln,k,ε,l1,...,lk → C, (ξ, x) 7→ ξ , где

Ln,k,ε,l1,...,lk := Tξ0 \k∪j=1

U4j,ε — комплексное многообразие с кра-

ем, dimC Ln,k,ε,l1,...,lk = 1, которое гомеоморфно либо M2g,h,b при

n > l или существовании хотя бы одного нечетного lj , либоM2

0,1,k

⊔M2

0,1,k при n = l (откуда k > 0) и всех четных lj , где

g =[n−12

]−

k∑j=1

[ lj2

], h = 3+(−1)n

2 , b =k∑j=1

3+(−1)lj

2 .

Пусть, как выше, l :=k∑j=1

lj , ε > 0, обозначим V4j,ε := V

4ε,lj ,

∂+V4j,ε := (z, w) ∈ C2 | |z2 + wlj | 6 ε, |w| = (2ε)1/lj = V

4ε,lj \ V

4ε,lj,

1 6 j 6 k, см. (3), Ln,k,ε,l1,...,lk ≈M2n,k,l1,...,lk

, где M2n,k,l1,...,lk

:=M2g,h,b

(при n > l или существовании нечетного lj ), M2n,k,l1,...,lk

:=

:= M20,1,k

⊔M2

0,1,k (при n = l и всех четных lj ) как в лемме 5.Фиксируем ориентацию на M2

n,k,l1,...,lk≈ Ln,k,ε,l1,...,lk и рассмотрим


любой гомеоморфизм

γn,k,l1,...,lk :k⊔j=1

(R/(3−(−1)lj )πZ)×j×(−1)lj ,−1 → ∂Ln,k,ε,l1,...,lk

такой, что поверхность Ln,k,ε,l1,...,lk лежит справа при прохождениивдоль каждого из своих граничных путей γj,η(ψ mod (3−(−1)lj )π) :=

:= γn,k,l1,...,lk(ψ mod (3−(−1)lj )π, j, η) ∈ ∂Ln,ε,l1,...,lk , η ∈ (−1)lj ,−1,1 6 j 6 k.

Т е о р е м а 2 (топология слоения в замкнутой окрестностислоя; [6, теорема 2]). Пусть Tξ0 = f−1(ξ0) — (особое илинеособое) множество уровня гиперэллиптического многочленаf(z, w) = z2 + Pn(w) степени n > 2, содержащее ровно k > 0критических точек p1, . . . , pk ∈ Tξ0 , причем кратности этихточек равны l1 − 1, . . . , lk − 1 соответственно, где l1, . . . , lk > 2.Тогда l 6 n, l < n+k и существует ε0 > 0 такое, что для любо-го ε ∈ (0, ε0] функция f

∣∣f−1(D

2ξ0,ε

)топологически эквивалентна

функции fn,k,l1,...,lk : M4n,k,ε,l1,...,lk

→ C. Здесь

M4n,k,ε,l1,...,lk

=( k⊔j=1

V4j,ε

) ∪ϕn,k,ε,l1,...,lk

(D2ξ0,ε × Ln,k,ε,l1,...,lk) :=

:=(( k⊔

j=1V

4j,ε

)⊔ (D

2ξ0,ε × Ln,k,ε,l1,...,lk)

)/(x ∼ ϕn,k,ε,l1,...,lk(x))

получено из несвязного объединения множеств V4j,ε , 16 j6 k, и

множества D2ξ0,ε × Ln,k,ε,l1,...,lk отождествлением любой точки

x ∈ ∂+V4j,ε с ее образом при гомеоморфизме

ϕn,k,ε,l1,...,lk :k⊔j=1

∂+V4j,ε → D

2ξ0,ε × ∂Ln,k,ε,l1,...,lk ,

задаваемом формулами

ϕn,k,ε,l1,...,lk(z, w) :=

:=(z2 + wlj + ξ0, γn,k,l1,...,lk

((argw) mod 2π, j, sgn Im

z

wlj/2

))при четном lj и (z, w) ∈ ∂+V

4j,ε ,

ϕn,k,ε,l1,...,lk(z, w) := (z2+wlj+ξ0, γn,k,l1,...,lk(2 arg(√w) mod 4π, j,−1))

при нечетном lj и (z, w) ∈ ∂+V4j,ε , где ветвь

√w при нечет-


ном lj и (z, w) ∈ ∂+V4j,ε определена условием Im z

(√w)lj

< 0,

1 6 j 6 k, а функция fn,k,l1,...,lk задается формулами

fn,k,l1,...,lk |V 4j,ε(z, w) = z2 + wlj + ξ0, (z, w) ∈ V

4j,ε, 1 6 j 6 k,

fn,k,l1,...,lk |D2ξ0,ε

×Ln,k,ε,l1,...,lk

(ξ, x) = ξ, (ξ, x) ∈ D2ξ0,ε × Ln,k,ε,l1,...,lk .

При отождествлении V4j,ε ≈ M4

ε,ljс помощью топологической

эквивалентности из предложений 1 и 2 «приклеивающий» го-меоморфизм ϕn,k,ε,l1,...,lk |∂+V 4

j,εимеет вид

(([0, ε]× S1)/∼)× S1 × (−1)lj ,−1 → D2ξ0,ε × ∂Ln,k,ε,l1,...,lk ,

(r, φ, ψ, η) 7→ (reiφ + ξ0, γn,k,l1,...,lk(−ηψ, j, η)),

где координаты φ и ψ рассматриваются по модулю 2π и(3−(−1)lj )π соответственно, η ∈ (−1)lj ,−1, отношение эк-вивалентности ∼ порождено отношениями (0, φmod2π) ∼∼ (0, 0 mod 2π), φ mod 2π ∈ S1 , а функция fn,k,l1,...,lk |V 4

j,εимеет

вид(r, φ, ψ, h) 7→ reiφ + ξ0, 1 6 j 6 k.

При этом fn,k,l1,...,lk(M4n,k,ε,l1,...,lk

) = D2ξ0,ε .

§ 5. ПОЛНОЕ ОПИСАНИЕ ТОПОЛОГИИ ЛАГРАНЖЕВА СЛОЕНИЯ

Пусть ξ0 ∈ C — критическое значение гиперэллиптическо-го многочлена f = f(z, w) = z2 + Pn(w). Пусть критическийслой Tξ0 = f−1(ξ0) содержит ровно k > 0 критических точекp1, . . . , pk ∈ Tξ0 , причем кратности этих точек равны l1 − 1, . . . , lk − 1соответственно, где l1, . . . , lk > 2. Пусть ε0 > 0 и U4

ε,j ⊂ C — какв теореме 2, 1 6 j 6 k. Выберем любое ε ∈ (0; ε0] и неособоезначение ξ ∈ ∂D

2ξ0,ε .

О п р е д е л е н и е 13. Пусть ξ ∈ ∂D2ξ0,ε , и αj,ξ ⊂ U

4ε,j ∩ Tξ —

исчезающий граф для функции f |U

4ε,j

, 1 6 j 6 k (см. теорему 2,

лемму 5 (А), замечания 4 (А,Б) и 5 (А,Б). Эти графы в неособомслое Tξ непусты и попарно не пересекаются, так как содержатся

в различных U4ε,j . Объединение Γξ :=

k∪j=1

αj,ξ этих графов —


это граф в слое Tξ , состоящий из k связных компонент αj,ξ иназываемый исчезающим графом для функции f |

f−1(D2ξ0,ε

). Эле-

ментарным мультискручиванием Дэна вокруг графа Γξ ⊂ Tξназовем композицию элементарных скручиваний Дэна вокруг егокомпонент αj,ξ , 1 6 j 6 k (см. замечания 4 (В) и 5 (В)).

С л е д с т в и е 4 (обобщение формулы Пикара–Лефшеца).Пусть выполнены условия теоремы 2. Тогда при ξ ∈ ∂D

2ξ0,ε

монодромия [Mξ∗0] ∈ π0(Homeo(Tξ)) (см. обозначение 2 (А) и опре-

деление 9), называемая полулокальной монодромией для особогозначения ξ0 , является композицией локальных монодромий, от-вечающих критическим точкам, лежащим в слое Tξ0 = f−1(ξ0)(см. замечания 4 (В) и 5 (В)), т.е. она является элементарныммультискручиванием Дэна вокруг исчезающего графа Γξ ⊂ Tξ(см. определение 13).

В следующих утверждениях настоящего параграфа через γi(t),t ∈ [0; 1], обозначен простой гладкий путь в C, ведущий из неосо-бого значения ξ = 0 функции f в каждое из ее особых зна-чений ξi , 0 6 i 6 s − 1, при этом пути пересекаются тольков начальной точке ξ и 0 6 arg γ′0(0) < · · · < arg γ′s−1(0) < 2π ,т.е. пути γ0, . . . , γs−1 образуют «отмеченную систему путей» (см.[15, гл. I, § 3, определение 3]). Рассмотрим образующие ξ∗i фун-даментальной группы π1(C \ ξis−1

i=0 , ξ), представление монодро-мии µ : π1(C \ ξis−1

i=0 , ξ) → Aut(H1(Tξ)), операторы монодромииMu = µ(u) и группу монодромии M (см. обозначение 2 (А) иопределение 9).

В следующих утверждениях неособый слой Tξ гомеоморфен по-

верхности M2g,h,0 — сфере с g = [n−1

2 ] ручками и h = 3+(−1)n

2

проколами, согласно лемме 3. Поэтому H1(Tξ) ∼= Zn−1 . Из теоремы 2получаем следующее следствие.

С л е д с т в и е 5. Класс топологической эквивалентностигиперэллиптического гамильтониана f степени n (а тем бо-лее и класс послойной эквивалентности соответствующеголагранжева слоения в (C2, dz ∧ dw)) полностью определяется«отмеченной системой путей» γ0, . . . , γs−1 и набором вложен-ных в ориентированную неособую поверхность T0 ≈ M2

g,h,0

графов Γi , 0 6 i 6 s − 1, где Γi — исчезающий граф надпутем γi (см. обозначение 2 (Б) и определение 13), каждый из гра-фов Γ0, . . . , Γs−1 ⊂ T0 рассматривается с точностью до изо-топии в поверхности T0 , а набор графов — с точностью досохраняющего ориентацию гомеоморфизма поверхности T0 .


Обозначим εm := e2πi/m , m ∈ N. Пусть γa,b ⊂ C — отрезокс концами a, b ∈ C.

П р е д л о ж е н и е 3. Рассмотрим морсовский гиперэллип-тический многочлен f(z, w) = z2 − wn + nw, n > 2. Тогда

1) функция f имеет ровно n − 1 критических точек(0, εkn−1) ∈ C2 , 0 6 k 6 n−2, все они морсовские; особые значенияпопарно различны и равны ξk = f(0, εkn−1) = (n − 1)εkn−1 ∈ C,0 6 k 6 n− 2;

2) окружность αk = (prw |T0)−1(γ0,wk,0

) ⊂ T0 на неособомслое T0 = f−1(0) является исчезающей над путем γk(t) = tξk ,

0 6 t 6 1 (см. обозначение 2 (Б)), где wk,0 = n1

n−1 εkn−1 ,0 6 k 6 n− 2;

3) классы гомологий [αk] ∈ H1(T0) окружностей αk ,0 6 k 6 n − 2, образуют базис свободной абелевой группыH1(T0) ∼= Zn−1 ;

4) индексы пересечения базисных циклов [αk] ∈ H1(T0), снаб-женных подходящей ориентацией, имеют вид ⟨[αk], [αl]⟩ = 1при 0 6 l < k 6 n− 2, ⟨[αk], [αk]⟩ = 0 при 0 6 k 6 n− 2;

5) в базисе [αl], 0 6 l 6 n − 2, операторы монодро-мии Mξ∗k

действуют по формулам Mξ∗k[αl] = [αl] + sgn(k − l)[αk],

0 6 k, l 6 n− 2.Д о к а з а т е л ь с т в о. 1) Критические точки полинома f(z, w)

суть (0, wk), где wk — корень многочлена ∂f(z,w)∂w = −nwn−1 + n,

откуда критические точки многочлена f(z, w) суть (0, εkn−1), гдеk = 0, . . . , n − 2. Поэтому особые значения суть ξk = f(0, εkn−1) =

= (n − 1)εkn−1 , k = 0, . . . , n − 2.2) Проекция prw |T0 : T0 → C, (z, w) 7→ w, является двулистным

разветвленным накрытием с точками ветвления w, удовлетворяющи-ми уравнению −wn+nw = 0, откуда точки ветвления суть wn−1,0 = 0

и wk,0 = n1

n−1 εkn−1 , k = 0, . . . , n − 2.Рассмотрим путь γk(t) = tξk = t(n−1)εkn−1 и семейство уравнений

−wn + nw = γk(t) с параметром t ∈ [0, 1]. Введем переменнуюα = ε−kn−1w, тогда уравнение имеет вид F (α) = (n − 1)t, гдеF (α) := −αn + nα. Так как F ′(α) = −n(αn−1 − 1), то функцияF = F (α) возрастает на отрезке [0, 1] и убывает на [1,+∞).

Так как F (0) = F(n

1n−1)

= 0, то a := 1n−1F |[0,1] : [0, 1] → [0, 1]

и b := 1n−1F

∣∣[1,n

1n−1] : [1, n 1

n−1]→ [0, 1] — гомеоморфизмы, и при

t ∈ [0, 1] двулистное разветвленное накрытие prw |Ttξk: Ttξk → C


имеет точки ветвления wn−1,tξk = εkn−1a−1(t) и wk,tξk = εkn−1b

−1(t),причем отрезок γwn−1,tξk

,wk,tξkне содержит других точек ветвления.

Поэтому окружность αk = (prw |T0)−1(γ0,wk,0

) является исчезающейнад путем tξk , t ∈ [0, 1].

Пункты 3), 4) следуют из свойств двулистных разветвленныхнакрытий; пункт 5) следует из 2), 4) и формулы Пикара–Лефшеца(см. замечание 3). Предложение доказано.

П р е д л о ж е н и е 4. Рассмотрим (морсовский при n = 2)гиперэллиптический многочлен f(z, w) = z2+wn−1, n > 2. Тогда

1) функция f имеет ровно 1 критическую точку (0, 0); этакритическая точка имеет кратность n − 1; особое значениеодно и равно ξ0 = −1;

2) объединение n дуг βk = (prw |T0)−1(γ0,εkn) ⊂ T0 , где

k = 0, . . . , n− 1, на неособом слое T0 = f−1(0) является графом,исчезающим над путем γ(t) = −t, 0 6 t 6 1 (см. обозначе-ние 2 (Б));

3) классы гомологий [αk] ∈ H1(T0) окружностей αk :=:= βk ∪ βk+1 , 0 6 k 6 n − 2, образуют базис в гомологияхH1(T0) ∼= Zn−1 неособого слоя T0 = f−1(0);

4) индексы пересечения базисных циклов [αk] ∈ H1(T0), снаб-женных подходящей ориентацией, имеют вид ⟨[αk], [αk+1]⟩ = 1при 0 6 k 6 n − 3, ⟨[αk], [αl]⟩ = 0 при k = l ± 1, 0 6 k, l 6 n − 2,где αn−1 := βn−1 ∪ β0 ;

5) в базисе [αk], 0 6 k 6 n − 2, оператор монодромии Mξ∗0действует по формулам Mξ∗0

[αk] = −[αk+1], 0 6 k 6 n − 3,Mξ∗0

[αn−2] = [α0] + . . .+ [αn−2];6) группа монодромии M является циклической группой по-

рядка n, M ∼= Z/nZ.

Д о к а з а т е л ь с т в о. П. 1) следует из равенств df(z, w) == 2zdz + nwn−1dw и ξ0 = f(0, 0) = −1; п. 2) следует из опи-сания исчезающего графа (см. замечания 4 (Б) и 5 (Б)); пп. 3), 4)следуют из того, что разветвленное накрытие prw |T0 двулистно иточки ветвления суть εkn , 0 6 k 6 n − 1; п. 5) следует из 2), 4),замечаний 4 (В), 5 (В) и следствия 4; п. 6) следует из 3) и 5).Предложение доказано.

П р е д л о ж е н и е 5. Рассмотрим морсовский гиперэллип-тический многочлен f(z, w) = z2 + Tn(w), n > 3, гдеTn(w) — многочлен Чебышева первого рода степени n, т.е.Tn(w) = cos(n arccosw) при w ∈ [−1, 1]. Тогда

1) функция f имеет ровно n − 1 критических точек(0, cos πkn

), 1 6 k 6 n − 1; все они морсовские; различных


особых значений два, они равны ξ0 = 1 и ξ1 = −1, при-чем на особом слое T1 = f−1(1) имеется ровно

[n−12

]кри-

тических точек(0, cos 2πk

n

), 1 6 2k 6 n − 1, а на особом

слое T−1 = f−1(−1) имеется ровно[n2

]критических точек(

0, cos 2πk+πn

), 1 6 2k + 1 6 n− 1;

2) классы гомологий [αk] ∈ H1(T0) окружностей αk :=:= (prw |T0)

−1(γak,ak+1) ⊂ T0 , 1 6 k 6 n− 1, образуют базис в го-

мологиях H1(T0) неособого слоя T0 = f−1(0), где ak := cos 2πk−π2n ,

1 6 k 6 n;3) окружности α2l , 1 6 l 6

[n−12

], на неособом слое T0

попарно не пересекаются и образуют граф Γ0 , исчезающийнад путем γ0(t) = t, 0 6 t 6 1; окружности α2l−1 , 1 6 l 6

[n2

],

на слое T0 попарно не пересекаются и образуют граф Γ1 , ис-чезающий над путем γ1(t) = −t, 0 6 t 6 1 (см. обозначение 2 (Б));

4) индексы пересечения базисных циклов [αk] ∈ H1(T0),1 6 k 6 n − 1, снабженных подходящей ориентацией, имеютвид ⟨[αk], [αk+1]⟩ = 1 при 1 6 k 6 n−2, ⟨[αk], [αl]⟩ = 0 при k = l±1,1 6 k, l 6 n− 1;

5) в базисе [αk], 1 6 k 6 n − 1, операторы моно-дромии Mξ∗0

,Mξ∗1действуют по формулам Mξ∗0

[α2l] = [α2l]

и Mξ∗1[α2l] = [α2l] + [α2l−1] − [α2l+1] при 1 6 l 6 [n−1

2 ],Mξ∗0

[α2l−1] = [α2l−1] + [α2l−2] − [α2l] и Mξ∗1[α2l−1] = [α2l−1] при

1 6 l 6 [n2 ], где [α0] = [αn] := 0.

Д о к а з а т е л ь с т в о. 1) Так как при w ∈ (−1, 1) выполненоdf(z, w) = 2z dz + n sin(n arccosw)√

1−w2dw, то критические точки имеют

указанный вид; они попарно различны и их количество равно n − 1;отсюда следует, что все они морсовские и других критических точекнет. Особые значения равны f

(0, cos πkn

)= (−1)k , 1 6 k 6 n − 1.

Пункты 2), 4) следуют из того, что слой T0 неособый, накрытиеprw |T0 : T0 → C двулистно, и точки ветвления равны ak = cos 2πk−π

2n ,1 6 k 6 n. Пункт 3) следует из того, что при 1 6 k < n функцияPn|[ak+1,ak] является вещественнозначной, морсовской, имеет ровноодну критическую точку, значение в которой равно (−1)k , а значенияв концах отрезка равны 0.

Пункт 5) следует из 3), 4) и следствия 4, обобщающего формулуПикара–Лефшеца. А именно, по следствию 4 для особого значе-ния ξj полулокальная монодромия [Mξ∗j

] равна композиции скручива-ний Дэна вокруг окружностей, исчезающих над путем γj(t), t ∈ [0, 1]


(см. замечание 4 (В) при n = 2). Отсюда и из 3), 4) следуют формулыдля Mξ∗0

,Mξ∗1. Предложение доказано.

§ 6. КОМПЛЕКСНАЯ ТЕОРЕМА ЛИУВИЛЛЯ ДЛЯГИПЕРЭЛЛИПТИЧЕСКИХ ГАМИЛЬТОНИАНОВ

НЕЧЕТНОЙ СТЕПЕНИ

Обозначим D20,ε := ξ ∈ C | |ξ| < ε открытый двумерный диск.

Л е м м а 6 (нормализация гиперэллиптического многочлена не-четной степени и 2-формы dz ∧ dw в «бесконечно удаленных точ-ках»). Пусть f(z, w) = z2 + P2n+1(w), где P2n+1(w) — любоймногочлен степени 2n + 1 с комплексными коэффициентами,n ∈ N. Тогда существуют ε > 0 и голоморфное вложениеh : D2

0,ε × (D20,ε \ 0) → C2 такие, что

f h(ξ, u) = ξ, h∗(dz ∧ dw) = u2n−2dξ ∧ du

для любых (ξ, u) ∈ D20,ε × (D2

0,ε \ 0), причем limu→0

|h(ξ, u)| = ∞равномерно по ξ ∈D2

0,ε , и дополнение образа h в M4ε := f−1(D2

0,ε)

ограничено в C2 . В частности, имеется комплексное 2-мерноесвязное многообразие M4

ε с комплексно аналитическим атла-сом из двух карт, полученное из M4

ε ⊂ C2 приклеиваниеммножества D2

0,ε × D20,ε ⊂ C2 при помощи вложения h. При

этом M4ε \M4

ε ≈ D20,ε × 0 («бесконечно удаленные» точки pξ ,

ξ ∈ D20,ε).

Д о к а з а т е л ь с т в о. Лемма является частным случаем тео-ремы из работы [7], в которой рассматривается произвольный мно-гочлен двух переменных, невырожденный относительно своего мно-гоугольника Ньютона. Для полноты изложения приведем доказа-тельство леммы в случае гиперэллиптического многочлена нечетнойстепени. Выберем ε1 > 0 и обозначим через Rmax точную верх-нюю грань максимального абсолютного значения корней уравненияP2n+1(w) = ξ по всем ξ ∈ D2

ε1 . Пусть ε2 := minε1, 1/(2√Rmax).

Определим отображение h1 : D20,ε2

× (D20,ε2

\ 0) → C2 формулой

h1(ξ, u1) :=(√

ξ − P2n+1(u−21 ), u−2

1

)=

=(u−2n−11

√u2(2n+1)(ξ − P2n+1(u

−21 )), u−2

1

),


где в качестве квадратного корня берется одна из ветвей функ-ции √ . Отображение h1 определено корректно и является голо-

морфным, так как подкоренное выражение u2(2n+1)(ξ − P2n+1(u−21 ))

является многочленом с ненулевым свободным членом. Отобра-жение h1 инъективно, так как если h1(ξ1, u1) = h1(ξ2, u2), тоξ1 = ξ2 и u1 = ±u2 , однако в случае u1 = −u2 выполнено√ξ1 − P2n+1(u

−21 ) = −

√ξ1 − P2n+1(u

−22 ), что противоречит равен-

ству h1(ξ1, u1) = h1(ξ2, u2).Имеем

f h1(ξ, u1) = ξ, h∗1(dz ∧ dw) =−u2n−2

1 dξ ∧ du1√u2(2n+1)1 (ξ − P2n+1(u

−21 ))

.

Определим отображение g : D20,ε2

×D20,ε2

→ D20,ε2

× C соотношениемg(ξ, u1) := (ξ, v(ξ, u1)), где функция v = v(ξ, u1) задана условиями

v(ξ, 0) = 0 и v2n−2 ∂v∂u1

= − u2n−21√

u2(2n+1)1 (ξ−P2n+1(u

−21 ))

. Отображение g яв-

ляется голоморфным вложением, так как знаменатель является голо-морфной функцией, всюду отличной от нуля. Рассмотрим 0 < ε < ε2такое, что D2

0,ε×D20,ε ⊂ Im g . Положим g := g−1|D2

0,ε×(D20,ε\(C×0)) .

Отображение h := h1 g является искомым.О п р е д е л е н и е 14. (А) Под геодезической римановой мет-

рики ds2ξ на Tξ = f−1(ξ), имеющей начало и конец в беско-нечно удаленной точке pξ , будем понимать такую геодезическуюγξ : (0; 1) → Tξ римановой метрики ds2ξ на Tξ (см. определение 8),для которой lim

t→0+γξ(t) = lim

t→0−γξ(t) = pξ (см. лемму 6).

(Б) Под условием о непрерывной зависимости семейства геоде-зических γξ : (0; 1) → Tξ от ξ понимается следующее: отображение

D20,ε × (0; 1) → C2, (ξ, t) 7→ γξ(t),

непрерывно по совокупности переменных (ξ, t) ∈ D20,ε × (0; 1)

(см. лемму 6).Т е о р е м а 3 (комплексная теорема Лиувилля для гиперэл-

липтического гамильтониана нечетной степени). Пусть f(z, w) == z2 + P2n+1(w) — гиперэллиптический многочлен нечетнойстепени с попарно различными вещественными корнями, т.е.P2n+1(w) = (w − a1) . . . (w − a2n+1), где ai ∈ R, i = 1, . . . , 2n + 1,a1 < a2 < . . . < a2n+1 , n ∈ N. Тогда для C-гамильтоновой си-стемы (C2, dz∧dw, f) и соответствующего лагранжева слоения


(см. определение 5) существует ε > 0 такое, что выполненыследующие свойства:

1) для любого ξ ∈ D20,ε слой Tξ = f−1(ξ) является неособым

и гомеоморфен сфере с n ручками и одним проколом;2) лагранжево слоение в четырехмерной ε-окрестности

Uε := f−1(D20,ε) слоя T0 топологически тривиально, т.е. послой-

но гомеоморфно прямому произведению слоя T0 на открытыйдвумерный диск D2

0,ε ;3) в окрестности Uε существуют 2n голоморфных функций

I1, . . . , In, J1, . . . , Jn : Uε → C,

2n однопараметрических семейств кривых

eξ,1, . . . , eξ,1, dξ,1 . . . , dξ,1 : (0; 1) → Tξ, ξ ∈ D20,ε,

и голоморфная инъективная функция

Θ: U ′ε := Uε \

∪ξ∈D2

0,ε

n∪i=1

(eξ,i(0; 1) ∪ dξ,i(0; 1)) → C

такие, чтоа) каждая из функций Ik, Jk : Uε → C является голоморфной

функцией Ik = Ik(f) и Jk = Jk(f) от f без критических точек,их множества значений

Dε,k := Ik(Uε), Dε,k := Jk(Uε) ⊂ C

открыты в C и гомеоморфны открытому кругу, они выража-ются в окрестности Uε через любую другую такую функциюформулами

Ik = Ik(f(Iℓ)), Ik = Ik(f(Jℓ)), Jk = Jk(f(Iℓ)), Jk = Jk(f(Jℓ)),

где f(Ik) и f(Jk) — функции, обратные к функциям Ik(f) иJk(f) соответственно, k = 1, . . . , n;

б) кривые eξ,i, dξ,j : (0; 1) → Tξ попарно не пересекаются,каждая из них является не самопересекающейся геодезическойримановой метрики ds2ξ (см. определение 8), имеющей начало иконец в бесконечно удаленной точке pξ и непрерывно завися-щей от ξ (см. определение 14), ξ ∈ D2

0,ε , i, j = 1, . . . , n;в) при каждом ξ ∈ D2

0,ε множество

Wξ := Θ(Tξ ∩ U ′ε) = Θ

(Tξ \

n∪i=1

(eξ,i(0; 1) ∪ dξ,i(0; 1)))⊂ C


(называемое плоским фундаментальным 4n-угольником, см. рис. 1при n = 3, ei := s2i+1) является внутренностью областив C, ограниченной простой замкнутой 4n-звенной ломаннойA1(ξ) . . . A4n(ξ), причем в некоторой окрестности U ⊂ C2 мно-жества

W :=∪

ξ∈D2ε

ξ × (W ξ \ A1(ξ), . . . , A4n(ξ))

в C2 имеется голоморфное сюръективное отображение

ψ : U → Uε

(называемое разверткой окрестности Uε) такое, что ψ(f |U ′ε,Θ) =

= IdU ′ε

и

ψ(tA3(ξ) + (1− t)A2(ξ)) = ψ(tA4n(ξ) + (1− t)A1(ξ)) = eξ,1(t),

ψ(tA2k+1(ξ) + (1− t)A2k(ξ)) =

= ψ(tA4n−2k+3(ξ) + (1− t)A4n−2k+4(ξ)) = eξ,k(t), 1 < k 6 n,

ψ(tA2k(ξ) + (1− t)A2k−1(ξ)) =

= ψ(tA4n−2k(ξ) + (1− t)A4n−2k+1(ξ)) = dξ,k(t), 1 6 k < n,

ψ(tA2n(ξ)+(1−t)A2n−1(ξ)) = ψ(tA2n+1(ξ)+(1−t)A2n+2(ξ)) = dξ,n(t)

для любого t ∈ (0; 1), где вершины 4n-угольника Wξ определя-ются соотношениями

A1(ξ) +A3(ξ) = 0,

A3(ξ)−A2(ξ) = A4n(ξ)−A1(ξ) = ⟨eξ,1⟩,A2k+1(ξ)−A2k(ξ) = A4n−2k+3(ξ)−A4n−2k+4(ξ) = ⟨eξ,k⟩, 1 < k 6 n,

A2k(ξ)−A2k−1(ξ) = A4n−2k(ξ)−A4n−2k+1(ξ) = ⟨dξ,k⟩, 1 6 k < n,

A2n(ξ)−A2n−1(ξ) = A2n+1(ξ)−A2n+2(ξ) = ⟨dξ,n⟩,

⟨eξ,k⟩:=2πn∑i=k

(−1)i−kI ′i(ξ), ⟨dξ,k⟩:=2πk∑i=1

(−1)i−kJ ′i(ξ), 1 6 k 6 n;

г) (dz ∧ dw)|U ′ε= df ∧ dΘ;

д) «функции действия» Ik = Ik(f) и Jk = Jk(f) имеют вид

Ik(ξ) =1

π

a2k+1(ξ)∫a2k(ξ)

√ξ − P2n+1(y) dy,

Jk(ξ) =1

π

a2k(ξ)∫a2k−1(ξ)

√ξ − P2n+1(y) dy, ξ ∈ D2

0,ε,


Рис. 1. Плоский фундаментальный 4n-угольник W0 при n = 3

где в качестве функции √ берутся ее ветви такие, что√−P2n+1((a2k + a2k+1)/2) > 0 в первом случае,

i√

−P2n+1((a2k−1 + a2k)/2) < 0 во втором случае,

ai(ξ) — корень уравнения P2n+1(w) = ξ , близкий к ai ;е) уравнения Гамильтона в координатах (f,Θ) на U ′

ε при-нимают вид

f = 0, Θ = 1;

4) антиканоническая инволюция C2 → C2 , (z, w) 7→ (−z, w),сохраняющая Гамильтониан f , в координатах (f,Θ) имеетследующий вид: для любого ξ ∈ D2

0,ε внутренности параллело-граммов

ξ × (A2k−1(ξ)A2k(ξ)A2k+1(ξ)A4n−2k+2(ξ)) ⊂ W, 1 6 k 6 n,

ξ × (A2k+1(ξ)A4n−2k(ξ)A4n−2k+1(ξ)A4n−2k+2(ξ)) ⊂ W, 1 6 k < n,

инвариантны относительно этой инволюции, и на каждой изних инволюция имеет вид (ξ,Θ) 7→ (ξ, 2c(ξ) − Θ), где c(ξ) —точка пересечения диагоналей параллелограмма.

Введем некоторые обозначения и сформулируем утверждения,необходимые для доказательства теоремы 3.


Л е м м а 7. Пусть f(z, w) = z2+PN (w), где PN (w) — любоймногочлен степени N > 1 с комплексными коэффициентами,не имеющий кратных корней, T0 = f−1(0). Тогда:

(А) отображение prw |T0 : T0 → C, (z, w) 7→ w, являет-ся двулистным разветвленным накрытием и переводит век-торное поле sgradC f |T0 в векторное поле ±(prw)∗(sgradC f |T0),корректно определенное с точностью до знака, т.е. длялюбых (z1, w), (z2, w) ∈ T0 таких, что z1 = z2 , верно(prw)∗(sgradC f(z1, w)) = −(prw)∗(sgradC f(z2, w));

(Б) если все коэффициенты многочлена PN веществен-ны, то определенное с точностью до знака векторное поле±(prw)∗(sgradC f |T0) на Cw симметрично относительно отра-жения относительно вещественной прямой, т.е. инвариантноотносительно диффеоморфизма Sym: Cw → Cw , w 7→ w.

Д о к а з а т е л ь с т в о. (А) В точке (z, w) ∈ T0 выполненоsgradC f(z, w)=(−P ′

N (w), 2z), поэтому (prw)∗(sgradC f(z, w))=2z ∂∂w .

Очевидно, любые два прообраза (z1, w), (z2, w) ∈ T0 точки w ∈ Cwсвязаны соотношением z1 = −z2 . Поэтому prw |T0 является разветв-ленным двулистным накрытием и (prw)∗(sgradC f(z1, w)) = 2z1

∂∂w =

= −2z2∂∂w = −(prw)∗(sgradC f(z2, w)).

(Б) Определим отображение sym: T0 → T0 следующей фор-мулой: (z, w) 7→ (z, w). Отображение sym определено корректно,поскольку если z2 + PN (w) = 0, то z2 + PN (w) = z2 + PN (w) = 0,где первое равенство выполнено ввиду того, что все коэффициентымногочлена PN (w) вещественны. Из равенств

(prw)∗(sgradC f(z, w)) = ((prw)∗ sgradC f)(w),

Sym prw = prw sym,sym∗(sgradC f(z, w)) = (−P ′

N (w), 2z) = sgradC f(sym(z, w))

следует, что

Sym∗(((prw)∗ sgradC f)(w)) = Sym∗((prw)∗(sgradC f(z, w))) =

= (prw)∗(sym∗(sgradC f(z, w))) = (prw)∗(sgradC f(sym(z, w))) =

= (prw)∗(sgradC f(z, w)) = ((prw)∗ sgradC f)(w) =

= ((prw)∗ sgradC f)(Sym(w)).

П р е д л о ж е н и е 6. Пусть f(z, w) = z2 + P2n+1(w), гдеP2n+1(w) = (w − a1) . . . (w − a2n+1), ai ∈ R, i = 1, . . . , 2n + 1,a1 < a2 < . . . < a2n+1 , n ∈ N. Тогда все интегральныетраектории векторного поля sgradC f |T0 , не являющиеся сепа-ратрисами, являются периодическими. Более того:


Рис. 2. Траектории поля sgradC f |T0 и их образы при проекции prw |T0 : T0 → Cw

при n = 3

(А) интегральные траектории векторного поля sgradC f |T0

(и их образы при проекции prw |T0 : T0 → C, (z, w) 7→ w,см. лемму 7 (А)) выглядят как на рис. 2 при n = 3;среди этих траекторий имеется ровно 2n − 1 сепаратрисs1, . . . , s2n−1 ⊂ T0 (соответственно n сепаратрис S1, . . . , Sn ⊂ Cтаких, что s1 = (prw |T0)

−1(S1), s2k−2 ∪ s2k−1 = (prw |T0)−1(Sk),

k = 2, . . . , n), которые разбивают слой T0 на n связныхкомпонент c1, . . . , cn , гомеоморфных внутренности цилиндраS1 × (0, 1) (соответственно разбивают плоскость C на nобластей C1, . . . , Cn ⊂ C таких, что [a2k, a2k+1] ⊂ Ck ,ck = (prw |T0)

−1(Ck), k = 1, . . . , n); в каждой цилиндрическойобласти ck траектории периодичны с периодом

Tk =

a2k+1∫a2k

dw√−P2n+1(w)

, k = 1, . . . , n;

всякая сепаратриса имеет начало и конец в бесконечно уда-ленной точке p0 ∈ T0 , и длины сепаратрис в метрике ds20(равные времени движения по ним в силу C-гамильтоновой си-

стемы) равны |⟨s2k−2⟩| = |⟨s2k−1⟩| =n∑i=k

(−1)i−kTi при k = 2, . . . , n

и |⟨s1⟩| =n∑i=1

(−1)i−1Ti ;


(Б) на слое T0 существует набор сепаратрис d1, . . . , dn век-торного поля i sgradC f , имеющих начало и конец в бесконеч-но удаленной точке p0 , таких что dk ⊂ ck и их образыprw |T0(dk) = Dk при проекции prw |T0 : T0 → Cw содержатсяв Ck , причем при k = 1, . . . , n − 1 траектория Dk пересекаетотрезок [a2k, a2k+1] ⊂ Cw , а траектория Dn совпадает с лучом[a2n+1,+∞) ⊂ Cw (см. рис. 3 при n = 3);

Рис. 3. Проекции интегральных траекторий поля i sgrad f |T0 на плоскость Cw

при n = 3

(В) упорядочивание пары сепаратрис s2k−2 ∪ s2k−1 == (prw |T0)

−1(Sk) в п. (А) и выбор одной из двух сепаратрисdk ⊂ (prw |T0)

−1(Dk) в п. (Б) однозначно определим следующимусловием: подмножество

T++0 :=

(√−P2n+1(w), w

)| Imw > 0

⊂ T0

(где в качестве функции √ выбрана ее ветвь такая, что√−P2n+1((a2 + a3)/2) > 0) имеет непустое пересечение с сепа-

ратрисами

I(d1), I(s4k), I(d2k+1), 1 6 k 6[n−1

2

], s4k−2, d2k, 1 6 k 6

[n2

],

где I : C2 → C2 — инволюция, определяемая формулой I(z, w) == (−z, w); обозначим сепаратрису s2k−1 через ek , k = 1, . . . , n;тогда дополнение подмножества e1 ∪ . . . ∪ en ∪ d1 ∪ . . . ∪ dnв слое T0 гомеоморфно открытому двумерному диску, причемпри обходе границы диска сепаратрисы проходятся в такомже циклическом порядке, как у 4n-угольника на рис. 1.

Д о к а з а т е л ь с т в о. Обозначим множество точек, принадле-жащих интегральным траекториям векторного поля u := sgradC f |T0 ,входящим в бесконечно удаленную точку p0 или исходящим из нее,

через Ip0 . Пусть T0\Ip0 =N∪i=1

ci , где ci — все различные компоненты

линейной связности T0\Ip0 , i = 1, . . . , N . Векторное поле u|ci полно.


Шаг 1. Допустим, что существует периодическая интегральнаятраектория γi ⊂ ci для некоторого 1 6 i 6 N , период γi равен T > 0.Тогда покажем, что всякая интегральная траектория γ ⊂ ci являетсяпериодической с тем же периодом T .

Как и выше, обозначим через u векторное поле u = sgradC f |T0 ,а через v ортогональное ему относительно римановой метрикиds20 := Sym(∆0 ⊗ ∆0) векторное поле v = i sgradC f |T0 . Поскольку[u, v] = 0, то существует ε > 0 такое, что для любого τ ∈ (−ε, ε) вы-полнено gτvγi — периодическая траектория векторного поля u с пе-риодом T , где gτv — сдвиг вдоль векторного поля v на τ ∈ R. Отсюдаобъединение T -периодических интегральных траекторий векторногополя u|ci является открытым подмножеством в T0 (и в ci), котороеобозначим через Γi .

Покажем, что множество Γi ⊂ ci замкнуто в ci . Пусть точкаg ∈ ci является предельной точкой множества Γi . Так как векторноеполе u|ci полно и g ∈ ci , то для достаточно малого ε > 0 определеноотображение ψ : [0, T ] × [−ε, ε] → T0 , (t, τ) 7→ gτvg

tu(g). В любой

бесконечно малой окрестности точки g существуют точки, черезкоторые проходят периодические интегральные траектории поля uс периодом T (т.е. принадлежащие множеству Γi). Поэтому (заменяякаждую такую точку на пересечение соответствующей интегральнойтраектории с кривой gτv (g), τ ∈ [−ε, ε]) получаем существованиепоследовательности τj → 0 при j → ∞ (возможно, τj = 0 длянекоторых j) такой, что g

τjv (g) ∈ Γi . Поскольку [u, v] = 0, то

ψ : (t, τ) 7→ gtugτv (g), откуда ψ(T, τj) = gTu g

τjv (g) = g

τjv (g) = ψ(0, τj).

Значит, ψ(T, 0) = ψ(0, 0) = g , т.е. через точку g проходит периоди-ческая интегральная траектория γg с периодом T (и минимальнымпериодом T/k для некоторого k ∈ N). Период T является мини-мальным периодом этой траектории (т.е. k = 1) в силу открытостиобъединения (T/k)-периодических траекторий (см. выше). Поэтомуg ∈ Γi , что доказывает замкнутость множества Γi в ci .

Так как Γi = ∅, является открытым и замкнутым в ci , то Γi = ci .

Шаг 2. Рассмотрим проекцию prw : T0 → Cw , (z, w) 7→ w. Дан-ная проекция является двулистным разветвленным накрытием с точ-ками ветвления a1, . . . , a2n+1,∞ ∈ Cw . Без ограничения общностипусть a1<a2< . . .< a2n+1 , тогда P2n+1|(a1,a2)∪(a3,a4)∪···∪(a2n+1,+∞) > 0и P2n+1|(−∞,a1)∪(a2,a3)∪···∪(a2n,a2n+1) < 0. Поэтому (определенноес точностью до знака) векторное поле ±(prw)∗(sgrad f |T0) =

= ±2√

−P2n+1(w)∂/∂w на Cw является касательным к веществен-ной прямой R ⊂ C на подмножестве (−∞, a1) ∪ (a2, a3) ∪ . . .∪∪ (a2n, a2n+1) ⊂ R и ортогонально этой прямой на подмножестве(a1, a2) ∪ (a3, a4) ∪ . . . ∪ (a2n+1,+∞) ⊂ R.


Шаг 3. Поскольку в окрестности точки p0 ∈ T0 векторное полеsgradC f |T0 имеет особенность полюс 2n− 2-го порядка, количествосепаратрис в точке p0 равно 2(2n − 1), а так как точка p0 являетсяпрообразом точки ветвления ∞, то количество сепаратрис (опреде-ленного с точностью до знака) векторного поля ±(prw)∗(sgrad f |T0)в точке ∞ ∈ Cw равно 2n − 1.

Изучим сепаратрисы векторного поля ±(prw)∗(sgrad f |T0) насфере Cw . Существует сепаратриса (обозначим ее S1), совпадаю-щая как множество с (−∞, a1] (см. шаг 2). Также существует nоднопараметрических семейств периодических траекторий, обходя-щих вокруг отрезков [a2k, a2k+1], k = 1, . . . , n. Отсюда, применяяк векторному полю ±(prw)∗(sgrad f |T0) и указанным n семействампериодических траекторий рассуждения, аналогичные приведеннымна шаге 1, получаем, что при каждом k = 2, . . . , n существует точкаak,∗ ∈ [a2k−1, a2k] ⊂ R ⊂ Cw , которая во-первых является точнойверхней гранью множества точек пересечения с отрезком [a2k−1, a2k]периодических траекторий (k − 1)-го семейства (обходящих вокруготрезка [a2k−2, a2k−1]), а во-вторых принадлежит некоторой сепара-трисе, которую обозначим через Sk . Обозначим через Ck объеди-нение всех периодических траекторий k-го семейства, k = 1, . . . , n.Заметим, что каждая сепаратриса S2, . . . , Sn имеет не более одногопересечения с вещественной прямой R ⊂ Cw , так как в противномслучае, ввиду симметричности интегральных траекторий относительновещественной прямой R ⊂ Cw , она была бы периодической, не про-ходящей через точку ∞ ∈ Cw . Также, ввиду симметричности инте-гральных траекторий относительно вещественной прямой R ⊂ Cw ,всякая сепаратриса Sk , проходящая через точку ak,∗ , k = 2, . . . , n,имеет начало и конец в точке ∞ ∈ Cw . Тем самым, выше описаностроение всех сепаратрис векторного поля ±(prw)∗(sgrad f |T0) насфере Cw . Значит, Cw есть объединение описанных выше сепаратрисS1, . . . , Sn и заполненных периодическими траекториями областейC1, . . . , Cn , и интегральные траектории имеют вид как на рис. 4. Пе-риод периодических интегральных траекторий k-го семейства (из Ck )

равен Tk =a2k+1∫a2k

dw√−P2n+1(w)

, k = 1, . . . , n, а длина |⟨Sk⟩| сепаратри-

сы Sk равна |⟨Sk⟩| =n∑i=k

(−1)i−kTi при k = 1, . . . , n.

Поэтому интегральные траектории векторного поля sgradC f |T0

выглядят как на рис. 2. В частности, среди этих траекторий имеетсяровно 2n − 1 сепаратрис si , 1 6 i 6 2n − 1, которые разбиваютслой T0 на n связных компонент ck , k = 1, . . . , n, где каждая ckсостоит из периодических траекторий, образующих однопараметриче-ское семейство периодических траекторий. При этом всякая сепара-


Рис. 4. Интегральные траектории поля ±(prw)∗(sgrad f |T0) на сфере Cw

триса имеет начало и конец в бесконечно удаленной точке p0 ∈ T0 ;каждая из сепаратрис s2k−2 и s2k−1 имеет длину |⟨Sk⟩| и биектив-но проектируется при двулистном накрытии prw |T0

: T0 → Cw насепаратрису Sk векторного поля ±(prw)∗(sgrad f |T0), k = 2, . . . , n,а сепаратриса s1 имеет длину |⟨S1⟩| и двулистно проектируется насепаратрису S1 векторного поля ±(prw)∗(sgrad f |T0). Также лю-бая траектория в области ck имеет период Tk и либо проектиру-ется биективно на одну из периодических траекторий k-го семей-ства периодических траекторий векторного поля ±(prw)∗(sgrad f |T0)(из Ck ), либо проектируется двулистно на отрезок [a2k, a2k+1] ⊂ Ck ,k = 1, . . . , n.

Аналогично доказывается существование сепаратрис и перио-дических траекторий векторного поля i sgradC f |T0 . Нетрудно по-казывается, что по отношению к сепаратрисам векторного поляsgradC f |T0 они расположены как на рис. 2.

П р е д л о ж е н и е 7. Пусть f(z, w) = z2 + P2n+1(w), n ∈ N.Пусть ds20 — риманова метрика пополнения на неособом слоеT0 = f−1(0) (см. определение 8). Пусть γ : (0; 1) → T0 —геодезическая этой метрики, имеющая начало и конец в бес-конечно удаленной точке p0 (см. определение 14 (А)). Тогдасуществует ε > 0 такое, что для любого ξ ∈ D2

0,ε слой Tξявляется неособым, и существует геодезическая γξ : (0; 1) → Tξримановой метрики ds2ξ (см. определение 8), непрерывно зави-сящая от ξ , имеющая начало и конец в бесконечно удаленнойточке pξ (см. определение 14), удовлетворяющая соотношениюγ0 = γ .

Д о к а з а т е л ь с т в о. Согласно лемме 6 существуют ε > 0,ε1 > 0, такие что для любого ξ ∈ D2

0,ε существуют окрестностьU2ξ ⊂ Tξ бесконечно удаленной точки pξ ∈ Tξ и координата


uξ : U2ξ → D2

ε1 , причем uξ(pξ) = 0 и (uξ)∗(sgradC f |U2ξ) = u2−2n ∂

∂u ,

где u — координата в D2ε1 ⊂ C. Отсюда ((uξ)

−1)∗(ds2ξ |U2

ξ

)=

= |u|4n−4|du|2 — поле неотрицательно определенных квадратичныхформ, пропорциональных евклидовой, в области D2

ε1 ⊂ C(u), опре-деляющее функцию расстояния (u−1

ξ , u−1ξ )∗ρξ = ρξ (u−1

ξ , u−1ξ ) в D2

ε1 ,и являющееся обратным образом поля форм ds2ξ , определяющегофункцию расстояния ρξ в U2

ξ . Поэтому геодезические, выходящиеиз точки u = 0 ∈ D2

ε1 , содержат радиусы открытого круга D2ε1 ,

а граница ∂D2ε1 этого круга является окружностью (в смысле функ-

ции расстояния (u−1ξ , u−1

ξ )∗ρξ ) радиуса rε1 =ε4n−314n−3 > 0. Поскольку

слой T0 неособый и множество T0 \ U20 компактно, то ∆0|T0\U2

0—

голоморфная и отделенная от нуля 1-форма. Поэтому существуютε2, ε3 > 0 и комплексно-аналитическое вложение ψ0 : Π0 → T0прямоугольника

Π0 := z0 ∈ C | ε2 6 Re z0 6 1− ε2, | Im z0| 6 ε3 ⊂ C,

такие что ψ0|[ε2,1−ε2] = γ|[ε2,1−ε2] , образы всех вершин пря-моугольника Π0 при вложении ψ0 принадлежат окрестности U2

0

(т.е. ψ0(ε2± iε3), ψ0(1−ε2± iε3) ∈ U20 ) и dz0 = (ψ0)

∗∆0 . Отсюда сле-дует, что существуют ε4 > 0 и семейство комплексно-аналитическихвложений ψξ : Π0 → Tξ , ξ ∈ C, |ξ| < ε4 , такие что образывсех вершин прямоугольника Π0 при каждом вложении ψξ , при-надлежат U2

ξ , dz0 = (ψξ)∗∆ξ , и отображение (ξ, z0) 7→ ψξ(z0)

является комплексно-аналитическим. Отсюда существует ε5 > 0,такое что для любого ξ ∈ C, |ξ| < ε5 , существует единственныйпрямолинейный отрезок в прямоугольнике Π0 ⊂ C(z0) (а сталобыть, геодезическая римановой метрики ds2ξ ), ортогональный дугам(ψξ)

−1 (uξ)−1(∂D2

ε1) в обеих точках своего пересечения с дугами,и являющийся пересечением Π0 с некоторой вещественной прямойв C. Продолжая эту геодезическую в круге Uξ ≈ D2

ε1 до центраu−1ξ (0) = pξ этого круга по радиусам, можно получить искомую

геодезическую γξ (см. рис 5).

Д о к а з а т е л ь с т в о теоремы 3. Пункты 1) и 2) следуютиз частного случая леммы 5: когда на слое T0 нет особых точек.Докажем пункт 3).

Шаг 1. Функции действия Ii, Ji , i = 1, . . . , n, определим фор-мулами пункта д). Докажем пункт а), т.е. голоморфность функций


Рис. 5. Продолжение геодезических

Ik(ξ), Jk(ξ). По построению значение «функции действия» Ik зависиттолько от ξ . Далее,

I ′k(ξ) =1

π

( a2k+1(ξ)∫a2k(ξ)

∂

∂ξ

√ξ−P2n+1(w) dw −

−2k+1∑j=2k

(−1)ja′j(ξ)√ξ−P2n+1(aj(ξ))

)=

1

2π

a2k+1(ξ)∫a2k(ξ)

dw√ξ−P2n+1(w)

.

Отсюда следует, что существует ε > 0, такое что при |ξ| < εпроизводная I ′k(ξ) существует, поэтому Ik = Ik(ξ) является го-ломорфной функцией. Более того, поскольку I ′k(0) = 0, то мож-но считать, что Ik|D2

0,εявляется диффеоморфизмом открытого кру-

га D20,ε радиуса ε на область Dε,k := Ik(D

20,ε). Аналогично

J ′k(ξ) =

12π


dw√ξ−P2n+1(w)

. Пункт а) доказан.

Шаг 2. По предложению 6 на нулевом слое T0 существуютсепаратрисы ei, di , i = 1, . . . , n, причем они попарно не пересе-каются. Согласно предложению 7 для каждой сепаратрисы ei, di ,i = 1, . . . , n существует продолжение eξ,i, dξ,i : (0; 1) → Uε , при-чем eξ,i(0; 1), dξ,i(0; 1) ⊂ Tξ . В силу предложения 6 подмножествоT0∩U ′ε = T0\(e1∪. . .∪en∪d1∪. . .∪dn) гомеоморфно открытому диску,

а потому Tξ∩U ′ε тоже гомеоморфно открытому диску, откуда за-

мкнутая 1-форма ∆ξ|Tξ∩U ′ε

точна. Семейство голоморфных функцийΘξ := Θ|Tξ

∩U ′ε→ C определим соотношениями dΘξ = ∆ξ|Tξ

∩U ′ε,

Θξ(0, a2(ξ)) = 0.


Пункт б) следует из построенмя eξ,i, dξ,i .Пункт г) следует из того, что df ∧dΘ = df(z, w)∧ dw

2z = dz∧dw.Пункт е) следует из пунктов а) и г).Шаг 3. Докажем пункт в). Из леммы 6 и того, что граница

области Tξ ∩ U ′ε в Tξ составлена из попарно непересекающихся

геодезических eξ,i, dξ,j , i, j = 1, . . . , n, следует, что граница ее образаΘξ(Tξ ∩U ′

ε) ⊂ C при отображении Θξ является ломаной. Из предло-жения 6 следует, что комплекснозначная функция Θ0 : T0 ∩ U ′

ε → Cинъективна и ограничена, поэтому ее образ W0 является внутрен-ностью некоторого 4n-угольника. Отсюда Wξ — тоже внутренностьнекоторого 4n-угольника, причем его вершины непрерывно зависятот ξ , а стороны переходят в геодезические eξ,i, dξ,j , i, j = 1, . . . , n

при продолжении отображения ψξ := Θ−1ξ по непрерывности на W ξ .

Согласно предложению 6 (В), если параметризовать граничную ло-маную 4n-угольника W 0 по часовой стрелке, то ее образ при отоб-ражении ψ0 последовательно пройдет вдоль сепаратрис

d1, e1, d2, e2, d3, e3, . . . , dk, ek, dk+1, ek+1, . . . , dn, en,

d−1n , d−1

n−1, e−1n , d−1

n−2, e−1n−1, . . . , d

−1k , e−1

k+1, d−1k−1, e

−1k , . . . , d−1

1 , e−12 , e−1

1

с учетом ориентации на сепаратрисах (по направлению векторных по-лей sgradC f |T0 и i sgradC f |T0 ). Из непрерывности следует, что ана-логичное свойство верно при любом ξ ∈ D2

0,ε для 4n-угольника W ξ ,отображения ψξ и геодезических eξ,i, dξ,j , i, j = 1, . . . , n.

Осталось вычислить направляющие векторы сторон 4n-угольни-ка W ξ . Так как dΘξ = ∆ξ|Tξ∩U ′

ε, то направляющий вектор любой

стороны 4n-угольника равен интегралу 1-формы ∆ξ вдоль геодези-ческой γξ , отвечающей этой стороне, т.е. равен

⟨γξ⟩ :=∫γξ

∆ξ.

Так как форма ∆ξ замкнута, то ее интеграл ⟨αξ⟩ по любому ориенти-рованному циклу αξ ⊂ Tξ не меняется при любых гомотопиях циклав слое. Рассмотрим непрерывные по ξ семейства ориентированныхциклов

αξ,k := (prw |Tξ)−1([a2k(ξ), a2k+1(ξ)]) ⊂ Tξ,

αξ,k := (prw |Tξ)−1([a2k−1(ξ), a2k(ξ)]) ⊂ Tξ

с такой ориентацией, что α0,k и α0,k являются интегральными траек-ториями полей sgradC f и i sgradC f соответственно (см. утвержде-ние 6), k = 1, . . . , n. Тогда

⟨αξ,k⟩ = 2πI ′k(ξ), ⟨αξ,k⟩ = 2πJ ′k(ξ)


в силу формул для I ′k(ξ) и J ′k(ξ) (см. шаг 1). Из гладкости

1-формы ∆ξ на поверхности Tξ∪pξ ⊂ M4ε (см. лемму 6) и гомоло-

гичности соответствующих циклов на этой поверхности следует, что

⟨eξ,n⟩ = ⟨αξ,n⟩ = 2πI ′n(ξ), ⟨eξ,k⟩+ ⟨eξ,k+1⟩ = ⟨αξ,k⟩ = 2πI ′k(ξ),

⟨dξ,1⟩ = ⟨αξ,1⟩ = 2πJ ′1(ξ), ⟨dξ,k⟩+ ⟨dξ,k+1⟩ = ⟨αξ,k+1⟩ = 2πJ ′

k+1(ξ)

при 1 6 k < n. Отсюда получаем требуемые равенства

⟨eξ,k⟩ = 2π(I ′k(ξ)− I ′k+1(ξ) + . . .+ (−1)n−kI ′n(ξ)), 1 6 k 6 n,

⟨dξ,k⟩ = 2π(J ′k(ξ)− J ′

k−1(ξ) + . . .+ (−1)k−1J ′1(ξ)), 1 6 k 6 n.

Пункт в), а тем самым и весь пункт 3), полностью доказаны.Докажем пункт 4). Заметим, что инволюция I : (z, w) 7→ (−z, w)

сохраняет гамильтониан f , меняет знак у C-симплектической струк-туры dz ∧ dw, и сохраняет любую связную компоненту множества

Tξ \n∪k=1

(dk,ξ ∪ I(dk,ξ) ∪ ek,ξ ∪ I(ek,ξ)), а также каждую из то-

чек (0, ak(ξ)), 1 6 k 6 2n + 1 и только их. Так как каждая изуказанных связных компонент ограничена четырьмя геодезическимии содержит ровно одну из указанных неподвижных точек, то образэтой компоненты при отображении Θ является четырехугольником,а инволюция I индуцирует поворот четырехугольника на угол πвокруг неподвижной точки. Отсюда четырехугольник является па-раллелограммом, а неподвижная точка — точкой пересечения егодиагоналей. Теорема 3 доказана.

§ 7. КОМПЛЕКСНАЯ ТЕОРЕМА ЛИУВИЛЛЯ ДЛЯГИПЕРЭЛЛИПТИЧЕСКИХ ГАМИЛЬТОНИАНОВ

ЧЕТНОЙ СТЕПЕНИ

Обозначим D20,ε := ξ ∈ C | |ξ| < ε открытый двумерный диск.

Л е м м а 8 (нормализация гиперэллиптического многочлена чет-ной степени и 2-формы dz ∧ dw в «бесконечно удаленных точ-ках»). Пусть f(z, w) = z2 + P2n+2(w), где P2n+2(w) — любоймногочлен степени 2n + 2 с комплексными коэффициентами,n ∈ N. Тогда существуют ε > 0 и голоморфные вложенияhj : D

20,ε × (D2

0,ε \ 0) → C2 , j ∈ +,−, такие, что

f hj(ξ, u) = ξ, h∗j (dz ∧ dw) = un−1dξ ∧ du

для любых (ξ, u) ∈ D20,ε × (D2

0,ε \ 0), причем limu→0

|hj(ξ, u)| = ∞


равномерно по ξ ∈ D20,ε , и дополнение объединения обра-

зов h+, h− в M4ε := f−1(D2

0,ε) ограничено в C2 . В частно-

сти, имеется комплексное 2-мерное связное многообразие M4ε

с комплексно аналитическим атласом из трех карт, получен-ное из M4

ε ⊂ C2 приклеиванием двух экземпляров множестваD2

0,ε × D20,ε ⊂ C2 при помощи вложений h+, h− . При этом

M4ε \ M4

ε ≈ (D20,ε × 0)

⊔(D2

0,ε × 0) («бесконечно удаленные»точки pξ,+, pξ,− , ξ ∈ D2

0,ε).

Д о к а з а т е л ь с т в о. Эта лемма, как и лемма 6, являетсячастным случаем теоремы из работы [7]. В случае гиперэллипти-ческого многочлена четной степени доказательство проводится ана-логично доказательству леммы 6, при помощи двух отображенийh1,j : D

20,ε2

× (D20,ε2

\ 0) → C2 , j ∈ +,−, определяемых форму-лами

h1,j(ξ, u1) :=(j

√ξ − P2n+2(u

−11 ), u−1

1

)=

=(ju−2n−2

1

√u2(2n+2)(ξ − P2n+2(u

−11 )), u−1

1

),

где в качестве квадратного корня берется одна из ветвей функ-ции √ .

О п р е д е л е н и е 15. (А) Под геодезической римановой мет-рики ds2ξ на Tξ = f−1(ξ), имеющей концы в бесконечно уда-ленных точках pξ,+, pξ,− , будем понимать такую геодезическуюγξ : (0; 1) → Tξ римановой метрики ds2ξ на Tξ (см. определение 8),что для некоторых i, j ∈ +,− выполнено lim

t→0+γξ(t) = pξ,i ,

limt→0−

γξ(t) = pξ,j (см. лемму 8).

(Б) Условие о непрерывной зависимости от ξ семейства геоде-зических γξ : (0; 1) → Tξ , имеющих концы в бесконечно удаленныхточках pξ,+, pξ,− , понимается так же, как в определении 14 (Б).

Т е о р е м а 4 (комплексная теорема Лиувилля для гиперэл-липтического гамильтониана четной степени). Пусть f(z, w) == z2 + P2n+2(w) — гиперэллиптический многочлен четнойстепени с попарно различными вещественными корнями, т.е.P2n+2(w) = (w − a1) . . . (w − a2n+2), где ai ∈ R, i = 1, . . . , 2n + 2,a1 < a2 < . . . < a2n+2 , n ∈ N. Тогда для C-гамильтоновой си-стемы (C2, dz∧dw, f) и соответствующего лагранжева слоения(см. определение 5) существует ε > 0 такое, что выполненыследующие свойства:


1) для любого ξ ∈ D20,ε слой Tξ = f−1(ξ) является неособым

и гомеоморфен сфере с n ручками и двумя проколами;2) лагранжево слоение в четырехмерной ε-окрестности

Uε := f−1(D20,ε) слоя T0 топологически тривиально, т.е. послой-

но гомеоморфно прямому произведению слоя T0 на открытыйдвумерный диск D2

0,ε ;3) в окрестности Uε существуют 2n+1 голоморфных функ-

цийI1, . . . , In, J1, . . . , Jn+1 : Uε → C,

2n+ 1 однопараметрических семейств кривых

eξ,1, . . . , eξ,n, dξ,1 . . . , dξ,n+1 : (0; 1) → Tξ, ξ ∈ D20,ε,

и голоморфная инъективная функция

Θ: U ′ε := Uε \

∪ξ∈D2

0,ε

(dξ,n+1 ∪

n∪i=1

(eξ,i(0; 1) ∪ dξ,i(0; 1)))→ C

такие, чтоа) каждая из функций Ik, Jℓ : Uε → C является голоморфной

функцией Ik = Ik(f) и Jℓ = Jℓ(f) от f без критических точек,их множества значений

Dε,k := Ik(Uε), Dε,ℓ := Jℓ(Uε) ⊂ C

открыты в C и гомеоморфны открытому кругу, они выража-ются в окрестности Uε через любую другую такую функциюформулами

Ik = Ik(f(Ii)), Ik = Ik(f(Jj)), Jℓ = Jℓ(f(Ii)), Jℓ = Jℓ(f(Jj)),

где f(Ii) и f(Jj) — функции, обратные к функциям Ii(f) и Jj(f)соответственно, 1 6 i, k 6 n и 1 6 j, ℓ 6 n+ 1;

б) кривые eξ,i, dξ,j : (0; 1) → Tξ попарно не пересекают-ся, каждая из них является не самопересекающейся геодези-ческой римановой метрики ds2ξ (см. определение 8), имеющейконцы в бесконечно удаленных точках pξ,+, pξ,− и непрерывнозависящей от ξ (см. определение 14), ξ ∈ D2

0,ε , i = 1, . . . , n,j = 1, . . . , n+ 1;


в) при каждом ξ ∈ D20,ε множество

Wξ := Θ(Tξ ∩ U ′ε) = Θ

(Tξ \

(dξ,n+1 ∪

n∪i=1

(eξ,i(0; 1) ∪ dξ,i(0; 1))))

⊂ C

(называемое плоским фундаментальным 4n+2-угольником, см. рис. 6при n = 3, ei := s2i+1) является внутренностью областив C, ограниченной простой замкнутой 4n+2-звенной ломаннойA1(ξ) . . . A4n+2(ξ), причем в некоторой окрестности U ⊂ C2

множества

W :=∪

ξ∈D2ε

ξ × (W ξ \ A1(ξ), . . . , A4n+2(ξ)) ⊂ C2

имеется голоморфное сюръективное отображение ψ : U → Uε(называемое разверткой окрестности Uε) такое, что ψ(f |U ′

ε,Θ) =

= IdU ′ε

и

ψ(tA2k−1(ξ) + (1− t)A2k(ξ)) =

= ψ(tA4n−2k+3(ξ) + (1− t)A4n−2k+2(ξ)) = eξ,k(t), 1 6 k 6 n,

ψ(tA2(ξ) + (1− t)A3(ξ)) = ψ(tA1(ξ) + (1− t)A4n+2(ξ)) = dξ,1(t),

ψ(tA2k(ξ) + (1− t)A2k+1(ξ)) =

= ψ(tA4n−2k+6(ξ) + (1− t)A4n−2k+5(ξ)) = dξ,k(t), 1 < k 6 n,

ψ(tA2n+1(ξ) + (1− t)A2n+2(ξ)) =

= ψ(tA2n+4(ξ) + (1− t)A2n+3(ξ)) = dξ,n+1(t)

для любого t ∈ (0; 1), где вершины (4n + 2)-угольника Wξ опре-деляются соотношениями

A1(ξ) +A3(ξ) = 0,

A2k−1(ξ)−A2k(ξ) = A4n−2k+3(ξ)−A4n−2k+2(ξ) = ⟨eξ,k⟩, 1 6 k 6 n,

A2(ξ)−A3(ξ) = A1(ξ)−A4n+2(ξ) = ⟨dξ,1⟩,A2k(ξ)−A2k+1(ξ) = A4n−2k+6(ξ)−A4n−2k+5(ξ) = ⟨dξ,k⟩, 1 < k 6 n,

A2n+1(ξ)−A2n+2(ξ) = A2n+4(ξ)−A2n+3(ξ) = ⟨dξ,n+1⟩,

⟨eξ,k⟩ := 2πk∑i=1

(−1)k−iI ′i(ξ) = 2πn+1∑i=k+1

(−1)i−k−1I ′i(ξ), 1 6 k 6 n,

⟨dξ,k⟩ := 2πk−1∑i=0

(−1)k−i−1J ′i(ξ) = 2π

n+1∑i=k

(−1)i−kJ ′i(ξ), 1 6 k 6 n+ 1;


Рис. 6. Плоский фундаментальный 4n+ 2-угольник W0 при n = 3

г) (dz ∧ dw)|U ′ε= df ∧ dΘ;

д) «функции действия» Ik = Ik(f) и Jℓ = Jℓ(f) имеют вид

Ik(ξ) =


√ξ−P2n+2(y)

πdy, Jℓ(ξ) =

a2ℓ+1(ξ)∫a2ℓ(ξ)

√ξ−P2n+2(y)

πdy,

J ′0(ξ) =

a1(ξ)∫−∞

dy

2π√ξ − P2n+2(y)

, J ′n+1(ξ) =

+∞∫a2n+2(ξ)

dy

2π√ξ − P2n+2(y)

,

1 6 k 6 n+1, 1 6 ℓ 6 n, где J0 = J0(ξ) и Jn+1 = Jn+1(ξ) — произ-вольные первообразные указанных голоморфных функций, в ка-честве функции √ берутся ее ветви такие, что√

−P2n+2(y)∣∣y∈(a2k−1;a2k)

> 0 в формуле для Ik(ξ), 1 6 k 6 n+1,

i√

−P2n+2(y)∣∣y∈(a2ℓ;a2ℓ+1)

< 0 в формуле для Jℓ(ξ), 0 6 ℓ 6 n+1,

ai(ξ) — корень уравнения P2n+2(w)= ξ , близкий к ai , 16 i62n+2,a0 := −∞, a2n+3 := +∞;

е) уравнения Гамильтона в координатах (f,Θ) на U ′ε при-

нимают видf = 0, Θ = 1;


4) антиканоническая инволюция C2 → C2 , (z, w) 7→ (−z, w),сохраняющая Гамильтониан f , в координатах (f,Θ) имеетследующий вид: для любого ξ ∈ D2

0,ε внутренности параллело-граммов

ξ × (A2k−1(ξ)A2k(ξ)A2k+1(ξ)A4n−2k+4(ξ)) ⊂ W, 1 6 k 6 n,

ξ×(A2k+1(ξ)A4n−2k+2(ξ)A4n−2k+3(ξ)A4n−2k+4(ξ))⊂W, 1 6 k 6 n,

инвариантны относительно этой инволюции, и на каждойиз них инволюция имеет вид (ξ,Θ) 7→ (ξ, 2c(ξ)−Θ), где c(ξ) —точка пересечения диагоналей параллелограмма.

Д о к а з а т е л ь с т в о проводится аналогично доказательствутеоремы 3 и основано на следующих утверждениях, аналогичныхпредложениям 6 и 7.

П р е д л о ж е н и е 8. Пусть f(z, w) = z2 + P2n+2(w), гдеP2n+2(w) = (w − a1) . . . (w − a2n+2), ai ∈ R, i = 1, . . . , 2n + 2,a1 < a2 < . . . < a2n+2 , n ∈ N. Тогда все интегральныетраектории векторного поля sgradC f |T0 , не являющиеся сепа-ратрисами, являются периодическими. Более того:

(А) интегральные траектории векторного поля sgradC f |T0

(и их образы при проекции prw |T0 : T0 → C, (z, w) 7→ w,см. лемму 7 (А)), выглядят как на рис. 7 при n = 3; среди этихтраекторий имеется ровно 2n сепаратрис s1, . . . , s2n ⊂ T0(соответственно n сепаратрис S1, . . . , Sn ⊂ C таких, чтоs2k−1 ∪ s2k = (prw |T0)

−1(Sk), k = 1, . . . , n), которые разбива-ют слой T0 на n + 1 связные компоненты c1, . . . , cn+1 , гомео-морфные внутренности цилиндра S1 × (0, 1) (соответственноразбивают плоскость C на n + 1 областей C1, . . . , Cn+1 ⊂ C,таких что [a2k−1, a2k] ⊂ Ck , ck = (prw |T0)

−1(Ck), k = 1, . . . , n+1);в каждой цилиндрической области ck траектории периодичныс периодом

Tk =

a2k∫a2k−1

dw√−P2n+2(w)

, k = 1, . . . , n+ 1;

всякая сепаратриса s2k+(j−1)/2 имеет начало и конец в беско-нечно удаленной точке p0,(−1)kj ∈T0 , 16 k6n, j = ±1, и длинысепаратрис в метрике ds20 (равные времени движения по нимв силу C-гамильтоновой системы) равны |⟨s2k−1⟩| = |⟨s2k⟩| =

=k∑i=1

(−1)k−iTi =n+1∑i=k+1

(−1)i−k−1Ti при k = 1, . . . , n;


Рис. 7. Траектории поля sgradC f |T0 и их образы при проекции prw |T0 : T0 → Cw

при n = 3

(Б) на слое T0 существует набор сепаратрис d1, . . . , dn+1векторного поля i sgradC f , таких что всякая сепаратриса dkимеет начало в бесконечно удаленной точке p0,(−1)k и конецв бесконечно удаленной точке p0,(−1)k−1 ∈ T0 , dk ⊂ ck и их обра-зы prw |T0(dk) = Dk при проекции prw |T0 : T0 → Cw содержатсяв Ck , 1 6 k 6 n+ 1, причем при k = 2, . . . , n траектория Dk пе-ресекает отрезок [a2k−1, a2k] ⊂ Cw , траектория D1 совпадаетс лучом (−∞, a1] ⊂ Cw и траектория Dn+1 совпадает с лучом[a2n+2,+∞) ⊂ Cw (см. рис. 8 при n = 3);

Рис. 8. Проекции интегральных траекторий поля i sgrad f |T0 на плоскость Cw

при n = 3


(В) упорядочивание пары сепаратрис

s2k−1 ∪ s2k = (prw |T0)−1(Sk)

в п. (А) и выбор одной из двух сепаратрис dk ⊂ (prw |T0)−1(Dk)

в п. (Б) однозначно определяются (с точностью до одно-временной замены на противоположные) следующим условием:подмножество

T++0 :=

(√−P2n+2(w), w

)| Imw > 0

⊂ T0

(где в качестве функции √ выбрана ее ветвь такая, что√−P2n+2((a1 + a2)/2) > 0) имеет непустое пересечение с сепа-

ратрисами

e1, I(e2k), I(d2k), 16 k6[n2

], e2k−1, d2k−1, 16 k6

[n+1

2

],

где I : C2 → C2 — инволюция, определяемая формулой I(z, w) == (−z, w), через ek обозначена сепаратриса s2k−1 , 1 6 k 6 n;при этом дополнение подмножества e1 ∪ . . .∪ en ∪ d1 ∪ . . .∪ dn+1в слое T0 гомеоморфно открытому двумерному диску, причемпри обходе границы диска сепаратрисы проходятся в такомже циклическом порядке, как у (4n+ 2)-угольника на рис. 6.

Рис. 9. Продолжение геодезических

П р е д л о ж е н и е 9. Пусть f(z, w) = z2 + P2n+2(w), n ∈ N.Пусть ds20 — риманова метрика пополнения на неособом слоеT0 = f−1(0) (см. определение 8). Пусть γ : (0; 1) → T0 —геодезическая этой метрики, имеющая начало в бесконечноудаленной точке p0,i и конец в бесконечно удаленной точ-ке p0,j , i, j ∈ +,−, (см. определение 15 (А)). Тогда существуетε > 0, такое что для любого ξ ∈ D2

0,ε слой Tξ являетсянеособым, и существует геодезическая γξ : (0; 1) → Tξ рима-новой метрики ds2ξ (см. определение 8), непрерывно зависящая


от ξ , имеющая начало в бесконечно удаленной точке pξ,i иконец в бесконечно удаленной точке pξ,j (см. определение 15),удовлетворяющая соотношению γ0 = γ .

Д о к а з а т е л ь с т в о проиллюстрировано на рис. 5 и 9 ипроводится аналогично доказательству предложения 7.


1. Б о л с и н о в А. В., Ф о м е н к о А. Т. Интегрируемые гамильтоновы системы.Геометрия, топология, классификация. Издательский дом «Удмуртский универ-ситет», Ижевск, 1999.

2. F l a s c h k a H. A remark on integrable Hamiltonian systems. Physics Letters A.1988. 131, 9. 505–508.

3. G a v r i l o v L. Abelian integrals related to Morse polynomials and perturbations ofplane Hamiltonian vector fields. Annales de l’Institut Fourier. 1999. 49. 611–652.

4. B a t e s L., C u s h m a n R. Complete integrability beyond Liouville–Arnol’d.Rep. Math. Phys. 2005. 56, 1. 77–91.

5. Л е п с к и й Т. А. Неполные интегируемые гамильтоновы системы с комплекс-ным полиномиальным гамильтонианом малой степени. Матем. сборник. 2010.201, 10. 109–136.

6. К у д р я в ц е в а Е. А., Л е п с к и й Т. А. Топология лагранжевых слоений ин-тегрируемых систем с гиперэллиптическим гамильтонианом. Матем. сборник.2011. 202, 3. 69–106.

7. К у д р я в ц е в а Е. А., Л е п с к и й Т. А. Интегрируемые гамильтоновы си-стемы с неполными потоками и многоугольники Ньютона. В кн.: Сб. тру-дов межд. конф. «Метрическая геометрия поверхностей и многогранников»(Москва, МГУ, август 2010). Изд-во Моск. ун-та, Москва, 2011. (См. такжеarXiv:1107.1911v1 [math.DG] 11 Jul 2011.)

8. М и щ е н к о А. C., Ф о м е н к о А. Т. Обобщенный метод Лиувилля интегри-рования гамильтоновых систем. Функц. анализ и его приложения. 1978. 12, 2. 49–59.

9. Т р о ф и м о в В. В., Ф о м е н к о А. Т. Интегрируемость по Лиувиллю гамиль-тоновых систем на алгебрах Ли. УМН. 1984. 39, 2. 3–56.

10. Ф о м е н к о А. Т. Теория Морса интегрируемых гамильтоновых систем. ДАНСССР. 1986. 287, 5. 1071–1075.

11. Ф о м е н к о А. Т. Симплектическая топология вполне интегрируемых гамиль-тоновых систем. УМН. 1989. 44, 1. 145–173.

12. F o m e n k o A. T. Symplectic geometry. Gordon and Breach, 1995.13. T h o m R. L’equivalence d’une fonction differentiable et d’un polynome. Topology.

1965. 3, 2. 297–307.14. Х о в а н с к и й А. Г. Многогранники Ньютона и род полных пересечений.

Функц. анализ и его приложения. 1978. 12, 1. 51–61.15. В а с и л ь е в В. А. Ветвящиеся интегралы. МЦНМО, Москва, 2000.

А. С. М И Щ Е Н К О, К. М О Р А Л Е С М Е Л Е Н Д Е С ∗

ОПИСАНИЕ G-РАССЛОЕНИЙ НА ПРОСТРАНСТВАХС КВАЗИ-СВОБОДНЫМ СОБСТВЕННЫМ ДЕЙСТВИЕМ

ДИСКРЕТНОЙ ГРУППЫ G

В работе дается описание эквивариантных векторных рассло-ений с действием дискретной группы G для случая, когда этодействие на базе является квази-свободным собственным дей-ствием, т.е. у всех точек базы стационарной подгруппой являетсяконечная подгруппа или ей сопряженная подгруппа. Описаниедается в терминах некоторого классифицирующего простран-ства.


Эта задача естественно возникает из метода Коннера–Флойда [2]описания бордизмов с действием группы G при помощи так называ-емой фикспоинт-конструкции. Конструкция Коннера–Флойда сводитзадачу описания бордизмов к двум задачам: а) описания множестванеподвижных (или, более общим образом, стационарных) точек, ко-торые образуют подмногообразия, оснащенные структурой нормаль-ного расслоения тоже с действием группы G, однако это действиеимеет уже стационарные точки более низкого ранга; б) описания бор-дизмов с действием группы G более низкого ранга. Предполагается,что группа G является дискретной.

Действительно, рассмотрим некоторую конечную подгруппу H<Gи множество всех точек MH , неподвижных относительно действияподгруппы H . Если подгруппа H является максимальной среди техконечных подгрупп K < G, для которых MK = ∅, то сопряженныеподгруппы H ′ = gHg−1 приводят либо к тому же множеству непо-движных точек, т.е. MH = MH′

, либо эти множества не пересека-

∗ Первый автор был частично поддержан грантами РФФИ 08-01-00034-а,10-01-92601-КО-а и проектом Минобразования РФ 2.1.1/5031.

ОПИСАНИЕ G-РАССЛОЕНИЙ 151

ются MH ∩MH′= ∅. В любом случае объединение

M ′ =∪g∈G

MgHg−1

является подмногообразием, регулярная трубчатая окрестность кото-рого эквивариантно гомеоморфна векторному G-расслоению ξ , дей-ствие группы G на тотальном пространстве уже не имеет в качествестационарных подгрупп H или ей сопряженные подгруппы. Тогдаподмногообразие M ′ распадается на компоненты

M ′ =⨿

[[g]∈G/N(H)]

g(MH),

где N(H) — нормализатор подгруппы H , причем на MH действу-ет фактор-группа N(H)/H . Это все показывает, что для задачиописания структуры неподвижных точек методом Коннера–Флойдадостаточно искать описания эквивариантных векторных расслоенийтолько со специальным типом действия группы G (или нормализато-ра N(H)) на базе расслоения — так называемых квази-свободныхдействий. Ранее различными авторами (см., например, [3]) былирассмотрены только свободные действия и тривиальные действиягруппы G. Случай произвольного действия тоже был рассмотренв работе [4, раздел 7.2], но не для расслоений, а для порожденногоими K-функтора, да и то только для компактных групп. Все это поз-воляет считать, что проблема описания эквивариантных векторныхрасслоений для квази-свободных собственных действий дискретныхгрупп представляет существенный интерес.

Краткое изложение и различные предварительные результаты бы-ли опубликованы в [6–11].

§ 2. ФОРМУЛИРОВКА ЗАДАЧИ

Рассмотрим G-эквивариантное векторное расслоение ξ над ба-зой M :

ξ

M

Пусть H G — конечная нормальная подгруппа, которая триви-альным образом действует на базе M . Тогда действие группы G

152 А. С. М И Щ Е Н К О, К. М О Р А Л Е С М Е Л Е Н Д Е С

на базе M редуцируется к фактор-группе G0 = G/H :

G×M

$$III

IIII

II

M

G0 ×M

::uuuuuuuuu

Предположим, что действие G0 ×M →M свободно, и других непо-движных точек действия подгруппы H на тотальном пространстверасслоения ξ нет.

Тогда мы получаем следующую коммутативную диаграмму:

G× ξ

// ξ

G0 ×M //M

О п р е д е л е н и е 1. В соответствии с [5, p. 210] будем гово-рить, что действие группы G является квази-свободным над базойи имеет нормальную стационарную подгруппу H .

Ограничивая действие на подгруппу H , получаем более простуюдиаграмму:

H × ξ

// ξ

M M

Пусть ρk : H → U(Vk) серия всех неприводимых (унитарных) пред-ставлений конечной группы H . Тогда H-расслоение ξ представляет-ся в виде конечной прямой суммы:

ξ ≈⊕k

(ξk ⊗ Vk), (1)

причем действие группы H на расслоениях ξk тривиально, а Vkобозначает тривиальное расслоение со слоем Vk и с послойнымдействием группы H при помощи представления ρk .

Л е м м а 1. На каждом слагаемом суммы (1) группа G дей-ствует независимо, т.е. каждое слагаемое ξk⊗Vk инвариантноотносительно действия группы G.


Д о к а з а т е л ь с т в о. Рассмотрим действие группы G в то-тальном пространстве расслоения ξ . Фиксируем точку x ∈ M .Действие элемента g ∈ G послойно, и отображает слой ξx в слой ξgx :

Φ(x, g) : ξx → ξgx.

При этом для двух элементов g1, g2 ∈ G имеем

Φ(x, g1g2) = Φ(g2x, g1) Φ(x, g2),

Φ(x, g1g2) : ξxΦ(x,g2)−−−−→ ξg2x

Φ(g2x,g1)−−−−−−→ ξg1g2x.

В частности, если g2 = h ∈ H G, то g2x = hx = x. Значит,

Φ(x, gh) : ξxΦ(x,h)−−−−→ ξx

Φ(x,g)−−−−→ ξgx.

Аналогично, если g1 = h ∈ H G, то g1gx = hgx = gx. Значит,

Φ(x, hg) : ξxΦ(x,g)−−−−→ ξgx

Φ(gx,h)−−−−−→ ξgx.

Оператор Φ(x, h) не зависит от точки x ∈ M ,

Φ(x, h) = Ψ(h) :⊕k

(ξk,x ⊗ Vk) →⊕k

(ξk,x ⊗ Vk),

причем, поскольку действие группы H задается на каждом простран-стве Vk попарно различными неприводимыми представлениями ρk , то

Ψ(h) =⊕k

(Id⊗ ρk(h)).

Таким образом, получается следующее соотношение:

Φ(x, gh) = Φ(x, g) Ψ(h) = Φ(x, ghg−1g) = Ψ(ghg−1) Φ(x, g). (2)

Пусть оператор Φ(x, g) записывается при помощи матрицы для раз-ложения пространства ξx в виде прямой суммы ξx =

⊕k

(ξk,x⊗Vk):

Φ(x, g) =

Φ(x, g)1,1 · · · Φ(x, g)k,1 · · ·

.... . .

...Φ(x, g)1,k · · · Φ(x, g)k,k · · ·

......

. . .

.

При k = l имеем Φ(x, g)k,l = 0, т.е. матрица Φ(x, g) диагональна,

Φ(x, g) =⊕k

Φ(x, g)k,k :⊕k

(ξk,x ⊗ Vk) →⊕k

(ξk,gx ⊗ Vk),

Φ(x, g)k,k : (ξk,x ⊗ Vk) → (ξk,gx ⊗ Vk),

что и требовалось доказать.


§ 3. ОПИСАНИЕ ЧАСТНОГО СЛУЧАЯ ξ ⊗ V

Рассмотрим G-векторное расслоение ξ = ξ0⊗V над базой M

ξ0 ⊗ V

M

с квази-свободным действием группы G над базой и с конечнойнормальной стационарной подгруппой H G. Обозначим через Fслой расслоения ξ0 .

Группа H на расслоении ξ действует тривиально, V обозначаеттривиальное расслоение со слоем V и послойным действием груп-пы H при помощи неприводимого представления ρ.

О п р е д е л е н и е 2. Канонической моделью слоя в G-рас-слоении ξ = ξ0 ⊗ V со слоем F ⊗ V называется расслоение надодной орбитой, гомеоморфной G0 , и слоем F ⊗ V , т.е. декартовопроизведение произведение W = G0 × (F ⊗ V ) с естественнойпроекцией

W = G0 × (F ⊗ V ) → G0

и с послойным действием группы G

G×W ϕ //

W

G×G0

µ // G0

т.е.

G× (G0 × (F ⊗ V ))ϕ //

G0 × (F ⊗ V )

G×G0

µ // G0

где µ обозначает левое действие группы G на фактор-группе G0 ,а послойное действие

ϕ(g1, [g]) : [g]× (F ⊗ V ) → [g1g]× (F ⊗ V ), g1 ∈ G, [g] ∈ G0,

задается по формуле

ϕ(g1, [g]) = Id⊗ ρ(u(g1g)u−1(g)), (3)


где u : G → H — фиксированный гомоморфизм правых H-модулейпо умножению, который удовлетворяет условиям

u(gh) = u(g)h, u(1) = 1, g ∈ G, h ∈ H.

Л е м м а 2. Определение (3) действия группы G корректно.Д о к а з а т е л ь с т в о. Достаточно доказать, чтоа) формула (3) задает ассоциативное действие, т.е.

ϕ(g2g1, [g]) = ϕ(g2, [g1g]) ϕ(g1, [g])

для любых g ∈ G, g1 ∈ G, g2 ∈ G иб) формула (3) не зависит от выбора представителя gh ∈ [g]:

ϕ(g1, [g]) = ϕ(g1, [gh]),

т.е.Id⊗ ρ(u(g1g)u

−1(g)) = Id⊗ ρ(u(g1gh)u−1(gh))

для любых g ∈ G, g1 ∈ G и h ∈ H .В самом деле,

ϕ(g2g1, [g]) = Id⊗ ρ(u(g2g1g)u−1(g)) =

= Id⊗ ρ(u(g2g1g)u(g1g)u−1(g1g)u

−1(g)) =

= Id⊗ ρ(u(g2g1g)u(g1g)) Id⊗ ρ(u−1(g1g)u−1(g)) =

= ϕ(g2, [g1g]) ϕ(g1, [g]),

что доказывает а). Из уравнения u(gh) = u(g)h для любых g ∈ G иh ∈ H ясно, что

u(g1gh)u−1(gh) = u(g1g)hh

−1u−1(g) = u(g1g)u−1(g),

откуда и следует б).Каноническая модель, вообще говоря, зависит от выбора гомо-

морфизма u : G→ H , но при этом канонические модели оказываютсяизоморфными, как показывает следующая лемма.

Л е м м а 3. Для различных гомоморфизмов u : G → H иu′ : G → H соответствующие канонические модели W и W ′

эквивариантно изоморфны, т.е. имеется послойный эквивари-антный изоморфизм

W ψ //

W ′

G0 G0


Д о к а з а т е л ь с т в о. Требуется построить послойно эквива-риантный изоморфизм

G0 × (F ⊗ V )ψ //

G0 × (F ⊗ V )

G0 G0

Зададим ψ формулой

ψ([g]) : [g]× (F ⊗ V ) → [g]× (F ⊗ V ),

ψ([g]) = Id⊗ ρ(u′(g)u−1(g)). (4)

Формула (4) корректна, поскольку не зависит от выбора пред-ставителя в классе смежности g ∈ [g] и задает эквивариантноеотображение канонических моделей, т.е. диаграмма

[g]× (F ⊗ V )ϕ(g1,[g]) //

ψ([g])

[g1g]× (F ⊗ V )

ψ([g1g])

[g]× (F ⊗ V )ϕ′(g1,[g]) // [g1g]× (F ⊗ V )

коммутативна.Рассмотрим на базе M атлас эквивариантных карт Oα,

M =∪αOα, [g]Oα = Oα, [g] ∈ G0.

Л е м м а 4. Существует достаточно мелкий атлас Oαтакой, что каждая карта Oα представляется в виде несвяз-ного объединения своих подкарт:

Oα =⊔

[g]∈G0

[g]Uα,

причем сдвиги карты Uα попарно не пересекаются, т.е.

[g]Uα ∩ [g′]Uα = ∅ для [g] = [g′],

и для различных индексов α = β непустое пересечениеUα ∩ [gαβ ]Uβ = ∅ может быть только для единственного эле-мента [gαβ ] ∈ G0 .


Другими словами, если [g] = [gαβ ], то Uα ∩ [g]Uβ = ∅.Это все означает, что каждая инвариантная карта Oα гомеоморф-

на декартову произведению

Oα ≈ Uα ×G0,

а пересечение двух карт Oα ∩Oβ тоже представляется в виде декар-това произведения

Oα ∩Oβ ≈ (Uα ∩ [gαβ ]Uβ)×G0.

В рамках приведенных обозначений следующая теорема являетсяаналогом утверждения о локально тривиальных расслоениях (см., на-пример, [1]).

Т е о р е м а 1. Расслоение ξ = ξ0 ⊗ V локально эквивари-антно гомеоморфно декартову произведению некоторой кар-ты Uα на каноническую модель. Другими словами, для доста-точно мелкого атласа существуют G-эквивариантные три-виализации

ψα : Oα × (F ⊗ V ) → ξ|Oα , (5)

причемOα × (F ⊗ V ) ≈ Uα × (G0 × (F ⊗ V ))

и диаграмма

ξ|Oα

g // ξ|Oα

Uα × (G0 × (F ⊗ V ))

ψα

OO

Id×ϕ(g) // Uα × (G0 × (F ⊗ V ))

ψα

OO

коммутативна.Д о к а з а т е л ь с т в о. Рассмотрим достаточно мелкий атлас

карт Oα, удовлетворяющий свойствам леммы 4. Построим тривиа-лизацию (5), используя произвольную H-эквивариантную тривиали-зацию

ψα,1 : Uα × (F ⊗ V ) → ξ|Uα

таким образом, чтобы диаграмма

ξ|Uα

g // ξ|[g]Uα

Uα × (F ⊗ V )

ψα,1

OO

Id×ϕ(g,[1]) // [g]Uα × (F ⊗ V )

ψα,[g]

OO(6)


коммутировала для любой g ∈ [g], где левая, верхняя и нижние стрел-ки заданы, а правая стрелка определяется из условия коммутатив-ности диаграммы. Достаточно проверить корректность определенияотображения ψα,[g] , т.е. его независимость от представителя классасмежности [g]:

ψα,[g] = ψα,[hg], h ∈ H.

Действительно, поскольку изоморфизм ψα,1 является H-эквива-риантным, то следующая диаграмма коммутативна:

ξ|Uα

h // ξ|[g]Uα

Uα × (F ⊗ V )

ψα,1

OO

Id×ϕ(h,[1]) // Uα × (F ⊗ V )

ψα,1

OO(7)

Соединим диаграммы (6) и (7) вместе:

ξ|Uα

h // ξ|[g]Uα

g // ξ|[g]Uα

Uα × (F ⊗ V )

ψα,1

OO

Id×ϕ(h,[1]) // Uα × (F ⊗ V )

ψα,1

OO

Id×ϕ(g,[1]) // [g]Uα × (F ⊗ V )

ψα,[g]

OO

Получаем коммутативную диаграмму:

ξ|Uα

gh // ξ|[g]Uα

Uα × (F ⊗ V )

ψα,1

OO

Id×ϕ(gh,[1]) // [g]Uα × (F ⊗ V )

ψα,[g]

OO

посколькуϕ(g, [1]) ϕ(h, [1]) = ϕ(gh, [1]),

что и означает корректность определения отображения ψα,[g] .

Через AutG(G0 × (F ⊗ V )) обозначим группу эквивариант-ных автоморфизмов пространства G0 × (F ⊗ V ) как векторногоG-расслоения над базой G0 со слоем F ⊗ V и каноническим дей-ствием группы G.

С л е д с т в и е 1. Функции склейки на пересечении

(Uα ×G0) ∩ (Uβ ×G0) = (Uα ∩ [gαβ ]Uβ)×G0,


т.е. гомеоморфизмы Ψαβ = ψ−1β ψα в диаграмме

(Uα ∩ [gαβ ]Uβ)× (G0×(F⊗V ))

Ψαβ // (Uα ∩ [gαβ ]Uβ)× (G0×(F⊗V ))

(Uα ∩ [gαβ ]Uβ)×G0

Id // (Uα ∩ gαβUβ)×G0

эквивариантны по отношению к каноническому действиюгруппы G на базе на канонической модели, т.е.

Ψαβ(x) ϕ(g1, [g]) = ϕ(g1, [g]) Ψαβ(x),

где x ∈ Uα ∩ [gαβ ]Uβ , g1 ∈ G, [g] ∈ G0 . Другими словами

Ψαβ(x) ∈ AutG(G0 × (F ⊗ V )).

Изучим группу AutG(G0 × (F ⊗ V )). По определению элементгруппы AutG(G0 × (F ⊗ V )) — это эквивариантное отображение Aa

такое, что пара отображений (Aa, a) определяет коммутативную диа-грамму

(G0 × (F ⊗ V ))

Aa// G0 × (F ⊗ V )

G0

a // G0

в которой горизонтальные стрелки коммутируют с каноническим дей-ствием, т.е. отображение a принадлежит группе AutG(G0) ≈ G0 , т.е.

a[g] = [ga], [g] ∈ G0, a ∈ G0.

Отображение Aa = Aa[g][g]∈G0, где

Aa[g] : [g]× (F ⊗ V ) → [ga]× (F ⊗ V ),

удовлетворяет условию коммутирования с действием группы G:

[g]× (F ⊗ V )

ϕ(g1,[g])

Aa[g] // [ga]× (F ⊗ V )

ϕ(g1,[ga])

[g1g]× (F ⊗ V )

Aa[g1g] // [g1ga]× (F ⊗ V )

ϕ(g1, [ga]) Aa[g] = Aa[g1g] ϕ(g1, [g]),


т.е.

(Id⊗ ρ(u(g1ga)u−1(ga)))Aa[g] = Aa[g1g](Id⊗ ρ(u(g1g)u

−1(g))), (8)

где [g] ∈ G0 , g1 ∈ G.Л е м м а 5. Имеет место следующая точная последова-

тельность групп:

1 // GL(F )φ // AutG(G0 × (F ⊗ V ))

pr // G0// 1 .

Д о к а з а т е л ь с т в о. Гомоморфизм

pr: AutG(G0 × (F ⊗ V )) → G0

сопоставляет отображению

Aa : G0 × (F ⊗ V ) → G0 × (F ⊗ V )

его ограничение на базу a : G0 → G0 , т.е. a ∈ AutG(G0) ≈ G0 .Проверим, что pr является эпиморфизмом, ядро которого изо-

морфно группе GL(F ). Сначала вычислим ядро, т.е. множество всехотображений вида A1 . Условие (8) в этом случае дает

(Id⊗ ρ(u(g1g)u−1(g)))A1[g] = A1[g1g](Id⊗ ρ(u(g1g)u

−1(g))). (9)

Если g1 = h ∈ H , то

(Id⊗ ρ(u(hg)u−1(g)))A1[g] = A1[g](Id⊗ ρ(u(hg)u−1(g))).

Поскольку представление ρ неприводимо, то

A1[g] = B1[g]⊗ Id.

С другой стороны, полагая в (9) g = 1, получаем

(Id⊗ ρ(u(g)))A1[1] = A1[g](Id⊗ ρ(u(g))),

т.е.

(Id⊗ ρ(u(g)))(B1[1]⊗ Id) = (B1[g]⊗ Id)(Id⊗ ρ(u(g))),

или(B1[g]⊗ Id) = (B1[1]⊗ Id).

Значит, ядро ker pr изоморфно группе GL(F ).


В общем случае, когда [a] = 1, вычисление оператора Aa[g]в терминах его значения на единице производится из формулы (8):полагая g = 1, получаем (заменяя g1 на g)

(Id⊗ ρ(u(ga)u−1(a)))Aa[1] = Aa[g](Id⊗ ρ(u(g))),

т.е.Aa[g] = (Id⊗ ρ(u(ga)u−1(a)))Aa[1](Id⊗ ρ(u−1(g))). (10)

Следовательно, оператор определяется только по его значению

Aa[1] : [1]× (F ⊗ V ) → [a]× (F ⊗ V )

на единице g = 1.Теперь, опишем оператор Aa[1] в терминах представления ρ и его

свойства.Имеется условие коммутирования с действием подгруппы H :

[1]× (F ⊗ V )

ϕ(h,[1])

Aa[1] // [a]× (F ⊗ V )

ϕ(h,[a])

[1]× (F ⊗ V )

Aa[1] // [a]× (F ⊗ V )

Значит,Aa[1] ϕ(h, [1]) = ϕ(h, [a]) Aa[1],

т.е.Aa[1] (Id⊗ ρ(h)) = (Id⊗ ρ(g′−1(a)hg′(a))) Aa[1],

т.е.Aa[1] (Id⊗ ρ(h)) = (Id⊗ ρg′(a)(h)) Aa[1].

Последнее равенство означает, что оператор Aa[1] переставляет этипредставления, а это возможно только тогда, когда представленияρ и ρg′(a) оказываются эквивалентными. На основе условия комму-тирования (2) мы будем предполагать, что представления ρ и ρg′(a)эквивалентны.

Итак, если представления ρ и ρg эквивалентны, то имеется(обратимый) сплетающий оператор C(g), для которого выполненоравенство

ρg(h) = ρ(g−1hg) = C(g)ρ(h)C−1(g).

Оператор C(g) задается с точностью до умножения на скалярныйоператор µg ∈ S1 ⊂ C1 .


Значит,

Aa[1] (Id⊗ ρ(h)) = (Id⊗ C(g′(a)) ρ(h) C−1(g′(a))) Aa[1],

или

(Id⊗ C−1(g′(a))) Aa[1] (Id⊗ ρ(h)) =

= (Id⊗ ρ(h)) (Id⊗ C−1(g′(a))) Aa[1].

Значит,(Id⊗ C−1(g′(a))) Aa[1] = Ba[1]⊗ Id,

т.е.Aa[1] = Ba[1]⊗ C(g′(a)).

Используя формулу (10), получаем

Aa[g] = (Id⊗ ρ(u(ga)u−1(a)))(Ba[1]⊗ C(g′(a)))(Id⊗ ρ(u−1(g))),

т.е.

Aa[g] = Ba[1]⊗ (ρ(u(ga)u−1(a)) C(g′(a)) ρ(u−1(g))). (11)

Это значит, что задав только матрицу Ba[1], получаем все опера-торы Aa[g], которые удовлетворяют условию коммутирования (10).

Осталось проверить общий закон коммутирования (8), т.е. в фор-мулу

(Id⊗ ρ(u(g1ga)u−1(ga)))Aa[g] = Aa[g1g](Id⊗ ρ(u(g1g)u

−1(g)))

подставляем выражение из (11):

(Id⊗ ρ(u(g1ga)u−1(ga))) (Ba[1]⊗ (ρ(u(ga)u−1(a)) C(g′(a)) ρ(u−1(g)))) =

= (Ba[1]⊗ (ρ(u(g1ga)u−1(a)) C(g′(a)) ρ(u−1(g1g))))

(Id⊗ ρ(u(g1g)u−1(g))),

т.е.

Ba[1]⊗ (ρ(u(g1ga)u−1(ga)) ρ(u(ga)u−1(a)) C(g′(a)) ρ(u−1(g))) =

= Ba[1]⊗(ρ(u(g1ga)u−1(a))C(g′(a))ρ(u−1(g1g))ρ(u(g1g)u−1(g))).


В частности это тождество не зависит от выбора матрицы Ba[1],значит нужно проверить только тождество для произвольных элемен-тов a, g и g1 :

ρ(u(g1ga)u−1(ga)) ρ(u(ga)u−1(a)) C(g′(a)) ρ(u−1(g)) =

= ρ(u(g1ga)u−1(a)) C(g′(a)) ρ(u−1(g1g)) ρ(u(g1g)u−1(g)),

что очевидно после естественного упрощения

ρ(u(g1ga)u−1(a)) C(g′(a)) ρ(u−1(g)) =

= ρ(u(g1ga)u−1(a)) C(g′(a)) ρ(u−1(g)).

Итак, отсюда следует, что для любого элемента [a] ∈ G0 су-ществует элемент (Aa, a) ∈ AutG(G0 × (F ⊗ V )). Это значит, чтогомоморфизм

AutG(G0 × (F ⊗ V ))pr−→ G0

является эпиморфизмом.Существует взаимно однозначное соответствие между вектор-

ными G-расслоениями со слоем G0 × (F ⊗ V ) на (компактной)базе X , где G действует тривиально на базе и канонически наслоях, и гомотопическими классами отображений X в пространствоBAutG(G0 × (F ⊗ V )).

Обозначим через VectG(M,ρ) категорию G-эквивариантных век-торных расслоений ξ = ξ0 ⊗ V на базе M с квази-свободнымдействием группы G с конечной стационарной подгруппой H < G,где группа H действует тривиально над расслоением ξ0 ; V одновре-менно обозначает тривиальное расслоение со слоем V и послойнымдействием группы H при помощи неприводимого представления ρ.Здесь мы требуем, чтобы представления ρg(h) = ρ(g−1hg) былиэквивалентны для любого g ∈ G. Иначе, учитывая условие комму-тирования (2), категория могла бы оказаться пустой.

Объекты категории VectG(M,ρ) являются обычными векторнымирасслоениями на базе M , тензорно умноженными на фиксированноетривиальное расслоение V . Действие группы G определяется надэтими пространствами после тензорного умножения и вложение

GL(F ) → AutG(G0 × (F ⊗ V ))

из леммы 5 обеспечивает единицами этой категории.С л е д с т в и е 2. Имеется взаимно однозначное соответ-

ствие

VectG(M,ρ) ≈ [M,U(F )].


Обозначим через Bundle(X,L) категорию главных L-расслоенияна базе X .

Т е о р е м а 2. Существует вложение

VectG(M,ρ) → Bundle(M/G0,AutG(G0 × (F ⊗ V ))). (12)

Д о к а з а т е л ь с т в о. Согласно следствию 1, расслоенияξ ∈ VectG(M,ρ) определяются функциями склейками

Ψαβ : (Uα ∩ [gαβ ]Uβ) → AutG(G0 × (F ⊗ V )),

где по построению, если [g] = [gαβ ], то имеем Uα ∩ [g]Uβ = ∅, а если[g] = 1, то Uα∩[g]Uα = ∅ и Uβ∩[g]Uβ = ∅. Это значит, что множестваUα и Uβ отображаются гомеоморфно на открытые множества черезестественную проекцию M → M/G0 . Поэтому эти функции склей-ки корректно определены на атласе фактор-пространства M/G0 и,таким образом, они образуют G-расслоение со слоем G0 × (F ⊗ V )на этом фактор-пространстве.

По тем же аргументам очевидно, что любое G-эквивариантноеотображение

hα : Oα × (F ⊗ V ) → Oα × (F ⊗ V ) (13)

можно интерпретировать как отображение

hα : Uα × (G0 × (F ⊗ V )) → Uα × (G0 × (F ⊗ V ))

при помощи гомеоморфизма Oα ≈ Uα×G0 , где множество Uα можносчитать открытым множеством пространства M/G0 . Эквивалентно,

hα : Uα → AutG(G0 × (F ⊗ V )), (14)

где Uα гомеоморфно открытому множеству пространства M/G0 .Следовательно, отображение (12) определено корректно.

Обратно, если заданы отображения вида (14), где множе-ства Uα открыты в M/G0 , то, измельчив атлас по необходимо-сти, мы всегда можем считать, что прообразы множеств Uα прифактор-отображении M → M/G0 гомеоморфны произведениюUα × G0 , и, таким образом, получить отображения вида (13). Сле-довательно, отображение (12) является мономорфизмом.

Отображение (12), вообще говоря, не является эпиморфизмом,поскольку для определения категории VectG(M,ρ) мы фиксиру-ем расслоение M → M/G0 или, эквивалентно, класс гомотопиив [M/G0, BG0].


Т е о р е м а 3. Если пространство X компактно, то

Bundle(X,AutG(G0 × (F ⊗ V ))) ≈⊔

M∈Bundle(X,G0)

VectG(M,ρ).

Д о к а з а т е л ь с т в о. По теореме 2 имеется отображение∪M∈Bundle(X,G0)

VectG(M,ρ) → Bundle(X,AutG(G0 × (F ⊗ V ))). (15)

Построим обратное отображение к (15). Пусть

Ψαβ : (Uα ∩ Uβ) → AutG(G0 × (F ⊗ V ))

являются функциями склейки расслоения

ξ ∈ Bundle(X,AutG(G0 × (F ⊗ V ))).

По лемме 5 существует непрерывная проекция групп

pr: AutG(G0 × (F ⊗ V )) → G0.

Тогда композиция с pr дает расслоение с дискретным слоем G0 и, какхорошо известно, G0 действует послойно и свободно на тотальномпространстве M этого расслоения и M/G0 = X .

Кроме того, для достаточно мелкого атласа существует гомеомор-физм

M ≈∪α(Uα ×G0) ≈

∪α

( ⊔[g]∈G0

[g]Uα

),

где пересечения определяются по правилу

[1]Uα ∩ [gαβ ]Uβ ≈ Uα ∩ Uβ,

где [gαβ ] = pr Ψαβ .С другой стороны, имеем

ξ ≈∪α(Uα × (G0 × (F ⊗ V ))),

где Uα × (G0 × (F ⊗ V )) пересекает Uβ × (G0 × (F ⊗ V )) в точках(x, g, f ⊗ v) = (x,Ψαβ([g], f ⊗ v)) = (x, [gαβg], Aαβ [g](f ⊗ v)), гдеx ∈ Uα ∩ Uβ . Здесь, мы опять применили лемму 5 и описание в еедоказательстве операторов Ψαβ .

Учитывая гомеоморфизм

Uα ×G0 ≈⊔

[g]∈G0

[g]Uα,


можно записать

([g]x, f ⊗ v) = ([ggαβ ]x,Aαβ[g](f ⊗ v)).

Следовательно, проекция

(Uα ×G0)× (F ⊗ V ) → Uα ×G0

обобщается до корректно определенной проекции ξ →M . Из преды-дущих формул ясно, что полученная проекция будет G-эквивари-антной, если G действует канонически на слоях и левыми сдвигамина своем факторе G0 . Значит, ξ ∈ VectG(M,ρ).

Чтобы завершить доказательство, напомним, что по теории глав-ных G0-расслоений, пространство M строится с точностью до экви-вариантного гомеоморфизма. Это значит, что обратное отображениек (15) определено корректно.

С л е д с т в и е 3. Если пространство X компактно, то

[X,B(AutG(G0 × (F ⊗ V )))] ≈⊔

M∈[X,BG0]

[M,U(F )].

Д о к а з а т е л ь с т в о. Это следствие вытекает из общей тео-рии. Необходимо только доказать, что VectG(M,ρ) = ∅ для любогоM ∈ Bundle(X,BG0). Например,

M × F ⊗ V ∈ VectG(M,ρ).

§ 4. СЛУЧАЙ, КОГДА ПОДГРУППА H < G

НЕ ЯВЛЯЕТСЯ НОРМАЛЬНОЙ

Рассмотрим эквивариантное G-векторное расслоение ξ над ба-зой M

ξ

p

M

Пусть H < G — конечная подгруппа. Предположим, что M яв-ляется множеством неподвижных точек класса сопряженности этойподгруппы, точнее

M =∪

[g]∈G/N(H)

MgHg−1(16)

и других неподвижных точек действия подгрупп в классе сопряжен-ности H на тотальном пространстве расслоения ξ нет. Здесь MH


обозначает множество неподвижных точек действия подгруппы H намногообразии M , а N(H) — нормализатор группы H в G. Мы при-менили равенство gMH = MgHg−1

и тот факт, что lHl−1 = gHg−1

тогда и только тогда, когда g−1l ∈ N(H).Обозначим через Fξ семейство подгрупп группы G с нетриви-

альными неподвижными точками в тотальном пространстве рассло-ения ξ , т.е.

Fξ = K < G | ξK = ∅.

Это частично упорядоченное множество, которое замкнуто по отно-шению действия группы G при помощи сопряжения∗. Действие

G× Fξ → Fξ, (g,K) 7→ gKg−1,

тоже сохраняет порядок.О п р е д е л е н и е 3. Скажем, что H < G является един-

ственной с точностью до сопряжения максимальной подгруппой дляG-расслоения ξ , если каждая сопряженная подгруппа gHg−1 мак-симальна в Fξ и других максимальных элементов в этом семейственет.

Будем предполагать, что H < G — единственная с точностью досопряжения максимальная подгруппа.

Л е м м а 6. Если H = gHg−1 , то MH ∩MgHg−1= ∅.

Д о к а з а т е л ь с т в о. Если найдется x ∈ MH ∩ MgHg−1,

то точка x неподвижна под действием подгруппы, порожденнойH и gHg−1 , но эта группа не содержится ни в какой подгруппе видаlH−1l, где l ∈ G.

Л е м м а 7. Если выполнено условие (16), то G-расслоение ξявляется несвязным объединением попарно изоморфных рас-слоений с квази-свободным действием на базе. Точнее

ξ =⊔

[g]∈G/N(H)

ξ[g],

где ξ[g] = p−1(MgHg−1) — расслоение с квази-свободным дей-

ствием на базе группы N(gHg−1) и для любого элемента g ∈ Gотображение

g : ξ[1] → gξ[1] = ξ[g]

∗Если ξK = ∅, то ξgKg−1

= gξK = ∅.


определяет эквивариантный изоморфизм этих расслоений, т.е.диаграмма

N(H)× ξ[1]

sg×g

// ξ[1]

g

N(gHg−1)× ξ[g] // ξ[g]

(17)

коммутативна, где

sg : N(H) → N(gHg−1) = gN(H)g−1, (g, n) 7→ gng−1.

Д о к а з а т е л ь с т в о. Из леммы 6 следует, что

M =⊔

[g]∈G/N(H)

MgHg−1

и, значит,

ξ =⊔

[g]∈G/N(H)

ξ[g].

Так как G действует послойно, то g · ξ[1] = ξ[g] для любого g ∈ G.Ограничивая на пространства ξ[g] проекции ξ → M , получим рас-слоения

ξ[g]

p

MgHg−1

На расслоении ξ[g] действует нормализатор N(gHg−1):

N(gHg−1)× ξ[g] → ξ[g],

и имеется равенство N(gHg−1) = gN(H)g−1 , т.е. ξ[g] являетсяN(gHg−1)-расслоением для любого g ∈ G.

Заметим, что групповое сопряжение sg : N(H) → N(gHg−1)определяет изоморфизм этих групп, который можно включить в ком-мутативную диаграмму

N(H)× ξ[1]

// ξ[1]

N(gHg−1)× ξ[g] // ξ[g]


т.е. gng−1 · gx = g · nx. Это значит, что расслоения ξ[1] и ξ[g]естественным образом эквивариантно изоморфны.

Отображения в диаграмме (17), очевидно, не зависят от элементаn ∈ N(H), но они зависят от элемента g ∈ G.

Действие группы N(H) на базе MH редуцируется к фактор-группе N(H)/H :

N(H)× ξ[1]

// ξ[1]

N(H)/H ×MH //MH

причем, ввиду максимальности группы H , действие N(H)/H×M→Mсвободно, и по предположению других неподвижных точек действияподгруппы H на тотальном пространстве расслоения ξ нет, т.е. N(H)действует квази-свободно над базой и имеет нормальную стационар-ную подгруппу H .

О п р е д е л е н и е 4. В описанном выше случае будем гово-рить, что на расслоении ξ группа G действует квази-свободнос (не нормальной) стационарной подгруппой H .

Пусть X(ρ) является канонической моделью для представленияρ : H → GL(F ) с действием группы N(H). Определим каноническуюмодель X(ρg) для представления

ρg : gHg−1

sg−1// H

ρ // GL(F ) ,

где sg(n) = gng−1 . Действие группы N(gHg−1) на X(ρg) задаетсяс помощью гомоморфизма правых gHg−1-модулей

ug : gHg−1

sg−1// H

u // N(H)sg // N(gHg−1)

по формуле

ϕ([g], g1) =⊕k

(Id⊗ ρk(u(g1g)u−1(g))) = ρ(u(g1g)u

−1(g)).

ПустьGX(ρ) :=

⊔[g]∈G/N(H)

X(ρg),

т.е. если lHl−1 = gHg−1 , то пространства X(ρg) и X(ρl) совпадают.Предыдущее обозначение оправдывается следующей леммой.


Л е м м а 8. На пространстве GX(ρ) группа G действу-ет квази-свободно с (не нормальной) стационарной подгруп-пой H , пространство GX(ρ) совпадает с орбитой простран-ства X(ρ). В частности, имеют место соотношения

N(H)(X(ρ)) = X(ρ)

и(GX(ρ))gHg

−1= N(gHg−1)/gHg−1.

Д о к а з а т е л ь с т в о. Действие G × GX(ρ) → GX(ρ) опре-деляется следующим образом: для фиксированного g ∈ G определимотображение

g : X(ρ) → X(ρg)

какsg × Id: N(H)0 × F → N(gHg−1)0 × F,

где N(H)0 = N(H)/H , причем, если lHl−1 = gHg−1 , то отображе-ние l : X(ρ) → X(ρl) выбирается таким образом, чтобы диаграмма

X(ρg)s−1g ×Id

// X(ρ)

l−1g

X(ρl)l−1

// X(ρ)

была коммутативна, т.е.

l = (sg × Id) (g−1l),

где отображение

g−1l : X(ρ) → X(ρ) = X(ρg−1l)

является каноническим левым сдвигом на элемент g−1l ∈ N(H).С л е д с т в и е 4. Существует изоморфизм

g : AutN(H)(X(ρ))≈−→ AutN(gHg−1)(X(ρg)), (18)

который зависит только от класса [g] ∈ G/N(H).Д о к а з а т е л ь с т в о. Рассмотрим диаграмму (17) для ξ =

= GX(ρ). Диаграмма такого вида всегда индуцирует изоморфизм

AutN(H)(X(ρ))≈−→ AutN(gHg−1)(X(ρg))

по правилуA 7→ gAg−1,


причем, если l ∈ [g] ∈ G/N(H), то элемент l−1g ∈ N(H) коммутируетс элементом A ∈ AutN(H)(X(ρ)). Следовательно,

gAg−1= g(g−1l)(l−1g)Ag−1= g(g−1l)A(l−1g)g−1= lAl−1.

О п р е д е л е н и е 5. Пространство GX(ρ) называется ка-нонической моделью для случая, когда стационарная подгруппаH < G не является нормальной.

Л е м м а 9. Имеется изоморфизм групп

AutG(GX(ρ)) ≈ AutN(H)(X(ρ)).

Д о к а з а т е л ь с т в о. Согласно определению, элемент группыAutG(X) — это такое эквивариантное отображение Aa , что пара(Aa, a) определяет коммутативную диаграмму

X

Aa// X

G/H

a // G/H

где отображение a ∈ AutG(G/H) удовлетворяет условию

a ∈ AutG(G/H) ≈ N(H)/H, a[g] = [ga], [g] ∈ N(H)/H.

Следовательно Aa = (Aa[g])[g]∈N(H)/H ∈ AutN(H)(X(ρ)).Значение операторов (Aa[g])[g]∈G/H вычисляются в терминах опе-

ратора Aa[1], как и в лемме 5 (формула (10)).

Обозначим через VectG(M,ρ) категорию векторных расслоенийс квази-свободным действием группы G на базе и не нормальнойстационарной подгруппой.

Т е о р е м а 4. Имеет место изоморфизм VectG(M,ρ) ≈≈ VectN(H)(M

H , ρ).

Д о к а з а т е л ь с т в о. Из леммы 7 следует, что расслоенияξN(H) и ξN(gHg−1) эквивариантно изоморфны и задаются отображе-ниями

MgHg−1/N(gHg−1)0 → BAutN(gHg−1)(X(ρg))

иMH/N(H)0 → BAutN(H)(X(ρ)),


которые можно включить в коммутативную диаграмму

MH/N(H)0

g

// BAutN(H)(X(ρ))

g

MgHg−1

/N(gHg−1)0 // BAutN(gHg−1)(X(ρg))

Здесь g : ξH → ξgHg−1

— это действие на расслоении ξ , а стрелкасправа индуцируется изоморфизмом (18) и не зависит от элементаg ∈ [g] ∈ G/N(H).


1. L u k e G., M i s h c h e n k o A. S. Vector bundles and their applications. KluwerAcademic Publishers, Boston, 1998.

2. C o n n e r P., F l o y d E. Differentiable periodic maps. Springer-Verlag, Berlin,1964.

3. A t i y a h M. F. K-theory. Benjamin, New York, 1967.4. A t i y a h M. F., S e g a l G. B. Equivariant K-theory. Lecture notes, Oxford,

1965.5. L e v i n e M., S e r p e C. On a spectral sequence for equivariant K-theory.

K-Theory. 2008. 38, 2. 177–222. (arXiv:math/0511394v3 [math.KT] 19 Nov2005).

6. M i s h c h e n k o A. S., M o r a l e s M e l e n d e z Q. Description of the vec-tor G-bundles over G-spaces with quasi-free proper action of discrete group G.arXiv:0901.3308v1 [math.AT] 21 Jan 2009.

7. M o r a l e s M e l e n d e z Q. Description of G-bundles over G-spaces withquasi-free proper action of discrete group. II. arXiv:0912.5047v1 [math.KT] 27 Dec2009.

8. М и щ е н к о А. С., М о р а л е с М е л е н д е с К. Описание G-расслоений наG-пространствах с квази-свободным собственным действием дискретной груп-пы G. Деп. ВИНИТИ 716-В2009 от 24.11.2009.

9. М о р а л е с М е л е н д е с К. Описание G-расслоений на G-пространствах сквази-свободным действием дискретной группы. II. Деп. ВИНИТИ 717-В2009от 24.11.2009.

10. М о р а л е с М е л е н д е с К. Бордизмы многообразий с собственным действи-ем дискретной группы. Деп. ВИНИТИ 718-В2009 от 24.11.2009.

11. М о р а л е с М е л е н д е с К. Бордизмы многообразий с собственным действи-ем дискретной группы. Вестн. Моск. ун-та, Сер. Матем., Механ. 2010. 2.57–59.

А. Т. ФОМЕНКО ∗

ГЕОМЕТРИЧЕСКОЕ ПОСТРОЕНИЕ РЕШЕНИЙНЕАВТОНОМНОГО УРАВНЕНИЯ X′(t) = K(t)X(t)

ДЛЯ КЛАССИЧЕСКИХ ТРЕХМЕРНЫХ АЛГЕБР ЛИ

Настоящая работа опирается на исследования, выполненныеА. Т. Фоменко и Р. Чаконом в теории мультипликативного инте-грала, формул типа Кемпбелла–Хаусдорфа и в теории прямогогеометрического интегрирования матричного дифференциально-го уравнения X ′ = XK , где матрицы K(t) принимают значения вклассических трехмерных алгебрах Ли so(3), su(2), e(2), sl(2,R)и sl(2,R)+ . Описаны геометрические свойства решений такихуравнений.

ЧАСТЬ 1. ЭЛЕМЕНТЫ ОБЩЕЙ ТЕОРИИ ИНТЕГРИРОВАНИЯУРАВНЕНИЯ X′=KX НА ПРОИЗВОЛЬНЫХ АЛГЕБРАХ ЛИ

§ 1. ЭКСПОНЕНЦИАЛЬНОЕ РЕШЕНИЕ И ЛОГАРИФМ

Настоящая работа опирается на исследования, выполненныеА. Т. Фоменко и Р. Чаконом в теории мультипликативного интеграла иформул типа Кемпбелла–Хаусдорфа [1] и в теории геометрическогоинтегрирования [2]. Затем в этом направлении, для случая группмалых размерностей, а именно для SO(3) и SU(2) некоторые до-полнения были сделаны С. С. Анисовым. В 2001 г. эти исследованияпривлекли внимание А. А. Ошемкова, который сделал несколько ком-ментариев и дополнений к этим исследованиям. В настоящей работеучтены все эти дополнения, за которые автор выражает благодар-ность С. С. Анисову и А. А. Ошемкову.

Как хорошо известно, уравнение параллельного переноса (илиуравнение связности) имеет вид X ′ = KX , где матрица K определя-ется символами Кристоффеля. В настоящей работе мы рассмотрим

∗ Работа выполнена при частичной финансовой поддержке гранта РФФИ (проект 10-01-00748-а), гранта Президента РФ поддержки Ведущих научных школ (про-ект НШ-3224.2010.1), программы «Развитие научного потенциала высшей школы»(проект 2.1.1.3704) и программы «Научные и научно-педагогические кадры иннова-ционной России» (госконтракт 14.740.11.0794).

174 А. Т. ФОМЕНКО

общее неавтономное уравнение вида X ′ = KX , где матрица K ,вообще говоря, зависит от времени.

Главной целью работа является изложение нового метода, раз-работанного А. Т. Фоменко и Р. Чаконом, прямого геометрическогоинтегрирования уравнения

X ′(t) = K(t)X(t) (1)

в случае, когда матричная функция K(t) принимает значения в однойиз следующих трехмерных классических алгебр Ли:

• алгебра Ли so(3) ортогональной группы SO(3),

• алгебра Ли su(2) специальной унитарной группы SU(2),

• алгебра Ли e(2) группы E(2) (группы движений евклидовой2-плоскости),

• алгебра Ли sl(2,R) группы SL(2,R),

• алгебра Ли sl(2,R)+ группы SL(2,R)+ (группы движений ги-перболической 2-плоскости).

Теорема, дающая прямое геометрическое интегрирование, доказа-на во второй части настоящей работы.

Первая часть статьи — это краткое изложение (в основном, бездоказательств) некоторых элементов общей теории интегрированияуравнения (1) для случая, когда матричнозначная функция K(t) при-нимает значения в произвольной алгебре Ли G. Эта теория включаетв себя, как важную часть, формулу Бейкера–Кемпбелла–Хаусдорфа.Мы включили этот материал в нашу статью, поскольку он полезендля лучшего понимания нашей работы.

Ясно, что для каждой конечномерной алгебры Ли G существуетмногозначная функция A(X,Y ) ∈ G такая, что

eXeY = eA(X,Y ),

для всех элементов X и Y в G, где e обозначает экспоненциальноеотображение exp: G → g из алгебры Ли G в группу Ли g. Другимисловами, eX = expX .

Если элементы X и Y коммутируют, то A(X,Y ) = X + Y ,т.е. в этом случае мы имеем: eXeY = eX+Y . Однако, если X и Yне коммутируют, то формула для A(X,Y ) становится значительноболее сложной. Классическая формула Бейкера (1905) – Хаусдор-фа (1906) – Кемпбелла (1908) дает нам разложение в степеннойряд для однозначной ветви функции A(X,Y ) в окрестности нуля(0, 0). Постоянный член этого ряда равен нулю. Это разложениев степенной ряд, которое мы обозначим через B(X,Y ), локально

ПОСТРОЕНИЕ РЕШЕНИЙ УРАВНЕНИЯ X ′(t) = K(t)X(t) 175

сходится (в окрестности нуля) для всех алгебр Ли G к некоторомуэлементу b(X,Y ) в алгебре G такому, что

eXeY = eb(X,Y ).

Элемент b(X,Y ) = B(X,Y ), где X и Y достаточно малы,также близок к нулю в алгебре Ли G. Мы можем рассматриватьразложение B(X,Y ) элемента b(X,Y ) как формальный ряд, членыкоторого являются однородными полиномами от переменных X и Y .Функция

b : G×G→ G

называется логарифмом произведения exp(X) exp(Y ).Можно показать, что

B(X,Y ) = X + Y +1

2[X,Y ] + . . . ,

и чрезвычайно интересным вопросом является поиск эффективныхрекуррентных формул для однородных мономов этого ряда. Ясно, чточлены ряда являются однородными полиномами возрастающих сте-пеней по отношению к операции коммутирования элементов X и Y .Можно также показать, что разложение в ряд для элемента b(X,Y )сходится в окрестности нуля (0, 0) для всех алгебр Ли. С другойстороны, если элементы X и Y произвольны, то ряд сходиться необязан. Это легко видеть на примере алгебры Ли so(3).

В самом деле, предположим, что ряд B(X,Y ) сходится для всехпар элементов X,Y в so(3). Тогда мы можем определить ассо-циативное произведение в алгебре Ли so(3), задаваемое формулойXY = B(X,Y ). Это произведение превращает алгебру Ли so(3)(т.е. набор всех ее элементов) в некомпактную группу Ли, алгебра Ликоторой (см. формулу для ряда) также совпадает с so(3). Это озна-чает, что so(3) оказывается алгеброй Ли двух локально изоморфныхгрупп Ли, а именно: SO(3) и новой некомпактной группы Ли. Этанекомпактная группа Ли очевидно должна быть тогда универсальнойнакрывающей группой для компактной группы SO(3) (это следует изклассической теоремы, описывающей класс всех локально изоморф-ных групп Ли). Однако это невозможно, поскольку группа SO(3)гомеоморфна проективному пространству RP 3 , а его универсальнымнакрытием является 3-сфера S3 , которая компактна. Проведенноенами доказательство (расходимости ряда в общем случае) справедли-во не только для группы SO(3), но и для любой компактной простойгруппы Ли.

Перейдем теперь к следующему важному вопросу: как обоб-щить формулу eXeY = eb(X,Y ) на случай нескольких аргументовX1, . . . , XN ? Более точно, рассмотрим набор элементов X1, . . . , XN


в алгебре Ли G и предположим, что все они достаточно близки кнулю. Тогда существует единственный элемент bN (K1, . . . ,KN ) в Gтакой, что

eK1eK2 . . . eKN = ebN (K1,...,KN ).

Если мы положим

ψN (s,K1, . . . ,KN ) = bN (sK1, . . . , sKN ),

где s — вещественный параметр, то мы можем определить следую-щие элементы в алгебре Ли:

cnN (K1, . . . ,KN ) =1

n!

dn

dsnbN (sK1, . . . , sKN )

∣∣∣s=0

.

Для достаточно малых элементов K1, . . . ,KN мы имеем

bN (sK1, . . . , sKN ) =∞∑n=1

sncnN .

Для s = 1 мы получаем

bN (K1, . . . ,KN ) =∞∑n=1

cnN .

Рассмотрим формальный бесконечный ряд∞∑n=1

cnN (K1, . . . ,KN ),

где K1, . . . ,KN — произвольные (не обязательно близкие к нулю)элементы алгебры G. Элементы cnN являются однородными монома-ми (полиномами) степени n в разложении элемента bN . Можно по-казать, что для любого N (а не только при N = 2) всегда существуетоткрытая окрестность нуля в алгебре G такая, что указанный вышеформальный ряд сходится для любых элементов K1, . . . ,KN , взятыхиз этой окрестности.

§ 2. РЕШЕНИЕ ДИФФЕРЕНЦИАЛЬНОГО УРАВНЕНИЯX′(t) = K(t)X(t). МУЛЬТИПЛИКАТИВНЫЙ

ИНТЕГРАЛ И ЕГО ЛОГАРИФМ

Рассмотрим неавтономное дифференциальное уравнение

X ′(t) = K(t)X(t),

где a 6 t 6 b является скалярным параметром (время), и величинаb > 0 достаточно мала. Предположим, что вектор-функции K(t) иX(t) принимают значения в некоторой фиксированной алгебре Ли G.


В простейшем случае G — это линейное пространство всех веще-ственных (m×m)-матриц. Это — алгебра Ли группы GL(m,R).

Решение общего уравнения (1) можно записать в виде

X(t) = eH(t)X(a),

где H(t) является G-значной функцией на отрезке [a, b]. В частности,X(b) = eH(b)X(a). Итак, если K(t) — это заданная заранее криваяв алгебре Ли G, то мы можем сопоставить ей другую кривую H(t),которая определяет решение X(t). Многие авторы изучали проблемунахождения более или менее явных формул для общего решенияуравнения (1).

В простейшем случае исходная кривая K(t) редуцируется к однойточке (вырожденная кривая), т.е. K1 ≡ K(t) для всех t. В этомслучае общее решение уравнения (1) имеет вид

X(t) = e(t−a)K1X(a),

и, следовательно, кривая H(t) = (t−a)K1 является попросту прямойлинией в алгебре Ли G.

Следующий достаточно простой случай мы получаем, если кри-вая K(t) оказывается семейством коммутирующих матриц (элемен-тов G), т.е. [K(t1),K(t2)] = 0 для всех t1 и t2 , где [·,·] обозначаеткоммутатор в алгебре Ли. В этом случае общее решение уравне-ния (1) имеет вид

X(t) = e

t∫aK(u)du

X(a),

и, следовательно, мы получаем H(t) =t∫aK(u)du. Итак, H(t) явля-

ется кривой в алгебре G, выходящей из нуля (из начала координат).В самом общем случае мы получаем отображение

(K(u); 0 6 u 6 t) → H(t).

Сегодня всеми уже хорошо понято, что невозможно найтидостаточно простые явные аналитические формулы для функцииH = H(K). Однако было обнаружено, что существует интерес-ная связь между проблемой интегрирования уравнения (1) и клас-сической формулой Бейкера–Кемпбелла–Хаусдорфа, если восполь-зоваться важным понятием мультипликативного интеграла (productintegral). Предположим, что кривая K(t) является кусочно-гладкойкривой с конечным числом разрывов (скачков).


Аппроксимируем функцию K(t) новой кусочно-гладкой функци-ей, являющейся уже ступенчатой функцией и равной постоянной Kiна каждом интервале времени (ti−1, ti), i = 0, . . . , N ; при этомположим ∆ = ti − ti−1 = (b − a)/(N − 1). Ясно, что точное общеерешение X(t) основного уравнения (1) можно аппроксимироватьследующим процессом.

Рассмотрим первый интервал времени [t0, t1], на котором новаяаппроксимирующая ступенчатая функция K равна постоянной мат-рице (значению) K1 . Тогда мы можем применить здесь описанныйвыше результат и записать решение аппроксимирующего уравнения

dX(t)

dt= K(t)X(t) = K1X(t)

в виде

X(t) = e(t−a)K1X(a), a = t0 6 t 6 t1,

и, следовательно,

X(t1) = e∆K1X(a), ∆ = t1 − a.

Далее, рассмотрим второй интервал времени [t1, t2], на кото-ром аппроксимирующая функция K равна второй постоянной мат-рице K2 . Решение аппроксимирующего уравнения на этом второминтервале можно записать в виде

X(t) = e∆K2X(t1), t1 6 t 6 t2.

Опираясь на предыдущее вычисление, мы получаем

X(t2) = e∆K2e∆K1X(a),

и так далее.Отсюда, путем последовательных итераций мы получаем

X(b) = X(tN ) = e∆KN e∆KN−1 . . . e∆K2e∆K1X(a).

Переходя к пределу при ∆ стремящемся к нулю, мы получаем врезультате некоторый элемент группы g = expG, который обозна-

чается черезb∏t=a

eK(t) и называется мультипликативным интегралом

от исходной функции K(t). В терминах этого мультипликативногоинтеграла общее решение основного уравнения (1) имеет вид

X(t) =

(t∏

u=aeK(u)

)X(a).


В частности,

X(b) =

(b∏t=a

eK(t)

)X(a).

Мы не будем обсуждать здесь общую проблему сходимости мульти-пликативного интеграла и предположим, для простоты, что все даль-нейшие вычисления будут проводиться в достаточно малой окрест-ности единицы группы g. О свойствах мультипликативного инте-грала см., например, книгу: J. D. Dollard, C. N. Friedman, «Productintegration» (Addison–Wesley, 1979).

Во многих задачах физики и геометрии полезно представлятьрешение основного уравнения (1) в виде

X(t) = eH(t)X(a),

где H(t) — это логарифм мультипликативного интеграла. Поисканалитических формул для этого логарифма, анализ сходимости со-ответствующих рядов и другие смежные вопросы составляют предметмногих классических и современных работ. Например, Feynman [4]нашел формальное выражение для решения основного уравнения (1),не доказав, впрочем, его сходимости. Позднее Magnus получилхорошо известное дифференциальное уравнение, известное сегоднякак уравнение Магнуса, для функции H(t). Проблема вычисле-ния функции H(t) рассматривалась также Bialynicki-Birula, Mielnik,Plebanski [5]. В 1976 г. Карасёв и Мосолова [6] получили выражениедля функции H(t) вместе с оценками на ее норму, опираясь при этомна метод Маслова. Затем Chen [7] доказал интересные результаты освойствах функции H(t) для специальных конечномерных алгебр.

Теперь мы обсудим связь между проблемой вычисления ло-гарифма мультипликативного интеграла и обобщением формулыБейкера–Кемпбелла–Хаусдорфа. Так как

X(t) = eH(t)X(a)

и

X(t) =

(t∏

u=aeK(u)

)X(a),

отсюда следует, чтоt∏

u=aeK(u) = eH(t),

и, следовательно, eH(b) = limN→∞

e∆KN e∆KN−1 . . . e∆K2e∆K1 .


Так как e∆KN e∆KN−1 . . . e∆K2e∆K1 = ebN (∆K1,...,∆KN ) , мы по-лучаем, что H(b) = lim bN (∆K1, . . . ,∆KN ), когда N стремится кбесконечности.

Отсюда видно, что вычисление логарифма мультипликативно-го интеграла приводит нас к задаче вычисления непрерывного(континуального) аналога для многомерного обобщения формулыБейкера–Кемпбелла–Хаусдорфа.

Можно показать, что логарифм H(b) можно представить в виде

сходящегося ряда H(b) =∞∑n=1

Hn(b), каждый член которого Hn яв-

ляется однородным полиномом степени n относительно переменныхвида adK , где adK(X) = [K,X] — линейный оператор присоединен-ного представления алгебры Ли g. При этом в качестве мультиплика-тивной операции (формирующей полиномы) берется коммутатор [·, ·].Таким образом, говоря о том, что степень полинома Hn равна n,мы понимаем под этим следующее: число коммутаторных скобокв выражении для Hn равно (n− 1). Ясно, что полином Hn являетсяконечной суммой однородных мономов степени n.

Возникает естественный вопрос: каким рекуррентным формуламудовлетворяют однородные полиномы Hn(b), образующие ряд длялогарифма H(b)?

Предположим сначала, что кривая K(t) является ступенчатойфункцией

K(t) =

K1 = const, если a 6 t 6 1

2(a+ b),K2 = const, если 1

2(a+ b) < t 6 b.

В этом случае ответ дают классические рекуррентные формулыБейкера–Кемпбелла–Хаусдорфа. Эти формулы выражают член Hnкак некоторый полином от предыдущих членов H1, . . . , Hn−1 . В ра-боте [1] эти формулы были обобщены на случай произвольного ко-нечного числа аргументов K1,K2, . . . ,KN , а затем были перенесенынами и на непрерывный случай, т.е. были найдены рекуррентныеформулы для членов ряда, задающих логарифм мультипликативногоинтеграла (в общем континуальном случае).

§ 3. РЕКУРРЕНТНЫЕ ФОРМУЛЫ ДЛЯ ЛОГАРИФМАМУЛЬТИПЛИКАТИВНОГО ИНТЕГРАЛА. ОБЩИЙНЕПРЕРЫВНЫЙ (КОНТИНУАЛЬНЫЙ) СЛУЧАЙ

Напомним, что числа Бернулли можно определить следующимобразом. Рассмотрим функцию

k(z) =z

1− e−z− z

2


и разложим ее в ряд в окрестности нуля z = 0:

k(z) = 1 +∞∑p=1

k2pz2p.

Числа β2p = k2p(2p)! называются числами Бернулли.Предположим, что алгебра Ли G снабжена некоторой нормой |·|.Т е о р е м а 1 (Континуальный случай; А. Т. Фоменко, Р. В. Ча-

кон [1]). Пусть G — конечномерная матричная алгебра Лии K(t), где a 6 t 6 b, — произвольная кусочно-непрерывнаявектор-функция, принимающая значения в алгебре Ли g. Пред-положим, что выполнено условие

b∫a

|K(u)| du < δ,

где δ достаточно мало (конкретные оценки величины δ см.в [1]). Тогда однородные члены Hn(b) бесконечного ряда, зада-ющего логарифм мульпликативного интеграла,

H(b) = H1(b) +H2(b) + . . .

однозначно определяются из следующих рекуррентных фор-мул:

H1(b) =

b∫a

K(u) du,

и далее для n > 1

(n+ 1)Hn+1 = Tn +

n∑r=1

(1

2[Hr, Tn−r] +

+∑p>12p6r

k2p∑mi>0

m1+...+m2p=r

[Hm1 , [Hm2 , . . . , [Hm2p , Tn−r] . . . ]]

),

где T0 = H1 и для k > 1 мы имеем

Tk(b) =

b∫u1=a

[K(u1),

u1∫u2=a

[K(u2), . . .

. . . ,

uk−2∫uk−1=a

[K(uk),

uk−1∫uk=a

K(uk+1)duk+1

]duk . . .

]du2

]du1


или, эквивалентным образом

Tk(b) =

∫. . .

∫∆k+1

[K(u1), [K(u2), . . .

. . . , [K(uk−1), [K(uk),K(uk+1)]] . . . ]]du1 . . . duk+1,

где ∆k+1 — это замкнутый (k + 1)-мерный симплекс в евкли-довом пространстве Rk+1 , определяемый неравенствами

∆k+1(b) = u = (u1, . . . , uk+1) : b > u1 > u2 > · · · > uk+1 > a.

§ 4. РЕКУРРЕНТНЫЕ ФОРМУЛЫ ДЛЯ ЛОГАРИФМАДИСКРЕТНОГО ВАРИАНТА МУЛЬТИПЛИКАТИВНОГО

ИНТЕГРАЛА. МНОГОМЕРНОЕ ДИСКРЕТНОЕОБОБЩЕНИЕ РЕКУРРЕНТНЫХ ФОРМУЛ

БЕЙКЕРА–КЕМПБЕЛЛА–ХАУСДОРФА

Рассмотрим следующий ряд (для какого-то фиксированного N ):

BN (K1, . . . ,KN ) =∞∑n=1

cnN (K1, . . . ,KN ),

где cnN (K1, . . . ,KN ) — однородные полиномы степени n. Мы хотимнайти рекуррентные формулы для этих однородных членов ряда. Какбыло уже отмечено выше, такие формулы можно получить из теоре-мы 1, взяв в качестве исходной функции K ступенчатую функцию.Эта редукция чрезвычайно интересна и мы приведем здесь оконча-тельный «дискретный» результат в виде отдельной теоремы 2.

Рассмотрим функцию

TN (s,K1, . . . ,KN ) =N∑i=1

e−sKN . . . e−sKi+1KiesKi+1 . . . esKN ,

где мы положим KN+1 = 0 по определению. Функция имеет вид

TN = e−sKN . . . e−sK2K1esK2 . . . esKN + . . .+ e−sKNKN−1e

sKN +KN .

Ясно, что она является аналитической по s и по переменнымK1, . . . ,KN .

Производные

DqN = T

(q)N (0,K1, . . . ,KN ) =

dqTNdsq

∣∣∣s=0


принадлежат алгебре Ли g (напомним, что мы рассматриваем мат-ричные алгебры Ли). В частности, при q = 0, мы имеем

D0N = TN (0,K1, . . . ,KN ) = K1 + · · ·+KN .

Формулы для остальных DqN (как функций от K1, . . . ,KN ) более

сложны и будут предъявлены ниже.Т е о р е м а 2 (Дискретный случай; А. Т. Фоменко, Р. В. Ча-

кон [1]). Рассмотрим конечномерную матричную алгебру Ли Gи любой набор ее элементов K1, . . . ,KN , достаточно близкихк нулю. Положим

bN (K1, . . . ,KN ) =∞∑n=1

cnN (K1, . . . ,KN ),

где bN (K1, . . . ,KN ) = log(eK1eK2 . . . eKN ) и cnN — однородные по-линомы степени n. Тогда члены cnN однозначно определяютсяиз следующих рекуррентных формул:

c1N = D0N = K1 + · · ·+KN ,

и далее для всех n > 0 мы имеем

(n+ 1)cn+1N =

1

n!DnN +

n∑r=1

1

(n− r)!

(1

2

[crN , D

n−rN

]+

+∑p>12p6r

k2p∑mi>0

m1+···+m2p=r

[cm1N , . . . ,

[cm2p

N , Dn−rN

]. . .]).

Эти формулы получаются из формул теоремы 2, если мы возьмемв качестве K(t) ступенчатую функцию, которая последовательнопринимает значения K1, . . . ,KN на интервалах времени равной дли-ны.

Те же самые рекуррентные формулы справедливы и для однород-ных членов формального ряда

BN (K1, . . . ,KN ) =∞∑n=0

cnN (K1, . . . ,KN ),

где матрицы K1, . . . ,KN — произвольные (т.е. не обязательно близ-кие к нулю) элементы алгебры Ли G.


Рассмотрим для примера случай N =2. Из теоремы 2 следует, что

c12(X,Y ) = X + Y,

c22(X,Y ) = 112 [X,Y ],

c32(X,Y ) = 112 [X − Y, [X,Y ]],

c42(X,Y ) = − 148 [Y, [X, [X,Y ]]]− 1

48 [X, [Y, [X,Y ]]].

Для произвольного N мы имеем

c2N (K1, . . . ,KN ) =1

2

∑16i<j6N

[Ki,Kj ],

c3N (K1, . . . ,KN ) =1

6D2N +

1

12

[K1 + · · ·+KN ,

∑16i<j6N

[Ki,Kj ]],

и так далее.Формулы для Dq

N , q > 0, имеют следующий вид:

DqN = Kq

N +N−1∑i=2

α0=k∑α1=0

α1∑α2=0

· · ·αN−i−1∑αN−i=0

(N−i−1∏p=0

cαpαp+1

)×

×

(N−i∏p=0

adαp−αp+1

−KN−p(Ki−1)

)+ adq−KN

(KN−1).

Здесь KqN = 0 для всех q > 0, K0

N = KN и αN−i+1 = 0, если i > N ,а для q = 0 мы имеем

D0N = K1 + · · ·+KN .

Т е о р е м а 3 (См. [1]). Существует число δ > 0 такое,что если

|K1|+ . . .+ |KN | < δ,

то формальный ряд BN (K1, . . . ,KN ) сходится абсолютно иравномерно по N , и при этом он сходится к элементуbN (K1, . . . ,KN ). Более того, функция

bN (K1, . . . ,KN ) =∞∑n=1

cnN (K1, . . . ,KN )

определяет аналитическое отображение из открытой ок-рестности U в алгебре G × . . . × G (N раз), где U == (K1, . . . ,KN ) : |K1|+ · · ·+ |KN | < δ, в алгебру G, и при этомтождество

eK1 . . . eKN = eBN (K1,...,KN )

справедливо для (K1, . . . ,KN ) в окрестности U .


§ 5. УРАВНЕНИЕ МАГНУСА ДЛЯ ЛОГАРИФМАМУЛЬТИПЛИКАТИВНОГО ИНТЕГРАЛА.

КОНТИНУАЛЬНЫЙ (НЕПРЕРЫВНЫЙ) СЛУЧАЙ

Рассмотрим снова континуальный случай и логарифм H(t) длямультипликативного интеграла. Напомним, что линейный опера-тор adX действует на алгебре g следующим образом: adX Y = [X,Y ].

5.1. УРАВНЕНИЕ МАГНУСА

а) Функция H(t) в формуле X(t) = eH(t)X(0), где X(t) удо-влетворяет уравнению X ′(t) = K(t)X(t), сама удовлетворяетуравнению Магнуса:

dH(t)

dt=

adH(t)

eadH(t) − 1K(t),

б) Функция H(t) в формуле X(t) = X(0)eH(t) , где X(t) удо-влетворяет уравнению X ′(t) = X(t)K(t), сама удовлетворяетуравнению Магнуса:

dH(t)

dt=

adH(t)

e− adH(t) − 1(−K(t)).

З а м е ч а н и е. В правой части обеих формул мы видим неко-торую операторную функцию, примененную к K(t). Эта функциявыражается как аналитическая функция от оператора adH(t) . Какобычно, для этого нужно рассмотреть формальный ряд, соответству-ющий этой функции,

∞∑i=0

pi · adiH(t),

и затем применить этот оператор к K(t), где adiH(t) обозначают i-естепени (композиции) оператора adH(t) .

Сейчас мы докажем важную лемму, на которую опирается доказа-тельство теоремы Магнуса. Это доказательство не является широкоизвестным, поэтому мы решили привести его здесь для полнотыкартины (см. также книгу Долларда и Фридмана, упомянутую выше).

Л е м м а 1. Пусть m(z) = (ez − 1)/z . Тогда имеют местоследующие два равенства (а) и (б):

ddt

(eG(t)

)=M1(t)e

G(t) = eG(t)M2(t),

где M1(t) = m(adG)G′(t) и M2(t) = m(− adG)G

′(t).Здесь G(t) — гладкая кривая в алгебре Ли.


Д о к а з а т е л ь с т в о. Имеем:

eG(t+c) − eG(t)

c=

1

c

1∫0

d(esG(t+c)e(1−s)G(t)

)ds

ds =

=

1∫0

esG(t+c)

(G(t+ c)−G(t)

c

)e(1−s)G(t) ds.

Когда c стремится к нулю, мы получаем

d

dt

(eG(t)

)=

[ 1∫0

esG(t)G′(t)e−sG(t)ds

]eG(t).

Переписывая подынтегральную функцию в виде ряда Тейлора вокрестности s = 0, мы получаем

esG(t)G′(t)e−sG(t) = G′(t) + (adG)G′(t)s+ (adG)

2G′(t)(s/2)2 + . . . ,

и, интегрируя от нуля до единицы, мы и доказываем пункт (а).Пункт (б) доказывается аналогично, однако здесь нужно рассмот-

реть интеграл от производной по s от функции:

e(1−s)G(t+c)esG(t).

5.2. ВЫВОД УРАВНЕНИЙ МАГНУСА

Уравнение Магнуса следует из доказанной леммы, посколькуexp(H) является невырожденной матрицей.

З а м е ч а н и е. Функция

k(z) = 1 +∞∑p=1

k2pz2p или k(z) =

z

1− e−z− z

2,

используемая при определении чисел Бернулли, связана с функци-ей m(z) из леммы следующим соотношением:

k(z) =1

m(−z)− z

2.


Рекуррентные формулы, полученные нами выше, были использо-ваны в теории формулы Стокса для формы кривизны и связности,принимающих значения в алгебре Ли (см. детали в [3]).

Как мы видим, существуют две эквивалентные формы основногоуравнения (1) (левое и правое действие оператора K(t)). В следую-щей части нашей работы мы рассмотрим уравнение (1) в виде

X ′(t) = X(t)K(t)

и будем искать его решение в виде X = X(0)eH . Уравнение Магнусабудет здесь иметь вид

H ′t =

adHe− adH − 1

(−K).

ЧАСТЬ 2. ГЕОМЕТРИЧЕСКОЕ ИНТЕГРИРОВАНИЕОСНОВНОГО УРАВНЕНИЯ X′ = XK ДЛЯ

УПРАВЛЯЕМОГО КРИВИЗНОЙ СЛУЧАЯ НААЛГЕБРАХ ЛИ so(3), su(2), e(2), sl(2,R), sl(2,R)+

Мы будем использовать следующие обозначения.

1) R3 — коммутативная алгебра Ли диагональных (3 × 3) веще-ственных матриц.

2) so(3) — алгебра Ли группы SO(3) = SU(2)/Z2 ортогональныхсобственных вращений евклидова 3-пространства E3 .

3) su(2) — алгебра Ли группы SU(2) унитарных (2 × 2)-матрицс единичным определителем. Алгебры so(3) и su(2) изоморфны.

4) e(2) — алгебра Ли группы E(2) собственных движений (изо-метрий) евклидовой 2-плоскости E2 .

5) sl(2,R) — алгебра Ли группы SL(2,R) всех вещественных(2 × 2)-матриц с единичным определителем. Группа SL(2,R)является группой однородных симплектических линейных пре-образований 2-плоскости, т.е. сохраняющих площадь на плос-кости и начало координат.

6) sl(2,R)+ — алгебра Ли группы SL(2,R)/Z2 , являющейся груп-пой собственных движений гиперболической плоскости. Дру-гими словами, группа SL(2,R)+ является группой изометрийдвумерной псевдосферы в псевдоевклидовом 3-пространствеиндекса I. Алгебры Ли sl(2,R) и sl(2,R)+ изоморфны.


7)dX(t)

dt= X(t)K(t) — основное дифференциальное уравнение,

где X(t) является вектор-функцией и K(t) является матрич-нозначной функцией, принимающей значения в алгебре Ли G,где G является матричным представлением одной из алгебр Ли,упомянутых выше.

8) Матричная функция K(t) может рассматривать как гладкая(или кусочно-гладкая) кривая в евклидовом пространстве E3 ,при этом E3 отождествляется в одной из следующих алгебр Ли:R3, so(3), su(2), e(2), sl(2,R), sl(2,R)+ . Функция K(t) будет на-зываться контролирующей силой. Норма в E3 определяетсяестественной нормой в алгебре G, обозначаемой через | · |.

9) Мы будем считать, что контролирующая сила K может бытьзаписана в виде K(t) = ω(t)k(t), где ω и k являются гладкимифункциями от t, причем ω(t) = ±|K(t)| и k(t) = ±K(t)/|K(t)|,если K(t) = 0.

10) Пусть s обозначает длину дуги вдоль кривой k(s), котораярассматривается как кривая на 2-сфере (соответственно, на2-плоскости или на гиперболической плоскости).

11) Функция H(t) записывается в виде H(t) = θ(t)h(t), гдеX(t) = X(0)eH(t) , и H(t) принадлежит алгебре Ли G, при этом|h(t)| = 1, θ = |H|.

12)dH

dt=

adHe− adH − 1

(−K) — уравнение Магнуса для дифферен-

циального уравнения X ′ = XK .

13) K = K∥+K⊥ — разложение контролирующей силы K в суммудвух ортогональных компонент в E3 . Вектор K проходит черезточку h(t) на единичной двумерной сфере S2 , K∥ — проекциявектора K на направление h, а K⊥ — проекция вектора K наплоскость, касательную к сфере S2 в точке h.

§ 6. ВВЕДЕНИЕ. КОНТРОЛИРУЮЩИЕ СИЛЫ ИНЕПРЕРЫВНЫЙ ЛОГАРИФМ. СЛУЧАЙ so(3)

Сначала мы сконцентрируем наше внимание на алгебре Ли so(3).Случай алгебры Ли su(2) будет рассмотрен отдельно. Алгебра Лиso(3) канонически отождествляется с пространством кососимметри-ческих вещественных (3× 3)-матриц. Эти матрицы, в свою очередь,можно отождествить с векторами в E3 . Эти отождествления будутиспользоваться ниже.


Рассмотрим дифференциальное уравнение в E3

dX(u)

du= X(u)K(u), (2)

0 6 u 6 t, где K(u) является гладкой вектор-функцией со значени-ями в алгебре so(3).

Алгебра Ли so(3) канонически отождествляется с пространствомвекторов в E3 и с пространством кососимметрических матриц, такчто X(u)K(u) определяется естественным образом как действиематрицы K(u) на вектор X(u) посредством правого умножения.Результат действия — снова 3-мерный вектор.

Решение уравнения (2) можно записать в виде X(t) = X(0)eH(t) ,где H(t) удовлетворяет второму из уравнений Магнуса. Например, вслучае коммутативной алгебры Ли Rn решение уравнения (2) имеетвид

X(t) = X(0) e

t∫0

K(u)du,

где H(t) =t∫0

K(u)du и в общем случае H(t) удовлетворяет уравне-нию

H ′ =adH

e− adH − 1(−K),

где adA : so(3) → so(3) является линейным оператором: adA(B) == [A,B].

Отметим, что выбор правого или левого умножения (действия)в основном уравнении (2) — это дело вкуса. Однако после тогокак выбор сделан, необходимо пользоваться только теми формула-ми, которые отвечают именно этому случаю. Эти формулы (вклю-чая уравнения Магнуса) отличаются знаком, учитывающим поря-док множителей в мультипликативном интеграле (задающем реше-ние). Этот порядок противоположен для правого и левого действийв (2).

Отметим, что если гладкая кривая K(t) задана, то кривая H(t)определяется однозначно в окрестности единицы. И обратно, знаякривую H , мы восстанавливаем K(t) = exp(−H(t))

(eH(t)

)′t.

Любая матрица (вектор) P в so(3) может быть записана в видеP = λp, где λ — это скаляр, а p — вектор. Матрица ep естественноотождествляется с вращением в E3 на угол λ вокруг оси, задаваемойвектором p. Матрицы в so(3) обладают естественной нормой | · |,которая совпадает со стандартной евклидовой нормой (длиной) в E3 .


Относительно этой нормы мы имеем: λ = ±|P |, и если P = 0, тоp = P/|P |.

Если P зависит от параметра t, то вектор p(t) чертит некоторуютраекторию на сфере S2 (единичного радиуса), которая стандартновложена в E3 . Мы запишем контролирующую силу в терминах этогоразложения, т.е. K(t) = ω(t)k(t), и предположим, что ω(t) и k(t)являются гладкими функциями от t. Функция H(t) записываетсяаналогично, т.е. H(t) = θ(t)h(t). Отсюда следует, что θ = ±|H| иω = ±|K|. Отсюда следует, что оба вектора h(t) и k(t) имеют еди-ничную длину во всех точках, где соответствующие функции отличныот нуля. Когда параметр t изменяется, векторы h(t) и k(t) прочер-чивают некоторые кривые на единичной 2-сфере S2 , где S2 ⊂ E3

(рис. 1).

O

K(t)

K(0)

k(0)

k(t)

H(t)

h(t)

S2

k(0)=h(0)

k(t)

h(t)

µ(0)

Рис. 1. Кривые на единичной сфере

Из определения следует, что кривая H(t) начинается в точке 0в 3-пространстве. Натуральный параметр s определяется как длинадуги вдоль кривой k(t) ⊂ S2 , при этом параметры s и t могут бытьвыражены как функции друг от друга. Будем считать параметр sположительным в направлении роста t и что точка k|t=0 отвечаетзначению s = 0.

Выражаю благодарность С. С. Анисову и А. А. Ошемкову за по-лезные дискуссии.


§ 7. РАЗЛИЧНЫЕ ТИПЫ КОНТРОЛИРУЮЩИХ СИЛ.УРАВНЕНИЕ X′ = XK РЕДУЦИРУЕТСЯ

К УРАВНЕНИЮ, УПРАВЛЯЕМОМУ КРИВИЗНОЙ

О п р е д е л е н и е 1. Дифференциальное уравнение X ′ = XK(и соответствующая направляющая сила K(t)) называется вы-рожденным (на некотором интервале 0 6 t 6 T ), еслиK(t) ≡ K0 = const. В этом случае кривая k(t) превращается в точку,т.е. является вырожденной кривой. Итак, k(t) ≡ k0 для всех t.

О п р е д е л е н и е 2. Дифференциальное уравнение X ′ = XK(и соответствующая направляющая сила K(t)) называется линей-но геодезическим (на некотором интервале 0 6 t 6 T ), еслиK(s) = ω0k(s), где ω0 = 0 постоянное число и кривая k(s)является отрезком геодезической линии на 2-сфере (т.е. частью боль-шого круга). Следовательно, кривизна r(s) этой кривой (на сфере)тождественно нулевая. Подчеркнем, что здесь мы говорим об r(s)как о кривизне кривой с точки зрения сферы (а не с точки зренияобъемлющего E3). Итак, в линейно геодезическом случае точка k(s)движется с постоянной скоростью вдоль геодезической линии насфере и норма K(s) постоянна (рис. 2).

ω0

O

Рис. 2. Движение точки k(s)

О п р е д е л е н и е 3. Дифференциальное уравнение X ′=XK(и соответствующая сила K(t)) называется управляемым λ-кривиз-ной, если

λr(t) = ω(t)dt(s)

ds,

где r(t) — это кривизна кривой k(t), причем λ > 0 являетсяпостоянным вещественным числом и t(s) рассматривается здесь какфункция от длины дуги s. Кроме того, мы будем считать, что направ-ление вращения, индуцированного K , согласовано с направлением


вращения касательной к кривой вокруг точки касания при движенииэтой точки вдоль кривой (рис. 3).

ω

k(0)

k

ω

k(0)

а)

б)

Рис. 3. Направление вращения

Если t = s, то управляемая λ-кривизной сила K(s) удовлетво-ряет следующему условию:

λr(s) = ω(s).

З а м е ч а н и е. Вектор K(t) допускает следующую интерпре-тацию: K(t)∆t изображает малый поворот 3-пространства вокругоси k(t) на угол ω(t)∆t.

Если контролирующая сила управляется λ-кривизной, то мыимеем

K(t) = λr(t)ds(t)

dtk(t),

где r(t) — кривизна гладкой кривой k(t) на 2-сфере (не в объемлю-щем 3-пространстве!) и s = s(t) — это длина дуги, т.е. натуральныйпараметр. Будем считать также, что кривая k(t) регулярна (имеетненулевой вектор скорости k′). Норма вектора k′(s) равна 1.

Л е м м а 2. Уравнение X ′ = XK = Xωk управляетсяλ-кривизной в том и только в том случае, когда

а) после перехода от исходного параметра t к натураль-ному параметру s (вдоль кривой k с кривизной r на сфере)норма ω(s) силы K(s) становится равной λr(s), где r(s) —кривизна кривой, и

б) направление вращения, индуцированное K , совпадаетс направлением вращения касательного вектора к k(s) при егодвижении вдоль кривой.


Д о к а з а т е л ь с т в о следует из определения силы, управля-емой λ-кривизной, а именно, если X ′ = XK , то X ′

s = Xωt′sk == Xλrk .

У т в е р ж д е н и е 22. a) Всегда можно найти такую заме-ну координат A(t) в 3-пространстве (зависящую, вообще го-воря, от времени t, т.е. X(t) = Y (t)A(t)), которая преобразуетисходное уравнение (2) в уравнение, управляемое λ-кривизнойдля некоторого λ = 0.

б) Эта искомая замена координат A(t) определяется в ре-зультате решения некоторого скалярного обыкновенного диф-ференциального уравнения третьего порядка.

З а м е ч а н и е. Легко видеть, что всегда существует зависящееот времени преобразование координат в E3 , которое преобразуетисходное уравнение (2) к виду Y ′ = 0. Достаточно лишь рассмотреть

X(t) = Y (t)eH(t).

Однако, чтобы реально предъявить такое преобразование, нужно вы-числить мультипликативный интеграл, что практически эквивалентнорешению исходного дифференциального уравнения (2). Сформулиро-ванное выше предложение утверждает, что мы можем найти нуж-ную замену, решая лишь обыкновенное дифференциальное уравнениетретьего порядка. Таким образом, мы редуцируем (по крайней мерев принципе) задачу интегрирования исходного уравнения (2) к инте-грированию уравнения, управляемому λ-кривизной. Как мы покажемниже, это последнее уравнение интегрируется простой геометриче-ской процедурой.

Д о к а з а т е л ь с т в о. Подставим X = Y A в уравнениеX ′ = XK и получаем Y ′A = Y AK − Y A′ , что эквивалентно уравне-нию Y ′ = Y G с новой контролирующей силой G = (AK − A′)A−1 .Осталось показать, что матрицу A(t) можно выбрать так, чтобыконтролирующая сила G оказалась управляемой λ-кривизной. Этоусловие записывается так:

G(t) = λ r(t)ds

dtg(t),

где g(t) = G(t)/|G(t)|, и r(t) — это кривизна g(t). Записывая r(t)как функцию от g′(t), мы получаем, что условие управляемостиλ-кривизной для силы G приобретает вид

|G|2|g′|4 = λ2(|[g′, g′′]|2 − |g′|6),

и подставляя сюда G = (AK − A′)A−1 , где K есть известная намфункция, окончательно получаем одно скалярное уравнение третьегопорядка на коэффициенты матрицы A(t). Предложение доказано.


Приведенное выше условие управляемости включает в себя явныйвид кривизны кривой на сфере. Приведем доказательство формулыдля этой кривизны.

У т в е р ж д е н и е 23. Пусть g(t) — кривая на стандарт-ной двумерной сфере единичного радиуса. Тогда ее кривиз-на r(t) вычисляется по формуле

r2 = |[g′, g′′]|2|g′|−6 − 1.

Д о к а з а т е л ь с т в о. Введем на кривой g(t) наряду с пара-метром t также натуральный параметр s и будем обозначать точкойдифференцирование по s, а штрихом — дифференцирование по t.Очевидно следует соотношение для кривизны r:

|g − ⟨g, g⟩g| = r.

Здесь через ⟨·,·⟩ обозначено евклидово скалярное произведениев R3 . Отметим, что |g| = 1, согласно определению натурального

параметра. Далее, |g′| =∣∣∣ds(t)dt

∣∣∣, dg(s)ds

= g′dt(s)

dsи

d2g

ds2= g′′

∣∣∣ dtds

∣∣∣2 + g′d2t

ds2.

Кроме того,dt

ds= |g′|−1 и

d2t

ds2= −|g′|′|g′|−3 . Отсюда имеем

r(t) =

∣∣∣∣d2gds2 −⟨d2g

ds2, g

⟩g

∣∣∣∣ == |g′′|g′|−2 − g′|g′|′|g′|−3 − ⟨g′′, g⟩g|g′|−2 + ⟨g′, g⟩|g′|′|g′|−3g| == |g′|−4 · |g′′|g′|2 − g′⟨g′, g′′⟩ − ⟨g, g′′⟩|g′|2g + ⟨g, g′⟩⟨g′, g′′⟩g| =

= |g′|−4 · |g′′|g′|2 − g′⟨g′, g′′⟩ − g|g′|2⟨g, g′′⟩|.Отсюда получаем

r2|g′|8 = |g′′|2|g′|4 + |g′|2⟨g′, g′′⟩2 + |g|2|g′|4⟨g, g′′⟩2 − 2⟨g′, g′′⟩2|g′|2−− 2⟨g, g′′⟩2|g′|4 + 2⟨g, g′⟩⟨g′, g′′⟩⟨g, g′′⟩|g′|2.

Отметим теперь, что ⟨g, g′⟩ = 0 (вектор скорости кривой касаетсясферы), а также |g| = 1 и ⟨g, g′′⟩ = −|g′|2 . Последнее соотно-

шение вытекает из того, что⟨g,d2g

ds2

⟩= ⟨g, g′′⟩

∣∣∣ dtds

∣∣∣2 и из формул

Френе. Следовательно, r2 = |g′|−6(|g′′|2|g′|2 − |g′|6 − ⟨g′, g′′⟩2) == |[g′, g′′]|2|g′|−6 − 1.


§ 8. ГЕОМЕТРИЧЕСКИ ПОДОБНЫЕ ДИФФЕРЕНЦИАЛЬНЫЕУРАВНЕНИЯ

О п р е д е л е н и е 4. Два дифференциальных уравнения

X ′t = X(t)K(t) и Y ′

τ = Y (τ)P (τ) (3)

называются геометрически подобными, если после перехода вкаждом из этих уравнений к натуральному параметру s (т.е. парамет-ризуя решение длиной дуги) мы получаем следующие два уравнения:

X ′s = X(s)K(s) и Y ′

s = Y (s)P (s),

удовлетворяющие условию

K(s) = m(s)P (s),

где m(s) — некоторая гладкая функция от s.З а м е ч а н и е. Ясно, что k(s) = p(s) для геометрически по-

добных уравнений, т.е. соответствующие нормированные кривые на2-сфере совпадают.

Понятие геометрически подобных уравнений можно переформу-лировать еще и так.

О п р е д е л е н и е 5. Два дифференциальных уравнения

X ′t = X(t)K(t) и Y ′

τ = Y (τ)P (τ)

называются геометрически подобными, если существует заменавремени t = t(τ) такая, что

K(t(τ))t′τ = m(τ)P (τ)

для некоторой скалярной функции m(τ).Л е м м а 3. Определения 4 и 5 эквивалентны.Д о к а з а т е л ь с т в о. Мы имеем

X ′t = X ′

ττ′t = X(t(τ))K(t(τ)) и X ′

τ = X(t(τ))K(t(τ))t′τ .

Положим X(t(τ)) = Y (τ), в результате получаем

Y ′τ = Y (τ)K(t(τ))t′τ и Y ′

τ = Y (τ)P (τ).

Если K(t(τ))t′τ = m(τ)P (τ), то при переходе к натуральномупараметру s это соотношение коллинеарности сохраняется. Леммадоказана.


Фиксировав какое-то t, мы получаем в каждой точке X на S2вектор XK(t), касательный к S2 , поскольку K(t) является кососим-метрической матрицей. Векторное поле XK обязательно имеет нулина 2-сфере (в этих точках вектор X лежит в ядре оператора K ). Длякаждого ненулевого вектора XK можно рассмотреть прямую линию,задаваемую этим вектором. Если XK = 0, то такая прямая, конечно,не определена. Итак, мы получаем одномерное распределение v(t)прямых линий, касательных к сфере (рис. 4). Это распределениеопределено во всех точках сферы за исключением двух противопо-ложных друг другу точек, отвечающих ядру оператора K(t). Рас-пределение v(t) зависит от t. Когда t меняется, прямые v(t) такжеменяются.

Рис. 4. Одномерное распределение

Л е м м а 4. Два уравнения (3) геометрически подобны ес-ли и только если их 1-распределения равны (совпадают) привсех t. Коэффициент подобия m(t) зависит только от t ине зависит от выбора точки X(t) на 2-сфере.

Д о к а з а т е л ь с т в о леммы очевидно.

З а м е ч а н и е. Интегральные кривые двух геометрически по-добных уравнений могут быть различны.

§ 9. КАЖДОЕ НЕВЫРОЖДЕННОЕ УРАВНЕНИЕ X′=XKГЕОМЕТРИЧЕСКИ ПОДОБНО НЕКОТОРОМУ

УРАВНЕНИЮ, УПРАВЛЯЕМОМУ λ-КРИВИЗНОЙ

П р е д л о ж е н и е 1. Рассмотрим уравнение X ′ = XK ,у которого нормированная кривая k(t) = K(t)/ω(t) имеетненулевую кривизну для всех значений параметра t из неко-торого интервала. Тогда это уравнение геометрически по-добно (на этом интервале времени) уравнению, управляемомуλ-кривизной (при любом наперед заданном значении λ).


Д о к а з а т е л ь с т в о. Перепишем уравнение X ′t = X(t)K(t)

в натуральном параметре s. Получим X ′s = X(s)K(s), где K(s) =

= K(t(s))t′s . Рассмотрим новое уравнение:

Y ′s = Y (s)

K(s)

|K(s)|λr(s),

где r(s) — это кривизна кривой k(s) = k(s) на 2-сфере. Тогдаm(s) = λr(s)/|K(s)| и эти два уравнения геометрически подобны.Второе уравнение очевидно управляется λ-кривизной. Предложениедоказано.

§ 10. СЕМЕЙСТВО (ω/λ)-ВЕЛОСИПЕДНЫХ СИСТЕМКООРДИНАТ НА 2-СФЕРЕ И СООТВЕТСТВУЮЩЕЕ

РЕЗУЛЬТИРУЮЩЕЕ ВРАЩЕНИЕ СФЕРЫ

Рассмотрим основное уравнение (2), записанное в произвольномпараметре t (не обязательно натуральном). Определим движущую-ся систему координат на 2-сфере следующим образом. Рассмотримвектор-функцию K(t) и фиксированную ось l в E3 , определяе-мую вектором k(0). Эта ось встречает единичную 2-сферу в точкеk(0) = N = (северный полюс). Рассмотрим на сфере фиксированнуюсистему меридианов и параллелей с северным полюсом в точке N .Отметим «первый меридиан»=начальный Гринвичский меридиан µ(0)(рис. 5). Меридиан µ(0) выберем касательным к кривой k(t) в точ-ке k(0). Эту систему координат назовем «велосипедным колесом»с осью l = k(0). Теперь начнем вращать эту систему координат(которую будем также называть велосипедной) вокруг оси l с угловойскоростью ω(t)/λ.

µ(0)

l

N=k(0)

O

Рис. 5. Меридиан

Рассмотрим теперь второе независимое движение, которым по-действуем на велосипедную систему координат: ось l начинает дви-гаться вдоль кривой k(t) на сфере. Более точно, в каждый моментвремени t ось l будет занимать положение k(t).


Окончательно, рассмотрим движение велосипедной системы ко-ординат (с отмеченным первым Гринвичским меридианом), являюще-еся композицией этих двух независимых движений:

1) движение l вдоль кривой k(t),

2) вращение системы меридианов с северным полюсом в точкеk(t) вокруг оси l = k(t) с угловой скоростью ω(t)/λ.

Это однозначно определяет вращающуюся систему координат насфере.

О п р е д е л е н и е 6. Назовем эту систему координат (ω/λ)-ве-лосипедной системой (или (ω/λ)-велосипедным колесом). Длякаждого момента t мы получаем некоторое результирующее вра-щение g(t)λ 2-сферы. Назовем это вращение результирующим(ω/λ)-велосипедным вращением.

Эта же конструкция может быть описана слегка по-иному. Рас-смотрим кривую k(t) и разобьем ее в объединение малых отрезков(дуг) точками k(ti) (соседние точки деления близки). Предположим,что северный полюс оказался на предыдущем шаге в точке k(ti−1)с некоторым положением Гринвичского меридиана. Теперь сместимсеверный полюс и этот меридиан параллельным переносом из точ-ки k(ti−1) в точку k(ti), а затем повернем сферу вокруг оси k(ti) наугол ω(ti)∆t/λ. Описанная выше процедура получается итерирова-нием таких шагов при i = 1, . . . , n, а затем переходом к пределу, ко-гда расстояние между соседними точками деления стремится к нулю(рис. 6).

µ(0)

µ(t)

k(0)

O

Рис. 6. Одномерное распределение

З а м е ч а н и е. Мы определили (ω/λ)-велосипедную системукоординат прямой конструкцией. Рассмотрим теперь механическоедвижение (вращение) твердого шара (вокруг фиксированного центра),индуцированное описанным движением велосипедной системы коор-динат на сфере. В каждый момент времени t твердый шар обладает


некоторым вектором D(t)λ в качестве вектора его мгновенной уг-ловой скорости (в данный момент времени). Вектор D(t)λ в общемслучае не совпадает с вектором K(t). Вектор X(0)g(t)λ — этов точности решение дифференциального уравнения

X ′ = XD(t)λ.

Рассмотрим (ω/λ)-велосипедную систему координат в моментt = 0 и положение этой системы в любой другой момент вре-мени t. Последняя система получается из начальной посредствомодного вращения g(t)λ евклидова 3-пространства. Рассмотрим по-ложение µ(t)λ Гринвичского меридиана в момент t. Ясно, что Грин-вичский меридиан µ(t)λ является образом начального («нулевого»)Гринвичского меридиана µ(0) под действием вращения g(t)λ . Иногдамы будем опускать индекс λ в обозначении Гринвичского меридиана.

Изучим следующие естественные задачи.1) Как вычислить вращение g(t)λ как функцию от направляющей

силы K(t)?

2) Как связаны оси k(t) и d(t)λ?Ответы будут даны в нижеследующих параграфах.

§ 11. ГЛАВНАЯ ТЕОРЕМА ДЛЯ so(3). ЕСЛИ K(t) УПРАВЛЯЕТСЯ2-КРИВИЗНОЙ, ТО УРАВНЕНИЕ X′ = XK РЕШАЕТСЯ

ПРОСТЫМ ГЕОМЕТРИЧЕСКИМ ПРИЕМОМ

П р е д л о ж е н и е 2. Для любой гладкой направляющей си-лы K(t) кривые k(t) и h(t) начинаются в одной и той же точкеk(0) = h(0) на сфере и касаются друг друга в этой точке(рис. 1).

Геометрическое решение уравнения X ′ = XK на so(3) в вы-рожденном случае и в линейно-геодезическом случае описываетсяследующей теоремой.

Т е о р е м а 4. 1) Если K(t) ≡ K0 — постоянный век-тор (вырожденный случай), то H(t) = tK0 , т.е. искомый век-тор H(t) всегда коллинеарен вектору K0 . Таким образом,

X(t) = X(0)etK0

для всех t.2) Если K(s) = ω0k(s) является линейно-геодезической на-

правляющей силой, т.е. k(s) движется вдоль большого круга насфере с единичной скоростью |k′| = 1 (здесь t = s являетсянатуральным параметром) и сила K имеет постоянную нор-му ω0 , то всегда существует зависящее от времени линейное


преобразование трехмерного пространства, которое можетбыть выписано явными формулами и которое приводит исход-ное уравнение X ′ = XK к вырожденному случаю (см. п. 1).

З а м е ч а н и е. Как отметил А. А. Ошемков, аналогичную (яв-ную) формулу можно написать для случая, когда k движется вдольлюбой окружности на сфере со скоростью, пропорциональной моду-лю вектора K .

Следующая теорема дает геометрическое решение уравненияX ′ = XK на so(3) в случае силы K , управляемой 2-кривизной.

Т е о р е м а 5. a) Рассмотрим управляемую 2-кривизной си-лу K(t) (т.е. нормированная кривая имеет кривизну r(t) ≡ 0и 2r = ωdt/ds) и пусть k(t) = K(t)/ω(t) — соответствующаянормированная кривая на сфере. Рассмотрим два меридиана(большие круги) µ(0) и µ(t), касательные к кривой k в ее на-чальной точке k(0) и в ее конечной точке k(t) соответствен-но. Тогда точка пересечения этих двух меридианов — этов точности искомая точка h(t) (рис. 7). Угол между кругамиµ(0) и µ(t) равен θ(t)/2.

b) Итак, решение задачи (исходного уравнения) имеет вид

X(t) = X(0)eθ(t)h(t),

где θ(t) и h(t) описаны выше.

k(0)

k(t)

h(t)

µ(0)

µ(t)

12Θ(t)

Рис. 7. Точка пересечения двух меридианов

З а м е ч а н и е. 1) Гринвичский меридиан µ(t)2 всегда касаетсякривой k в точке k(t) для любого t. Следовательно, µ(t), касающий-ся кривой k в точке k(t), — это в точности меридиан µ(t)λ=2 для(ω/2)-велосипедной системы координат вдоль кривой k. Обозначиммеридианы µ(t)λ=2 просто через µ(t).

2) Эволюция точки h(t) и величины θ(t) полностью определяетсяповедением двух касательных больших кругов к данной кривой k в ее


начальной и конечной точках. Если первая окружность неподвижна,то вторая очевидно движется (с ростом t).

С л е д с т в и е 1. В случае управляемой 2-кривизной си-лы K точка h всегда движется вдоль фиксированного боль-шого круга на сфере. Эта окружность является меридианом,касательным к кривой k в ее начальной точке k(0) (рис. 7).

Итак, точка h(t) является пересечением неподвижной окружно-сти µ(0) с движущейся окружностью µ(t).

С л е д с т в и е 2. Предположим, что кривая k имеет нену-левую кривизну вблизи своей начальной точки k(0) (рис. 7).Тогда начальная дуга кривой h(t) выходит в направлении вы-пуклости кривой k (т.е. вне кривой k).

§ 12. ДОКАЗАТЕЛЬСТВО ДЛЯ СЛУЧАЯ so(3)

12.1. ДОКАЗАТЕЛЬСТВО ТЕОРЕМЫ 4

В вырожденном случае мы имеем:

X ′(t) = X(t)K0,

где K0 = const (т.е. фиксированный вектор в E3). Легко видеть,что решение (2) имеет вид X(t) = X(0)eK0t . Кривая k(t) сводитсяк одной точке k = K0/|K0| (мы считаем, что K0 = 0). ТогдаH(t) = K0t, т.е. коллинеарно с K0 , и потому θ(t) = |K0|t. Перваячасть теоремы 4 доказана.

Для доказательства части 2 можем без потери общности пред-положить, что ω0 = 1. Здесь X ′(s) = X(s)k(s), т.е. ω(s) ≡ 1и k(s) прочерчивает дугу большого круга на сфере. Так как точка k(s)движется вдоль этой дуги с постоянной (по норме) скоростью (= 1),то вектор k(s) равномерно вращается вокруг некоторого фиксиро-ванного вектора a в E3 . Отсюда следует, что если мы отождествимвектор k(s) с отвечающей ему кососимметрической матрицей, обо-значаемой также k(s), то

k(s) = eAsK(s0)e−As

для некоторой постоянной вещественной кососимметрической матри-цы A. Обозначая k(s0) через P0 , мы получаем

k = eAsP0e−As, (4)

где eAs является ортогональной матрицей, т.е. элементом груп-пы SO(3). Формула (4) задает вращение с постоянной скоро-стью вектора P вокруг фиксированной оси a. Следовательно,


X ′s = XeAsPe−As и X ′eAs = XeAsP0 , а потому

(XeAs)′ −X(eAs)′ = XeAsP0. (5)

Так как A ≡ const, то (eAs)′ = AeAs = eAsA. Мы пользуемся здесьтем, что матрицы eAs и A коммутируют (матрица A — постоянна).Из (5) следует

(XeAs)′ = XeAsA+XeAsP0 = (XeAs)(A+ P0).

Пусть Y = XeAs , тогда Y ′ = Y (A + P0), или

Y ′ = Y B0, B0 = A+ P0.

Теорема 4 доказана.

12.2. ДОКАЗАТЕЛЬСТВО ПРЕДЛОЖЕНИЯ 2

Рассмотрим гладкую кривую k(t), выходящую из точки k(0), игладкую кривую h(t), выходящую из точки h(0). Мы докажем, чтообе кривые k(t) и h(t) (где t > 0) выходят из одной и той жеточки, т.е. k(0) = h(0) и эти кривые касаются друг друга в этойточке. Отсюда следует, что начальный меридиан µ(0) касается обеихкривых k(t) и h(t) при t = 0.

Рассмотрим кривую K(t) и малый отрезок ∆t от 0 до ∆t. Таккак функция K(t) предполагается гладкой, мы можем аппроксими-ровать кривую K(t) на отрезке ∆t линейной функцией, т.е. отрезкомс концами в точках K0 и K0+∆K . Здесь K(0) = K0 . Эта линейнаяаппроксимация имеет вид K(t) = K0 + t∆K0/∆t, 0 6 t 6 ∆t. Вы-числим аппроксимацию функции H(t) на отрезке ∆t. Мы получаем

H(t) = H1 −H2 + . . .

(знакопеременный ряд), где первые два однородных члена ряда имеютследующий вид:

H1 =

∆t∫0

K(u) du, H2 =1

2

∆t∫u=0

[K(u),

u∫v=0

K(v) dv

]du.

Можно поэтому записать

H1 =

∆t∫0

(K0 +

u∆K0

∆t

)du = K0∆t+

∆t∆K0

2=

(K0 +

∆K0

2

)∆t.


Далее

H2 =1

2

∆t∫u=0

[K0 +

u∆K0

∆t,

u∫v=0

(K0 +

v∆K0

∆t

)dv

]du =

=1

2

∆t∫u=0

[K0 +

u∆K0

∆t, uK0 +

u2∆K0

2∆t

]du =

=1

2

∆t∫u=0

([K0,

u2∆K0

2∆t

]+

[u∆K0

∆t, uK0

]+

[u∆K0

∆t,u2∆K0

2∆t

])du =

=1

2

∆t∫u=0

[K0,∆K0]

(u2

2∆t− u2

∆t

)du = − 1

12(∆t)2[K0,∆K0].

Окончательно, получаем формулу

H(∆t) =

(K0 +

1

2∆K0

)∆t+

1

12(∆t)2[K0,∆K0] + . . .

Здесь K0 + 12∆K0 приблизительно равно K

(12∆t

). Нормируя все

члены, получаем геометрическую картину, показанную на рис. 8:вектор h(∆t) приблизительно равен сумме векторов

h(0) + k(12∆t

)+ ε[k(0),∆k(0)],

где ε — малая постоянная и поэтому h(0) = k(0). Более точно, ε == 1

12(∆t)2 и имеет порядок два относительно ∆t.

k(0)=h(0)

k(∆t)

k( ∆t)12

h(∆t)

Рис. 8. Аппроксимация

Предложение 2 доказано.Комментарий к доказательству предложения 2. Приведенное выше

рассуждение носило аналитический характер, однако ему можно при-дать простой и наглядный геометрический смысл. В первую очередь,


это касается нормировки членов формулы для H(t). Соответству-ющая процедура наглядно показана на рис. 9. Кривая H(t) входитв начало координат и ее касательным вектором в точке O = H(0)является вектор H ′(0) = K(0). Докажем, что h(t) стремится к k(0),когда t стремится к нулю. Поскольку кривая H(∆t) гладко входитв начало координат, то касательный вектор к ней очевидно стремитсяк вектору, получающемуся нормировкой вектора H(t), т.е. к векто-ру h(t). Этот факт ясно виден из рис. 9.

S2

k(0)=h(0)

O=H(0)

H (0)=K(0)’

H(t)

h(t) k(0) t 0

h(t)

Рис. 9. Нормировка

Приведем также еще одно доказательство теоремы 4, следуяА. А. Ошемкову. Оно является аналитическим, дополняет изложен-ные выше геометрические аргументы.

Итак, имеем уравнение X ′ = XK , где решение записываетсяв виде X(t) = X(0)eH(t) . Разложим H(t) в ряд:

H(t) = H(0) + tH ′(0) +t2

2H ′′(0) + o(t2).

Понятно, что H(0) = 0. Тогда

X(0)−1X = eH(t) =

=E+

(tH ′(0)+

t2

2H ′′(0)+o(t2)

)+1

2

(tH ′(0)+

t2

2H ′′(0)+o(t2)

)2

+o(t2)=

= E + tH ′(0) +t2

2H ′′(0) +

t2

2(H ′(0))2 + o(t2) =

= E + tH ′(0) +t2

2(H ′′(0) + (H ′(0))2) + o(t2).


Дифференцируя это выражение, получим

(X(0))−1X ′ = H ′(0) + t(H ′′(0) + (H ′(0))2) + o(t).

Аналогично: K = K(0) + tK ′(0) + o(t) и

X(0)−1XK = (E + tH ′(0) + o(t))(K(0) + tK ′(0) + o(t)) =

= K(0) + t(K ′(0) +H ′(0)K(0)) + o(t).

Учитывая, что X ′=XK , получаем H ′(0)=K(0) и H ′′(0)+(H ′(0))2 == K ′(0) +H ′(0)K(0), т.е. H ′(0) = K(0) и H ′′(0) = K ′(0).

Найдем теперь нормированный вектор k. Имеем

⟨K,K⟩ = ⟨K(0) + tK ′(0) + o(t),K(0) + tK ′(0) + o(t)⟩ == |K(0)|2 + 2t⟨K(0),K ′(0)⟩+ o(t).

Отсюда |K| = |K(0)| + t|K(0)|−1⟨K(0),K ′(0)⟩ + o(t) и

k = K/|K| == (K(0)+ tK ′(0)+ o(t))(|K ′(0)|+ t|K(0)|−1⟨K(0),K ′(0)⟩+ o(t))−1 =

= (K(0)+ tK ′(0)+o(t))|K(0)|−1(1− t|K(0)|−2⟨K(0),K ′(0)⟩+o(t)) == K(0)|K(0)|−1+t(K ′(0)|K(0)|−1−|K(0)|−3⟨K(0),K ′(0)⟩K(0))+o(t).

Аналогично для H :

⟨H,H⟩ = ⟨tH ′(0) +t2

2H ′′(0) + o(t2), tH ′(0) +

t2

2H ′′(0) + o(t2)⟩ =

= t2|H ′(0)|2 + t3⟨H ′(0), H ′′(0)⟩+ o(t3),

|H| = t|H ′(0)|+ t2

2|H ′(0)|−1⟨H ′(0), H ′′(0)⟩+ o(t2),

h = H ′(0)|H ′(0)|+

+t

2(H ′′(0)|H ′(0)|−1 − |H ′(0)|−3⟨H ′(0),H ′′(0)⟩H ′(0)) + o(t) =

= K(0)|K(0)|−1+

+t

2(K ′(0)|K(0)|−1 − ⟨K(0),K ′(0)⟩K(0)|K(0)|−3) + o(t).

Используем, что H ′(0) = K(0) и H ′′(0) = K ′(0). Итак, получилиk(0) = h(0). Доказательство завершено.


З а м е ч а н и е. Вектор [k(0),∆k(0)] ортогонален обоим век-торам k(0) и ∆k(0) (рис. 10), так как коммутатор [·,·] являетсяздесь обычным векторным произведением векторов в 3-пространстве.Следовательно, треугольник с вершинами k(0) = h(0), k(∆t) и h(∆t)(рис. 8) имеет приблизительно одинаковые длины сторон k(0)−h(∆t)и h(∆t)− k(∆t).

O

k + ∆k120 0

k +∆k0 0

k 0

ε[k ,∆k ]0 0

Рис. 10. Вектор [k(0),∆k(0)]

Прежде чем доказать теорему 5 для so(3), мы изучим эту задачув случае алгебры su(2).

12.3. ПЕРЕХОД ОТ so(3) К su(2). УПРОЩЕНИЕ УРАВНЕНИЯ МАГНУСАДЛЯ СЛУЧАЯ АЛГЕБРЫ ЛИ su(2)

В этом разделе мы покажем, как упрощается уравнение Магнусадля случая алгебры Ли su(2). Сначала напомним некоторые фактыоб алгебре so(3). Эта алгебра Ли является линейным простран-ством всех (3 × 3)-кососимметрических вещественных матриц X ,т.е. X⊤ = −X . Алгебра Ли so(3) изоморфна алгебре Ли su(2)группы SU(2). Изучив уравнение Магнуса на su(2), мы получим,следовательно, информацию о его решении для алгебры so(3). Алгеб-ра Ли su(2) является линейным пространством всех косоэрмитовых(2 × 2)-матриц с нулевым следом. Три матрицы

e1 =

(i 00 −i

), e2 =

(0 1−1 0

), e3 =

(0 ii 0

)образуют базис в su(2). Коммутационные соотношения здесь таковы:

[e1/2, e2/2] = e3/2, . . .


Каждая матрица H из su(2) представима в виде θh, где h2 = −E ,E — единичная матрица. Матрицы из su(2) будут обозначатьсябуквами с символом ∼, показывающим, что следует отличать их отматриц из алгебры so(3), обозначаемых обычными буквами.

Три матрицы

e1 =

(0 0 00 0 10 −1 0

), e2 =

(0 0 10 0 0−1 0 0

), e3 =

(0 1 0−1 0 00 0 0

)

образуют базис в so(3). Коммутационные соотношения таковы:

[e1, e2] = e3, . . .

Каждая матрица H из so(3) имеет вид H = θh, где θ — угол пово-рота 3-пространства вокруг оси, задаваемой единичным вектором h.Чтобы установить изоморфизм между su(2) и so(3), определим отоб-ражение

ξ : ei/2 → ei.

Матрица θh/2 отображается посредством ξ в матрицу θh. В част-ности,

eξ : eθh/2 → exp θh,

где exp — экспоненциальное отображение для группы SO(3). Сим-вол e мы используем для обозначения экспоненты в SU(2), а символexp для SO(3). Эти формулы отражают тот факт, что группа SU(2)является 2-листным накрытием над группой SO(3). Так, если мывозьмем матрицу expH = exph из SO(3), где θ — угол поворотав E3 , то оба прообраза этой матрицы в SU(2) являются матрицамис нормой θ/2.

Начиная с этого момента мы некоторое время будем работатьв su(2) и будем опускать символ ∼, чтобы не загромождать формулы.Чтобы перейти от su(2) к so(3), нужно просто умножить все нормы(в частности, θ и ω) на коэффициент 2.

Итак, запишем каждую матрицу (вектор) H из su(2) в следующемвиде: H = θh, где h2 = −E (здесь E — единичная матрица). Можноввести норму | · | в su(2) так, что θ = |H| и |h| = 1. Когда t меняется,мы получаем траекторию h(t) на сфере S2 в su(2).

Каждый элемент Y из su(2) является косоэрмитовой комплекс-ной (2 × 2))-матрицей с нулевым следом:

Y =

(ia z−z −ia

)=

(ia u+ iv

−u+ iv −ia

),

где a, u, v — вещественные числа.


З а м е ч а н и е. Все наши вычисления можно изложить на языкекватернионов, имея в виду возможный перенос наших результатов наслучай so(n) при помощи Клиффордовых алгебр.

Л е м м а 5. Каждая матрица Y из алгебры Ли su(2) можетбыть однозначно представлена в следующем виде:

Y = θh,

где θ > 0, θ = |Y | =(12 Trace

(Y Y

⊤))1/2

и h — косоэрмитова

(2 × 2)-матрица с нулевым следом, причем h2 = −E , где E —единичная матрица.

Д о к а з а т е л ь с т в о. Если Y ∈ su(2), то Y 2 = −θ2E , гдеE — тождественная (2× 2)-матрица и θ = (a2 + u2 + v2)1/2 = |Y | ==(12Trace

(Y Y

⊤))1/2

. Отсюда следует, что Y = θh, где |h| = 1

(так как h2 = −E) и θ = |Y |. Так как H = H(t) лежит в su(2), тоH = θh, где θ = |H|, h2 = −E , |h| = 1.

Л е м м а 6. Экспоненциальное отображение

exp: su(2) → SU(2)

задается следующей формулой:

eH = E cos θ + h sin θ.

Д о к а з а т е л ь с т в о следует из разложения eH =∑n

1n!H

n иH = θh, h2 = −E .

Если H — функция от t, то θ и h — тоже зависят от t. Итак,h = h(t) изображается кривой на единичной сфере S2 в E3 = su(2).Рассмотрим вектор-функцию h′ = d

dth(t) в E3 и ее норму |h′|.З а м е ч а н и е. Норма |X| матрицы X в su(2) равна обыч-

ной евклидовой длине вектора X , изображающего матрицу Xв R3 = su(2).

Рассмотрим точку h(t) на сфере S2 (рис. 11) и приложим из-вестный нам вектор K(t) к точке h(t). Рассмотрим касательнуюплоскость ThS

2 к сфере S2 в точке h ∈ S2 . Тогда вектор K(t)разлагается в сумму двух векторов: K = K∥+K⊥ , где K∥ параллеленрадиус-вектору h, и K⊥ лежит в плоскости ThS2 (рис. 11). Итак, прикаждом t мы имеем однозначное разложение

K(t) = K∥ +K⊥

в точке h(t).


S2

O

h

K

K

K

ThS

2

Рис. 11. Разложение вектора

П р е д л о ж е н и е 3. 1) Уравнение Магнуса

K(t) = e−H(t)[eH(t)

]′ или H ′ =adH

e− adH − 1(−K)

для функции H(t) на алгебре Ли su(2) эквивалентно следующе-му векторному уравнению в 3-пространстве E3 :

θ′h+ h′ cos θ sin θ − hh′ sin2 θ = K, (6)

где hh′ обозначает обычное произведение (2×2)-матриц h и h′

из алгебры Ли su(2).2) Предыдущее уравнение (6) также эквивалентно системе

двух векторных уравнений в E3 :

θ′h = K∥,

|h′| sin θ(α cos θ + α× h sin θ) = K⊥.(7)

Уравнения (7) являются ортогональными проекциями урав-нения (6) на два ортогональных подпространства в E3 : накасательную плоскость к сфере в точке h(t) и на радиус-вектор h(t). В уравнении (7) α × h обозначает обычное век-торное произведение двух векторов в E3 и H(t) = θ(t)h(t),K(t) = K∥(t) +K⊥(t).

3) Уравнение Магнуса можно записать также в виде одно-го векторного уравнения и одного скалярного:

h′ = (h+ E ctg θ)K⊥,

θ′ = ⟨K,h⟩.(8)

Здесь мы умножаем (2×2)-матрицы из su(2) в обычном смысле.


З а м е ч а н и е. Оказывается, произведение hh′ двух матрицh и h′ из su(2) (где h2 = −E) снова лежит в su(2) (см. доказатель-ство ниже).

Д о к а з а т е л ь с т в о. Возьмем производную по t:(eH(t)

)′= (cos θ + h sin θ)′t = −θ′ sin θ + h′ sin θ + hθ′ cos θ.

Получаем:

K(t) = eH(t)(−θ′ sin θ + h′ sin θ + hθ′ cos θ),

т.е.(cos θ − h sin θ)(−θ′ sin θ + h′ sin θ + hθ′ cos θ) = K.

Отсюда следует:

−θ′ cos θ sin θ + h′ cos θ sin θ + hθ′ cos2 θ+

+hθ′ sin θ − hh′ sin2 θ − h2θ′ sin θ cos θ = K.

Так как h2 = −E , то:

h′ cos θ sin θ + hθ′ − hh′ sin2 θ = K,

что и есть уравнение (6). Мы доказали первую часть предложения 3.Запишем h′ = |h′|α, где α2 = −E . Так как |h| = 1, то вектор α

ортогонален вектору h. Так как h и h′ — матрицы из алгебры Лиsu(2), то они косоэрмитовы со следом ноль.

Так как h2 = −E , то (h2)′ = 0 и hh′ + h′h = 0, т.е. hh′ = −h′h.Итак,

hh′ =1

2(hh′ − h′h) =

1

2[h, h′] = h× h′,

где h×h′ — это обычное векторное произведение в E3 . В частности(поскольку hh′ = 1

2 [h, h′]), произведение hh′ снова лежит в su(2).

З а м е ч а н и е. 1. Уравнение eH(t)K(t) = [eH(t)]′ получается приподстановке формулы X(t) = X(0)eH(t) в основное уравнение (2):X ′(t) = X(t)K(t). Подставляя, получаем

X(0)eH(t)K(t) = X(0)[eH(t)

]′,

и это верно при всех X(0).


2. Прямое вычисление показывает (так как a2 + u2 + v2 = 1):(ia u+ iv

−u+ iv −ia

)(ia′ u′ + iv′

−u′ + iv′ −ia′)

=

=

−aa′−uu′−vv′︸︷︷︸

равно нулю

+i(uv′−vu′) −av′ + va′ + i(au′ − ua′)

−va′ + av′ + i(−ua′ + au′) −vv′−uu′−aa′︸︷︷︸равно нулю

+i(−uv′+vu′)

.

Уравнение (6) можно переписать еще и так:

hθ′ + |h′| sin θ(α cos θ − h× α sin θ) = K.

Так как оба вектора α и α × h ортогональны к h, то векторα cos θ + α× h sin θ касается сферы S2 в точке h(t). Итак, hθ′ = K∥и |h′| sin θ(α cos θ + α × h sin θ) = K⊥ . Вторая часть предложения 3доказана.

Из уравнения (6)

h′ cos θ sin θ + hθ′ − hh′ sin2 θ = K = K∥ +K⊥

следует

θ′h = K и h′ sin θ(E cos θ + h sin θ) = K⊥,

т.е. h′ sin θ eθh = K⊥ .Следовательно,

h′ = K⊥e−θh

sin θи θ′ = ⟨K,h⟩.

Первое уравнение переписывается так:

h′ = K⊥

(E cos θ − h sin θ

sin θ

)= K⊥(E ctg θ − h).

Так как K⊥ ортогонально к h, то K⊥h = −hK⊥ и поэтому h′ == (h+E ctg θ)K⊥ . Итак, доказана третья часть предложения 3.

З а м е ч а н и е. Уравнение Магнуса можно записать еще и так:

h′ =1

2[h,K] +K⊥ ctg θ,

θ′h = K∥.(9)

Так как h и K⊥ антикоммутируют, то1

2[h,K] =

1

2[h,K⊥ +K∥] =

1

2[h,K⊥] =

1

2(hK⊥ −K⊥h) = hK⊥,

что и дает (9).


12.4. ГЕОМЕТРИЧЕСКАЯ ИНТЕРПРЕТАЦИЯУРАВНЕНИЯ МАГНУСА НА su(2)

Конечно, мы знаем функцию K(t) (она задана!), но мы не знаем ееразложения K = K⊥+K∥ , поскольку для этого нужно предваритель-но найти точку h(t) на сфере. Это обстоятельство можно записатьтак:

K(t) = K⊥(h(t)) +K∥(h(t)).

Левая часть формулы известна для всех t, однако векторы K∥ и K⊥становятся известными только если задана точка h(t).

Рассмотрим плоскость, касательную к сфере в точке h(t). Мыимеем два ортогональных единичных вектора α и α × h, гдеα = h′/|h′| (рис. 12). Вектор K⊥ также лежит в этой плоскости.Рассмотрим точку P на векторе α × h и на расстоянии |h′| отначальной точки h(t).

Θ

Θ

S1 |h |’

P

M

K

|h |’ h ’α =

h

α h

Рис. 12. Ортогональные векторы

Л е м м а 7. Второе из уравнений Магнуса (7) (содержа-щее силу K⊥) эквивалентно геометрическому соотношению,показанному на рис. 12: конец вектора K⊥ всегда лежит наокружности S1 , касательной к вектору α в точке h(t) и име-ющей диаметр |h′|. Угол между векторами K⊥ и α равен θ(в частности, мы получаем геометрическую интерпретациювеличины θ = |H|).

Д о к а з а т е л ь с т в о. Рассмотрим h′ = |h′|α и повернем век-тор α в положительном направлении на угол θ (рис. 12). Получаем


вектор α cos θ + α × h sin θ. Если умножить его на число |h′| sin θ,то получим точку M на окружности (рис. 12), так как угол междудиаметром и отрезком MP равен θ, где P — точка на сфере S2 ,определяемая h(t).

Векторы α и α × h единичны и ортогональны, следователь-но вектор α cos θ + α × h sin θ также единичный. Итак: (7), т.е.K⊥ = |h′| sin θ(α cos θ + α× h sin θ), что и требовалось.

Л е м м а 8. Если K — контролирующая сила, то уравне-ние Магнуса получает геометрическую интерпретацию, пока-занную на рис. 13: угол между h′ и K⊥ равен θ.

O

h

K

K

KΘ

h ’

y

y

ΘH= h

Рис. 13. Геометрическая интерпретация

Д о к а з а т е л ь с т в о сразу следует из леммы 7.

Л е м м а 9. Следующие формулы имеют место:

θ′ = |K∥|, |h′| = |K⊥|/ sin θ.

Д о к а з а т е л ь с т в о следует из (7)).

12.5. РАЗЛОЖЕНИЕ УРАВНЕНИЕ МАГНУСА НА su(2)ПО ОТНОШЕНИЮ К МЕРИДИАНАМ И ПАРАЛЛЕЛЯМ

Вектор K(t) является осью велосипедной системы координат насфере (рис. 14) и является вектором угловой скорости вращающихсямеридианов вокруг оси K(t) в момент t. Конец вектора k(t) можновзять за северный полюс N(t). Пусть µ — меридиан, а π — па-


раллель, проходящие через точку h(t) на S2 (рис. 14). Пусть L —вектор линейной скорости точки h при ее движении, индуцированномвращением меридиана µ вокруг оси k(t) с угловой скоростью ω .Рассмотрим также вектор R, задающий скорость движения точки hвдоль меридиана. Ясно, что вектор L касается параллели π , а век-тор R касается меридиана µ.

µ

h

R

L

N

K

Рис. 14. Вектор K(t)

Л е м м а 10. Уравнение движения h′ = L+R эквивалентновекторной части уравнения Магнуса (8) и является ортого-нальным разложением вектора скорости h′ в сумму двух ор-тогональных векторов касательных к сфере и направленныхвдоль параллели π и меридиана µ. Итак, уравнение Магнусазаписывается так:

h′ = L+R и θ′ = ⟨K,h⟩

Далее,

|L| = ω sin y, |R| = ω ctg θ sin y, θ′ = ω cos y,

где y — угол между векторами h и k (рис. 15). Кроме того,R = ctg θK⊥ .

Д о к а з а т е л ь с т в о. Так как L — вектор угловой скороститочки меридиана µ, которая в момент времени t занята точкой h(t),и так как L касается π , то |L| = ω sin y . Также |K∥| = ω cos y и|K⊥| = ω sin y (см. рис. 13).

Вектор K⊥ касается меридиана µ (рис. 15), так как K⊥ = K−K∥(рис. 11). Вектор K⊥ всегда ориентирован в направлении северного


K

K

R

PO

h

k

h ’

ΘΘ

Ly

µ

π

Рис. 15. Угол y

полюса N . Итак, вектор hK ортогонален векторам h и K⊥ и поэтомуhK⊥ параллелен вектору L. С другой стороны, мы имеем |hK⊥| == |K⊥| = |K| sin y = ω sin y (рис. 13), т.е. |L| = |hK⊥|, и поэтомуL = hK⊥ . Из (8) следует, что L = hK⊥ и что h′ = L + ctg θK⊥ == L+R. Отсюда следует, что R = ctg θK⊥ . Лемма доказана.

12.6. ДОКАЗАТЕЛЬСТВО ТЕОРЕМЫ 5 ДЛЯ СЛУЧАЯ so(3)

Теперь мы вернемся к случаю so(3) и рассмотрим силу K , управ-ляемую 2-кривизной. Тогда уравнение Магнуса записывается так:

h′µ = L и h′π = R,

|h′µ| = |L| = ω

2ctg

θ

2sin y,

|h′π| = |R| = ω

2sin y,

θ′/2 = (ω/2) cos y или θ′ = ω cos y,

где угол между h′ и меридианом µ равен θ/2. Здесь h′µ — этопроекция h′ на меридиан, а h′π — это проекция h′ на параллель, т.е.на направление, ортогональное µ.

Л е м м а 11. а) Если K(t) — сила, управляемая 2-кривиз-ной на so(3), то Гринвичский меридиан µ(t) всегда касаетсякривой k в точке k(t), где меридиан µ(t) является образомначального меридиана µ(0) в момент времени t под действиемвращения (ω/2)-велосипедной системы координат.

б) Точка h(t) не имеет движения вдоль параллели отно-сительно движущейся (ω/2)-велосипедной системы координатна сфере. Итак, точка h(t) всегда лежит на движущемся ме-ридиане µ(t) и может двигаться лишь вдоль меридиана µ(t).При этом h(t) — это точка пересечения движущегося мери-диана µ(t) с кривой h(t).


Д о к а з а т е л ь с т в о. а) Предположим для простоты, что па-раметр t вдоль кривой k является натуральным, т.е. t = s. Тогдапервое утверждение леммы следует из хорошо известного определе-ния кривизны кривой как скорости вращения касательного векторак кривой.

Начальный Гринвичский меридиан µ(0) касается кривой k в точ-ке s = 0. Меридиан µ(s) имеет вид g(s)µ(0), где g(s) = g(s)2есть результирующее (ω/2)-велосипедное вращение. Так как сила Kуправляется 2-кривизной, то ω(s) = 2r(s), где r(s) — это кривизна k(на сфере, а не в объемлющем E3). Хорошо известно, что производ-ная угла поворота вектора скорости плоской кривой равна кривизнекривой (относительно натурального параметра).

Тем самым, доказательство пункта (а) завершено для случаянатурального параметра. Случай произвольного параметра, очевидно,следует отсюда.

µ(t) L

h’h(t)

k(t)k’

k(0)

R Θ12

Рис. 16. Вращение движущейся системы координат

б) Рассмотрим движущуюся систему координат. Так как L —это ортогональная проекция вектора скорости h′ на направлениемеридиана, то компонента скорости h′ в направлении параллелисовпадает с линейной скоростью точки h(t), увлекаемой меридиа-ном при вращении движущейся системы координат вокруг оси k(t)(рис. 16).

Скорость точки h(t) на меридиане является суммой двух скоро-стей: движения вдоль направления касательной к k (эта скоростьравна k′) и вращения меридиана вокруг точки k(t) со скоростьюω(t)/2. Это означает, что горизонтальная компонента относительнойскорости точки h(t) по отношению к движущейся системе координаттождественно равна нулю. Итак, точка h движется только вдольмеридиана µ в движущейся системе координат.


Л е м м а 12. Точка h(t) остается все время на начальноммеридиане µ(0), поэтому h(t) является точкой пересечениямеридианов µ(0) и µ(t).

Д о к а з а т е л ь с т в о. Мы дадим два доказательства. Первоеопирается на свойства мультипликативного интеграла. Напомним, что

g(t) = eH(t) = limN→∞

etNK1 · . . . · e

tNKN ,

где Ki = K(ti/N), i = 1, . . . , N .Рассмотрим движение вдоль кривой k(t), но в противоположном

направлении: от точки k(t) до точки k(0). Тогда результирующеевращение g(t) имеет следующий вид:

g(t) = eH(t) = limN→∞

e−tNKN · . . . · e

−tNK1 .

Повторяя те же аргументы, что и для вращения g(t), мы видим, чтоГринвичский меридиан µ(0) = µ(t) касается кривой k в точке k(0) == k(t). Далее, h(t) ∈ µ(t) = µ(0), и из формулы

eH(t) = limN→∞

e−tNKN · . . . · e

−tNK1 =

(limN→∞

etNK1 · . . . · e

tNKN

)−1= e−H(t)

следует, что h(t) = −h(t). Отсюда следует: h(t) ∈ µ(0). Леммадоказана.

Дадим теперь второе доказательство.Рассмотрим интервал времени (0, t) и введем новый параметр u

вдоль кривой k от u = 0 до u = t. Далее, рассмотрим новоедифференциальное уравнение, связанное с исходным так:

X′v(v) = X(v)K(v),

где v = t − u, u = t − v и X(v) = X(t − v) = X(u).Тогда получаем

X′v(v) =

d

dvX(t− u) = − d

duX(t− v) = − d

duX(u).

Итак, X′v(v) = −X ′

u(u) = −X(u)K(u) = X(v)(−K(u)).С другой стороны, X

′v(v) = X(v)K(v). Из этого сравнения

получаемK(v) = −K(u).


Итак, X(v) = X(0)eH(v) , и значит,

X(t) = X(0)eH(t), X(0) = X(t)eH(t) и X(t) = X(0)e−H(t).

Отсюда следует, что H(t) = −H(t). Далее повторяем аргументы из1-го доказательства.

З а м е ч а н и е. Доказательство леммы 12 показывает, что об-ратное движение вдоль кривой k отвечает силе G(u) = −F (t− u) == −K(u). Для кривой k(t) движение от k(0) до k(t) вращает ка-сательный меридиан µ против часовой стрелки. Движение же от k(t)к k(0) вращает касательный меридиан по часовой стрелке. Теорема 5полностью доказана.

Θ12

Θ12 µ(0)

µ(t) µ(t+∆t)Θ1

2

y

k

∆ϕ= ω∆t12

Рис. 17. Движение касательного меридиана

Интересно отметить, что уравнение

θ′ = ω cos y

согласовано с полученной геометрической картиной. Рис. 17 показы-вает движение касательного меридиана µ(t) в случае, управляемом2-кривизной. Мы хотим доказать, что соотношение θ′ = ω cos yвыполнено для точки пересечения µ(t) и µ(0). Из рис. 17 видно, чтодля заштрихованного сферического треугольника выполнено такоеравенство: (θ+π−θ+∆φ)−π = площадь треугольника. Легко видеть,что площадь бесконечно тонкого сферического треугольника равна

∆φ(1− cos y),

где ∆φ = ω∆t. Это следует из того факта, что площадь сферическогодиска радиуса y (измеренного вдоль меридиана) равна 2π(1− cos y).Итак, θ − θ = ∆φ− area = ∆φ−∆φ(1− cos y) = ∆φ cos y , и потомуθ′ = ω cos y .


§ 13. ПРЯМОЕ ГЕОМЕТРИЧЕСКОЕ ИНТЕГРИРОВАНИЕУРАВНЕНИЯ X′ = XK НА АЛГЕБРЕ su(2) ДЛЯ

СЛУЧАЯ СИЛЫ K , УПРАВЛЯЕМОЙ 1-КРИВИЗНОЙ

Т е о р е м а 6. а) Рассмотрим уравнение X ′ = XK на su(2),где контролирующая сила K(t) управляется 1-кривизной (т.е.k(t) имеет кривизну r(t) ≡ 0 и r = ωdt/ds), где нормирован-ная кривая k(t) = K(t)/ω(t) лежит на 2-сфере. Рассмотриммеридианы (большие круги сферы) ρ(0) и ρ(t), касающиеся кри-вой k соответственно в начальной точке k(0) и в ее конечнойточке k(t). Тогда точка пересечения этих меридианов естьв точности искомая точка h(t) (рис. 18). Угол между ρ(0) и ρ(t)равен θ(t).

k(0)

k(t)

h

ρ(0)ρ(t)

Θ

y

Рис. 18. Точка пересечения меридианов

б) Решение уравнения для случая su(2) имеет поэтому вид

X(t) = X(0)eθ(t)h(t),

где θ(t) и h(t) описаны выше.З а м е ч а н и е. Здесь нужно рассматривать ω-велосипедную

систему координат, в отличие от (ω/2)-велосипедной системы, ко-торую мы изучали в случае so(3). Гринвичский меридиан ρ(t)λ=1касается кривой k(t) при всех t. Движение точки h(t) и изменениескаляра θ(t) полностью определяется эволюцией двух касательныхокружностей: одна берется в начальной точке, а вторая — в конечнойточке k(t).

С л е д с т в и е 3. В случае силы K , управляемой 1-кривиз-ной на su(2) точка h всегда движется вдоль фиксированногобольшого круга на сфере. Эта окружность является меридиа-ном сферы, касающимся кривой k в ее начальной точке k(0).

Д о к а з а т е л ь с т в о следует из § 12 путем замены θ/2 и ω/2на θ и ω во всех формулах.


§ 14. ПРЯМОЕ ГЕОМЕТРИЧЕСКОЕ ИНТЕГРИРОВАНИЕУРАВНЕНИЯ X′ = XK ДЛЯ УПРАВЛЯЕМОГО2-КРИВИЗНОЙ СЛУЧАЯ НА АЛГЕБРЕ ЛИ e(2)

Рассмотрим бесконечно малую окрестность точки k(0) на сфе-ре S2 и будем считать, что мы изучаем эволюцию системы X ′ = XKтолько в этой малой области на сфере. Тогда действие группы ЛиSO(3) в этой области эквивалентно действию группы E(2) движенийевклидовой 2-плоскости. Отсюда следует, что теорема 5 остаетсясправедливой и для случая e(2) без каких-либо существенных изме-нений.

Мы можем отождествить алгебру e(2) с евклидовым 3-простран-ством. Фиксируем 2-плоскость (в 3-пространстве e(2)), изображаю-щую евклидову 2-плоскость, на которой группа Ли E(2) действуетвращениями и параллельными переносами. Напомним, что любойэлемент группы E(2) является либо вращением вокруг некоторойточки 2-плоскости, либо параллельным переносом вдоль какого-либовектора на 2-плоскости.

Будем считать, что вектор-функция K(t) берется из той ча-сти er(2) алгебры Ли e(2), которая отображается во вращенияв группе E(2) при экспоненциальном отображении. Эта часть алгеб-ры e(2) естественно отождествляется с множеством векторов дли-ны ω(t), ортогональных плоскости R2 , при этом начальная точкавектора изображает ту точку 2-плоскости, вокруг которой происходитповорот.

Нормированная кривая k(t) лежит в плоскости, параллельнойкоординатной 2-плоскости и отстоящей от нее на расстоянии 1 (таккак k(t) = K(t)/ω). Кривизна этой плоской кривой является обычнойкривизной кривой в евклидовой плоскости. Ясно, что эта криваяполучается параллельным переносом (вверх на единицу) кривой, об-разованной в координатной 2-плоскости начальными точками векто-ров k(t).

Итак, мы должны попросту заменить сферу S2 случая so(3) на2-плоскость в случае e(2). Точка h(t) чертит при этом некоторуютраекторию в 2-плоскости и эта кривая (как и раньше) касаетсякривой k в ее начальной точке (рис. 19).

Т е о р е м а 7. Рассмотрим уравнение X ′ = XK на ча-сти er(2) алгебры Ли e(2) группы Ли E(2) движений R2 дляслучая силы K , управляемой 2-кривизной. Рассмотрим кри-вую k(t) начальных точек на плоскости R2 . Тогда точка h(t)и угол θ(t) восстанавливаются точно так же, как и в слу-чае so(3) (рис. 16), т.е. h(t) является точкой пересечения двухпрямых линий µ(0) и µ(t), касающихся кривой k в точках


e(2)=

2

3

h(t) k(t)k(0)

K(t)

Рис. 19. Точка h(t)

k(0) и k(t) соответственно. Угол между µ(0) и µ(t) равен θ/2.Итак, решение исходного уравнения имеет вид

X(t) = X(0)eθ(t)h(t).

Ясно, что уравнение Магнуса (когда радиус 2-сферы стремитсяк бесконечности и сфера превращается в плоскость) приобретает вид:

h′µ = L и h′π = R,

|h′µ| = |L| = ωy

2ctg

θ

2, |h′π| = |R| = ωy

2, θ′ = ω,

где y — расстояние между h(t) и k(t) и угол между вектором h′ илинией µ равен θ/2.

§ 15. СХЕМА ДРУГОГО ДОКАЗАТЕЛЬСТВА ТЕОРЕМЫ 7ДЛЯ СЛУЧАЯ e(2) БЕЗ ИСПОЛЬЗОВАНИЯ

su(2)- ИЛИ so(3)-ВЫЧИСЛЕНИЙ

Излагаемое здесь второе доказательство предложено С. С. Ани-совым. Мы приводим его, поскольку оно позволяет взглянуть на туже проблему интегрирования под другим углом зрения.

Как было отмечено ранее, хорошо известно, что любой элементгруппы E(2) является вращением на некоторый угол φ вокруг неко-торой точки (p, q) на 2-плоскости, либо параллельным переносом понаправлению некоторого вектора v на плоскости. Композиция любыхдвух таких операций снова дает операцию одного из этих двух типов.

Также хорошо известно, что логарифм вращения вокруг неко-торой точки на некоторый угол φ задается матрицей, зависящейот точки и умноженной на число φ(mod2π), а логарифм сдвига навектор v является производной по направлению v , умноженной нанорму |v|, если рассматривать сдвиг как оператор на пространствегладких функций (определенных на плоскости).


Часть er(2) алгебры Ли e(2), соответствующая вращениям,отождествляется с пространством R3 , из которого выброшена2-плоскость. Координатами здесь служат (p, q, φ), где φ — уголповорота. Мы считаем здесь, что кривая K(t) лежит в er(2).

Обе кривые h(t) и k(t) можно считать расположенными в плос-кости (p, q), как было описано в предыдущем параграфе. Движуща-яся система координат или (ω/2)-велосипедная система координатна 2-плоскости конструируется точно так же, как и в предыдущихпараграфах. Скорость вращения этой системы координат вокруг точ-ки k(t) равна (ω/2)dt/ds, где s — это длина дуги вдоль кривой k.Гринвичский меридиан системы мы снова обозначим через µ(t).

Система X ′ = XK и контролирующая сила K называютсяуправляемыми 2-кривизной, если

r(t) = (ω/2)ds/dt,

где r(t) — это кривизна k.Можно показать (см. выше), что Гринвичский меридиан µ(t)

всегда касается кривой k в точке k(t). Рассмотрим элементH(t) = θ(t)h(t), являющийся логарифмом мультипликативного инте-грала Πeωk∆t .

П р е д л о ж е н и е 4. Если θ(t) принадлежит интервалу(0, 2π), то точка h(t) принадлежит Гринвичскому меридиа-ну µ(t).

Д о к а з а т е л ь с т в о. Рассмотрим ортогональное разложение

h′ = h′µ + h′π,

где h′µ — это проекция на µ, а h′π — это проекция на направление,ортогональное к µ. Достаточно доказать, что |h′π| равно скороститочки h(t) на µ(t) при вращении меридиана µ вокруг точки k(t)с угловой скоростью ω/2.

Отметим, что если eH(t) — вращение на угол, принадлежащийинтервалу (0, 2π), то h(t) очевидно является некоторой однозначноопределенной неподвижной точкой на плоскости R2 .

Рассмотрим композицию преобразований в момент времени t+∆t:

e∆tω(t)k(t)eθ(t)h(t) = e∆tKeH = eθ∗h∗ .

Вращение eθ∗h∗ является результирующим вращением вокруг

некоторой новой точки h∗ = h(t + ∆t) (близкой к точке h = h(t))на угол θ∗ , который приблизительно равен углу θ (с точно-стью до o(∆t)). Мы хотим найти положение новой точки h∗ .Геометрическая картина преобразования здесь такова. Окрестность


точки h(t) сначала поворачивается вокруг точки h(t) на угол θ, азатем сдвигается параллельным переносом по направлению вектора,который ортогонален меридиану µ(t) и имеет норму, равную ωy∆t(рис. 20). Здесь y = |k(t), h(t)| — это длина дуги меридиана междуточками k(t) и h(t).

k(t)∆ϕ=ω∆t

e∆tωk

QP

h

y

Θ

*h

Θ12

∆th =’

Θ12

hQ =∆tωy

12∆tωy

∆th ’ ∆th ’

Рис. 20. Геометрическая картина преобразования

Новая неподвижная точка h∗ = h(t + ∆t) обладает следующимисвойствами:

1) угол между µ и вектором скорости h′ равен θ/2,2) |h(t), h(t + ∆t)| sin(θ/2) = ωy∆t/2.Так как h∗ — это неподвижная точка нового вращения h∗ , и

так как под действием этого вращения точка h переходит в точку Q(рис. 20), то отрезок (h, h∗) переходит в отрезок (h∗, Q). Так какугол между (h∗, h) и (h∗, Q) равен θ, то угол между (h∗, h) и (h∗, P )равен θ/2. Итак, |h, h∗| = |h∗, Q| и прямая (k, h∗) пересекает отрезок(h,Q) в точке P , являющейся серединой отрезка (h,Q). Далее,так как |h,Q| = ωy∆t, то |h, P | = |∆th′⊥| = |∆th′| sin(θ/2) = ωy∆t/2.

Когда ∆t стремится к нулю, то в пределе мы получаем

h′⊥ = ωy/2.

С другой стороны, скорость точки h на меридиане µ (т.е. скоростьтой точки меридиана, которая в данный момент занята точкой h), поддействием вращения меридиана µ(t) вокруг k(t) со скоростью ω/2также равна ωy/2. Итак, эти две скорости равны и мы видим, чтоточка h(t) все время остается на меридиане µ(t) при его движении.Предложение доказано.


Для завершения доказательства теоремы 7 достаточно повторитьзаключительные аргументы, уже приведенные нами выше в первомдоказательстве теоремы.

Теорема 7 полностью доказана.Следующая таблица суммирует все аналогии и все различия меж-

ду интегрированием задачи в случае трех указанных алгебр Ли.

su(2) so(3) e(2)

θ θ/2 θ/2

ω ω/2 ω/2

сила K, управляемая1-кривизной



ω-велосипеднаясистема

ω2

-велосипеднаясистема

ω2


|k, h| = sin y |k, h| = sin y |k, h| = y

θ′ = ω cos y θ′ = ω cos y θ′ = ω

§ 16. ИНТЕГРИРОВАНИЕ УРАВНЕНИЯ X′ = XKДЛЯ СЛУЧАЯ, УПРАВЛЯЕМОГО КРИВИЗНОЙ

НА АЛГЕБРАХ ЛИ sl(2,R) И sl(2,R)+

Случай алгебр Ли sl(2,R) и sl(2,R)+ очень похож на случайалгебр Ли so(3) и su(2). Этого следовало ожидать, так как ал-гебры Ли su(2) и sl(2,R) являются соответственно компактной инекомпактной вещественными формами одной и той же комплекснойалгебры Ли sl(2,C). Группа SL(2,R) является двулистным накрытиемнад группой SL(2,R)+ , так как

SL(2,R)+ = SL(2,R)/Z2.

Т е о р е м а 8. Дифференциальное уравнение X ′ = XK наалгебрах Ли sl(2,R) и sl(2,R)+ для управляемого 1-кривизнойслучая и для управляемого 2-кривизной случая соответствен-но, можно решить той же процедурой прямого геометриче-ского интегрирования, как и в случае алгебр su(2) и so(3),с одним лишь естественным отличием: нужно заменить боль-шие круги 2-сферы геодезическими линиями на гиперболической2-плоскости (Лобачевского). Это означает, что точка h(t)является точкой пересечения двух геодезических линий на ги-перболической 2-плоскости, которые касаются кривой k(t) в ее


начальной и конечной точках. Угол поворота θ(t) (соответ-ственно, θ/2) вычисляется как угол между этими двумя лини-ями в случае sl(2,R) (соответственно, sl(2,R)+).

Для доказательства нужно повторить предыдущие рассуждения,но заменив во всех формулах функции sin, cos и ctg их гиперболи-ческими аналогами: sh, ch, и cth.

Результат суммируется в следующей таблице:

sl(2,R) sl(2,R)+

θ θ/2

ω ω/2



ω-велосипеднаясистема

ω2


|k, h| = sh y |k, h| = sh y

θ′ = ω ch y θ′ = ω ch y

Напомним, что группа SL(2,R) является группой симплектиче-ских (однородных) преобразований плоскости (т.е. сохраняющих пло-щадь на плоскости), а группа SL(2,R)+ является группой собствен-ных изометрий гиперболической плоскости.

Теорему 8 можно доказать напрямую, минуя ссылки на общуютеорию компактных и некомпактных вещественных форм простыхкомплексных алгебр Ли. Дадим набросок этого прямого доказатель-ства.

Алгебра Ли sl(2,R) состоит из матриц следующего вида:

X =

(a bc −a

),

где a, b, c — произвольные вещественные числа. Легко видеть, чтоX2 = m2E , где E — единичная матрица и m2 = a2 + bc. Итак, еслиматрица H принадлежит sl(2,R), то ее всегда можно представитьв виде

H = θh,

где θ2 = −detH = a2 + bc и deth = −1. Из формулы H2 = θ2Eследует, что

eH = E ch θ + h sh θ.


Эта формула похожа на формулу случая su(2). Отождествималгебру Ли sl(2,R) с 3-пространством R3 с координатами a, b, c.Тогда псевдосфера в этом пространстве задается уравнением

θ2 = −1, т.е. a2 + bc = −1.

Уравнение a2 + bc = −1 определяет двумерный гиперболоидв 3-пространстве (рис. 21). После преобразования

b = b′ + c′ и c = b′ − c′

мы получаем уравнение a2 + b′2 − c′2 = −1, которое дает картину,показанную на рис. 21. Итак, кривые k и h лежат на гиперболоиде,который изображает гиперболическую плоскость (плоскость Лоба-чевского), стандартным образом реализованную в псевдоевклидовом3-пространстве.

-1

0 1

c

b

α

’

’

Рис. 21. Двумерный гиперболоид

Чтобы получить доказательство теоремы 8, достаточно повторитьаргументы, использованные в случае su(2) с учетом очевидных изме-нений, отмеченных выше.

§ 17. СЛУЧАЙ ПРОИЗВОЛЬНЫХ КОНЕЧНОМЕРНЫХГРУПП И АЛГЕБР ЛИ

Представляется интересным попытаться расширить изложенныевыше исследования на случай произвольных полупростых групп Ли.Будем опираться здесь на некоторые соображения, предложенныеА. А. Ошемковым.

Пусть g — группа Ли, а G — ее алгебра. Уравнение видаdX/dt = XK записывалось выше в матричной форме, т.е. когда былофиксировано какое-то матричное представление группы и алгеб-ры Ли. Однако подобное уравнение можно записать в инвариантном


виде, не используя матричного представления. Будем считать, чтоX(t) — это некоторая кривая в группе Ли g, а K(t) — некотораякривая в алгебре Ли G группы g. Здесь K(t) считается известнойкривой (гладкой или кусочно-гладкой) в алгебре Ли G = Teg. Тогдамы можем записать следующее дифференциальное уравнение:

dX/dt = deLX(t)(K(t)).

Здесь Lg : g → g — левый сдвиг на группе Ли g, т.е. Lg(a) = ga(умножение в группе двух элементов), а dcLg : Tcg → Tgcg — диффе-ренциал левого сдвига. Таким образом, записанное выше уравнениеявляется естественным обобщением матричного уравнения, изучае-мого в настоящей работе.

Можно предложить еще одну инвариантную запись подобногоуравнения на группе Ли. Можно искать такую кривую X(t) в груп-пе g, что dX(t)/dt является значением левоинвариантного векторногополя, определяемого кривой K(t) в точке группы X(t). Покажем,что из предлагаемой выше инвариантной записи дифференциальногоуравнения вытекает его матричная запись, обсуждавшаяся выше.В самом деле, в случае матричной группы Ли и алгебры Ли мы имеемследующие соотношения:

LA(B) = AB , где A,B принадлежат g,deLA(v) = Av , где A принадлежит g и v принадлежит Teg,dcLA(v) = Av , где A ∈ g и v ∈ Tcg, т.е. v = cu, где u ∈ Teg.

Отсюда и следует, что dX/dt = XK в матричной записи.Другими словами, можно считать, что нам задано левоинвари-

антное векторное поле K , зависящее от времени t, и мы ищеминтегральные траектории (решения) динамической системы (неавто-номной), определяемой этим полем.

Если представить кривую X(t) в виде eH(t) , где H(t) — криваяв алгебре Ли G (так можно считать по крайней мере в некоторойоткрытой окрестности единичного элемента, быть может малой), тодифференциальное уравнение переписывается в следующем виде:

d

dt

(eH(t)

)= eH(t)K(t).

П р е д л о ж е н и е 5. Пусть известно, что кривая A(t) яв-ляется решением уравнения dX/dt = Xa, а кривая B(t) явля-ется решением уравнения dX/dt = Xb. Тогда кривая (A(t)B(t))является решением для уравнения dX/dt = X(B−1aB + b).

Д о к а з а т е л ь с т в о. Итак, доказываем, что A(t)B(t) — яв-ляется решением уравнения X ′ = X(B−1aB+b). С одной стороны,

X ′ = (A(t)B(t))′ = A′(t)B(t) +A(t)B′(t),


где A(t) — это решение уравнения X ′ = Xa, поэтому A′ = Aa;аналогично B′ = Bb. Значит X ′ = AaB+ABb. С другой стороны,

X(B−1aB + b) = AB(B−1aB + b) = AaB +ABb.

Предложение доказано.Например, если известно решение уравнения dX/dt = XK , то

решением уравнения dY/dt = Y K для K = e−taKeta + a будет сле-дующая кривая: Y (t) = X(t) exp(at), где X(t) — решение уравненияdX/dt = XK .

Отметим частный случай, который можно назвать линейно-геодезическим по аналогии с тем, который был рассмотрен выше вслучае матричных групп Ли малой размерности.

С л е д с т в и е 4. Если K(t) = etAK0e−tA , (где K0 = K(0) и

A = const), то имеет место формула X(t) = et(A+K0)e−tA .Д о к а з а т е л ь с т в о. В самом деле:

dX

dt=

d

dt

(et(A+K0)e−tA

)=

=d

dt

(et(A+K0)

)e−tA + et(A+K0) d

dt

(e−tA

)= et(A+K0)K0e

−tA.

Далее,

XK =(et(A+K0)e−tA

)(etAK0e

−tA) = et(A+K0)K0e−tA.

Сравнивая две последние формулы, получаем доказательствопредложения.

Отметим, что линейно-геодезический случай получается из пред-ложения 5 тогда, когда a = A + K0 , b = −A. В самом деле, здесьмы имеем

B−1aB + b = eAt(A+K0)e−At = eAtK0e

−At.

Следствие доказано.Оказывается далее, что верно следующее утверждение, отмечен-

ное А. А. Ошемковым.П р е д л о ж е н и е 6. Если кривая K(t) лежит в подалгеб-

ре F алгебры Ли G, то задача интегрирования уравненияредуцируется, т.е. искомая кривая H(t) также будет лежатьв подалгебре F . Напомним, что речь идет об уравнении

d

dt

(eH(t)

)= eH(t)K(t).


Д о к а з а т е л ь с т в о. Пусть K(t) лежит в F . Напомним связьмежду K(t) и H(t), а именно:

K(t) = e−H(t) d

dt

(eH(t)

).

Если H(t) лежит в F , то и K(t) лежит в F . В самом деле, eH(t)

является кривой, целиком лежащей в подгруппе expF , а ddt e

H(t) —это вектор скорости этой кривой. Умножением на элемент e−H(t) мыпереносим этот вектор скорости в единицу группы, а следовательно,получаем вектор из касательной плоскости к подгруппе expF , т.е.вектор из F .

Верно и обратное. Из только что сказанного вытекает, что век-торы K(t) можно рассматривать как результат левых сдвигов наэлементы вида e−H(t) вектора скорости к кривой eH(t) . Вспомним,что алгебру Ли можно трактовать как пространство (множество)левоинвариантных векторных полей на соответствующей группе Ли.Тогда понятно, что кривая exp(H(t)) лежит в подгруппе, соответ-ствующей подалгебре F . Но в таком случае H(t) принадлежит F .Утверждение доказано.

Рассмотрим следующий пример.П р е д л о ж е н и е 7. Пусть

K(t) = ef(t)C f(t)K0

(e−f(t)C

),

где K = const из алгебры G, и также C = const из алгебры G,т.е. вектор k(t) движется по окружности на сфере с центромна оси C , а ω(t) = f(t)ω0 , где K0 = k0ω0 .

Тогда X(t) = ef(t)(C+K0)e−f(t)C является решением уравненияdX/dt = XK .

Д о к а з а т е л ь с т в о. В самом деле:

dX

dt=

d

dt

(ef(t)(C+K0)

)e−f(t)C + ef(t)(C+K0)

d

dt

(e−f(t)C

)=

= f(t)(ef(t)(C+K0)

)(C+K0)

(e−f(t)C

)+ef(t)(C+K0)(−f(t)C)·e−f(t)C =

= f(t)K0ef(t)(C+K0)e−f(t)C .

При этом

XK = ef(t)(C+K0)e−f(t)C ,

ef(t)C f(t)K0e−f(t)C = f(t)ef(t)(C+K0)K0e

−f(t)C .

Доказательство закончено.


Отметим, что этот пример получается по общей схеме, изложен-ной выше, при условии, что

a = f(t)(C +K0), b = −f(t)C.

Тогда A = ef(t)(C+K0) и B = e−f(t)C .


1. C h a c o n R. V., F o m e n k o A. T. Recursion formulas for the Lie integral.Advances in Math. 1991. 88, 2. 200–257.

2. C h a c o n R. V., F o m e n k o A. T. Geometrical integration of the connectionequation X ′ = XK for so(3), su(2), e(2), sl(2,R), and sl(2,R)+ . C. R. Math.Rep. Acad. Sci. Canada. 1994. 16, 4. 113–148.

3. C h a c o n R. V., F o m e n k o A. T. Stokes’ formula for Lie algebra valued con-nection and curvature forms. Advances in Math. 1991. 88, 2. 258–300.

4. F e y n m a n R. C. An operator calculus having applications in quantum electrody-namics. Phys. Rev. 1951. 84, 2. 108–128.

5. B i a l y n c k i - B i r u l a I., M i e l n i k B., P l e b a n s k i J. Explicit solution ofthe continuous Baker–Campbell–Hausdorff problem and a new expression for thephase operator. Ann. Phys. 1969. 51. 187–200.

6. K a r a s e v M. V., M o s o l o v a M. V. The infinite products and T -products ofexponents. J. Theor. Math. Phys. 1976. 28, 2. 189–200.

7. C h e n K. - T. Integration of paths, geometric invariants and a generalized Baker–Hausdorff formula. Ann. of Math. 1957. 65. 163–178.

8. Ф о м е н к о А. Т., Ч а к о н Р. В. Рекуррентные формулы для однородных чле-нов сходящегося ряда, представляющего логарифм мультипликативного интегралана группах Ли. Функц. анализ и его прил. 1990. 24, 1. 48–58.

ТРУДЫ СЕМИНАРАdfgm.math.msu.su/spec/rashevskii/tsvta_xxvii.pdf · явил...

Documents