● 摘要
天体力学作为保守动力学(特别是哈密顿系统)的重要来源之一，其发展对非线性科学的发展具有重要意义。天体力学中的有一类经典问题–N体问题，是天体力学中各个分支学科的共同基础课题。众所周知，N体问题中存在混沌现象。这可追溯到十九世纪末期，庞加莱在研究三体问题时他发现了“同宿栅栏”，被看作是混沌现象的首次描述。近些年来，伴随着人们对混沌现象的广泛关注和研究，N体问题中的混沌现象也引起人们的极大兴趣，并取得了丰硕的成果。
在银河系中，大约三分之二的恒星是以多星系统的一部分存在的，并且多星系统将近五分之一是三倍星体。进一步的，这些三倍星体的五分之一属于四倍星体或者更多倍的星体，这些现象都可以由四体问题来刻画。因此，四体问题越来越多的被应用于研究太阳系以及系外行星系统中的复杂现象。因此，在此背景下，我们提出研究一类平面限制性四体问题的混沌动力学行为是非常有意义的。
Melnikov方法是用来研究系统中存在混沌运动的解析方法。本论文建立在N体问题的哈密顿量的基础上，把Melnikov方法推广应用到了平面限制性四体问题中，从而证明了平面限制性四体问题中横截同宿轨道的存在性。但是，由于该类系统中平衡点的退化性导致了标准的Smale-Birkhoff 同宿定理不能直接用来证明Smale马蹄的存在性。于是，我们提出应用Conley-Moser条件去替代标准的Smale-Birkhoff 同宿定理，从而证明了平面限制性四体问题中Smale 马蹄的存在性，得到了平面限制性四体问题中存在Smale马蹄意义下的混沌动力学行为这一结论。除此之外，本论文还用Conley-Moser条件证明了经典的平面圆形限制性三体问题中Smale马蹄的存在性。这里所谓“限制性”指的是在N体问题中，其中一个质点的质量趋近于零的极限情况。
本论文的研究内容及取得的创新性成果主要有以下几个方面：
1.建立在可积哈密顿系统扰动理论的基础上，研究了平面圆形限制性四体问题中横截同宿轨道的存在性。从已经公开发表的研究成果中发现，目前应用Melnikov方法只研究了三体问题中横截同宿轨道的存在性，本文首次把Melnikov方法推广应用到四体问题中来判定横截同宿轨道的存在性。
2.针对平面圆形限制性四体问题中的退化平衡点，提出应用Conley-Moser条件去替代标准的Smale-Birkhoff同宿定理，从而解析地证明了平面圆形限制性四体问题中Smale马蹄的存在性，得出了平面圆形限制性四体问题中存在Smale马蹄意义下的混沌动力学行为这一结论。
3.进一步地把推广的Melnikov方法应用到带等边三角形结构的平面限制性四体问题中来判定横截同宿轨道的存在性。从原始系统的哈密顿量出发，直接计算了Melnikov函数存在一个简单零点。与文献中利用共线平衡点L2处的规范形和截断的哈密顿量来计算Melnikov函数相比较，避免了繁琐的规范形计算和应用截断哈密顿量的近似。
4.进一步地应用Conley-Moser条件替代标准的Smale-Birkhoff同宿定理，解析地证明了带等边三角形结构的平面限制性四体问题中Smale 马蹄的存在性，从而得到了带等边三角形结构的平面限制性四体问题中存在Smale马蹄意义下的混沌动力学行为这一结论。
5.此外，还证明了经典的平面圆形限制性三体问题中Smale马蹄的存在性。平面圆形限制性三体问题中的横截同宿轨道的存在性已经在文献中得到了证明。然而，由于平衡点的退化性导致标准的Smale-Birkhoff同宿定理不能直接用来证明该系统中Smale马蹄的存在性。因此，应用Conley-Moser条件替代标准的Smale-Birkhoff同宿定理，证明了该系统中存在Smale马蹄意义下的混沌行为。同时，也从另一个侧面解析地说明了该系统除了雅可比积分外，不存在其他任何形式的的积分。
本文所获得的理论结果对于航空航天领域中卫星轨道运动的设计问题具有重要的理论意义和参考价值。