- дискретная группа преобразований, порождаемая отражениями относительно гиперплоскостей. Наиболее часто рассматриваются О. г., состоящие из движении односвязного полного риманова многообразия постоянной кривизны, т. е. евклидова пространства Е ⁿ, сферы Sⁿ или пространства Лобачевского Lⁿ.

Истоками теории О. г. являются исследования правильных многогранников и правильных разбиений евклидовой плоскости и сферы ("орнаментов"). Во 2-й пол. 19 в. эти исследования были распространены на n-мерный случай И, В связи с задачами теории функции комплексного переменного, на плоскость Лобачевского; были также описаны правильные разбиения пространства Lⁿ на правильные многогранники. Группа симметрии любого правильного многогранника, а также группа симметрии правильного разбиения пространства на правильные многогранники являются О. г. В 1934 были перечислены (см. [1]) все О. г. в Eⁿ и Sⁿ (последние можно рассматривать как частный случай О. г. в Eⁿ⁺¹). Еще в 1925-27 в работах Г. Вопля (Н. . Weyl) н Э. Картава (Е. Cartan) О. г. появились как Вейля группы полупростых групп Ли. Позднее было установлено, что группы Вейля - это в точности те О. г. в Eⁿ, к-рые имеют единственную неподвижную точку н записываются в нек-ром базисе целочисленными матрицами, а аффинные группы Вейля - это все О. г. в Е ^п с ограниченным фундаментальным многогранником (см. Дискретная группа преобразований).

Основные результаты теории групп отражении. Пусть Xⁿ=Sⁿ, Eⁿ или Lⁿ. Всякая О. г. в Xⁿ допускает в качестве образующих отражения r_t относительно гиперплоскостей H_i, , ограничивающих фундаментальный многогранник Р. Относительно этой системы образующих она является Кокстера группой с определяющими соотношениями (r_ir_j)ⁿij=P, где числа n_ij находятся следующим образом: если грани и . смежны и угол между ними равен a_ij то ; если они не смежны, то (и тогда гиперплоскости H_i и H_j не пересекаются). Обратно, любой выпуклый многогранник в пространстве Xⁿ, все двугранные углы к-рого суть целые части p, является фундаментальным многогранником группы, порожденной отражениями относительно ограничивающих его гиперплоскостей. Всякая О. г. в Е ⁿ является (как группа движений) прямым произведением тривиальной группы, действующей в евклидовом пространстве нек-рой размерности, и групп движений следующих двух типов: (I) конечная О. г., фундаментальный многогранник к-рой есть симплициальный конус, и (II) бесконечная О. г., фундаментальный многогранник к-рой есть симплекс.

Группа типа (I) может рассматриваться как О. г. на сфере с центром в вершине фундаментального конуса; ее фундаментальным многогранником будет тогда сферич. симплекс. О. г. типа (I) однозначно определяется своей матрицей Кокстера, Поэтому классификация таких групп совпадает с классификацией конечных групп Кокстера. О. г. типа (II) определяется своей матрицей Кокстера с точностью до гомотетии. Классификация таких групп с точностью до гомотетии совпадает с классификацией неразложимых параболич. групп Кокстера. Всякая О. г. в Е ⁿ, имеющая ограниченный фундаментальный многогранник, является (как группа движений) прямым произведением групп тина (II).

О. г. в Е ^п изучены значительно хуже. По многим причинам естественно выделить те из них, фундаментальный многогранник к-рьтх ограничен или выходит на абсолют лить в конечном числе точек (зто равносильно конечности объема). Ниже рассматриваются только такие группы. Они описаны более или менее явно только при n= 2, 3.

О. г. в L² определяются k-угольником с углами

(если вершина бесконечно удаленная, то считается, что угол при нeй paвен нулю). Многоугольник с заданными углами всегда существует и зависит от k-3 параметров.

При фундаментальный многогранник О. г. в Lⁿ однозначно определяется своим комбинаторным строением и двугранными углами. Для п=3 получено исчерпывающее описание таких многогранников [5]ц, тем самым, О. г. Для известны лишь примеры и нек-рые общие способы построения О. г. в Lⁿ (см. [6], [7]). Неизвестно (1983), существуют ли О. г. в Lⁿ с ограниченным фундаментальным многогранником при и с фундаментальным многогранником конечного объема при