給定一個等邊三角形,通過把所有頂點映射到另一個頂點,繞三角形中心逆時針 120°旋轉“作用”在這個三角形的頂點的集合上。
数学上,对称群描述物体的所有对称性。这是通过群作用的概念来形式化的:群的每个元素作为一个双射(或者对称作用)作用在某个集合上。在这个情况下,群称为置换群(特别是在群有限或者不是线性空间时)或者变换群(特别是当这个集合是线性空间而群作为线性变换作用在集合上时)。一个群G的置换表示是群作为一个集合的置换群的群表示(通常该集合有限),并且可以表述为置换矩阵,一般在有限的情形作此考虑-这和作用在有序的线性空间基上是一样的。
令
为一个群,
为一个集合,
在
上的一个(左) 群作用
是一个二元函数

該函數满足如下两条公理:
- 对所有
以及
,
。
- 对每个
,有
(
為群
的單位元)。
一般稱群
(在左邊)作用於集合
上,或稱
是一个
-集合。
為簡化在群作用
上使用的符號,我們可以將其柯里化:令
為由單個元素
給出的映射
,這樣可以通過考慮函數集
來研究群作用。上述兩條公理可以寫作


其中
表示兩函數的複合。所以第二條公理說明函數的複合可以與群運算互相對應,它們可以組成一個交換圖表。該公理甚至可以簡寫為
。
一般簡寫為
或
。
由上述两条公理可知,對固定的元素
,从
映射到
是一个双射(單射和滿射的條件可以分別通過考慮
和
給出)。因此,也可以将
在
上的群作用定义为从
到对称群上
的群同态。
我們可以類似地定义一个
在
上的右群作用为函数
,满足以下公理:


注意左和右作用的区别仅在于像
这样的积在
上作用的次序。左群作用中,
先作用,然后才到
,而对于右作用
先作用,然后才到
。右作用與群上的逆操作复合可以构造出一個左作用。如果
为一右作用,则

是一左作用,因为

而

所以我们可以不失一般性地考虑左群作用。
群G作用在集合X上的作用稱為:[1]
- 遞移性(Transitive)
- 如果X是一個非空集合,對於每對數對 x,y
X,則存在一個g
G,使得
,我們就稱此作用為遞移性。
- 忠實性(Faithful)
- 如果群G嵌入(embbeding)到X的置換群中,我們就稱此作用為忠實的。換言之,就是群G到X的置換群之中為單射。
- 自由性(Free)
- 如果給定
,存在
,則有著
,則稱為此作用為自由性。
- 正則的(Regular)
- 同時具有自由性以及遞移性的作用稱為正則的,又稱簡單遞移(英語:simply transitive)。
- n-遞移性(n-transitive)
- 如果集合X 至少有 n 個元素, 對所有不同的元素x1, ..., xn 和所有不同的y1, ..., yn, 存在一個 g 在群G 使得 g⋅xk = yk 對所有 1 ≤ k ≤ n ,我們就稱其為n-遞移性。
- 本原的(Primitive)
- 如果遞移性作用滿足只有trivial區塊(block),那我們稱此作用為本原的。可以證明n-遞移性皆為本原的。
令群
作用在集合
上,對
中的元素
,
在
上的軌道是
的子集,定義為

記作
或
。
集合
的兩個軌道要麼相等,要麼完全不相交,因此軌道是集合的一個劃分。如果兩個軌道
和
存在公共元素
,那麼存在兩個
中的元素
和
,使得
,
。因而
,反之亦可推出
,所以兩個集合相等。
軌道的一個例子是陪集,假若
是
的一個子集,且定義
中元素的慣常運算規則為
在
上的一個作用,那麼
的陪集
(
)就是
的軌道。
令
為
的一個子集,群
作用在
上,對於群
中的所有元素
,以及所有
中的元素
,有
,則我們會說
在
的作用下是封閉的。
若
是
的一個元素,對於群
中的所有元素
而言,都有
,那麼就稱
是
-不變的(
-invariant)。
令
和
,如果
,則
是關於
的一個不動點。
對
的元素
,所有令
的
中的元素
構成的集合稱為
關於
的穩定子群,記作
或
。
。
是
的一個子群,因為根據定義
,因此
的單位元
在
中。如果
,那麼
的逆元
也是
的元素,因為
。
軌道與穩定子群緊密相關。令群
作用在
上,令
中的
,考慮映射
,
。該映射的值域等於軌道
。
中的兩元素
和
的像
和
相同的條件是
。
換言之,
當且僅當
和
在穩定子群
的同一個陪集中。所以所有在軌道
中的元素
的原像都包含於某個陪集中,每個陪集的像亦為
的一個單元素集合。因此
事實上是
的所有陪集與
的元素的一一對應,
是一個雙射函數。
這個結論稱為軌道-穩定點定理,有
![{\displaystyle |G\cdot x|=[G:G_{x}]}](/media/api/rest_v1/media/math/render/svg/5c5c10f2b33c3532d93efedbc6c970c699ae388d)
而一個跟軌道-穩定點定理相似的結果就是伯恩賽德引理

其中
是
關於
的穩定子群。
和
都有限時該引理尤其重要,可以被詮釋為「群作用的軌道數等於平均每個群元素的不動點的個數」。
- 任意群G在任意集合X上的平凡的群作用定义为 g⋅x = x 对任意g属于G以及任意x属于X;换句话说,每个群元素对应 X上的恒等置换。[2]