Dato un gruppo G < A o > si dice sottogruppo di G un gruppo < B o > dove B è sottoinsieme di A e o è la stessa operazione.

Si noti che la condizione che B sia sottoinsieme di A non è sufficiente a garantire che si tratti di un sottogruppo; occorre anche che < B o > sia un gruppo e cioè che siano soddisfatte le quattro condizioni che definiscono il concetto di gruppo.

Nell'esempio a lato il gruppo moltiplicativo < Z₁₂ * > ammette come sottogruppo < Z₆ * >.

Come controesempio si consideri l'insieme B = {1, 5, 7}; la struttura < B * > non è un gruppo, infatti viene meno la condizione di chiusura là dove risulta 5 * 7 = 11.

Una volta definito un sottogruppo è possibile definire le classi laterali del sottogruppo.

Per i sottogruppi vale il teorema di Lagrange che asserisce che l'ordine di un gruppo è sempre un multiplo dell'ordine di un suo qualsiasi sottogruppo.