1) Usando combinatoria:

Sea un poligono de n vértices. Dados n puntos, el número de rectas que unen dos de ellos es el número de combinaciones posibles de n elementos tomados de dos en dos (ver números combinatorios), es decir, \(\displaystyle\binom{n}{2}\). De esta cantidad hay que restar el número de rectas que unen dos vértices consecutivos, por corresponder estas a los lados del polígono. De este modo, número de diagonales \(=\displaystyle\binom{n}{2}-n\).

2) Otra solución, sin usar combinatoria, es la siguiente:

Desde un vértice dado se pueden trazar (n - 3) diagonales (hay que descartar el propio vértice y los dos adyacentes). Desde el siguiente vértice, lo mismo. Desde el tercer vértice se podrán trazar solo (n - 4) diagonales, pues la que le une con el primer vértice ya está trazada. Desde el cuarto vértice se podrán trazar solo (n - 5) diagonales, pues las que le unen con el primer y el segundo vértices ya están trazadas.

Repitiendo el argumento, se tiene que el número de diagonales es:

\((n-3)+(n-3)+(n-4)+(n-5)+...+3+2+1\), es decir, (n - 3) más la suma de los (n - 3) primeros naturales. Aplicando la fórmula de la suma de los primeros términos de una progresión aritmética, tenemos \((n-3)+\dfrac{1+(n-3)}{2}·(n-3)\), lo cual, tras las oportunas simplificaciones, da la fórmula \((n-3)·\dfrac{n}{2}\).

3) Otra más, la más fácil:

Como hemos dicho, desde un vértice dado se pueden trazar (n - 3) diagonales. Como hay n vértices, si multiplicamos (n - 3) por n estaremos contando cada diagonal dos veces, una por cada uno de los dos vértices que son sus extremos. Dividimos entonces por dos y listo: \((n-3)·\dfrac{n}{2}\).