Creo que si el conjunto de puntos es finito no puedes determinar si está definido de forma aleatoria ó siguen algún patrón determinado. Necesitas infinitos puntos para poder determinar eso y aún así no sé si puede hacerse en todos los casos.
Puedes utilizar diversas medidas estadísticas que te dan cierta información sobre su disposición relativa respecto a algun otro punto ó conjunto de punos determinado aunque para definir exactamente la nube necesitas todos los datos y no un valor promedio.
La correlación podría ser una posibilidad aunque no creo que sea lo que andas buscando, creo que tu problema no tiene solución.
Deberías definir primero que debe entenderse por patrón ó regularidad, ¿basta con que exista una ley matemática ó dicha ley debe de ser periódica ó cíclica?, se entiende que existe un orden entre los puntos ¿si ó no?. No es fácil contestar a esas preguntas, ya lo sé, pero ... si no las contestamos antes va a ser dificil poder avanzar en este problema.
Considera por ejemplo una nube de puntos formada por los vértices de un polígono regular, un exágono por ejemplo, si consideramos la posición relativa de todos ellos respecto al centro del polígono vemos que existe una cierta regularidad, pero si consideramos ahora la posición relativa respecto de un punto cualquiera, excéntrico, sería difícil encontrar alguna regularidad en el conjunto de sus vectores de posición, y sin embargo los puntos son los mismos. Basta un simple giro excentrico de ejes coordenados para convertir una serie de datos simétricos en una serie de valores que no tengan ni pies ni cabeza.
Creo que no existe una fórmula que permita determinar tal cosa.
Saludos, Jabato.