Spoiler
Aunque no sé si está estandarizado, en español, cuando ponemos una coma antes de una “y”, la “y” en ese caso no es un nexo de unión, no es una conjunción, sino que tiene función adversativa, significa “pero”. Por ejemplo, “Pepe es muy alto, y tiene las manos pequeñas”; esa “y” es un pero, se puede sustituir por “pero” o “sin embargo” o “no obstante”... En cambio, si escribimos “Pepe es muy alto y tiene las manos pequeñas”, esa “y” no tiene función adversativa, sino que añade o adjunta una característica, es un “y además”. En este ejemplo que he puesto no importa mucho que sea una cosa u otra; y la mayoría de las veces no hay mucha diferencia o casi ninguna en cuanto a lo que se pueda entender, y algunas sí las hay ( aquí puedo escribir: “pero algunas sí las hay”, existen. No obstante, coloquialmente se entiende lo mismo que si uso la “y” como nexo de unión).
También a veces hace falta hacer una parada antes la “y” cuando ésta funciona como nexo de unión; y en ese caso, quizá, lo que mejor viene es usar el punto y coma (como acabo de hacer en esta frase).
En cuanto al enunciado no se da exactamente ninguno de estos casos, pero aparece un problema con cierto parecido; y se puede dejar más claro usando un punto y coma en vez de una coma al separar la B de la F y la K (en esta frase podría haber puesto la “y” sin punto y coma y sería igual, pero la frase es muy larga y, particularmente, suelo usarla también para “respirar”. Al ser o haber sido una especie de músico, tengo la manía de “frasear”, de poner ligaduras de expresión; o sea, de “levantar las manos de las teclas” de vez en cuando).
“A es de orden m×n al igual que B\( ; \) F y K son de orden m×m y F=K−1”.
...
Empiezo diciendo que no sé si está estandarizado eso que he dicho sobre la “y” porque lo aprendí en un libro de Lengua que le compró mi mujer a un profesor que dio una conferencia; firmó unos ejemplares y tal al final de la charla. Pero es posible que no los académicos no estén todos de acuerdo, aunque sea un profesor de lengua. De hecho, el decía que la “y” no se tenía que meter dentro de los signos de interrogación al preguntar algo, por ejemplo, así: “Y ¿qué te ha dicho? Y yo, como lo decía el libro, pues seguía esa norma. Pero hace no mucho miré en internét y no es una norma aceptada; o no por todo los lingüistas.
No obstante, independientemente de unas normas y normas, sí es cierto que en el caso de este enunciado quedaría más claro usar un punto y coma, porque “separa más”, pausa más y así deja menos dudas.