Una imagen más grande detrás de la elección de matrices en el algoritmo de Strassen

En el algoritmo de Strassen, para calcular el producto de dos matrices y , las matrices y se dividen en matrices de bloques y el algoritmo procede calcular recursivamente productos de matriz de matriz de bloques en lugar de productos de matriz de matriz de bloques ingenuos , es decir, si queremos , donde $\mathbf{A}$ $\mathbf{B}$ $\mathbf{A}$ $\mathbf{B}$ $2 \times 2$ $7$ $8$ $\mathbf{C}=\mathbf{A} \mathbf{B}$

A = [\begin{matrix} A_{1, 1} & A_{1, 2} \\ A_{2, 1} & A_{2, 2} \end{matrix}], B = [\begin{matrix} B_{1, 1} & B_{1, 2} \\ B_{2, 1} & B_{2, 2} \end{matrix}], C = [\begin{matrix} C_{1, 1} & C_{1, 2} \\ C_{2, 1} & C_{2, 2} \end{matrix}]

$\mathbf{A} =\begin{bmatrix} \mathbf{A}_{1,1} & \mathbf{A}_{1,2} \\ \mathbf{A}_{2,1} & \mathbf{A}_{2,2} \end{bmatrix} \mbox { , } \mathbf{B} = \begin{bmatrix} \mathbf{B}_{1,1} & \mathbf{B}_{1,2} \\ \mathbf{B}_{2,1} & \mathbf{B}_{2,2} \end{bmatrix} \mbox { , } \mathbf{C} = \begin{bmatrix} \mathbf{C}_{1,1} & \mathbf{C}_{1,2} \\ \mathbf{C}_{2,1} & \mathbf{C}_{2,2} \end{bmatrix}$ entonces tenemos que requiere

C_{1, 1} = A_{1, 1} B_{1, 1} + A_{1, 2} B_{2, 1} C_{1, 2} = A_{1, 1} B_{1, 2} + A_{1, 2} B_{2, 2} C_{2, 1} = A_{2, 1} B_{1, 1} + A_{2, 2} B_{2, 1} C_{2, 2} = A_{2, 1} B_{1, 2} + A_{2, 2} B_{2, 2}

$\mathbf{C}_{1,1} = \mathbf{A}_{1,1} \mathbf{B}_{1,1} + \mathbf{A}_{1,2} \mathbf{B}_{2,1}\\ \mathbf{C}_{1,2} = \mathbf{A}_{1,1} \mathbf{B}_{1,2} + \mathbf{A}_{1,2} \mathbf{B}_{2,2}\\ \mathbf{C}_{2,1} = \mathbf{A}_{2,1} \mathbf{B}_{1,1} + \mathbf{A}_{2,2} \mathbf{B}_{2,1}\\ \mathbf{C}_{2,2} = \mathbf{A}_{2,1} \mathbf{B}_{1,2} + \mathbf{A}_{2,2} \mathbf{B}_{2,2}$

8

$8$ multiplicaciones En cambio, en Strassen, calculamos y obtén usa como

M_{1} := (A_{1, 1} + A_{2, 2}) (B_{1, 1} + B_{2, 2}) M_{2} := (A_{2, 1} + A_{2, 2}) B_{1, 1} M_{3} := A_{1, 1} (B_{1, 2} - B_{2, 2}) M_{4} := A_{2, 2} (B_{2, 1} - B_{1, 1}) M_{5} := (A_{1, 1} + A_{1, 2}) B_{2, 2} M_{6} := (A_{2, 1} - A_{1, 1}) (B_{1, 1} + B_{1, 2}) M_{7} := (A_{1, 2} - A_{2, 2}) (B_{2, 1} + B_{2, 2})

$\mathbf{M}_{1} := (\mathbf{A}_{1,1} + \mathbf{A}_{2,2}) (\mathbf{B}_{1,1} + \mathbf{B}_{2,2})\\ \mathbf{M}_{2} := (\mathbf{A}_{2,1} + \mathbf{A}_{2,2}) \mathbf{B}_{1,1}\\ \mathbf{M}_{3} := \mathbf{A}_{1,1} (\mathbf{B}_{1,2} - \mathbf{B}_{2,2})\\ \mathbf{M}_{4} := \mathbf{A}_{2,2} (\mathbf{B}_{2,1} - \mathbf{B}_{1,1})\\ \mathbf{M}_{5} := (\mathbf{A}_{1,1} + \mathbf{A}_{1,2}) \mathbf{B}_{2,2}\\ \mathbf{M}_{6} := (\mathbf{A}_{2,1} - \mathbf{A}_{1,1}) (\mathbf{B}_{1,1} + \mathbf{B}_{1,2})\\ \mathbf{M}_{7} := (\mathbf{A}_{1,2} - \mathbf{A}_{2,2}) (\mathbf{B}_{2,1} + \mathbf{B}_{2,2})$

C_{i, j}

$\mathbf{C}_{i,j}$

M_{k}

$\mathbf{M}_{k}$

C_{1, 1} = M_{1} + M_{4} - M_{5} + M_{7} C_{1, 2} = M_{3} + M_{5} C_{2, 1} = M_{2} + M_{4} C_{2, 2} = M_{1} - M_{2} + M_{3} + M_{6}

$\mathbf{C}_{1,1} = \mathbf{M}_{1} + \mathbf{M}_{4} - \mathbf{M}_{5} + \mathbf{M}_{7}\\ \mathbf{C}_{1,2} = \mathbf{M}_{3} + \mathbf{M}_{5}\\ \mathbf{C}_{2,1} = \mathbf{M}_{2} + \mathbf{M}_{4}\\ \mathbf{C}_{2,2} = \mathbf{M}_{1} - \mathbf{M}_{2} + \mathbf{M}_{3} + \mathbf{M}_{6}$ Sin embargo, la elección de las matrices me parece arbitraria. ¿Hay una idea más amplia de por qué elegimos estos productos específicos de submatrices de

? Además, esperaría que

's involucre

' s y

's de manera simétrica, lo que no Parece ser el caso aquí. Por ejemplo, tenemos

M_{k}

$\mathbf{M}_k$

A

$\mathbf{A}$

B

$\mathbf{B}$

M_{k}

$\mathbf{M}_k$

A_{i, j}

$\mathbf{A}_{i,j}$

B_{i, j}

$\mathbf{B}_{i,j}$

M_{2} := (A_{2, 1} + A_{2, 2}) B_{1, 1}

$\mathbf{M}_2: = (\mathbf{A}_{2,1}+\mathbf{A}_{2,2})\mathbf{B}_{1,1}$ . Esperaría que su contraparte digamos

A_{1, 1} (B_{1, 2} + B_{2, 2})

$\mathbf{A}_{1,1} (\mathbf{B}_{1,2} + \mathbf{B}_{2,2})$ también se calcule. Sin embargo, no lo es, ya que puede obtenerse de otros

M_{k}

$\mathbf{M}_k$ 's.

Agradecería si alguien pudiera arrojar algo de luz sobre esto.

ds.algorithms linear-algebra matrices matrix-product Comunidad
fuente

Respuestas:

De Groote (sobre variedades de algoritmos óptimos para el cálculo de mapeos bilineales. II. Algoritmos óptimos para la multiplicación de matrices 2x2. Theor. Comput. Sci. 7: 127-148, 1978) demuestra que solo hay un algoritmo para multiplicar matrices con 7 multiplicaciones hasta equivalencia. Esta podría ser una característica única de la multiplicación de matrices . (Nota: encontrará diferentes variantes del algoritmo de Strassen en la literatura. Todas son equivalentes con la noción correcta de equivalencia). $2 \times 2$ $2 \times 2$

Si ahora comienza a demostrar un límite inferior para la multiplicación de matrices - vea el libro de Bürgisser, Clausen y Shokrollahi cómo hacerlo - entonces el algoritmo de Strassen o alguna variante se muestra de forma bastante natural. Descubrirá muchas identidades que determinan el aspecto de los productos. Entonces puedes terminar adivinando. (La prueba de De Groote muestra que incluso adivinar no es necesario). $2 \times 2$

Schönhage me dijo una vez que Strassen le dijo una vez que encontró su algoritmo de esta manera, al tratar de probar un límite inferior.

Markus Bläser
fuente

Hay algún tipo de explicación en el libro Algebraic Complexity Theory de Bürgisser, Clausen y Shokrollahi (p. 11-12). La idea es comenzar con dos bases y del espacio de matrices reales que satisfacen la siguiente propiedad: . Además, . Para multiplicar dos matrices y , represente cada una de ellas en la base correspondiente y evalúe el producto. Como solo aparecen siete matrices diferentes que no son cero en el resultado ( ), solo se necesitan siete productos. El $A_0,A_1,A_2,A_3$ $B_0,B_1,B_2,B_3$ $2\times 2$ $A_iB_j \in \{0,A_0,A_1,A_2,A_3,B_0,B_1,B_2,B_3\}$ $A_0 = B_0$ $A$ $B$ $A_0=B_0,A_1,A_2,A_3,B_1,B_2,B_3$ $M$ las matrices son solo estas bases.

No sé si a Strassen se le ocurrió esta forma de verlo. Teniendo en cuenta otras identidades subyacentes a los algoritmos de multiplicación de matrices rápidas, no está claro si está ocurriendo algo profundo, más allá de alguna fórmula que funcione. Ya hemos pasado por eso antes: Lagrange usó la identidad de cuatro cuadrados (que se había conocido antes) para probar el teorema de los cuatro cuadrados. Al principio debe haber sido solo una curiosa identidad algebraica, pero ahora sabemos que establece la propiedad de multiplicatividad de la norma del cuaternión. Dado el estado actual del conocimiento, es difícil saber si la interpretación anterior es tan productiva.

Yuval Filmus
fuente

2 \times 2

$2\times 2$