Estaba curioso. Y como todos sabemos, la curiosidad tiene fama de matar gatos.
Entonces, ¿cuál es la forma más rápida de despellejar a un gato?
El entorno preciso de piel de gato para esta prueba:
- PostgreSQL 9.0 en Debian Squeeze con RAM y configuraciones decentes.
- 6.000 estudiantes, 24.000 membresías en clubes (datos copiados de una base de datos similar con datos de la vida real).
- Ligera desviación del esquema de nomenclatura en la pregunta:
student.id
está student.stud_id
y club.id
está club.club_id
aquí.
- Llamé a las consultas por su autor en este hilo, con un índice donde hay dos.
- Ejecuté todas las consultas un par de veces para llenar el caché, luego elegí la mejor de 5 con EXPLAIN ANALYZE.
Índices relevantes (deberían ser los óptimos, siempre que no tengamos conocimiento previo de qué clubes serán consultados):
ALTER TABLE student ADD CONSTRAINT student_pkey PRIMARY KEY(stud_id );
ALTER TABLE student_club ADD CONSTRAINT sc_pkey PRIMARY KEY(stud_id, club_id);
ALTER TABLE club ADD CONSTRAINT club_pkey PRIMARY KEY(club_id );
CREATE INDEX sc_club_id_idx ON student_club (club_id);
club_pkey
no es requerido por la mayoría de las consultas aquí.
Las claves primarias implementan índices únicos automáticamente en PostgreSQL.
El último índice es para compensar esta deficiencia conocida de los índices de múltiples columnas en PostgreSQL:
Se puede usar un índice de árbol B de varias columnas con condiciones de consulta que involucren cualquier subconjunto de las columnas del índice, pero el índice es más eficiente cuando hay restricciones en las columnas iniciales (más a la izquierda).
Resultados:
Tiempos de ejecución totales de EXPLAIN ANALYZE.
1) Martín 2: 44.594 ms
SELECT s.stud_id, s.name
FROM student s
JOIN student_club sc USING (stud_id)
WHERE sc.club_id IN (30, 50)
GROUP BY 1,2
HAVING COUNT(*) > 1;
2) Erwin 1: 33,217 ms
SELECT s.stud_id, s.name
FROM student s
JOIN (
SELECT stud_id
FROM student_club
WHERE club_id IN (30, 50)
GROUP BY 1
HAVING COUNT(*) > 1
) sc USING (stud_id);
3) Martín 1: 31,735 ms
SELECT s.stud_id, s.name
FROM student s
WHERE student_id IN (
SELECT student_id
FROM student_club
WHERE club_id = 30
INTERSECT
SELECT stud_id
FROM student_club
WHERE club_id = 50);
4) Derek: 2.287 ms
SELECT s.stud_id, s.name
FROM student s
WHERE s.stud_id IN (SELECT stud_id FROM student_club WHERE club_id = 30)
AND s.stud_id IN (SELECT stud_id FROM student_club WHERE club_id = 50);
5) Erwin 2: 2,181 ms
SELECT s.stud_id, s.name
FROM student s
WHERE EXISTS (SELECT * FROM student_club
WHERE stud_id = s.stud_id AND club_id = 30)
AND EXISTS (SELECT * FROM student_club
WHERE stud_id = s.stud_id AND club_id = 50);
6) Sean: 2.043 ms
SELECT s.stud_id, s.name
FROM student s
JOIN student_club x ON s.stud_id = x.stud_id
JOIN student_club y ON s.stud_id = y.stud_id
WHERE x.club_id = 30
AND y.club_id = 50;
Los tres últimos funcionan prácticamente igual. 4) y 5) dan como resultado el mismo plan de consulta.
Adiciones tardías:
SQL elegante, pero el rendimiento no puede mantenerse al día.
7) ypercube 1: 148,649 ms
SELECT s.stud_id, s.name
FROM student AS s
WHERE NOT EXISTS (
SELECT *
FROM club AS c
WHERE c.club_id IN (30, 50)
AND NOT EXISTS (
SELECT *
FROM student_club AS sc
WHERE sc.stud_id = s.stud_id
AND sc.club_id = c.club_id
)
);
8) ypercube 2: 147,497 ms
SELECT s.stud_id, s.name
FROM student AS s
WHERE NOT EXISTS (
SELECT *
FROM (
SELECT 30 AS club_id
UNION ALL
SELECT 50
) AS c
WHERE NOT EXISTS (
SELECT *
FROM student_club AS sc
WHERE sc.stud_id = s.stud_id
AND sc.club_id = c.club_id
)
);
Como era de esperar, esos dos rinden casi lo mismo. El plan de consulta da como resultado escaneos de tablas, el planificador no encuentra una manera de usar los índices aquí.
9) wildplasser 1: 49.849 ms
WITH RECURSIVE two AS (
SELECT 1::int AS level
, stud_id
FROM student_club sc1
WHERE sc1.club_id = 30
UNION
SELECT two.level + 1 AS level
, sc2.stud_id
FROM student_club sc2
JOIN two USING (stud_id)
WHERE sc2.club_id = 50
AND two.level = 1
)
SELECT s.stud_id, s.student
FROM student s
JOIN two USING (studid)
WHERE two.level > 1;
SQL elegante, rendimiento decente para un CTE. Plan de consulta muy exótico.
Nuevamente, sería interesante cómo 9.1 maneja esto. Pronto actualizaré el clúster de base de datos utilizado aquí a 9.1. Tal vez vuelva a ejecutar todo el asunto ...
10) wildplasser 2: 36,986 ms
WITH sc AS (
SELECT stud_id
FROM student_club
WHERE club_id IN (30,50)
GROUP BY stud_id
HAVING COUNT(*) > 1
)
SELECT s.*
FROM student s
JOIN sc USING (stud_id);
Variante CTE de la consulta 2). Sorprendentemente, puede resultar en un plan de consulta ligeramente diferente con exactamente los mismos datos. Encontré un escaneo secuencial student
, donde la subconsulta-variante usó el índice.
11) ypercube 3: 101.482 ms
Otra adición tardía @ypercube. Es absolutamente asombroso cuántas formas hay.
SELECT s.stud_id, s.student
FROM student s
JOIN student_club sc USING (stud_id)
WHERE sc.club_id = 10 -- member in 1st club ...
AND NOT EXISTS (
SELECT *
FROM (SELECT 14 AS club_id) AS c -- can't be excluded for missing the 2nd
WHERE NOT EXISTS (
SELECT *
FROM student_club AS d
WHERE d.stud_id = sc.stud_id
AND d.club_id = c.club_id
)
)
12) erwin 3: 2,377 ms
@ ypercube's 11) es en realidad solo el enfoque inverso alucinante de esta variante más simple, que también faltaba. Se desempeña casi tan rápido como los mejores gatos.
SELECT s.*
FROM student s
JOIN student_club x USING (stud_id)
WHERE sc.club_id = 10 -- member in 1st club ...
AND EXISTS ( -- ... and membership in 2nd exists
SELECT *
FROM student_club AS y
WHERE y.stud_id = s.stud_id
AND y.club_id = 14
)
13) erwin 4: 2,375 ms
Es difícil de creer, pero aquí hay otra variante realmente nueva. Veo potencial para más de dos membresías, pero también se ubica entre los mejores gatos con solo dos.
SELECT s.*
FROM student AS s
WHERE EXISTS (
SELECT *
FROM student_club AS x
JOIN student_club AS y USING (stud_id)
WHERE x.stud_id = s.stud_id
AND x.club_id = 14
AND y.club_id = 10
)
Número dinámico de membresías del club
En otras palabras: número variable de filtros. Esta pregunta solicitó exactamente dos membresías de clubes. Pero muchos casos de uso deben prepararse para un número variable.
Discusión detallada en esta respuesta posterior relacionada:
(student_id, club_id)
índice (o al revés).fuente
fuente
Si solo quiere student_id, entonces:
Si también necesita el nombre del estudiante, entonces:
Si tiene más de dos clubes en una tabla club_selection, entonces:
fuente
O una solución más general más fácil de extender a
n
clubes y que evitaINTERSECT
(no disponible en MySQL) yIN
(ya que el rendimiento de esto apesta en MySQL )fuente
HAVING
hace en MySQL.Otro CTE. Parece limpio, pero probablemente generará el mismo plan que un groupby en una subconsulta normal.
Para aquellos que quieran probar, una copia de mi cosa generate testdata:
fuente
Entonces, hay más de una forma de despellejar a un gato .
Voy a agregar dos más para hacerlo, bueno, más completo.
1) GRUPO primero, ÚNETE después
Suponiendo un modelo de datos cuerdo donde
(student_id, club_id)
es única enstudent_club
. La segunda versión de Martin Smith es algo similar, pero se une primero a los grupos después. Esto debería ser más rápido:2) EXISTE
Y por supuesto, está el clásico
EXISTS
. Similar a la variante de Derek conIN
. Sencillo y rápido. (En MySQL, esto debería ser un poco más rápido que la variante conIN
):fuente
Dado que nadie ha agregado esta versión (clásica):
o similar:
Un intento más con un enfoque ligeramente diferente. Inspirado en un artículo en Explicar extendido: múltiples atributos en una tabla EAV: AGRUPAR POR vs NO EXISTE :
Otro enfoque:
fuente
(stud_id, club_id)
y(club_id, stud_id)
(o Primaria y Única)? Sigo pensando que para algunas de esas consultas, la diferencia de 2 a 140 ms es demasiado alta para ser explicada por las diferencias en los planes de ejecución.Esto parece funcionar razonablemente bien, ya que el escaneo CTE evita la necesidad de dos subconsultas separadas.
¡Siempre hay una razón para hacer un mal uso de las consultas recursivas!
(Por cierto: mysql no parece tener consultas recursivas)
fuente
Diferentes planes de consulta en la consulta 2) y 10)
Probé en una base de datos de la vida real, por lo que los nombres difieren de la lista de piel de gato. Es una copia de seguridad, por lo que nada cambió durante todas las pruebas (excepto cambios menores en los catálogos).
Consulta 2)
Consulta 10)
fuente
@ erwin-brandstetter Por favor, compare esto:
Es como el número 6) de @sean, simplemente más limpio, supongo.
fuente
@
-notificar solo funciona en comentarios, no en respuestas. Me topé con esta publicación por casualidad. El plan de consulta y el rendimiento de su consulta son idénticos a la consulta de Sean. Efectivamente, es lo mismo, pero la consulta de Sean conJOIN
sintaxis explícita es la forma generalmente preferida, porque es más clara. ¡Sin embargo, +1 para otra respuesta válida!El plan de consulta:
Así que todavía parece querer el escaneo seq en el estudiante.
fuente
Uso de la variante más rápida (Mr. Sean en el gráfico Mr. Brandstetter). Puede ser una variante con solo una unión a solo la matriz student_club tiene derecho a vivir. Entonces, la consulta más larga tendrá solo dos columnas para calcular, la idea es hacer la consulta delgada.
fuente