¿Tener un 'O' en una condición INNER JOIN es una mala idea?

Al tratar de mejorar la velocidad de una consulta inmensamente lenta (varios minutos en dos tablas con solo ~ 50,000 filas cada una, en SQL Server 2008 si es importante), reduje el problema a una ORcombinación interna, como en:

SELECT mt.ID, mt.ParentID, ot.MasterID
  FROM dbo.MainTable AS mt
  INNER JOIN dbo.OtherTable AS ot ON ot.ParentID = mt.ID
                                  OR ot.ID = mt.ParentID

Cambié esto a (lo que espero sea) un par equivalente de uniones izquierdas, que se muestran aquí:

SELECT mt.ID, mt.ParentID,
   CASE WHEN ot1.MasterID IS NOT NULL THEN
      ot1.MasterID ELSE
      ot2.MasterID END AS MasterID
  FROM dbo.MainTable AS mt
  LEFT JOIN dbo.OtherTable AS ot1 ON ot1.ParentID = mt.ID
  LEFT JOIN dbo.OtherTable AS ot2 ON ot2.ID = mt.ParentID
  WHERE ot1.MasterID IS NOT NULL OR ot2.MasterID IS NOT NULL

.. y la consulta ahora se ejecuta en aproximadamente un segundo.

¿Es generalmente una mala idea poner un ORen una condición de unión? ¿O simplemente tengo mala suerte en el diseño de mis tablas?

Este tipo de JOINno es optimizable para a HASH JOINo a MERGE JOIN.

Puede expresarse como una concatenación de dos conjuntos de resultados:

SELECT  *
FROM    maintable m
JOIN    othertable o
ON      o.parentId = m.id
UNION
SELECT  *
FROM    maintable m
JOIN    othertable o
ON      o.id = m.parentId

, siendo cada uno de ellos un equijoin, sin embargo, SQL Serverel optimizador no es lo suficientemente inteligente como para verlo en la consulta que escribió (aunque son lógicamente equivalentes).

Utilizo el siguiente código para obtener un resultado diferente de la condición que funcionó para mí.

Select A.column, B.column
FROM TABLE1 A
INNER JOIN
TABLE2 B
ON A.Id = (case when (your condition) then b.Id else (something) END)

En su lugar, puede utilizar UNION ALL.

SELECT mt.ID, mt.ParentID, ot.MasterID FROM dbo.MainTable AS mt Union ALL SELECT mt.ID, mt.ParentID, ot.MasterID FROM dbo.OtherTable AS ot