Tuvimos algunos problemas serios con la araña (increíblemente) mal escrita de Yahoo en el pasado , y como resultado los bloqueamos. Marco Arment de Tumblr también compartió sus frustraciones con nosotros el 31/08/2009, lo que fue un factor en nuestro bloqueo.
[Yahoo's Spider] nos ha estado inundando con 70-200 solicitudes / segundo desde aproximadamente las 5:30 AM EST. Nunca he visto algo así, incluso de sus rastreadores "experimentales" que nos han abusado en el pasado. La prohibición de Robots.txt no es suficiente: tengo que bloquearlos por IP en el nivel de equilibrador de carga. Como han abusado de Stack Overflow en el pasado, supuse que querrás saberlo.
Parece que la búsqueda web de Yahoo es "¡Desarrollado por Bing!" ahora. Esto es bueno, porque nunca hemos tenido un problema con la araña de Bing (también conocida como MSNBOT).
Entonces, ¿la búsqueda de Yahoo es igual a la búsqueda de Bing ahora, o deberíamos estar buscando desbloquearlos si de alguna manera, contra todo pronóstico, han dejado de chupar tan fuerte?
fuente
Respuestas:
No vería ninguna razón para desbloquear el robot de búsqueda de Yahoo. Hay dos formas en que Yahoo podría estar usando el motor Bing. Podrían integrarlo con los suyos y liberar un rastreador híbrido en la red o podrían simplemente enviar las consultas al motor Bing y escupir los resultados que obtienen.
Del documento vinculado a Joel hay otro documento aquí . En ella, Yahoo dice: "A mediados de julio, comenzamos a probar la entrega de resultados orgánicos de Bing a Yahoo!" Para mí eso significa que Yahoo no se está integrando estrechamente con el motor Bing. Simplemente están llamando a la API de Bing Engine. Eso también tendría más sentido desde el punto de vista del trabajo requerido, ya que Yahoo Engine desaparecerá a largo plazo.
Eso significa que no deberíamos ver más Yahoo Bot rastreando la web una vez que el 100% de los resultados salgan del motor Bing. Por lo tanto, no hay razón para desbloquearlo.
fuente
Parece que acaban de comenzar a implementar los resultados de búsqueda de Bing en Yahoo! para aproximadamente el 25% de las búsquedas, con el objetivo de cambiar por completo en agosto / septiembre. Apostaría a que la araña de Yahoo ya ni siquiera se está ejecutando y, si lo es, no es muy relevante.
fuente
Elevé una consulta de búsqueda con Yahoo el lunes: el reconocimiento incluía la siguiente nota sobre la transición a Bing que podría encontrar relevante:
fuente
Para su información, el lunes 23 de agosto (o dentro de un par de días) Yahoo oficialmente comenzará a ofrecer resultados de búsqueda de BING.
fuente