La puesta en marcha del nuevo crawler o spider de Yahoo! para recorrer la web llevará aún unas semanas, pero el nuevo Slurp 3.0 ha sido presentado oficialmente y en Yahoo! comentan que seguirá usando las mismas directivas del user-agent y el fichero robots.txt, pero que también habrá dos novedades destacables.
La primera es que los crawlers residirán en un nuevo conjunto de direcciones IP, pero también harán uso del proceso ‘reverse DNS lookup’ que hace que los administradores tengan que tener en cuenta esas nuevas IPs utilizadas para que se registren bien sus webs.
Además de eso, el nuevo crawler devolverán un nuevo user agent, de modo que es necesario utilizar las etiquetas “Slurp” o “Yahoo! Slurp”, pero no “Slurp/2.0” que algunos administradores usaban para el anteriore crawler. En esos casos conviene utilizar las que siguen siendo válidas. Yahoo! recomienda usar la cadena “User-agent:Slurp” en nuestros ficheros robots.txt.
vINQulos
Las transacciones de pago instantáneo crecerán un 161% en el próximo lustro, superando los 58…
POWERBIM ha logrado destacarse a nivel mundial gracias a su enfoque tecnológico y su visión…
Este nuevo Software Hub de Renault nace con el objetivo de liderar la revolución del…
La compañía en la que se enmarca Google ha publicado los resultados financieros de su…
Alcanzó los 61.900 millones de dólares, de los que 35.100 millones corresponden a Microsoft Cloud.
La tecnológica española registró durante el año una mejoría del 23 % respecto al ejercicio…