Los buscadores tradicionales sólo ofrecen acceso a una pequeña parte de lo que existe online, lo que se ha comenzado a llamar la Web superficial o visible. Lo que resta, la Web profunda o invisible, es un amplio banco de información ubicado en catálogos, revistas digitales, blogs, entradas a diccionarios y contenido de sitios que demandan un login (aunque sea gratuito) y otros tipos de contenido que no aparecen entre los resultados de una búsqueda convencional.
En cuanto a la presencia relativa de ambas en el conjunto de la Web, se estima que la superficial representa aproximadamente el 5% de todo el contenido publicado, por el 95% que supone el peso relativo de la Deep Web. Análisis como el efectuado por Michael Bergman estiman que el tamaño de la web invisible es aproximadamente 500 veces superior a la visible, si bien acepta explícitamente las dificultades y límites consustanciales a un cálculo de esta naturaleza. Por otra parte, su análisis estima que los contenidos de calidad en la Deep Web multiplican de 1000 a 2000 veces a los situados en la Surface Web.
En cuanto a la presencia relativa de ambas en el conjunto de la Web, se estima que la superficial representa aproximadamente el 5% de todo el contenido publicado, por el 95% que supone el peso relativo de la Deep Web. Análisis como el efectuado por Michael Bergman estiman que el tamaño de la web invisible es aproximadamente 500 veces superior a la visible, si bien acepta explícitamente las dificultades y límites consustanciales a un cálculo de esta naturaleza. Por otra parte, su análisis estima que los contenidos de calidad en la Deep Web multiplican de 1000 a 2000 veces a los situados en la Surface Web.
La Web Superficial o visible
La Web superficial comprende todos aquellos sitios cuya información puede ser indexada por los robots de los buscadores convencionales y recuperada casi en su totalidad mediante una consulta en sus formularios de búsqueda.
Las características principales de los sitios de la Web visible son:
- su información no está contenida en bases de datos
- es de libre acceso
- no se requiere la realización de un proceso de registro para acceder a la información.
- mayoritariamente está formada por páginas Web estáticas, es decir páginas o archivos con una URL fija y accesibles desde otro enlace.
La Web Profunda o invisible
Web invisible es el término utilizado para describir toda la información disponible en Internet que no se recupera interrogando a los buscadores convencionales. Generalmente es información almacenada y accesible mediante bases de datos. Parte de la información es "invisible" a los robots de los buscadores convencionales, ya que los resultados se generan en la contestación a una pregunta directa mediante páginas dinámicas (ASP, PHP, etc.) es decir páginas que no tienen una URL fija y que se construyen en el mismo instante (temporales), desapareciendo una vez cerrada la consulta.
Sherman y Price identifican cuatro tipos de contenidos invisibles en la Web: la Web opaca (the opaque Web), la Web privada (the private Web), la Web propietaria (the proprietary Web) y la Web realmente invisible (the truly invisible Web).
1- La Web opaca está compuesta por archivos que, si bien podrían estar incluidos en los índices de los buscadores, no lo están por alguno de los siguientes motivos:
- Extensión de la indexación: a veces, por economía, no todas las páginas de un sitio son indexadas en los buscadores.
- Frecuencia de la indexación: los buscadores no poseen la capacidad de indexar todas las páginas existentes; a diario se agregan y modifican muchas y la indexación no se realiza al ritmo que permita incluirlas a todas.
- Número máximo de resultados visibles: aunque los motores de búsqueda arrojan a veces un gran número de resultados, generalmente limitan el número de documentos que se muestran (entre 200 y 1000).
- URL desconectadas: las generaciones más recientes de buscadores, presentan los documentos por relevancia basada en el número de veces que aparecen referenciados en otros. Si un documento no tiene un link a él, desde otro documento, será imposible que la página sea encontrada, pues no se encuentra indexada.
2- La Web privada consiste en las páginas Web que podrían estar indexadas en los buscadores pero son excluidas deliberadamente por alguno de estos motivos:
- Las páginas están protegidas por contraseñas.
- Contienen un archivo “robots.txt” para evitar ser indexadas.
- Contienen un campo “noindex” para evitar que el buscador pueda indexar la parte correspondiente al cuerpo de la página.
Este segmento de la Web contiene, en general, documentos excluidos deliberadamente por su falta de utilidad, ya que son los dueños de la información que contienen quienes deciden que no se encuentre disponible, por lo que difícilmente se podrán encontrar mecanismos legítimos para franquear esa barrera.
3- La Web propietaria incluye aquellas páginas en las que es necesario registrarse para tener acceso al contenido, ya sea de forma gratuita o de pago.
4- La Web realmente invisible se compone de páginas que no pueden ser indexadas por limitaciones técnicas de los buscadores, programas ejecutables y archivos comprimidos, páginas generadas dinámicamente, es decir, que se generan a partir de datos que introduce el usuario, información almacenada en bases de datos relacionales, que no puede ser extraída a menos que se realice una petición específica.
En el siguiente video tenemos una explicación sobre qué es la deep web, qué hay, qué se puede encontrar y hacia dónde se dirige, de una forma muy accesible por parte de Luis Iván Cuende, Mejor hacker 2011 y CEO de Stampery.
Luis Iván Cuende. Fuente: http://one.elpais.com
Algunos recursos de búsqueda en la Web Profunda
- The WWW Virtual Library se considera el catálogo más antiguo en la web y fue iniciado por Tim Berners-Lee, el creador de la web.
Sir Tim Berners-Lee. Fuente: http://es.wikipedia.org/wiki/
- Infoplease es una Web de consulta con más de 57.000 artículos de la prestigiosa enciclopedia Columbia. Facilita la consulta de información con opciones de búsqueda por términos o por áreas de conocimiento. Es posible acceder a un buen número de enciclopedias, atlas, y biografías. Y también tiene algunas ramificaciones interesantes como Factmonster.com para los niños y Biosearch, un motor de búsqueda sólo para biografías, o información de todo lo acontecido históricamente en un determinado día.
 |
| Menú principal de Fact Monster |
- DeepWebTech ofrece cinco motores de búsqueda para temas específicos. Los motores de búsqueda abarcan ciencia, medicina y negocios.
- TechXtra centra su información en las áreas de ingeniería, matemáticas e informática. Es posible navegar a través de una extensa lista de revistas gratuitas especializadas de ingeniería, documentos técnicos, descargas y podcasts.
- CompletePlanet pertenece a la compañía BrightPlanet. Algunos autores lo consideran el más grande y completo directorio de la red, y mantiene un crecimiento muy rápido. Fue creado como un servicio público y como banco de pruebas para el Deep Query Manager (DQM), que es un servicio para abonados y una poderosa herramienta para descubrir y gestionar el contenido de internet (Web Profunda y Web Superficial) de una forma sin precedentes, flexible y potente.
Captura de pantalla de la página del buscador de CompletePlanet
En lo que se refiere a la denominación de este espectro de lugares, hay autores que opinan que la definición de estos sitios web como web invisible no es la más adecuada. Como sugiere Lluís Codina, profesor de la Universidad Pompeu Pabra (UPF) y experto en documentación, comunicación y web 2.0:
“Internet invisible es un nombre claramente inadecuado para referirse al sector de sitios y de páginas web que no pueden indizar los motores de búsqueda de uso público. Debería denominarse, en realidad, la web "no indizable", lo cual es un término mucho más adecuado.” - Lluís Codina
De hecho, y según el estudio de Bergman mencionado, se estima que el 95% de los contenidos de la Deep Web son públicos y de libre acceso, sin suscripciones ni tarifas.
¿Te animas a sumergirte?
Para finalizar, compartimos este artículo con video incluido sobre la Deep web y las acciones que llevará a cabo la NASA para descubrir más esta Web profunda.
Nota: post elaborado a partir de la edición y ampliación de los materiales del curso "Encontrando tesoros en la red" (MOOC Universidad Tecnológica Nacional).
- Chris Sherman & Gary Price.: «The Invisible Web: Uncovering Sources Search Engines Can't See»
- Michael K. Bergman: White Paper: The Deep Web: Surfacing Hidden Value. Ann Arbor, MI: Scholarly Publishing Office, University of Michigan, University Library 7.
- Luis Iván Cuende nos descubre la “deep web”, el lado oculto de internet. elpais.com
No hay comentarios:
Publicar un comentario
Comentarios: