Составление и выполнение запросов к поисковым машинам

Это наиболее сложный и трудоемкий этап, связанный с обработкой большого количества информации (в основном шумовой). На основе тезауруса формируются запросы к выбранным поисковым серверам, после чего возможно уточнение запроса с целью отсечения очевидно нерелевантной информации. Затем производится отбор ресурсов, начиная с наиболее интересных, с точки зрения целей поиска. Данные с ресурсов, признанных релевантными, собираются для последующего анализа.Формирование запросовКак формат, так и семантика запросов варьируются в зависимости от применяемой поисковой машины и конкретной предметной области. Запросы составляются так, чтобы область поиска была максимально конкретизирована и сужена.Предпочтение отдается использованию нескольких узких запросов по сравнению с одним расширенным. В общем случае для каждого основного понятия из тезауруса готовится отдельный пакет запросов. Так же производится пробная реализация запросов - как для уточнения и пополнения тезауруса, так и с целью отсечения шумовой информации.

Языки запроса различных машин поиска в основном являются сочетанием следующих функций:

	Операторы булевой алгебры AND, OR, NOT:
	AND (И) - осуществляется поиск документов, содержащих все термины, соединенные данным оператором;
	OR (ИЛИ) - искомый текст должен содержать хотя бы один из терминов, соединенных данным оператором;
	NOT (НЕ) - поиск документов, в тексте которых отсутствуют термины, следующие за данным оператором.
	Операторы расстояния - ограничивают порядок следования и расстояния между словами, например:
	NEAR - второй термин должен находиться на расстоянии от первого, не превышающем определенного числа слов;
	FOLLOWED BY - термины следуют в заданном порядке;
	ADJ - термины, соединенные оператором, являются смежными.
	Возможность усечения терминов - использование символа " * " вместо окончания термина позволяет включить в искомый список все слова, производные от его начальной части (шаблона).
	Учет морфологии языка - машина автоматически учитывает все формы данного термина, возможные в языке, на котором ведется поиск.
	Возможность поиска по словосочетанию, фразе.
	Ограничение поиска элементом документа (слова запроса должны находиться именно в заголовке, первом абзаце, ссылках и т.д.).
	Ограничения по дате опубликования документа.
	Ограничения на количество совпадений терминов.
	Возможность поиска графических изображений.
	Чувствительность к строчным и прописным буквам.

Результат запроса (список ссылок) обрабатывается в два этапа. На первом этапе производится отсечение очевидно нерелевантных источников, попавших в выборку в силу несовершенства поисковой машины или недостаточной "интеллектуальности" запроса. Параллельно проводится семантический анализ, имеющий целью уточнение тезауруса для модификации последующих запросов. Дальнейшая обработка производится путем последовательного обращения на каждый из найденных ресурсов и анализа находящейся там информации.