Система автоматизированного извлечения контактной...

26
Дипломная работа на тему: «Система автоматизированного извлечения контактной информации об организации из неструктурированных данных о филиалах» Руководитель: Горский К.П. Дипломник группы 08-606: Карпова В.А. МИНИСТЕРСТВО ОБРАЗОВАНИЯ И НАУКИ РОССИЙСКОЙ ФЕДЕРАЦИИ ФЕДЕРАЛЬНОЕ ГОСУДАРСТВЕННОЕ БЮДЖЕТНОЕ ОБРАЗОВАТЕЛЬНОЕ УЧРЕЖДЕНИЕ ВЫСШЕГО ПРОФЕССИОНАЛЬНОГО ОБРАЗОВАНИЯ «МОСКОВСКИЙ АВИАЦИОННЫЙ ИНСТИТУТ (НАЦИОНАЛЬНЫЙ ИССЛЕДОВАТЕЛЬСКИЙ УНИВЕРСИТЕТ)» (МАИ) Москва, 2015 г. 1

Upload: sergey-maslennikov

Post on 15-Aug-2015

118 views

Category:

Science


5 download

TRANSCRIPT

Page 1: Система автоматизированного извлечения контактной информации об организации из неструктурированных

Дипломная работа на тему: «Система автоматизированного

извлечения контактной информации об организации из неструктурированных

данных о филиалах»

Руководитель: Горский К.П. Дипломник группы 08-606: Карпова В.А.

МИНИСТЕРСТВО ОБРАЗОВАНИЯ И НАУКИ РОССИЙСКОЙ ФЕДЕРАЦИИ ФЕДЕРАЛЬНОЕ ГОСУДАРСТВЕННОЕ БЮДЖЕТНОЕ ОБРАЗОВАТЕЛЬНОЕ УЧРЕЖДЕНИЕ ВЫСШЕГО ПРОФЕССИОНАЛЬНОГО ОБРАЗОВАНИЯ «МОСКОВСКИЙ

АВИАЦИОННЫЙ ИНСТИТУТ (НАЦИОНАЛЬНЫЙ ИССЛЕДОВАТЕЛЬСКИЙ УНИВЕРСИТЕТ)» (МАИ)

Москва, 2015 г.

1

Page 2: Система автоматизированного извлечения контактной информации об организации из неструктурированных

Актуальность системы• Организации нужны всё время

2

Поиск контактной информации о банках в течение недели

Page 3: Система автоматизированного извлечения контактной информации об организации из неструктурированных

Основная цель• Показывать актуальную контактную информацию об организации в заголовке письма

3

По какому адресу банка поменять старую карту на новую?

Page 4: Система автоматизированного извлечения контактной информации об организации из неструктурированных

Основная цель• Показывать актуальную контактную информацию об организации во входящем письме

4

Page 5: Система автоматизированного извлечения контактной информации об организации из неструктурированных

Из Справочника Организаций Из Поиска

5

Входные данные

Page 6: Система автоматизированного извлечения контактной информации об организации из неструктурированных

6

Входные данные

Page 7: Система автоматизированного извлечения контактной информации об организации из неструктурированных

Ограничения сервисов

• Справочник: Нельзя изменять информацию об организациях

• Почта: Отображать одну строку между заголовком и телом письма

7

Page 8: Система автоматизированного извлечения контактной информации об организации из неструктурированных

Корректность данных

• «Простейший» алгоритм выбора

56 %44 %

Всего доменов с одной и более проблемамиДоменов без проблем

8

Page 9: Система автоматизированного извлечения контактной информации об организации из неструктурированных

Анализ классификационных признаков

9

Page 10: Система автоматизированного извлечения контактной информации об организации из неструктурированных

Результаты анализа признаков

10

Page 11: Система автоматизированного извлечения контактной информации об организации из неструктурированных

MaxEnt-классификатор• Классификация по формуле:

• Максимизация функции правдоподобия:

11

Page 12: Система автоматизированного извлечения контактной информации об организации из неструктурированных

Оценка качества классификатора

• Точность:

• Полнота:

• F-мера

12

Page 13: Система автоматизированного извлечения контактной информации об организации из неструктурированных

Применение классификатора при выборе контактной информации по

домену организации

13

Page 14: Система автоматизированного извлечения контактной информации об организации из неструктурированных

Телефон

14

Page 15: Система автоматизированного извлечения контактной информации об организации из неструктурированных

Название

15

Page 16: Система автоматизированного извлечения контактной информации об организации из неструктурированных

13

Адрес

16

Page 17: Система автоматизированного извлечения контактной информации об организации из неструктурированных

Сравнение абсолютных значений параметров (до/после)

17

Адреса

Телефоны

Названия

ИТОГО

0 550000 1100000 1650000 2200000

До применения новой схемы выбораПосле применения классификатора и схем выбора

Page 18: Система автоматизированного извлечения контактной информации об организации из неструктурированных

Черные списки• Не все данные из Справочника Организаций - корректные

• Не все организации хотят, чтобы видели их контактную информацию в почте

• Агрегаторы

• Почтовые рассылки

18

Page 19: Система автоматизированного извлечения контактной информации об организации из неструктурированных

Административный интерфейс

19

Page 20: Система автоматизированного извлечения контактной информации об организации из неструктурированных

Административный интерфейс

20

Page 21: Система автоматизированного извлечения контактной информации об организации из неструктурированных

Технологии21

Page 22: Система автоматизированного извлечения контактной информации об организации из неструктурированных

Результаты22

• API для Почтового интерфейса • Формирование Черных Списков, импорт новых данных и экспорт статического API происходит без участия разработчиков и администраторов.

• Контактная информация об организациях отображается в заголовке письма веб-интерфейса Яндекс.Почты.

• Система внедрена в промышленную эксплуатацию

Page 23: Система автоматизированного извлечения контактной информации об организации из неструктурированных

23

API для Почтового интерфейса

Page 24: Система автоматизированного извлечения контактной информации об организации из неструктурированных
Page 25: Система автоматизированного извлечения контактной информации об организации из неструктурированных
Page 26: Система автоматизированного извлечения контактной информации об организации из неструктурированных