Комбинаторные категориальные грамматики

NLU/RGhttp://nlu-rg.ru

Дмитрий Тимофеевdimitri.timofeev@hotmail.com

СПбГПУ

20 февраля 2014 года

Дмитрий Тимофеев (СПбГПУ) CCG 20 февраля 2014 года 1 / 25

Категориальные грамматики

I Гуссерль, Лесьневский.I Теория семантических категорий.

I Казимир Айдукевич, 1935. “Die syntaktischeKonnexitat”.I Теория синтаксической связности.

I Иегошуа Бар-Хиллел, 1953. “AQuasi-arithmetical Notation for SyntacticDescription”.I Учтен порядок слов. Категориальныеграмматики.

I Иоахим Ламбек, 1958. “The mathematics ofsentence structure”.I Категориальные грамматики каклогическое исчисление.

Дмитрий Тимофеев (СПбГПУ) CCG 20 февраля 2014 года 2 / 25

Развитие категориальных грамматик

I Комбинаторные категориальные грамматики.I Lyons, Geach, Bach, Dowty, . . .I Mark Steedman, Anna Szabolcsi.I Комбинаторная логика (Шейнфинкель, Карри, Фейс).

I Логика категориальных типов.I Categorial Type Logics, Type Logical Grammars.I Johan van Benthem.I Субструктурные логики: исчисление Ламбека, линейная логика(Жерар). Теория типов.

I Алгебраическая формулировка категориальных грамматик.I Ламбек: pregroup grammars.I Интерпретация в теории категорий.

Дмитрий Тимофеев (СПбГПУ) CCG 20 февраля 2014 года 3 / 25

План

I Категориальные грамматики (AB-исчисление).I Комбинаторные категориальные грамматики.

Дмитрий Тимофеев (СПбГПУ) CCG 20 февраля 2014 года 4 / 25

AB-исчисление (Айдукевич, Бар-Хиллел)

I Синтаксис описывается категориями и правилами.I Категории (приписаны к каждому слову в словаре):

I Атомарные категории: s (предложение), np (именная группа), . . .I Составные категории: функции над категориями.I Две операции для построения составных категорий.

I \ — «аргумент слева».I / — «аргумент справа».

I Пример: (s\np)/np — категория переходного глагола.

I Правила:

(X/Y ) Y →> X

Y (X\Y ) →< X

Дмитрий Тимофеев (СПбГПУ) CCG 20 февраля 2014 года 5 / 25

John loves Mary

Johnnp

loves(s\np)/np

Marynp

>s\np

<s

Дмитрий Тимофеев (СПбГПУ) CCG 20 февраля 2014 года 6 / 25

Композиционная семантика

I К каждому слову вместе с категорией можно приписать λ-терм.

“John′′ := np : john

“Mary ′′ := np : mary

“loves ′′ := (s\np)/np : λx .λy .love(y , x)

I Композиция этих термов задается правилами:

(X/Y ) : f Y : x →> X : f (x)

Y : x (X\Y ) : f →< X : f (x)

Johnnp : john

loves(s\np)/np : λx .λy .love(y , x)

Marynp : mary

>s\np : λy .love(y ,mary)

<s : love(john,mary)

Дмитрий Тимофеев (СПбГПУ) CCG 20 февраля 2014 года 7 / 25

Complex argument

I “John promised Mary to go”I “John persuaded Mary to go”

“promised ′′ := ((s\np)/(sinf \np))/np : λx .λP .λy .promise(y , x ,P y)

“persuaded ′′ := ((s\np)/(sinf \np))/np : λx .λP .λy .persuade(y , x ,P x)

“to ′′ := (sinf \np)/(sbase\np) : λP .P

“go ′′ := sbase\np : λx .go(x)

Дмитрий Тимофеев (СПбГПУ) CCG 20 февраля 2014 года 8 / 25

John promised Mary to go

Johnnpjohn

promised((s\np)/(sinf \np))/np

λx.λP.λy .promise(y ,x,P y)

Marynpmary

(s\np)/(sinf \np)λP.λy .promise(y ,mary ,P y)

to(sinf \np)/(sbase\np)

λP.P

gosbase\npλx.go(x)

(sinf \np)λx.go(x)

s\npλy .promise(y ,mary ,(λx.go(x)) y)s

promise(john,mary ,go(john))

Дмитрий Тимофеев (СПбГПУ) CCG 20 февраля 2014 года 9 / 25

John persuaded Mary to go

Johnnpjohn

persuaded((s\np)/(sinf \np))/np

λx.λP.λy .persuade(y ,x,P x)

Marynpmary

(s\np)/(sinf \np)λP.λy .persuade(y ,mary ,P mary)

to(sinf \np)/(sbase\np)

λP.P

gosbase\npλx.go(x)

(sinf \np)λx.go(x)

s\npλy .persuade(y ,mary ,(λx.go(x)) mary)s

persuade(john,mary ,go(mary))

Дмитрий Тимофеев (СПбГПУ) CCG 20 февраля 2014 года 10 / 25

Ограничения AB-исчисления

Некоторые грамматические конструкции в AB-исчислении описатьневозможно.I Из-за отсутствия ассоциативности:

I Подъем правого узла (right-node raising):“((John cooked) and (Mary ate)) the beans”

I Актуальное членение:“(Ed saw) Ted” и “Ed (saw Ted)”

I Из-за отсутствия коммутативности:I Перестановка слов:“(Ed saw) yesterday (his tall old friend Ted)”

Дмитрий Тимофеев (СПбГПУ) CCG 20 февраля 2014 года 11 / 25

Комбинаторная категориальная грамматика

I Каждой синтаксической категории можно сопоставитьсемантический тип.I Тип λ-термов, соответствующих элементам категории.I Категория np — тип e (сущности).I Категория s — тип t (истинностные значения высказываний).

I Операциям / и \ соответствуют функции.I Семантическому типу et (то же самое, что e → t) соответствуюткатегории s\np и s/np.

I Семантический тип не зависит от конкретного порядка слов, но сточки зрения синтаксиса это надо учесть.

Дмитрий Тимофеев (СПбГПУ) CCG 20 февраля 2014 года 12 / 25

Комбинаторная категориальная грамматика

I λ-термы можно строить из других λ-термов с помощьюкомбинаторов (функций без свободных переменных).

Идея:I Выберем подходящий набор комбинаторов, которые позволяютиз одних термов строить другие.

I Типу аргумента (исходного терма) сопоставляется новый тип, типзначения.

I Добавим к AB-исчислению правила, которые будут по тем жезаконам преобразовывать синтаксические категории.

Дмитрий Тимофеев (СПбГПУ) CCG 20 февраля 2014 года 13 / 25

Комбинаторы

I Подъем типа (type-raising):T x ≡ λf .f x

I Композиция функций (function composition):B f g ≡ λx .f (g x)

I Подстановка (substitution):S f g ≡ λx .f x (g x)

I В различных вариантах CCG используются разные наборыдополнительных комбинаторов.

Дмитрий Тимофеев (СПбГПУ) CCG 20 февраля 2014 года 14 / 25

Подъем типа

Tσ((στ)τ) xσ ≡ λfστ .f x

T Maxe ≡ λPet .P Max

Правила:

X : a →>T Y /(Y \X ) : λf .f a

X : a →<T Y \(Y /X ) : λf .f a

Дмитрий Тимофеев (СПбГПУ) CCG 20 февраля 2014 года 15 / 25

Композиция функций

B(στ)((εσ)(ετ)) fστ gεσ ≡ λxε.f (g x)

“Max eats” :

B (λP .P Max) (λy .λz .eat(z , y))

≡ λx .(λP .P Max) ((λy .λz .eat(z , y)) x)

→ λx .(λP .PMax) (λz .eat(z , x))

→ λx .(λz .eat(z , x)) Max

→ λx .eat(Max , x)

Дмитрий Тимофеев (СПбГПУ) CCG 20 февраля 2014 года 16 / 25

Композиция функций

Правила (гармоническая композиция, harmonic composition):

(X/Y ) : f (Y /Z ) : g →>B X/Z : λx .f (g x)

(Y /Z ) : g (X\Y ) : f →<B X\Z : λx .f (g x)

Дмитрий Тимофеев (СПбГПУ) CCG 20 февраля 2014 года 17 / 25

Композиция функций

Johnnp : john

loves(s\np)/np : λx .λy .love(y , x)

Marynp : mary

>s\np : λy .love(y ,mary)

<s : love(john,mary)

Johnnp : john

>Ts/(s\np) : λP .P john

loves(s\np)/np : λx .λy .love(y , x)

>Bs/np : λx .love(john, x)

Marynp : mary

>s : love(john,mary)

Дмитрий Тимофеев (СПбГПУ) CCG 20 февраля 2014 года 18 / 25

Композиция функций

Перекрестная композиция, crossed composition:

(X/Y ) : f (Y \Z ) : g →>B×X\Z : λx .f (g x)

(Y /Z ) : g (X\Y ) : f →<B×X/Z : λx .f (g x)

Ednp

saw(s\np)/np

today(s\np)\(s\np)

<B×(s\np)/np

his tall friend Tednp

>s\np

<s

Дмитрий Тимофеев (СПбГПУ) CCG 20 февраля 2014 года 19 / 25

Подстановка

S(σ(τε))(στ)σε fσ(τε) gστ xσ ≡ (f x (g x))ε

“. . . filed without reading”

S (λz .λQet .λy .[Q y ∧ (without(read(y , z)))]) (λz .λy .[file(y , z)])

→

λz .λy .file(y , z) ∧ (without(read(y , z)))]

Правило:

(Y /Z ) (X\Y )/Z ) →<S×X/Z

Дмитрий Тимофеев (СПбГПУ) CCG 20 февраля 2014 года 20 / 25

Подстановка

“[articles] which Ed filed without reading”

which(n\n)/(s/np)

Ednp

>Ts/(s\np)

filed(s\np)/np

without reading((s\np)\(s\np))/np

<S×(s\np)/np

>Bs/np

n\n

Дмитрий Тимофеев (СПбГПУ) CCG 20 февраля 2014 года 21 / 25

Модальности

I Из-за неограниченного применения правил можно допуститьсинтаксически некорректные предложения.

I Варианты ограничений:I Запретить применять конкретные правила для конкретныхязыковых конструкций.I Неудобно (грамматики зависят и от правил, и от словаря).

I Включить ограничения на контекст применения правил в самиправила.I Общепринятая сегодня практика.

I Модальности операторов / и \ (Baldridge and Kruijff):I ? — неассоциативный, некоммутативный оператор.I � — ассоциативный, некоммутативный оператор.I × — неассоциативный, коммутативный оператор.I ∙ — ассоциативный, коммутативный оператор.

Дмитрий Тимофеев (СПбГПУ) CCG 20 февраля 2014 года 22 / 25

Синтаксический анализ

I Эффективные алгоритмы:I CKYI Shift-ReduceI Статистический парсинг на основе логарифмических моделей.

I Проблема — ложная неоднозначность.I Мы сами этого добивались: “Ed (saw Ted)” и “(Ed saw) Ted”.

Ednp

saw(s\np)/np

Tednp

>s\np

<s

Ednp

>Ts/(s\np)

saw(s\np)/np

>Bs/np

Tednp

>s

Дмитрий Тимофеев (СПбГПУ) CCG 20 февраля 2014 года 23 / 25

Литература

Jason Baldridge and Frederick Hoyt.Categorial grammar.In Tibor Kiss and Artemis Alexiadou, editors, Handbook of Syntax. deGruyter, Berlin.To appear.http://www.jasonbaldridge.com/papers/baldridge_cg_handbook_syntax.pdf.

Mark Steedman and Jason Baldridge.Combinatory categorial grammar.In Non-Transformational Syntax: Formal and Explicit Models ofGrammar, pages 181–224. 2011.http://www.inf.ed.ac.uk/teaching/courses/nlg/readings/SteedmanBaldridgeCCG.pdf.

Дмитрий Тимофеев (СПбГПУ) CCG 20 февраля 2014 года 24 / 25

Спасибо за внимание!

Дмитрий Тимофеев (СПбГПУ) CCG 20 февраля 2014 года 25 / 25