spaCy/spacy/tests/lang/fr/test_lemmatization.py

# coding: utf-8
from __future__ import unicode_literals

import pytest


def test_fr_lemmatizer_verb(fr_tokenizer):
    tokens = fr_tokenizer("Qu'est-ce que tu fais?")
    assert tokens[0].lemma_ == "que"
    assert tokens[1].lemma_ == "être"
    assert tokens[5].lemma_ == "faire"


def test_fr_lemmatizer_noun_verb_2(fr_tokenizer):
    tokens = fr_tokenizer("Les abaissements de température sont gênants.")
    assert tokens[4].lemma_ == "être"


@pytest.mark.xfail(reason="Costaricienne TAG is PROPN instead of NOUN and spacy don't lemmatize PROPN")
def test_fr_lemmatizer_noun(fr_tokenizer):
    tokens = fr_tokenizer("il y a des Costaricienne.")
    assert tokens[4].lemma_ == "Costaricain"


def test_fr_lemmatizer_noun_2(fr_tokenizer):
    tokens = fr_tokenizer("Les abaissements de température sont gênants.")
    assert tokens[1].lemma_ == "abaissement"
    assert tokens[5].lemma_ == "gênant"