spaCy/spacy/tests/lang/fr/test_lemmatization.py

31 lines
916 B
Python

# coding: utf-8
from __future__ import unicode_literals
import pytest
def test_fr_lemmatizer_verb(fr_tokenizer):
tokens = fr_tokenizer("Qu'est-ce que tu fais?")
assert tokens[0].lemma_ == "que"
assert tokens[1].lemma_ == "être"
assert tokens[5].lemma_ == "faire"
def test_fr_lemmatizer_noun_verb_2(fr_tokenizer):
tokens = fr_tokenizer("Les abaissements de température sont gênants.")
assert tokens[4].lemma_ == "être"
@pytest.mark.xfail(
reason="Costaricienne TAG is PROPN instead of NOUN and spacy don't lemmatize PROPN"
)
def test_fr_lemmatizer_noun(fr_tokenizer):
tokens = fr_tokenizer("il y a des Costaricienne.")
assert tokens[4].lemma_ == "Costaricain"
def test_fr_lemmatizer_noun_2(fr_tokenizer):
tokens = fr_tokenizer("Les abaissements de température sont gênants.")
assert tokens[1].lemma_ == "abaissement"
assert tokens[5].lemma_ == "gênant"