2018-07-24 21:38:44 +00:00
|
|
|
def test_ar_tokenizer_handles_long_text(ar_tokenizer):
|
2018-05-14 22:27:19 +00:00
|
|
|
text = """نجيب محفوظ مؤلف و كاتب روائي عربي، يعد من أهم الأدباء العرب خلال القرن العشرين.
|
|
|
|
|
ولد نجيب محفوظ في مدينة القاهرة، حيث ترعرع و تلقى تعليمه الجامعي في جامعتها،
|
|
|
|
|
فتمكن من نيل شهادة في الفلسفة. ألف محفوظ على مدار حياته الكثير من الأعمال الأدبية، و في مقدمتها ثلاثيته الشهيرة.
|
|
|
|
|
و قد نجح في الحصول على جائزة نوبل للآداب، ليكون بذلك العربي الوحيد الذي فاز بها."""
|
|
|
|
|
|
|
|
|
|
tokens = ar_tokenizer(text)
|
2018-11-30 16:43:08 +00:00
|
|
|
assert tokens[3].is_stop is True
|
2018-05-14 22:27:19 +00:00
|
|
|
assert len(tokens) == 77
|
