✂️tokenization (tokénisation)

noun
ˌtoʊ.kə.nɪˈzeɪ.ʃən
Le processus de diviser un texte en unités plus petites comme des mots, des phrases ou des symboles pour l'analyse. (tokenization)

Signification

The process of breaking text into smaller units like words, phrases, or symbols for analysis.
Traduction de la signification
Le processus de découper un texte en plus petites unités pour l'analyse.
Le processus de découper un texte en plus petites unités pour l'analyse.

Phrases d'exemple

NLP uses tokenization to break text into smaller units.

NLP utilise la tokenisation pour diviser le texte en unités plus petites.
NLP utilise la tokenisation pour diviser le texte en unités plus petites.

Synonymes

segmentation, fragmentation, parsing

Antonymes

aggregation, whole text, non-division

Vocabulaires connexes

a sour liquid made from fermented alcohol, used for cooking and preserving
A sudden and violent event that causes great destruction or upheaval.
Excessive concentration or obsession with a single subject or idea.
A collection of work or samples demonstrating skills and expertise.
The quality of being reasonable or probable.
a vehicle for traveling over snow, often pulled by animals