РУ
Язык интерфейса
EN
English
BN
বাংলা
HI
हिन्दी
ES
Español
FR
Français
DE
Deutsch
RU
Русский
ZH
简体中文
JA
日本語
РУ
Язык контента
Как язык сайта
EN
Английский
BN
Бенгальский
HI
Хинди
ES
Испанский
FR
Французский
DE
Немецкий
RU
Русский
ZH
Китайский
JA
Японский
Светлая
Темная
Системная
Войти
Главная
Курсы
Словари
PDF
Видео
Русский
Язык интерфейса
EN
Английский
BN
Бенгальский
HI
Хинди
ES
Испанский
FR
Французский
DE
Немецкий
RU
Русский
ZH
Китайский
JA
Японский
Русский
Язык контента
EN
Английский
BN
Бенгальский
HI
Хинди
ES
Испанский
FR
Французский
DE
Немецкий
RU
Русский
ZH
Китайский
JA
Японский
Light
Dark
System
Войти
Регистрация
Главная
Курсы
Словари
PDF
Видео
Словари
/
tokenization
✂️
tokenization
(токенизация)
noun
ˌtoʊ.kə.nɪˈzeɪ.ʃən
Процесс разбивки текста на меньшие единицы, такие как слова, фразы или символы, для анализа.
(tokenization)
token
Tolerable
Значение
The process of breaking text into smaller units like words, phrases, or symbols for analysis.
Перевод значения
Процесс разделения текста на меньшие части для анализа.
Protsess razdelyeniya tekst na men'shiye chasti dlya analiza.
Примеры предложений
NLP uses
tokenization
to break text into smaller units.
NLP использует токенизацию для разбиения текста на более мелкие единицы.
NLP ispol'zuyet tokenizatsiyu dlya razbieniya teksta na boleye melkiye yedinitsy.
Синонимы
segmentation, fragmentation, parsing
Антонимы
aggregation, whole text, non-division
Похожие статьи
Learn Vocabulary Through Article 115 - How ChatGPT Processes Human Language
Похожие слова
Black Salt
(черная соль)
a type of rock salt with a distinctive sulfuric flavor, commonly used in Indian cuisine
schedule
(расписание)
a plan for carrying out a process or task, showing the time and sequence of actions
exhaustion
(истощение)
Extreme physical or mental tiredness.
optometrist
(оптометрист)
A healthcare professional who examines eyes and prescribes corrective lenses.
Mongoose
(мангуст)
a small carnivorous mammal known for its ability to kill venomous snakes
dinghy
(шлюпка)
a small boat, often carried or towed by a larger vessel, used for short trips or as a lifeboat
Узнать больше
Все словари