Обсуждение:Токенизация

Материал из MachineLearning.

(Различия между версиями)
Перейти к: навигация, поиск
(Промпт)
 
Строка 2: Строка 2:
1:
1:
-
 
Напиши для вики MachineLearning.ru статью про токенизацию текста (используй вебпоиск и прочекай существующие на сайте статьи, бери пример оформления с других статей, проверяй актуальность, сейчас июль 2026)
Напиши для вики MachineLearning.ru статью про токенизацию текста (используй вебпоиск и прочекай существующие на сайте статьи, бери пример оформления с других статей, проверяй актуальность, сейчас июль 2026)
Пиши так чтоб было понятно и студенту и специалисту: сначала простое
Пиши так чтоб было понятно и студенту и специалисту: сначала простое

Текущая версия

P.s. - Я не сразу узнал что промпт нельзя тоже генерировать, так что все статьи пришлось переписывать.

1: Напиши для вики MachineLearning.ru статью про токенизацию текста (используй вебпоиск и прочекай существующие на сайте статьи, бери пример оформления с других статей, проверяй актуальность, сейчас июль 2026) Пиши так чтоб было понятно и студенту и специалисту: сначала простое определение, потом подробнее.

2: Слишком обще получилось, расширь некоторые темы, приведи примеры, например как слово разбивается на подслова и может уточнения по каким нибудь пунктам.

3: Добавь ещё раздел про специальные токены. Литературу оформи как в других статьях, проверь все ли работы реальные. Убери слишком сложно составленную речь

Iaroslav Lyakhov 19:22, 5 июля 2026 (MSD)

Личные инструменты