Til Web, Crawls and Archive
Collection
Web text, crawls and archived sources for pretraining corpora. Веб-тексты, обходы сайтов и архивные источники для корпусов предобучения. • 8 items • Updated
You need to agree to share your contact information to access this dataset
This repository is publicly accessible, but you have to accept the conditions to access its files and content.
Бұл репозиторийге қолжетімділік өтінім бойынша беріледі. Өзіңіз туралы және деректерді қалай қолданатыңыз туралы жазыңыз — өтінімді TilQazyna командасы қарайды. · Доступ к репозиторию выдаётся по заявке. Расскажите о себе и о том, как собираетесь использовать данные — заявку рассматривает команда TilQazyna. · Access to this repository is granted on request. Tell us who you are and how you plan to use the material; the TilQazyna team reviews each application.
Log in or Sign Up to review the conditions and access this dataset content.
datalake
TilQazyna деректер мұрағаты · Архив данных TilQazyna · TilQazyna data archive
Қазақша
datalake — TilQazyna корпустарына бастапқы материал сақтайтын көлемі шамамен 829 ГБ мұрағат. Ол Til-Corpus, Til-Books және Til-Audio деректерін дайындау тізбегінің бастапқы қабаты ретінде қолданылады.
Мұрағаттың құрамы
Негізгі тармақтың жоғарғы деңгейінде cleaned және kaznebv2 каталогтары бар. Hugging Face API файлдардың толық тізімін қайтара алмайды; Hub көрсеткен сақтау көлемі — шамамен 829 ГБ. Репозиторий Hugging Face жүйесіндегі 1 000 000 файл шегіне жеткен соң, мұрағаттың қалған бөлігі datalake-part2 репозиторийіне шығарылған.
Құрылымы
| Бөлік | Мазмұны |
|---|---|
cleaned |
Мұрағаттағы жоғарғы деңгей каталогы |
kaznebv2 |
Мұрағаттағы жоғарғы деңгей каталогы |
datalake-part2 |
Файл шегіне байланысты бөлінген жалғасы |
Репозиторий дайын datasets конфигурациясын ұсынбайды. Сондықтан файлдарды архив құрылымы бойынша таңдап қарау керек.
Қалай қарауға болады
Алдымен Hugging Face сайтында қолжетімділік алып, пайдаланушы токенімен каталог құрылымын қарауға болады:
from huggingface_hub import HfApi
api = HfApi()
entries = api.list_repo_tree(
repo_id="TilQazyna/datalake",
repo_type="dataset",
path_in_repo="cleaned",
recursive=False,
token=True,
)
for entry in entries:
print(entry.path)
Толық мұрағатты бірден көшірудің орнына, алдымен қажетті каталог пен файлдарды анықтаған дұрыс.
Қолжетімділік
Карточка мен файлдар тізімі ашық көрінеді, ал файлдарды жүктеу үшін репозиторий бетіндегі «Request access» батырмасы арқылы өтінім беру қажет. Өтінімді TilQazyna командасы қарайды.
Байланысты репозиторийлер
Мұрағаттың жалғасы — datalake-part2. Осы дерек қабатымен байланысты жарияланымдар: Til-Corpus, Til-Books және Til-Audio. Бұл байланыстар мұрағат материалдарының кейінгі жинақтарға қалай өтетінін көрсетеді.
Русский
datalake — архив исходных материалов TilQazyna объёмом около 829 ГБ. Он служит исходным слоем в подготовке данных для Til-Corpus, Til-Books и Til-Audio.
Что хранится в архиве
На верхнем уровне основной ветки находятся каталоги cleaned и kaznebv2. Hugging Face API не возвращает полный перечень файлов; объём хранилища по данным Hub — около 829 ГБ. После достижения лимита Hugging Face в 1 000 000 файлов остаток архива перенесли в datalake-part2.
Устройство
| Часть | Содержание |
|---|---|
cleaned |
Каталог верхнего уровня в архиве |
kaznebv2 |
Каталог верхнего уровня в архиве |
datalake-part2 |
Продолжение, отделённое из-за лимита файлов |
Готовой конфигурации datasets в репозитории нет. Файлы следует выбирать по структуре архива.
Как просмотреть
После получения доступа дерево нужного каталога можно просмотреть с пользовательским токеном Hugging Face:
from huggingface_hub import HfApi
api = HfApi()
entries = api.list_repo_tree(
repo_id="TilQazyna/datalake",
repo_type="dataset",
path_in_repo="cleaned",
recursive=False,
token=True,
)
for entry in entries:
print(entry.path)
Перед скачиванием стоит определить нужный каталог и отдельные файлы, поскольку весь архив занимает около 829 ГБ.
Доступ
Карточка и список файлов видны всем, а скачивание открывается после одобрения заявки. Кнопка «Request access» находится на странице репозитория; заявку рассматривает команда TilQazyna.
Связанные репозитории
Архив продолжается в datalake-part2. С этим слоем данных связаны Til-Corpus, Til-Books и Til-Audio.
English
datalake is an archive of source material for TilQazyna corpora, occupying about 829 GB. It serves as an upstream data layer for Til-Corpus, Til-Books, and Til-Audio.
Archive contents
The top level of the main branch contains the cleaned and kaznebv2 directories. The Hugging Face API cannot return the complete file listing; Hub reports about 829 GB of storage. Once the repository reached Hugging Face's 1,000,000-file limit, the remaining material was moved to datalake-part2.
Structure
| Part | Contents |
|---|---|
cleaned |
Top-level directory in the archive |
kaznebv2 |
Top-level directory in the archive |
datalake-part2 |
Continuation separated because of the file limit |
The repository does not provide a ready-made datasets configuration. Files should therefore be selected through the archive layout.
How to inspect it
After access has been approved, the directory tree can be inspected with a Hugging Face user token:
from huggingface_hub import HfApi
api = HfApi()
entries = api.list_repo_tree(
repo_id="TilQazyna/datalake",
repo_type="dataset",
path_in_repo="cleaned",
recursive=False,
token=True,
)
for entry in entries:
print(entry.path)
Identify the required directory and individual files before downloading, since the complete archive occupies about 829 GB.
Access
The dataset card and file listing are public, while file downloads require an approved application. Use the “Request access” button on the repository page; the TilQazyna team reviews each request.
Related repositories
The archive continues in datalake-part2. Downstream publications connected to this data layer are Til-Corpus, Til-Books, and Til-Audio.
Лицензия · License: не указана / not specified · TilQazyna
- Downloads last month
- 21