Datasets:
Dataset Preview
The full dataset viewer is not available (click to read why). Only showing a preview of the rows.
The dataset generation failed
Error code: DatasetGenerationError
Exception: CastError
Message: Couldn't cast
item_id: int64
query_id: int64
kind: string
query: string
doc_id: int64
document: string
base_model_rank: int64
base_model_score: double
grade: null
reviewer_note: string
text: string
to
{'doc_id': Value('int64'), 'text': Value('string')}
because column names don't match
Traceback: Traceback (most recent call last):
File "/usr/local/lib/python3.14/site-packages/datasets/builder.py", line 1827, in _prepare_split_single
for key, table in generator:
^^^^^^^^^
File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 613, in wrapped
for item in generator(*args, **kwargs):
~~~~~~~~~^^^^^^^^^^^^^^^^^
File "/usr/local/lib/python3.14/site-packages/datasets/packaged_modules/json/json.py", line 343, in _generate_tables
self._cast_table(pa_table, json_field_paths=json_field_paths),
~~~~~~~~~~~~~~~~^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
File "/usr/local/lib/python3.14/site-packages/datasets/packaged_modules/json/json.py", line 132, in _cast_table
pa_table = table_cast(pa_table, self.info.features.arrow_schema)
File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 2378, in table_cast
return cast_table_to_schema(table, schema)
File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 2306, in cast_table_to_schema
raise CastError(
...<3 lines>...
)
datasets.table.CastError: Couldn't cast
item_id: int64
query_id: int64
kind: string
query: string
doc_id: int64
document: string
base_model_rank: int64
base_model_score: double
grade: null
reviewer_note: string
text: string
to
{'doc_id': Value('int64'), 'text': Value('string')}
because column names don't match
The above exception was the direct cause of the following exception:
Traceback (most recent call last):
File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 1369, in compute_config_parquet_and_info_response
parquet_operations, partial, estimated_dataset_info = stream_convert_to_parquet(
~~~~~~~~~~~~~~~~~~~~~~~~~^
builder, max_dataset_size_bytes=max_dataset_size_bytes
^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
)
^
File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 948, in stream_convert_to_parquet
builder._prepare_split(split_generator=splits_generators[split], file_format="parquet")
~~~~~~~~~~~~~~~~~~~~~~^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
File "/usr/local/lib/python3.14/site-packages/datasets/builder.py", line 1694, in _prepare_split
for job_id, done, content in self._prepare_split_single(
~~~~~~~~~~~~~~~~~~~~~~~~~~^
gen_kwargs=gen_kwargs, job_id=job_id, **_prepare_split_args
^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
):
^
File "/usr/local/lib/python3.14/site-packages/datasets/builder.py", line 1880, in _prepare_split_single
raise DatasetGenerationError("An error occurred while generating the dataset") from e
datasets.exceptions.DatasetGenerationError: An error occurred while generating the datasetNeed help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.
doc_id int64 | text string |
|---|---|
0 | Lazmek tet3eb tawa Bach tal9a le 9odam Ama if u won’t now then u can’t ki tzid tekber |
1 | ياعععععع على راجل هداك متخراش حتى حداه هههه هواخيب يععععع |
2 | ما نعرفش صابرين وقت إلي يجي يجي ياخي منين نعرف |
3 | تلقاها تفشت شوية وأه و الحمد لله هاني البارح أه |
4 | Jean mahzouk zid aoueej idik rik lkreiek enti iouetik ena lwabna matouetinish
Peace ♤ |
5 | الجيش الروسي ميشرفك كان انت يا راس الفطسة... اولاد صغار ردوهم عجينة في حلب |
6 | الطفلة هذي قلبها أبيض وباش توصل ❤ |
7 | 3rabouch 5yefa brach hhhh |
8 | N9olik haja you know |
9 | Hasilo Mariam mmsat'hhhhha.mli kdhbou 3liha 3la dhahkt'ha wheya nhar kol t3ri fi seniha 3a9el y bnti m kseb ken kil 3wnett raho |
10 | merci b1 3la jaw ili diro fih |
11 | ميڨالو سرك في شطيحك ڨاعد والله روعة و حلو |
12 | كم لايك لكلمة الله 👍👍 |
13 | نحن من رحمة الله بنا ولدنا مسلمين أي أن الله أعطانا الإسلام من غير أن نسأله فنسأل الله أن يرزقنا الجنة و نحن نسأله
اللهم صل وسلم وبارك على نبينا محمد
اللهم إني أسألك من فضلك و رحمتك فإنه لا يملكها إلا أنت يا ذا الجلال والإكرام و يا رزاق ذو القوة المتين
لا حول ولا قوة إلا بالله |
14 | يدخل يلقاه الآخر فهمتني مطيش و الآخر في المانيا مطيش فهمتني قربلة أه الدنيا معناه |
15 | 🔴الهيئة العليا المستقلة للإنتخابات تعلن عن المترشحين الذين تم قبولهم اوليا لخوض غمار الإنتخابات،
قيس سعيد
زهير المغزاوي
عياشي الزمال
تعددية واضحة لا غبار عليها.
يا تنتخب الرئيس،
يا تنتخب الرئيس اما بإسم واحد آخر،
أما العياشي الزمال فهو فقط بش ما تنطبقش مقولة إن إجتمع مرشحان فالشيطان ثالثهما.
اهوكا فقط بش يبدى العياشي... |
16 | شوف وين وصلت أنا |
17 | ahla w 3sba lik ya elhiwar tunsi |
18 | هاد الحصة لازم يكون عنوانها ربي يستر عبادو واحنا نفضحوكم. عيب عليكم والله خاصة المسائل العائلية |
19 | كي تدخل حتى لطيارة تقارن الأسوام بالشهر إلي فات بالشهر هاذايا |
20 | OK merci c'est pas mon pays mais je voudrais que nous fassiont attention moi je suis en France mais je ne sors pas, et mon pays l algerie sont encore en confinement car ils n ecoute pas ALLAH I3FAD JAIMIR AIMINE BISOUS LA TUNISIE DE LYON |
21 | @minamona3066 mabenek ya amouna ija e3mli chicha |
22 | اللهم آمين الله يهديها ويردها لطريق الحق حسب ما فهمت انها كتبت كتاب تنتقد الإمام البخاري.يعني منكرة للسنة وضد الحجاب |
23 | c vrai walh sayer 3lih lbarnemj msaaat |
24 | Ma7leha rabi izzidha witawil fa3morha fakritni ib om baba allah yar7amha 😔😒 tachbhilha barcha 😚😘😍😙😗 |
25 | يا نقار يا معلم محلاك و محلى ضمارك ربي يفضلك |
26 | هما من جيهة يقلو انه تصلب و من جيهة أخرىشكون إلي في تونسو يكون الرد متعهم المسيح |
27 | اول تعليق واول لايك بحبك تونس تحيه من الاردن |
28 | Baaz mech lkolna bech netfehmou ama it will be cool |
29 | wlh 7tena nra fih ytfark7 d5alt 9itou defi berasmi mtdhorkch lmadhaher |
30 | و الله مريقل يا ولدي اسمعني نقدوها كي نبدوا بحذا بعضنا هانو نشجعوا بعضنا يعني |
31 | Wiouuuu 3la zebbi wiou |
32 | صلى الله عليه وسلم |
33 | @nxrthside6946 hh aalh mtruuhsh ntyy ya booy snn rapeur habyyt wla qrht wadhqa rap msh aajbq tfla9 wyb9a klay fuu9q wfuu9 amthlq hbyytuu wla qrhtuu wsayab9a laqom oo9da masa alhayet🖕💪 |
34 | البنت حسب ردة فعلها و ضحكها في موضوع مصيري في حياتها واضح ان التاريخ ييعيد نفسه ستبكين دما في قادم الايام |
35 | عام آخر مرّ يا زياد و انت مازلت لمينعام <3 |
36 | الليلة يا ذنوبي كان نخرج |
37 | شيء إلوج على النسب و الحسب و الورثة و ترا كيفاش دبر راسو و إلقى كتاب في كربلاء في الجامع متاع |
38 | المونوبري ريت خيالو متعدي سيبت الشاريو بساكي إلي فيه و م اس لا وصاية لا و الونهار و أنا نقضي |
39 | hhhhhh moch 3adi essayed hedha maryem ben mami ken ychoufha en reel momkon yendem |
40 | L gtlha sahbtha w allh y3lm |
41 | سيدي النفوس المريض البلاد استخسرو فيك النجاح العمل و ثقة الشعب التونسي فيك تبالي بيهم فهم زادوك شعبية شعبيتك الإمام وربي معاك انشالله وقل اعملوا فسبرى الله عملكم ورسوله و المؤمنين |
42 | عندك الحق كهو توا هاو شهر قريب يوفا شمازال فيه رمضان |
43 | @tn2716 Laaa 3ad matbadalch sujet .. enti tkalamt 3la tamthil moch 3la l ikhradj . Les acteurs sont des algériens thab wela takrah 😘 |
44 | aandou complexe d"inferiorité ,yhess bel khtarr ki yebda famma aabd avantagé aalih physiquement wala aandou prestige aalih ,yetkallak medhebih el nés lkoll tebda tahtou mridh |
45 | M3jbkch mtetfrjch wou nzid n9lk conorr khir mn khabib 😉 |
46 | على الرغم من أنو فقونات التران القديمة كانت تتكون من اللوح المتوازيٍ، إلا أنها سمحت للخيل باش تكرها باش تولي تجري أسرع وتهز رصن ما أكثر بالمقارنة بالثنايا التي كانت تعتبر صعيبة برشا في هاك الوقت |
47 | ايا الحمدالله على سيدي قاسم توة باش يحط مرا عالكتف هذا و مرا عالكتف الاخر |
48 | La musique fi d9i9a 20:27 ssssvvvvvppp |
49 | Leghneya elli fi d9i9 0:48 svp |
50 | الله ايبارك على بنات تونس واقيلا نروح نضرب تورنة فيالصيف هاذا |
51 | taw ta7chihoulik m3a semi lfehri stana bark !! |
52 | Saha ba3loch frere ns3raf bik kho sahbek lalmamat |
53 | pour moi nawfil a9wa wa7id tawa🔝🔝🔝 |
54 | @laroseblanche5997 meeCh lezeM cbn 😐 |
55 | خبرتي البسيطة الشاهد عندو طونسيون غرامات سكر وضربات القلب الدقيقة هزو الكازي عسو ليموت |
56 | sa7a ftourkom la fam 🇩🇿🇩🇿❤❤ |
57 | احساس ج ميل ع ندما ي قال ل ك ا عت ني ب نفس ك ل كن الاج مل ع ندما يا تي من ي قول ل ك سوف أعت ني ب ك |
58 | 11:50 fama chkoun bas hhhhh |
59 | هاذاه هو تي حكاية فارغة هيا في عشرين يوم الواحد يصور خير من ثلاثة شهور راهو كي تجي تشوف |
60 | ربي يرحمهم ويصبر اهلهم و تعازبنا لشعب تونس |
61 | No lazmha mosh akther mn 3 months pregnant hoa deja fi tones mamno3 abortion after 3 months |
62 | 3ale maaaaaast moch mwatih jimla Y7b ytdhoumr w yt9oufz w howa 7keytou 7oula hedha lkol bch ywari rou7ou lkhatibtou |
63 | آش لزني أنا نصدم على جبل بقادومة |
64 | Selmen Mannai blhyy sakker fomeek 5raawet |
65 | كذاب هذا رجلل خايس يتكلم على الحرمة ربي عقبك الله حادث وسكر ولسه جايك مصيبه هي تقول هي ما تفضح نفسها نصاب عندها صور والفيديو لملابس جات مقاسه ويضحك سنه جالسه معها اكيد ليه يشتكي لقى الحرمةكما تدين تدان الله يخدك تفعلى رجال محتال ونصاب تحيل عليها اهم شي مافي عقد |
66 | مشيت لمنزل بوزلفة ما نعرفش كان تعرفهاش |
67 | Hasbiya allah wa niema el wakil fik ya maroki makhoftech men rabi takol swared hadh el fakir zawali meskin sma wa el ardh yebkiw alih roh ya kelb menek lelah |
68 | @safaakkari5202 hhhhh wmtwath3a zeda |
69 | راد هذا ما يقوله لك ذكي الاذكياء و متواضع المتواضعين و فكيف للقيادة و سبحان إلي خلق العباد كيف ما اشتهى |
70 | شراب حرام و زطلا مش حرام😂😂 |
71 | "أكاديمية اليافعين و اليافعات للتثقيف السياسي - استمارة ترشح
أكاديمية اليافعين و اليافعات للتثقيف السياسي III
"أكاديمية اليافعين واليافعات للتثقيف السياسي" هي الأكاديمية الأولى من نوعها في تونس. وهي أول منصة لتفعيل مشاركة اليافعين و اليافعات في مناصرة حقهم في المشاركة الفاعلة في إدارة الشأن العام, و هي من تنظيم جمعية A... |
72 | Khawla ya 3sal Rabi yberelek f kedmtek. Mariem la jalouse bech taaml sport hhhhh t3aned f khawla. |
73 | Walah bintik 3andha lhak skiti lin matit bintik Inti ksirti kol chay dokih filhabs wala ogitlih wartahi |
74 | إلقاء القبض مجموعة العجائز بصدد إجتياز الحدود خلصة بالتحقيق تبين أنهم جماعة السيستام فارين الزلزال |
75 | Franchemen paparatsi min as9at 5al9 elleh . I7sibha o5tik i7sibha ommik a3leh ta3mal haka |
76 | PrankTN fi ana d9i9a ?? |
77 | و على كعبة البوصاع الاولة إلي تبدى تتلون و نتشعبط باش انحيها و على الليالي إلي نقوم فيهم من النوم خايف نمشي |
78 | من جيه اخرى شكون قاللها إلي ها الوضعيه توجدت في تونس كانك على قبل فمة برشا يهود الناس الكل حبتهم و |
79 | محلاك محلاك قمر يا احلى واجمل وارق ريم برافو برافو عليك ❤❤❤❤❤❤❤ |
80 | Generation Z fi tiktok mta3 Usa tba3bset b3ed ma 9rit letter to america,oussama ben laden |
81 | Miskina lotf bouha 7awayenne |
82 | ya3tikom sahha el hiwar fara7touh 3am mohamed |
83 | أو بعد عاد ما تعرفش عالامور |
84 | Sa7itou louled, mta3 final tor7 hetha 🦾 ! |
85 | آه هبط لتونس صار قريتيه البارح إلي بعثتهولك طفيتيني |
86 | غيرها عفاسةوناس في حياتها غفاصة وناس مازالت تفركس على بلاصة وناس لدم الناس مصاصةوناس تحك كيف الكاسة وناس كياسة وناس سياسةوناس |
87 | 🤣🤣🤣🤣🤣 nike l9adafi l3atay ounik libya |
88 | التشغيل البرنامج محطوط عليه إعادة يعني تعدى مباشر في وقت و الوقت هذا بالذات حول قفصة و بالتحديد حول شباب قفصة |
89 | معناتها هل عندهم ال ال يعني ال المكونين للساحة السياسية عن |
90 | صحيين و ثلاثة و اربع اصلا كل شيء تقولينه صح ياعمري |
91 | @moalisaid4047 ui je c eli thama 9anoun weli lezem ta3amli signature ema mochekl ki meya3amlohech itala9. Ha heya w ye5o qnd mm ghir. Ha w saret el wa7da dzireya na3ref. Ha w aussi wa7da bent bledi 3arset b dziri w me5alahech trawa7 el tunes modet 7ans c pr sa enkolk rjelkom s3ab elmuhem rabi yehdi. |
92 | ما نجحتش توا نهز أغلبية المتيارات |
93 | بالنسبة لأي واحد يسمع حكايتي |
94 | الجرثومة يتاجر في ماسي الناس فيك يوم يا علاء |
95 | Machalah 3alik ya feris |
96 | حنا الرابحين بلا ما نتفرجو نستناو الفرحة الأخيرة |
97 | Mourad 6:30 B dmou3 hhhhhhhh |
98 | اشومي مت بضحك كي قال قيصر منين جابها برك 🤣🤣🤣 |
99 | ماتت ملغزان ي ولو زاده إذا يحب يحبس كرهبه يحط عليها يده مستحيل باش الكرهبه تخدم و لاتتحرك فيه صنعه مشومه و ت |
End of preview.
Tunisian Derja Retrieval Benchmark
The first retrieval benchmark for Tunisian Derja, covering both scripts it is
actually written in -- Arabic script and Arabizi (Latin letters with digits
standing in for Arabic consonants: 3=ع, 7=ح, 9=ق).
What makes this different
A third of the queries are cross-script: an Arabizi query against Arabic-script documents. Measured on this data, no off-the-shelf multilingual retriever can do it:
| task | gte base | e5 reference | fine-tuned |
|---|---|---|---|
| derja arabic | 51.0 | 44.0 | 23.0 |
| derja arabizi | 33.5 | 29.0 | 31.0 |
| derja cross script | 1.5 | 0.5 | 7.0 |
| msa | 41.0 | 43.0 | 24.5 |
| french | 50.0 | 39.0 | 30.5 |
recall@1. gte-multilingual-base scores 1.5 on cross-script and
multilingual-e5-base scores 0.5 -- effectively zero. Tunisians routinely
type the same language in either script, so a retriever that cannot bridge them
fails on a large share of real queries.
Contents
| file | what it is |
|---|---|
eval_queue.jsonl |
3,000 (query, candidate document) items awaiting graded relevance |
eval_queue.tsv |
the same, for spreadsheet review |
eval_pool.jsonl |
the 20,000-document pool the candidates were drawn from |
300 queries: 100 Arabic script, 100 Arabizi, 100 cross-script. Ten candidates per query, TREC-style pooled from a retrieval run rather than randomly sampled, so judgements land where systems disagree instead of on obvious non-matches.
Grades
| grade | meaning |
|---|---|
| 3 | perfect -- directly answers or restates the query |
| 2 | relevant -- same topic, useful |
| 1 | marginal -- loosely related, would not satisfy the searcher |
| 0 | irrelevant |
Labels
The grade field is empty on every item, by design. Relevance for Derja is a
native speaker's judgement, and generating labels programmatically would make the
benchmark measure the labelling script rather than retrieval quality.
What ships here is the reusable part: a document pool, 300 queries across three retrieval regimes, and the pooled candidate sets that make judging efficient. Grades are an open contribution — grading tooling is in the source repository, and partial judgements are useful (roughly 30 fully-judged queries is enough to sanity -check a system).
Model comparisons can be run on this data without any grades, using span-derived proxy relevance; see the caveat below.
Construction
Queries are 3--6 word spans drawn from pool documents. Short deliberately: an earlier version used ~60% of a document's words and saturated at 100% recall@10, measuring lexical overlap rather than retrieval.
Source corpora: hamzabouajila/tunisian-derja-unified-raw-corpus and
Nehdi/TuniziBigBench. Both are scraped social text; documents passed a quality
filter (no URLs, no repeated-unit spam, length bounds) before entering the pool.
Limitations
- Unjudged. See above.
- Derja/MSA boundary is lexical. Arabic-script Derja is separated from Modern Standard Arabic by a function-word test, which is high precision and low recall.
- Arabizi detection undercounts. It leans on word-internal digits and a marker list, so digitless Arabizi is missed.
- Source content is unfiltered social text and contains explicit and abusive material. Documents were not screened for offensiveness.
- Downloads last month
- 7