Datasets:

Minuri
/

sinhala-corpus-b-random-1m

orig_index int64 37 7.71M	sentence stringlengths 20 300	source stringclasses 4 values	predicted_domain stringclasses 8 values	confidence float64 0.9 0.99
6,259,000	1991.04.19 වැනිදා මාව පුහුණුවට කැඳවලා තිබුණා	culturax	Education	0.9791
4,832,955	ඇතැම් ප්රවෘත්තිවලින් පෙන්වන දේ කුඩා දරුවන් අත්හදා බැදීමට යෑම නිසා ප්රශ්න ඇති වූ වාර අනන්ත බවත් ඒ පිළිබඳ සැලකිලිමත්ව සිදුකිරීමෙන් එවැනි දේ වළක්වා ගත හැකි බවත් ඒ මහතා ප්රකාශ කළේය	culturax	Education	0.9845
2,143,310	රාගමට ගිහින් එතැනින් පොතුහැරට"\n"අනේ එහෙනම් මාත් එන්නම්	madlad	Conversational & Informal	0.9842
4,986,658	ඒ නිසා මේ විදිහට මෝඩ චූන් දිදී ඉන්න පුළුවං විදිහට ජනතාව තියාගත්තාම තමන්ටත් ලේසියි	culturax	Conversational & Informal	0.9872
1,340,550	හේතුව ශ්රී එෆ් එම් ඉරිදා නිධානය ගැන කියන්න කලින් කතාවක ලයිට් නෑ කියලත් කියල තියෙනවා	madlad	Entertainment & Creative	0.982
7,179,229	පෑලියගොඩ, ඔලියමුල්ල ප්රදේශයේදී කැළණි ගඟේ තිබී නාදුනන පුද්ගල මළ සිරුරක් ඊයේ (24) සොයාගෙන තිබෙනවා	nsina	Health	0.9203
673,351	ඒකයි නම දැම්මෙ” කියල මම කිව්වා	madlad	Conversational & Informal	0.9865
7,157,038	කොළඹ අක්ෂි රෝහලෙන් ද මෙවැනිම සිද්ධියක් වාර්තාවූ අතර, ඒ අනුව අදාළ ඖෂධය භාවිතයෙන් ඉවත් කර ගැනුණා	nsina	Health	0.9572
4,233,121	මේ ශරිෆාම දැයි හඳුනා ගැනීමට නවීන වෛද්ය පරීක්ෂණද අවශ්ය විය	culturax	Health	0.983
3,036,511	\nඅන්තර්ගත කළමනාකරණ දෘෂ්ටි කෝණයකින්, බොහෝ කර්මාන්තකරුවන් මේ සියල්ල 'ප්රතිදාන' වර්ග ලෙස සිතති	madlad	Agriculture	0.9682
7,421,877	කොවිඩ් 19 වෛරස රෝගය පැතිරීම නිසා වසර දෙකක් තිස්සේ නතර වී තිබූ ඉන්දියාවේ ජම්මු කාශ්මීරයේ ශ්රී නගර් හි සුප්රසිද්ධ රග්යානා දේවි විහාරස්ථානය වන්දනා කිරීම යළි ආරම්භ වී ඇත	nsina	Health	0.939
3,889,552	අයිස් මිනිසා හෙවත් විම් හොෆ් ( Wim Hof ) ගේ ප්රාණයාම ක්රමය Posted on May 13, 2021 විම්හොෆ් ප්රාණයාම ක්රමය මේ වනවිට කොරෝනා උවදුර දරාගත නොහැකි මට්ටම පැතිරෙමින් යනවා	culturax	Conversational & Informal	0.9664
1,659,659	\nප්රේමය වූ කලී මහ කන්දක් සේ ආත්මයෙහි කිඳා බස්නා හැඟීමකැයි දැන් මම දන්නෙමි	madlad	Conversational & Informal	0.9855
3,906,232	කාන්තාවන්ට,දැරියන්ට වන අතවර වලට රජය පැත්තෙන් ආරක්ෂාව ලබාදීම නම් සෑහීමකට පත්වෙන්න බැහැ	culturax	News	0.9715
586,097	ඉතින් අපි විවාහවෙලා පදිංචි වුණේ එහෙමයි	madlad	Conversational & Informal	0.9834
6,774,528	ඒ අනුව දැරිය මාතර සිට කොළඹට රැගෙනවිත් කොළඹ ප්රදේශයේ උසස් බාලිකා පාසැලකට යමින් වසර 6ක් තිස්සේ මෙම නිවසේ රැඳී සිට ඇත	nsina	Education	0.9682
372,787	මෙහෙම ඉන්න කොට ආපහු සැරයක් පන්හිඳේ ලියවෙන දිසාපති පට්ටම දරාපු මුල් යුගයට ආපහු මාව අරගෙන ගිය ප්රවෘතියක් ගිය සතියෙ ඉරිදා ලංකාදීප පත්තරේ දැක්කා	madlad	Conversational & Informal	0.9789
7,063,588	“ නිකුත් කරන ලද 2011 උසස් පෙළ ප්රතිඵල වෙනුවට , පැරණි හා නව විෂය නිර්දේශ සඳහා වෙන වෙනම ‘Z’ අගය ගණනය කර ප්රතිඵල නැවත නිකුත් කරන ලෙස ශ්රේෂ්ඨාධිකරණය තීන්දුවක් ලබාදී ඇත	nsina	Education	0.955
7,227,261	මිෂනාරී ආගම් ප්රචලිත කිරීමට මාන බැලූ විදේශිකයන් ට මෙන්ම නම්බුනාම ලැබීම සදහා ඉංග්රීසින්ට දන නැමූ කළු සුද්දන්ට මෙන්ම දේශීයත්වයට පිටු පෑ සිංහලයින් ඉන් ගොඩ ගැනීමට මෙතුමා තම ජීවිතයම කැප කළා	nsina	Religion & Culture	0.9647
2,444,515	අත්වැල් බැඳගෙන ගියොත් ප්රමාදී භාවයටයි පත්වෙන්නේ	madlad	Conversational & Informal	0.985
5,637,126	එසේ කියන තුරැ ඔහු ඇයට පහර දෙයි ඔහු පැවසුවේ මේ දුඹුරැ වහලිය ඔහුගේ භාන්ඩයක් බවය	culturax	Conversational & Informal	0.9612
3,364,699	\nතමන් පුරවැසි වන රටේ අවසරයකින් තොරව පුද්ගලයකුට වෙනත් රටක පුරවැසිභාවය ලබාගත හැකි ද යන්න සහ එසේ පුරවැසිභාවය ලබාගෙන තමන් සිටි රටේ පුරවැසිභාවය අත්හළ හැකි ද යන්න විමසිය යුතු ය	madlad	News	0.9157
921,535	එද්දලවාදය ධනවාදයක් නෙමෙයි නම් ආයෙත් ධනවාදී කෑල්ලක් ගාව ගන්නෙ ඇයි	madlad	Conversational & Informal	0.9716
427,915	නමුත් මෙය ඔබගේ අකණ්ඩතාවය (Integrity) ආරක්ෂා කරගෙන සිදු කරන්න	madlad	Conversational & Informal	0.9589
4,439,883	මෙම පළාත තුළ මීට දින කිහිපයකට පෙර පාසලක් අසල සිදුවූ බෝම්බ ප්රහාර ද්විත්වයකින් පුද්ගලයන් 5 දෙනෙකු තුවාල ලැබීය	culturax	Education	0.9876
1,180,500	ඔබ නොදුටු අප නොදුටු කොච්චර දේවල් තියෙනවද	madlad	Conversational & Informal	0.9868
7,016,927	අනුරාධපුර ඔයාමඩුව සහ අම්පාර හාඩි විද්යාලයේ 2012 සහ 2013 වසර දෙකේදී පවත්වන ලද ප්රදර්ශනයෙන් මෙම මිලියන 500 ක මුදල වංචාකර තිබෙන බවට චෝදනා න ` ගා තිබේ	nsina	Education	0.9533
2,194,516	\nඔන්න ලංකාදීප එකේ තියනවා ශ්රීලනිප මධ්යම කාරකසභාව ඔය පනත කල්දාන්න තීරණයකලා කියලා	madlad	Government & Legal	0.9673
797,625	\nඕනෑම ආහාරයක් ඉතා කෙටි කාලයකින් ඒකාකාරී විදිහට රත් කරලා දෙන්න මයික්රෝවේව් උදුනකට පුළුවන්	madlad	Agriculture	0.973
1,803,693	නලින් මහතා කියන ලෝක විනාශය සිදු වන්නේ විද්යාව නිසා නො ව බටහිර චින්තනයේ පදනම වී ඇති තෘෂ්ණාව නිසා ය	madlad	Education	0.9787
553,832	වීරියවන්තයින්ගේ පක්ෂය – එක්සත් ජාතික පක්ෂය \| සදාහරිත\n සිතන්නට යමක්	madlad	News	0.9717
3,858,607	හප්පේ ඒ දවස්වල මං පාන් කෑවෙත් ඒවා එක්ක	culturax	Conversational & Informal	0.9853
2,183,012	කලු අය ඉඳීමත් අවුල්ද	madlad	Conversational & Informal	0.9876
5,440,564	"දිරිගැන්වීමේ පුත්රයා" (ක්රියා 4	culturax	Entertainment & Creative	0.9509
5,744,927	නමුත් එය අසීමාන්තික දෙයක් හෝ තෝරාගත් කිහිපදෙනෙක් වෙනුවෙන් පමණක් කිරීම සුදුසු නැහැ	culturax	Conversational & Informal	0.9812
51,553	ඒ කියන්නෙ පාරෙ ඉන්න එවුන්ගෙ කනට ගහලා පොලීසියට ගෙනියනවා බලන්න	madlad	Conversational & Informal	0.9883
5,376,384	ජැකා දැන් ඉන්නේ පැබ්ලෝ ගේ තැනේ තමා	culturax	Conversational & Informal	0.9879
4,193,731	බුද්ධත්වයෙන් පළමු වර්ෂයේම යකුන් ගිරි දිවයිනට පලවා හැරි නමුත්, ඉන් පසුත් තව දෙවරක් ලංකාවට වැඩම කළ නමුත්, තමන් වහන්සේ පිරිනිවන් පානා දිනයේ විජය ලංකාව 'සොයා ගන්නා' විට යකිනියක් කපු කටිමින් සිටී	culturax	Religion & Culture	0.9881
1,641,541	කළුබණ්ඩාර දෙවියන්නේ කෝවිල නම් වූ කෝවිලක් සහ අතහැර දැමූ ගුණමත් වැව නම් වැවක්ද තිබී ඇත	madlad	Religion & Culture	0.9883
6,924,600	මෙම වර්ජනය හේතුවෙන් පාසල් සිසුන් ඇතුළු විශාල පිරිසක් දුෂ්කරතාවට පත්ව ඇති බව අද දෙරණ වාර්තාකරු සඳහන් කළේය	nsina	Education	0.906
1,372,389	විශේෂයෙන්ම හැට්ටාකටුවලින් තනන ලද දරුවන් නලවන තොටිල්ල එහි උපරිම තලයයි	madlad	Education	0.9884
778,611	මේ කාරණය ගැන අපට කතා බහ කළ හැකියි	madlad	Entertainment & Creative	0.9838
6,995,744	”විශ්වවිද්යාල සිසුන්, වෛද්යවරුන් ඇතුළු ජනතාවගේ විරෝධය නොසලකා හරිමින් ආණ්ඩුවේ ඍජු සහයෝගයෙන් ආරම්භ කරන ලද මාළඹේ පෞද්ගලික වෛද්ය විද්යාලයේ (SAITM) තත්වය මේ වනවිට ඉතාම තීරණාත්මක තත්වයකට පැමිණ ඇත	nsina	Health	0.9558
5,174,609	"යනුවෙන් ද අධ්යක්ෂ ජනරාල්වරයා ප්රකාශ කළේය	culturax	Education	0.9401
157,255	ඔබ ඔහුව පරාජය කිරීමට හැකි වනු ඇත පසු, ඔහු පලා කළමනාකරණය, ඒ නිසා මෙම සිද්ධිය හඹා තුළ ඔබ වියදම් හා නැනෝ සොයනු ඇත	madlad	Conversational & Informal	0.963
4,726,427	කොහොමත් දරු නැලවිලි ගීවලට මම ආසයි	culturax	Entertainment & Creative	0.9861
5,573,463	බටහිර විද්යාවේ දාර්ශනිකයන් කෙසේ කීව ද නිරීක්ෂණ මත පදනම් වී නිගමනවලට එළඹී තිබුණේ ඇරිස්ටෝටලීය පද්ධතියෙහි ය	culturax	Education	0.9767
1,882,381	ඊට පස්සෙ හයිපොතිසිස් එක ලියනවා	madlad	Conversational & Informal	0.9836
1,042,287	මෙම දිලීරය බීජ මඟින් බෝවිය හැකි බැවින් සැලකිලිමත් විය යුතුය	madlad	Agriculture	0.9869
3,874,913	නැවත කොමඩි චරිත රඟපාන්නේ නැද්ද	culturax	Entertainment & Creative	0.9796
6,494,378	2015 වසරේදී රටේ ජනතාවට අමතකව ගිය යුතුකම නැවත මතක් කරදීම සඳහායි අප යුතුකම බිහි කළේ	nsina	News	0.9661
3,666,213	ඊට පස්සේ කැප්ටන් නැව හරවාගෙන ඔස්ට්රේලියා යන්න ගියා	madlad	Conversational & Informal	0.9873
3,081,032	මේ හැම මතකයක්ම මිහිරි නොවුනත් කාලයකදී මිහිරි ලෙස ආවර්ජනය කරන්න පුළුවන්	madlad	Entertainment & Creative	0.9201
2,597,452	\nමිණි මෙවුල ලක් රාජ වංශයේ ස්ත්රී කතාව ද අවදි කරන අපූරු නිමිත්තය	madlad	Entertainment & Creative	0.9874
3,284,928	විනය භාර ලොකු සර් ලා මිස් ලා එමටයි	madlad	Education	0.9683
1,137,069	මගේ විස්සෝපය ඔවුන්ටද තේරේ	madlad	Conversational & Informal	0.985
2,953,369	ඔබ විශ්වාස කරනවද වත්මන් ජනාධිපතිවරයාට මේ රට නිසි තැනකට ගෙනියන්න පුළුවන්කමක් ලැබේවි කියලා	madlad	News	0.9607
4,490,887	හැබැයි බාලි හොඳටම බිසී වෙන්නෙත් ඒ කාලෙට තමයි	culturax	Conversational & Informal	0.9876
5,256,249	ලාංකේය ටෙලි නාට්ය වෙත ඔවුන් ඇද බැඳ තබාගන්න නොහැකිද	culturax	Entertainment & Creative	0.9867
3,133,335	නුඹේ වෙළඳාමේ යෙදී සිටීමට මුහුදේ සියලු නැව්ද ඒවා යාත්රාකරන්නෝද නුඹ තුළ සිටියෝය	madlad	Conversational & Informal	0.9781
731,758	මේ අහන අපි විළි ලැජ්ජාවෙන් හැකිළි යන්න ඕනනේ	madlad	Conversational & Informal	0.9872
3,056,747	04 PM\nඋබලටත් තේරුණාද බස්සාට වෙලා තියෙන දේ	madlad	Conversational & Informal	0.9879
2,661,517	එයාව අත්දෙකෙන් අල්ලගෙන බිම දිගේ ඇදන් යද්දි මොනව හිතුනද දන්නෑ	madlad	Conversational & Informal	0.9871
6,132,028	එවැන්නක් සැත්කමකින්, සුද ඉවත්කිරීමකින් සුව කරගත හැකිය	culturax	Health	0.9859
6,809,039	මගේ බලාපොරොත්තුවක් තිබුණා දිවයිනෙන් දස දෙනා අතරට එන්න	nsina	Conversational & Informal	0.9423
5,090,467	ගිරවා කීවේ ඒකට අපේ බොසා මොන නැකතක උපන්නද කියලා මෙලෝ යකෙකුට කියන්න බැහැ කියාය	culturax	Conversational & Informal	0.9879
7,410,467	ඒ නිසා ඔහුට මෙම ග්රාමයේ ඇතැම් පුද්ගලයන් සමග සම්බන්ධතා තිබිණි	nsina	Religion & Culture	0.9634
5,691,797	ඒ ඒ රට ඒ ඒ රටේ සංස්කෘතිය චින්තනය මත පදනම් ව ගන්නා තීරණ වෙනත් සංස්කෘතීන්ට අදාළ වන්නේ නැහැ	culturax	Religion & Culture	0.9304
1,150,250	\nඅපේ වච්ඡායන ශ්රමණ ගෞතමයන් ගැන මහා ගෞරවයකින් ප්රශංසා කරනවානේ	madlad	Religion & Culture	0.9813
1,501,397	කොල්ලකරුවන් වෙළෙද සැලෙන් එළියට පැමිණෙද්දී පොලීසිය සමග පැවති වෙඩි හුවමාරුවේදී පොලිස් නිලධාරීයෙක්ද මිය ගියේය	madlad	News	0.9717
3,895,409	ගිරුවාපත්තුව අවදි කළ ඞී	culturax	Conversational & Informal	0.9757
5,982,019	මෙම සැසිය තුලදී සාමුහිකව මෙන්ම කුඩා කණ්ඩායම් වශයෙන් ද ක්රියාත්මක වී අන්තර් ක්රියාකාරි සාකච්ඡා තුලින් දැනුම හුවමාරු කරගත්හ	culturax	Education	0.9857
6,756,440	තෙත් බිම් ආශ්රිත පක්ෂින් බෝවීම හා ගොදුරු බිම වන මෙම පරිසර පද්ධතියව සංක්රමනික පක්ෂින්ගේ ද නවාතැන් පොළකි	nsina	Agriculture	0.9363
4,364,091	ඇස් දෙකට කදුළු උලන දුකක් වු විට සැටියේ නිදාන චමතයා	culturax	Conversational & Informal	0.9814
5,844,538	39 PM ඔබේ අදහසට මමත් එකඟයි	culturax	Conversational & Informal	0.9859
1,929,578	ඊට පස්සේ නයාව ඇදලා ගත්තා	madlad	Conversational & Informal	0.9836
6,203,090	වරෙන්කො යන ගමන් කියන්නං	culturax	Conversational & Informal	0.9839
3,577,591	අනික තමයි නිතර පොතපත කියවීම\nතුළ ලබන භාෂාමය අත්දැකිම	madlad	Education	0.9883
450,374	\nපරීක්ෂකයන් හඳුන්වා දී තිබෙන මෙමෙ ක්රමවේදයේ නිරවද්ය තාව තවමත් පවතින්නේ 80% ක පමණ මට්ටමක	madlad	Government & Legal	0.9384
1,324,897	(පරණ වාහන ගත්තේ ඒවාට හෝ ඒවා හදන්න තිබුන ආසාවක් නිසා නෙමෙයි අලුත් ඒවා ගන්න සල්ලි නොතිබුන නිසා	madlad	Conversational & Informal	0.949
6,934,071	මෙවර විශ්ව විද්යාලවලට ඇතුළත් වීම සඳහා අයදුම්පත් භාර ගැනීම අද දිනයෙන් අවසන් වෙයි	nsina	Education	0.9698
6,690,653	අපට සම්පත් තිබුණත් ඒවායෙන් නිසි ප්රයෝජන ගන්නේ නැහැ	nsina	Conversational & Informal	0.9212
1,782,529	දැන් ඉතින් පමා නොවී අදාල ගෙවීම් සිදු කරල , පාස්පෝට් ටික වීසා ඔෆීස් එකට භාර දීලා හවස් වෙනකම් ටිකක් ෂොපිං කරන්න , මොකද දැන් ඉතින් ගෙනියන්න දේවල් ගන්න එපායැ	madlad	Conversational & Informal	0.9879
3,017,491	කොහොම හරි දාගත්ත මුල්ම කාලෙ මගෙ යෝනියෙ හිර ගතියක් නැති නිසානෙ එයා බැක් එකට ට්රයිකරන්න ඇත්තෙ	madlad	Conversational & Informal	0.9878
2,864,301	අබයා කලින්ම කියා දැම්මේය	madlad	Conversational & Informal	0.9878
4,050,193	රටම නොනිළ ලොක්ඩවුන් එකක	culturax	Conversational & Informal	0.977
1,622,103	ශුභාරංචි අන්තර්ගතයේ පෙන්නුම් කරන්නේ ස්වර්ගය එහි සිටීමට අවශ්යය නොවන අයගෙන් පිරී ඇති බවයි.\n4.\tපරස්පර විරෝධී ප්රකාශයන් ඉදිරිපත් කරන බොහෝ ආගම් තිබේ නම්, ආගමික බැඳීම් නොසලකා මිනිසුන් ස්වර්ගයට යන්නේ කෙසේද	madlad	Religion & Culture	0.9893
1,319,622	ඒක එහෙම උනාට මුලින්ම මේකෙ නම තිබුනේ short කියලා	madlad	Conversational & Informal	0.9868
2,996,596	නැත්තං තොපිලා මට බැනගෙන බැනගෙන යාවි	madlad	Conversational & Informal	0.9868
6,496,265	ජනතාව මේ ආණ්ඩුවට තවත් වසර පහක් බාරදෙන්න සූදානම් නැහැ	nsina	News	0.9765
5,929,445	වසරින් වසරට හෝ කාලෙන් කාලෙට එක පොදියට නිර්මාණය වන ටෙලි පොකුරු අතර, සුන්දර කෙල්ලන් හරි හරියට බිහිවිය	culturax	Entertainment & Creative	0.9831
3,916,498	ප්රශ්නය – ඔබව පක්ෂයෙන් ඉවත් කිරීමට මධ්යම කාරක සභාවට හැකියාවක් තියෙනවාද	culturax	News	0.9737
3,831,323	ආපස්සට හැරිලා බලද්දි මගේ හිතට පුදුම දුකක් දැනෙනව෴	madlad	Conversational & Informal	0.9859
5,769,507	එහෙත් මේ දක්වා ඔහුට යළි රැකියාව හිමිවී නැත	culturax	Conversational & Informal	0.9218
3,526,937	මම අදටත් ඔවුන්ගේ පවුලේ හිතවතෙක්	madlad	Conversational & Informal	0.9769
4,489,163	ඔබ සිහින දකින නිදහස්,සරාගී, දඟකාර හෝරා කිහිපය ප්රියමනාප තරුණයෙකු සමග ගතකිරීමට කැමතිද	culturax	Conversational & Informal	0.9749
1,292,704	අම්මම්මා ඉතින් ඔය ගැන කලින්ම චූටම්මට කියල තිබුනේ	madlad	Conversational & Informal	0.9874
1,216,912	රටේ රාජ්ය නායකයා විනාඩි කිහිපයකට අතුරුදන්ව සිටියේය	madlad	News	0.9768
6,530,621	ප්රදේශයේ පවතින දැඩි වියළි කාලගුණය හේතුවෙන් ගින්න පැතිරයමින් පවතින අතර පොලිසිය කියයි	nsina	News	0.9722
2,684,919	”\nඇගේ 'තිබුන ලේ ටිකත්' හිදුනද මන්ද	madlad	Conversational & Informal	0.9022

End of preview. Expand in Data Studio

Randomly Curated Sinhala Corpus

A randomly sampled subset of 1M Sinhala sentences from the Minuri/diverse_sinhala_dataset corpus, used for continual pretraining of LLaMA 3.2 1B (Model B) as part of a diversity-driven Sinhala language model adaptation study.

Corpus variants in this series:

Minuri/sinhala-corpus-a-news-1m - News-only subset (domain-homogeneous baseline)

Minuri/sinhala-corpus-b-random-1m - Random subset (random baseline) - this repo

Minuri/sinhala-corpus-c-diverse-1m - Diversity-optimized subset ✅ Best perplexity

Dataset Description

Corpus B serves as the random sampling baseline, comprising 1M sentences drawn randomly from the full parent corpus without any domain or diversity constraints. This allows comparison against the domain-controlled (A) and diversity-optimized (C) corpora. The model trained on this corpus (Model B) achieved a perplexity of 10.86 on the Sinhala test set.

Source Datasets (via parent corpus)

Source	Description
`culturax`	CulturaX multilingual web corpus (Sinhala subset)
`madlad`	MADLAD-400 multilingual dataset (Sinhala subset)
`nsina`	NSina Sinhala news corpus
`wikipedia`	Sinhala Wikipedia dump

Dataset Structure

Column	Type	Description
`orig_index`	int	Original index in the parent corpus
`sentence`	string	Sinhala sentence text
`source`	string	Source dataset identifier
`predicted_domain`	string	Domain label predicted by XLM-RoBERTa classifier
`confidence`	float	Classifier confidence score

Splits

Split	Rows
train	1,000,000

Format

Available in both JSONL and CSV formats.

Intended Uses

Continual pretraining of LLMs on Sinhala (random baseline)
Ablation studies on corpus diversity
Sinhala NLP benchmarking

Associated Model

This corpus was used to train: Minuri/sinhala-llama-1b-corpus-random

Related Repositories

Repo	Description
`Minuri/diverse_sinhala_dataset`	Full 12.38M sentence parent corpus
`Minuri/sinhala-corpus-a-news-1m`	Corpus A - news-only (1M)
`Minuri/sinhala-corpus-c-diverse-1m`	Corpus C - diversity-optimized (1M)
`Minuri/sinhala-test-set-50k`	Test set (50K sentences)
`Minuri/sinhala-validation-set-10k`	Validation set (10K sentences)
`Minuri/sinhala-llama-3.2-1b-tokenizer`	Extended Sinhala tokenizer

Sources & Licenses

This dataset contains sentences derived from the following source datasets. Users must comply with the license terms of each:

Source	License	Notes
MADLAD-400	ODC-BY	Attribution required
CulturaX	mC4 + OSCAR licenses	Requires contact info agreement on HuggingFace before access
wikimedia/wikipedia	CC BY-SA 3.0 + GFDL	ShareAlike - derived works must carry same license
sinhala-nlp/NSINA	CC BY-SA 4.0	ShareAlike - derived works must carry same license

This dataset is released under CC BY-SA 4.0 in compliance with the ShareAlike terms of Wikipedia and NSINA.

Downloads last month: 24