SEA-HELM Evaluation Datasets
Collection
13 items
•
Updated
•
3
Datasets:
id
string | label
string | prompts
list | metadata
dict |
|---|---|---|---|
0
|
Benar
|
[
{
"conclusion": "Tini masih bisa membeli panci di toko",
"text": "Tono membeli beberapa panci di toko"
}
] |
{
"category": "some_but_not_all",
"language": "id",
"linguistic_phenomenon": "scalar_implicatures"
}
|
1
|
Salah
|
[
{
"conclusion": "Tini tidak akan bisa membeli panci di toko lagi",
"text": "Tono membeli beberapa panci di toko"
}
] |
{
"category": "some_but_not_all",
"language": "id",
"linguistic_phenomenon": "scalar_implicatures"
}
|
2
|
Benar
|
[
{
"conclusion": "Tini tidak akan bisa membeli panci di toko lagi",
"text": "Tono membeli semua panci di toko"
}
] |
{
"category": "some_but_not_all",
"language": "id",
"linguistic_phenomenon": "scalar_implicatures"
}
|
3
|
Salah
|
[
{
"conclusion": "Tini masih bisa membeli panci di toko",
"text": "Tono membeli semua panci di toko"
}
] |
{
"category": "some_but_not_all",
"language": "id",
"linguistic_phenomenon": "scalar_implicatures"
}
|
4
|
Benar
|
[
{
"conclusion": "Tono masih bisa membeli lupisnya dari Tina",
"text": "Tina menjual sebagian dari lupisnya di pasar hari ini"
}
] |
{
"category": "some_but_not_all",
"language": "id",
"linguistic_phenomenon": "scalar_implicatures"
}
|
5
|
Salah
|
[
{
"conclusion": "Tono tidak akan bisa membeli lupisnya dari Tina lagi",
"text": "Tina menjual sebagian dari lupisnya di pasar hari ini"
}
] |
{
"category": "some_but_not_all",
"language": "id",
"linguistic_phenomenon": "scalar_implicatures"
}
|
6
|
Benar
|
[
{
"conclusion": "Tono tidak akan bisa membeli lupisnya dari Tina lagi",
"text": "Tina menjual semua lupisnya di pasar hari ini"
}
] |
{
"category": "some_but_not_all",
"language": "id",
"linguistic_phenomenon": "scalar_implicatures"
}
|
7
|
Salah
|
[
{
"conclusion": "Tono masih bisa membeli lupisnya dari Tina",
"text": "Tina menjual semua lupisnya di pasar hari ini"
}
] |
{
"category": "some_but_not_all",
"language": "id",
"linguistic_phenomenon": "scalar_implicatures"
}
|
8
|
Benar
|
[
{
"conclusion": "Masih ada beberapa meja yang tersisa untuk dibersihkan oleh Tini",
"text": "Tini membersihkan beberapa meja"
}
] |
{
"category": "some_but_not_all",
"language": "id",
"linguistic_phenomenon": "scalar_implicatures"
}
|
9
|
Salah
|
[
{
"conclusion": "Tidak ada meja yang tersisa untuk dibersihkan oleh Tini",
"text": "Tini membersihkan beberapa meja"
}
] |
{
"category": "some_but_not_all",
"language": "id",
"linguistic_phenomenon": "scalar_implicatures"
}
|
10
|
Benar
|
[
{
"conclusion": "Tidak ada meja yang tersisa untuk dibersihkan oleh Tini",
"text": "Tini membersihkan semua meja"
}
] |
{
"category": "some_but_not_all",
"language": "id",
"linguistic_phenomenon": "scalar_implicatures"
}
|
11
|
Salah
|
[
{
"conclusion": "Masih ada meja yang tersisa untuk dibersihkan oleh Tini",
"text": "Tini membersihkan semua meja"
}
] |
{
"category": "some_but_not_all",
"language": "id",
"linguistic_phenomenon": "scalar_implicatures"
}
|
12
|
Benar
|
[
{
"conclusion": "Ada beberapa pengunjung di kafe yang tidak sedang meminum kopi",
"text": "Beberapa pengunjung di kafe sedang meminum kopi"
}
] |
{
"category": "all",
"language": "id",
"linguistic_phenomenon": "scalar_implicatures"
}
|
13
|
Salah
|
[
{
"conclusion": "Tidak ada pengunjung di kafe yang tidak sedang meminum kopi",
"text": "Beberapa pengunjung di kafe sedang meminum kopi"
}
] |
{
"category": "all",
"language": "id",
"linguistic_phenomenon": "scalar_implicatures"
}
|
14
|
Benar
|
[
{
"conclusion": "Tidak ada pengunjung di kafe yang tidak sedang meminum kopi",
"text": "Semua pengunjung di kafe sedang meminum kopi"
}
] |
{
"category": "all",
"language": "id",
"linguistic_phenomenon": "scalar_implicatures"
}
|
15
|
Salah
|
[
{
"conclusion": "Ada beberapa pengunjung di kafe yang tidak sedang meminum kopi",
"text": "Semua pengunjung di kafe sedang meminum kopi"
}
] |
{
"category": "all",
"language": "id",
"linguistic_phenomenon": "scalar_implicatures"
}
|
16
|
Benar
|
[
{
"conclusion": "Ada beberapa anak di sekolah yang tidak sedang memakai baju seragam mereka",
"text": "Beberapa anak di sekolah sedang memakai baju seragam mereka"
}
] |
{
"category": "all",
"language": "id",
"linguistic_phenomenon": "scalar_implicatures"
}
|
17
|
Salah
|
[
{
"conclusion": "Tidak ada anak di sekolah yang tidak sedang memakai baju seragam mereka",
"text": "Beberapa anak di sekolah sedang memakai baju seragam mereka"
}
] |
{
"category": "all",
"language": "id",
"linguistic_phenomenon": "scalar_implicatures"
}
|
18
|
Benar
|
[
{
"conclusion": "Tidak ada anak di sekolah yang tidak sedang memakai baju seragam mereka",
"text": "Semua anak di sekolah sedang memakai baju seragam mereka"
}
] |
{
"category": "all",
"language": "id",
"linguistic_phenomenon": "scalar_implicatures"
}
|
19
|
Salah
|
[
{
"conclusion": "Ada beberapa anak di sekolah yang tidak sedang memakai baju seragam mereka",
"text": "Semua anak di sekolah sedang memakai baju seragam mereka"
}
] |
{
"category": "all",
"language": "id",
"linguistic_phenomenon": "scalar_implicatures"
}
|
20
|
Benar
|
[
{
"conclusion": "Ada beberapa anjing di lingkungan itu yang tidak sedang menggonggong",
"text": "Beberapa anjing di lingkungan itu sedang menggonggong"
}
] |
{
"category": "all",
"language": "id",
"linguistic_phenomenon": "scalar_implicatures"
}
|
21
|
Salah
|
[
{
"conclusion": "Tidak ada anjing di lingkungan itu yang tidak sedang menggonggong",
"text": "Beberapa anjing di lingkungan itu sedang menggonggong"
}
] |
{
"category": "all",
"language": "id",
"linguistic_phenomenon": "scalar_implicatures"
}
|
22
|
Benar
|
[
{
"conclusion": "Tidak ada anjing di lingkungan itu yang tidak sedang menggonggong",
"text": "Semua anjing di lingkungan itu sedang menggonggong"
}
] |
{
"category": "all",
"language": "id",
"linguistic_phenomenon": "scalar_implicatures"
}
|
23
|
Salah
|
[
{
"conclusion": "Ada beberapa anjing di lingkungan itu yang tidak sedang menggonggong",
"text": "Semua anjing di lingkungan itu sedang menggonggong"
}
] |
{
"category": "all",
"language": "id",
"linguistic_phenomenon": "scalar_implicatures"
}
|
24
|
Salah
|
[
{
"conclusion": "Kucingnya tidak dikurung sebelumnya",
"text": "Kucingnya meloloskan diri dari rumah Tini"
}
] |
{
"category": "change-of-state_verbs",
"language": "id",
"linguistic_phenomenon": "presuppositions"
}
|
25
|
Benar
|
[
{
"conclusion": "Kucingnya dikurung sebelumnya",
"text": "Kucingnya meloloskan diri dari rumah Tini"
}
] |
{
"category": "change-of-state_verbs",
"language": "id",
"linguistic_phenomenon": "presuppositions"
}
|
26
|
Benar
|
[
{
"conclusion": "Sup ayamnya tidak mendidih sebelumnya",
"text": "Sup ayamnya mulai mendidih"
}
] |
{
"category": "change-of-state_verbs",
"language": "id",
"linguistic_phenomenon": "presuppositions"
}
|
27
|
Salah
|
[
{
"conclusion": "Sup ayamnya mendidih sebelumnya",
"text": "Sup ayamnya mulai mendidih"
}
] |
{
"category": "change-of-state_verbs",
"language": "id",
"linguistic_phenomenon": "presuppositions"
}
|
28
|
Benar
|
[
{
"conclusion": "Es krimnya tidak cair sebelumnya",
"text": "Es krimnya mulai mencair"
}
] |
{
"category": "change-of-state_verbs",
"language": "id",
"linguistic_phenomenon": "presuppositions"
}
|
29
|
Salah
|
[
{
"conclusion": "Es krimnya cair sebelumnya",
"text": "Es krimnya mulai mencair"
}
] |
{
"category": "change-of-state_verbs",
"language": "id",
"linguistic_phenomenon": "presuppositions"
}
|
30
|
Salah
|
[
{
"conclusion": "Orang utan itu tidak dalam keadaan terbangun sebelumnya",
"text": "Orang utan itu tertidur"
}
] |
{
"category": "change-of-state_verbs",
"language": "id",
"linguistic_phenomenon": "presuppositions"
}
|
31
|
Benar
|
[
{
"conclusion": "Orang utan itu dalam keadaan terbangun sebelumnya",
"text": "Orang utan itu tertidur"
}
] |
{
"category": "change-of-state_verbs",
"language": "id",
"linguistic_phenomenon": "presuppositions"
}
|
32
|
Benar
|
[
{
"conclusion": "Tono tidak tahu di mana dompetnya berada sebelumnya",
"text": "Tono menemukan dompetnya"
}
] |
{
"category": "change-of-state_verbs",
"language": "id",
"linguistic_phenomenon": "presuppositions"
}
|
33
|
Salah
|
[
{
"conclusion": "Tono tahu di mana dompetnya berada sebelumnya",
"text": "Tono menemukan dompetnya"
}
] |
{
"category": "change-of-state_verbs",
"language": "id",
"linguistic_phenomenon": "presuppositions"
}
|
34
|
Benar
|
[
{
"conclusion": "Gelasnya tidak pecah sebelumnya",
"text": "Tini memecahkan gelasnya"
}
] |
{
"category": "change-of-state_verbs",
"language": "id",
"linguistic_phenomenon": "presuppositions"
}
|
35
|
Salah
|
[
{
"conclusion": "Gelasnya pecah sebelumnya",
"text": "Tini memecahkan gelasnya"
}
] |
{
"category": "change-of-state_verbs",
"language": "id",
"linguistic_phenomenon": "presuppositions"
}
|
36
|
Benar
|
[
{
"conclusion": "Tina ada di pesta itu sebelumnya",
"text": "Tina meninggalkan pesta itu"
}
] |
{
"category": "change-of-state_verbs",
"language": "id",
"linguistic_phenomenon": "presuppositions"
}
|
37
|
Salah
|
[
{
"conclusion": "Tina tidak ada di pesta itu sebelumnya",
"text": "Tina meninggalkan pesta itu"
}
] |
{
"category": "change-of-state_verbs",
"language": "id",
"linguistic_phenomenon": "presuppositions"
}
|
38
|
Benar
|
[
{
"conclusion": "Tono belum ada di bandara sebelumnya",
"text": "Tono tiba di bandara"
}
] |
{
"category": "change-of-state_verbs",
"language": "id",
"linguistic_phenomenon": "presuppositions"
}
|
39
|
Salah
|
[
{
"conclusion": "Tono sudah ada di bandara sebelumnya",
"text": "Tono tiba di bandara"
}
] |
{
"category": "change-of-state_verbs",
"language": "id",
"linguistic_phenomenon": "presuppositions"
}
|
40
|
Benar
|
[
{
"conclusion": "Kendinya belum penuh sebelumnya",
"text": "Tini baru saja mengisi kendi dengan air"
}
] |
{
"category": "change-of-state_verbs",
"language": "id",
"linguistic_phenomenon": "presuppositions"
}
|
41
|
Salah
|
[
{
"conclusion": "Kendinya sudah penuh sebelumnya",
"text": "Tini baru saja mengisi kendi dengan air"
}
] |
{
"category": "change-of-state_verbs",
"language": "id",
"linguistic_phenomenon": "presuppositions"
}
|
42
|
Benar
|
[
{
"conclusion": "Kotak itu tidak kosong sebelumnya",
"text": "Tina mengosongkan kotak itu"
}
] |
{
"category": "change-of-state_verbs",
"language": "id",
"linguistic_phenomenon": "presuppositions"
}
|
43
|
Salah
|
[
{
"conclusion": "Kotak itu kosong sebelumnya",
"text": "Tina mengosongkan kotak itu"
}
] |
{
"category": "change-of-state_verbs",
"language": "id",
"linguistic_phenomenon": "presuppositions"
}
|
44
|
Benar
|
[
{
"conclusion": "Hanya kucing itu yang meloloskan diri",
"text": "Kucingnya lah yang meloloskan diri dari rumah Tini"
}
] |
{
"category": "clefting",
"language": "id",
"linguistic_phenomenon": "presuppositions"
}
|
45
|
Salah
|
[
{
"conclusion": "Beberapa hewan lain juga melarikan diri",
"text": "Kucingnya lah yang meloloskan diri dari rumah Tini"
}
] |
{
"category": "clefting",
"language": "id",
"linguistic_phenomenon": "presuppositions"
}
|
46
|
Benar
|
[
{
"conclusion": "Hanya sup itu yang mulai mendidih",
"text": "Sup ayamnya lah yang mulai mendidih"
}
] |
{
"category": "clefting",
"language": "id",
"linguistic_phenomenon": "presuppositions"
}
|
47
|
Salah
|
[
{
"conclusion": "Beberapa sup lainnya juga mulai mendidih",
"text": "Sup ayamnya lah yang mulai mendidih"
}
] |
{
"category": "clefting",
"language": "id",
"linguistic_phenomenon": "presuppositions"
}
|
48
|
Benar
|
[
{
"conclusion": "Hanya es krim itu yang mulai mencair",
"text": "Es krimnya lah yang mulai mencair"
}
] |
{
"category": "clefting",
"language": "id",
"linguistic_phenomenon": "presuppositions"
}
|
49
|
Salah
|
[
{
"conclusion": "Beberapa es krim lainnya juga mulai mencair",
"text": "Es krimnya lah yang mulai mencair"
}
] |
{
"category": "clefting",
"language": "id",
"linguistic_phenomenon": "presuppositions"
}
|
50
|
Benar
|
[
{
"conclusion": "Hanya orang utan itu yang tertidur",
"text": "Orang utanlah yang tertidur"
}
] |
{
"category": "clefting",
"language": "id",
"linguistic_phenomenon": "presuppositions"
}
|
51
|
Salah
|
[
{
"conclusion": "Beberapa hewan lainnya juga tertidur",
"text": "Orang utanlah yang tertidur"
}
] |
{
"category": "clefting",
"language": "id",
"linguistic_phenomenon": "presuppositions"
}
|
52
|
Benar
|
[
{
"conclusion": "Tono hanya menemukan dompetnya",
"text": "Dompetnya lah yang Tono temukan"
}
] |
{
"category": "clefting",
"language": "id",
"linguistic_phenomenon": "presuppositions"
}
|
53
|
Salah
|
[
{
"conclusion": "Tono juga menemukan barang lainnya",
"text": "Dompetnya lah yang Tono temukan"
}
] |
{
"category": "clefting",
"language": "id",
"linguistic_phenomenon": "presuppositions"
}
|
54
|
Benar
|
[
{
"conclusion": "Tini hanya memecahkan gelasnya",
"text": "Gelasnya lah yang Tini pecahkan"
}
] |
{
"category": "clefting",
"language": "id",
"linguistic_phenomenon": "presuppositions"
}
|
55
|
Salah
|
[
{
"conclusion": "Tini juga memecahkan barang lainnya",
"text": "Gelasnya lah yang Tini pecahkan"
}
] |
{
"category": "clefting",
"language": "id",
"linguistic_phenomenon": "presuppositions"
}
|
56
|
Benar
|
[
{
"conclusion": "Hanya Tina yang meninggalkan pesta itu",
"text": "Tinalah yang meninggalkan pesta itu"
}
] |
{
"category": "clefting",
"language": "id",
"linguistic_phenomenon": "presuppositions"
}
|
57
|
Salah
|
[
{
"conclusion": "Seseorang selain Tina juga meninggalkan pesta itu",
"text": "Tinalah yang meninggalkan pesta itu"
}
] |
{
"category": "clefting",
"language": "id",
"linguistic_phenomenon": "presuppositions"
}
|
58
|
Benar
|
[
{
"conclusion": "Hanya Tono yang tiba di bandara",
"text": "Tonolah yang tiba di bandara"
}
] |
{
"category": "clefting",
"language": "id",
"linguistic_phenomenon": "presuppositions"
}
|
59
|
Salah
|
[
{
"conclusion": "Seseorang selain Tono juga tiba di bandara",
"text": "Tonolah yang tiba di bandara"
}
] |
{
"category": "clefting",
"language": "id",
"linguistic_phenomenon": "presuppositions"
}
|
60
|
Benar
|
[
{
"conclusion": "Tini hanya mengisi kendi itu",
"text": "Kendinya lah yang Tini isi"
}
] |
{
"category": "clefting",
"language": "id",
"linguistic_phenomenon": "presuppositions"
}
|
61
|
Salah
|
[
{
"conclusion": "Tini juga mengisi barang lainnya",
"text": "Kendinya lah yang Tini isi"
}
] |
{
"category": "clefting",
"language": "id",
"linguistic_phenomenon": "presuppositions"
}
|
62
|
Benar
|
[
{
"conclusion": "Tina hanya mengosongkan kotak itu",
"text": "Kotaknya lah yang Tina kosongkan"
}
] |
{
"category": "clefting",
"language": "id",
"linguistic_phenomenon": "presuppositions"
}
|
63
|
Salah
|
[
{
"conclusion": "Tina juga mengosongkan barang lain",
"text": "Kotaknya lah yang Tina kosongkan"
}
] |
{
"category": "clefting",
"language": "id",
"linguistic_phenomenon": "presuppositions"
}
|
64
|
Benar
|
[
{
"conclusion": "Kucing itu meloloskan diri sebelumnya",
"text": "Tono ingin tahu bagaimana caranya kucing itu meloloskan diri dari rumah Tini"
}
] |
{
"category": "embedded_interrogatives",
"language": "id",
"linguistic_phenomenon": "presuppositions"
}
|
65
|
Salah
|
[
{
"conclusion": "Kucing itu tidak meloloskan diri sebelumnya",
"text": "Tono ingin tahu bagaimana caranya kucing itu meloloskan diri dari rumah Tini"
}
] |
{
"category": "embedded_interrogatives",
"language": "id",
"linguistic_phenomenon": "presuppositions"
}
|
66
|
Benar
|
[
{
"conclusion": "Sup ayamnya belum mendidih sebelumnya",
"text": "Tono ingin tahu bagaimana caranya sup ayam itu mulai mendidih"
}
] |
{
"category": "embedded_interrogatives",
"language": "id",
"linguistic_phenomenon": "presuppositions"
}
|
67
|
Salah
|
[
{
"conclusion": "Sup ayamnya sudah mendidih sebelumnya",
"text": "Tono ingin tahu bagaimana caranya sup ayam itu mulai mendidih"
}
] |
{
"category": "embedded_interrogatives",
"language": "id",
"linguistic_phenomenon": "presuppositions"
}
|
68
|
Benar
|
[
{
"conclusion": "Es krimnya belum mencair sebelumnya",
"text": "Tono ingin tahu bagaimana caranya es krim itu mulai mencair"
}
] |
{
"category": "embedded_interrogatives",
"language": "id",
"linguistic_phenomenon": "presuppositions"
}
|
69
|
Salah
|
[
{
"conclusion": "Es krimnya sudah mencair sebelumnya",
"text": "Tono ingin tahu bagaimana caranya es krim itu mulai mencair"
}
] |
{
"category": "embedded_interrogatives",
"language": "id",
"linguistic_phenomenon": "presuppositions"
}
|
70
|
Salah
|
[
{
"conclusion": "Orang utan itu tidak dalam keadaan terbangun sebelumnya",
"text": "Tono ingin tahu bagaimana caranya orang utan itu tertidur"
}
] |
{
"category": "embedded_interrogatives",
"language": "id",
"linguistic_phenomenon": "presuppositions"
}
|
71
|
Benar
|
[
{
"conclusion": "Orang utan itu dalam keadaan terbangun sebelumnya",
"text": "Tono ingin tahu bagaimana caranya orang utan itu tertidur"
}
] |
{
"category": "embedded_interrogatives",
"language": "id",
"linguistic_phenomenon": "presuppositions"
}
|
72
|
Benar
|
[
{
"conclusion": "Tono tidak tahu dimana dompetnya berada sebelumnya",
"text": "Tini ingin tahu bagaimana caranya Tono menemukan dompetnya"
}
] |
{
"category": "embedded_interrogatives",
"language": "id",
"linguistic_phenomenon": "presuppositions"
}
|
73
|
Salah
|
[
{
"conclusion": "Tono tahu dimana dompetnya berada sebelumnya",
"text": "Tini ingin tahu bagaimana caranya Tono menemukan dompetnya"
}
] |
{
"category": "embedded_interrogatives",
"language": "id",
"linguistic_phenomenon": "presuppositions"
}
|
74
|
Benar
|
[
{
"conclusion": "Tini memecahkan gelasnya sebelumnya",
"text": "Tono ingin tahu bagaimana caranya Tini memecahkan gelasnya"
}
] |
{
"category": "embedded_interrogatives",
"language": "id",
"linguistic_phenomenon": "presuppositions"
}
|
75
|
Salah
|
[
{
"conclusion": "Tini tidak memecahkan gelasnya sebelumnya",
"text": "Tono ingin tahu bagaimana caranya Tini memecahkan gelasnya"
}
] |
{
"category": "embedded_interrogatives",
"language": "id",
"linguistic_phenomenon": "presuppositions"
}
|
76
|
Benar
|
[
{
"conclusion": "Tina ada di pesta itu sebelumnya",
"text": "Tono ingin tahu kenapa Tina meninggalkan pesta itu"
}
] |
{
"category": "embedded_interrogatives",
"language": "id",
"linguistic_phenomenon": "presuppositions"
}
|
77
|
Salah
|
[
{
"conclusion": "Tina tidak ada di pesta itu sebelumnya",
"text": "Tono ingin tahu kenapa Tina meninggalkan pesta itu"
}
] |
{
"category": "embedded_interrogatives",
"language": "id",
"linguistic_phenomenon": "presuppositions"
}
|
78
|
Benar
|
[
{
"conclusion": "Tono belum ada di bandara sebelumnya",
"text": "Tini ingin tahu bagaimana caranya Tono tiba di bandara"
}
] |
{
"category": "embedded_interrogatives",
"language": "id",
"linguistic_phenomenon": "presuppositions"
}
|
79
|
Salah
|
[
{
"conclusion": "Tono sudah ada di bandara sebelumnya",
"text": "Tini ingin tahu bagaimana caranya Tono tiba di bandara"
}
] |
{
"category": "embedded_interrogatives",
"language": "id",
"linguistic_phenomenon": "presuppositions"
}
|
80
|
Benar
|
[
{
"conclusion": "Kendinya belum penuh sebelumnya",
"text": "Tono ingin tahu kenapa Tini baru saja mengisi kendi dengan air"
}
] |
{
"category": "embedded_interrogatives",
"language": "id",
"linguistic_phenomenon": "presuppositions"
}
|
81
|
Salah
|
[
{
"conclusion": "Kendinya sudah penuh sebelumnya",
"text": "Tono ingin tahu kenapa Tini baru saja mengisi kendi dengan air"
}
] |
{
"category": "embedded_interrogatives",
"language": "id",
"linguistic_phenomenon": "presuppositions"
}
|
82
|
Benar
|
[
{
"conclusion": "Kotaknya tidak kosong sebelumnya",
"text": "Tono ingin tahu kenapa Tini mengosongkan kotaknya"
}
] |
{
"category": "embedded_interrogatives",
"language": "id",
"linguistic_phenomenon": "presuppositions"
}
|
83
|
Salah
|
[
{
"conclusion": "Kotaknya kosong sebelumnya",
"text": "Tono ingin tahu kenapa Tini mengosongkan kotaknya"
}
] |
{
"category": "embedded_interrogatives",
"language": "id",
"linguistic_phenomenon": "presuppositions"
}
|
LINDSEA Pragmatics
LINDSEA Pragmatics is a linguistic diagnostic from BHASA that evaluates a model's understanding of linguistic phenomena, pragmatics in particular, for Indonesian.
Supported Tasks and Leaderboards
LINDSEA Pragmatics is designed for evaluating chat or instruction-tuned large language models (LLMs).
Languages
- Indonesian (id)
Dataset Details
LINDSEA Pragmatics only has an Indonesian (id) split, with additional splits containing fewshot examples. Below are the statistics for this dataset. The number of tokens only refer to the strings of text found within the prompts column.
| Split | # of examples | # of GPT-4o tokens | # of Gemma 2 tokens | # of Llama 3 tokens |
|---|---|---|---|---|
| id | 100 | 1752 | 1912 | 2253 |
| id_fewshot | 5 | 84 | 91 | 111 |
| total | 105 | 1836 | 2003 | 2364 |
Data Sources
License
For the license/s of the dataset/s, please refer to the data sources table above.
We endeavor to ensure data used is permissible and have chosen datasets from creators who have processes to exclude copyrighted or disputed data.
Acknowledgement
This project is supported by the National Research Foundation Singapore and Infocomm Media Development Authority (IMDA), Singapore under its National Large Language Model Funding Initiative.
References
@misc{leong2023bhasaholisticsoutheastasian,
title={BHASA: A Holistic Southeast Asian Linguistic and Cultural Evaluation Suite for Large Language Models},
author={Wei Qi Leong and Jian Gang Ngui and Yosephine Susanto and Hamsawardhini Rengarajan and Kengatharaiyer Sarveswaran and William Chandra Tjhi},
year={2023},
eprint={2309.06085},
archivePrefix={arXiv},
primaryClass={cs.CL},
url={https://arxiv.org/abs/2309.06085},
}
- Downloads last month
- 136
Size of downloaded dataset files:
54 kB
Size of the auto-converted Parquet files:
54 kB
Number of rows:
368