SEA-HELM Evaluation Datasets
Collection
13 items
•
Updated
•
3
id
stringlengths 1
3
| label
stringclasses 2
values | prompts
listlengths 1
1
| metadata
dict |
|---|---|---|---|
0
|
A
|
[
{
"choice1": "Dia penakut.",
"choice2": "Dia pemberani.",
"phrase": "Nyalinya seperti anak kecil yang tersesat."
}
] |
{
"language": "id"
}
|
1
|
B
|
[
{
"choice1": "Dia penakut.",
"choice2": "Dia pemberani.",
"phrase": "Nyalinya seperti prajurit terdepan di medan perang."
}
] |
{
"language": "id"
}
|
2
|
A
|
[
{
"choice1": "Pengetahuannya kurang.",
"choice2": "Pengetahuannya luas.",
"phrase": "Berbicara dengan Kinan seperti bicara dengan balita."
}
] |
{
"language": "id"
}
|
3
|
B
|
[
{
"choice1": "Pengetahuannya kurang.",
"choice2": "Pengetahuannya luas.",
"phrase": "Berbicara dengan Kinan seperti mengikuti kuliah kuliah dari dosen ternama."
}
] |
{
"language": "id"
}
|
4
|
A
|
[
{
"choice1": "Anak itu tampil dengan malu-malu.",
"choice2": "Anak itu tampil dengan percaya diri.",
"phrase": "Anak itu tampil bak putri malu yang layu."
}
] |
{
"language": "id"
}
|
5
|
B
|
[
{
"choice1": "Anak itu tampil dengan malu-malu.",
"choice2": "Anak itu tampil dengan percaya diri.",
"phrase": "Anak itu tampil bak bunga mawar di taman."
}
] |
{
"language": "id"
}
|
6
|
A
|
[
{
"choice1": "Suara Sari sangat kencang.",
"choice2": "Suara Sari sangat pelan.",
"phrase": "Suara Sari dapat mengalahkan suara ombak."
}
] |
{
"language": "id"
}
|
7
|
B
|
[
{
"choice1": "Suara Sari sangat kencang.",
"choice2": "Suara Sari sangat pelan.",
"phrase": "Suara Sari lenyap terbawa angin."
}
] |
{
"language": "id"
}
|
8
|
A
|
[
{
"choice1": "Cara makannya rapi.",
"choice2": "Cara makannya berantakan.",
"phrase": "Cara makannya bagai tamu restoran bintang 5."
}
] |
{
"language": "id"
}
|
10
|
A
|
[
{
"choice1": "Pekerjaan ayah sangat mudah.",
"choice2": "Pekerjaan ayah sangat sulit.",
"phrase": "Pekerjaan ayah semudah membalikkan telapak tangan."
}
] |
{
"language": "id"
}
|
11
|
B
|
[
{
"choice1": "Pekerjaan ayah sangat mudah.",
"choice2": "Pekerjaan ayah sangat sulit.",
"phrase": "Pekerjaan ayah semudah memasukkan benang ke dalam jarum."
}
] |
{
"language": "id"
}
|
12
|
A
|
[
{
"choice1": "Tasnya besar.",
"choice2": "Tasnya kecil.",
"phrase": "Siswa SD itu membawa tas layaknya orang yang mau kabur dari rumah."
}
] |
{
"language": "id"
}
|
13
|
B
|
[
{
"choice1": "Tasnya besar.",
"choice2": "Tasnya kecil.",
"phrase": "Siswa SD itu membawa tas layaknya orang yang akan pergi ke mal."
}
] |
{
"language": "id"
}
|
14
|
A
|
[
{
"choice1": "Dia sangat lapar.",
"choice2": "Dia sangat kenyang.",
"phrase": "Dia melahap makanan seolah belum makan tiga hari."
}
] |
{
"language": "id"
}
|
15
|
B
|
[
{
"choice1": "Dia sangat lapar.",
"choice2": "Dia sangat kenyang.",
"phrase": "Dia melahap makanan seolah habis menghadiri tiga kondangan."
}
] |
{
"language": "id"
}
|
16
|
A
|
[
{
"choice1": "Dia berjalan dengan lambat.",
"choice2": "Dia berjalan dengan cepat.",
"phrase": "Ia berjalan layaknya siput."
}
] |
{
"language": "id"
}
|
17
|
B
|
[
{
"choice1": "Dia berjalan dengan lambat.",
"choice2": "Dia berjalan dengan cepat.",
"phrase": "Ia berjalan layaknya macan."
}
] |
{
"language": "id"
}
|
18
|
A
|
[
{
"choice1": "Kehadirannya adalah musibah.",
"choice2": "Kehadirannya adalah anugerah.",
"phrase": "Kehadirannya bagaikan petir di siang bolong."
}
] |
{
"language": "id"
}
|
19
|
B
|
[
{
"choice1": "Kehadirannya adalah musibah.",
"choice2": "Kehadirannya adalah anugerah.",
"phrase": "Kehadirannya bagaikan bintang di langit malam."
}
] |
{
"language": "id"
}
|
20
|
A
|
[
{
"choice1": "Hidupnya bebas.",
"choice2": "Hidupnya terkekang.",
"phrase": "Dia menjalani hidup bak burung di angkasa."
}
] |
{
"language": "id"
}
|
21
|
B
|
[
{
"choice1": "Hidupnya bebas.",
"choice2": "Hidupnya terkekang.",
"phrase": "Dia menjalani hidup bak singa di kebun binatang."
}
] |
{
"language": "id"
}
|
22
|
A
|
[
{
"choice1": "Siswa-siswi kelas A berpartisipasi dengan aktif.",
"choice2": "Siswa-siswi kelas A berpartisipasi dengan pasif.",
"phrase": "Situasi kelas A seramai KRL di jam kerja."
}
] |
{
"language": "id"
}
|
23
|
B
|
[
{
"choice1": "Siswa-siswi kelas A berpartisipasi dengan aktif.",
"choice2": "Siswa-siswi kelas A berpartisipasi dengan pasif.",
"phrase": "Situasi kelas A seramai kuburan di malam hari."
}
] |
{
"language": "id"
}
|
24
|
A
|
[
{
"choice1": "Adik ingin memiliki rambut pendek.",
"choice2": "Adik ingin memiliki rambut panjang.",
"phrase": "Adik menginginkan rambut seperti dora."
}
] |
{
"language": "id"
}
|
25
|
B
|
[
{
"choice1": "Adik ingin memiliki rambut pendek.",
"choice2": "Adik ingin memiliki rambut panjang.",
"phrase": "Adik menginginkan rambut seperti rapunzel."
}
] |
{
"language": "id"
}
|
26
|
A
|
[
{
"choice1": "Ceritanya panjang.",
"choice2": "Ceritanya pendek.",
"phrase": "Curhatannya sepanjang skripsi mahasiswa kedokteran."
}
] |
{
"language": "id"
}
|
27
|
B
|
[
{
"choice1": "Ceritanya panjang.",
"choice2": "Ceritanya pendek.",
"phrase": "Curhatannya sepanjang iklan badut di jalanan."
}
] |
{
"language": "id"
}
|
28
|
A
|
[
{
"choice1": "Tulisannya berantakan.",
"choice2": "Tulisannya rapi.",
"phrase": "Tulisan tangannya bak tulisan dokter."
}
] |
{
"language": "id"
}
|
29
|
B
|
[
{
"choice1": "Tulisannya berantakan.",
"choice2": "Tulisannya rapi.",
"phrase": "Tulisan tangannya bak ketikan komputer canggih."
}
] |
{
"language": "id"
}
|
30
|
A
|
[
{
"choice1": "Perintah itu mustahil dilakukan.",
"choice2": "Perintah itu selalu dilakukan.",
"phrase": "Memintanya membereskan kamar sama seperti menyuruh kucing terbang."
}
] |
{
"language": "id"
}
|
31
|
B
|
[
{
"choice1": "Perintah itu mustahil dilakukan.",
"choice2": "Perintah itu selalu dilakukan.",
"phrase": "Memintanya membereskan kamar sama seperti berbincang dengan google assistant."
}
] |
{
"language": "id"
}
|
32
|
A
|
[
{
"choice1": "Dia bekerja dengan cekatan.",
"choice2": "Dia bekerja dengan lambat.",
"phrase": "Dia menyelesaikan pekerjaannya secepat memasak mi instan."
}
] |
{
"language": "id"
}
|
33
|
B
|
[
{
"choice1": "Dia bekerja dengan cekatan.",
"choice2": "Dia bekerja dengan lambat.",
"phrase": "Dia menyelesaikan pekerjaannya secepat mengurus paspor yang hilang."
}
] |
{
"language": "id"
}
|
34
|
A
|
[
{
"choice1": "Suasana kelas sangat menegangkan.",
"choice2": "Suasana kelas sangat bersahabat.",
"phrase": "Kelas bersama Pak Faisal seperti sedang berada di kandang singa."
}
] |
{
"language": "id"
}
|
35
|
B
|
[
{
"choice1": "Suasana kelas sangat menegangkan.",
"choice2": "Suasana kelas sangat bersahabat.",
"phrase": "Kelas bersama Pak Faisal seperti sedang bermain dengan anak tetangga."
}
] |
{
"language": "id"
}
|
36
|
A
|
[
{
"choice1": "Orang asing bisa menjadi teman.",
"choice2": "Orang asing bisa menjadi musuh.",
"phrase": "Orang asing yang kau temui sewaktu-waktu bisa menjadi rumah untuk pulang."
}
] |
{
"language": "id"
}
|
37
|
B
|
[
{
"choice1": "Orang asing bisa menjadi teman.",
"choice2": "Orang asing bisa menjadi musuh.",
"phrase": "Orang asing yang kau temui sewaktu-waktu bisa menjadi jurang di ujung jalan."
}
] |
{
"language": "id"
}
|
38
|
A
|
[
{
"choice1": "Mereka berbicara dengan suara kencang.",
"choice2": "Mereka berbicara dengan suara pelan.",
"phrase": "Saat kelas berlangsung, mereka berbincang bak petir bersahut-sahutan di tengah hujan."
}
] |
{
"language": "id"
}
|
39
|
B
|
[
{
"choice1": "Mereka berbicara dengan suara kencang.",
"choice2": "Mereka berbicara dengan suara pelan.",
"phrase": "Saat kelas berlangsung, mereka berbincang bak berbisik pada dedaunan."
}
] |
{
"language": "id"
}
|
40
|
A
|
[
{
"choice1": "Perempuan itu suka bersosialisasi.",
"choice2": "Perempuan itu suka menyendiri.",
"phrase": "Perempuan itu sangat suka berkumpul dengan bintang-bintang."
}
] |
{
"language": "id"
}
|
41
|
B
|
[
{
"choice1": "Perempuan itu suka bersosialisasi.",
"choice2": "Perempuan itu suka menyendiri.",
"phrase": "Perempuan itu sangat suka memeluk keheningan malam."
}
] |
{
"language": "id"
}
|
42
|
A
|
[
{
"choice1": "Dia peduli.",
"choice2": "Dia tidak peduli.",
"phrase": "Saat aku terpuruk, dia berlagak layaknya fans yang mendukung idolanya."
}
] |
{
"language": "id"
}
|
43
|
B
|
[
{
"choice1": "Dia peduli.",
"choice2": "Dia tidak peduli.",
"phrase": "Saat aku terpuruk, dia berlagak layaknya orang asing di keramaian ibu kota."
}
] |
{
"language": "id"
}
|
44
|
A
|
[
{
"choice1": "Ayahnya sangat ramah.",
"choice2": "Ayahnya sangat kaku.",
"phrase": "Ayahku bersikap seolah bisa menyapa seluruh dunia."
}
] |
{
"language": "id"
}
|
45
|
B
|
[
{
"choice1": "Ayahnya sangat ramah.",
"choice2": "Ayahnya sangat kaku.",
"phrase": "Ayahku bersikap seolah dia adalah robot yang sudah usang."
}
] |
{
"language": "id"
}
|
46
|
A
|
[
{
"choice1": "Dia sangat sedih.",
"choice2": "Dia sangat senang.",
"phrase": "Dia tampak seperti mahasiswa yang gagal ujian."
}
] |
{
"language": "id"
}
|
47
|
B
|
[
{
"choice1": "Dia sangat sedih.",
"choice2": "Dia sangat senang.",
"phrase": "Dia tampak seperti habis memenangkan lotre."
}
] |
{
"language": "id"
}
|
48
|
A
|
[
{
"choice1": "Menurutnya, merantau itu mendebarkan.",
"choice2": "Menurutnya, merantau itu menyesakkan.",
"phrase": "Menurutnya, merantau adalah petualangan mencari jati diri."
}
] |
{
"language": "id"
}
|
49
|
B
|
[
{
"choice1": "Menurutnya, merantau itu mendebarkan.",
"choice2": "Menurutnya, merantau itu menyesakkan.",
"phrase": "Menurutnya, merantau adalah perang yang tak berujung."
}
] |
{
"language": "id"
}
|
50
|
A
|
[
{
"choice1": "Rara tampak rapi.",
"choice2": "Rara tampak lusuh.",
"phrase": "Rara berpakaian seolah akan mengikuti pemotretan di sebuah majalah."
}
] |
{
"language": "id"
}
|
51
|
B
|
[
{
"choice1": "Rara tampak rapi.",
"choice2": "Rara tampak lusuh.",
"phrase": "Rara berpakaian seolah akan mengambil paket di depan rumah."
}
] |
{
"language": "id"
}
|
52
|
A
|
[
{
"choice1": "Dia bicara dengan lemah lembut.",
"choice2": "Dia bicara dengan kasar.",
"phrase": "Cara bicaranya bak putri Solo."
}
] |
{
"language": "id"
}
|
53
|
B
|
[
{
"choice1": "Dia bicara dengan lemah lembut.",
"choice2": "Dia bicara dengan kasar.",
"phrase": "Cara bicaranya bak preman di pasar."
}
] |
{
"language": "id"
}
|
54
|
A
|
[
{
"choice1": "Mahasiswa itu menjawab dengan gelagapan.",
"choice2": "Mahasiswa itu menjawab dengan tenang.",
"phrase": "Saat ditanya, mahasiswa itu menjawab seperti orang yang ketahuan mencuri."
}
] |
{
"language": "id"
}
|
55
|
B
|
[
{
"choice1": "Mahasiswa itu menjawab dengan gelagapan.",
"choice2": "Mahasiswa itu menjawab dengan tenang.",
"phrase": "Saat ditanya, mahasiswa itu menjawab seperti sudah mengantongi kunci jawaban di kepalanya."
}
] |
{
"language": "id"
}
|
56
|
A
|
[
{
"choice1": "Kamar kosnya berantakan.",
"choice2": "Kamar kosnya rapi.",
"phrase": "Kamar kosnya bagaikan rumah yang habis dimasuki pencuri."
}
] |
{
"language": "id"
}
|
57
|
B
|
[
{
"choice1": "Kamar kosnya berantakan.",
"choice2": "Kamar kosnya rapi.",
"phrase": "Kamar kosnya bagaikan rumah dengan selusin ART."
}
] |
{
"language": "id"
}
|
58
|
A
|
[
{
"choice1": "Rumahnya luas.",
"choice2": "Rumahnya sempit.",
"phrase": "Rumahnya seluas GBK."
}
] |
{
"language": "id"
}
|
59
|
B
|
[
{
"choice1": "Rumahnya luas.",
"choice2": "Rumahnya sempit.",
"phrase": "Rumahnya seluas jalan tikus."
}
] |
{
"language": "id"
}
|
60
|
A
|
[
{
"choice1": "Dia bisa dipercaya.",
"choice2": "Dia tidak bisa dipercaya.",
"phrase": "Bagi dia, rahasia adalah pusaka keluarga."
}
] |
{
"language": "id"
}
|
61
|
B
|
[
{
"choice1": "Dia bisa dipercaya.",
"choice2": "Dia tidak bisa dipercaya.",
"phrase": "Bagi dia, rahasia adalah berita yang siap dikeluarkan kapan saja."
}
] |
{
"language": "id"
}
|
62
|
A
|
[
{
"choice1": "Sikapnya hangat.",
"choice2": "Sikapnya dingin.",
"phrase": "Dia adalah sinar matahari yang menyelimuti bumi."
}
] |
{
"language": "id"
}
|
63
|
B
|
[
{
"choice1": "Sikapnya hangat.",
"choice2": "Sikapnya dingin.",
"phrase": "Dia adalah hujan di tengah malam."
}
] |
{
"language": "id"
}
|
64
|
A
|
[
{
"choice1": "Kereta itu lowong.",
"choice2": "Kereta itu padat.",
"phrase": "Kereta sore itu bagaikan bisa dipakai bermain sepak bola."
}
] |
{
"language": "id"
}
|
65
|
B
|
[
{
"choice1": "Kereta itu lowong.",
"choice2": "Kereta itu padat.",
"phrase": "Kereta sore itu bagaikan lautan yang dipenuhi ikan."
}
] |
{
"language": "id"
}
|
66
|
A
|
[
{
"choice1": "Tanggung jawabnya berat.",
"choice2": "Tanggung jawabnya ringan.",
"phrase": "Tanggung jawab Dian seringan menggendong satu keluarga besar."
}
] |
{
"language": "id"
}
|
67
|
B
|
[
{
"choice1": "Tanggung jawabnya berat.",
"choice2": "Tanggung jawabnya ringan.",
"phrase": "Tanggung jawab Dian seringan daun yang dihembus angin."
}
] |
{
"language": "id"
}
|
68
|
A
|
[
{
"choice1": "Setelah ia datang, keadaan semakin buruk.",
"choice2": "Setelah ia datang, keadaan semakin baik.",
"phrase": "Setelah ia datang, keadaan seperti pakaian yang dicuci dengan lumpur."
}
] |
{
"language": "id"
}
|
69
|
B
|
[
{
"choice1": "Setelah ia datang, keadaan semakin buruk.",
"choice2": "Setelah ia datang, keadaan semakin baik.",
"phrase": "Setelah ia datang, keadaan seperti pelangi yang muncul selepas hujan."
}
] |
{
"language": "id"
}
|
70
|
A
|
[
{
"choice1": "Sekolahnya jauh.",
"choice2": "Sekolahnya dekat.",
"phrase": "Jarak rumah ke sekolahnya sejauh menyebrangi samudra."
}
] |
{
"language": "id"
}
|
71
|
B
|
[
{
"choice1": "Sekolahnya jauh.",
"choice2": "Sekolahnya dekat.",
"phrase": "Jarak rumah ke sekolahnya sejauh rumah tetangga."
}
] |
{
"language": "id"
}
|
72
|
A
|
[
{
"choice1": "Badan murid SMP itu tinggi.",
"choice2": "Badan murid SMP itu pendek.",
"phrase": "Murid SMP itu setinggi tiang listrik."
}
] |
{
"language": "id"
}
|
73
|
B
|
[
{
"choice1": "Badan murid SMP itu tinggi.",
"choice2": "Badan murid SMP itu pendek.",
"phrase": "Murid SMP itu setinggi pohon taoge."
}
] |
{
"language": "id"
}
|
74
|
A
|
[
{
"choice1": "Dia beruntung.",
"choice2": "Dia apes.",
"phrase": "Nasibnya bagai orang yang selamat dari tragedi mematikan,."
}
] |
{
"language": "id"
}
|
75
|
B
|
[
{
"choice1": "Dia beruntung.",
"choice2": "Dia apes.",
"phrase": "Nasibnya bagai orang yang kena tipu,."
}
] |
{
"language": "id"
}
|
76
|
A
|
[
{
"choice1": "Dia melek teknologi.",
"choice2": "Dia gaptek.",
"phrase": "Baginya, dunia digital adalah tempat bermain yang menyenangkan."
}
] |
{
"language": "id"
}
|
77
|
B
|
[
{
"choice1": "Dia melek teknologi.",
"choice2": "Dia gaptek.",
"phrase": "Baginya, dunia digital adalah rumah hantu yang penuh jebakan."
}
] |
{
"language": "id"
}
|
78
|
A
|
[
{
"choice1": "Dia berpendirian teguh.",
"choice2": "Dia tidak punya pendirian.",
"phrase": "Pendiriannya bagai tak bisa digoyangkan angin."
}
] |
{
"language": "id"
}
|
79
|
B
|
[
{
"choice1": "Dia berpendirian teguh.",
"choice2": "Dia tidak punya pendirian.",
"phrase": "Pendiriannya bagai peraturan yang berubah-ubah."
}
] |
{
"language": "id"
}
|
80
|
A
|
[
{
"choice1": "Dia bersikap seenaknya.",
"choice2": "Dia bersikap hati-hati.",
"phrase": "Dia berlagak seperti cucu yang punya jalan."
}
] |
{
"language": "id"
}
|
81
|
B
|
[
{
"choice1": "Dia bersikap seenaknya.",
"choice2": "Dia bersikap hati-hati.",
"phrase": "Dia berlagak seperti anak ayam yang baru menetas."
}
] |
{
"language": "id"
}
|
82
|
A
|
[
{
"choice1": "Tekad mereka besar.",
"choice2": "Tekad mereka kecil.",
"phrase": "Mereka mengikuti lomba seolah siap memberikan seluruh darah dan keringat."
}
] |
{
"language": "id"
}
|
83
|
B
|
[
{
"choice1": "Tekad mereka besar.",
"choice2": "Tekad mereka kecil.",
"phrase": "Mereka mengikuti lomba seolah hanya untuk mengisi kuota."
}
] |
{
"language": "id"
}
|
84
|
A
|
[
{
"choice1": "Bersamanya, waktu berlalu dengan cepat.",
"choice2": "Bersamanya, waktu berlalu dengan lambat.",
"phrase": "Mengobrol dengannya terasa seperti menghabiskan satu lagu."
}
] |
{
"language": "id"
}
|
85
|
B
|
[
{
"choice1": "Bersamanya, waktu berlalu dengan cepat.",
"choice2": "Bersamanya, waktu berlalu dengan lambat.",
"phrase": "Mengobrol dengannya terasa seperti melakukan perjalanan ke bulan."
}
] |
{
"language": "id"
}
|
86
|
A
|
[
{
"choice1": "Tugas mahasiswa banyak.",
"choice2": "Tugas mahasiswa sedikit.",
"phrase": "Tugas mahasiswa bagaikan tumpukan baju yang belum disetrika."
}
] |
{
"language": "id"
}
|
87
|
B
|
[
{
"choice1": "Tugas mahasiswa banyak.",
"choice2": "Tugas mahasiswa sedikit.",
"phrase": "Tugas mahasiswa bagaikan bisa dihitung jari."
}
] |
{
"language": "id"
}
|
88
|
A
|
[
{
"choice1": "Bersosialisasi itu melelahkan.",
"choice2": "Bersosialisasi itu menyenangkan.",
"phrase": "Baginya, bersosialisasi itu seperti menaiki ratusan anak tangga."
}
] |
{
"language": "id"
}
|
89
|
B
|
[
{
"choice1": "Bersosialisasi itu melelahkan.",
"choice2": "Bersosialisasi itu menyenangkan.",
"phrase": "Baginya, bersosialisasi itu seperti melepas rindu dengan orang tersayang."
}
] |
{
"language": "id"
}
|
90
|
A
|
[
{
"choice1": "Bermain media sosial adalah kegiatan yang sia-sia.",
"choice2": "Bermain media sosial adalah kegiatan yang bermanfaat.",
"phrase": "Bermain media sosial bagai menjemur pakaian di waktu hujan."
}
] |
{
"language": "id"
}
|
91
|
B
|
[
{
"choice1": "Bermain media sosial adalah kegiatan yang sia-sia.",
"choice2": "Bermain media sosial adalah kegiatan yang bermanfaat.",
"phrase": "Bermain media sosial bagai mengikuti kuliah 1 SKS."
}
] |
{
"language": "id"
}
|
92
|
A
|
[
{
"choice1": "Adik sangat mandiri.",
"choice2": "Adik sangat manja.",
"phrase": "Adik berlaku bak akan mengurus pinjaman di bank."
}
] |
{
"language": "id"
}
|
93
|
B
|
[
{
"choice1": "Adik sangat mandiri.",
"choice2": "Adik sangat manja.",
"phrase": "Adik berlaku bak bayi yang merindukan ibunya."
}
] |
{
"language": "id"
}
|
94
|
A
|
[
{
"choice1": "Cuacanya cerah.",
"choice2": "Cuacanya mendung.",
"phrase": "Langitnya tampak seperti senyuman mahasiswa yang lulus sidang."
}
] |
{
"language": "id"
}
|
95
|
B
|
[
{
"choice1": "Cuacanya cerah.",
"choice2": "Cuacanya mendung.",
"phrase": "Langitnya tampak seperti wajah anak kecil yang kalah dalam permainan."
}
] |
{
"language": "id"
}
|
96
|
A
|
[
{
"choice1": "Rumahnya indah.",
"choice2": "Rumahnya tak terurus.",
"phrase": "Rumahnya tampak bagaikan istana megah."
}
] |
{
"language": "id"
}
|
97
|
B
|
[
{
"choice1": "Rumahnya indah.",
"choice2": "Rumahnya tak terurus.",
"phrase": "Rumahnya tampak bagaikan rumah tak berpenghuni."
}
] |
{
"language": "id"
}
|
98
|
A
|
[
{
"choice1": "Dia dan kakaknya sering bertengkar.",
"choice2": "Dia dan kakaknya sangat dekat.",
"phrase": "Hubungannya dengan sang kakak seperti anjing dan kucing."
}
] |
{
"language": "id"
}
|
99
|
B
|
[
{
"choice1": "Dia dan kakaknya sering bertengkar.",
"choice2": "Dia dan kakaknya sangat dekat.",
"phrase": "Hubungannya dengan sang kakak seperti lem dan perangko."
}
] |
{
"language": "id"
}
|
100
|
A
|
[
{
"choice1": "Nilai matematikanya jelek.",
"choice2": "Nilai matematikanya bagus.",
"phrase": "Nilai matematikanya setinggi mata kaki."
}
] |
{
"language": "id"
}
|
End of preview. Expand
in Data Studio
SEA Metaphor
SEA Metaphor evaluates a model's ability to interpret paired figurative phrases with divergent meanings. It is sampled from Multilingual-Fig-QA for Indonesian, Javanese, and Sundanese.
Supported Tasks and Leaderboards
SEA Metaphor is designed for evaluating chat or instruction-tuned large language models (LLMs). It is part of the SEA-HELM leaderboard from AI Singapore.
Languages
- Indonesian (id)
- Javanese (jv)
- Sundanese (su)
Dataset Details
SEA Metaphor is split by language, with additional splits containing fewshot examples. Below are the statistics for this dataset. The number of tokens only refer to the strings of text found within the prompts column.
| Split | # of examples | # of GPT-4o tokens | # of Gemma 2 tokens | # of Llama 3 tokens |
|---|---|---|---|---|
| id | 295 | 10289 | 10120 | 13265 |
| jv | 282 | 10167 | 10923 | 13279 |
| su | 295 | 8973 | 10046 | 11858 |
| id_fewshot | 5 | 183 | 178 | 239 |
| jv_fewshot | 5 | 154 | 168 | 198 |
| su_fewshot | 5 | 153 | 165 | 193 |
| total | 887 | 29919 | 31600 | 39032 |
Data Sources
| Data Source | License | Language/s | Split/s |
|---|---|---|---|
| Multilingual-Fig-QA | MIT | Indonesian, Javanese, Sundanese | id, id_fewshot, jv, jv_fewshot, su, su_fewshot |
License
For the license/s of the dataset/s, please refer to the data sources table above.
We endeavor to ensure data used is permissible and have chosen datasets from creators who have processes to exclude copyrighted or disputed data.
Acknowledgement
This project is supported by the National Research Foundation Singapore and Infocomm Media Development Authority (IMDA), Singapore under its National Large Language Model Funding Initiative.
References
@inproceedings{kabra-etal-2023-multi,
title = "Multi-lingual and Multi-cultural Figurative Language Understanding",
author = "Kabra, Anubha and
Liu, Emmy and
Khanuja, Simran and
Aji, Alham Fikri and
Winata, Genta and
Cahyawijaya, Samuel and
Aremu, Anuoluwapo and
Ogayo, Perez and
Neubig, Graham",
editor = "Rogers, Anna and
Boyd-Graber, Jordan and
Okazaki, Naoaki",
booktitle = "Findings of the Association for Computational Linguistics: ACL 2023",
month = jul,
year = "2023",
address = "Toronto, Canada",
publisher = "Association for Computational Linguistics",
url = "https://aclanthology.org/2023.findings-acl.525",
doi = "10.18653/v1/2023.findings-acl.525",
pages = "8269--8284",
}
- Downloads last month
- 121
Size of downloaded dataset files:
96.4 kB
Size of the auto-converted Parquet files:
96.4 kB
Number of rows:
1,037