Dataset Viewer

The dataset viewer should be available soon. Please retry later.

unimelb-nlp/wikiann(複製)

データの内容

176 言語の Wikipedia の記事に、人名(PER)・組織名(ORG)・場所(LOC)のタグを付けた固有表現認識のデータ。1 行が 1 件の文で、tokens に単語の列、ner_tags に IOB2 形式のタグの列が入る。元は Pan ら(2018)のデータで、本版は Rahimi ら(2019)のバランスの取れた分割に従い、元の 282 言語のうち 176 言語を収録している。

データの概要

項目 値
行数 2,003,000(176 構成・528 分割の合計)
列数 4
容量 142.93 MB(ファイル 530 本)
ファイルの形式 parquet 198
言語 ace, af, als, am, an, ang, ar, arc, arz, as, ast, ay, az, ba, bar, be, bg, bh, bn, bo, br, bs, ca, cbk, cdo, ce, ceb, ck
公開 public

構成と分割

構成(config) 分割(split)ごとの行数 列数
ace validation 100、test 100、train 100 4
af validation 1,000、test 1,000、train 5,000 4
als validation 100、test 100、train 100 4
am validation 100、test 100、train 100 4
an validation 1,000、test 1,000、train 1,000 4
ang validation 100、test 100、train 100 4
ar validation 10,000、test 10,000、train 20,000 4
arc validation 100、test 100、train 100 4
arz validation 100、test 100、train 100 4
as validation 100、test 100、train 100 4
ast validation 1,000、test 1,000、train 1,000 4
ay validation 100、test 100、train 100 4
az validation 1,000、test 1,000、train 10,000 4
ba validation 100、test 100、train 100 4
bar validation 100、test 100、train 100 4
bat-smg validation 100、test 100、train 100 4
be validation 1,000、test 1,000、train 15,000 4
be-x-old validation 1,000、test 1,000、train 5,000 4
bg validation 10,000、test 10,000、train 20,000 4
bh validation 100、test 100、train 100 4

(ほか 156 構成。全体は HF のデータセットビューアで見られる)

列(構成 ace・分割 train。どの構成も同じ列)

列 型 先頭の行の値
tokens list<string> [5 件]
ner_tags list<class_label(7: O, B-PER, I-PER, B-ORG, I-ORG, B-LOC …)> [5 件]
langs list<string> [5 件]
spans list<string> [1 件]

行数と列は HF のデータセットビューアの集計(元のデータセットの現在の版で数えたもの)。全データセットの一覧は HYUKI5/dataset-catalog にある。

複製について

unimelb-nlp/wikiann をリビジョン f0a3be6dc5564c0cc4150bb660144800a1f539d4 の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya(convaiinnovations/laya)の微調整に使う候補として、調査メモ(Laya 学習用データセット調査)に載せたデータを集めている。

出典

論文

アノテーションの方法

元のカードにアノテーションの節はあるが、中身は空欄(More Information Needed)だった。

微調整に使うときの注意

  • 調査メモの台帳での区分: D(記載なし・other・unknown・資料間の食い違い)。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。
  • Laya の入力は 2,048 token まで(ModernBERT-large / mmBERT)。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。
  • 分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。

調査メモの記述

メモ 節 ライセンス(記載) 確認 注記
multilingual_cjk.md 1. 大規模多言語データセット(XNLI, PAWS-X, MASSIVE, SIB-200, Belebele ほか) (L55) license=unknown 確認済 確認印なし(各ファイルの凡例により確認済扱い) / 原文注記: トークン分類で Laya の型に直接は対応しない。参考のみ

元のカード(日本語訳)

以下は元のデータセットのカードの本文を日本語に訳したもの(機械翻訳)。訳に疑問があるときは、末尾の原文を確かめる。


WikiANN のデータセットカード

目次

  • データセットの説明
    • データセットの要約
    • 対応タスクとリーダーボード
    • 言語
  • データセットの構造
    • データインスタンス
    • データフィールド
    • データ分割
  • データセットの作成
    • 収集の根拠
    • 元データ
    • アノテーション
    • 個人情報と機微な情報
  • データ利用上の留意点
    • データセットの社会的影響
    • バイアスの検討
    • その他の既知の制約
  • 追加情報
    • データセットの作成者
    • ライセンス情報
    • 引用情報
    • 貢献

データセットの説明

データセットの要約

WikiANN(PAN-X と呼ばれることもある)は、Wikipedia の記事に IOB2 形式で LOC(場所)、PER(人名)、ORG(組織)のタグを付けた、多言語の固有表現認識データセットである。本版は Rahimi ら(2019)のバランスの取れた train・dev・test 分割に対応し、元の WikiANN コーパスの 282 言語のうち 176 言語を収録する。

対応タスクとリーダーボード

  • named-entity-recognition: 多くの言語で固有表現認識のモデルを学習させるか、多言語モデルのゼロショットの言語横断能力を評価するために使える。

言語

本データセットには 176 言語があり、各設定のサブセットに 1 言語ずつ含まれる。対応する BCP 47 の言語タグは次のとおり。

言語タグ
ace ace
af af
als als
am am
an an
ang ang
ar ar
arc arc
arz arz
as as
ast ast
ay ay
az az
ba ba
bar bar
be be
bg bg
bh bh
bn bn
bo bo
br br
bs bs
ca ca
cdo cdo
ce ce
ceb ceb
ckb ckb
co co
crh crh
cs cs
csb csb
cv cv
cy cy
da da
de de
diq diq
dv dv
el el
en en
eo eo
es es
et et
eu eu
ext ext
fa fa
fi fi
fo fo
fr fr
frr frr
fur fur
fy fy
ga ga
gan gan
gd gd
gl gl
gn gn
gu gu
hak hak
he he
hi hi
hr hr
hsb hsb
hu hu
hy hy
ia ia
id id
ig ig
ilo ilo
io io
is is
it it
ja ja
jbo jbo
jv jv
ka ka
kk kk
km km
kn kn
ko ko
ksh ksh
ku ku
ky ky
la la
lb lb
li li
lij lij
lmo lmo
ln ln
lt lt
lv lv
mg mg
mhr mhr
mi mi
min min
mk mk
ml ml
mn mn
mr mr
ms ms
mt mt
mwl mwl
my my
mzn mzn
nap nap
nds nds
ne ne
nl nl
nn nn
no no
nov nov
oc oc
or or
os os
other-bat-smg sgs
other-be-x-old be-tarask
other-cbk-zam cbk
other-eml eml
other-fiu-vro vro
other-map-bms jv-x-bms
other-simple en-basiceng
other-zh-classical lzh
other-zh-min-nan nan
other-zh-yue yue
pa pa
pdc pdc
pl pl
pms pms
pnb pnb
ps ps
pt pt
qu qu
rm rm
ro ro
ru ru
rw rw
sa sa
sah sah
scn scn
sco sco
sd sd
sh sh
si si
sk sk
sl sl
so so
sq sq
sr sr
su su
sv sv
sw sw
szl szl
ta ta
te te
tg tg
th th
tk tk
tl tl
tr tr
tt tt
ug ug
uk uk
ur ur
uz uz
vec vec
vep vep
vi vi
vls vls
vo vo
wa wa
war war
wuu wuu
xmf xmf
yi yi
yo yo
zea zea
zh zh

データセットの構造

データインスタンス

以下は "af"(アフリカーンス語)の設定サブセットの "train" 分割の例である。

{
  'tokens': ['Sy', 'ander', 'seun', ',', 'Swjatopolk', ',', 'was', 'die', 'resultaat', 'van', '’n', 'buite-egtelike', 'verhouding', '.'],
  'ner_tags': [0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0],
  'langs': ['af', 'af', 'af', 'af', 'af', 'af', 'af', 'af', 'af', 'af', 'af', 'af', 'af', 'af'],
  'spans': ['PER: Swjatopolk']
}

データフィールド

  • tokens: string の特徴量からなる list。
  • langs: 各トークンの言語に対応する、string の特徴量からなる list。
  • ner_tags: 分類ラベルからなる list。取りうる値には O (0)、B-PER (1)、I-PER (2)、B-ORG (3)、I-ORG (4)、B-LOC (5)、I-LOC (6) が含まれる。
  • spans: string の特徴量からなる list。入力テキスト中の固有表現の一覧を <TAG>: <mention> の形式で表したもの。

データ分割

各設定のサブセットについて、データは "train"、"validation"、"test" の各セットに分割される。各セットに含まれる例の数は次のとおり。

Train Validation Test
ace 100 100 100
af 5000 1000 1000
als 100 100 100
am 100 100 100
an 1000 1000 1000
ang 100 100 100
ar 20000 10000 10000
arc 100 100 100
arz 100 100 100
as 100 100 100
ast 1000 1000 1000
ay 100 100 100
az 10000 1000 1000
ba 100 100 100
bar 100 100 100
bat-smg 100 100 100
be 15000 1000 1000
be-x-old 5000 1000 1000
bg 20000 10000 10000
bh 100 100 100
bn 10000 1000 1000
bo 100 100 100
br 1000 1000 1000
bs 15000 1000 1000
ca 20000 10000 10000
cbk-zam 100 100 100
cdo 100 100 100
ce 100 100 100
ceb 100 100 100
ckb 1000 1000 1000
co 100 100 100
crh 100 100 100
cs 20000 10000 10000
csb 100 100 100
cv 100 100 100
cy 10000 1000 1000
da 20000 10000 10000
de 20000 10000 10000
diq 100 100 100
dv 100 100 100
el 20000 10000 10000
eml 100 100 100
en 20000 10000 10000
eo 15000 10000 10000
es 20000 10000 10000
et 15000 10000 10000
eu 10000 10000 10000
ext 100 100 100
fa 20000 10000 10000
fi 20000 10000 10000
fiu-vro 100 100 100
fo 100 100 100
fr 20000 10000 10000
frr 100 100 100
fur 100 100 100
fy 1000 1000 1000
ga 1000 1000 1000
gan 100 100 100
gd 100 100 100
gl 15000 10000 10000
gn 100 100 100
gu 100 100 100
hak 100 100 100
he 20000 10000 10000
hi 5000 1000 1000
hr 20000 10000 10000
hsb 100 100 100
hu 20000 10000 10000
hy 15000 1000 1000
ia 100 100 100
id 20000 10000 10000
ig 100 100 100
ilo 100 100 100
io 100 100 100
is 1000 1000 1000
it 20000 10000 10000
ja 20000 10000 10000
jbo 100 100 100
jv 100 100 100
ka 10000 10000 10000
kk 1000 1000 1000
km 100 100 100
kn 100 100 100
ko 20000 10000 10000
ksh 100 100 100
ku 100 100 100
ky 100 100 100
la 5000 1000 1000
lb 5000 1000 1000
li 100 100 100
lij 100 100 100
lmo 100 100 100
ln 100 100 100
lt 10000 10000 10000
lv 10000 10000 10000
map-bms 100 100 100
mg 100 100 100
mhr 100 100 100
mi 100 100 100
min 100 100 100
mk 10000 1000 1000
ml 10000 1000 1000
mn 100 100 100
mr 5000 1000 1000
ms 20000 1000 1000
mt 100 100 100
mwl 100 100 100
my 100 100 100
mzn 100 100 100
nap 100 100 100
nds 100 100 100
ne 100 100 100
nl 20000 10000 10000
nn 20000 1000 1000
no 20000 10000 10000
nov 100 100 100
oc 100 100 100
or 100 100 100
os 100 100 100
pa 100 100 100
pdc 100 100 100
pl 20000 10000 10000
pms 100 100 100
pnb 100 100 100
ps 100 100 100
pt 20000 10000 10000
qu 100 100 100
rm 100 100 100
ro 20000 10000 10000
ru 20000 10000 10000
rw 100 100 100
sa 100 100 100
sah 100 100 100
scn 100 100 100
sco 100 100 100
sd 100 100 100
sh 20000 10000 10000
si 100 100 100
simple 20000 1000 1000
sk 20000 10000 10000
sl 15000 10000 10000
so 100 100 100
sq 5000 1000 1000
sr 20000 10000 10000
su 100 100 100
sv 20000 10000 10000
sw 1000 1000 1000
szl 100 100 100
ta 15000 1000 1000
te 1000 1000 1000
tg 100 100 100
th 20000 10000 10000
tk 100 100 100
tl 10000 1000 1000
tr 20000 10000 10000
tt 1000 1000 1000
ug 100 100 100
uk 20000 10000 10000
ur 20000 1000 1000
uz 1000 1000 1000
vec 100 100 100
vep 100 100 100
vi 20000 10000 10000
vls 100 100 100
vo 100 100 100
wa 100 100 100
war 100 100 100
wuu 100 100 100
xmf 100 100 100
yi 100 100 100
yo 100 100 100
zea 100 100 100
zh 20000 10000 10000
zh-classical 100 100 100
zh-min-nan 100 100 100
zh-yue 20000 10000 10000

データセットの作成

収集の根拠

[詳細情報が必要]

元データ

最初のデータ収集と正規化

[詳細情報が必要]

元の言語の作成者は誰か?

[詳細情報が必要]

アノテーション

アノテーションの手順

[詳細情報が必要]

アノテーターは誰か?

[詳細情報が必要]

個人情報と機微な情報

[詳細情報が必要]

データ利用上の留意点

データセットの社会的影響

[詳細情報が必要]

バイアスの検討

[詳細情報が必要]

その他の既知の制約

[詳細情報が必要]

追加情報

データセットの作成者

[詳細情報が必要]

ライセンス情報

[詳細情報が必要]

引用情報

元の 282 のデータセットは、次の論文に関連付けられている。

@inproceedings{pan-etal-2017-cross,
    title = "Cross-lingual Name Tagging and Linking for 282 Languages",
    author = "Pan, Xiaoman  and
      Zhang, Boliang  and
      May, Jonathan  and
      Nothman, Joel  and
      Knight, Kevin  and
      Ji, Heng",
    booktitle = "Proceedings of the 55th Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers)",
    month = jul,
    year = "2017",
    address = "Vancouver, Canada",
    publisher = "Association for Computational Linguistics",
    url = "https://www.aclweb.org/anthology/P17-1178",
    doi = "10.18653/v1/P17-1178",
    pages = "1946--1958",
    abstract = "The ambitious goal of this work is to develop a cross-lingual name tagging and linking framework for 282 languages that exist in Wikipedia. Given a document in any of these languages, our framework is able to identify name mentions, assign a coarse-grained or fine-grained type to each mention, and link it to an English Knowledge Base (KB) if it is linkable. We achieve this goal by performing a series of new KB mining methods: generating {``}silver-standard{''} annotations by transferring annotations from English to other languages through cross-lingual links and KB properties, refining annotations through self-training and topic selection, deriving language-specific morphology features from anchor links, and mining word translation pairs from cross-lingual links. Both name tagging and linking results for 282 languages are promising on Wikipedia data and on-Wikipedia data.",
}

一方、本版が対応する 176 言語は、次の論文に関連付けられている。

@inproceedings{rahimi-etal-2019-massively,
    title = "Massively Multilingual Transfer for {NER}",
    author = "Rahimi, Afshin  and
      Li, Yuan  and
      Cohn, Trevor",
    booktitle = "Proceedings of the 57th Annual Meeting of the Association for Computational Linguistics",
    month = jul,
    year = "2019",
    address = "Florence, Italy",
    publisher = "Association for Computational Linguistics",
    url = "https://www.aclweb.org/anthology/P19-1015",
    pages = "151--164",
}

貢献

このデータセットを追加してくれた @lewtun と @rabeehk に感謝する。

原文(英語)

Dataset Card for WikiANN

Dataset Summary

WikiANN (sometimes called PAN-X) is a multilingual named entity recognition dataset consisting of Wikipedia articles annotated with LOC (location), PER (person), and ORG (organisation) tags in the IOB2 format. This version corresponds to the balanced train, dev, and test splits of Rahimi et al. (2019), which supports 176 of the 282 languages from the original WikiANN corpus.

Supported Tasks and Leaderboards

  • named-entity-recognition: The dataset can be used to train a model for named entity recognition in many languages, or evaluate the zero-shot cross-lingual capabilities of multilingual models.

Languages

The dataset contains 176 languages, one in each of the configuration subsets. The corresponding BCP 47 language tags are:

Language tag
ace ace
af af
als als
am am
an an
ang ang
ar ar
arc arc
arz arz
as as
ast ast
ay ay
az az
ba ba
bar bar
be be
bg bg
bh bh
bn bn
bo bo
br br
bs bs
ca ca
cdo cdo
ce ce
ceb ceb
ckb ckb
co co
crh crh
cs cs
csb csb
cv cv
cy cy
da da
de de
diq diq
dv dv
el el
en en
eo eo
es es
et et
eu eu
ext ext
fa fa
fi fi
fo fo
fr fr
frr frr
fur fur
fy fy
ga ga
gan gan
gd gd
gl gl
gn gn
gu gu
hak hak
he he
hi hi
hr hr
hsb hsb
hu hu
hy hy
ia ia
id id
ig ig
ilo ilo
io io
is is
it it
ja ja
jbo jbo
jv jv
ka ka
kk kk
km km
kn kn
ko ko
ksh ksh
ku ku
ky ky
la la
lb lb
li li
lij lij
lmo lmo
ln ln
lt lt
lv lv
mg mg
mhr mhr
mi mi
min min
mk mk
ml ml
mn mn
mr mr
ms ms
mt mt
mwl mwl
my my
mzn mzn
nap nap
nds nds
ne ne
nl nl
nn nn
no no
nov nov
oc oc
or or
os os
other-bat-smg sgs
other-be-x-old be-tarask
other-cbk-zam cbk
other-eml eml
other-fiu-vro vro
other-map-bms jv-x-bms
other-simple en-basiceng
other-zh-classical lzh
other-zh-min-nan nan
other-zh-yue yue
pa pa
pdc pdc
pl pl
pms pms
pnb pnb
ps ps
pt pt
qu qu
rm rm
ro ro
ru ru
rw rw
sa sa
sah sah
scn scn
sco sco
sd sd
sh sh
si si
sk sk
sl sl
so so
sq sq
sr sr
su su
sv sv
sw sw
szl szl
ta ta
te te
tg tg
th th
tk tk
tl tl
tr tr
tt tt
ug ug
uk uk
ur ur
uz uz
vec vec
vep vep
vi vi
vls vls
vo vo
wa wa
war war
wuu wuu
xmf xmf
yi yi
yo yo
zea zea
zh zh

Dataset Structure

Data Instances

This is an example in the "train" split of the "af" (Afrikaans language) configuration subset:

{
  'tokens': ['Sy', 'ander', 'seun', ',', 'Swjatopolk', ',', 'was', 'die', 'resultaat', 'van', '’n', 'buite-egtelike', 'verhouding', '.'],
  'ner_tags': [0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0],
  'langs': ['af', 'af', 'af', 'af', 'af', 'af', 'af', 'af', 'af', 'af', 'af', 'af', 'af', 'af'],
  'spans': ['PER: Swjatopolk']
}

Data Fields

  • tokens: a list of string features.
  • langs: a list of string features that correspond to the language of each token.
  • ner_tags: a list of classification labels, with possible values including O (0), B-PER (1), I-PER (2), B-ORG (3), I-ORG (4), B-LOC (5), I-LOC (6).
  • spans: a list of string features, that is the list of named entities in the input text formatted as <TAG>: <mention>

Data Splits

For each configuration subset, the data is split into "train", "validation" and "test" sets, each containing the following number of examples:

Train Validation Test
ace 100 100 100
af 5000 1000 1000
als 100 100 100
am 100 100 100
an 1000 1000 1000
ang 100 100 100
ar 20000 10000 10000
arc 100 100 100
arz 100 100 100
as 100 100 100
ast 1000 1000 1000
ay 100 100 100
az 10000 1000 1000
ba 100 100 100
bar 100 100 100
bat-smg 100 100 100
be 15000 1000 1000
be-x-old 5000 1000 1000
bg 20000 10000 10000
bh 100 100 100
bn 10000 1000 1000
bo 100 100 100
br 1000 1000 1000
bs 15000 1000 1000
ca 20000 10000 10000
cbk-zam 100 100 100
cdo 100 100 100
ce 100 100 100
ceb 100 100 100
ckb 1000 1000 1000
co 100 100 100
crh 100 100 100
cs 20000 10000 10000
csb 100 100 100
cv 100 100 100
cy 10000 1000 1000
da 20000 10000 10000
de 20000 10000 10000
diq 100 100 100
dv 100 100 100
el 20000 10000 10000
eml 100 100 100
en 20000 10000 10000
eo 15000 10000 10000
es 20000 10000 10000
et 15000 10000 10000
eu 10000 10000 10000
ext 100 100 100
fa 20000 10000 10000
fi 20000 10000 10000
fiu-vro 100 100 100
fo 100 100 100
fr 20000 10000 10000
frr 100 100 100
fur 100 100 100
fy 1000 1000 1000
ga 1000 1000 1000
gan 100 100 100
gd 100 100 100
gl 15000 10000 10000
gn 100 100 100
gu 100 100 100
hak 100 100 100
he 20000 10000 10000
hi 5000 1000 1000
hr 20000 10000 10000
hsb 100 100 100
hu 20000 10000 10000
hy 15000 1000 1000
ia 100 100 100
id 20000 10000 10000
ig 100 100 100
ilo 100 100 100
io 100 100 100
is 1000 1000 1000
it 20000 10000 10000
ja 20000 10000 10000
jbo 100 100 100
jv 100 100 100
ka 10000 10000 10000
kk 1000 1000 1000
km 100 100 100
kn 100 100 100
ko 20000 10000 10000
ksh 100 100 100
ku 100 100 100
ky 100 100 100
la 5000 1000 1000
lb 5000 1000 1000
li 100 100 100
lij 100 100 100
lmo 100 100 100
ln 100 100 100
lt 10000 10000 10000
lv 10000 10000 10000
map-bms 100 100 100
mg 100 100 100
mhr 100 100 100
mi 100 100 100
min 100 100 100
mk 10000 1000 1000
ml 10000 1000 1000
mn 100 100 100
mr 5000 1000 1000
ms 20000 1000 1000
mt 100 100 100
mwl 100 100 100
my 100 100 100
mzn 100 100 100
nap 100 100 100
nds 100 100 100
ne 100 100 100
nl 20000 10000 10000
nn 20000 1000 1000
no 20000 10000 10000
nov 100 100 100
oc 100 100 100
or 100 100 100
os 100 100 100
pa 100 100 100
pdc 100 100 100
pl 20000 10000 10000
pms 100 100 100
pnb 100 100 100
ps 100 100 100
pt 20000 10000 10000
qu 100 100 100
rm 100 100 100
ro 20000 10000 10000
ru 20000 10000 10000
rw 100 100 100
sa 100 100 100
sah 100 100 100
scn 100 100 100
sco 100 100 100
sd 100 100 100
sh 20000 10000 10000
si 100 100 100
simple 20000 1000 1000
sk 20000 10000 10000
sl 15000 10000 10000
so 100 100 100
sq 5000 1000 1000
sr 20000 10000 10000
su 100 100 100
sv 20000 10000 10000
sw 1000 1000 1000
szl 100 100 100
ta 15000 1000 1000
te 1000 1000 1000
tg 100 100 100
th 20000 10000 10000
tk 100 100 100
tl 10000 1000 1000
tr 20000 10000 10000
tt 1000 1000 1000
ug 100 100 100
uk 20000 10000 10000
ur 20000 1000 1000
uz 1000 1000 1000
vec 100 100 100
vep 100 100 100
vi 20000 10000 10000
vls 100 100 100
vo 100 100 100
wa 100 100 100
war 100 100 100
wuu 100 100 100
xmf 100 100 100
yi 100 100 100
yo 100 100 100
zea 100 100 100
zh 20000 10000 10000
zh-classical 100 100 100
zh-min-nan 100 100 100
zh-yue 20000 10000 10000

Dataset Creation

Curation Rationale

[More Information Needed]

Source Data

Initial Data Collection and Normalization

[More Information Needed]

Who are the source language producers?

[More Information Needed]

Annotations

Annotation process

[More Information Needed]

Who are the annotators?

[More Information Needed]

Personal and Sensitive Information

[More Information Needed]

Considerations for Using the Data

Social Impact of Dataset

[More Information Needed]

Discussion of Biases

[More Information Needed]

Other Known Limitations

[More Information Needed]

Additional Information

Dataset Curators

[More Information Needed]

Licensing Information

[More Information Needed]

Citation Information

The original 282 datasets are associated with this article

@inproceedings{pan-etal-2017-cross,
    title = "Cross-lingual Name Tagging and Linking for 282 Languages",
    author = "Pan, Xiaoman  and
      Zhang, Boliang  and
      May, Jonathan  and
      Nothman, Joel  and
      Knight, Kevin  and
      Ji, Heng",
    booktitle = "Proceedings of the 55th Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers)",
    month = jul,
    year = "2017",
    address = "Vancouver, Canada",
    publisher = "Association for Computational Linguistics",
    url = "https://www.aclweb.org/anthology/P17-1178",
    doi = "10.18653/v1/P17-1178",
    pages = "1946--1958",
    abstract = "The ambitious goal of this work is to develop a cross-lingual name tagging and linking framework for 282 languages that exist in Wikipedia. Given a document in any of these languages, our framework is able to identify name mentions, assign a coarse-grained or fine-grained type to each mention, and link it to an English Knowledge Base (KB) if it is linkable. We achieve this goal by performing a series of new KB mining methods: generating {``}silver-standard{''} annotations by transferring annotations from English to other languages through cross-lingual links and KB properties, refining annotations through self-training and topic selection, deriving language-specific morphology features from anchor links, and mining word translation pairs from cross-lingual links. Both name tagging and linking results for 282 languages are promising on Wikipedia data and on-Wikipedia data.",
}

while the 176 languages supported in this version are associated with the following article

@inproceedings{rahimi-etal-2019-massively,
    title = "Massively Multilingual Transfer for {NER}",
    author = "Rahimi, Afshin  and
      Li, Yuan  and
      Cohn, Trevor",
    booktitle = "Proceedings of the 57th Annual Meeting of the Association for Computational Linguistics",
    month = jul,
    year = "2019",
    address = "Florence, Italy",
    publisher = "Association for Computational Linguistics",
    url = "https://www.aclweb.org/anthology/P19-1015",
    pages = "151--164",
}

Contributions

Thanks to @lewtun and @rabeehk for adding this dataset.

Downloads last month
53

Paper for HYUKI5/unimelb-nlp__wikiann