Datasets:

mkd-minju
/

korean_data_scraper_wikipedia

Error code:   DatasetGenerationError
Exception:    IndexError
Message:      list index out of range
Traceback:    Traceback (most recent call last):
                File "/usr/local/lib/python3.14/site-packages/datasets/builder.py", line 1859, in _prepare_split_single
                  original_shard_lengths[original_shard_id] += len(table)
                  ~~~~~~~~~~~~~~~~~~~~~~^^^^^^^^^^^^^^^^^^^
              IndexError: list index out of range
              
              The above exception was the direct cause of the following exception:
              
              Traceback (most recent call last):
                File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 1369, in compute_config_parquet_and_info_response
                  parquet_operations, partial, estimated_dataset_info = stream_convert_to_parquet(
                                                                        ~~~~~~~~~~~~~~~~~~~~~~~~~^
                      builder, max_dataset_size_bytes=max_dataset_size_bytes
                      ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
                  )
                  ^
                File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 948, in stream_convert_to_parquet
                  builder._prepare_split(split_generator=splits_generators[split], file_format="parquet")
                  ~~~~~~~~~~~~~~~~~~~~~~^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
                File "/usr/local/lib/python3.14/site-packages/datasets/builder.py", line 1694, in _prepare_split
                  for job_id, done, content in self._prepare_split_single(
                                               ~~~~~~~~~~~~~~~~~~~~~~~~~~^
                      gen_kwargs=gen_kwargs, job_id=job_id, **_prepare_split_args
                      ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
                  ):
                  ^
                File "/usr/local/lib/python3.14/site-packages/datasets/builder.py", line 1880, in _prepare_split_single
                  raise DatasetGenerationError("An error occurred while generating the dataset") from e
              datasets.exceptions.DatasetGenerationError: An error occurred while generating the dataset

Need help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.

id string	source string	text string	url string	license string	meta dict
kowiki:5	wikipedia_dump	제임스 얼 "지미 카터 주니어"(, 1924년 10월 1일~2024년 12월 29일)는 미국의 제39대 대통령 (1977-81)을 지낸 미국의 정치인이다.https://www.washingtonpost.com/obituaries/2024/12/29/jimmy-carter-president-dead/ 민주당 소속으로 1963년부터 1967년까지 조지아주 상원 의원, 1971년부터 1975년까지 조지아주의 76대 주지사을 지냈다. 카터는 100세까지 산 최초의 대통령으로 미국 역사상 가장 장수한 대통령이다. 카터는 조지아주 플레인스에서 태어나고 자랐다. 1946년 미국...	https://ko.wikipedia.org/?curid=5	CC BY-SA 4.0 / GFDL	{ "title": "지미 카터" }
kowiki:9	wikipedia_dump	수학(數學, )은 수, 양, 구조, 공간, 변화 등의 개념을 연구하는 학문이다. 수학은 산술, 대수학, 기하학, 해석학과 같은 전통적인 분야에서부터 집합론과 수리논리학 등 현대 수학의 기초 분야에 이르기까지 다양한 영역으로 구성된다. 수학은 일반적으로 논리에 기반한 엄밀한 증명을 통해 명제를 정당화하는 학문으로, 추상적인 대상과 그 구조를 탐구하는 데 중점을 둔다. 이러한 특징은 실험과 관찰에 크게 의존하는 자연과학과 구별되는 수학의 중요한 성질로 여겨진다. 수학은 자연과학, 공학, 컴퓨터 과학, 경제학 등 다양한 분야에서 현상을 기술하고 분석하는 데 필수적인 도...	https://ko.wikipedia.org/?curid=9	CC BY-SA 4.0 / GFDL	{ "title": "수학" }
kowiki:10	wikipedia_dump	수학에서 상수(常數, )란 그 값이 변하지 않는 불변량으로, 변수의 반대말이다. 물리 상수와는 달리, 수학 상수는 물리적 측정과는 상관없이 정의된다. 수학 상수는 대개 실수체나 복소수체의 원소이다. 우리가 이야기할 수 있는 상수는 (거의 대부분 계산 가능한) 정의가능한 수이다. 특정 수학 상수, 예를 들면 골롬-딕맨 상수, 프랑세즈-로빈슨 상수, , 레비 상수와 같은 상수는 다른 수학상수 또는 함수와 약한 상관관계 또는 강한 상관관계를 갖는다. 수학 상수표 기호 값 이름 분류 N 알려진 때 알려진 소수점 자릿수 1 일 , 하나 일반 정수. 고대 ∞ 0 ...	https://ko.wikipedia.org/?curid=10	CC BY-SA 4.0 / GFDL	{ "title": "수학 상수" }
kowiki:19	wikipedia_dump	문학(文學, )은 언어를 예술적 표현의 제재로 삼아 새로운 의미를 창출하여, 인간과 사회를 진실되게 묘사하는 예술의 하위분야이다.조남현, 고등학교 문학(상), 중앙교육진흥연구소, 2003, 12~15쪽. 간단하게 설명하면, 언어를 통해 인간의 삶을 미적(美的)으로 형상화한 것이라고 볼 수 있다.나병철, 문학의 이해, 문예출판사, 1994, 15~17쪽. 문학은 원래 문예(文藝)라고 부르는 것이 옳으며, 문학을 학문의 대상으로서 탐구하는 학문의 명칭 역시 문예학이다. 문예학은 음악사학, 미술사학 등과 함께 예술학의 핵심분야로서 인문학의 하위범주에 포함된다. 일반적으로...	https://ko.wikipedia.org/?curid=19	CC BY-SA 4.0 / GFDL	{ "title": "문학" }
kowiki:20	wikipedia_dump	이 목록에 실린 국가 기준은 1933년 몬테비데오 협약 1장을 참고로 하였다. 협정에 따르면, 국가는 다음의 조건을 만족해야 한다. (a) 영속적인 국민 (b) 일정한 영토 (c) 정부 (d) 타국과의 관계 참여 자격 특히, 마지막 조건은 국제 공동체의 참여 용인을 내포하고 있기 때문에, 다른 나라의 승인이 매우 중요한 역할을 할 수 있다."State", 512–3쪽 Penguin Dictionary of International Relations. 에반스, 그레이엄 & 뉸햄, 제프리. 1998년. (). London: Penguin Books Ltd. 이 ...	https://ko.wikipedia.org/?curid=20	CC BY-SA 4.0 / GFDL	{ "title": "나라 목록" }
kowiki:21	wikipedia_dump	화학(化學, )은 물질의 성질, 조성, 구조, 변화 및 그에 수반하는 에너지의 변화를 연구하는 자연과학(自然科學)의 한 분야이다. 물리학(物理學)도 역시 물질을 다루는 학문이지만, 물리학이 원소(元素)와 화합물(化合物)을 모두 포함한 물체의 운동과 에너지, 열적·전기적·광학적·기계적 속성을 다루고 이러한 현상으로부터 통일된 이론을 구축하려는 것과는 달리 화학에서는 물질 자체를 연구 대상으로 한다.學園出版公社事典編纂局 편, 〈화학〉, 《學園世界大百科事典》(Vol. 32), 서울:學園出版公社, 1993, 330~334쪽. 화학은 이미 존재하는 물질을 이용하여 특정한 목...	https://ko.wikipedia.org/?curid=21	CC BY-SA 4.0 / GFDL	{ "title": "화학" }
kowiki:22	wikipedia_dump	체첸 공식적으로 체첸 공화국은 러시아의 공화국이다. 동유럽의 북캅카스, 카스피해와 흑해 사이에 위치한다. 이 공화국은 북캅카스 연방관구의 일부를 형성하고 남쪽으로는 조지아와 국경을 접한다. 동쪽, 북쪽, 서쪽으로는 러시아의 다게스탄 공화국, 인구셰티야 공화국, 북오세티야–알라니야 공화국과 국경을 접한다. 북서쪽으로는 스타브로폴 변경주와 국경을 접한다. 1991년 소련 해체 이후 체첸-인구시 ASSR는 인구셰티야 공화국과 체첸 공화국으로 분열되었다. 후자는 이치케리야 체첸 공화국을 선포하고 독립을 선언했지만, 전자는 러시아편을 들었다. 1994년 ~ 1996년 러시아...	https://ko.wikipedia.org/?curid=22	CC BY-SA 4.0 / GFDL	{ "title": "체첸 공화국" }
kowiki:24	wikipedia_dump	맥스웰 방정식(-方程式, s)은 전기와 자기의 발생, 전기장과 자기장, 전하 밀도와 전류 밀도의 형성을 나타내는 4개의 편미분 방정식이다. 맥스웰 방정식은 빛 역시 전자기파의 하나임을 보여준다. 각각의 방정식은 가우스 법칙, 가우스 자기 법칙, 패러데이 전자기 유도 법칙, 앙페르 회로 법칙으로 불린다. 각각의 방정식을 제임스 클러크 맥스웰이 종합한 이후 맥스웰 방정식으로 불리게 되었다. 전자기역학은 맥스웰 방정식과 로런츠 힘 법칙으로 요약된다. 로랜츠 힘은 맥스웰 방정식으로부터 유도될 수 있다. 개요 맥스웰의 방정식은 네 개의 법칙을 모아 종합하여 구성한 것...	https://ko.wikipedia.org/?curid=24	CC BY-SA 4.0 / GFDL	{ "title": "맥스웰 방정식" }
kowiki:26	wikipedia_dump	초월수(超越數, )는 수학에서 대수학적이지 않은 수, 즉 유리수 계수를 가지는 0이 아닌 유한 차수 다항 방정식의 해가 될 수 없는 수를 의미한다. 가장 잘 알려진 초월수는 (원주율)과 (자연로그의 밑)이다. 현재까지는 적은 양의 초월수들만 알려져 있다. 이는 어떤 주어진 수가 초월수인지 보여주는 것은 극히 어려울 수 있기 때문이다. 그러나 초월수들은 드물지 않다. 실제로 대수적 수들이 가산 집합을 구성하는 반면 실수의 집합, 복소수의 집합은 모두 비가산 집합이므로 거의 모든 실수들과 복소수들은 초월적이다. 또한 모든 유리수가 대수학적이기 때문에 모든 초월실수("실...	https://ko.wikipedia.org/?curid=26	CC BY-SA 4.0 / GFDL	{ "title": "초월수" }
kowiki:31	wikipedia_dump	"음악 이론에서 음계(音階, Scale)는 일반적으로 음높이 또는 기본 주파수의 (...TRUNCATED)	https://ko.wikipedia.org/?curid=31	CC BY-SA 4.0 / GFDL	{ "title": "음계" }

End of preview.

Korean Data Scraper — Wikipedia Dump Corpus

상태: 비공개 (private) 저장소입니다.

Korean_data_scraper 프로젝트의 wikipedia_dump 소스가 생성한 코퍼스입니다. 한국어 위키백과(ko.wikipedia.org) 덤프를 파싱하여 문서 본문 텍스트를 추출한 결과입니다.

스키마

파일당 1개 레코드(JSONL)이며, korean_data_scraper_kakaotalk와 동일한 공통 스키마를 따릅니다.

{"id": "kowiki:70773", "source": "wikipedia_dump", "text": "..."}

id는 kowiki:<문서 ID> 형태이며, text는 해당 위키백과 문서의 본문 텍스트입니다.

데이터 규모 및 한계

전체 32개 샤드(shard-00000~00031)로 구성되며, 총 용량은 약 2.24GB입니다. 이 중 shard-00017.jsonl, shard-00018.jsonl 두 파일은 0바이트로 비어 있습니다(수집 과정에서 실패했거나 해당 구간에 유효한 문서가 없었던 것으로 추정 — 재확인 필요).

정제 로직은 Korean_data_scraper 프로젝트의 src/kds/sources/wikipedia_dump.py에 있습니다.

한국어 위키백과 문서 본문은 위키미디어 재단의 정책에 따라 CC BY-SA 4.0(및 구버전 문서의 경우 GFDL) 라이선스로 제공되는 내용이며, 이 저장소는 그 원본 라이선스를 변경하지 않고 그대로 따릅니다. 재배포 시 CC BY-SA의 저작자 표시 및 동일조건변경허락 조건을 준수해야 합니다.

The text of Korean Wikipedia articles is made available under CC BY-SA 4.0 (and GFDL for older article revisions) per the Wikimedia Foundation's licensing policy, and this repository does not alter that original license. Redistribution must comply with CC BY-SA's attribution and share-alike terms.

The collection and parsing scripts and the organization of this repository (schema normalization, sharding) were produced by MKD Inc. (주식회사 MKD). Copyright in the article text itself remains with the Wikipedia contributors, and MKD Inc. claims no separate ownership over the original content. Please seek prior written permission before reusing this repository's own scripts or structure.

Downloads last month: 249

Total file size:

2.24 GB

Korean Data Scraper — Wikipedia Dump Corpus

스키마

데이터 규모 및 한계

라이선스 및 저작권 표시 / License and Copyright Notice