The dataset viewer is not available for this split.
Error code: FeaturesError
Exception: ArrowInvalid
Message: JSON parse error: Invalid value. in row 0
Traceback: Traceback (most recent call last):
File "/usr/local/lib/python3.14/site-packages/datasets/packaged_modules/json/json.py", line 342, in _generate_tables
df = pandas_read_json(f)
File "/usr/local/lib/python3.14/site-packages/datasets/packaged_modules/json/json.py", line 38, in pandas_read_json
return pd.read_json(path_or_buf, **kwargs)
~~~~~~~~~~~~^^^^^^^^^^^^^^^^^^^^^^^
File "/usr/local/lib/python3.14/site-packages/pandas/io/json/_json.py", line 815, in read_json
return json_reader.read()
~~~~~~~~~~~~~~~~^^
File "/usr/local/lib/python3.14/site-packages/pandas/io/json/_json.py", line 1014, in read
obj = self._get_object_parser(self.data)
File "/usr/local/lib/python3.14/site-packages/pandas/io/json/_json.py", line 1040, in _get_object_parser
obj = FrameParser(json, **kwargs).parse()
File "/usr/local/lib/python3.14/site-packages/pandas/io/json/_json.py", line 1176, in parse
self._parse()
~~~~~~~~~~~^^
File "/usr/local/lib/python3.14/site-packages/pandas/io/json/_json.py", line 1392, in _parse
ujson_loads(json, precise_float=self.precise_float), dtype=None
~~~~~~~~~~~^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
ValueError: Expected object or value
During handling of the above exception, another exception occurred:
Traceback (most recent call last):
File "/src/services/worker/src/worker/job_runners/split/first_rows.py", line 244, in compute_first_rows_from_streaming_response
iterable_dataset = iterable_dataset._resolve_features()
File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 4645, in _resolve_features
features = _infer_features_from_batch(self.with_format(None)._head())
~~~~~~~~~~~~~~~~~~~~~~~~~~~~^^
File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 2866, in _head
return next(iter(self.iter(batch_size=n)))
File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 3073, in iter
for key, pa_table in ex_iterable.iter_arrow():
~~~~~~~~~~~~~~~~~~~~~~^^
File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 2581, in _iter_arrow
yield from self.ex_iterable._iter_arrow()
File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 558, in _iter_arrow
for key, pa_table in iterator:
^^^^^^^^
File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 440, in _iter_arrow
for key, pa_table in self.generate_tables_fn(**gen_kwags):
~~~~~~~~~~~~~~~~~~~~~~~^^^^^^^^^^^^^
File "/usr/local/lib/python3.14/site-packages/datasets/packaged_modules/json/json.py", line 345, in _generate_tables
raise e
File "/usr/local/lib/python3.14/site-packages/datasets/packaged_modules/json/json.py", line 291, in _generate_tables
pa_table = paj.read_json(
io.BytesIO(batch), read_options=paj.ReadOptions(block_size=block_size)
)
File "pyarrow/_json.pyx", line 364, in pyarrow._json.read_json
File "pyarrow/error.pxi", line 155, in pyarrow.lib.pyarrow_internal_check_status
return check_status(status)
File "pyarrow/error.pxi", line 92, in pyarrow.lib.check_status
raise convert_status(status)
pyarrow.lib.ArrowInvalid: JSON parse error: Invalid value. in row 0Need help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.
X-LANCE/WebSRC_v1.0(複製)
データの内容
構造を持つ Web ページを読んで質問に答えるためのデータ。Web ページ 6.4K 件に対する、約 40 万件の質問応答の組を収めている。1 行が 1 件の質問応答に対応し、質問を question、回答を answer に入れ、回答が HTML のどの要素のどこにあるかを element_id と answer_start で示す。人手で各ページから 1 つのセグメントを選び、HTML とスクリーンショット、位置の情報を保存したうえで、そのセグメントについて質問が作られた。
データの概要
| 項目 | 値 |
|---|---|
| 行数・列数 | 不明(データセットビューアで読めない形式。ファイルの内訳だけを示す) |
| 容量 | 649.47 MB(ファイル 5 本) |
| ファイルの形式 | 0_test.zip 1、json 1、0_train+dev.zip 1 |
| 公開 | public |
全データセットの一覧は HYUKI5/dataset-catalog にある。
複製について
X-LANCE/WebSRC_v1.0 をリビジョン 7aa0bc6efc7ef43f68c192e2091108541acbaf1a の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya(convaiinnovations/laya)の微調整に使う候補として、調査メモ(Laya 学習用データセット調査)に載せたデータを集めている。
出典
- 元のデータセット: https://huggingface.co/datasets/X-LANCE/WebSRC_v1.0
- 複製したリビジョン:
7aa0bc6efc7ef43f68c192e2091108541acbaf1a(2025-09-18 15:08:32+00:00) - 元のライセンス表記:
cc-by-4.0
論文
アノテーションの方法
(元のカードに該当の見出しが無いので、ラベルの付け方に触れた段落を抜き出した)
WebSRC v1.0 は、構造を持つ Web ページに対する読解のためのデータセットである。このタスクは、Web ページに関する質問に答えることであり、そのためには空間構造と論理構造を包括的に理解するシステムが必要となる。WebSRC は 6.4K 件の Web ページと、Web ページに関する 400K 件の質問応答ペアからなる。各 Web ページについて、人手で 1 つのセグメントを選び、対応する HTML コード、スクリーンショット、位置や大きさなどのメタデータを保存した。WebSRC の質問は各セグメントについて作成された。回答は Web ページ中のテキストの範囲か、yes/no のいずれかである。HTML コード、スクリーンショット、メタデータおよび質問を入力として、モデルは Web ページから回答を予測する。本データセットは、HTML 文書と画像の両方を提供する最初のものであり、ドメインと質問の数の点で規模が大きい。
このリポジトリに含まれるソースコードやデータセットを研究で使う場合は、対応する論文を引用すること。BibTeX は以下のとおり:
@inproceedings{chen-etal-2021-websrc,
title = "{W}eb{SRC}: A Dataset for Web-Based Structural Reading Comprehension",
author = "Chen, Xingyu and
Zhao, Zihan and
Chen, Lu and
Ji, JiaBao and
Zhang, Danyang and
Luo, Ao and
Xiong, Yuxuan and
Yu, Kai",
booktitle = "Proceedings of the 2021 Conference on Empirical Methods in Natural Language Processing",
month = nov,
year = "2021",
address = "Online and Punta Cana, Dominican Republic",
publisher = "Association for Computational Linguistics",
url = "https://aclanthology.org/2021.emnlp-main.343",
pages = "4173--4185",
abstract = "Web search is an essential way for humans to obtain information, but it{'}s still a great challenge for machines to understand the contents of web pages. In this paper, we introduce the task of web-based structural reading comprehension. Given a web page and a question about it, the task is to find an answer from the web page. This task requires a system not only to understand the semantics of texts but also the structure of the web page. Moreover, we proposed WebSRC, a novel Web-based Structural Reading Comprehension dataset. WebSRC consists of 400K question-answer pairs, which are collected from 6.4K web pages with corresponding HTML source code, screenshots, and metadata. Each question in WebSRC requires a certain structural understanding of a web page to answer, and the answer is either a text span on the web page or yes/no. We evaluate various strong baselines on our dataset to show the difficulty of our task. We also investigate the usefulness of structural information and visual features. Our dataset and baselines have been publicly available.",
}
微調整に使うときの注意
- 調査メモの台帳での区分: A(許諾型のライセンスだけで、疑義の注記が無い)。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。
- Laya の入力は 2,048 token まで(ModernBERT-large / mmBERT)。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。
- 分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。
調査メモの記述
| メモ | 節 | ライセンス(記載) | 確認 | 注記 |
|---|---|---|---|---|
jev_sources_tasksource_bekko.csv |
CSV(tasksource-jev-typed-decisions) | cc-by-4.0 / license_use=commercial | 確認済 | license_use=commercial / [Jev 元データ source] source_annotation_converted(deterministic recast; no model r |
jev_sources_tasksource_bekko.csv |
CSV(tasksource-jev-typed-decisions) | cc-by-4.0 / license_use=commercial | 確認済 | license_use=commercial / [Jev 元データ source] source_annotation_converted(deterministic recast; no model r |
元のカード(日本語訳)
以下は元のデータセットのカードの本文を日本語に訳したもの(機械翻訳)。訳に疑問があるときは、末尾の原文を確かめる。
WebSRC v1.0
WebSRC v1.0 は、構造を持つ Web ページに対する読解のためのデータセットである。このタスクは、Web ページに関する質問に答えることであり、そのためには空間構造と論理構造を包括的に理解するシステムが必要となる。WebSRC は 6.4K 件の Web ページと、Web ページに関する 400K 件の質問応答ペアからなる。各 Web ページについて、人手で 1 つのセグメントを選び、対応する HTML コード、スクリーンショット、位置や大きさなどのメタデータを保存した。WebSRC の質問は各セグメントについて作成された。回答は Web ページ中のテキストの範囲か、yes/no のいずれかである。HTML コード、スクリーンショット、メタデータおよび質問を入力として、モデルは Web ページから回答を予測する。本データセットは、HTML 文書と画像の両方を提供する最初のものであり、ドメインと質問の数の点で規模が大きい。
詳細は論文 WebSRC: A Dataset for Web-Based Structural Reading Comprehension を参照。 WebSRC v1.0 のリーダーボードは こちら にある。
データ形式の説明
各サイトのデータは、ディレクトリ {domain-name}/{website-number} 内の dataset.csv に保存される。対応する生データ(HTML ファイル、スクリーンショット、バウンディングボックスの座標、ページ名と URL を含む)は、同じディレクトリ内の processed_data フォルダに保存される。
dataset.csv では、ヘッダーを除く各行が質問応答の 1 データ点に対応する。各列の意味は次のとおりである:
question: 文字列。この質問応答のデータ点の質問。id: この質問応答のデータ点を一意に表す ID。各idの長さは 14 で、先頭 2 文字がドメインを示す記号、続く 2 桁の数字がウェブサイトの名前である。対応するページ ID はid[2:9]で取り出せる。例えば、ID "sp160000100001" は、sport ドメインのウェブサイト 16 から作られた行であり、対応するページは1600001.htmlであることを意味する。element_id: 整数。回答全体を含む DOM 木の中で最も深いタグの ID(HTML ファイル中のタグのtid属性に対応する)。yes/no の質問では回答に対応するタグがないため、element_idは -1 となる。answer_start: 整数。element_idで指定されたタグの内容の先頭からの、回答の文字オフセット。この数を数える前に、指定されたタグ内のすべての内側のタグを取り除き、連続する空白をすべて 1 つの空白に置き換えることに注意。yes/no の質問では、回答が "yes" の場合answer_startは 1、"no" の場合は 0 となる。answer: 文字列。この質問応答のデータ点の回答。
データの統計
WebSRC v1.0 の質問は、おおまかに KV、Compare、Table の 3 つのカテゴリに分けた。詳細な定義は 論文 にある。3 つのカテゴリに対応するウェブサイト数、ウェブページ数、QA 数は次のとおりである:
| 種類 | ウェブサイト数 | ウェブページ数 | QA 数 |
|---|---|---|---|
| KV | 34 | 3,207 | 168,606 |
| Comparison | 15 | 1,339 | 68,578 |
| Table | 21 | 1,901 | 163,314 |
データの分割ごとの統計は次のとおりである:
| 分割 | ウェブサイト数 | ウェブページ数 | QA 数 |
|---|---|---|---|
| train | 50 | 4,549 | 307,315 |
| dev | 10 | 913 | 52,826 |
| test | 10 | 985 | 40,357 |
テスト結果の取得
テストセットでの評価には、予測ファイルを zhao_mengxin@sjtu.edu.cn と chenlusz@sjtu.edu.cn に、件名 "WebSRC Test: <your model name>+<your institution>" を付けて送ること。評価のため、予測ファイルは次の 2 つのファイルを含む必要がある:
// prediction.json
// A json format file, keys are ids and values are the predicted answers (string).
{
"sp160000100001": "predicted answer",
"sp160000100002": "...",
//...
}
// tag_prediction.json
// A json format file, keys are ids and values are the predicted tag tid (int)
{
"sp160000100001": -1,
"sp160000100002": -1,
//...
}
実験の不確かさを減らすため、少なくとも 3 回、乱数シードを変えた実行の結果を提出することが推奨される。各実行の予測ファイルは別々のディレクトリに置き、zip ファイルにして提出すること。テスト結果の平均は、メールで送られる。
参考文献
このリポジトリに含まれるソースコードやデータセットを研究で使う場合は、対応する論文を引用すること。BibTeX は以下のとおり:
@inproceedings{chen-etal-2021-websrc,
title = "{W}eb{SRC}: A Dataset for Web-Based Structural Reading Comprehension",
author = "Chen, Xingyu and
Zhao, Zihan and
Chen, Lu and
Ji, JiaBao and
Zhang, Danyang and
Luo, Ao and
Xiong, Yuxuan and
Yu, Kai",
booktitle = "Proceedings of the 2021 Conference on Empirical Methods in Natural Language Processing",
month = nov,
year = "2021",
address = "Online and Punta Cana, Dominican Republic",
publisher = "Association for Computational Linguistics",
url = "https://aclanthology.org/2021.emnlp-main.343",
pages = "4173--4185",
abstract = "Web search is an essential way for humans to obtain information, but it{'}s still a great challenge for machines to understand the contents of web pages. In this paper, we introduce the task of web-based structural reading comprehension. Given a web page and a question about it, the task is to find an answer from the web page. This task requires a system not only to understand the semantics of texts but also the structure of the web page. Moreover, we proposed WebSRC, a novel Web-based Structural Reading Comprehension dataset. WebSRC consists of 400K question-answer pairs, which are collected from 6.4K web pages with corresponding HTML source code, screenshots, and metadata. Each question in WebSRC requires a certain structural understanding of a web page to answer, and the answer is either a text span on the web page or yes/no. We evaluate various strong baselines on our dataset to show the difficulty of our task. We also investigate the usefulness of structural information and visual features. Our dataset and baselines have been publicly available.",
}
原文(英語)
WebSRC v1.0
WebSRC v1.0 is a dataset for reading comprehension on structural web pages. The task is to answer questions about web pages, which requires a system to have a comprehensive understanding of the spatial structure and logical structure. WebSRC consists of 6.4K web pages and 400K question-answer pairs about web pages. For each web page, we manually chose one segment from it and saved the corresponding HTML code, screenshot, and metadata like positions and sizes. Questions in WebSRC were created for each segment. Answers are either text spans from web pages or yes/no. Taking the HTML code, screenshot, metadata as well as question as input, a model is to predict the answer from the web page. Our dataset is the first one that provides HTML documents as well as images, and is larger in the number of domains and queries.
For more details, please refer to our paper WebSRC: A Dataset for Web-Based Structural Reading Comprehension. The Leaderboard of WebSRC v1.0 can be found here.
Data Format Description
The dataset for each website will be stored in dataset.csv in the directory
{domain-name}/{website-number}. The corresponding raw data (including HTML
files, screenshots, bounding box coordinates, and page names and urls) is
stored in the processed_data folder in the same directory.
In dataset.csv, each row corresponds to one question-answer data point
except the header. The meanings of each column are as follows:
question: a string, the question of this question-answer data point.id: a unique id for this question-answer data point. Eachidhas a length 14, the first two characters are the domain indicator, the following two number is the website name. The corresponding page id can be extracted byid[2:9], for example, id "sp160000100001" means this line is created from the sport domain, website 16, and the corresponding page is1600001.html.element_id: an integer, the tag id (corresponding to the tag'stidattribute in the HTML files) of the deepest tag in the DOM tree which contain all the answer. For yes/no question, there is no tag associated with the answer, so theelement_idis -1.answer_start: an integer, the char offset of the answer from the start of the content of the tag specified byelement_id. Note that before counting this number, we first eliminate all the inner tags in the specified tag and replace all the consecutive whitespaces with one space. For yes/no questions,answer_startis 1 for answer "yes" and 0 for answer "no".answer: a string, the answer of this question-answer data point.
Data Statistics
We roughly divided the questions in WebSRC v1.0 into three categories: KV, Compare, and Table. The detailed definitions can be found in our paper. The numbers of websites, webpages, and QAs corresponding to the three categories are as follows:
| Type | # Websites | # Webpages | # QAs |
|---|---|---|---|
| KV | 34 | 3,207 | 168,606 |
| Comparison | 15 | 1,339 | 68,578 |
| Table | 21 | 1,901 | 163,314 |
The statistics of the dataset splits are as follows:
| Split | # Websites | # Webpages | # QAs |
|---|---|---|---|
| Train | 50 | 4,549 | 307,315 |
| Dev | 10 | 913 | 52,826 |
| Test | 10 | 985 | 40,357 |
Obtain Test Result
For test set evaluation, please send your prediction files to zhao_mengxin@sjtu.edu.cn and chenlusz@sjtu.edu.cn with title "WebSRC Test: <your model name>+<your institution>". For evaluation, the prediction files should contain two files:
// prediction.json
// A json format file, keys are ids and values are the predicted answers (string).
{
"sp160000100001": "predicted answer",
"sp160000100002": "...",
//...
}
// tag_prediction.json
// A json format file, keys are ids and values are the predicted tag tid (int)
{
"sp160000100001": -1,
"sp160000100002": -1,
//...
}
We encourage to submit results from at least three runs with different random seeds to reduce the uncertainty of the experiments. Please place prediction files for each run in different directories and submit a zipped file. The average test result will be sent by email.
Reference
If you use any source codes or datasets included in this repository in your work, please cite the corresponding papers. The bibtex are listed below:
@inproceedings{chen-etal-2021-websrc,
title = "{W}eb{SRC}: A Dataset for Web-Based Structural Reading Comprehension",
author = "Chen, Xingyu and
Zhao, Zihan and
Chen, Lu and
Ji, JiaBao and
Zhang, Danyang and
Luo, Ao and
Xiong, Yuxuan and
Yu, Kai",
booktitle = "Proceedings of the 2021 Conference on Empirical Methods in Natural Language Processing",
month = nov,
year = "2021",
address = "Online and Punta Cana, Dominican Republic",
publisher = "Association for Computational Linguistics",
url = "https://aclanthology.org/2021.emnlp-main.343",
pages = "4173--4185",
abstract = "Web search is an essential way for humans to obtain information, but it{'}s still a great challenge for machines to understand the contents of web pages. In this paper, we introduce the task of web-based structural reading comprehension. Given a web page and a question about it, the task is to find an answer from the web page. This task requires a system not only to understand the semantics of texts but also the structure of the web page. Moreover, we proposed WebSRC, a novel Web-based Structural Reading Comprehension dataset. WebSRC consists of 400K question-answer pairs, which are collected from 6.4K web pages with corresponding HTML source code, screenshots, and metadata. Each question in WebSRC requires a certain structural understanding of a web page to answer, and the answer is either a text span on the web page or yes/no. We evaluate various strong baselines on our dataset to show the difficulty of our task. We also investigate the usefulness of structural information and visual features. Our dataset and baselines have been publicly available.",
}
- Downloads last month
- 47