README.md

---
license: apache-2.0
task_categories:
  - text-generation
language:
  - id
tags:
  - text
  - indonesian
  - continued_pretraining
  - domain-adaptation
  - news
  - crawling
size_categories:
  - 100M<n<1B
---

# EOS Continued Pre-Training Dataset (Indonesia)

## Deskripsi Dataset

**EOS Continued Pre-Training Dataset** adalah korpus teks bahasa Indonesia yang dikurasi untuk proses **Continued Pre-Training (CPT)** pada Large Language Models (LLM).

Tujuan utama dari dataset ini adalah untuk melakukan **Domain Adaptation**, yaitu meningkatkan kemampuan model dalam memahami konteks, terminologi, dan nuansa pada dua domain strategis di Indonesia:
1.  **Pengawasan Ruang Digital (PRD)**
2.  **Digital Talent Pool (DTP)**

Dataset ini dibangun melalui proses *web crawling* intensif terhadap berbagai situs media berita terpercaya, portal pemerintahan, dan publikasi resmi di Indonesia, serta diperkaya dengan data umum dari Wikipedia Bahasa Indonesia untuk menjaga kemampuan generalisasi model.

## Komposisi Data

Dataset ini memiliki total **~214.2 Juta Token** yang terbagi ke dalam tiga kategori utama:

| Kategori | Deskripsi Domain | Topik Utama | Token (M) | Persentase |
| :--- | :--- | :--- | :--- | :--- |
| **DTP** | Digital Talent Pool | Pengembangan SDM digital, kebijakan talenta, pelatihan vokasi, sertifikasi, *tech talent gap*. | 94 | 43.9% |
| **PRD** | Pengawasan Ruang Digital | Pemberantasan judi online, penanganan hoaks/disinformasi, perlindungan data pribadi, keamanan siber, perlindungan anak di ranah daring. | 92 | 42.9% |
| **Wikipedia ID** | Pengetahuan Umum | Artikel ensiklopedia umum (sejarah, geografi, budaya) untuk menjaga koherensi bahasa (*regularization*). | 28.2 | 13.2% |
| **TOTAL** | | | **214.2** | **100%** |

## Metodologi Pengumpulan Data

### 1. Sumber Data (Source)
Data dikumpulkan dari sumber terbuka (open source) yang mencakup:
* **Media Berita Nasional & Lokal:** Artikel berita yang membahas isu teknologi, kriminal siber, dan pendidikan.
* **Portal Pemerintahan:** Publikasi resmi terkait kebijakan digital.
* **Wikipedia Bahasa Indonesia:** Dump artikel terfilter.

### 2. Proses Pengumpulan (Crawling & Processing)
* **Crawling:** Menggunakan *custom crawler* untuk mengambil teks dari artikel berita yang relevan dengan kata kunci DTP dan PRD.
* **Cleaning:** Penghapusan *boilerplate* (iklan, menu navigasi, footer), normalisasi *whitespace*, dan penghapusan duplikasi dokumen.
* **Filtering:** Penyaringan konten untuk memastikan teks berkualitas tinggi dan relevan dengan topik.

## Struktur Data

Dataset ini disajikan dalam format standar untuk *Language Modeling* (Raw Text).

### Konfigurasi Data
- **Kolom Utama:** `text` (Berisi konten artikel/dokumen lengkap).
- **Split:** Tidak ada pembagian train/test/val (Unsupervised Learning). Pengguna disarankan melakukan splitting sendiri sesuai kebutuhan (misal: 95% train, 5% validation).