Hub documentation
دمج مجموعات البيانات وتصديرها
تسجيل الدخول الموحّد (SSO) سجلات التدقيق مناطق التخزين Data Studio لمجموعات البيانات الخاصة مجموعات الموارد (التحكم في الوصول) خيارات الحوسبة المتقدمة الأمان المتقدم إدارة الرموز حسابات الخدمة تحليلات الناشر مجموعات البوابات أمن الشبكة تحليلات التنزيل حدود المعدل مقالات المدونة
خطة PRO المستودعات البدء باستخدام المستودعات إعدادات المستودع حدود التخزين واجهة التخزين (Xet) الذاكرة المؤقتة المحلية طلبات الدمج والمناقشات الإشعارات المجموعات Webhooks GitHub Actions دفاتر الملاحظات الخطوات التالية تراخيص
النماذج مركز النماذج بطاقات النماذج نتائج التقييم بيانات لوحة الصدارة النماذج المُقيَّدة رفع النماذج تنزيل النماذج المكتبات المتكاملة أدوات العرض للنماذج استدلال النموذج إحصائيات تنزيل النماذج قائمة التحقق من إصدار النموذج الأجهزة التطبيقات المحلية الأسئلة الشائعة مواضيع متقدمة
مجموعات البيانات نظرة عامة على مجموعات البيانات بطاقات مجموعات البيانات المجموعات البيانات المُقيَّدة رفع مجموعات البيانات رفع مجموعات البيانات (لنماذج اللغة الكبيرة) تنزيل مجموعات البيانات تدفق مجموعات البيانات المكتبات المتكاملة
Spaces Argilla Daft Dask مجموعات البيانات مصمم البيانات Distilabel DuckDB
استوديو البيانات تتبعات الوكيل إحصائيات تنزيل مجموعات البيانات المصادقة للبيانات الخاصة والمقيّدة استعلام مجموعات البيانات تنفيذ عمليات SQL دمج مجموعات البيانات وتصديرها أداء بحث التشابه المتجهي
Atlas التضمين fenic FiftyOne Lance Pandas Polars Spark WebDataset نظرة عامة على Spaces ترقيات GPU في Spaces Spaces ZeroGPU وضع التطوير في Spaces استخدام القرص والتخزين في Spaces مساحات نطاق مخصص مساحات كخوادم MCP كـ Spaces كنقاط نهاية API مساحات Gradio مساحات Streamlit مساحات HTML الثابتة مساحات Docker تضمين مساحة تشغيل Spaces باستخدام Docker مرجع إعدادات Spaces زر تسجيل الدخول عبر HF مساحات مميزة سجل تغييرات Spaces مواضيع متقدمة
دلاء التخزين new صور الحاويات new الوظائف نظرة عامة على الوظائف البدء السريع التسعير والفوترة إدارة المهام الإعداد استخدام صور Docker استضافة النماذج تدريب النماذج أمثلة & شروحات معالجة مجموعات البيانات الكبيرة جدولة المهام أتمتة Webhook مرجع
الوكلاء نظرة عامة على الوكلاء واجهة Hugging Face CLI لوكلاء الذكاء الاصطناعي خادم Hugging Face MCP مهارات وكيل Hugging Face بناء الوكلاء باستخدام HF SDK وكلاء محليون باستخدام llama.cpp مكتبات الوكلاء تنسيق تتبّع الجلسات
أخرى دمج مجموعات البيانات وتصديرها
في هذا القسم، سنُظهر كيفية دمج مجموعتي بيانات وتصدير النتيجة. المجموعة الأولى بصيغة CSV، والمجموعة الثانية بصيغة Parquet. لنبدأ بفحص مجموعات البيانات لدينا:
سيكون الأول هو TheFusion21/PokemonCards:
FROM 'hf://datasets/TheFusion21/PokemonCards/train.csv' LIMIT 3;
┌─────────┬──────────────────────┬─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┬────────────┬───────┬─────────────────┐
│ id │ image_url │ caption │ name │ hp │ set_name │
│ varchar │ varchar │ varchar │ varchar │ int64 │ varchar │
├─────────┼──────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┼────────────┼───────┼─────────────────┤
│ pl3-1 │ https://images.pok… │ A Basic, SP Pokemon Card of type Darkness with the title Absol G and 70 HP of rarity Rare Holo from the set Supreme Victors. It has … │ Absol G │ 70 │ Supreme Victors │
│ ex12-1 │ https://images.pok… │ A Stage 1 Pokemon Card of type Colorless with the title Aerodactyl and 70 HP of rarity Rare Holo evolved from Mysterious Fossil from … │ Aerodactyl │ 70 │ Legend Maker │
│ xy5-1 │ https://images.pok… │ A Basic Pokemon Card of type Grass with the title Weedle and 50 HP of rarity Common from the set Primal Clash and the flavor text: It… │ Weedle │ 50 │ Primal Clash │
└─────────┴──────────────────────┴─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┴────────────┴───────┴─────────────────┘والثاني سيكون wanghaofan/pokemon-wiki-captions:
FROM 'hf://datasets/wanghaofan/pokemon-wiki-captions/data/*.parquet' LIMIT 3;
┌──────────────────────┬───────────┬──────────┬──────────────────────────────────────────────────────────────┬────────────────────────────────────────────────────────────────────────────────────────────────────┐
│ image │ name_en │ name_zh │ text_en │ text_zh │
│ struct(bytes blob,… │ varchar │ varchar │ varchar │ varchar │
├──────────────────────┼───────────┼──────────┼──────────────────────────────────────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────┤
│ {'bytes': \x89PNG\… │ abomasnow │ 暴雪王 │ Grass attributes,Blizzard King standing on two feet, with … │ 草属性,双脚站立的暴雪王,全身白色的绒毛,淡紫色的眼睛,几缕长条装的毛皮盖着它的嘴巴 │
│ {'bytes': \x89PNG\… │ abra │ 凯西 │ Super power attributes, the whole body is yellow, the head… │ 超能力属性,通体黄色,头部外形类似狐狸,尖尖鼻子,手和脚上都有三个指头,长尾巴末端带着一个褐色圆环 │
│ {'bytes': \x89PNG\… │ absol │ 阿勃梭鲁 │ Evil attribute, with white hair, blue-gray part without ha… │ 恶属性,有白色毛发,没毛发的部分是蓝灰色,头右边类似弓的角,红色眼睛 │
└──────────────────────┴───────────┴──────────┴──────────────────────────────────────────────────────────────┴────────────────────────────────────────────────────────────────────────────────────────────────────┘
الآن، لنحاول دمج هذين المجموعتين من البيانات عن طريق الربط على عمود name:
SELECT a.image_url
, a.caption AS card_caption
, a.name
, a.hp
, b.text_en as wiki_caption
FROM 'hf://datasets/TheFusion21/PokemonCards/train.csv' a
JOIN 'hf://datasets/wanghaofan/pokemon-wiki-captions/data/*.parquet' b
ON LOWER(a.name) = b.name_en
LIMIT 3;
┌──────────────────────┬──────────────────────┬────────────┬───────┬──────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┐
│ image_url │ card_caption │ name │ hp │ wiki_caption │
│ varchar │ varchar │ varchar │ int64 │ varchar │
├──────────────────────┼──────────────────────┼────────────┼───────┼──────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤
│ https://images.pok… │ A Stage 1 Pokemon … │ Aerodactyl │ 70 │ A Pokémon with rock attributes, gray body, blue pupils, purple inner wings, two sharp claws on the wings, jagged teeth, and an arrow-like … │
│ https://images.pok… │ A Basic Pokemon Ca… │ Weedle │ 50 │ Insect-like, caterpillar-like in appearance, with a khaki-yellow body, seven pairs of pink gastropods, a pink nose, a sharp poisonous need… │
│ https://images.pok… │ A Basic Pokemon Ca… │ Caterpie │ 50 │ Insect attributes, caterpillar appearance, green back, white abdomen, Y-shaped red antennae on the head, yellow spindle-shaped tail, two p… │
└──────────────────────┴──────────────────────┴────────────┴───────┴──────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┘
يمكننا تصدير النتيجة إلى ملف Parquet باستخدام أمر COPY:
COPY (SELECT a.image_url
, a.caption AS card_caption
, a.name
, a.hp
, b.text_en as wiki_caption
FROM 'hf://datasets/TheFusion21/PokemonCards/train.csv' a
JOIN 'hf://datasets/wanghaofan/pokemon-wiki-captions/data/*.parquet' b
ON LOWER(a.name) = b.name_en)
TO 'output.parquet' (FORMAT PARQUET);لنتحقق من ملف Parquet الجديد:
SELECT COUNT(*) FROM 'output.parquet';
┌──────────────┐
│ count_star() │
│ int64 │
├──────────────┤
│ 9460 │
└──────────────┘
أخيرًا، لنقم برفع مجموعة البيانات الناتجة إلى Hub. يمكنك استخدام واجهة Hub أو مكتبة العملاء huggingface_hub وغيرها لرفع ملف Parquet الخاص بك، لمزيد من المعلومات راجع هنا.
وهذا كل شيء! لقد نجحت في دمج مجموعتي بيانات، وتصدير النتيجة، ورفعها إلى Hugging Face Hub.
Update on GitHub