Instructions to use minhlol/bm-bohrium-v2-24b-vision with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Libraries
- PEFT
How to use minhlol/bm-bohrium-v2-24b-vision with PEFT:
from peft import PeftModel from transformers import AutoModelForCausalLM base_model = AutoModelForCausalLM.from_pretrained("unsloth/Mistral-Small-3.1-24B-Instruct-2503-bnb-4bit") model = PeftModel.from_pretrained(base_model, "minhlol/bm-bohrium-v2-24b-vision") - Notebooks
- Google Colab
- Kaggle
7A6 — BM Bohrium v2 24B Vision
Bản thử nghiệm QLoRA trên mô hình thị giác-ngôn ngữ Mistral Small 3.1 24B. Kho này chứa adapter, cần tải mô hình nền; không phải toàn bộ trọng số 24B độc lập. Không được huấn luyện từ đầu. Không bảo đảm cải thiện so với mô hình nền. Huấn luyện thử với các mẫu OpenHermes, Magicoder, MetaMathQA và ảnh ScienceQA. Không sử dụng toàn bộ bộ dữ liệu trong danh sách đề xuất. Không thực hiện abliteration. Khả năng tiếng Việt có sẵn từ mô hình nền; chưa có đánh giá độc lập tiếng Việt. Xem metrics.json và sources.json để biết kết quả và phiên bản dữ liệu. Held-out loss là kiểm tra sơ bộ, không phải benchmark năng lực hay an toàn.
Attribution and terms
Base: Mistral AI; quantized checkpoint: Unsloth (Apache-2.0). OpenHermes subset: rombodawg (Apache-2.0); Magicoder: iSE UIUC (MIT); MetaMathQA: MetaMath (MIT); ScienceQA: Pan Lu et al., distributed by derek-thomas (CC-BY-SA-4.0). Respect each upstream source's terms. No blanket commercial-use license is asserted.
Kiểm tra và sử dụng
Xem generation-smoke-tests.json để đọc các câu trả lời thử; đây không phải đánh giá chất lượng toàn diện. Dùng Transformers để tải mô hình nền và AutoProcessor, rồi PeftModel.from_pretrained(base_model, "minhlol/bm-bohrium-v2-24b-vision").
- Downloads last month
- 17
Model tree for minhlol/bm-bohrium-v2-24b-vision
Base model
mistralai/Mistral-Small-3.1-24B-Base-2503