Mihfar Edge 1B Agentic: Sıfırdan Geliştirdiğim Açık Kaynak Türkçe Yapay Zeka Modeli

Yapay zeka dünyasında her geçen gün daha büyük ve güçlü dil modelleri geliştiriliyor. Ancak bu modellerin yüksek donanım gereksinimleri, bulut altyapılarına bağımlılıkları ve işletme maliyetleri önemli sorunlar oluşturuyor.

Peki, kendi bilgisayarımızda çalışabilen, Türkçe anlayabilen, akıl yürütebilen ve gerektiğinde araç kullanabilen bir yapay zeka modelini sıfırdan geliştirmek mümkün mü?

Bu sorudan yola çıkarak geliştirdiğim Mihfar Edge 1B Agentic modelini Hugging Face üzerinde açık kaynak olarak yayınladım.

Mihfar Edge, mevcut bir büyük dil modeline yalnızca fine-tuning uygulanarak oluşturulmuş bir model değil. PyTorch kullanılarak mimarisi sıfırdan tasarlanmış ve eğitilmiş, yaklaşık 1,045 milyar parametreye sahip bir dil modeli.

Projenin temel amacı, düşük kaynak tüketimiyle çalışan, Türkçe ve İngilizce anlayabilen, araç çağırabilen ve çok adımlı görevleri destekleyen bir yapay zeka altyapısı oluşturmak.

Model bağlantıları:

• Mihfar Edge 1B Agentic – Hugging Face
• Mihfar Edge & Reasoning Models – Koleksiyon

---

Neden Kendi Dil Modelimi Geliştirdim?

Günümüzde birçok yapay zeka uygulaması OpenAI, Google, Anthropic ve diğer büyük model sağlayıcılarının API servisleri üzerinden çalışıyor.

Bu servisler oldukça güçlü olsa da her kullanım senaryosu için en uygun çözüm olmayabiliyor.

Özellikle IoT cihazları, robotik sistemler, yerel otomasyonlar ve belirli görevleri yerine getiren yapay zeka ajanları için daha küçük ve özelleştirilmiş modellerin önemli bir potansiyeli bulunuyor.

Mihfar Edge'i geliştirirken üç temel hedef belirledim:

1. Düşük kaynak tüketimi: Tüketici sınıfı donanımlarda çalışabilecek bir mimari geliştirmek.
2. Türkçe ve İngilizce desteği: Her iki dil için özel olarak hazırlanmış bir tokenizer ve eğitim süreci oluşturmak.
3. Agentic AI yetenekleri: Yalnızca metin üreten değil, araç çağırabilen ve çok adımlı işlemleri destekleyen bir model geliştirmek.

Amacım, küçük parametreli modellerin yalnızca sohbet etmek için değil, gerçek uygulamalarda görev gerçekleştirmek için de kullanılabileceğini araştırmak.

---

Mihfar Edge'in Teknik Mimarisi

Mihfar Edge, modern Transformer mimarisini temel alan bir Causal Language Model (CLM).

Modelin mimarisini tasarlarken özellikle bellek verimliliğine, dikkat mekanizmalarına ve eğitim kararlılığına odaklandım.

Teknik Özellikler

Özellik	Değer
Model	Mihfar Edge 1B Agentic
Parametre Sayısı	1.045.142.838
Transformer Katmanları	28
Hidden Size	1792
Attention Heads	28 Query / 7 KV
Attention Mekanizması	Grouped-Query Attention (4:1)
Feed Forward	SwiGLU
Tokenizer	Byte-Level BPE
Vocabulary Size	49.152
Context Window	2048 Token
Model Formatı	Safetensors / BF16
Diller	Türkçe ve İngilizce
Lisans	MIT

Modelde ayrıca RoPE, QK-RMSNorm ve Value Residual (ResFormer) bağlantıları gibi mimari teknikler bulunuyor.

Grouped-Query Attention (GQA), dikkat mekanizmasında kullanılan Key/Value başlıklarının sayısını azaltarak bellek tüketimini optimize etmeye yardımcı oluyor.

Bu sayede modelin RTX 3060, RTX 4060, Apple Silicon ve uygun CPU sistemleri gibi farklı donanımlarda çalışabilmesi hedefleniyor.

Model kartında 3 GB altında VRAM kullanımı hedefi belirtiliyor. Gerçek kaynak tüketimi kullanılan çalışma ortamına ve çıkarım yapılandırmasına bağlı olarak değişebilir.

---

Türkçe ve İngilizce İçin Özel Tokenizer

Modelin geliştirme sürecindeki önemli çalışmalardan biri de tokenizer tasarımıydı.

Türkçe, eklemeli bir dil olduğu için İngilizceden farklı tokenizasyon ihtiyaçlarına sahip.

Örneğin Türkçede tek bir kelime, birden fazla dil bilgisel anlamı taşıyabiliyor.

Bu nedenle Mihfar Edge için 49.152 tokenlık özel bir Byte-Level BPE tokenizer geliştirdim.

Tokenizer eğitiminde üç temel veri türüne odaklandım:

• Türkçe dil yapısı ve kelime biçimleri
• İngilizce metinler
• JSON ve yapılandırılmış fonksiyon çağrıları

Böylece modelin hem doğal dil etkileşimlerinde hem de yazılım sistemleriyle iletişim kurarken kullanılan yapılandırılmış çıktılarda çalışabilmesini hedefledim.

---

Agentic AI: Araç Kullanabilen Yapay Zeka

Mihfar Edge'in en önemli özelliklerinden biri, agentic sistemler için tasarlanmış olması.

Geleneksel dil modelleri kullanıcıdan gelen sorulara metinsel yanıtlar üretir.

Agentic sistemlerde ise model bir görevi tamamlamak için planlama yapabilir, dış araçları çağırabilir ve gelen sonuçlara göre sonraki adımını belirleyebilir.

Mihfar Edge'de bu amaçla özel kontrol tokenları kullanılıyor.

1. Akıl Yürütme

Modelin ara planlama ve akıl yürütme çıktılarının yapılandırılması için özel tokenlar bulunuyor.

<|think|>
...
<|/think|>

Bu yapı, modelin yanıt oluşturmadan önce ara adımları temsil edebilmesi amacıyla tasarlandı.

2. Fonksiyon Çağırma

Mihfar Edge, JSON biçiminde yapılandırılmış araç çağrıları oluşturabilecek şekilde tasarlandı.

<|tool_call|>
{
  "name": "calculator",
  "arguments": {
    "expression": "125 * 8"
  }
}
<|/tool_call|>

Bu örnekte model, hesaplama işlemini gerçekleştirmek için harici bir araç çağrısı oluşturuyor.

3. Araç Yanıtlarını İşleme

Çağrılan araçtan dönen sonuçlar modele yeniden aktarılabiliyor.

<|tool_response|>
{
  "result": 1000
}
<|/tool_response|>

Bu sayede model, dış sistemlerden gelen sonuçları değerlendirerek kullanıcıya yanıt oluşturabilir veya sonraki işlemi belirleyebilir.

Bu yaklaşım özellikle API entegrasyonları, robotik uygulamalar, cihaz yönetimi ve otomasyon sistemleri açısından önemli.

Elbette araç çağırma yeteneği, modelin tek başına bütün işlemleri gerçekleştirdiği anlamına gelmiyor. Gerçek işlemler, modelin bağlandığı agent runtime ve izin verilen araçlar üzerinden yürütülüyor.

---

Modelin Eğitim Süreci

Mihfar Edge'in eğitimini NVIDIA RTX 4060 Ti üzerinde gerçekleştirdim.

Eğitim sürecinde Türkçe, İngilizce ve agentic görevleri kapsayan 14 farklı veri seti kullandım.

Model üç temel aşamadan geçti.

1. Bilingual Pre-training

İlk aşamada yaklaşık 88,5 milyon token üzerinden temel dil öğrenimi gerçekleştirildi.

Bu aşamanın amacı modelin Türkçe ve İngilizce dil örüntülerini öğrenmesiydi.

2. Instruction Supervised Fine-Tuning

İkinci aşamada modelin kullanıcı talimatlarını takip edebilmesi, soru-cevap formatlarına uyum sağlaması ve daha yapılandırılmış yanıtlar üretmesi üzerine çalıştım.

Bu süreçte modelin yalnızca kelimeler arasındaki ilişkileri öğrenmesi değil, verilen talimatlara uygun davranışlar geliştirmesi hedeflendi.

3. Agentic Tool Mastery

Son aşamada çok adımlı ReAct akışları, JSON tabanlı araç çağırma ve araç sonuçlarını değerlendirme senaryolarına odaklandım.

Bu aşamada model kartında raporlanan validation perplexity değeri 2,82.

Bu değer eğitim sürecine ilişkin bir metrik. Modelin gerçek kullanım başarısını değerlendirmek için bağımsız benchmark testleri ve farklı görevlerde performans ölçümleri gerçekleştirmek gerekiyor.

---

Mihfar Edge'i Geleneksel Dil Modellerinden Ayıran Özellikler

Mihfar Edge'i geliştirirken temel amacım, büyük modellerle doğrudan rekabet etmek yerine küçük modellerin güçlü olduğu alanlara odaklanmaktı.

Özellik	Büyük Dil Modelleri	Mihfar Edge
Parametre Sayısı	Genellikle milyarlarca	Yaklaşık 1 milyar
Donanım İhtiyacı	Modele göre değişir	Düşük kaynak hedefi
Türkçe Desteği	Modele bağlı	Eğitim hedeflerinden biri
Tokenizer	Genellikle hazır	Özel Byte-Level BPE
Agentic Yetenekler	Modele bağlı	Mimari ve eğitim odağı
Yerel Çalıştırma	Modele bağlı	Temel tasarım hedefi
Kullanım Amacı	Genel amaçlı	Yerel ve görev odaklı sistemler

Bu karşılaştırma, Mihfar Edge'in büyük dil modellerinden daha başarılı olduğu anlamına gelmiyor.

Büyük modeller genel bilgi, karmaşık muhakeme ve uzun bağlam gerektiren görevlerde önemli avantajlara sahip.

Mihfar Edge ise daha küçük donanımlarda çalışabilecek, özelleştirilebilir ve agentic sistemlere entegre edilebilir bir alternatif oluşturmayı hedefliyor.

---

Mihfar Edge Nerelerde Kullanılabilir?

1. Yerel Yapay Zeka Asistanları

Verilerin harici API servislerine gönderilmeden işlendiği, kişisel bilgisayarlarda çalışan yapay zeka asistanları.

2. IoT ve Robotik Sistemler

Sensör verilerini yorumlayabilen, cihaz komutlarını oluşturabilen ve gerektiğinde harici fonksiyonları çağırabilen sistemler.

Örneğin bir robotun sensörlerinden gelen bilgiler model tarafından değerlendirilerek uygun kontrol araçlarına yönlendirilebilir.

3. Agent Tabanlı Otomasyonlar

Farklı API'lerle iletişim kurabilen, çok adımlı görevleri gerçekleştirmek üzere tasarlanmış yazılım ajanları.

4. Türkçe Yapay Zeka Uygulamaları

Türkçe doğal dil işleme, sohbet ve talimat takip etme özelliklerine ihtiyaç duyan uygulamalar.

5. Edge AI Araştırmaları

Düşük parametreli dil modellerinin kaynak tüketimini, çıkarım performansını ve agentic yeteneklerini incelemek isteyen geliştiriciler için deneysel çalışmalar.

Bu kullanım alanları modelin tasarım hedeflerini temsil ediyor. Üretim ortamlarında kullanılmadan önce her senaryo için doğruluk, gecikme ve güvenlik testleri yapılmalı.

---

Mihfar Edge Nasıl Kurulur?

Modelin kaynak dosyalarını ve ağırlıklarını Hugging Face üzerinden indirebilirsiniz.

Öncelikle depoyu klonlayın:

git clone https://huggingface.co/osmanozaydin/Mihfar-Edge-1B-Agentic

cd Mihfar-Edge-1B-Agentic

Gerekli Python bağımlılıklarını yükleyin:

pip install -r requirements.txt

İnteraktif sohbet modunu başlatın:

python inference.py --interactive

Agentic modunu çalıştırmak için:

python inference.py --interactive --agent

Modelin Python üzerinden doğrudan kullanımı ve agent runtime örnekleri Hugging Face model kartında bulunuyor.

---

Açık Kaynak ve MIT Lisansı

Mihfar Edge'i MIT lisansı altında yayınladım.

Bu lisans sayesinde geliştiriciler, lisans koşullarına uyarak modeli kişisel veya ticari projelerinde kullanabilir, değiştirebilir ve dağıtabilir.

Açık kaynak yaklaşımını tercih etmemin temel nedeni, geliştirdiğim mimarinin başka geliştiriciler tarafından da incelenebilmesi ve geliştirilebilmesi.

Modelin farklı donanımlarda ve kullanım senaryolarında denenmesi, sonraki geliştirme aşamaları açısından değerli geri bildirimler sağlayacaktır.

---

Gelecek Hedeflerim

Mihfar Edge benim için tamamlanmış ve artık geliştirilmeyecek bir çalışma değil.

Aksine, küçük dil modelleri üzerine yürüttüğüm araştırmaların önemli bir başlangıç noktası.

Önümüzdeki süreçte özellikle aşağıdaki alanlara odaklanmayı hedefliyorum:

• Türkçe ve İngilizce dil performansının geliştirilmesi
• Daha kapsamlı eğitim veri setlerinin hazırlanması
• Akıl yürütme yeteneklerinin iyileştirilmesi
• Fonksiyon çağırma başarısının artırılması
• Daha uzun bağlam pencerelerinin araştırılması
• Quantization ve çıkarım optimizasyonları
• Farklı donanımlarda performans testleri
• Bağımsız benchmark değerlendirmeleri
• Çoklu agent sistemleriyle entegrasyon

Özellikle küçük modellerin daha büyük yapay zeka sistemlerinde belirli görevler için uzmanlaşmış bileşenler olarak kullanılmasının önemli bir potansiyele sahip olduğunu düşünüyorum.

---

Sonuç: Küçük Modellerin Geleceği

Mihfar Edge 1B Agentic benim için yalnızca bir yapay zeka modeli değil.

Transformer mimarisi, tokenizer geliştirme, model eğitimi, akıl yürütme ve agentic sistemler üzerine gerçekleştirdiğim çalışmaların somut bir sonucu.

Yapay zeka alanında büyük modellerin gelişimi devam ederken küçük, verimli ve görev odaklı modellerin de önemli bir yere sahip olacağına inanıyorum.

Özellikle yerel yapay zeka, IoT, robotik ve otomasyon uygulamalarında düşük kaynak tüketimiyle çalışan modeller yeni fırsatlar oluşturabilir.

Mihfar Edge ile hedefim, sıfırdan geliştirilen küçük bir dil modelinin hangi görevleri başarabileceğini araştırmak ve bu altyapıyı zamanla daha ileri taşımak.

Projeyi incelemek, kendi bilgisayarınızda denemek veya gelişmeleri takip etmek isterseniz Hugging Face üzerinden erişebilirsiniz.

---

Proje Bağlantıları

Mihfar Edge 1B Agentic Modeli:

https://huggingface.co/osmanozaydin/Mihfar-Edge-1B-Agentic

Mihfar Edge – Agentic & Reasoning Models Koleksiyonu:

https://huggingface.co/collections/osmanozaydin/mihfar-edge-agentic-and-reasoning-models

Hugging Face Profilim:

https://huggingface.co/osmanozaydin

---

Osman Özaydın

Yapay Zeka, Büyük Dil Modelleri ve Yazılım Geliştirme

Etiketler:

#MihfarAI #MihfarEdge #ArtificialIntelligence #LLM #AgenticAI #EdgeAI #OpenSource #PyTorch #TurkishLLM #MachineLearning