Yapay Zeka Modeli Nasıl Eğitilir? LLM Eğitim Rehberi

Yapay zeka modeli eğitmek, bir veri kümesini GPU'ya yükleyip birkaç komut çalıştırmaktan ibaret değildir. Başarılı bir model; ölçülebilir bir hedef, hukuka uygun ve temiz veri, probleme uygun bir mimari, kontrollü optimizasyon, bağımsız değerlendirme ve üretim sonrası izleme gerektirir. Büyük dil modellerinde bu zincirin tek bir halkasındaki hata, milyonlarca eğitim örneğinin ve ciddi hesaplama bütçesinin boşa gitmesine neden olabilir.

Bu rehber, özellikle LLM eğitimi üzerinden model geliştirme sürecini açıklıyor; ancak veri ayrımı, kayıp fonksiyonu, aşırı öğrenme ve değerlendirme gibi temel ilkeler görüntü, ses ve tahmin modelleri için de geçerlidir. Amaç hazır bir reçete vermek değil, hangi problemde hangi eğitim yaklaşımının mantıklı olduğunu göstermek ve “sıfırdan model eğitme” ile “mevcut modeli uyarlama” arasındaki maliyet farkını netleştirmektir.

1 Model eğitmek gerçekte ne demektir?

Bir yapay sinir ağı başlangıçta çok sayıda sayısal parametre içerir. Eğitim sırasında model bir girdi için tahmin üretir, bu tahmin hedef sonuçla karşılaştırılır ve aradaki fark bir kayıp fonksiyonu ile ölçülür. Geri yayılım, her parametrenin hataya katkısını hesaplar; AdamW gibi bir optimizasyon algoritması da parametreleri kaybı azaltacak yönde küçük adımlarla günceller. Bir eğitim adımı kabaca “ileri geçiş, kayıp, geri geçiş, güncelleme” döngüsüdür.

veri grubu -> model tahmini -> kayıp hesabı
                              -> geri yayılım
                              -> parametre güncelleme
                              -> doğrulama ve kayıt

Dil modelinde yaygın ön eğitim hedefi, önceki tokenlar verildiğinde sıradaki tokenı tahmin etmektir. Görüntü sınıflandırmada hedef sınıf etiketi, konuşma tanımada hedef metin, regresyonda ise sayısal bir değer olabilir. Dolayısıyla “eğitim” tek bir algoritma değil, probleme göre farklı hedeflerle kullanılan genel bir optimizasyon sürecidir.

2 Önce doğru yöntemi seçin: her proje sıfırdan başlamaz

Model geliştirmede en pahalı hata, ihtiyacı tanımlamadan yöntem seçmektir. Bir şirketin kendi belgelerinden cevap veren asistan istemesi, yeni bir temel dil modeli eğitmesini gerektirmez. Benzer şekilde markaya özgü bir üslup için milyarlarca tokenlık ön eğitim yapmak çoğu zaman gereksizdir.

LoRA, temel model ağırlıklarını dondurup daha küçük düşük-rank matrisleri eğiterek uyarlama maliyetini azaltır. İlk çalışmada bu yaklaşımın GPT-3 ölçeğinde eğitilebilir parametre sayısını çok büyük oranda düşürebildiği ve ek inference gecikmesi oluşturmadığı raporlandı (Hu ve ark., 2021). QLoRA ise donmuş temel modeli 4-bit temsil ederek bellek ihtiyacını daha da azaltır (Dettmers ve ark., 2023).

3 Hedefi ve başarı ölçütünü eğitimden önce yazın

“Türkçesi iyi olsun” veya “müşteri hizmetlerinde başarılı olsun” ölçülebilir hedef değildir. Bunun yerine görev kümeleri oluşturulmalıdır: Türkçe talimat takibi, uzun belge özeti, ürün politikası soruları, güvenli ret, yapılandırılmış JSON üretimi ve benzeri. Her görev için doğruluk, kaynak uyumu, biçim geçerliliği, gecikme ve maliyet gibi ölçüler tanımlanmalıdır.

Eğitimden önce güçlü bir temel modelle karşılaştırma yapmak da önemlidir. Yeni eğitim sonucunda yalnızca hedef görevdeki kazanç değil; genel yetenek kaybı, farklı kullanıcı gruplarındaki performans ve inference maliyeti birlikte ölçülmelidir. Aksi halde model bir benchmarkta yükselirken gerçek kullanımda kötüleşebilir.

4 Eğitim verisi: miktardan önce hak, kalite ve temsil

Veri hattı; kaynak envanteri, lisans ve kullanım hakkı kontrolü, kişisel veri temizliği, dil tespiti, kalite filtreleme, zararlı içerik politikası, tekrar giderme ve karışım oranlarının belirlenmesini kapsar. İnternette açık görünen bir metin, otomatik olarak model eğitiminde sınırsız kullanılabilir anlamına gelmez. Kaynağın lisansı, kullanım koşulları, kişisel veri niteliği ve geçerli mevzuat ayrıca değerlendirilmelidir.

Tekrarlı veriler yalnızca compute israfı değildir. Eğitim verisindeki tekrarın modellerin ezberleme davranışını artırabildiğini ve test kümeleriyle örtüşmenin değerlendirme sonuçlarını bozabildiğini gösteren çalışmalar vardır. Lee ve arkadaşları, dil modeli veri kümelerinde yakın tekrarları kaldırmanın daha az adımla benzer veya daha iyi doğrulama kaybı sağlayabildiğini raporladı (Lee ve ark., 2021).

• Kaynak izi: Her belgenin nereden, hangi tarihte ve hangi lisansla alındığı tutulmalıdır.
• PII temizliği: E-posta, telefon, kimlik ve hassas kayıtlar eğitimden önce tespit edilmelidir.
• Deduplication: Tam ve yakın tekrarlar hem belge hem parça seviyesinde kontrol edilmelidir.
• Dil dengesi: Düşük kaynaklı diller yalnızca çevrilmiş metinlerle temsil edilmemelidir.
• Test izolasyonu: Değerlendirme soruları ve türevleri eğitim hattına girmemelidir.

5 Tokenizer ve veri karışımı neden model kararının parçasıdır?

Dil modeli metni kelime olarak değil token dizileri halinde işler. Tokenizerın kelime dağarcığı belirli dillere uzaksa aynı anlam daha uzun dizilerle temsil edilebilir. Bu hem eğitim ve inference maliyetini hem de modelin kullanılabilir bağlamını etkiler. Türkçe gibi eklemeli diller için tokenizer seçimi bu nedenle sonradan eklenen küçük bir ayrıntı değil, veri ve mimari tasarımının parçasıdır. Konuyu Türkçe yapay zeka rehberimizde ayrıntılı inceliyoruz.

Veri karışımı da en az toplam token sayısı kadar önemlidir. Web metni, kod, matematik, akademik içerik ve diyalog verisinin oranları modelin hangi alanlarda güçleneceğini belirler. Llama 3 teknik raporu; ön eğitim verisinin filtrelenmesi, veri karışımının ölçekleme deneyleriyle seçilmesi ve modelin yaklaşık 15 trilyon çok dilli token üzerinde eğitilmesi gibi kararları tek bir sistemin parçaları olarak anlatır (Dubey ve ark., 2024).

6 Model boyutu, token bütçesi ve compute nasıl planlanır?

Daha büyük model her zaman daha iyi yatırım değildir. Kaplan ve arkadaşlarının ölçekleme çalışması model performansının model boyutu, veri ve hesaplama ile öngörülebilir biçimde değiştiğini gösterdi. Daha sonra Chinchilla çalışması, sabit compute bütçesinde birçok büyük modelin yeterli veriyle eğitilmediğini; model boyutu ile eğitim tokenlarının birlikte ölçeklenmesi gerektiğini ortaya koydu (Hoffmann ve ark., 2022).

Uygulamada önce küçük pilot modellerle öğrenme eğrileri çıkarılmalı; batch büyüklüğü, öğrenme oranı, warmup, sequence length ve veri karışımı doğrulanmalıdır. Büyük koşu başlamadan önce token sayısı, tahmini FLOP, GPU-saat, checkpoint boyutu, ağ bant genişliği ve başarısız koşu payı bütçelenmelidir. Eğitim maliyetine yalnızca GPU kiralama değil, veri hazırlama, deneyler, depolama, değerlendirme ve sonrasında sürekli inference da dahildir.

7 Eğitim koşusunda hangi teknik sinyaller izlenir?

Eğitim kaybı tek başına yeterli değildir. Doğrulama kaybı düşmüyorsa model ezberliyor olabilir. Gradyan normunun aniden yükselmesi kararsızlığa, veri işleme hızının düşmesi altyapı darboğazına, belirli veri kaynaklarında kaybın farklılaşması karışım problemine işaret edebilir. Eğitim boyunca en az şu sinyaller kaydedilmelidir:

• eğitim ve doğrulama kaybı, perplexity ve görev bazlı ara değerlendirmeler,
• öğrenme oranı, gradyan normu, ağırlık normu ve sayısal taşma kayıtları,
• token/saniye, GPU kullanımı, bellek, iletişim ve checkpoint süreleri,
• veri kaynağı/dil bazında örnek ve token dağılımı,
• rastgele tohum, kod sürümü, veri sürümü ve tüm hiperparametreler.

Mixed precision ve dağıtık eğitim maliyeti düşürür ancak yeni hata biçimleri doğurur. Checkpointlerin düzenli alınması, bozuk veya eksik checkpointlerin otomatik doğrulanması ve eğitimin aynı veri sırasından güvenli biçimde devam edebilmesi gerekir.

8 Ön eğitimden asistana: SFT, tercih eğitimi ve güvenlik

Ön eğitimli model dil örüntülerini öğrenir; fakat her zaman kullanıcı talimatını izleyen güvenli bir asistan gibi davranmaz. Supervised fine-tuning (SFT) aşamasında kaliteli talimat-cevap örnekleri kullanılır. Ardından insan tercihleriyle cevap sıralama, ödül modelleme ve RLHF uygulanabilir. InstructGPT çalışması, insan geri bildirimiyle yapılan post-training'in daha küçük bir modeli ham, daha büyük modele kıyasla kullanıcı tercihleri açısından daha iyi hale getirebildiğini gösterdi (Ouyang ve ark., 2022).

DPO, tercih çiftleri üzerinden ayrı bir ödül modeli ve karmaşık RL döngüsü olmadan politika modelini doğrudan optimize eden bir alternatif sundu (Rafailov ve ark., 2023). Yöntem seçimi ne olursa olsun tercih verisi; doğruluk, yararlılık, güvenlik ve üslup kriterlerini birbirine karıştırmadan hazırlanmalıdır. Aksi halde model daha ikna edici konuşmayı daha doğru olmaktan üstün öğrenebilir.

9 Değerlendirme: benchmark puanı ürün kalitesi değildir

Sağlam değerlendirme üç katmandan oluşur: genel benchmarklar, hedef göreve özel kapalı testler ve gerçek kullanıcı senaryoları. Otomatik ölçüler ölçek sağlar; insan değerlendirmesi nüansları yakalar; kırmızı takım testleri ise prompt injection, veri sızıntısı, zararlı yönlendirme ve yetki aşımı gibi güvenlik açıklarını arar.

Benchmark soruları eğitim verisine karışmışsa model sorunu çözmek yerine cevabı ezberlemiş olabilir. Modern LLM benchmarklarında veri kontaminasyonunu inceleyen çalışmalar, puanların gerçek genelleme performansını olduğundan yüksek gösterebileceğine dikkat çekiyor (Deng ve ark., 2023). Bu nedenle tarihsel kesme, canary örnekleri, benzerlik taraması ve yayınlanmamış test kümeleri kullanılmalıdır.

10 Model eğitiminin sık yapılan hataları

• Çözümü modele yüklemek: Güncel bilgi problemi RAG ile çözülebilecekken fine-tuning yapmak.
• Test verisini görmek: Eğitim sırasında benchmarkı seçmek veya test sonuçlarına göre tekrar tekrar ayar yapmak.
• Veri kaynağını izlememek: Lisans, silme talebi ve kontaminasyon denetimini imkânsız hale getirmek.
• Yalnızca ortalamaya bakmak: Dil, alan ve risk gruplarındaki kötü performansı gizlemek.
• Temel model regresyonunu ölçmemek: Hedef görev kazanırken genel yeteneği veya güvenliği kaybetmek.
• Serving maliyetini unutmak: Eğitilebilir fakat production'da yavaş ve pahalı bir model üretmek.

11 Küçük ekipler için gerçekçi model geliştirme yol haritası

1. Tek bir kullanıcı problemi ve ölçülebilir kabul testi belirleyin.
2. Güçlü bir hazır model, prompt ve RAG ile ölçüm tabanı oluşturun.
3. Hataları bilgi eksikliği, davranış, araç kullanımı ve güvenlik olarak sınıflandırın.
4. Yalnızca davranış sorunu kalıyorsa yüksek kaliteli SFT verisi hazırlayın.
5. LoRA/QLoRA ile küçük deney yapın; tam fine-tuning'i ancak ölçülen ihtiyaç varsa değerlendirin.
6. Kapalı test, insan değerlendirmesi ve güvenlik testini eğitimden bağımsız tutun.
7. Canary dağıtım yapın; maliyet, gecikme ve kullanıcı başarısını production'da izleyin.

DEHA'da model geliştirme de tek başına ağırlık eğitimi olarak ele alınmaz. Türkçe model çalışmaları; araç çağırma, kaynaklı arama, workspace izolasyonu, kalite kontrol ve ölçülebilir Türkçe eval süreçleriyle birlikte tasarlanır. Çünkü kullanıcı açısından değer, benchmark tablosundan değil işin doğru ve güvenilir biçimde tamamlanmasından doğar. İsterseniz DEHA teknoloji yaklaşımını inceleyebilir veya platformu giriş yapmadan deneyebilirsiniz.

✦ Sonuç

Yapay zeka modeli eğitmek; veri, optimizasyon ve GPU üçlüsünden daha geniş bir mühendislik disiplinidir. Önce problemin gerçekten eğitim gerektirip gerektirmediği belirlenmeli; ardından veri hakları, kalite, tokenizer, compute bütçesi, post-training, güvenlik ve değerlendirme birlikte tasarlanmalıdır. En büyük model veya en uzun eğitim koşusu, yanlış tanımlanmış bir hedefi düzeltmez.

Çoğu ekip için en iyi başlangıç sıfırdan temel model eğitmek değil; güçlü bir taban model üzerinde ölçülebilir bir sistem kurmak, RAG ile bilgiyi bağlamak ve yalnızca kanıtlanan davranış açığı için verimli ince ayar yapmaktır. Sıfırdan eğitim ise ancak veri, lisans, tokenizer, altyapı ve uzun vadeli inference üzerinde tam kontrolün stratejik değeri maliyetini aştığında anlamlıdır.

Sık sorulan sorular

Yapay zeka modeli eğitmek için ne gerekir?

Tanımlı görev, lisanslı ve temiz veri, uygun temel model veya mimari, eğitim altyapısı, değerlendirme kümesi, deney takibi ve güvenlik testleri gerekir.

Bir LLM sıfırdan eğitilmeli mi?

Çoğu ürün için hayır. Prompt, RAG ve LoRA tabanlı uyarlama daha hızlı ve ekonomiktir. Sıfırdan eğitim, tam tokenizer ve ağırlık kontrolü gibi stratejik gereksinimlerde düşünülmelidir.

Fine-tuning ile RAG arasındaki fark nedir?

Fine-tuning modelin davranışını veya görev yeteneğini ağırlık güncelleyerek değiştirir. RAG ise güncel ya da özel bilgiyi sorgu sırasında dış kaynaktan getirir; bilgi güncellemesi için genellikle daha uygundur.

Model eğitimi için kaç GPU gerekir?

Tek bir sayı yoktur. LoRA küçük modellerde tek GPU ile yapılabilirken sıfırdan büyük model ön eğitimi yüzlerce veya binlerce hızlandırıcı gerektirebilir. Model boyutu, token sayısı, süre ve hassasiyet birlikte hesaplanmalıdır.

Kaynakça

1. Hoffmann, J. ve ark. (2022). Training Compute-Optimal Large Language Models. arXiv:2203.15556.
2. Dubey, A. ve ark. (2024). The Llama 3 Herd of Models. arXiv:2407.21783.
3. Lee, K. ve ark. (2021). Deduplicating Training Data Makes Language Models Better. arXiv:2107.06499.
4. Hu, E. J. ve ark. (2021). LoRA: Low-Rank Adaptation of Large Language Models. arXiv:2106.09685.
5. Dettmers, T. ve ark. (2023). QLoRA: Efficient Finetuning of Quantized LLMs. arXiv:2305.14314.
6. Ouyang, L. ve ark. (2022). Training Language Models to Follow Instructions with Human Feedback. arXiv:2203.02155.
7. Rafailov, R. ve ark. (2023). Direct Preference Optimization: Your Language Model is Secretly a Reward Model. arXiv:2305.18290.
8. Deng, C. ve ark. (2023). Investigating Data Contamination in Modern Benchmarks for Large Language Models. arXiv:2311.09783.

Bu yazı 14 Temmuz 2026 tarihinde hazırlanmıştır. Teknik kavramlar okunabilirlik için sadeleştirilmiş; bağlantılar birincil araştırma yayınlarına yönlendirilmiştir. Veri lisansı ve kişisel veri konuları proje ve ülkeye göre hukuki değerlendirme gerektirir.