oku
Teknoloji

Geometric Flow: DiT Modellerinin Çözemediği Temel Problem

Geometrik akış temsili soyut renkli katmanlar, DiT model problemini görsel olarak ifade ediyor.
Geometrik akış temsili soyut renkli katmanlar, DiT model problemini görsel olarak ifade ediyor.

Yaklaşık üç yıl önce DALL-E 2 ve Stable Diffusion piyasaya çıktığında, yapay zekâ görsel üretimi tamamen evrişimli sinir ağlarına dayanıyordu. Araştırmacılar gürültülü bir görüntüyü adım adım temizleyen U-Net mimarisini standart kabul etmişti. Bugün ise Diffusion Transformer, yani DiT mimarisi bu yapıyı büyük ölçüde geride bırakmış durumda. Sora, Stable Diffusion 3 ve Flux gibi güncel modellerin arkasındaki ana güç bu yapı. Ancak mimarinin değişmesi görsel üretimin en temel matematiksel sorununu çözmedi. Sorun, yapay zekânın veriyi nasıl temsil ettiğiyle, yani geometrik akışla doğrudan ilgili.

Diffusion Transformer Mimarisi ve Temel Çalışma Prensibi

Diffusion modellerinin temel fikri oldukça basit: Önce net bir görüntüye rastgele gürültü eklersiniz, ardından bu gürültülü halden yola çıkarak orijinal görüntüyü yeniden oluşturmayı öğrenirsiniz. DALL-E 2 ve Stable Diffusion gibi erken dönem araçlar bu temizleme işlemini U-Net adı verilen evrişimli ağlarla gerçekleştiriyordu. U-Net yapıları yerel özellikleri yakalamada başarılıydı; bir yüzün gözünü veya arabanın tekerleğini ayrıntılı şekilde çizebiliyordu.

Buna karşın U-Net mimarisi küresel tutarlılıkta zorlanıyordu. Görüntünün bir ucundaki elemanı diğer ucundakiyle ilişkilendirmekte yetersiz kalıyordu. İşte bu noktada DiT mimarisi devreye girdi. Transformer yapısı, doğal dil işlemede büyük başarı gösterdikten sonra görsel üretim alanına da taşındı. DiT, görüntüyü küçük parçalara bölüp bu parçalar arasındaki ilişkiyi dikkat mekanizmasıyla kuruyor. Bu sayede kompozisyon daha tutarlı hale geliyor.

DiT mimarisi standart evrişim katmanları yerine kendi dikkat katmanlarını kullanıyor. Her parça, diğer tüm parçalara bakarak bağlamını anlamaya çalışıyor. Latent uzayda çalışan bu yapı, U-Net'in yerel evrişim önyargısını ortadan kaldırıyor. Dolayısıyla modelin ölçeğini büyüttükçe görsel kalitesi de doğrudan artıyor. Ancak mimarinin değişmesi, öğrenme sürecinin matematiksel doğasını değiştirmiyor. Model hâlâ gürültüyü adım adım temizliyor ve bu adımların geometrik anlamı çoğu zaman göz ardı ediliyor.

Geometrik Akış Sorunu: Veri Manifoldunda Kaybolan Bilgi

Araştırmacılar diffusion sürecini genelde düz bir çizgi üzerinde düşünme eğiliminde. Gürültülü halden temiz hale doğru düz bir yol çiziyoruz gibi algılıyoruz. Oysa gerçek veri uzayı düz değil. Doğal görüntüler çok boyutlu bir uzayda karmaşık bir yüzey, yani bir manifold oluşturur. Şubat 2026'da yayımlanan bir çalışma, diffusion modellerinin bu manifoldun geometrisini doğru kavramadığını ortaya koyuyor. Model düz çizgilerde ilerlemeye çalışırken, verinin asıl yapısı kıvrımlı ve katmanlı kalıyor.

Bu durum somut bir örnekle açıklanabilir. Dağlık bir bölgede noktadan noktaya gitmek istediğinizi düşünün. Düz bir çizgi çizip o çizgi üzerinden yürümeye kalkarsanız tepeye çarpar veya vadiye düşersiniz. Yolun gerçek geometrisine uymanız gerekir. Diffusion modelleri de benzer şekilde, verinin gerçek yapısını hesaba katmadan gürültüyü temizlemeye çalışıyor. Bu yüzden bazı durumlarda fiziksel olarak imkânsız görseller üretebiliyor. Bir nesnenin gölgesinin kaynağıyla uyuşmaması veya perspektif hataları bu sorunun doğrudan sonucu.

Geometrik akış, bu manifold üzerindeki doğru yolu bulmayı ifade ediyor. Modelin her adımda gürültüyü rastgele değil, veri yapısına uygun bir şekilde azaltması gerekiyor. Nova Spivack'ın araştırma programında da belirtildiği gibi, bilgi işlemenin geometrik bir temeli olması gerektiği fikri giderek daha fazla kabul görüyor. Verinin içsel geometrisini anlamadan, o veriyi doğru şekilde işleyemezsiniz.

Akış Eşleştirme ve Geometrik Kısıtlar

Sorunu çözmek için öne sürülen yaklaşımlardan biri akış eşleştirmesi. Akış eşleştirmesinin temel fikri şöyle: Gürültüden veriye geçişi tek bir düz yol yerine, birçok küçük akışın birleşimi olarak modellemek. Her küçük akış, o anki veri bölgesinin geometrisine uygun bir yön seçiyor.

Bu yaklaşım standart diffusion sürecinden temel bir ayrılık taşıyor. Klasik yöntemde sabit bir gürültü çizelgesi kullanılıyor; her adımda aynı miktarda gürültü düşülüyor. Akış eşleştirmesinde ise bu çizelge dinamik hale geliyor. Verinin o bölgesinin eğriliğine göre adım boyutu ve yönü değişiyor. Düz bir bölgede hızlı gidebilirsiniz, ancak kıvrımlı bir bölgede adımlarınızı küçültmeniz gerekir.

Buna karşın bu esneklik kendi sorunlarını da beraberinde getiriyor. Dinamik çizelgeler hesaplama maliyetini artırıyor. Model her adımda lokal geometriyi hesaplamak zorunda kalıyor. Ayrıca bu hesaplamanın kendisi de hata kaynaklı olabilir. Geometriyi yanlış tahmin ederseniz düz çizgiden daha kötü bir sonuç elde edersiniz. Dolayısıyla geometrik akış teorik olarak çekici olsa da, pratikte uygulanması kolay değil.

Temel Sorun: Geometrik Karışma ve Konverjans Başarısızlığı

Şubat 2026'da Amandeep Kumar ve Vishal M. Patel tarafından yayımlanan çalışma, sorunu çok daha keskin bir şekilde tanımlıyor. Araştırmacılar, standart Diffusion Transformer'ların representation encoder'larla doğrudan çalıştırıldığında konverjans sağlayamadığını gösteriyor. Daha önce bu başarısızlık modelin kapasite yetersizliğine bağlanıyordu. Çözüm olarak transformer'ın genişliğini artırmak, yani daha büyük ve pahalı modeller öneriliyordu.

Kumar ve Patel ise sorunun kapasiteyle ilgisi olmadığını, kökten geometrik olduğunu kanıtlıyor. Buna göre standart Öklidyen akış eşleştirmesi, olasılık yollarını hypersferik özellik uzayının düşük yoğunluklu iç kısmından geçiriyor. Yani model manifoldun yüzeyinde ilerlemek yerine, içinden geçiyor. Bu da «geometrik karışma» olarak adlandırılıyor. Sonuç olarak model ne kadar büyük olursa olsun, doğru yoldan sapıyor ve öğrenme tamamlanamıyor.

Çalışmanın öne sürdüğü çözüm ise Riemannian Flow Matching with Jacobi Regularization, yani RJF yöntemi. Bu yöntem üretim sürecini manifoldun jeodeziklerine, yani yüzey üzerindeki en kısa yollara hapsediyor. Ayrıca eğrilik kaynaklı hata yayılımını Jacobi düzeltmesiyle engelliyor. En çarpıcı sonuç şu: RJF sayesinde standart DiT-B mimarisi, yalnızca 131 milyon parametreyle FID 3.37 skoru elde ediyor. Önceki yöntemler aynı yapıda konverjans bile sağlayamıyorken, geometrik düzeltme tek başına sorunu çözüyor.

Bu Sorun Neden Güncel Üretim Modellerini Etkiliyor?

Peki bu soyut matematiksel sorun, günlük kullanımda karşınıza nasıl çıkıyor? Midjourney, DALL-E veya Stable Diffusion ile çalışırken bazı görsellerin «off» hissettirdiğini fark etmişsinizdir. Kompozisyon doğru, renkler güzel, ama bir şey eksik. İnsan gözü bu tür geometrik tutarsızlıkları sezgisel olarak fark ediyor. Bir nesnenin arka plandaki diğer nesnelerle olan uzaysal ilişkisi tam oturmuyor.

Bunun temel nedeni, modelin her pikseli bağımsız değil ama doğru geometrik ilişkiyle de bağlı olmaması. DiT mimarisi parçalar arası ilişkiyi kuruyor, ancak bu ilişki düzlemsel bir bağlamda kalıyor. Derinlik, eğrilik, yüzey normali gibi geometrik özellikleri açıkça kodlamıyor. Model verinin yüzeyinin altındaki yapıyı görmüyor, sadece yüzeydeki piksel dağılımını taklit ediyor.

Gelecekte bu sorunun çözülmesi, üretim modellerinin kalitesini sıçratma potansiyeline sahip. Geometrik akışı doğru modelleyen bir sistem fiziksel olarak tutarlı sahneler üretir. Işıklandırma, gölge, perspektif ve derinlik ilişkileri doğal olarak doğru çıkar. Bu da yalnızca sanat üretimini değil, mühendislik görselleştirmesini, mimari tasarımı ve simülasyonları doğrudan etkiler.

Geometrik Akış ve Gelecek

RJF gibi yöntemler, bir şeyi net bir şekilde gösteriyor: Sorun mimarinin büyüklüğünde değil, matematiğin doğruluğunda. Kumar ve Patel'in çalışması, 131 milyon parametreli küçük bir modelin geometrik düzeltmeyle dev modelleri geçebileceğini kanıtlıyor. Bu durum, endüstrinin «daha büyük model daha iyi sonuç» refleksini sorgulatmaya yetiyor.

Öte yandan RJF henüz sınırlı bir çerçevede test edildi. ImageNet üzerinde alınan sonuçlar umut verici, ancak Sora veya Stable Diffusion 3 gibi karmaşık sistemlere doğrudan uygulanıp uygulanamayacağı belirsiz. Hypersferik manifold varsayımı her tür representation encoder için geçerli mi, bunu gösterecek daha geniş çaplı çalışmalar gerekiyor.

Geometrik akış sorununu çözmek, Diffusion Transformer'ların sınırlarını zorlayan bir araştırma alanı. Mevcut modeller muazzam görsel kalitesi sunsa da, verinin içsel geometrisini kavramakta hâlâ eksikler taşıyor. Akış eşleştirme, Riemannian geometri ve manifold öğrenmesi gibi yaklaşımlar umut verici, ancak pratik engeller aşılmadı. Yapay zekâ görsel üretimi geometrik tutarlılığı tam anlamıyla çözebildiğinde ise ilk etkilenecek alanın simülasyon ve mühendislik görselleştirmesi olacağını söylemek güç değil. Çünkü bu alanlar «güzel görsel»den değil, «doğru görsel»den besleniyor.

kaynaklar

Etiketler

Bu makaleyi başkalarının da görmesi gerekiyor.

Faydalı bulduysan 10 saniyede başkalarına ulaşabilirsin. Bilgi paylaştıkça büyür.

okuma ayarları

yorumlar