PrismML’nin geliştirdiği Bonsai 27B modeli, bugüne kadar yalnızca güçlü sunucularda çalışabilen 27 milyar parametreli yapay zekâyı ilk kez akıllı telefonlara taşıdığını iddia ediyor. Apple’ın da bu teknolojiyi test ettiği belirtilirken gelişme, iPhone’lardaki yapay zekâ deneyimini kökten değiştirebilir.
Yapay zekâ denildiğinde akla hâlâ bulut sistemleri geliyor. ChatGPT gibi gelişmiş modelleri kullanabilmek için internet bağlantısına ihtiyaç duyuyor, tüm işlemler uzaktaki sunucularda gerçekleştiriliyor. Ancak bu durum yakın gelecekte değişebilir. Çünkü artık devasa yapay zekâ modellerini doğrudan telefonun içinde çalıştırmayı hedefleyen yeni bir teknoloji var.
İşte tam da bu nedenle PrismML’nin duyurusu teknoloji dünyasında büyük yankı uyandırdı. Şirket, normalde onlarca gigabayt depolama alanı isteyen 27 milyar parametreli bir yapay zekâ modelini yalnızca birkaç gigabayta sığdırmayı başardığını açıkladı. Üstelik CNBC’nin haberine göre Apple da bu teknolojiyi yakından inceliyor. Bu da gelecekte iPhone’ların çok daha güçlü yapay zekâ özelliklerine kavuşabileceği anlamına geliyor.
Dev yapay zekâ modeli ilk kez telefona sığdırıldı
PrismML’nin geliştirdiği Bonsai 27B, Alibaba’nın açık kaynaklı Qwen3.6 27B modelini temel alıyor. Normal şartlarda yaklaşık 54 GB yer kaplayan bu model, şirketin geliştirdiği özel sıkıştırma yöntemi sayesinde telefonlar için 3,9 GB, dizüstü bilgisayarlar için ise 5,9 GB seviyesine kadar küçültülebiliyor. Şirket bunu yaparken model ağırlıklarını klasik 16 bit yerine yalnızca 1 bit veya üç seviyeli (ternary) formatta saklıyor.
PrismML’nin paylaştığı verilere göre telefonlara yönelik 1 bitlik sürüm, tam boyutlu modelin genel performansının yaklaşık %90’ını koruyor. Özellikle matematik, kod yazma ve akıl yürütme gibi alanlarda kaybın oldukça düşük olduğu belirtilirken görüntü analizi ve araç kullanımı gibi görevlerde performansın bir miktar gerilediği ifade ediliyor. Şirket ayrıca modelin Apple’ın MLX altyapısıyla iPhone, iPad ve Mac cihazlarda çalışabildiğini söylüyor.
Apple neden bu teknolojiyle ilgileniyor?
CNBC’nin aktardığı bilgilere göre PrismML CEO’su Babak Hassibi, Apple’ın şirketin geliştirdiği modelleri hız, enerji tüketimi ve performans açısından test ettiğini doğruladı. Görüşmelerin henüz erken aşamada olduğu belirtilirken Apple cephesinden konuyla ilgili resmî bir açıklama yapılmış değil.
Bunun Apple açısından oldukça önemli bir nedeni var. Şirket uzun süredir Apple Intelligence özelliklerini mümkün olduğunca cihaz üzerinde çalıştırmaya odaklanıyor. Böylece hem kullanıcı verileri buluta gönderilmiyor hem de internet bağlantısı olmadan çalışan daha hızlı yapay zekâ özellikleri sunulabiliyor. Eğer PrismML’nin iddiaları gerçek kullanımda da karşılığını bulursa, gelecekte Siri’den üretken yapay zekâ araçlarına kadar birçok özellik doğrudan iPhone’un içinde çalışabilir.
Şimdilik büyük vaatler var, asıl sınav ise gerçek kullanım olacak
Her ne kadar teknoloji oldukça etkileyici görünse de uzmanlar temkinli yaklaşılması gerektiğini belirtiyor. Çünkü şu ana kadar paylaşılan performans verilerinin büyük bölümü PrismML’nin kendi testlerinden oluşuyor. Özellikle pil tüketimi, uzun süreli kullanım performansı ve milyonlarca farklı cihazdaki kararlılık gibi başlıklar, teknolojinin gerçekten devrim yaratıp yaratmayacağını belirleyecek.
Yine de yapay zekânın buluttan çıkıp doğrudan cebimizde çalışabileceği fikri artık eskisi kadar uzak görünmüyor. Apple’ın bu teknolojiyi gerçekten ürünlerine entegre edip etmeyeceği henüz bilinmese de, Bonsai 27B’nin mobil yapay zekâ yarışında önemli bir kilometre taşı olduğu şimdiden söylenebilir.
Yorumlar (0)