Akıllı telefonlarımız artık yalnızca uygulama çalıştıran cihazlar değil; aynı zamanda yazdığımız metni düzelten, bize cevap öneren, alışkanlıklarımızı analiz eden ve bunu çoğu zaman fark ettirmeden yapan küçük asistanlara dönüştüler. Üstelik bu deneyimlerin bir kısmı, internet bağlantısına ihtiyaç duymadan doğrudan cihazın içinde gerçekleşiyor.

Android dünyasında bu dönüşümün merkezinde, yapay zekâyı buluta taşımadan cihaz üzerinde çalıştırmayı hedefleyen on-device AI yaklaşımı ve Google’ın bu alandaki modeli olan Gemini Nano yer alıyor.

On-Device AI Nedir?

On-device AI, yapay zekâ modellerinin bulut sunucuları yerine, doğrudan kullanıcının cihazında çalışmasını esas alan bir yaklaşımdır. Girdi verisi, model çalışması ve çıktı üretimi cihaz üzerinde gerçekleşir; veri uygulama dışına çıkmaz.

Bu yaklaşım sayesinde uygulamalar internet bağlantısı olmadan çalışabilir, gecikme süresi azalır ve kullanıcı verisi cihazı terk etmediği için gizlilik seviyesi yükselir. Aynı zamanda her işlem için sunucuya istek atılmadığından altyapı maliyetleri de düşer.

Android tarafında bu mimarinin merkezinde, Google tarafından geliştirilen on-device generative AI modeli Gemini Nano yer alır ve bu model, Android sistem mimarisine entegre şekilde çalışır.

Gemini Nano Nedir?

Gemini Nano, Android cihazlar için özel olarak optimize edilmiş, hafif ve verimli bir generative AI modelidir. Büyük ve çok yönlü bulut modellerinin aksine, kısa metinler ve görece basit görevler için tasarlanmıştır. Bu sayede cihaz üzerinde hızlı ve düşük gecikmeli bir deneyim sunar.

Gemini Nano cihaz üzerinde çalışır ve internet bağlantısına ihtiyaç duymaz. Metin özetleme, yazım ve dil bilgisi düzeltme, metni yeniden yazma, sohbet ekranlarında akıllı yanıt üretme ve basit metin sınıflandırma gibi senaryolarda etkili sonuçlar verir. Bu yetenekler, özellikle kullanıcı etkileşiminin yoğun olduğu ekranlarda hızlı ve akıcı deneyimler tasarlamayı mümkün kılar.

Bir Android uygulaması, Gemini Nano’yu kullanarak kullanıcının yazdığı metni düzeltebilir, uzun içerikleri özetleyebilir veya sohbet ekranlarında bağlama uygun yanıt önerileri sunabilir. Tüm bu işlemler cihaz üzerinde gerçekleştiği için hem performans hem de gizlilik açısından önemli avantajlar sağlar.

Android 14 ve sonrasında Gemini Nano, AICore adlı sistem bileşeni üzerinden yönetilir. Bu yapı sayesinde geliştirici; modeli indirme, dağıtma veya güncelleme gibi operasyonel detaylarla uğraşmaz, AICore’un sunduğu API’ler üzerinden Gemini Nano’nun yeteneklerine erişir. Böylece on-device AI kullanımı, uygulama mimarisine ek bir karmaşıklık getirmeden sisteme entegre edilir.

ML Kit GenAI API ile Neler Yapılabilir?

Geliştiriciler, Gemini Nano’nun yeteneklerine ML Kit GenAI API üzerinden erişir. Bu API katmanı, on-device AI kullanımını uygulama tarafında pratik ve kontrollü hâle getirerek, model yönetimi gibi detayları geliştiricinin üzerinden alır.

ML Kit GenAI ile uzun metinlerin özetlenmesi, yazım ve dil bilgisi hatalarının düzeltilmesi, metnin farklı tonlarda yeniden yazılması ve sohbet ekranlarında akıllı yanıt önerileri üretilmesi gibi senaryolar cihaz üzerinde gerçekleştirilebilir. Ayrıca küfür, hassas veri veya saldırgan dil gibi içeriklerin sınıflandırılması da mümkündür. Tüm bu işlemler, verinin cihaz dışına çıkmasına gerek kalmadan yürütülür.

AICore: Android’in Yeni AI Motoru

AICore, Android cihazlarda yapay zekâ modellerinin çalıştırılmasından sorumlu olan bir sistem servisidir. Uygulamalar ile modeller arasında konumlanır ve Gemini Nano gibi on-device AI modellerinin güvenli ve izole bir ortamda çalışmasını sağlar. Modelin ne zaman ve nasıl çalıştırılacağı ile işlemci ve bellek kullanımı, sistem tarafından kontrol edilir.

AICore, Android’in Private Compute yaklaşımı doğrultusunda çalışır. Bu yaklaşım, kullanıcıya ait verilerin cihaz dışına çıkmadan, diğer uygulamalardan ayrılmış bir ortamda işlenmesini hedefler. Bu kapsamda modele verilen girdiler ve üretilen çıktılar kalıcı olarak saklanmaz.

AICore internete doğrudan erişmez. Model indirme ve güncelleme işlemleri, sistemin yönettiği ayrı ve güvenli servisler üzerinden gerçekleştirilir. Böylece yapay zekâ bileşenlerinin yetki alanı sınırlandırılır ve hem kullanıcı verisi hem de cihaz kaynakları daha kontrollü şekilde yönetilir. Bu yapı, özellikle güvenlik ve yasal uyumluluğun önemli olduğu uygulamalarda yapay zekânın daha öngörülebilir ve denetlenebilir biçimde kullanılmasına yardımcı olur.

Desteklenen Cihazlar

Gemini Nano, donanım tarafında belirli bir performans seviyesini gerektirdiği için şu an ağırlıklı olarak üst segment Android cihazlarda kullanılabiliyor. Pixel 8 Pro, Pixel 9 ve Pixel 9 Pro gibi modellerde aktif olarak sunulan model, Google’ın Tensor G3 ve Tensor G4 işlemcileriyle optimize edilmiş durumda.

Google, on-device AI yeteneklerini zamanla daha fazla cihaza yaymayı hedefliyor. Bu doğrultuda, Samsung ve Xiaomi gibi üreticilerin üst segment Android cihazlarında da Gemini Nano desteğinin kademeli olarak sunulması bekleniyor.

On-Device AI mı, Cloud AI mı?

On-device AI ve cloud AI çözümleri, farklı problem alanları için farklı avantajlar sunar. On-device AI; düşük gecikme, çevrimdışı çalışma ve gizlilik gereksiniminin yüksek olduğu senaryolarda öne çıkarken, cloud AI çözümleri daha karmaşık analizler ve yüksek hesaplama gücü gerektiren işler için uygundur.

Android ekosisteminde Gemini Nano gibi on-device modeller, kullanıcı arayüzüne yakın ve hızlı tepki vermesi gereken özelliklerde kullanılır. Buna karşılık uzun doküman analizi, karmaşık soru-cevap sistemleri veya büyük veri kümeleriyle çalışan senaryolar hâlâ bulut tarafında konumlandırılır. Pratikte bu iki yaklaşımı, birbirine alternatif olarak değil, farklı ihtiyaçları tamamlayan yapılar olarak ele almak daha sağlıklıdır.

Bankacılık Uygulamalarında Gemini Nano’nun Kullanım Alanları

Bankacılık uygulamaları, on-device AI için en doğal kullanım alanlarından biridir. Gizlilik beklentisinin yüksek olması ve kullanıcıya hızlı, bağlama duyarlı deneyimler sunma ihtiyacı, bu yaklaşımı özellikle değerli kılar. Ancak bu senaryolarda temel bir prensip vardır: Gemini Nano karar veren değil, kullanıcıyı bilgilendiren ve destekleyen bir bileşendir.

Örneğin uzun sözleşme ve kampanya metinleri, Gemini Nano ile cihaz üzerinde özetlenebilir. Kullanıcıya birkaç maddelik, sade bir açıklama sunulur ve tüm bu süreç internete bağlanmadan gerçekleşir. Orijinal metin geçerliliğini korurken, AI yalnızca metni daha okunabilir hale getiren yardımcı bir rol üstlenir.

Uygulama içi destek ekranlarında ise kullanıcının yazdığı mesajlar cihaz üzerinde analiz edilerek bağlama uygun yanıt önerileri oluşturulabilir. Bu öneriler otomatik olarak gönderilmez; kullanıcı veya temsilci tarafından kontrol edilerek kullanılır. Böylece hem operasyonel verimlilik artar hem de insan denetimi korunmuş olur.

Harcama özetleri ve “mini finans koçu” senaryolarında, aylık veriler Gemini Nano tarafından kısa ve anlaşılır bir dille yorumlanabilir. Sayısal hesaplamalar backend tarafında kalırken, bu verinin kullanıcıya nasıl anlatılacağı cihaz üzerinde şekillenir. Bu sayede hem kişiselleştirilmiş bir deneyim sunulur hem de sunucuya ek veri gönderilmesine gerek kalmaz.

Ayrıca kullanıcı serbest metin alanlarına içerik girerken, küfür, kredi kartı numarası veya kimlik bilgisi gibi hassas veriler cihaz üzerinde önceden tespit edilip filtrelenebilir. Böylece veriler uygulama dışına çıkmadan, tamamen cihaz üzerinde kontrol altına alınmış olur.

On-Device AI’da Güvenlik ve Riskler

On-device AI, verinin cihazda kalması sayesinde bulut tabanlı çözümlere kıyasla önemli bir gizlilik avantajı sağlar. Ancak bu, güvenlik risklerinin tamamen ortadan kalktığı anlamına gelmez; sadece bu risklerin buluttan cihaza taşındığını gösterir. Bu yüzden on-device AI’yi, kendiliğinden güvenli bir yapı olarak değil, dikkatle tasarlanması ve düzenli olarak gözden geçirilmesi gereken bir mimari katman olarak düşünmek gerekir.

Android tarafında bu yaklaşım, AICore üzerinden sağlanan izole bir çalışma modeliyle desteklenir. AICore, yapay zekâ işlemlerini diğer uygulamalardan ayrı bir ortamda çalıştırır ve modele verilen girdiler ile üretilen çıktının kalıcı olarak saklanmasını engeller. Bu da on-device AI için sağlam bir güvenlik temeli oluşturur. Buna rağmen AICore’un internete doğrudan erişmemesi, cihaz üzerindeki yapay zekâ bileşenlerinin tüm saldırılara karşı tamamen korumalı olduğu anlamına gelmez. Özellikle bankacılık gibi güvenlik ve yasal uyumluluğun kritik olduğu alanlarda, bu varsayım kolayca yanıltıcı olabilir. Bu bakış açısı çoğu zaman “gizli olduğu için güvenli” varsayımına dayanır ancak bu tek başına yeterli değildir.

Başlıca Güvenlik Riskleri

Data Poisoning ve Backdoor Saldırıları

On-device AI’de kullanılan modellerin (örneğin Gemini Nano gibi sistem tarafından sağlanan modellerin) eğitim, ayar veya güncelleme süreçlerine kasıtlı olarak zararlı örnekler eklenmesi, modelin ürettiği sonuçları fark edilmeden değiştirebilir. Hatta çok az sayıda “bozuk” veri bile, bazı koşullarda modelin beklenmeyen şekilde davranmasına neden olabilir. Son dönemde Gemini modelleriyle ilgili raporlanan bazı güvenlik açıkları da bu konuyu yeniden gündeme getirmiştir. Özellikle “zero-click” olarak adlandırılan zafiyetler, kullanıcının herhangi bir etkileşimde bulunmasına gerek kalmadan tetiklenebilen saldırı senaryolarını ifade eder. Bankacılık tarafında bu durum harcama özetleri, açıklama metinleri veya kullanıcıyı yönlendiren içeriklerin yanlış ya da yanıltıcı biçimde üretilmesine neden olabilir.

Model Inversion Saldırıları

Model inversion saldırıları, modelin ürettiği çıktılardan yola çıkarak, modelin öğrenme sürecinde kullandığı veriler ya da kullanıcıya ait hassas bilgiler hakkında çıkarımlar yapılmasını hedefler. Yani model, bilgiyi doğrudan göstermese bile, verdiği yanıtlar üzerinden bazı ipuçları sızdırabilir. Bu risk özellikle klavye tahmini, akıllı yanıt önerileri veya metin tamamlama gibi kullanıcıyla etkileşimli özelliklerde daha belirgin hale gelir. Bu nedenle bu tür senaryolarda, modele verilen girdiler ve kullanıcıya sunulan çıktılar dikkatle tasarlanmalıdır.

Model Güncelleme Riskleri

AICore’un kendisi internete doğrudan çıkmasa da, modellerin indirilmesi ve güncellenmesi kontrollü servisler üzerinden yapılır. Bu dağıtım zincirinde oluşabilecek bir zafiyet, modelin davranışının fark edilmeden değişmesine veya zararlı bir güncellemenin cihaza ulaşmasına yol açabilir. Bu yüzden on-device AI modellerinin güncellenmesi, klasik uygulama güncellemelerine kıyasla daha hassas ele alınmalıdır. Model dosyaları da en az uygulama kodu kadar kritik kabul edilmelidir.

Black-box Yapı ve Açıklanabilirlik Sorunu

On-device AI modelleri genellikle “black-box” olarak çalışır; yani modelin bir çıktıyı neden ve nasıl ürettiğini net biçimde görmek her zaman mümkün değildir. Bir hata veya beklenmeyen sonuç ortaya çıktığında, bunun kaynağını bulmak zorlaşabilir. Bankacılık gibi denetlenebilirliğin önemli olduğu alanlarda bu durum ek bir risk oluşturur. Üretilen bir metnin ya da önerinin hangi verilere dayanarak oluşturulduğunun net biçimde açıklanamaması, hem teknik incelemeleri hem de uyumluluk süreçlerini zorlaştırabilir.

Kısaca, on-device AI tek başına her şeyi çözen bir güvenlik kalkanı değildir. Etkili sonuçlar için veri kullanımını sınırlamak, bazı AI çıktılarında insan denetimini korumak ve kullanıcıya bu teknolojinin nerede devreye girdiğini açıkça göstermek gerekir. Finansal açıdan kritik bilgiler backend tarafında kalırken, on-device AI daha çok bu bilgileri kullanıcıya sade ve anlaşılır biçimde aktaran bir yardımcı rol üstlenir.

Sonuç

Android ekosisteminde on-device AI, yalnızca hız veya çevrimdışı çalışma avantajı sunan bir özellik olmaktan çıkmış durumda. Verinin cihazda kalmasını esas alan bu yaklaşım, yapay zekânın daha kullanıcıya yakın ve kontrollü biçimde kullanılmasını mümkün kılıyor. Gemini Nano ve AICore sayesinde geliştiriciler, birçok senaryoda buluta bağımlı kalmadan daha akıcı deneyimler tasarlayabiliyor.

Ancak yapay zekânın cihaz üzerinde çalışması, her zaman otomatik olarak güvenli olduğu anlamına gelmiyor. Özellikle bankacılık gibi veri gizliliğinin ve yasal yükümlülüklerin kritik olduğu alanlarda bu konu dikkatle ele alınmalıdır. AICore’un izole yapısı ve loglama kısıtları önemli bir güvenlik temeli sunsa da, model güncellemeleri veya bazı saldırı senaryoları tamamen ortadan kalkmış sayılmaz.

Doğru şekilde konumlandırıldığında Gemini Nano; metin özetleme, akıllı yanıt önerileri ve hassas içeriklerin ön filtrelenmesi gibi alanlarda kullanıcı deneyimini belirgin biçimde iyileştirebilir. Buna karşılık güvenlik kontrolleri ihmal edildiğinde, gizlilik sorunları veya uyumluluk problemleriyle karşılaşmak mümkündür.

Özetle on-device AI, tek başına her problemi çözen sihirli bir çözüm değildir. Ancak doğru sınırlar içinde, uygun güvenlik önlemleriyle ve bilinçli şekilde kullanıldığında güçlü bir mühendislik aracı hâline gelir. Bu denge sağlandığında, Gemini Nano gibi çözümler güvenilir ve sürdürülebilir sistemlerin doğal bir parçası olabilir.

Kaynakça

• AI on Android – Genel Bakış: https://developer.android.com/ai
• Gemini Nano Overview: https://developer.android.com/ai/gemini-nano
• ML Kit GenAI – On-device Gemini Nano: https://developer.android.com/ai/gemini-nano/ml-kit-genai
• A New Foundation for AI on Android – Android Developers Blog: https://android-developers.googleblog.com/2023/12/a-new-foundation-for-ai-on-android.html
• Introduction to Privacy and Safety for Gemini Nano: https://android-developers.googleblog.com/2024/10/introduction-to-privacy-and-safety-gemini-nano.html
• On-device AI: The emergence of localised intelligence: https://www.verdict.co.uk/on-device-ai-localised-intelligence-growth/
• GeminiJack – Google Gemini Zero-Click Vulnerability: https://noma.security/blog/geminijack-google-gemini-zero-click-vulnerability/
• Model Inversion Attacks – Witness AI Blog: https://witness.ai/blog/model-inversion-attacks/