- Windows 11 Ayarlar uygulamasında doğal dil sorgularını anlayarak kullanıcıları doğrudan ilgili menüye yönlendiriyor.
- NPU içeren Copilot+ PC donanımları için özel olarak tasarlandı ve Phi-Silica modelinin yerini aldı.
- 330 milyon parametrelik encoder-decoder mimarisi üzerine kurulu ve Azure platformunda Nvidia A100 GPU'lar ile eğitildi.
- Benzer modellere göre çok daha hızlı çalışırken, Phi-3.5-mini modelinin onda biri boyutunda olmasına rağmen benzer kalitede sonuçlar üretiyor.
Microsoft, Windows 11 deneyimini bir üst seviyeye taşımak amacıyla 'Mu' adını verdiği yeni bir küçük dil modelini duyurdu. Bu yapay zeka, işletim sistemine yerel olarak entegre edilerek, özellikle Ayarlar uygulamasındaki kullanıcı etkileşimini iyileştirmeyi amaçlıyor.
Mu, bir "akıllı ajan" olarak görev yaparak kullanıcıların karmaşık ve doğal dildeki komutlarını anlamasını sağlıyor. Bu özellik şu anda Windows Insider programının Dev Kanalı'nda test ediliyor.
Örneğin, kullanıcı sadece "Bluetooth" yazdığında ilgili ayar sayfası listelenirken, "Yeni bir Bluetooth kulaklık nasıl bağlanır?" gibi bir soru sorduğunda Mu bu talebi analiz ederek doğrudan Bluetooth cihaz ekleme ekranını açıyor.
Copilot+ PC'ler için özel olarak geliştirildi
Bu yeni dil modeli, Microsoft'un NPU (Nöral İşlem Birimi) içeren yeni nesil donanımları olan Copilot+ PC'ler ile tam uyumlu çalışacak şekilde tasarlandı. Bu entegrasyonla birlikte, daha önce bu sistemlerde kullanılan Phi-Silica modelinin yerini Ayarlar uygulamasında Mu almış oldu.
Boyutuna göre yüksek performans sunuyor
Microsoft, Mu'nun teknik altyapısına dair verileri de paylaştı. Encoder-decoder mimarisi üzerine kurulan model, bazı ağırlıkların paylaştırılması sayesinde 330 milyon gibi optimize bir parametre sayısına sahip.
Modelin eğitim süreci, Microsoft'un kendi bulut platformu olan Azure Machine Learning üzerinde, yüksek performanslı Nvidia A100 GPU'lar kullanılarak gerçekleştirildi. Bu altyapı, modelin verimli bir şekilde geliştirilmesini sağladı.
Performans karşılaştırmalarında Mu, yalnızca decoder tabanlı benzer büyüklükteki modellere kıyasla yaklaşık %47 daha düşük ilk token gecikmesi ve 4,7 kat daha hızlı çözümleme hızı sunuyor. Microsoft'un verilerine göre Mu, Phi-3.5-mini modelinin onda biri boyutunda olmasına rağmen benzer bir çıktı kalitesi sağlıyor.
Sesli Özet üret