Haber Detayı
Cebinizdeki gizli deha: Saniyede 190 trilyon işlem yapan minik canavar tanıtıldı
ABD'li Tiiny AI, sunucu odalarını bir akıllı telefon boyutuna indirmeyi başardı. Hiçbir veri merkezine bağlanmadan çalışan AI Pocket Lab, internetin çekmediği yerlerde bile 120 milyar parametreli modelleri saniyeler içinde işleyerek kişisel asistan kavramını baştan yazıyor.
ABD merkezli girişim Tiiny AI, "dünyanın en küçük yapay zeka süper bilgisayarı" olarak tanımladığı yeni cihazını tanıttı. "AI Pocket Lab" adıyla markalaşan bu teknoloji, bir akıllı telefon boyutlarında olmasına rağmen şaşırtıcı bir performans sergiliyor.Normal şartlarda sadece yüksek maliyetli sunucu odalarında ve dev veri merkezlerinde çalışabilen üst düzey yapay zeka modelleri, bu cihaz sayesinde internet bağlantısına ihtiyaç duymadan avuç içine sığıyor.
Cihazın asıl dikkat çeken yeteneği ise, 120 milyar parametreli karmaşık dil modellerini tamamen yerel olarak işleyebilmesi.
Bu özellik, uçağın içinde veya okyanusun ortasında bile sistemin sorunsuz çalışması anlamına geliyor.
Kendi başına problem çözebilen, soyut akıl yürütme yeteneğine sahip ve stratejik planlama yapabilen bu kutu, uzman düzeyinde bir dijital asistana dönüşüyor.
Standart bir dizüstü bilgisayarın kapasitesini katlayan AI Pocket Lab, 14 santimetrelik gövdesinde tam 80 GB RAM'e sahip.
Güncel ve güçlü kişisel bilgisayarların hala 16 GB veya 32 GB bellek ile çalıştığı düşünülürse, donanımın ulaştığı seviye daha net anlaşılabilir.Cep boyutundaki gücün teknik sırrıAI Pocket Lab’in bir mini bilgisayardan ziyade süper bilgisayar olarak nitelendirilmesi, sunduğu yüksek hesaplama kapasitesinden kaynaklanıyor.
Cihazın kalbinde 12 çekirdekli bir ARM işlemci yer alsa da farkı yaratan asıl nokta başka bir detayda gizli.
Bu gücün 48 GB’lık kısmı doğrudan yapay zeka görevlerine odaklanan özel bir çipe ayrılmış.
Saniyede 190 trilyon operasyon gerçekleştirebilen sistem, dev veri merkezlerinin enerji yükünü azaltmayı hedefleyen yeni nesil teknoloji trendinin en somut örneği haline geldi.Tiiny AI ekibi, bu kadar dar bir alana yüksek performans sığdırmak için "TurboSparse" adını verdikleri özel bir yöntemden faydalanıyor.
Bu teknoloji, yapay zeka modelinin her kelimeyi üretirken tüm parametreleri kullanması yerine sadece o an ihtiyaç duyulan kısımları çağırmasını sağlıyor.
Ayrıca akıllı iş bölümü özellikleri sayesinde işlemci ve grafik birimi arasındaki enerji tasarrufu en üst seviyeye çıkıyor.Cebinizde taşıyabileceğiniz bu yeni nesil teknolojinin en büyük avantajlarından biri de kullanıcı gizliliği.
Verileriniz hiçbir şekilde buluta yüklenmiyor veya dışarı sızmıyor; her işlem doğrudan elinizdeki cihazda kalıyor.
Bu durum, sadece gizlilik hassasiyeti olanlar için değil, internet bağlantısının bulunmadığı araştırma istasyonları veya uzak bölgelerde çalışan uzmanlar için de benzersiz bir imkan demek.
