Yapay zeka donanımlarının hızla küçüldüğü dönemde Tiiny AI, pazara oldukça iddialı bir giriş yaptı. Şirket, yalnızca 14,2 × 8 × 2,53 cm boyutlarında ve yaklaşık 300 gram ağırlığında olan Pocket Lab isimli cihazını dünyanın en küçük yapay zeka süper bilgisayarı olarak tanıttı. Bu küçük gövde, bugüne kadar yalnızca devasa sunucularla mümkün olan 120 milyar parametreli LLM modellerini tamamen yerelde çalıştırma iddiasıyla dikkat çekiyor.
Pocket Lab’de ARMv9.2 mimarisi üzerine kurulu 12 çekirdekli işlemci yer alıyor. Bu işlemci, yapay zeka yüklerini hızlandırmak için özel olarak tasarlanmış bir mimariyle destekleniyor. Ortaya çıkan toplam hesaplama gücü 190 TOPS seviyesine ulaşıyor. Böylece cihaz, taşınabilir formda bugüne kadar görülmemiş bir performans sunuyor.
Tiiny AI’ın temel hedefi, yüksek güç tüketen ve binlerce dolara satılan geleneksel yapay zeka donanımlarına alternatif yaratmak. Örneğin Nvidia DGX Spark gibi çözümlerin 4.000 dolar seviyesini aşması nedeniyle pek çok geliştirici ve araştırmacı, güçlü modelleri yerel ortamda çalıştırmaktan vazgeçmek zorunda kalıyordu. Pocket Lab, bu durumu ortadan kaldırmayı amaçlıyor.
Cihazın performansını mümkün kılan en önemli detaylardan biri de 80 GB LPDDR5X RAM ve 1 TB SSD depolama. Bu donanım, kuantizasyon teknikleriyle birleşince, devasa modellerin bile takılmadan çalışmasını sağlıyor. Üstelik cihaz, tamamen internetsiz ve izole ortamlarda çalışabiliyor. Bu da gizlilik gerektiren projeler için önemli bir avantaj sunuyor.
Tiiny AI’ın ekosistemi, tek tıkla kurulabilen geniş bir model ve ajan kütüphanesi de içeriyor. GPT-OSS, Llama, Qwen, DeepSeek, Mistral ve Phi gibi popüler açık kaynaklı modellerin yanı sıra birçok farklı agent framework’ü de yerel olarak kullanılabiliyor.
Pocket Lab’in bu kadar büyük modelleri çalıştırabilmesinin ardında iki kilit teknoloji bulunuyor:
- TurboSparse: Nöron seviyesinde seyrekleştirilmiş aktivasyon tekniğiyle verimi artırırken model zekasında kayıp yaşanmasını engelliyor.
- PowerInfer: CPU ve NPU arasında iş yükünü dinamik olarak paylaştırarak ağır LLM görevlerinde optimum performans sağlıyor.
Yaklaşık 30W TDP değerine sahip olan cihaz, tam yük altında sistem genelinde 65W civarı elektrik tüketiyor. Bu değer, masaüstü GPU’ların yanında oldukça düşük kalsa da performans tarafında çarpıcı sonuçlar vadeden Pocket Lab’i özellikle mobil geliştiriciler, yapay zeka araştırmacıları ve taşınabilir bir inference istasyonu arayan profesyoneller için cazip hale getiriyor.
Tiiny AI, Pocket Lab’in CES 2026 fuarında gösterileceğini açıkladı. Ancak şimdilik hem çıkış tarihi hem de fiyatı hakkında bilgi paylaşmaktan kaçınıyor. Cihazın özellikleri göz önüne alındığında, kompakt yapay zeka donanımı alanında yeni bir rekabet döneminin kapıda olduğu şimdiden anlaşılıyor.
