Sam Altman, Youtube’da Cheeky Pint programında John Collison ile yaptığı söyleşide, yapay zekanın donanım ihtiyacı ve bellek tedarikindeki sıkışıklık hakkında konuştu. OpenAI CEO’sunun kişisel bilgisayarlardaki RAM’e ilişkin değerlendirmesi, açık modellerin kullanıcıların kendi cihazlarında çalıştırılması gündeme geldiğinde ortaya çıktı. Altman, bu yaklaşımın veri merkezlerine duyulan ihtiyacı ortadan kaldıracağı düşüncesine karşı çıkarak konuyu dünyadaki sınırlı DRAM kapasitesinin nasıl dağıtıldığı üzerinden ele aldı.
ALTMAN’IN İTİRAZI DÜŞÜK KULLANIM ORANINA
Altman’a göre herkesin kendi bilgisayarında önemli miktarda bellek bulundurması, bu donanımın kullanım zamanı az olduğunda küresel kaynak dağılımı açısından verimsiz bir tablo oluşturuyor. Altman’a göre kişisel bilgisayarlardaki belleklerin çoğunluğu günün büyük bölümünde hiç kullanılmıyor ve bu da önemli bir kaynak israfına yol açıyor.
Söyleşide yüzde 5 kullanım örneğini veren Altman, arzın kısıtlı olduğu koşullarda bulut altyapısındaki kullanım oranının en üst düzeye çıkarılması gerektiğini belirtti. Buradaki yüzde 5 ifadesi, bilgisayarda takılı RAM kapasitesinin yalnızca yüzde 5’inin dolduğu anlamında değil, belleğin kullanımda kaldığı süreyi anlatıyor.
YEREL YAPAY ZEKA İLE BULUT ARASINDAKİ FARK
Yerel yapay zeka kullanımında modelin çalışması için gereken hesaplama işlemleri kullanıcının bilgisayarında gerçekleştiriliyor. Modelin boyutuna ve kullanılan yönteme göre sistem belleği veya ekran kartı belleği bu iş için ayrılıyor. Bulut yaklaşımında ise kullanıcı isteğini uzaktaki sunuculara iletiyor ve işlem sonucunu internet üzerinden alıyor. Altman’ın savunduğu kaynak paylaşımı mantığında, farklı zamanlarda gelen kullanıcı taleplerinin ortak altyapıda karşılanması, donanımın daha uzun süre iş üretmesini sağlıyor.
Ancak kişisel bilgisayarlardaki bellekler yalnızca yapay zeka için kullanılmıyor. RAM’in oyunlardan internet kullanımına, elektronik tablolardan diğer uygulamalara kadar farklı görevlerde kullanılıyor.
BELLEK ÜRETİCİLERİ YENİ YATIRIMLARDA TEMKİNLİ
Söyleşinin bellek açıklamasından önceki bölümünde, yükselen fiyatların neden hızla yeni üretim kapasitesi yaratmadığı da ele alındı. Altman, DRAM üreticilerinin geçmişte büyük yatırımlara rağmen düşük getirilerle ve sert piyasa dalgalanmalarıyla karşılaştığını söyledi. Üreticiler, fazla fabrika kurdukları dönemlerde yaşadıkları mali sıkıntıları hatırlıyor ve bu deneyim, bugünkü güçlü talebe rağmen sermaye harcamalarında temkinli davranmalarına yol açıyor.
Yorumlar
Henüz bu habere yorum yapılmamış.
İlk yorum yapan siz olun!