Amazon, Nvidia'nın en büyük avantajının peşine düştü: TorchNeuron aracı yapay zekâ uygulamalarını tek satır değiştirerek Trainium çiplerine taşıyor

Yapay zekâ yarışını azıcık takip eden herkes, Nvidia'nın sadece hızlı grafik çipleri sayesinde standart hâline gelmediğini bilir. Konumunu, yıllardır PyTorch ile yazılmış uygulamaların kendi donanımında neredeyse kendiliğinden çalışmasını sağlayan CUDA yazılımı da ayakta tutuyor. Amazon Web Services de tam oraya, pazartesi tanıttığı yeni TorchNeuron aracıyla vuruyor.

Vaat basit: PyTorch ile yazılmış bir yapay zekâ uygulaması, kod yeniden yazılmadan, tek bir yapılandırma satırı değiştirilerek Amazon'un Trainium çipine taşınabilecek. En azından şirket böyle iddia ediyor. Amazon'a göre yapay zekâ uygulamalarının yaklaşık yüzde 85'i, Facebook'un yarattığı ve 2022'den beri Linux Foundation'ın bakımını üstlendiği açık kaynaklı araç PyTorch ile yazılmış. Söz konusu olan pazarın küçük bir köşesi değil, çoğunluğu.

Bunu deneyen ilk şirket Amazon değil. PyTorch uygulamaları benzer bir değişiklikle zaten AMD'nin grafik çiplerine, hatta Apple'ın çiplerine taşınabiliyor. Amazon'un fark olarak sattığı şey, çipin etrafındaki bulut. Şirket, bunun girişimler için çoğu Nvidia'ya ve donanımına bağlı olan CoreWeave, Nebius ve Firmus gibi sözde neobulutlardan daha iyi bir seçim olduğunu savunuyor.

"AWS üzerinde inşa edersiniz. Tek amaçlı bir işlem gücü sağlayıcısına bahse girip sonra geri kalan her şeyi onun etrafına kurmak için uğraşmazsınız," dedi Amazon'un kendi çiplerini üreten birim AWS Annapurna Labs'in teknoloji yazılımından sorumlu başkan yardımcısı Colin Brace. Fiyat argümanı göründüğünden daha temkinli: AWS token başına en düşük fiyatı sunduğunu iddia etmiyor, tasarrufun aynı çipin hem eğitim hem de hazır modeli çalıştırmak için kullanılmasından geldiğini söylüyor. Kanıt olarak sesli yapay zekâda ElevenLabs'in rakibi Deepgram'i gösteriyor; şirket geçişin ardından her dolar başına yüzde 70 daha fazla ses işlemiş.

Daha büyük hamle başka. Amazon, çerçeveyi belirli çiplere bağlayan kodu temizlemek için doğrudan PyTorch'a değişiklikler göndereceğini duyuruyor. Şirket bunu sadece Trainium kullanıcılarına değil, tüm geliştirici topluluğuna bir hizmet olarak sunuyor. Ama bir çip satıcısı, çoğunluğun kullandığı araçtaki Nvidia bağımlılıklarını temizlediğinde saf bir fedakârlığa inanmak zor. PyTorch'un amacı zaten donanım dertlerini gizlemekti. Geliştiricilerin daha fazla seçenek ve daha ucuz alternatifler mi, yoksa sadece yeni bir yapılandırma baş ağrısı mı elde edeceğini göreceğiz.

Brace lafı dolandırmadı: "Asıl hikâye, geliştiricilerin hiçbir gerçek seçeneğe sahip olmasını engelleyen bağımlılığın ortadan kaldırılması." Amazon, PyTorch'u Nvidia'dan derinlemesine ayırmayı başarırsa, bunun dev şirket için sonuçları bir rakip çipten çok daha büyük olacak. Üsküp'ten ya da Belgrad'dan daha küçük bir girişim için soru pratik: Sonunda daha az mı ödeyecek, yoksa sadece patron mu değiştirecek?