Tümü Webekno

Kategoriler

Hakkımızda Yazarlar Ödüllerimiz Künye Gizlilik İletişim
  1. Webtekno
  2. Sektörel Haberler ve İçerikler

Groq Nedir? NVIDIA'nın 20 Milyar Dolara Satın Aldığı Yapay Zekâ Çipi LPU Hakkında Bilmeniz Gereken Her Şey

NVIDIA'nın 20 milyar dolara satın alarak bünyesine kattığı Groq, LPU mimarisiyle yapay zekâ hızında sınırları zorluyor. Eski Google mühendisleri tarafından kurulan şirketin hız rekorları kıran teknolojisini ve kuruluş hikâyesini inceliyoruz.

Groq Nedir? NVIDIA'nın 20 Milyar Dolara Satın Aldığı Yapay Zekâ Çipi LPU Hakkında Bilmeniz Gereken Her Şey

Yapay zekâ dünyasında taşlar yerinden oynamaya devam ediyor. ChatGPT gibi büyük dil modellerinin (LLM) hayatımıza girmesiyle, bu modelleri çalıştıran donanımların hızı hiç olmadığı kadar kritik hâle geldi. İşte tam bu noktada, geleneksel GPU mimarisine meydan okuyan Groq, yapay zekâ çıkarımı (inference) konusunda devrim niteliğinde bir performans sunuyor.

2016 yılında eski Google mühendislerinden oluşan bir ekip tarafından kurulan şirket, bugün teknoloji dünyasının en büyük anlaşmalarından birine konu oldu. NVIDIA'nın yaklaşık 20 milyar dolarlık nakit bedelle Groq'u bünyesine katması, yapay zekâ donanımı rekabetinde yeni bir dönemin kapısını araladı. Peki, Groq'u bu kadar değerli kılan LPU teknolojisi tam olarak nedir?

Groq nedir ve ne iş yapar?

Başlıksız-1

Groq, yapay zekâ iş yüklerini hızlandırmak için özel olarak tasarlanmış bir çip üreticisidir. Şirketin kurucusu ve CEO'su Jonathan Ross, daha önce Google'ın meşhur TPU (Tensor Processing Unit) çiplerini tasarlayan ekibin başında yer alıyordu. Groq, geleneksel ekran kartlarının (GPU) aksine, tamamen yapay zekâ modellerinin çalışma hızına odaklanan bir mimari geliştirdi.

Groq'un geliştirdiği teknoloji, özellikle metin tabanlı yapay zekâ modellerinin saniyeler içinde binlerce kelime üretmesini sağlıyor. Şirket, geliştirdiği bu yeni nesil işlemci kategorisine LPU (Language Processing Unit) adını veriyor. Bu çipler, GPU'ların aksine tahmin edilebilir bir performans sunarak gecikme sürelerini neredeyse sıfıra indiriyor.

LPU teknolojisinin GPU'dan farkları

Başlıksız-1

LPU mimarisi, yapay zekâ görevlerini gerçekleştirmek için doğrusal bir çalışma prensibi benimser. Bu durum, karmaşık LLM işlemlerinde GPU'lardan çok daha verimli ve hızlı sonuçlar alınmasını sağlar. İşte temel farklar:

Özellik Groq LPU Standart GPU
Hız (Tokens/sn) 300 – 500+ 60 – 100
Gecikme Süresi Ultra Düşük (Deterministik) Yüksek (Probabilistik)
Enerji Verimliliği %50’ye kadar daha tasarruflu Yüksek güç tüketimi
Kullanım Amacı Yapay Zekâ Çıkarım (Inference) Genel Amaçlı / Eğitim (Training)

Groq’un kuruluş hikâyesi: Google’ın kalbinden çıkan devrim

Başlıksız-1

Şirketin başarısının arkasındaki en büyük güç, kurucu ekibin derin tecrübesi. Jonathan Ross, Google'daki kariyeri boyunca yapay zekâ çiplerinin atası sayılan TPU'yu geliştiren isimlerden biriydi. 2016 yılında "inference" (çıkarım) aşamasının gelecekte en büyük ihtiyaç olacağını öngörerek Groq'u kurdu.

Groq, başlangıçta TSP (Tensor Streaming Processor) adıyla yola çıksa da daha sonra odağını dil modellerine çevirerek markasını LPU olarak güncelledi. Bugün 282 binden fazla geliştiricinin kullandığı bir platform hâline gelen Groq, NVIDIA'nın satın alma hamlesiyle birlikte artık dünya genelindeki veri merkezlerinin kalbine yerleşmeye hazırlanıyor.

Groq’un saniyeler içinde koca bir kitabı özetleyebilen hızını yapay zekânın geleceği açısından nasıl değerlendiriyorsunuz? Yorumlarda fikirlerinizi paylaşmayı unutmayın!

YORUMLAR

(0)
Yorumunuz minimum 30 karakter olmalıdır. (0)
Henüz yorum yok. İlk yorumu sen yaz!