İşlemci ve ekran kartı pazarının büyük isimlerinden AMD, bugün yerel LLM çalıştırmaya odaklanan açık kaynak Gaia ile dikkat çekti.
Daha düşük gecikme ve yüksek veri/bilgi güvenliği sunduğundan, yerel LLM kullanımı sürekli olarak artıyor. Bu alanda kullanıcılara artık AMD de bir alternatif sunuyor. Bugün açık kaynak yazılım Gaia ile karşımıza çıkan AMD, ONNX TurnkeyML’nin açık kaynaklı Lemonade SDK’ini kullanan yeni Windows yazılımının, özellikle XDNA NPU ve RDNA iGPU kullanan Ryzen AI PC’lerde yüksek performans sunduğunu belirtiyor. AMD işlemcilerdeki ve grafik birimlerindeki NPU’lardan tam olarak yararlanan yazılım, çok sayıda büyük dil modeline destek veriyor ve ücretsiz olarak buradan temin edilebiliyor.
[embedded content]
Yorumlar kapalı.