Meta Perkenalkan MTIA Sebagai Infrastruktur Raksasa Berbasis AI
Versi baru MTIA ini menggandakan bandwidth komputasi dan memori lebih dari dua kali lipat dari solusi kami sebelumnya sambil tetap menjaga keterhubungan erat dengan beban kerja kami yang dirancang untuk menyajikan model peringkat dan rekomendasi secara efisien yang memberikan rekomendasi berkualitas tinggi kepada pengguna
California, SJP - Perusahaan raksasa Meta informasikan tengah bangun infrastruktur Meta berskala besar generasi berikut dengan mempertimbangkan AI.
Infrastruktur tersebut mendukung produk AI generatif baru, sistem rekomendasi, dan penelitian AI tingkat lanjut.
Dalam rilis yang dikutip dari Meta Store, perusahaan harapkan investasi ini berkembang.
“Kami memperkirakan investasi ini akan tumbuh di tahun-tahun mendatang, seiring dengan meningkatnya kebutuhan komputasi untuk mendukung model AI seiring dengan meningkatnya kecanggihan model tersebut,” begitu kutip rilis tersebut.
Tahun lalu, Meta meluncurkan Meta Training and Inference Accelerator (MTIA) v1, akselerator inferensi AI generasi pertama yang dirancang sendiri dengan mempertimbangkan beban kerja AI Meta.
MTIA v1 Ini dirancang khusus untuk model rekomendasi pembelajaran mendalam yang meningkatkan berbagai pengalaman di seluruh aplikasi dan teknologi perusahaan.
“MTIA adalah taruhan jangka panjang untuk menyediakan arsitektur paling efisien untuk beban kerja unik Meta. Ketika beban kerja AI menjadi semakin penting bagi produk dan layanan kami, efisiensi ini akan menjadi inti dari kemampuan kami untuk memberikan pengalaman terbaik bagi pengguna kami di seluruh dunia,” sebut rilis dari Meta Store.
MTIA v1 merupakan langkah penting dalam meningkatkan efisiensi komputasi infrastruktur perusahaan dan mendukung pengembang perangkat lunak perusahaan dengan lebih baik saat mereka membangun model AI yang akan memfasilitasi pengalaman pengguna yang baru dan lebih baik.
MTIA generasi berikutnya adalah bagian dari program pengembangan full-stack yang lebih luas untuk silikon khusus domain khusus yang menangani beban kerja dan sistem yang unik.
“Versi baru MTIA ini menggandakan bandwidth komputasi dan memori lebih dari dua kali lipat dari solusi kami sebelumnya sambil tetap menjaga keterhubungan erat dengan beban kerja kami yang dirancang untuk menyajikan model peringkat dan rekomendasi secara efisien yang memberikan rekomendasi berkualitas tinggi kepada pengguna,” lanjut rilis tersebut.
Arsitektur chip ini pada dasarnya berfokus pada penyediaan keseimbangan yang tepat antara komputasi, bandwidth memori, dan kapasitas memori untuk menyajikan model peringkat dan rekomendasi.
MTIA telah diterapkan di pusat data Meta dan kini melayani model dalam produksi dimana perusahaan sudah melihat hasil positif dari program ini.
Program ini memungkinkan perusahaan mendedikasikan dan berinvestasi pada lebih banyak daya komputasi untuk beban kerja AI yang lebih intensif.
Hasilnya sejauh ini menunjukkan bahwa chip MTIA ini dapat menangani model peringkat dan rekomendasi dengan kompleksitas rendah dan kompleksitas tinggi yang merupakan komponen utama produk Meta.
Meta dapat mencapai efisiensi yang lebih besar dibandingkan dengan GPU (unit pemrosesan grafis) yang tersedia secara komersial karena Meta mengontrol semua stack, .
MTIA akan menjadi bagian penting dari jalan jangka panjang perusahaan untuk membangun dan menskalakan infrastruktur yang paling kuat dan efisien untuk beban kerja AI unik Meta.
“Kami merancang silikon khusus agar dapat bekerja sama dengan infrastruktur yang ada serta perangkat keras baru yang lebih canggih (termasuk GPU generasi berikutnya) yang dapat kami manfaatkan di masa depan. Memenuhi ambisi kami untuk silikon kustom berarti berinvestasi tidak hanya pada silikon komputasi namun juga pada bandwidth memori, jaringan dan kapasitas, serta sistem perangkat keras generasi mendatang lainnya.” (**)
Sumber: Meta Store
Editor: Tri Sukma
What's Your Reaction?