Platform Meta akan menerapkan chip khusus internal tahun ini untuk mendukung penggerak AI – memo

Platform Meta akan menerapkan chip khusus internal tahun ini untuk mendukung penggerak AI – memo

Road.co.id

Pemilik Facebook, Meta Platforms, berencana untuk menyebarkan ke pusat datanya tahun ini versi baru dari chip khusus yang bertujuan untuk mendukung dorongan kecerdasan buatan (AI), menurut dokumen internal perusahaan yang dilihat oleh Reuters pada hari Kamis.

Chip tersebut, merupakan generasi kedua dari lini silikon internal yang diumumkan Meta tahun lalu, dapat membantu mengurangi ketergantungan Meta pada chip Nvidia yang mendominasi pasar dan mengendalikan biaya yang meningkat terkait dengan menjalankan beban kerja AI saat mereka berlomba meluncurkan produk AI.

Perusahaan media sosial terbesar di dunia ini berupaya meningkatkan kapasitas komputasinya untuk produk-produk AI generatif yang haus daya dan mendorongnya ke dalam aplikasi Facebook, Instagram, dan WhatsApp, serta perangkat keras seperti kacamata pintar Ray-Ban, dan menghabiskan miliaran dolar untuk mengumpulkan gudang senjata. chip khusus dan mengkonfigurasi ulang pusat data untuk mengakomodasi mereka.

Kami ada di Saluran WhatsApp. Klik untuk bergabung.

Pada skala operasional Meta, keberhasilan penerapan chipnya berpotensi mengurangi ratusan juta dolar biaya energi tahunan dan miliaran biaya pembelian chip, menurut Dylan Patel, pendiri kelompok riset silikon SemiAnalysis.

Chip, infrastruktur, dan energi yang dibutuhkan untuk menjalankan aplikasi AI telah menjadi investasi besar bagi perusahaan-perusahaan teknologi, hingga pada tingkat tertentu mengimbangi keuntungan yang diperoleh dari tingginya antusiasme terhadap teknologi.

Seorang juru bicara Meta mengkonfirmasi rencana untuk memasukkan chip yang diperbarui ke dalam produksi pada tahun 2024, dengan mengatakan bahwa chip tersebut akan bekerja dalam koordinasi dengan ratusan ribu unit pemrosesan grafis (GPU) yang tersedia – chip andalan untuk AI – perusahaan. sedang membeli.

“Kami melihat akselerator yang kami kembangkan secara internal menjadi pelengkap bagi GPU yang tersedia secara komersial dalam memberikan perpaduan optimal antara kinerja dan efisiensi pada beban kerja spesifik Meta,” kata juru bicara tersebut dalam sebuah pernyataan.

CEO Meta Mark Zuckerberg bulan lalu mengatakan perusahaannya berencana memiliki sekitar 350.000 prosesor andalan “H100” dari Nvidia pada akhir tahun ini, yang menghasilkan GPU paling dicari yang digunakan untuk AI. Jika digabungkan dengan pemasok lain, Meta akan mengakumulasi kapasitas komputasi yang setara dengan total 600.000 H100, katanya.

Penerapan chipnya sendiri sebagai bagian dari rencana tersebut merupakan perubahan positif bagi proyek silikon AI internal Meta, setelah keputusan para eksekutif pada tahun 2022 untuk menghentikan iterasi pertama chip tersebut.

Perusahaan tersebut malah memilih untuk membeli GPU Nvidia senilai miliaran dolar, yang hampir memonopoli proses AI yang disebut pelatihan yang melibatkan memasukkan kumpulan data yang sangat besar ke dalam model untuk mengajari mereka cara melakukan tugas.

Chip baru, yang secara internal disebut sebagai “Artemis”, seperti pendahulunya, hanya dapat melakukan proses yang dikenal sebagai inferensi, di mana model diminta menggunakan algoritmanya untuk membuat penilaian peringkat dan menghasilkan respons terhadap permintaan pengguna.

Reuters tahun lalu melaporkan bahwa Meta juga sedang mengerjakan chip yang lebih ambisius, seperti GPU, yang mampu melakukan pelatihan dan inferensi.

Perusahaan yang berbasis di Menlo Park, California berbagi rincian tentang program Meta Training and Inference Accelerator (MTIA) generasi pertama tahun lalu. Pengumuman tersebut menggambarkan versi chip tersebut sebagai peluang pembelajaran.

Meskipun ada kendala awal, chip inferensi bisa jauh lebih efisien dalam mengerjakan model rekomendasi Meta dibandingkan prosesor Nvidia yang haus energi, menurut Patel.

“Ada banyak uang dan tenaga yang dikeluarkan yang bisa dihemat,” katanya.

Baca juga berita utama lainnya hari ini:

Facebook berusia 20 tahun! Didirikan pada tahun 2004 oleh Mark Zuckerberg dan tiga temannya, platform media sosial ini memiliki 3 miliar pengguna bulanan. Perusahaan ini terus memperluas dan berinvestasi dalam inovasi seperti kecerdasan buatan dan realitas virtual. Cari tahu lebih lanjut di sini.

Bisakah AI menggantikan Pengendali Lalu Lintas Udara? ATC memainkan peran penting dalam mencegah tabrakan dan memastikan arus lalu lintas udara yang aman. Meskipun teknologi dapat mengotomatisasi aspek-aspek tertentu, manusia kemungkinan besar akan tetap diperlukan untuk jangka waktu yang lama. Periksa alasannya di sini.

Robot putih mengajukan pertanyaan! Robot sosial memiliki tubuh fisik yang meniru versi manusia atau hewan yang tidak mengancam dan dirancang untuk berinteraksi dengan manusia. Lalu kenapa warnanya putih? Menyelam di sini.

You might also like