review1st.com – Intel, dalam acara konferensi pelanggan dan mitra Intel Vision 2024, memperkenalkan accelerator Intel Gaudi 3 yang menyediakan performa, keterbukaan, dan pilihan untuk enterprise yang menggunakan kecerdasan buatan (AI) generative (GenAI).
Intel juga mengumumkan serangkaian sistem AI baru yang scalable dan terbuka, produk generasi berikutnya, dan kemitraan strategis untuk mempercepat adopsi GenAI.
Dengan hanya 10% perusahaan skala enterprise yang berhasil mengubah proyek-proyek GenAI menjadi produk pada tahun sebelumnya, solusi terbaru dari Intel ini menanggapi berbagai tantangan yang dihadapi perusahaan-perusahaan dalam meningkatkan inisiatif AI mereka.
“Inovasi terus berkembang dengan cepat, didorong oleh teknologi silikon, dan setiap perusahaan dengan cepat menjadi perusahaan AI,” kata CEO Intel, Pat Gelsinger. “Intel membawa AI ke seluruh lingkungan bisnis, dari PC hingga pusat data dan edge.
Platform Gaudi, Xeon, dan Core Ultra kami menghadirkan rangkaian solusi yang kohesif dan fleksibel, dirancang khusus untuk memenuhi kebutuhan yang terus berubah dari pelanggan dan mitra kami serta memanfaatkan peluang besar yang ada di depan mata.”
Banyak perusahaan berusaha untuk mengembangkan GenAI dari uji coba menjadi produk. Untuk itu, mereka membutuhkan solusi-solusi siap pakai yang dibangun dengan prosesor berkinerja tinggi, hemat energi, dan hemat biaya seperti Intel Gaudi 3 AI accelerator. Solusi ini juga harus mampu mengatasi kompleksitas, fragmentasi, keamanan data, dan kepatuhan terhadap peraturan.
Mengenalkan Gaudi 3 untuk Pelatihan dan Inferensi AI
Intel Gaudi 3 AI accelerator akan menjadi kekuatan utama bagi sistem-sistem AI yang menggunakan puluhan accelerator yang terhubung melalui Ethernet standar. Gaudi 3 menjanjikan kemampuan komputasi AI empat kali lipat untuk BF16 dan peningkatan bandwidth memori sebesar 1.5 kali lipat dibandingkan produk pendahulunya.
Akselerator ini akan memberikan lompatan signifikan dalam pelatihan dan inferensi AI bagi perusahaan-perusahaan global yang ingin menerapkan GenAI dalam skala besar.
Dibandingkan dengan Nvidia H100, Intel Gaudi 3 secara rata-rata diproyeksikan bisa melakukan pelatihan 50% lebih cepat dalam model-model Llama dengan parameter 7B dan 13B, serta model parameter GPT-3 175B.
Selain itu, throughput inferensi Intel Gaudi 3 accelerator secara rata-rata diproyeksikan akan mengungguli H100 sebesar 50% dan 40% untuk efisiensi daya inferensi dalam parameter Llama 7B dan 70B, serta model-model parameter Falcon 180B.
Intel Gaudi 3 menyediakan software terbuka berbasis komunitas dan jaringan Ethernet standar industri. Ini juga memungkinkan perusahaan untuk melakukan peningkatan dari single node ke cluster, super-cluster, dan mega-cluster dengan ribuan node, mendukung inferensi, fine-tuning, dan pelatihan dalam skala besar.
Intel Gaudi 3 akan tersedia bagi para OEM seperti Dell Technologies, HPE, Lenovo, dan Supermicro pada kuartal kedua 2024.
Menciptakan Nilai untuk Pelanggan dengan Solusi AI Intel
Intel menegaskan strateginya untuk sistem AI yang terbuka dan scalable, mencakup hardware, software, kerangka kerja, dan tools. Pendekatan ini memungkinkan ekosistem pemain AI untuk menawarkan berbagai solusi yang memenuhi kebutuhan GenAI enterprise.
Strategi ini juga memungkinkan berbagai perusahaan untuk menggunakan mitra dan solusi ekosistem yang sudah mereka kenal dan percayai.
Intel membagikan momentum yang luas kepada pelanggan dan mitra enterprise di seluruh industri untuk menerapkan solusi-solusi Intel Gaudi accelerator untuk aplikasi-aplikasi generative AI baru dan inovatif.
Intel juga mengumumkan kolaborasi dengan Google Cloud, Thales, dan Cohesity untuk memanfaatkan kemampuan Intel confidential computing dalam solusi-solusi cloud mereka.
Melalui kerjasama dengan Anyscale, Articul8, DataStax, Domino, Hugging Face, KX Systems, MariaDB, MinIO, Qdrant, Red Hat, Redis, SAP, VMware, Yellowbrick, dan Zilliz, Intel mengumumkan keinginan untuk menciptakan sebuah platform terbuka untuk enterprise AI.
Intel juga mengumumkan portofolio solusi bisnis Intel Tiber untuk menyederhanakan penerapan software dan layanan enterprise, termasuk untuk GenAI.
Pengumuman ini menegaskan komitmen Intel untuk membuat AI mudah diakses, terbuka, dan aman bagi berbagai perusahaan di seluruh dunia. Dengan berbagai solusi dan kolaborasi ini, Intel siap
memimpin dalam revolusi AI, menciptakan nilai yang belum pernah ada sebelumnya bagi perusahaan-perusahaan di mana saja.
