Intel, dalam ajang Vision 2024, meluncurkan Intel Gaudi 3, sebuah akselerator AI yang dirancang untuk memberikan performa, keterbukaan, dan pilihan yang lebih luas bagi perusahaan yang ingin mengadopsi Generative AI (GenAI).
Peluncuran ini juga menandai pengumuman rangkaian sistem AI baru yang skalabel dan terbuka, produk-produk generasi berikutnya, serta kolaborasi strategis untuk mempercepat adopsi GenAI di kalangan perusahaan.
CEO Intel, Pat Gelsinger, menekankan pentingnya inovasi teknologi silikon dalam mendorong pertumbuhan pesat AI dan kebutuhan setiap perusahaan untuk menjadi perusahaan berbasis AI. Intel berkomitmen untuk menghadirkan solusi AI yang komprehensif, mulai dari PC hingga data center dan edge, memanfaatkan platform Gaudi, Xeon, dan Core Ultra.
Hanya 10% perusahaan besar yang berhasil mengubah proyek GenAI menjadi produk tahun lalu. Tantangan utama yang dihadapi perusahaan termasuk kompleksitas implementasi, fragmentasi solusi, keamanan data, dan kepatuhan regulasi. Intel Gaudi 3 hadir sebagai solusi yang siap digunakan, menawarkan performa tinggi dan efisiensi energi yang hemat biaya.
Gaudi 3: Keunggulan untuk Pelatihan dan Inferensi AI
Intel Gaudi 3 dirancang untuk sistem AI dengan puluhan akselerator yang terhubung melalui Ethernet standar. Kemampuan komputasi AI-nya empat kali lebih baik untuk BF16 dan bandwidth memori 1,5 kali lebih tinggi dibanding pendahulunya.
Dibandingkan dengan Nvidia H100, proyeksi menunjukkan Gaudi 3 mampu melatih model Llama2 (7B dan 13B parameter) hingga 50% lebih cepat, dan model GPT-3 175B parameter juga lebih cepat. Untuk inferensi, Gaudi 3 diproyeksikan mengungguli H100 sebesar 50% dan 40% untuk efisiensi daya pada model Llama 7B dan 70B, serta model Falcon 180B parameter.
Software Gaudi 3 berbasis komunitas terbuka dan menggunakan Ethernet standar industri. Skalabilitasnya memungkinkan peningkatan fleksibel dari single node hingga mega-cluster dengan ribuan node, mendukung inferensi, fine-tuning, dan pelatihan skala besar. Ketersediaan Gaudi 3 untuk OEM seperti Dell, HPE, Lenovo, dan Supermicro dijadwalkan pada kuartal kedua 2024.
Menciptakan Nilai dengan Solusi Intel AI
Strategi Intel untuk sistem AI yang terbuka dan skalabel mencakup hardware, software, framework, dan tools. Pendekatan ini mendorong ekosistem AI terbuka yang luas, menawarkan berbagai solusi sesuai kebutuhan spesifik GenAI perusahaan. Hal ini juga memungkinkan perusahaan untuk memanfaatkan mitra dan solusi ekosistem yang sudah mereka kenal.
Beberapa perusahaan telah bermitra dengan Intel untuk berbagai penerapan GenAI, termasuk NAVER (pengembangan LLM), Bosch (smart manufacturing), IBM (Watsonx), Ola/Krutrim (model fondasional India), NielsenIQ (peningkatan layanan pelanggan), dan banyak lagi. Kerjasama ini menunjukkan adopsi yang luas dari akselerator Gaudi dalam berbagai sektor industri.
Intel juga berkolaborasi dengan Google Cloud, Thales, dan Cohesity untuk memanfaatkan Intel Confidential Computing dalam solusi cloud mereka. Teknologi ini, termasuk Intel TDX, Intel SGX, dan layanan verifikasi Intel, memungkinkan pelanggan menjalankan model dan algoritma AI dalam lingkungan yang aman dan terpercaya.
Ekosistem Terbuka untuk Enterprise AI
Intel berkolaborasi dengan berbagai perusahaan seperti Anyscale, Articul8, DataStax, dan lainnya untuk menciptakan platform terbuka untuk enterprise AI. Tujuannya adalah mengembangkan sistem GenAI multi-vendor yang mudah diimplementasikan, berperformansi tinggi, dan bernilai terbaik di kelasnya, didukung oleh retrieval-augmented generation (RAG).
RAG memungkinkan integrasi sumber data besar proprietary dengan LLM terbuka, mempercepat penerapan GenAI di perusahaan. Intel akan merilis implementasi acuan untuk GenAI pipeline, mempublikasikan kerangka kerja konseptual, dan memperluas kapasitas Intel Tiber Developer Cloud untuk pengembangan ekosistem dan validasi RAG.
Inisiatif ini mendorong partisipasi ekosistem yang lebih luas untuk memfasilitasi adopsi AI terbuka perusahaan, memperluas jangkauan solusi, dan mempercepat hasil bisnis.
Roadmap AI Intel yang Diperluas
Selain Gaudi 3, Intel juga memperkenalkan prosesor Intel Xeon 6 generasi berikutnya untuk data center, cloud, dan edge. Prosesor Xeon 6 dengan E-core (Sierra Forest) akan menawarkan peningkatan kinerja per watt dan densitas rak, sementara prosesor Xeon 6 dengan P-core (Granite Rapids) akan mendukung format data MXFP4, mengurangi latency dan memungkinkan pemrosesan model besar seperti Llama-2.
Intel juga mengumumkan momentum untuk client dan pembaruan roadmap untuk edge dan konektivitas. Prosesor Intel Core Ultra akan mendukung kemampuan AI baru di PC, dengan proyeksi pengiriman 40 juta AI PC pada 2024. Produk silikon edge terbaru dan solusi konektivitas Ethernet yang dioptimalkan untuk AI fabrics juga diumumkan.
Intel Tiber, portofolio solusi bisnis terpadu, akan menyederhanakan penerapan software dan layanan enterprise, termasuk untuk GenAI. Pengalaman terpadu ini akan memudahkan pelanggan dan pengembang untuk menemukan solusi yang sesuai, mempercepat inovasi dan menciptakan nilai tanpa mengorbankan keamanan, kepatuhan, atau kinerja.
Kesimpulannya, pengumuman Intel di Vision 2024 menunjukkan komitmen perusahaan untuk membuat AI mudah diakses, terbuka, dan aman bagi perusahaan di seluruh dunia. Dengan solusi dan kolaborasi yang luas, Intel siap memimpin revolusi AI dan menciptakan nilai yang belum pernah ada sebelumnya.
