AMD Ungkap Kemampuan Gorgon Halo dengan Memori Terpadu untuk Pemrosesan AI Lokal

AMD kembali menjadi sorotan industri teknologi setelah mengungkap kemampuan Gorgon Halo, platform prosesor yang ditujukan untuk pemrosesan kecerdasan buatan secara lokal. Melalui jajaran Ryzen AI Max dan Ryzen AI Max PRO 400 Series, perusahaan memperkenalkan pendekatan komputasi yang menggabungkan CPU, GPU, NPU, serta memori terpadu berkapasitas besar. Konfigurasi tertingginya mendukung hingga 192GB RAM, dengan alokasi memori grafis mencapai 160GB untuk menangani model AI berukuran besar. Teknologi tersebut membuka peluang bagi pengembang dan perusahaan untuk menjalankan aplikasi AI tanpa selalu bergantung pada layanan cloud, sekaligus menawarkan fleksibilitas dalam mengelola data, biaya komputasi, dan kebutuhan perangkat profesional.

AMD Ryzen AI Max 400 Series Membuka Peluang Baru bagi Pemrosesan AI Lokal

Transformasi TEKNOLOGI AI modern terus mendorong kebutuhan perangkat komputasi. Melalui platform Gorgon Halo, AMD meningkatkan kemampuan komputer pribadi untuk menjalankan model AI besar. Platform tersebut mengintegrasikan unit pemrosesan utama, akselerasi GPU, dan NPU khusus AI dalam platform prosesor terintegrasi. Kombinasi tersebut dikembangkan guna mendukung beban kerja kecerdasan buatan dengan pengelolaan komputasi lebih terarah. Dalam pengembangan lokal, ruang penyimpanan kerja menjadi kebutuhan mendasar. Dengan mempertimbangkan kebutuhan tersebut, AMD mengutamakan arsitektur unified memory sebagai bagian penting pengembangan.

Generasi prosesor terbaru tersebut hadir sebagai penyempurnaan dari platform Ryzen AI Max generasi terdahulu. Salah satu peningkatan penting adalah bertambahnya kapasitas memori. Pada generasi sebelumnya, batas memori sistem berada pada 128 gigabyte. Pada jajaran terbaru, kapasitas memori meningkat hingga 192GB. Peningkatan tersebut memberikan ruang lebih besar bagi sistem agen AI. Meski spesifikasinya lebih tinggi, konfigurasi akhir tetap ditentukan produsen komputer. Karena itu, calon pembeli sebaiknya meninjau konfigurasi aktual sebelum membeli komputer untuk AI lokal.

Memori Terpadu 192GB Menjadi Keunggulan Gorgon Halo

Karakteristik yang paling menonjol Gorgon Halo adalah sistem memori terpadu yang memberikan ruang kerja bersama bagi prosesor dan grafis kapasitas memori sistem. Tidak sama dengan komputer dengan GPU diskret, arsitektur tersebut tidak selalu memerlukan penyalinan data antarmemori terpisah antara unit pemrosesan yang terintegrasi. Nilai tambahan sistem tersebut memiliki potensi besar ketika menjalankan model AI berukuran besar. Dalam pemrosesan bahasa alami, bobot model harus dimuat ke memori. Melalui dukungan memori besar, perangkat berpotensi memuat model lebih besar.

AMD menjelaskan, arsitektur tersebut mendukung pembagian alokasi memori grafis mencapai 160GB. Kapasitas grafis ini bukan berarti perangkat memiliki VRAM fisik terpisah. Dalam arsitektur terpadu, alokasi tersebut menggunakan pool RAM terpadu. Karakteristik tersebut harus menjadi pertimbangan karena proses pendukung masih memerlukan alokasi memori. Jika memori hampir penuh, pengelolaan proses dapat menjadi kurang efisien. Di samping kapasitas RAM, kemampuan transfer informasi juga memengaruhi kecepatan inferensi. Karena itu, RAM besar sebaiknya didukung perangkat lunak teroptimasi.

Kemampuan Ryzen AI Max PRO 400 Series untuk Menjalankan LLM Lokal

Salah satu kemampuan yang menjadi perhatian adalah kemampuan menjalankan LLM dengan banyak parameter. Dalam informasi produknya, platform dengan memori maksimal dirancang mendukung model dengan lebih dari 300 miliar parameter menggunakan quantization 4-bit. Dukungan pemrosesan ini menjadi pencapaian menarik bagi organisasi teknologi yang ingin bereksperimen secara lokal. Namun demikian, menjalankan model tidak sama dengan menghasilkan token dengan latensi rendah. Hasil pemrosesan dalam praktik ditentukan oleh kombinasi bandwidth memori serta konfigurasi sistem.

Quantization memiliki manfaat besar dalam menyesuaikan model dengan kapasitas perangkat. Jika bobot disimpan menggunakan banyak bit, jaringan saraf menggunakan kapasitas penyimpanan kerja yang besar. Sebagai gambaran, model 300 miliar parameter pada format dua byte per parameter memiliki ukuran parameter teoritis mendekati 600GB. Ketika quantization empat bit digunakan, estimasi parameter murni menjadi sekitar 150 gigabyte. Perlu dipahami, penyimpanan bobot terkompresi memiliki overhead. Di samping ukuran parameter, sistem masih membutuhkan buffer komputasi. Karena alasan tersebut, pemilihan model perlu mempertimbangkan ruang memori tambahan.

Peran CPU Zen 5, GPU RDNA 3.5, dan NPU XDNA 2 pada Gorgon Halo

Selain memori terpadu, Gorgon Halo memadukan arsitektur CPU Zen 5, grafis RDNA 3.5, dan unit pemrosesan AI khusus berbasis XDNA 2. Perpaduan tiga komponen ini memungkinkan pembagian pekerjaan berdasarkan jenis tugas. CPU digunakan untuk mengelola sistem operasi, sedangkan unit komputasi paralel berperan besar dalam operasi paralel. Sementara itu, NPU dikembangkan guna menangani aktivitas kecerdasan buatan dengan dukungan perangkat lunak. Berkat integrasi unit pemrosesan, aplikasi memiliki peluang memanfaatkan metode pelaksanaan tugas. Meski memiliki beberapa akselerator, pemrosesan model mungkin hanya menggunakan komponen tertentu.

Dalam model Ryzen AI Max PRO 400 Series kelas atas, AMD menawarkan prosesor dengan maksimum 16 core, kapasitas pemrosesan grafis hingga 40 CU, dan unit AI berkapasitas maksimum 55 triliun operasi per detik. Kombinasi kemampuan ini dikembangkan bagi aktivitas komputasi profesional. Walaupun angka TOPS menunjukkan kapasitas teoritis, angka TOPS bukan satu-satunya penentu hasil generasi token. Dalam pemrosesan model besar, efisiensi memori serta runtime sering menjadi faktor penting. Oleh sebab itu, calon pengguna disarankan mempertimbangkan pengujian kecepatan token nyata, bukan hanya melihat angka spesifikasi.

Benchmark Gorgon Halo Menunjukkan Potensi untuk AI Generatif

Untuk memperlihatkan kemampuan platform, AMD membagikan hasil benchmark internal. Pengujian tersebut menggunakan berbagai tugas pemrosesan model seperti pemrosesan grafis berbasis AI dan pemrosesan teks menggunakan model besar. Berdasarkan presentasi perusahaan, hasil perbandingan berbeda menurut tugas dari selisih performa kecil sekitar 1,1 kali hingga 32,2 kali terhadap konfigurasi pesaing dalam pengujian. Sebagai catatan penting, hasil pengujian dilakukan dalam kondisi tertentu. Dengan mempertimbangkan sumber pengujian, hasil tersebut tidak boleh dianggap berlaku untuk semua aplikasi.

Pada sejumlah skenario benchmark, AMD menggunakan ComfyUI untuk pemrosesan gambar generatif. Pengujian turut melibatkan format quantization dari Unsloth pada beberapa pengujian inferensi. Jenis perangkat lunak pengujian berperan terhadap kecepatan inferensi. Selain itu, jumlah token masukan juga dapat memengaruhi throughput pemrosesan. Pada konteks sangat panjang, throughput mungkin berkurang meskipun model berhasil dimuat. Berdasarkan kondisi tersebut, calon pembeli perlu mencari hasil evaluasi pada pekerjaan nyata sebelum mengambil keputusan pembelian.

Manfaat Memori Besar AMD bagi Developer serta Perusahaan

Penerapan yang paling relevan Gorgon Halo adalah pembuatan sistem kecerdasan buatan di perangkat. Dengan dukungan memori terpadu, organisasi memiliki kesempatan memanfaatkan aplikasi generatif langsung pada perangkat yang dikelola sendiri. Pendekatan ini berpotensi mendukung eksperimen model secara lebih mandiri. Sebagai contoh, pengembang berpeluang membangun sistem pencarian informasi yang menggunakan informasi tanpa selalu mengirimnya ke layanan eksternal. Meski model berjalan tanpa cloud, privasi tidak otomatis terjamin. Aplikasi pendukung dapat menyediakan sinkronisasi eksternal, sehingga pengguna perlu memahami kebijakan aplikasi.

Selain model bahasa, Gorgon Halo berpotensi membantu penyusunan sistem kecerdasan buatan bertahap. Pada arsitektur agen, tugas bisa dibagi menjadi beberapa tahapan. Sebagai ilustrasi, sistem berpotensi memeriksa dokumen proyek, kemudian menghasilkan rekomendasi berdasarkan instruksi pengguna. Kapasitas RAM terpadu luas berpotensi memungkinkan pemuatan model serta data dalam satu sistem. Walaupun kapasitas memori tinggi, sistem otomatis masih memerlukan pengaturan sumber daya. Di samping kebutuhan performa, tindakan otomatis harus diawasi agar kesalahan tidak diteruskan ke tahap berikutnya.

Kesimpulan: Memori Terpadu 192GB Menjadi Nilai Penting Gorgon Halo

Pengembangan platform AI lokal generasi terbaru AMD menunjukkan kemajuan penting dalam industri komputer berkinerja tinggi. Berkat penggunaan memori terpadu hingga 192GB, dukungan memori GPU hingga 160GB, serta kombinasi CPU Zen 5, GPU RDNA 3.5, dan NPU XDNA 2, sistem Gorgon Halo menawarkan kemampuan pengolahan AI generatif. Potensi pemrosesan model sangat besar menggunakan kompresi bobot empat bit memberikan nilai penting bagi peneliti AI. Walaupun spesifikasinya menjanjikan, kecepatan model sebaiknya diperiksa berdasarkan dukungan perangkat lunak dan kebutuhan komputasi. Dengan mempertimbangkan berbagai faktor, calon pengguna sebaiknya memilih sistem yang seimbang antara performa dan biaya. Bagaimana pendapat Anda mengenai, apakah Gorgon Halo dapat menjadi pilihan utama untuk workstation AI? Mari sampaikan pengalaman Anda mengenai masa depan AI lokal.