AMD Ungkap Kemampuan Gorgon Halo dengan Memori Terpadu untuk Pemrosesan AI Lokal

AMD kembali menjadi sorotan industri teknologi setelah mengungkap kemampuan Gorgon Halo, platform prosesor yang ditujukan untuk pemrosesan kecerdasan buatan secara lokal. Melalui jajaran Ryzen AI Max dan Ryzen AI Max PRO 400 Series, perusahaan memperkenalkan pendekatan komputasi yang menggabungkan CPU, GPU, NPU, serta memori terpadu berkapasitas besar. Konfigurasi tertingginya mendukung hingga 192GB RAM, dengan alokasi memori grafis mencapai 160GB untuk menangani model AI berukuran besar. Teknologi tersebut membuka peluang bagi pengembang dan perusahaan untuk menjalankan aplikasi AI tanpa selalu bergantung pada layanan cloud, sekaligus menawarkan fleksibilitas dalam mengelola data, biaya komputasi, dan kebutuhan perangkat profesional.

Inovasi Gorgon Halo Membawa Teknologi AI Berkapasitas Besar ke Komputer Pribadi

Transformasi TEKNOLOGI kecerdasan buatan menghadirkan perubahan terhadap permintaan sistem pemrosesan lokal. Melalui platform Gorgon Halo, AMD meningkatkan potensi perangkat workstation untuk memproses kecerdasan buatan secara mandiri. Arsitektur pemrosesan ini menyatukan unit pemrosesan utama, akselerasi GPU, dan unit pemrosesan neural dalam satu rancangan perangkat keras. Pendekatan pemrosesan tersebut bertujuan membantu menjalankan beban kerja kecerdasan buatan dengan pengelolaan komputasi lebih terarah. Dalam pengembangan lokal, ruang penyimpanan kerja menjadi kebutuhan mendasar. Karena itu, AMD menjadikan kapasitas RAM bersama sebagai keunggulan utama platform.

Platform Ryzen AI Max 400 Series hadir sebagai penyempurnaan dari arsitektur Ryzen AI Max sebelumnya. Kemajuan utama generasi ini adalah bertambahnya kapasitas memori. Dalam konfigurasi terdahulu, batas memori sistem berada pada 128 gigabyte. Sebagai peningkatan, kapasitas memori meningkat hingga 192GB. Peningkatan tersebut membuka kesempatan menjalankan beban lebih berat bagi sistem agen AI. Namun demikian, konfigurasi akhir tetap ditentukan produsen komputer. Karena itu, calon pembeli sebaiknya meninjau konfigurasi aktual sebelum membeli komputer untuk AI lokal.

Memori Terpadu 192GB Menjadi Keunggulan Gorgon Halo

Karakteristik yang paling menonjol Gorgon Halo adalah arsitektur unified memory yang memungkinkan CPU dan GPU mengakses kapasitas memori sistem. Berbeda dari sistem yang memakai kartu grafis terpisah, sistem terpadu tersebut memungkinkan pertukaran informasi lebih langsung antara CPU dan GPU. Nilai tambahan sistem tersebut memiliki potensi besar ketika menjalankan model AI berukuran besar. Dalam pemrosesan bahasa alami, informasi numerik model membutuhkan ruang penyimpanan kerja. Melalui dukungan memori besar, perangkat berpotensi memuat model lebih besar.

Menurut informasi perusahaan, platform terbaru dapat mengalokasikan hingga 160GB memori untuk GPU. Jumlah tersebut tidak menunjukkan adanya memori kartu grafis khusus sebesar 160GB. Dalam arsitektur terpadu, alokasi tersebut menggunakan pool RAM terpadu. Perbedaan ini perlu diperhatikan karena sistem operasi juga menggunakan RAM. Apabila kapasitas tersedia semakin terbatas, aplikasi lain mungkin mengalami kekurangan memori. Tidak kalah penting, kecepatan akses data juga memengaruhi kelancaran pemrosesan model. Karena itu, sistem yang memiliki ruang besar tetap membutuhkan kemampuan komputasi memadai.

Teknologi AMD Mendukung Inferensi Model Bahasa Besar Tanpa Cloud

Aspek menarik dari pengembangan Gorgon Halo adalah pemrosesan jaringan saraf berskala tinggi. Dalam informasi produknya, platform dengan memori maksimal dirancang mendukung model dengan lebih dari 300 miliar parameter menggunakan kompresi parameter berpresisi 4-bit. Dukungan pemrosesan ini membuka peluang baru bagi organisasi teknologi yang mengembangkan aplikasi tanpa selalu menggunakan server cloud. Walaupun kemampuan tersebut menjanjikan, kemampuan memuat parameter bukan jaminan menghasilkan token dengan latensi rendah. Performa inferensi aktual bergantung pada jumlah token konteks serta metode kompresi.

Metode kompresi bobot berperan penting dalam memungkinkan model berukuran besar berjalan. Dalam representasi numerik berukuran besar, model memerlukan alokasi RAM yang lebih tinggi. Sebagai gambaran, model 300 miliar parameter pada presisi 16-bit membutuhkan sekitar 600GB hanya untuk bobot. Apabila setiap bobot direpresentasikan dengan empat bit, ukuran dasar bobot dapat mendekati 150GB. Sebagai catatan, file model biasanya membutuhkan informasi tambahan. Di samping ukuran parameter, aplikasi AI harus menyediakan memori untuk konteks dan proses pendukung. Oleh sebab itu, pemilihan model perlu mempertimbangkan ruang memori tambahan.

Arsitektur AMD Menggabungkan Berbagai Unit Pemrosesan AI

Di samping dukungan RAM besar, Gorgon Halo mengintegrasikan prosesor berbasis AMD Zen 5, pemroses grafis Radeon RDNA 3.5, dan unit pemrosesan AI khusus berbasis XDNA 2. Rancangan pemrosesan tersebut mendukung pengelolaan komputasi berdasarkan kebutuhan aplikasi. CPU digunakan untuk mengelola berbagai proses aplikasi, sedangkan unit komputasi paralel berperan besar dalam operasi paralel. Di sisi lain, NPU dirancang untuk menjalankan aktivitas kecerdasan buatan dengan dukungan perangkat lunak. Dengan kombinasi komponen itu, sistem dapat memilih sumber komputasi sesuai kebutuhan. Walaupun seluruh komponen mendukung AI, dukungan perangkat lunak tetap menentukan penggunaan.

Untuk perangkat Gorgon Halo berkapasitas maksimal, AMD menyediakan dukungan pemrosesan utama enam belas inti, grafis terintegrasi dengan 40 unit komputasi, dan akselerator neural dengan kemampuan sampai 55 TOPS. Spesifikasi tersebut ditujukan untuk aktivitas komputasi profesional. Walaupun angka TOPS menunjukkan kapasitas teoritis, angka TOPS bukan satu-satunya penentu performa semua model bahasa. Dalam pemrosesan model besar, efisiensi memori serta runtime perlu diperhatikan secara khusus. Dengan mempertimbangkan kondisi ini, pengembang perlu memeriksa hasil benchmark pada model yang relevan, bukan sekadar membandingkan jumlah TOPS.

Benchmark Gorgon Halo Menunjukkan Potensi untuk AI Generatif

Sebagai bagian dari pengenalan Gorgon Halo, AMD menampilkan hasil benchmark internal. Evaluasi performa ini melibatkan beban kerja AI generatif seperti pembuatan gambar dan pemrosesan teks menggunakan model besar. Dalam hasil uji yang diumumkan, keunggulan performa bervariasi dari selisih performa kecil sekitar 1,1 kali hingga hasil tertentu yang mencapai 32,2 kali terhadap sistem lain yang menjadi acuan. Namun demikian, data performa merupakan klaim berdasarkan skenario perusahaan. Oleh sebab itu, angka tertinggi tidak menjamin setiap pekerjaan memperoleh percepatan serupa.

Pada sejumlah skenario benchmark, AMD menjalankan ComfyUI untuk pengujian alur kerja gambar. Pengujian turut melibatkan pendekatan kuantisasi yang disediakan Unsloth pada skenario pemrosesan model. Konfigurasi quantization turut menentukan kecepatan inferensi. Di samping pemilihan model, jumlah token masukan berpotensi mengubah latensi generasi token. Pada konteks sangat panjang, throughput mungkin berkurang meskipun model berhasil dimuat. Dengan demikian, calon pembeli perlu mencari benchmark sesuai model yang digunakan sebelum menyimpulkan keunggulan performa.

Gorgon Halo Membantu Pengembangan AI Lokal dan Sistem Agen Digital

Penerapan yang paling relevan Gorgon Halo adalah pembuatan sistem kecerdasan buatan di perangkat. Melalui platform tersebut, pengembang berpotensi menjalankan aplikasi generatif langsung pada workstation pribadi. Pendekatan ini dapat membantu eksperimen model secara lebih mandiri. Sebagai contoh, pengembang berpeluang membangun agen AI berbasis data organisasi yang menangani data pada perangkat sendiri. Meski model berjalan tanpa cloud, privasi tidak otomatis terjamin. Sistem yang digunakan mungkin memiliki koneksi jaringan, sehingga pengguna perlu memahami kebijakan aplikasi.

Selain model bahasa, Gorgon Halo juga relevan untuk pembuatan agentic workflows. Pada arsitektur agen, tugas bisa dibagi menjadi beberapa tahapan. Sebagai ilustrasi, aplikasi mungkin menganalisis dokumen proyek, kemudian menentukan langkah lanjutan berdasarkan instruksi pengguna. Memori besar dapat membantu menyimpan beberapa komponen pemrosesan. Namun demikian, aplikasi kompleks harus mempertimbangkan pengendalian konsumsi RAM. Selain itu, tindakan otomatis harus diawasi agar keputusan sistem tetap sesuai tujuan.

Kesimpulan: Teknologi Ryzen AI Max 400 Series Mendukung Komputasi AI Masa Depan

Pengungkapan kemampuan Gorgon Halo oleh AMD menunjukkan kemajuan penting dalam industri komputer berkinerja tinggi. Dengan menghadirkan kapasitas unified memory sebesar 192 gigabyte, dukungan memori GPU hingga 160GB, serta kombinasi CPU Zen 5, GPU RDNA 3.5, dan NPU XDNA 2, platform tersebut memberikan kesempatan inferensi model bahasa besar. Dukungan LLM berukuran lebih dari 300 miliar parameter menggunakan quantization 4-bit memberikan nilai penting bagi perusahaan teknologi. Walaupun spesifikasinya menjanjikan, hasil inferensi tetap perlu diuji berdasarkan dukungan perangkat lunak dan kebutuhan komputasi. Dengan mempertimbangkan berbagai faktor, calon pengguna sebaiknya memilih sistem yang seimbang antara performa dan biaya. Dari sudut pandang Anda, seberapa penting kemampuan menjalankan model besar tanpa cloud? Anda dapat berbagi pandangan mengenai pemanfaatan memori terpadu pada komputer generasi terbaru.