AI Architect Labs Rancang CPU Frostbite dari Nol, Klaim 4,59x Lebih Efisien
Architect Labs, startup asal Palo Alto, mengklaim sistem AI mereka menemukan, merancang, dan memverifikasi Frostbite, CPU serbaguna dengan instruction set baru yang dibangun dari nol. Dalam 25 beban kerja, kluster empat tile Frostbite disebut menghasilkan 4,59 kali performa per watt dibanding core CPU dual-issue in-order yang sudah terbukti di silikon.
Angka itu berasal dari desain 7nm yang disimulasikan dan belum dibuat dalam bentuk silikon. Perusahaan juga tidak bisa menyebutkan nama core pembanding karena alasan hukum. Klaim tersebut disampaikan lewat posting blog riset Architect Labs yang dikutip Tom's Hardware.
Kronologi: Dari PDF 141 Halaman ke Desain RTL
Proyek Frostbite dimulai dari apa yang disebut perusahaan sebagai "zero architectural priors"—tanpa asumsi arsitektur awal. Meski begitu, tim manusia lebih dulu memilih beban kerja yang harus ditangani dengan baik. Para agen AI kemudian membaca makalah dan benchmark, membangun model Python, lalu memilih satu konsep untuk difokuskan.
Keluaran pertama berupa PDF 141 halaman yang memuat model pemrograman, runtime, dan blok tingkat tinggi. Dokumen itu dihapus setelah desain register-transfer level (RTL) pertama dihasilkan. Alasannya, menurut tim, "banyak angka dan estimasi jauh dari yang mungkin secara fisik."
Setelah arsitektur dipilih, para agen meninggalkan bahasa Inggris karena dianggap tidak bisa menangkap setiap detail atau menemukan setiap kesalahan. Spesifikasi ditulis dalam bahasa milik perusahaan, ASL, yang diterjemahkan ke Lean, sebuah proof checker, sehingga bisa diperiksa mesin. Dari situ agen menyusun Arcmodel, model perangkat lunak seluruh chip dalam ASL, sebelum desain sirkuit ada.
Simulasi RTL lambat, jadi ide diuji pada model yang berjalan sekitar 200 kali lebih cepat. Awalnya estimasi daya model meleset hingga hampir 250%, tetapi loop otomatis menyesuaikannya sampai selisihnya dengan desain sirkuit tinggal 5%.
Pihak yang Terlibat dan Klaim Teknis Architect Labs
Architect Labs berbasis di Palo Alto dan sebelumnya memperkenalkan Redwood, akselerator inferensi AI untuk robot dan drone, pada Agustus. Untuk Redwood, perusahaan mengklaim AI-nya menghasilkan RTL, verifikasi, firmware, driver, dan kernel dalam waktu kurang dari dua minggu dari spesifikasi yang ditulis dua arsitek manusia. Redwood baru berjalan di FPGA dan belum dibuat di silikon, meski perusahaan menyatakan sedang mengupayakan produksi di TSMC.
Untuk Frostbite, kluster empat tile plus empat node L3 menjadi unit yang diuji melawan core konvensional. Tata letak penuhnya memiliki 16 tile. Desain mencapai 800 MHz pada sintesis awal, tetapi berakhir di 500 MHz pada tata letak final. Kluster itu juga rata-rata menghasilkan 8,77 kali performa per area dibanding core pembanding.
Perusahaan menyebut pendekatannya sebagai "multithreading for free." Program itu sendiri mengekspos pekerjaan paralel, tanpa thread, lock, atau perangkat keras out-of-order yang biasanya diperlukan untuk menemukan dependensi antar instruksi saat runtime.
Program Frostbite dikompilasi ke interaction nets, model komputasi dari 1990 di mana program adalah graf node dan komputasi terjadi dengan menulis ulang pasangan node yang terhubung. Pasangan yang ditulis ulang tidak pernah tumpang tindih, sehingga bisa berjalan dalam urutan apa pun atau sekaligus dengan hasil sama. Setiap nilai juga dipakai tepat sekali, sehingga data bisa tinggal di memori lokal kecil alih-alih cache bersama besar.
Data dan Metodologi: 58 Ide, 37 Dipertahankan
Setelah model Arcmodel siap, swarm agen mengusulkan perubahan secara paralel. Setiap usulan diperiksa terhadap spesifikasi, dicoba di model cepat, dibangun ke desain sirkuit, dan diukur dayanya sebelum diputuskan. Dari 58 ide yang dicoba, 37 dipertahankan.
Muncul pula perilaku yang "tidak pernah dispesifikasikan oleh manusia mana pun," yaitu work stealing: tile yang tidak punya pekerjaan bisa menarik pekerjaan dari tetangganya atau, jika tidak ada, menjadi idle untuk menghemat daya.
Berikut rincian efisiensi Frostbite berdasarkan beban kerja:
- Semua 25 beban kerja (rata-rata geometrik): 4,59x performa per watt
- 10 beban kerja untuk tuning desain: 6,02x
- 15 beban kerja yang ditahan hingga evaluasi akhir: 3,83x
- Terbaik, conv2d (held out): 23,12x
- Terburuk, Fibonacci rekursif (held out): 1,15x
Soal konsumsi energi, pada satu kluster empat tile dengan rata-rata 20 beban kerja di luar distribusi clock, memori menyumbang 57% energi core pembanding dan 38% pada Frostbite. Fetching, decoding, dan issuing instruksi turun dari 27% menjadi 6%. Jaringan on-chip dan scheduler pada Frostbite memakan 26%, sementara pada core pembanding tidak dirinci. Distribusi clock, yang tidak dimasukkan ke baris di atas, menyumbang 49% energi core pembanding dan 41% pada Frostbite.
Contoh yang diberikan tim adalah papan mirip catur 5x5 dengan lima ratu yang tidak saling menyerang. Program biasa mencari solusi satu papan demi satu. Sebagai interaction net, pencarian yang sama pecah menjadi 3.183 operasi kecil, dan rantai terpanjang yang harus berjalan berurutan hanya 262 langkah. Artinya, rata-rata sekitar 12 operasi siap berjalan bersamaan di setiap langkah, tanpa mengubah program.
Dampak dan Pesaing di Arena CPU Paralel
Klaim Frostbite masuk ke ruang yang sedang panas. Tendrils Compute, startup dari Cambridge, Inggris, menggalang dana awal bulan ini untuk prosesor yang disebut akan memiliki "ribuan core beroperasi paralel." Perusahaan itu juga mengembangkan Vine, bahasa yang sama dengan tempat program Frostbite ditulis.
Bagi industri, daya tarik utama Frostbite adalah efisiensi energi. Beban memori dan front-end instruksi yang selama ini mendominasi konsumsi daya CPU konvensional ditekan cukup dalam pada simulasi. Namun, semua angka masih pra-silikon. Tanpa chip fisik, belum ada bukti bahwa desain 500 MHz itu bisa diproduksi dengan hasil yang sama, apalagi dengan frekuensi tinggi.
Architect Labs juga belum merilis RTL maupun instruction set Frostbite. Perusahaan berencana menghadirkan "software playground" berbasis FPGA agar siapa pun bisa menjalankan program di Frostbite, bersama "sistem operasi awal." RTL dan instruction set direncanakan dirilis pada akhirnya.
Yang perlu dicatat, perbandingan resmi baru akan diperluas. Perusahaan berencana menguji lebih banyak beban kerja dan membandingkan "kumpulan CPU yang lebih luas," termasuk konfigurasi mesh Frostbite yang lebih besar melawan versi multicore dari core pembanding dengan cache besar. Mereka juga akan menguji melawan "CPU out-of-order yang lebih besar dan lebih lebar," dengan hasil dijadwalkan dalam beberapa bulan ke depan pada suite benchmark populer seperti SPEC dan PARSEC.
Langkah Selanjutnya: Menunggu Silikon dan Benchmark Terbuka
Architect Labs menyatakan lebih banyak benchmark akan datang, tetapi itu hanya sebagian dari rencana. Perusahaan ingin membuktikan bahwa pendekatan interaction nets bisa bekerja di luar simulasi. Tanpa fabrikasi, klaim 4,59x tetap menjadi hipotesis yang menunggu verifikasi.
Ada pula pertanyaan tentang generalitas. Beban kerja terbaik, conv2d, mencapai 23,12x, sementara Fibonacci rekursif hanya 1,15x. Selisih itu menunjukkan bahwa keunggulan Frostbite sangat bergantung pada jenis komputasi. Untuk beban kerja yang tidak mudah dipecah menjadi operasi paralel, gain bisa mendekati nol.
Perusahaan juga belum mengungkap nama core pembanding. Tanpa transparansi itu, komunitas riset sulit mereproduksi atau menilai klaim secara independen. Architect Labs berjanji memperluas perbandingan ke CPU yang lebih besar dan out-of-order, yang akan menjadi ujian sesungguhnya bagi arsitektur yang lahir dari agen AI ini.
Analisis Redaksi
Klaim Architect Labs layak dicatat bukan karena angka 4,59x-nya, melainkan karena metodologi yang dibuka sebagian. Mereka tidak menyembunyikan bahwa 15 beban kerja held out hanya menghasilkan 3,83x, jauh di bawah 6,02x pada 10 beban kerja yang dipakai untuk tuning. Itu menunjukkan kesadaran akan overfitting, sesuatu yang sering hilang dalam pengumuman startup chip.
Namun, ada tiga celah yang harus ditutup sebelum klaim ini bisa disebut terobosan. Pertama, desain belum dibuat di silikon, dan frekuensi final 500 MHz tergolong rendah. Kedua, core pembanding tidak dinamai, sehingga angka 4,59x tidak bisa diverifikasi pihak lain. Ketiga, hasil sangat bervariasi antar beban kerja, dari 23,12x hingga 1,15x, yang berarti Frostbite bukan pengganti universal untuk CPU konvensional.
Yang paling menarik justru prosesnya. Agen AI menulis spesifikasi dalam ASL yang bisa diperiksa Lean, membangun model perangkat lunak sebelum RTL, dan menguji 58 ide dengan loop otomatis. Itu pendekatan rekayasa yang disiplin, bukan sekadar demo. Jika RTL dan instruction set benar-benar dirilis, dan benchmark SPEC serta PARSEC menunjukkan hasil serupa, Frostbite bisa menjadi bukti bahwa desain CPU bisa dipercepat secara signifikan oleh AI. Sampai saat itu, 4,59x adalah klaim pre-silikon yang menunggu pembuktian.
Sumber: architectlabs.com
What's Your Reaction?
Like
0
Dislike
0
Love
0
Funny
0
Angry
0
Sad
0
Wow
0