Ingin melihat ini terjadi juga. Tetapi dalam praktiknya, saya tidak yakin bagaimana menerapkan sesuatu seperti ini. Apakah pemerintah fed hanya mensubsidi biaya untuk laboratorium terbuka untuk mengakuisisi perangkat keras ini? Ini akan menjadi subsidi berkelanjutan (perlu perangkat keras baru sering sekarang), dan bagaimana memilih laboratorium mana yang mendapatkan subsidi? Matematika serbet untuk 10K H200 mungkin di utara $300 juta jika kita menggunakan asumsi sederhana ~$30K per H200. Dan ini hanya akuisisi perangkat keras GPU. Anda membutuhkan tempat untuk menjalankannya bersama dengan opex untuk memeliharanya. Jika Anda memaksa pemilik komputasi yang ada untuk mengukir sejumlah pasokan mereka untuk diberikan ke laboratorium ini, mereka juga memerlukan beberapa bentuk subsidi. Sebagian besar perusahaan ini mengatakan bahwa mereka juga terkendala pasokan saat ini. Bagaimanapun, sepertinya kita sedang menuju penciptaan paradigma komputasi baru. Paradigma sejauh ini berkisar pada peningkatan komputasi yang ditempatkan bersama. Tidak diragukan lagi, masih akan ada pembangunan pusat data seukuran Manhattan di AS dan di tempat lain. Tapi, akan ada juga pulau komputasi yang lebih kecil dengan berbagai ukuran, yang terhubung dengan serat dll. Ketika ini adalah kendala baru/standar dan keterbatasan mendasar, itu akan mendorong komunitas penelitian AI yang lebih luas ke arah baru yang belum dijelajahi. Dampak hilir dari ini dapat berarti perbedaan besar dan berkembang antara penelitian, arsitektur model, ekonomi, dll yang dihasilkan antara laboratorium AI tertutup terbesar (yang bekerja dengan pusat data tunggal yang sangat besar) dan mereka (kemungkinan akademisi dan perusahaan AI terdesentralisasi) yang menggunakan kluster komputasi yang lebih terdistribusi (yaitu, pulau komputasi kecil tetapi banyak). Tidak jelas bagaimana hasilnya untuk kedua belah pihak (dan pada akhirnya, konsumen model yang diproduksi oleh masing-masing), tetapi sepertinya arah hal-hal yang sedang dituju. Anda bahkan bisa berpendapat bahwa kami telah melihat sekilas tentang ini. Laboratorium Cina memiliki batasan komputasi yang berbeda secara fundamental daripada OpenAI misalnya. Laboratorium Tiongkok ini harus berinovasi dalam teknik pelatihan/inferensi karena ini. Bukan analogi yang sempurna, tetapi mungkin dapat membantu menjelaskan seperti apa "langkah-langkah kecil" menuju paradigma baru, dan seiring waktu, langkah-langkah kecil ini bertambah dan menghasilkan sesuatu yang terlihat/berfungsi sangat berbeda dari apa yang dihasilkan jalan lain.