aihariini – Google menambah dua sistem baru, TPU 8tx dan TPU 8i Max, ke keluarga akselerator AI generasi kedelapannya. Langkah ini memperluas pilihan infrastruktur untuk menjalankan AI sekaligus memperlihatkan persaingan Google dengan Nvidia yang makin serius.

Buat perusahaan dan developer di Indonesia, perkembangan ini penting karena kebutuhan AI bukan cuma soal memilih model. Cara melindungi data, kapasitas memori, dan kemudahan menjalankan kode juga menentukan apakah sebuah sistem cocok dipakai.
Empat sistem TPU dalam satu tahun
Dengan hadirnya dua varian baru itu, Google menyebut telah mengirimkan empat sistem TPU dalam satu tahun kalender untuk pertama kalinya. TPU, atau Tensor Processing Unit, adalah akselerator khusus yang dirancang untuk menangani pekerjaan komputasi AI.
Ada perbedaan penting antara sistem baru dan chip baru. Google menegaskan bahwa TPU 8tx dan TPU 8i Max dibangun di atas silikon yang sudah ada, sehingga keduanya merupakan konfigurasi sistem baru, bukan generasi chip yang sepenuhnya baru.
Pendekatan ini memungkinkan Google menawarkan sistem dengan kegunaan berbeda dalam satu keluarga teknologi. TPU 8tx menonjolkan perlindungan data, sementara TPU 8i Max dirancang untuk pekerjaan yang membutuhkan kapasitas dan aliran memori lebih besar.
TPU 8tx menyasar pekerjaan dengan data rahasia
TPU 8tx ditujukan untuk perusahaan dan instansi pemerintah yang menangani informasi rahasia. Sistem ini mengusung confidential computing, yaitu pendekatan yang bertujuan melindungi data bahkan ketika data sedang diproses, bukan hanya saat disimpan atau dikirim.
Menurut Google, data dan bobot model tetap terlindungi serta terisolasi saat dipakai. Bobot model adalah nilai yang dipelajari AI selama pelatihan dan berperan dalam menentukan cara model menghasilkan jawaban.
Perlindungan seperti ini relevan ketika organisasi ingin memanfaatkan AI tanpa sembarangan membuka akses ke informasi sensitif. Meski begitu, keamanan tetap bergantung pada cara organisasi mengatur akses dan mengelola sistemnya secara keseluruhan.
TPU 8tx juga memakai Boardfly, jaringan berlatensi rendah buatan Google untuk real-time inference. Inference adalah tahap ketika model yang sudah dilatih dipakai untuk menghasilkan respons; Google mengklaim latensinya, atau waktu tunggu respons, bisa turun hingga dua kali lipat dibanding TPU 8t.
Satu sistem untuk menyesuaikan dan melatih AI
Google mengatakan perusahaan bisa memakai satu sistem TPU 8tx untuk beberapa jenis pekerjaan tanpa memindahkan data sensitif antar-cluster. Cluster adalah kumpulan perangkat komputasi yang bekerja bersama untuk menangani tugas tertentu.
Salah satu tugasnya adalah fine-tuning, yakni menyesuaikan model yang sudah ada dengan data atau kebutuhan tertentu. Sistem yang sama juga bisa dipakai untuk distillation, proses membuat model yang lebih kecil dengan memanfaatkan kemampuan model besar.
Selain itu, Google menyebut TPU 8tx bisa dipakai melatih AI agent lewat reinforcement learning. AI agent adalah sistem yang bisa menjalankan rangkaian tugas, sedangkan reinforcement learning adalah metode pelatihan yang memakai umpan balik untuk membantu sistem mempelajari tindakan yang diinginkan.
Bagi organisasi yang mengelola data sensitif, tidak perlu memindahkan data antar-cluster bisa menyederhanakan alur kerja. Namun, manfaatnya perlu dilihat bersama kebutuhan keamanan dan cara sistem tersebut diterapkan.
Baca Juga :
- Bos DeepMind Sebut AI Hacking sebagai Peringatan Awal
- Google Rilis Gemini 4 Argon untuk Tugas AI Kompleks
TPU 8i Max memperbesar kapasitas untuk tugas berat
Berbeda dari 8tx, TPU 8i Max menyasar hambatan memori pada pekerjaan AI yang besar. Contohnya adalah AI agent yang bekerja dengan banyak kumpulan kode berukuran besar atau sistem yang menangani video berdurasi panjang.
Memori penting karena model perlu mengakses data saat bekerja. Jika kapasitas atau kecepatan aliran datanya menjadi hambatan, kemampuan komputasi yang tersedia belum tentu bisa dimanfaatkan secara optimal.
Google menempatkan dua chip TPU 8i dalam satu package, atau kemasan fisik chip. Menurut Google, konfigurasi ini menghasilkan dua kali daya komputasi, dua kali memori, dan dua kali memory bandwidth dalam format rak yang sama.
Memory bandwidth adalah jumlah data yang bisa dipindahkan ke dan dari memori dalam periode tertentu. Google mengatakan pendekatan itu menghasilkan performa jauh lebih tinggi per meter persegi ruang pusat data, yang penting bagi operator yang harus mempertimbangkan kapasitas fisik.
Google membuka akses software dan mengejar pasar inference
Perangkat keras saja tidak cukup jika developer sulit menjalankan kode yang sudah mereka punya. Karena itu, Google merilis TorchTPU sebagai open source, atau software yang kode sumbernya terbuka, agar kode PyTorch bisa berjalan di TPU dengan perubahan minimal.
PyTorch adalah framework yang banyak dipakai untuk mengembangkan model AI. Google juga mendukung vLLM dan SGLang, dua framework populer untuk inference. Dukungan ini memberi developer lebih banyak pilihan saat menyiapkan model untuk digunakan.
Google kini menyebut memiliki hampir 100 pelanggan TPU eksternal. Perusahaan menggambarkan perluasan produknya sebagai bagian dari pergeseran dari pemakaian TPU secara internal menuju platform yang bersaing untuk pelanggan luar.
Google juga melihat fokus pasar bergeser dari training, yaitu proses melatih model yang membutuhkan komputasi besar, ke inference untuk operasi harian. Dalam pandangan Google, perubahan itu membuat chip khusus seperti TPU semakin relevan.
Apa artinya bagi pengguna dan bisnis di Indonesia?
Persaingan infrastruktur AI tidak berhenti pada Google dan Nvidia. Amazon, Microsoft, dan OpenAI juga mengembangkan akselerator sendiri, sementara Nvidia memperkuat penawaran inference melalui perjanjian perekrutan tim atau acqui-hire dan lisensi dengan Groq.
Bagi bisnis atau instansi di Indonesia, lebih banyak pilihan infrastruktur bisa menjadi alasan untuk meninjau ulang kebutuhan AI masing-masing. Mulailah dari pertanyaan praktis: apakah pekerjaanmu melibatkan data rahasia, membutuhkan memori besar, atau harus menghasilkan respons dengan waktu tunggu rendah?
Kalau kamu developer, perhatikan juga kecocokan framework dan perubahan kode yang diperlukan sebelum mempertimbangkan perpindahan platform. Klaim performa Google bisa menjadi titik awal, tetapi pilihan akhirnya tetap perlu disesuaikan dengan model, data, dan alur kerja yang ingin kamu jalankan.
