Kabar baik bagi pengembang AI dan penggemar teknologi: Nvidia baru saja memperkenalkan Jetson Orin Nano Super, komputer mini bertenaga AI dengan performa tinggi dan harga lebih terjangkau, yakni $249. Produk ini menawarkan peningkatan signifikan dibandingkan pendahulunya, dengan performa 70% lebih tinggi yang mencapai 67 triliun operasi per detik untuk tugas-tugas AI.

Jetson Orin Nano Super didesain untuk mendukung pengembangan robot, drone, kamera pintar, dan perangkat lainnya yang membutuhkan kemampuan komputasi AI. Dibekali GPU berbasis arsitektur Ampere dan prosesor ARM enam inti, perangkat ini mampu menjalankan beberapa aplikasi AI sekaligus, seperti chatbot, pengenalan objek, pemetaan lingkungan, dan perintah suara, dengan konsumsi daya rendah antara 7 hingga 25 watt.

Peningkatan lain termasuk bandwidth memori yang kini mencapai 102 GB/s—50% lebih cepat dibandingkan generasi sebelumnya. Ini memungkinkan perangkat untuk memproses model AI yang lebih kompleks dan menangani data dari hingga empat kamera secara bersamaan.

CEO Nvidia, Jensen Huang, menyebut perangkat ini sebagai "Jetson Nano Super yang benar-benar baru" dalam video peluncurannya. Dengan kemampuan hampir setara dengan server AI kelas atas seperti HGX, Jetson Orin Nano Super bahkan bisa menjalankan model bahasa besar (LLMs) seperti Llama 3.1 dengan kapasitas hingga 8 miliar parameter.

Meskipun terlihat sederhana dengan hanya 1.024 CUDA cores, Jetson Orin Nano Super dioptimalkan untuk efisiensi AI di edge, bukan untuk gaming. Dengan daya yang jauh lebih rendah dibandingkan GPU gaming seperti RTX 2060 atau RTX 4060, perangkat ini mampu menjalankan model AI lokal seperti Flux atau Stable Diffusion tanpa mengalami kendala memori yang sering terjadi pada GPU konvensional.

Perangkat ini juga menawarkan kecepatan pengolahan token sekitar 18-20 per detik untuk model bahasa besar yang sudah dioptimalkan. Walaupun tidak secepat server AI kelas atas, kemampuan ini cukup untuk aplikasi lokal yang hemat biaya dan energi.

Jetson Orin Nano Super dirancang untuk pengembang dan penggemar teknologi yang ingin memulai prototipe atau mengembangkan aplikasi AI skala kecil. Dengan harga yang terjangkau dan efisiensi daya yang tinggi, perangkat ini menjadi solusi ideal untuk proyek seperti robotika, kamera pintar, atau chatbot lokal. Namun, untuk kebutuhan komputasi besar atau aplikasi bisnis yang kompleks, perangkat ini mungkin terasa kurang memadai dibandingkan sistem kelas atas yang lebih mahal.