CEO Nvidia Jensen Huang. Foto: Reuters . |
Karena terbiasa dengan ketakutan akan "dihancurkan" oleh Nvidia, banyak perusahaan AI kecil secara proaktif membongkar teknologi lama sebelum pesaing yang lebih besar bergerak. Ini juga cara Tuhin Srivastava, salah satu pendiri platform inferensi AI Baseten, mempersiapkan diri untuk merespons ketika Nvidia meluncurkan platform barunya.
"Dalam AI, Anda harus membakar jembatan. Kami belum membakarnya, tetapi kami sudah membeli minyak tanahnya," kata Srivastava kepada Business Insider .
Kisah ini bermula awal tahun ini ketika tim Srivastava sedang mengerjakan model penalaran DeepSeek R1. Implementasi tersebut mengalami kesulitan karena hambatan dalam proses penalaran AI, yang mengakibatkan respons yang lambat dan tidak efisien kepada klien.
Meskipun Baseten memiliki akses ke chip Nvidia H200—chip tercanggih pada saat itu—perangkat lunak Triton Inference Server yang menyertainya tidak mampu menangani permintaan inferensi yang kompleks dengan baik. Baseten terpaksa membangun perangkat lunaknya sendiri untuk mengoptimalkan proses tersebut.
Maret lalu, CEO Nvidia Jensen Huang memperkenalkan Dynamo, platform inferensi sumber terbuka yang mengoptimalkan proses inferensi pada chip Nvidia. Huang menggambarkan Dynamo sebagai "sistem operasi pabrik AI."
![]() |
Jensen Huang berbicara di Konferensi Teknologi GPU Nvidia (GTC) di SAP Center di San Jose, California, AS. Foto: Reuters |
Dengan diluncurkannya Dynamo, Srivastava tahu bahwa platform Baseten sendiri akan segera terlampaui. Dia memperkirakan perusahaannya akan membutuhkan waktu beberapa bulan untuk beralih ke sistem baru tersebut.
"Saya sudah siap secara mental untuk ini," katanya.
Bukan hanya Nvidia; seluruh industri pembelajaran mesin berkembang dengan sangat pesat. Model AI menjadi semakin kompleks, membutuhkan daya komputasi yang lebih besar, tetapi juga dengan cepat menjadi usang karena para insinyur menemukan algoritma yang lebih optimal.
"Anda tidak bisa terus-menerus berpegang pada satu kerangka kerja atau cara melakukan sesuatu," komentar Karl Mozurkewich, kepala arsitek di perusahaan komputasi awan Valdi.
Menurut Brown, seorang YouTuber dan pengembang AI, AI telah mengubah hal-hal yang dulunya dianggap "tak terkalahkan" oleh industri teknologi menjadi hal-hal yang "mudah dibuang."
Brown menceritakan bahwa saat bekerja sebagai insinyur di Twitch, ia menghadapi penentangan sengit ketika ia mengusulkan penulisan ulang proyek tersebut alih-alih membangun di atas fondasi lama. "Saya harus belajar bertindak cepat sebelum ada yang bisa menghentikan saya," katanya.
Inilah juga alasan mengapa startup AI seringkali lebih gesit daripada perusahaan besar, yang dibatasi oleh proses usang dan biaya investasi.
Quinn Slack, CEO dari platform pengkodean AI Sourcegraph, menyatakan bahwa sekitar 80% perusahaan Fortune 500 menyadari bahwa platform AI pertama mereka perlu diubah setelah hanya satu pertemuan selama satu jam.
Namun, tidak semua orang memilih untuk "membakar jembatan".
Ben Miller, CEO dari platform investasi real estat Fundrise, sedang membangun produk AI baru untuk industrinya. Dia percaya bahwa jika model saat ini cukup baik, perusahaan tidak akan terburu-buru untuk beralih ke sesuatu yang baru.
"Saya tetap menggunakan apa yang berhasil selama mungkin," kata Miller, menambahkan bahwa sebagian alasannya adalah karena ia menjalankan organisasi besar.
Pemikiran Miller menggambarkan keseimbangan umum dalam industri ini: antara inovasi berkelanjutan dan menjaga stabilitas.
Mozurkewich menekankan bahwa begitu suatu produk sangat dekat dengan konsumen, manfaat dari "beraksi cepat dan merusak barang" akan berkurang secara signifikan.
"Tidak ada jaminan Anda akan mendapatkan lebih banyak pelanggan atau pendapatan hanya dengan meluncurkan fitur tercanggih," katanya.
Di dunia AI, di mana teknologi berubah setiap bulan, pilihan antara inovasi dan keberlanjutan tetap menjadi pertanyaan besar tanpa jawaban pasti.
Sumber: https://znews.vn/cac-hang-ai-dang-tu-huy-de-tang-toc-post1549478.html







Komentar (0)