kontan.co.id
banner langganan top
| : WIB | INDIKATOR |
  • EMAS 1.684.000   -8.000   -0,47%
  • USD/IDR 16.402   2,00   0,01%
  • IDX 6.646   113,79   1,74%
  • KOMPAS100 990   21,69   2,24%
  • LQ45 776   14,22   1,87%
  • ISSI 203   3,92   1,97%
  • IDX30 401   6,72   1,70%
  • IDXHIDIV20 483   8,87   1,87%
  • IDX80 112   2,06   1,87%
  • IDXV30 117   1,19   1,03%
  • IDXQ30 133   2,24   1,72%

Strategi Ciptakan Pendekatan Seimbang guna Bangun Kesiapan Infrastruktur AI


Rabu, 12 Februari 2025 / 23:39 WIB
Strategi Ciptakan Pendekatan Seimbang guna Bangun Kesiapan Infrastruktur AI
ILUSTRASI. AI tidak mencakup hanya pada satu beban kerja atau kasus penggunaan; AI mencakup berbagai tugas, mulai dari inferensi rutin hingga pelatihan model yang kompleks dan intensif data.


Reporter: Sri Sayekti | Editor: Ignatia Maria Sri Sayekti

KONTAN.CO.ID - Keberhasilan penerapan dan pengoperasian sistem Artificial Intellegent (AI) sangat bergantung pada infrastruktur yang mendasarinya, yang sering kali merupakan komponen yang paling tidak dipahami namun paling penting dari ragam AI.    

Menurut Vanguard, infrastruktur merupakan salah satu tantangan terberat bagi pengawasan TI dan merupakan faktor yang paling sering diidentifikasi yang berkontribusi terhadap pengabaian proyek AI di antara berbagai organisasi. Tidak ada pendekatan yang cocok untuk semua orang. Tekanan pada manajer TI saat ini sangat besar saat mereka menavigasi dan mengatasi berbagai pertimbangan yang saling bertentangan dari berbagai pemangku kepentingan. Pada saat yang sama, permintaan akan lebih banyak dan terus berlanjut pada aplikasi perusahaan. 

Segala sesuatu mulai dari sistem pemrosesan transaksi online tradisional hingga aplikasi berbasis cloud yang sangat interaktif memproses lebih banyak data dan menuntut lebih banyak daya komputasi CPU.     

Dengan latar belakang ini, kritis dan relevansi adopsi AI di seluruh organisasi menuntut pendekatan kolaboratif dan holistik terhadap perencanaan – khususnya, fokusnya harus pada apakah infrastruktur yang ada sesuai dengan tujuannya dan apakah peningkatan memberikan pengembalian investasi yang berarti. 

Dengan demikian, organisasi dapat menghindari perluasan sumber daya mereka yang terbatas secara berlebihan dan sebagai gantinya, menyalurkan upaya mereka dengan cara yang berarti dan strategis yang sepenuhnya mewujudkan potensi penuh AI.    

Baca Juga: Prosesor AMDRyzen AI 300Series Hadirkan Performa&Produktivitas Terbaik dengan FiturAI

Mengapa AI perlu dilibatkan?

"AI tidak mencakup hanya pada satu beban kerja atau kasus penggunaan; AI mencakup berbagai tugas, mulai dari inferensi rutin hingga pelatihan model yang kompleks dan intensif data. AI telah menjadi alat penting bagi banyak organisasi di berbagai industri, yang mendorong inovasi, efisiensi, dan keunggulan kompetitif. " ujar Peter Chambers, Managing Director APAC, AMD.  

Cara kerja AI mendefinisikan ulang operasi meliputi:
•    Memperkaya pengambilan keputusan dengan analisis dan wawasan tingkat lanjut serta menambah kemampuan manusia, yang memungkinkan karyawan untuk berfokus pada tugas-tugas yang bernilai lebih tinggi.    
•    Meningkatkan pengalaman pelanggan, daya tanggap, dan akurasi dengan sistem AI interpretatif, chatbot, asisten virtual, dan rekomendasi yang dipersonalisasi.   •    Memungkinkan pengembangan produk dan layanan baru dengan memanfaatkan wawasan data dan algoritma canggih, serta mempercepat penelitian dan waktu perolehan wawasan menggunakan sistem AI generatif.    
•    Memperkuat manajemen dan mitigasi risiko dengan menganalisis pola dan anomali dalam data di samping meningkatkan deteksi penipuan dan ancaman dunia maya menggunakan sistem machine learning (ML) dalam kasus penggunaan seperti mesin personalisasi dan pengoptimalan harga.    

Berbagai macam aplikasi AI ini membutuhkan pengaturan infrastruktur yang berbeda-beda, sehingga penting bagi tim arsitektur perusahaan untuk mengadopsi pendekatan seimbang yang disesuaikan untuk tujuan tertentu.    

Lebih jauh lagi, kebutuhan infrastruktur AI mulai melampaui kemampuan organisasi untuk melayani berbagai macam proyek dan kapabilitas AI yang diterapkan pada lingkungan produksi. Kasus penggunaan yang ditargetkan untuk AI beragam, dan banyak organisasi telah memanfaatkan ratusan model. Vanguard melakukan survei organisasi dengan AI dalam produksi dan menemukan median 125 model yang digunakan dan lebih dari satu petabyte data yang diperlukan untuk melatih model-model tersebut secara agregat – dan sebagian besar memperkirakan persyaratan beban kerja akan meningkat. Dalam lingkungan perluasan beban kerja AI ini, infrastruktur muncul sebagai hambatan kritis.    

Baca Juga: AMD Perluas Portfolio Prosesor EPYC & AMD Ryzen AI Mobile untuk Consumer & Enterprise

Infrastruktur sangat penting untuk keberhasilan implementasi AI

Komponen penting untuk mendukung AI meliputi komputasi berdaya tinggi, penanganan data yang efisien, dan jaringan yang andal. Namun, tidak semua beban kerja AI membutuhkan tingkat sumber daya yang sama. Sering kali, prosesor (CPU) dapat mengelola beban kerja AI yang lebih kecil, sementara aplikasi yang lebih terspesialisasi – seperti model pelatihan skala besar – memerlukan akselerator canggih (misalnya, GPU).    

Sebagai langkah pertama, para pemimpin TI harus mempertimbangkan poin-poin berikut sebelum memulai perencanaan dan membangun infrastruktur yang siap untuk AI:
1.    Menilai Persyaratan AI Spesifik: Tim arsitektur perusahaan harus mengevaluasi kasus penggunaan AI spesifik yang dibutuhkan bisnis mereka.  
2.    Seimbangkan CPU dan GPU: Ciptakan ekosistem CPU dan GPU yang seimbang yang dirancang untuk mencocokkan infrastruktur yang tepat dengan beban kerja.
3.    Prioritaskan Keamanan dan Privasi Data: Tim Infrastructure and Operational (I&O) harus mempertimbangkan penerapan "AI pribadi", menjalankan beban kerja AI di tempat untuk membantu menjaga keamanan data sensitif.   

Seiring dengan terus berkembangnya beban kerja AI, bisnis perlu menekankan perlunya strategi infrastruktur yang hemat biaya. Data center yang mengoperasikan beban kerja AI mengonsumsi energi dalam jumlah besar. Tim arsitektur perusahaan harus memilih prosesor hemat energi, berinvestasi dalam solusi pendinginan, dan menerapkan praktik berkelanjutan untuk membantu mengelola biaya operasional.   

Infrastruktur AI yang tangguh memerlukan visibilitas ke sumber daya komputasi, penyimpanan, dan jaringan. Tim I&O harus melengkapi pusat data dengan alat observabilitas untuk membantu bisnis memahami pola penggunaan dan membantu memastikan infrastruktur dapat ditingkatkan seiring dengan meningkatnya permintaan AI.   

Baca Juga: AMD Perluas Portofolio PC AI Komersial Guna Berikan Kinerja Terdepan Mobile & Desktop

Selanjutnya: BRI Insurance Gandeng PNM Tanam 1.000 Bibit Pohon di Bangka Belitung

Menarik Dibaca: Mama's Choice Luncurkan Varian Rasa Pasta Gigi Anak Baru

Cek Berita dan Artikel yang lain di Google News


Tag

TERBARU
Kontan Academy
Mastering Finance for Non Finance Entering the Realm of Private Equity

[X]
×