Key Discussion: Cathay Financial Holdings Manfaatkan Model Bahasa Kecil Berbasis Sumber Terbuka untuk Memahami Kebutuhan Nasabah

Cathay Financial Holdings Manfaatkan Model Bahasa Kecil Berbasis Sumber Terbuka untuk Memahami Kebutuhan Nasabah

Key Discussion – Cathay Financial Holdings (Cathay FHC), perusahaan keuangan terkemuka, kembali menunjukkan komitmennya dalam mendorong penggunaan teknologi kecerdasan buatan generatif (generative AI) di industri jasa keuangan. Melalui pengembangan kerangka kerja AI generatif bernama GAIA, Cathay FHC mencoba meningkatkan efisiensi operasional dan memberikan pengalaman layanan yang lebih personalisasi kepada pelanggannya. Langkah ini menjadi bagian dari strategi AI-as-a-Service (AIaaS), yang dirancang untuk memperkuat kemampuan perusahaan dalam menciptakan solusi keuangan berbasis AI yang tangguh dan efektif.

Inovasi Kecerdasan Buatan dalam Layanan Keuangan

Sebagai bagian dari upaya inovatif ini, Cathay FHC meluncurkan hasil riset terbaru mereka di NVIDIA GTC Taipei 2026. Dalam acara tersebut, perusahaan menyoroti kinerja model bahasa kecil (SLM) yang berbasis sumber terbuka, yang telah diperbaiki dan ditingkatkan. Model ini tidak hanya mampu mengidentifikasi kebutuhan nasabah dengan lebih akurat, tetapi juga mendukung layanan keuangan masa depan yang lebih responsif. Dalam penelitian, Cathay FHC mengevaluasi berbagai model open source terkemuka dari Meta, TAIDE, TAME, NVIDIA, serta OpenAI. Hasilnya menunjukkan bahwa SLM yang diperkembangkan memiliki kemampuan yang mumpuni untuk mengatasi tantangan dalam layanan keuangan lokal.

Kinerja model SLM yang telah disempurnakan ini dinilai cukup menjanjikan dalam tugas klasifikasi kebutuhan nasabah. Dalam pengujian, SLM ini menunjukkan hasil yang mendekati model bahasa besar (LLM) closed-source yang umum digunakan, bahkan hampir menyamai kemampuan model terkemuka di sektor tersebut. Dengan kemampuan ini, Cathay FHC berharap dapat mempercepat inovasi di berbagai skenario layanan keuangan, seperti pengecekan kelayakan kredit pemilikan rumah (KPR), bantuan pembayaran kartu kredit, maupun navigasi layanan cabang. Riset ini memberikan wawasan praktis bagi perusahaan lain dalam merancang strategi pelatihan dan implementasi model AI yang efektif.

Penyederhanaan Arsitektur Sistem dan Pemeliharaan

Pendekatan berbasis SLM juga memberikan manfaat signifikan dalam menyederhanakan arsitektur sistem dan menekan kompleksitas operasional. Dalam pengujian, model yang diperbaiki ini menunjukkan potensi untuk mengurangi ketergantungan pada teknik prompt engineering yang rumit serta modul vector retrieval yang memakan sumber daya besar. Dengan mengganti metode tradisional, Cathay FHC mengharapkan perbaikan dalam proses pengembangan, pemeliharaan, serta skalabilitas sistem. Hal ini memungkinkan perusahaan mengalokasikan sumber daya ke area yang lebih kritis, seperti pengembangan layanan berbasis AI.

Salah satu aspek penting dalam penelitian ini adalah penerapan pendekatan data sintetis untuk menjaga privasi nasabah. Dalam proses pelatihan model, Cathay FHC tidak menggunakan informasi langsung dari pelanggan, sehingga mengurangi risiko kebocoran data. Metode ini juga memperkuat stabilitas model dan efisiensi inferensi, yang menjadi fokus utama dalam meningkatkan keandalan layanan keuangan. Selain itu, penggunaan teknik pengelompokan fungsi layanan, desain data yang terarah, serta penyesuaian konteks lokal Taiwan, membantu model memahami istilah industri dan pertanyaan nasabah yang ambigu.

Integrasi Teknologi NVIDIA untuk Optimisasi

Dalam upaya memperkuat kemampuan teknisnya, Cathay FHC mengintegrasikan berbagai perangkat AI dari NVIDIA, termasuk NVIDIA NeMo Customizer, NVIDIA NeMo Curator, dan NVIDIA TensorRT-LLM. Kombinasi ini membantu perusahaan mengoptimalkan proses pembuatan data, penyesuaian model, serta evaluasi eksperimen. Penggunaan sumber daya komputasi yang didasarkan pada arsitektur NVIDIA Hopper memungkinkan peningkatan performa dalam pengolahan informasi keuangan yang kompleks. Infrastruktur yang diperkuat ini menjadi fondasi untuk pengembangan layanan pencarian cerdas, otomatisasi proses, serta interaksi nasabah yang lebih intuitif.

Studi yang dilakukan Cathay FHC juga menekankan pentingnya kombinasi antara data keuangan yang dirancang secara cermat dan proses penyempurnaan yang terarah. Dengan pendekatan ini, model SLM menunjukkan peningkatan signifikan dalam stabilitas, efisiensi inferensi, dan kontrol selama implementasi. Hasilnya menunjukkan bahwa model berbasis sumber terbuka ini mampu menyaingi kemampuan model besar yang sudah terbukti dalam berbagai skenario. Dalam konteks keuangan lokal, model ini berpotensi mengurangi biaya operasional dan meningkatkan kecepatan respons terhadap permintaan pelanggan.

Komitmen terhadap Kepatuhan dan Inovasi

Di tengah regulasi yang semakin ketat dan tuntutan tata kelola data yang tinggi, Cathay FHC berkomitmen untuk mengembangkan teknologi AI yang aman, tangguh, dan sesuai dengan standar industri. Dengan menerapkan metode pelatihan dan implementasi yang dirancang khusus untuk sektor keuangan, perusahaan ingin memastikan bahwa inovasi ini tidak hanya efektif tetapi juga berkelanjutan. Selain itu, Cathay FHC terus menjelajahi teknologi klasifikasi berbasis konteks panjang, pemahaman dokumen keuangan tingkat lanjut, serta penerapan AI lintas-skenario untuk memperluas cakupan layanan mereka.

Langkah-langkah ini tidak hanya memperkuat kemampuan internal Cathay FHC, tetapi juga memberikan contoh bagaimana teknologi AI bisa diadaptasi untuk kebutuhan spesifik di sektor keuangan. Dengan menggabungkan sumber daya komputasi dan keahlian dalam manajemen data, perusahaan berharap menciptakan ekosistem yang lebih efisien dan berorientasi pada kepuasan pelanggan. Dalam beberapa tahun terakhir, Cathay FHC telah konsisten mengembangkan inovasi AI di berbagai tahap layanan, dari optimalisasi proses internal hingga peningkatan pengalaman interaksi nasabah.

Perusahaan menegaskan bahwa teknologi AI tidak hanya menjadi alat untuk meningkatkan efisiensi, tetapi juga sebagai dasar untuk mengembangkan layanan keuangan yang lebih cerdas dan adaptif. Dengan SLM yang dirancang khusus, Cathay FHC mencoba menghadirkan solusi yang lebih personalisasi, mempercepat respons terhadap permintaan pelanggan, serta meningkatkan keandalan dalam pelayanan. Upaya ini diharapkan menjadi referensi bagi perusahaan keuangan lain dalam menyusun strategi pengembangan teknologi yang berkelanjutan.

Sumber: Cathay Financial Holdings