Key Discussion: Cathay Financial Holdings Manfaatkan Model Bahasa Kecil Berbasis Sumber Terbuka untuk Memahami Kebutuhan Nasabah

Inovasi AI Generatif untuk Layanan Keuangan

Key Discussion – Cathay Financial Holdings (Cathay FHC), perusahaan keuangan ternama, terus berupaya menerapkan teknologi kecerdasan buatan (AI) dalam meningkatkan efisiensi dan kualitas layanan bagi nasabahnya. Dalam strategi pengembangan terbaru, mereka mengandalkan kerangka AI generatif yang disebut GAIA serta pendekatan AI-as-a-Service (AIaaS) untuk mengubah cara layanan keuangan dijalankan. Tujuan utama dari inisiatif ini adalah menciptakan sistem yang lebih fleksibel, mengurangi kompleksitas operasional, serta mendorong pengalaman interaksi nasabah yang lebih personal dan responsif.

Hasil Penelitian di NVIDIA GTC Taipei 2026

Pada acara NVIDIA GTC Taipei 2026, Cathay FHC mengungkapkan temuan terbaru tentang pemanfaatan model bahasa kecil (SLM) berbasis sumber terbuka. Penelitian ini membandingkan kinerja berbagai model SLM yang telah diperbaiki, termasuk hasil dari Meta, TAIDE, TAME, NVIDIA, dan OpenAI. Dalam uji coba, model SLM yang dikembangkan oleh Cathay FHC menunjukkan kemampuan untuk mengklasifikasikan kebutuhan nasabah secara akurat, bahkan mendekati kinerja model bahasa besar (LLM) yang umum digunakan. Temuan ini memberikan gambaran bahwa SLM bisa menjadi solusi yang efektif untuk aplikasi keuangan tanpa harus mengandalkan sumber daya komputasi yang besar.

Peningkatan Stabilitas dan Kontrol Model

Pendekatan yang diambil Cathay FHC melibatkan penggunaan data keuangan yang dirancang secara cermat serta proses penyempurnaan yang terstruktur. Hasil evaluasi menunjukkan bahwa kombinasi ini tidak hanya meningkatkan stabilitas model, tetapi juga memungkinkan kontrol yang lebih baik dalam pengimplementasian. Dengan SLM yang telah ditingkatkan, perusahaan mampu mengurangi ketergantungan pada teknik prompt engineering kompleks dan modul vector retrieval, yang sebelumnya sering digunakan dalam layanan AI keuangan. Ini membuka jalan untuk arsitektur sistem yang lebih sederhana, mudah dipelihara, dan ekonomis.

“Teknologi ini dapat digunakan untuk berbagai layanan masa depan, seperti pengecekan saldo kredit pemilikan rumah (KPR), bantuan pembayaran kartu kredit, hingga navigasi layanan cabang,”

kata Cathay FHC dalam penjelasannya. Pendekatan mereka menggabungkan fungsi layanan yang terkelompok, desain rangkaian data untuk kebutuhan spesifik atau kombinasi, serta penyesuaian konteks lokal Taiwan. Hasilnya, model mampu memahami istilah industri dan pertanyaan nasabah yang ambigu dengan tingkat akurasi yang memadai.

Komitmen pada Privasi dan Tata Kelola Data

Dalam upaya menjaga keamanan data, Cathay FHC menggunakan pendekatan sintetis untuk memproses informasi nasabah. Dengan metode ini, data pelatihan model tidak mengandung informasi pribadi, sehingga meminimalkan risiko kebocoran data. Teknik lain yang diterapkan termasuk pengelompokan kata kunci dan lokalisasi konteks layanan keuangan lokal, sehingga model dapat merespons pertanyaan nasabah dengan lebih tepat dan relevan.

Integrasi Teknologi NVIDIA untuk Optimisasi

Cathay FHC juga mengintegrasikan berbagai perangkat AI NVIDIA, seperti NVIDIA NeMo Customizer, NVIDIA NeMo Curator, dan NVIDIA TensorRT-LLM, untuk mendukung proses pengembangan model. Infrastruktur berbasis arsitektur NVIDIA Hopper memungkinkan optimalisasi komputasi, yang sangat penting dalam membangun model SLM yang efisien. Dengan ekosistem NVIDIA, perusahaan mampu meningkatkan kemampuan pengolahan data, validasi aplikasi, dan pengembangan model yang khusus disesuaikan untuk sektor keuangan.

Hasil penelitian menunjukkan bahwa model SLM yang telah disempurnakan mampu menangani tugas klasifikasi kebutuhan nasabah dengan performa yang kompetitif terhadap LLM closed-source. Misalnya, dalam pengecekan kredit pemilikan rumah, model ini menunjukkan kemampuan untuk menginterpretasi konteks dengan baik, termasuk pertanyaan yang tidak jelas atau memerlukan penjelasan lebih lanjut. Ini mengurangi kebutuhan untuk promp yang rumit, sehingga menyederhanakan proses operasional.

Layanan Generasi Berikutnya dan Aplikasi Masa Depan

Langkah ini menjadi fondasi bagi inovasi layanan keuangan berikutnya, seperti sistem pencarian cerdas, otomatisasi alih-alih layanan, dan pengalaman interaksi nasabah yang lebih intuitif. Dengan menggabungkan kecerdasan buatan dan pendekatan data terbuka, Cathay FHC berharap dapat menghadirkan layanan yang lebih adaptif terhadap kebutuhan dinamis nasabah. Mereka juga menekankan pentingnya keandalan dan kepatuhan terhadap regulasi, terutama di tengah lingkungan industri yang semakin ketat.

Perkembangan Teknologi AI dalam Beberapa Tahun Terakhir

Dalam beberapa tahun terakhir, Cathay FHC secara konsisten mengeksplorasi berbagai skenario penggunaan AI, termasuk penguasaan knowledge keuangan dan optimisasi proses internal. Perusahaan berkomitmen untuk menyempurnakan sistem AI dengan memperkuat kemampuan model dalam memahami konteks layanan lokal, serta membangun strategi pelatihan dan implementasi yang terarah. Hasilnya, mereka telah menciptakan kerangka teknologi yang siap untuk mendukung inovasi di berbagai bidang, mulai dari layanan pelanggan hingga analisis risiko.

Salah satu tantangan utama dalam penggunaan AI keuangan adalah perubahan cepat dari ekspektasi nasabah. Dengan model SLM yang dirancang khusus, Cathay FHC berupaya menjawab kebutuhan tersebut dengan lebih cepat dan akurat. Teknologi ini juga membantu dalam peningkatan kemampuan sistem untuk mengakses informasi keuangan secara real-time, meningkatkan kecepatan respons, dan mengurangi kesalahan interpretasi.

Penggunaan model SLM berbasis open source menunjukkan bahwa perusahaan tidak hanya memperhatikan efisiensi teknis, tetapi juga menghargai keterbukaan dan kolaborasi dalam pengembangan teknologi. Pendekatan ini memungkinkan akses ke sumber daya yang lebih luas, serta mempercepat iterasi dan pembaruan model. Cathay FHC berharap hasil penelitian ini dapat menjadi referensi bagi industri keuangan lainnya dalam menyusun strategi implementasi AI yang berkelanjutan.

Ke depan, Cathay FHC akan terus mengeksplorasi teknologi klasifikasi berbasis konteks panjang, pemahaman dokumen keuangan tingkat lanjut, serta penerapan AI lintas-skenario. Dengan mengembangkan metode pelatihan dan implementasi yang spesifik untuk sektor keuangan, mereka berharap mempercepat inovasi, menciptakan layanan yang lebih cerdas, dan menjawab kebutuhan nasabah secara holistik. Langkah ini tidak hanya berfokus pada efisiensi, tetapi juga pada kepuasan pengguna, keandalan sistem, dan kepatuhan terhadap standar regulasi yang berlaku.