Sektor keuangan Singapura pertimbangkan agen AI di tengah celah tata kelola

Kerangka kerja yang diusulkan mengatur kendali atas tindakan kecerdasan buatan (AI) secara real-time.

Sebuah agen AI di Oversea-Chinese Banking Corporation Ltd. (OCBC) berhasil memangkas waktu pembuatan laporan source of wealth dari 10 hari menjadi sekitar satu jam saja. Ini menunjukkan bagaimana institusi keuangan bisa memanfaatkan sistem otonom untuk pekerjaan yang padat dokumen, seiring aturan tata kelola yang mulai terbentuk.

Alat ini bertugas meninjau dokumen klien, mengekstrak informasi penting, menilai profil kekayaan klien, lalu menyiapkan draf laporan. Relationship manager tetap bertanggung jawab untuk meninjau, memvalidasi, dan menyempurnakan hasilnya.

Teknologi ini terus menyebar di sektor keuangan Singapura. Survei Finastra Ltd. pada Februari menemukan bahwa 64% institusi keuangan di Singapura sudah aktif menerapkan AI di berbagai fungsi bisnis utama.

Laporan perdana Ministry of Manpower soal adopsi AI di kalangan perusahaan, yang terbit April lalu, mencatat tingkat adopsi di sektor jasa keuangan dan asuransi mencapai 56,4%.

Monetary Authority of Singapore (MAS), bersama institusi keuangan dan perusahaan fintech, menerbitkan white paper Safeguards for Agentic Finance at Runtime pada Juli lalu untuk menyediakan kerangka kerja penerapan agen AI lengkap dengan kendali atas tindakan yang mereka ambil.

“Model fondasi yang mendasarinya tidak dibangun dengan kendali tingkat enterprise yang dibutuhkan institusi keuangan di berbagai lini lainnya,” kata Suyeol Yun, head of AI di LinqAlpha, lewat email menjawab pertanyaan. “Model-model ini tidak punya konsep bawaan soal hak akses, tidak ada jejak audit otomatis, dan tidak paham soal information wall atau informasi material yang belum dipublikasikan.”

Yun menyebut kerangka kerja ini bisa membantu institusi membawa agen AI dari tahap eksperimen ke tahap produksi untuk tugas-tugas yang terdefinisi secara ketat, seperti operasional rutin, peninjauan dokumen, dan penyusunan materi untuk klien. Ia menambahkan, mandat yang telah ditentukan sebelumnya serta peninjauan pasca-tindakan bisa memberi bank kendali yang lebih besar atas perilaku agen AI.

“Ketika safeguard dikembangkan bersama industri dan didokumentasikan secara terbuka, institusi yang menerapkan agen AI jadi mengikuti standar yang sedang berkembang, bukan mengambil langkah sendirian,” kata Yun. “Ini sangat penting di sektor yang pengambilan keputusannya sangat didominasi oleh risiko reputasi dan regulasi.”

Di OCBC, kendali runtime dari safeguard ini diterapkan selagi agen source of wealth bekerja mengolah berkas klien.

“Safeguards for Agentic Finance at Runtime menghadirkan titik pemeriksaan terstruktur yang mengevaluasi setiap tindakan yang diusulkan agen sebelum dieksekusi,” kata Dr Jingyuan Zhao, head of group data office di OCBC, lewat email menjawab pertanyaan. “Perubahan utamanya adalah bergeser dari tata kelola yang sebagian besar dilakukan sebelum penerapan, menjadi tata kelola berkelanjutan yang berjalan secara real-time.”

Yun menyebut kerangka kerja ini masih menyisakan celah di area-area tempat agen AI berinteraksi dengan sistem atau institusi lain. Ini termasuk alur kerja multi-agen, interaksi lintas institusi, dan persyaratan residensi data lintas negara.

Ia juga menyebut institusi keuangan membutuhkan standar bersama untuk mengevaluasi agen AI sebelum diterapkan, bukan hanya mengandalkan kendali yang berlaku saat agen mengambil tindakan.

Bryan Keasberry, head of market development untuk kawasan Asia-Pasifik di Fenergo Ltd., mengatakan white paper ini memberikan panduan yang lebih jelas untuk keputusan dengan batasan yang terdefinisi, seperti ambang batas transaksi, tapi belum cukup rinci untuk proses yang membutuhkan penilaian manusia.

Menilai bagaimana seorang klien mengumpulkan kekayaannya atau menentukan kesesuaian investasi melibatkan banyak faktor yang tidak bisa begitu saja disederhanakan jadi aturan baku.

Menurutnya, kasus-kasus semacam itu perlu dimasukkan ke dalam kerangka kerja ini agar penggunaan agen AI bisa diperluas dalam proses onboarding klien dan Know Your Customer.

Keasberry menyebut SAFR bukan regulasi yang mengikat, sehingga dampaknya bergantung pada seberapa luas institusi keuangan mengadopsi kerangka kerja ini.

Yun memperkirakan agen AI akan mengambil peran operasional yang lebih luas seiring berkembangnya kendali-kendali tersebut.

“Kami memandang ini sebagai AI yang menjadi ‘otak kedua’ bagi setiap knowledge worker di sektor keuangan,” katanya. “Kerangka tata kelola inilah yang membuat masa depan itu bisa diwujudkan: otonomi tanpa akuntabilitas memang tidak akan pernah bisa diterima di industri ini, dan guardrail yang jelas adalah jalan untuk mendapatkan keduanya sekaligus.”