(SeaPRwire) –   Lloyd Blankfein telah menghabiskan beberapa dekade di Goldman Sachs untuk belajar mengelola risiko secara skala besar. Dia mengawasi firma itu melewati letusan pasar tahun 1987, kejatuhan dot-com, krisis keuangan tahun 2008, dan penyempurnaan regulasi pasca-krisis yang mengubah ulang Wall Street. Maka ketika Goldman senior chairman dan mantan CEO berkata sesuatu yang mengkhawatirkannya tentang AI, ada nilai dalam memperhatikan tepatnya apa saja masalahnya.

Bukanlah superintelligence atau senjata otonom. Masalahnya jauh lebih biasa — dan dalam beberapa cara, lebih menakutkan.

Masalah dengan AI bukan “karena ia lebih pintar daripada kita dan akan mengubah kita menjadi anjing hutan,” kata Blankfein dalam wawancara baru di The a16z Show oleh Andreessen Horowitz, diterbitkan hari Senin, “tapi karena kita tidak mempunyai kemampuan untuk menguji apakah jawaban itu betul atau tidak.” Ketika Anda mengoperasikan institusi besar, katanya, Anda tidak boleh membuat kesalahan dan angka-angka benar-benar penting.

Mengacu pada AI khususnya tetapi kemajuan teknologi secara umum, katanya, “semua berputar di balik layar,” dan Anda tidak benar-benar mendapat pandangan dekat tentang proses berfikir teknologi yang Anda andalkan. “Sekarang Anda bisa meninggalkan sepotong perisian, [dan ia] bisa keluar dan melakukan 70,000 transaksi,” katanya, menjelaskan bahwa ketika dia mulai di lantai dagang, semua orang bisa mendengar setiap kesalahan, dan ruangan akan sunyi bahkan pada kegagalan terkecil.

Penjelasan sederhana ini mungkin merupakan penyataan paling tepat mengenai mengapa Wall Street — walaupun telah menghabiskan miliaran dolar untuk memperkenalkan AI di seluruh operasi perdagangan, kepatuhan, dan latar belakang operasi — masih sangat enggan untuk memberi kunci pada segala hal yang benar-benar penting.

Kecepatan tanpa pengawasan adalah risiko sebenarnya

Industri keuangan telah lama memahami bahwa kecepatan menciptakan leverage, dan leverage memotong kedua arah. Perdagangan yang tepat waktu memperkuat keuntungan. Kesalahan — dieksekusi pada kecepatan mesin, di seluruh ribuan posisi, sebelum manusia bisa campur tangan — memperkuat kerugian dengan cepat.

Apa yang Blankfein deskripsikan bukanlah hipotesis. “Flash crash” tahun 2010, ketika perdagangan algoritmik sesaat menghapus hampir $1 triliun nilai pasar dalam hitungan menit, menawarkan pratinjau awal. Begitu pula tragedi Knight Capital tahun 2012, ketika kesalahan perisian menyebabkan firma itu kehilangan $440 juta dalam 45 menit — secara efektif menghancurkan perusahaan. Kedua kejadian itu terjadi lebih dari satu dekade sebelum generasi AI saat ini muncul.

Generasi baru ini lebih cepat, lebih otonom, dan lebih mampu mengambil keputusan berturut-turut tanpa titik pemeriksaan manusia di antaranya. Analisis Deloitte Februari 2026 mengidentifikasi lebih dari 350 risiko berbeda yang muncul dari perilaku otonom atau agentik di sektor perbankan saja — banyak dari yang tidak ditangani oleh kerangka kerja yang ada. Para peneliti firma itu menjelaskan mekanisme inti yang Blankfein waspadai: satu halusinasi tunggal bisa menyebar ke seluruh sistem terhubung, agen rute pembayaran bisa salah mengalokasikan dana sebelum ada manusia menyadarinya, dan loop agen rekursif bisa membuat biaya cloud naik ke puluhan ribu dolar sebelum siapa pun menyadari.

American Bankers Association memberi peringatan pada Desember 2025 tentang potensi “moment Boeing 737 Max” — di mana ketergantungan berlebihan pada otomatisasi bertabrakan dengan kepercayaan publik dan akuntabilitas regulator sebelum perlindungan batas (guardrails) diletakkan.

Bilangan di balik intuisi hati-hati

Data membenarkan intuisi Blankfein dengan detail mengejutkan. Studi Wakefield Research Januari 2026 menemukan bahwa hanya 14% CFO yang benar-benar percaya AI untuk menyediakan data akunting yang akurat sendiri — namun sebagian besar dari firma yang sama sudah menggunakan alat AI. 97% mengatakan pengawasan manusia tetap penting untuk akurasi, dan kebanyakan telah mengalami setidaknya satu insiden output AI yang halusinasi atau tidak akurat.

Laporan CFA Institute tahun 2025 tentang AI yang dapat dijelaskan dalam keuangan menjelaskan masalah teknis dengan jelas: sistem yang didorong AI menghadapi “kendala pengawasan akibat transparansi yang terbatas pada sumber data dan logika pengambilan keputusan.”

Analisis LinkedIn terpisah dari Januari 2026 bahkan lebih tegas: “Pengawas kurang memiliki data konsisten dan rinci tentang di mana dan bagaimana AI digunakan secara aktual,” dan kerangka kerja pengelolaan risiko model yang ada “menantang validasi, pemantauan, dan auditabilitas tradisional.”

Sementara itu, penerapan AI berlari lebih cepat daripada tata kelola. 92% perusahaan fintech terkemuka memiliki setidaknya satu agen otonom di produksi inti sejak Q1 2026 — kuartal yang sama dengan standarisasi cepat “Protokol Batas Perlindungan” yang mensyaratkan otentikasi manusia untuk transaksi di atas $1 juta. Dan 70% eksekutif perbankan di firma yang sudah menggunakan AI agentik melaporkan bahwa kerangka kerja tata kelola jauh tertinggal dari kelajuan penerapan, menurut survei MIT Technology Review Insights 2025.

Hati-hati asing Goldman

Blankfein juga menawarkan observasi tajam tentang cara Goldman secara historis menangani transisi sistem: menjalankan sistem legacy dan baru secara paralel selama bertahun-tahun sebelum melakukan pergantian penuh. Ini adalah disiplin, katanya, yang kebanyakan perusahaan teknologi tidak bagikan — dan satu yang semakin bertentangan dengan budaya “bergerak cepat” yang mendefinisikan gelombang peluncuran AI yang melanda keuangan.

Peringatan implisit: perusahaan-perusahaan yang paling agresif menerapkan AI agentik juga merupakan yang paling tidak mungkin telah menguji ketahanan apa yang terjadi ketika agen itu salah.

Kontras itu sangat relevan sekarang. Goldman telah memperkenalkan asisten AI-nya kepada semua 46,000+ karyawan dan mengidentifikasi enam area bisnis “yang siap untuk gangguan” dalam surat tahunan pemegang saham terbarunya. JPMorgan memiliki lebih dari 450 kasus penggunaan AI di produksi, dan LLM Suite-nya digunakan oleh 150,000 karyawan setiap minggu. Citi memiliki lebih dari 70% dari 182,000 karyawannya menggunakan alat AI yang disetujui firma.

Tapi hampir semua telah menggambar garis yang sama: eksekusi otonom di atas ambang tertentu masih memerlukan persetujuan manusia. Industri sedang berlomba-lomba untuk menerapkan AI di mana saja kecuali di tempat di mana masalah 70,000-transaksi Blankfein akan benar-benar terwujud.

“Kami selalu harus melakukan sesuatu dua kali,” kata Blankfein tentang cara kerja lama. “Kami harus menjalankan sesuatu 50 kali dan sempurna pada 49 kali pertama sebelum kami bisa melakukannya.” Artinya, mungkin akan menjadi waktu yang sangat, sangat panjang sebelum AI agent dipercaya untuk benar setiap kali dari awal.