Kesalahan AI dalam Dokumen Pengadilan Sullivan & Cromwell Ungkap Jurang Antara Silicon Valley dan Dunia Lain

Sullivan & Cromwell, salah satu firma hukum terkemuka dunia, baru-baru ini meminta maaf kepada hakim kepailitan federal setelah mengajukan dokumen pengadilan yang penuh dengan kesalahan hasil hallucination dari kecerdasan buatan (AI).

Peristiwa ini bukan hanya lucu secara objektif, tetapi juga menjadi cermin penting tentang bagaimana AI berfungsi dengan cara yang sangat berbeda di berbagai industri.

Kesalahan AI dalam Dokumen Resmi: Apa yang Terjadi?

Pada hari Sabtu, Andrew Dietderich, co-head divisi restrukturisasi Sullivan & Cromwell, mengirim surat permohonan maaf resmi kepada hakim setelah dokumen yang mereka ajukan ditemukan mengandung lebih dari 40 kesalahan, termasuk kutipan kasus yang dibuat-buat dan sumber hukum yang tidak ada.

"Kami sangat menyesal atas kejadian ini," tulis Dietderich. Dia juga mengungkapkan bahwa kesalahan tersebut baru diketahui setelah pihak lawan dari firma Boies Schiller Flexner menemukan masalah tersebut.

Dalam surat tersebut, Dietderich menyebut kesalahan itu sebagai hallucinations dari AI, di mana alat-alat AI "membuat kutipan kasus, salah mengutip otoritas, atau menghasilkan sumber hukum yang tidak ada." Dia menegaskan firmanya sebenarnya memiliki kebijakan pengamanan penggunaan AI, namun kebijakan tersebut tidak diikuti saat menyiapkan dokumen tersebut.

AI dan Jurang Kegunaan di Berbagai Profesi

Kasus ini menegaskan adanya jurang kegunaan AI antara profesi yang sangat teknis seperti pemrograman dan pekerjaan kantor lain yang banyak bergantung pada nilai subjektif dan interpretasi.

Dalam dunia pemrograman, hasil kerja bersifat deterministik — kode yang dibuat bekerja atau tidak. AI sangat efektif di sini karena ada jawaban benar dan salah yang jelas.

Sementara itu, pekerjaan non-teknis seperti hukum, pemasaran, atau jurnalisme lebih bersifat abu-abu, misalnya memilih slogan, gaya desain, atau argumen hukum terbaik. Hasilnya tidak hitam putih dan sangat tergantung pada konteks dan nilai subjektif.

• Pekerjaan pengkodean: AI bisa membantu secara signifikan karena sifatnya yang pasti.
• Pekerjaan hukum dan kreatif: AI masih sering mengalami hallucination atau kesalahan fatal.

Investor dan perusahaan teknologi, terutama di Silicon Valley, sering kali terlalu optimistis terhadap potensi AI karena mereka berbicara dari pengalaman industri teknologi yang sangat berbeda dengan dunia kerja nyata yang lebih luas. Seperti yang dinyatakan oleh investor Paul Kedrosky, tuntutan pasar AI sering didasarkan pada kebutuhan para pekerja teknologi awal yang sangat unrepresentatif.

Pelajaran dari Gagalnya AI di Dunia Hukum

Kasus Sullivan & Cromwell menunjukkan bahwa AI, terutama model bahasa besar, belum siap untuk menggantikan peran manusia dalam pekerjaan yang sangat kompleks dan membutuhkan ketelitian hukum tinggi. Kesalahan kutipan dan sumber hukum tidak hanya merusak kredibilitas dokumen, tetapi juga bisa berakibat serius secara hukum.

Pengalaman ini menambah daftar panjang kegagalan AI dalam aplikasi dunia nyata, seperti sistem Full Self Driving Tesla yang masih belum memenuhi janji otonomi penuh meskipun sudah dikembangkan selama bertahun-tahun.

Mungkin AI saat ini paling tepat dipandang sebagai alat bantu yang masih memerlukan pengawasan manusia untuk menghindari kesalahan fatal. Dalam konteks hukum, AI dapat membantu menyaring informasi atau menyiapkan draf awal, tetapi keputusan akhir dan verifikasi tetap harus dilakukan oleh profesional manusia.

Analisis Redaksi

Menurut pandangan redaksi, insiden ini menggarisbawahi pentingnya memahami batasan teknologi AI dalam konteks dunia kerja yang beragam. Kegagalan Sullivan & Cromwell bukan hanya masalah teknis, tetapi juga sinyal peringatan bahwa adopsi AI secara besar-besaran tanpa pengawasan ketat dapat berisiko tinggi, terutama di sektor yang sangat bergantung pada akurasi dan keandalan seperti hukum.

Selain itu, kasus ini menunjukkan bahwa hype AI seringkali didorong oleh para pelaku di industri teknologi yang memiliki kepentingan ekonomi dan akses ke sumber daya yang tidak dimiliki sektor lain. Hal ini memicu kesenjangan ekspektasi yang berbahaya antara janji transformasi AI dan realitas penerapannya.

Ke depan, publik dan para pemangku kepentingan harus lebih kritis dan realistis dalam menilai klaim revolusioner AI. Penting juga agar regulasi dan standar etika penggunaan AI dikembangkan agar teknologi ini dapat dimanfaatkan secara optimal tanpa menimbulkan kerugian yang tidak perlu. Untuk pembaca, terus ikuti perkembangan teknologi AI dan dampaknya di berbagai sektor agar tidak terjebak dalam kesalahan optimisme berlebihan.

Informasi lengkap mengenai insiden ini dapat Anda baca pada sumber aslinya di CNN Business.