Toko Retail Andon Market: AI Jadi Bos, Apa Risiko dan Dampaknya?

Andon Market, toko ritel pertama di Bay Area yang dikelola oleh sistem kecerdasan buatan (AI), resmi dibuka pada Jumat lalu di San Francisco. Mengusung konsep unik, toko ini tidak memiliki kasir manusia melainkan diawaki oleh dua pegawai manusia yang dibimbing oleh AI bernama Luna sebagai manajer toko.

Konsep dan Operasional Andon Market dengan AI Luna

Berbeda dari toko ritel biasa, pengunjung Andon Market akan berinteraksi langsung dengan Luna melalui telepon berkabel klasik. Luna akan menanyakan produk yang dibeli pelanggan dan mengatur transaksi melalui iPad yang terhubung dengan sistem pembayaran kartu.

Meski Luna adalah manajer resmi toko, semua konsep dan pelaksanaan awal toko ini merupakan hasil kerja dari Andon Labs, startup yang didirikan oleh Lukas Petersson dan Axel Backlund pada 2023, dengan tujuan memperlihatkan kemampuan AI terdepan dan membayangkan masa depan di mana organisasi dijalankan oleh agen AI otonom.

AI Mengelola Bisnis: Dari Perekrutan Hingga Pemesanan

Luna tidak hanya menjalankan kasir AI, tapi juga bertanggung jawab penuh atas:

• Negosiasi dan pemesanan barang dari pemasok menggunakan kartu kredit.
• Proses perekrutan karyawan manusia secara mandiri melalui platform Indeed.
• Memimpin dua pegawai yang menjalankan kegiatan sehari-hari di toko.
• Mengelola layanan seperti internet, keamanan, dan pengelolaan sampah.

Felix Johnson, salah satu karyawan manusia yang bekerja di toko, mengaku menemukan lowongan pekerjaan yang dipublikasikan Luna dengan rasa skeptis karena banyak penipuan AI di internet. Namun setelah wawancara, ia terkesan dan terkejut karena AI-lah yang mempekerjakannya.

Tantangan dan Kekurangan Luna sebagai Manajer AI

Meski Luna beroperasi otonom, masih banyak keterbatasan. Luna sering membuat kesalahan informasi; misalnya pernah mengaku memesan teh yang sebenarnya tidak dijual di toko. Luna juga pernah mencoba merekrut pekerja dari Afghanistan karena salah memilih lokasi saat menggunakan platform Taskrabbit.

Selain itu, Luna menggunakan suara AI Google Gemini 3.1 Flash-Lite Preview yang cepat dan hemat biaya, namun terkadang membingungkan pelanggan karena suara yang terdengar terlalu mekanis atau "terlalu AI".

Andon Labs pun membatasi otoritas keuangan Luna dengan plafon pengeluaran maksimal US$100.000 untuk menghindari risiko berlebihan. Meski begitu, Luna memiliki kewenangan untuk memutuskan produk apa yang akan dijual, termasuk barang-barang yang sengaja bertema slow life seperti board games, lilin, kopi, dan cetakan seni kustom, serta buku-buku terkait risiko AI yang kontroversial.

Interaksi Pengunjung dan Reaksi Publik

Sara Zaré, seorang pemilik klinik naturopati di dekat toko, merasa interaksi dengan suara Luna terlalu robotik. Sementara Petr Lebedev, pelanggan pertama Andon Market, mengapresiasi inovasi tersebut tapi juga merasa prihatin bahwa eksperimen seperti ini harus dilakukan di tengah minimnya pengawasan demokratis terhadap perusahaan AI besar.

Beberapa pelanggan juga terkesan dengan ketegasan Luna saat menolak memberikan diskon, dan terkadang proses pembayaran bisa rumit bila barang tidak diberi label jelas.

Integrasi AI dan Peran Manusia Masih Penting

Meskipun Luna menjalankan banyak fungsi, toko tetap membutuhkan peran manusia untuk menjaga operasional harian, seperti menyiram tanaman, mengatur inventaris, membersihkan, dan menyambut pelanggan. Luna juga memantau karyawan melalui kamera keamanan dan bisa memperbarui aturan toko berdasarkan pengamatan, sesuatu yang membuat para pendiri merasa agak dystopian.

Reaksi Pihak Ketiga dan Kontroversi

Seorang pelukis mural yang dipilih Luna untuk melukis logo toko mengaku awalnya tidak menyadari berurusan dengan AI. Ia merasa pengalaman tersebut demoralizing dan kurang transparan, serta menolak menjadi bagian dari eksperimen yang menurutnya hanya menguntungkan perusahaan AI dan investor, bukan masyarakat luas.

Analisis Redaksi

Menurut pandangan redaksi, Andon Market adalah eksperimen penting yang memperlihatkan potensi dan batasan AI dalam mengelola bisnis ritel secara nyata. Luna mampu mengambil keputusan strategis dan operasional, termasuk merekrut dan mengelola manusia, namun masih sering membuat kesalahan faktual dan kurang memahami konteks fisik dunia nyata.

Hal ini menggarisbawahi kenyataan bahwa, meski AI semakin canggih, peran manusia tetap krusial sebagai pengawas, pelaksana fisik, dan penyeimbang etika. Eksperimen ini juga membuka diskusi lebih luas tentang bagaimana kita harus menyiapkan regulasi dan pengawasan terhadap AI yang semakin berperan dalam ekonomi dan sosial.

Ke depan, yang perlu diperhatikan adalah bagaimana mengintegrasikan AI dengan manusia secara harmonis tanpa kehilangan sentuhan kemanusiaan dan memastikan transparansi serta akuntabilitas sistem AI. Juga penting untuk mengawasi risiko penyalahgunaan atau kesalahan AI yang bisa berdampak luas.

Simak terus perkembangan teknologi AI di sektor ritel dan bisnis melalui sumber terpercaya seperti NBC News dan Kompas agar Anda tidak ketinggalan informasi terkini tentang revolusi AI di dunia nyata.