Lapisan Kepercayaan AI: Bagaimana Jaringan Mira Menyelesaikan Masalah Bias dan Ilusi AI

Baru-baru ini, sebuah jaringan uji publik bernama Mira resmi diluncurkan, yang bertujuan untuk membangun lapisan dasar yang dapat dipercaya untuk AI. Hal ini memicu kita untuk berpikir: mengapa AI perlu dipercaya? Bagaimana Mira menyelesaikan masalah ini?

Dalam diskusi tentang AI, orang sering kali lebih memperhatikan kemampuan hebatnya. Namun, satu pertanyaan yang menarik dan layak untuk diperhatikan adalah "ilusi" atau bias yang ada dalam AI. Apa yang disebut "ilusi" AI, secara sederhana, adalah bahwa AI kadang-kadang akan "mengarang" dan berbicara omong kosong dengan serius. Misalnya, jika Anda bertanya kepada AI mengapa bulan berwarna pink, ia mungkin memberikan penjelasan yang tampak masuk akal tetapi sebenarnya fiksi.

AI mengalami "ilusi" atau bias yang terkait dengan jalur teknologi AI tertentu saat ini. AI generatif menciptakan koherensi dan konsistensi dengan memprediksi konten yang "paling mungkin", tetapi kadang-kadang tidak dapat memverifikasi kebenarannya. Selain itu, data pelatihan itu sendiri mungkin mengandung kesalahan, bias, atau bahkan konten fiktif, yang juga dapat mempengaruhi keluaran AI. Dengan kata lain, AI belajar pola bahasa manusia, bukan fakta itu sendiri.

Mekanisme generasi probabilitas saat ini dan model berbasis data hampir tidak dapat dihindari akan membawa kemungkinan ilusi AI. Untuk konten pengetahuan umum atau hiburan, keluaran yang bias atau ilusif mungkin tidak akan menyebabkan konsekuensi langsung untuk sementara waktu. Namun, jika terjadi di bidang yang sangat ketat seperti medis, hukum, penerbangan, dan keuangan, itu dapat memiliki dampak yang signifikan. Oleh karena itu, bagaimana mengatasi ilusi dan bias AI menjadi salah satu masalah inti dalam proses pengembangan AI.

Proyek Mira berusaha untuk mengatasi masalah bias dan ilusi AI, membangun lapisan kepercayaan untuk AI, dan meningkatkan keandalan AI. Lalu, bagaimana Mira mengurangi bias dan ilusi AI, dan akhirnya mewujudkan AI yang dapat dipercaya?

Metode inti Mira adalah memverifikasi output AI melalui konsensus dari berbagai model AI. Mira sendiri adalah jaringan verifikasi yang memvalidasi keandalan output AI, dan memanfaatkan konsensus dari berbagai model AI. Ciri penting lainnya adalah penerapan konsensus terdesentralisasi untuk verifikasi.

Kunci dari jaringan Mira terletak pada verifikasi konsensus yang terdesentralisasi, yang merupakan keahlian di bidang kripto. Pada saat yang sama, ia memanfaatkan pendekatan kolaboratif multi-model untuk mengurangi bias dan ilusi melalui model verifikasi kolektif.

Dalam hal arsitektur verifikasi, protokol Mira mendukung konversi konten kompleks menjadi pernyataan verifikasi independen. Operator node berpartisipasi dalam memverifikasi pernyataan ini, dengan mekanisme insentif/punishment ekonomi kriptografi untuk memastikan perilaku jujur operator node. Berbagai model AI dan operator node yang terdistribusi berpartisipasi bersama untuk menjamin keandalan hasil verifikasi.

Arsitektur jaringan Mira mencakup konversi konten, verifikasi terdistribusi, dan mekanisme konsensus untuk mencapai keandalan verifikasi. Konversi konten adalah salah satu tahap penting. Jaringan Mira pertama-tama memecah konten kandidat menjadi berbagai pernyataan yang dapat diverifikasi, yang kemudian didistribusikan oleh sistem ke node untuk diverifikasi guna menentukan keabsahan pernyataan tersebut, dan mengumpulkan hasil untuk mencapai konsensus. Untuk melindungi privasi pelanggan, konversi konten kandidat dipecah menjadi pasangan pernyataan yang dialokasikan ke node yang berbeda dengan cara pemotongan acak, untuk mencegah kebocoran informasi selama proses verifikasi.

Operator node bertanggung jawab untuk menjalankan model validator, memproses klaim, dan mengajukan hasil verifikasi. Mereka berpartisipasi dalam verifikasi untuk mendapatkan imbalan, yang berasal dari nilai yang diciptakan untuk klien. Tujuan jaringan Mira adalah mengurangi tingkat kesalahan AI, dan setelah tujuan ini tercapai, akan menghasilkan nilai besar di bidang kesehatan, hukum, penerbangan, keuangan, dan lainnya. Untuk mencegah perilaku spekulatif dari respons acak node, node yang terus-menerus menyimpang dari konsensus akan dikenakan pemotongan token yang dipertaruhkan.

Secara keseluruhan, Mira memberikan pendekatan baru untuk mencapai keandalan AI. Ini membangun jaringan verifikasi konsensus terdesentralisasi berdasarkan beberapa model AI, membawa keandalan yang lebih tinggi untuk layanan AI pelanggan, mengurangi bias dan ilusi AI, serta memenuhi kebutuhan pelanggan akan akurasi dan presisi yang lebih tinggi. Pada saat yang sama, di atas nilai yang diberikan kepada pelanggan, menghasilkan keuntungan bagi peserta jaringan Mira. Singkatnya, Mira berusaha membangun lapisan kepercayaan untuk AI, yang akan mendorong perkembangan aplikasi AI yang lebih dalam.

Saat ini, Mira telah bekerja sama dengan beberapa kerangka agen AI. Dengan peluncuran jaringan pengujian publik Mira, pengguna dapat berpartisipasi dalam pengujian dengan menggunakan aplikasi obrolan LLM berbasis Mira, Klok, untuk merasakan keluaran AI yang telah diverifikasi dan memiliki kesempatan untuk mendapatkan poin Mira.