Lớp tin cậy của AI: Mạng Mira giải quyết vấn đề thiên kiến và ảo giác của AI

Gần đây, một mạng thử nghiệm công cộng có tên là Mira đã chính thức ra mắt, với mục tiêu xây dựng một lớp nền đáng tin cậy cho AI. Điều này đã khiến chúng ta suy nghĩ: Tại sao AI cần được tin cậy? Mira đã giải quyết vấn đề này như thế nào?

Khi thảo luận về AI, mọi người thường chú ý hơn đến khả năng mạnh mẽ của nó. Tuy nhiên, một vấn đề thú vị và đáng quan tâm là những "ảo giác" hoặc thiên kiến mà AI tồn tại. Cái gọi là "ảo giác" của AI, đơn giản mà nói, là AI đôi khi sẽ "bịa ra", một cách nghiêm túc nói nhảm. Ví dụ, nếu bạn hỏi AI tại sao mặt trăng lại có màu hồng, nó có thể đưa ra một giải thích có vẻ hợp lý nhưng thực chất lại là hư cấu.

Sự tồn tại của "ảo giác" hoặc thiên kiến trong AI liên quan đến một số con đường công nghệ AI hiện tại. AI sinh ra đạt được sự mạch lạc và hợp lý bằng cách dự đoán nội dung "có khả năng nhất", nhưng đôi khi không thể xác minh tính xác thực. Hơn nữa, dữ liệu huấn luyện có thể chứa lỗi, thiên kiến hoặc thậm chí nội dung hư cấu, điều này cũng ảnh hưởng đến đầu ra của AI. Nói cách khác, AI học các mẫu ngôn ngữ của con người, chứ không phải là sự thật bản thân.

Cơ chế sinh khả năng hiện tại và mô hình dựa trên dữ liệu gần như không thể tránh khỏi khả năng xảy ra ảo giác AI. Đối với kiến thức chung hoặc nội dung giải trí, đầu ra có thiên kiến hoặc ảo giác này tạm thời có thể không gây hậu quả trực tiếp. Nhưng nếu xảy ra trong các lĩnh vực nghiêm ngặt như y tế, pháp lý, hàng không, tài chính, thì có thể tạo ra ảnh hưởng lớn. Do đó, cách giải quyết ảo giác và thiên kiến AI trở thành một trong những vấn đề cốt lõi trong quá trình phát triển AI.

Dự án Mira đang cố gắng giải quyết vấn đề thiên kiến và ảo giác trong AI, xây dựng một lớp tin cậy cho AI, nâng cao độ tin cậy của AI. Vậy, Mira đã giảm thiểu thiên kiến và ảo giác trong AI như thế nào, và cuối cùng đạt được AI đáng tin cậy ra sao?

Phương pháp cốt lõi của Mira là xác minh đầu ra của AI thông qua sự đồng thuận của nhiều mô hình AI. Mira tự nó là một mạng lưới xác minh, nó xác minh độ tin cậy của đầu ra AI và dựa vào sự đồng thuận của nhiều mô hình AI. Một đặc điểm quan trọng khác là sử dụng sự đồng thuận phi tập trung để xác minh.

Chìa khóa của mạng Mira nằm ở việc xác thực đồng thuận phi tập trung, điều này là chuyên môn trong lĩnh vực tiền mã hóa. Đồng thời, nó sử dụng phương pháp hợp tác đa mô hình, thông qua mô hình xác thực tập thể để giảm thiểu thiên kiến và ảo tưởng.

Về mặt cấu trúc xác thực, giao thức Mira hỗ trợ chuyển đổi nội dung phức tạp thành các tuyên bố xác thực độc lập. Các nhà điều hành nút tham gia xác thực những tuyên bố này, thông qua cơ chế khuyến khích/phạt kinh tế mã hóa để đảm bảo hành vi trung thực của các nhà điều hành nút. Các mô hình AI khác nhau và các nhà điều hành nút phân tán cùng tham gia để đảm bảo tính đáng tin cậy của kết quả xác thực.

Kiến trúc mạng của Mira bao gồm chuyển đổi nội dung, xác minh phân tán và cơ chế đồng thuận để đảm bảo tính đáng tin cậy của việc xác minh. Chuyển đổi nội dung là một phần quan trọng trong đó. Mạng Mira trước tiên phân tích nội dung ứng cử thành các tuyên bố có thể xác minh khác nhau, những tuyên bố này được hệ thống phân phối cho các nút để xác minh, nhằm xác định tính hợp lệ của các tuyên bố và tổng hợp kết quả để đạt được sự đồng thuận. Để bảo vệ quyền riêng tư của khách hàng, việc chuyển đổi nội dung ứng cử được phân tích thành các cặp tuyên bố và phân phối đến các nút khác nhau theo cách phân mảnh ngẫu nhiên, ngăn chặn rò rỉ thông tin trong quá trình xác minh.

Các nhà điều hành nút chịu trách nhiệm vận hành mô hình xác thực, xử lý các tuyên bố và gửi kết quả xác thực. Họ tham gia xác thực để kiếm lợi nhuận, lợi nhuận này đến từ giá trị mà họ tạo ra cho khách hàng. Mục tiêu của mạng Mira là giảm tỷ lệ lỗi của AI, khi đạt được mục tiêu này, sẽ tạo ra giá trị lớn trong các lĩnh vực như y tế, luật pháp, hàng không và tài chính. Để ngăn chặn hành vi đầu cơ từ việc phản hồi ngẫu nhiên của các nút, những nút liên tục lệch khỏi sự đồng thuận sẽ bị giảm số token đã đặt cọc.

Tổng thể, Mira cung cấp một giải pháp mới để đạt được độ tin cậy của AI. Nó xây dựng một mạng xác thực đồng thuận phi tập trung dựa trên nhiều mô hình AI, mang lại độ tin cậy cao hơn cho dịch vụ AI của khách hàng, giảm thiểu thiên kiến và ảo giác của AI, đáp ứng nhu cầu của khách hàng về độ chính xác và tỷ lệ chính xác cao hơn. Đồng thời, trên cơ sở cung cấp giá trị cho khách hàng, nó mang lại lợi nhuận cho những người tham gia mạng lưới Mira. Nói ngắn gọn, Mira cố gắng xây dựng một lớp tin cậy cho AI, điều này sẽ thúc đẩy sự phát triển sâu rộng của các ứng dụng AI.

Hiện tại, Mira đã hợp tác với nhiều khung AI agent. Với việc ra mắt mạng thử nghiệm công cộng của Mira, người dùng có thể tham gia thử nghiệm thông qua việc sử dụng ứng dụng trò chuyện LLM dựa trên Mira có tên là Klok, trải nghiệm đầu ra AI đã được xác thực và có cơ hội kiếm điểm Mira.