Довірчий рівень ШІ: як мережа Mira вирішує проблеми упередженості та ілюзій ШІ

Нещодавно було офіційно запущено публічну тестову мережу під назвою Mira, метою якої є створення надійного основного рівня для ШІ. Це спонукало нас задуматися: чому ШІ потрібно довіряти? Як Mira вирішує цю проблему?

Коли мова заходить про ШІ, люди зазвичай більше зосереджуються на його потужних можливостях. Однак цікаве і варте уваги питання полягає в "ілюзіях" або упередженнях, які існують у ШІ. Під "ілюзіями" ШІ мається на увазі те, що іноді ШІ може "вигадувати", серйозно брешучи. Наприклад, якщо спитати ШІ, чому місяць рожевий, воно може дати на перший погляд розумне, але насправді вигадане пояснення.

Існування "ілюзій" або упереджень у ШІ пов'язане з певними поточними шляхами технологій ШІ. Генеративний ШІ досягає узгодженості та розумності шляхом прогнозування "найімовірнішого" змісту, але іноді не може перевірити справжність. Крім того, самі навчальні дані можуть містити помилки, упередження або навіть вигадані матеріали, що також впливає на вихідні дані ШІ. Іншими словами, ШІ вчиться мовним шаблонам людей, а не самим фактам.

Сучасні механізми генерації ймовірностей та моделі, що базуються на даних, майже неминуче призводять до можливості виникнення ілюзій у ШІ. Щодо загальних знань або розважального контенту, такий упереджений або ілюзорний вихід тимчасово може не мати безпосередніх наслідків. Але якщо це станеться в таких суворо регульованих сферах, як медицина, право, авіація, фінанси, це може мати значний вплив. Отже, як вирішити ілюзії та упередження ШІ стає одним із ключових питань у процесі розвитку ШІ.

Проект Mira намагається вирішити проблему упередженості та ілюзій в ШІ, створюючи рівень довіри до ШІ та підвищуючи його надійність. Отже, як Mira зменшує упередженість та ілюзії в ШІ і, зрештою, реалізує надійний ШІ?

Основний метод Mira полягає в перевірці виходу AI через консенсус кількох AI моделей. Саме Mira є мережею верифікації, яка перевіряє надійність виходу AI, спираючись на консенсус кількох AI моделей. Іншою важливою особливістю є використання децентралізованого консенсусу для верифікації.

Ключовим аспектом мережі Mira є децентралізована верифікація консенсусу, що є спеціалізацією криптографічної сфери. Водночас вона використовує методи багатофункціональної співпраці для зменшення упередженості та ілюзій через колективну верифікацію.

У контексті архітектури верифікації протокол Mira підтримує перетворення складного контенту на незалежні верифікаційні заяви. Оператори вузлів беруть участь у верифікації цих заяв, забезпечуючи чесність операторів вузлів за допомогою механізмів економічних стимулів/покарань. Різні моделі ШІ та розподілені оператори вузлів спільно беруть участь у забезпеченні надійності верифікаційних результатів.

Мережна архітектура Mira включає в себе перетворення контенту, розподілену перевірку та механізм консенсусу для забезпечення надійності перевірки. Перетворення контенту є важливим етапом. Мережа Mira спочатку розбиває кандидати на контент на різні перевіряємi заяви, які система розподіляє вузлам для перевірки, щоб визначити дійсність заяви, та узагальнює результати для досягнення консенсусу. Щоб захистити конфіденційність клієнтів, кандидати на контент розбиваються на заяви, які випадковим чином розподіляються між різними вузлами, щоб запобігти витоку інформації під час процесу перевірки.

Оператори вузлів відповідають за роботу моделей верифікаторів, обробку заявок та подачу результатів верифікації. Вони беруть участь у верифікації для отримання прибутку, який походить від створюваної для клієнтів вартості. Мета мережі Mira полягає в зниженні рівня помилок AI, і як тільки ця мета буде досягнута, це може принести величезну цінність у таких сферах, як медицина, право, авіація, фінанси тощо. Щоб запобігти спекулятивній поведінці вузлів, які відповідають випадковим чином, вузли, які постійно відхиляються від консенсусу, будуть зменшувати свої стейкінгові токени.

Загалом, Mira пропонує новий підхід до забезпечення надійності ШІ. Вона будує децентралізовану мережу верифікації консенсусу на основі кількох моделей ШІ, що забезпечує вищу надійність для ШІ-послуг клієнтів, зменшує упередженість і галюцинації ШІ, задовольняючи потреби клієнтів у більшій точності та прецизійності. Одночасно, надаючи цінність клієнтам, вона приносить вигоду учасникам мережі Mira. Коротше кажучи, Mira намагається побудувати рівень довіри для ШІ, що сприятиме глибшому розвитку застосувань ШІ.

Наразі Mira співпрацює з кількома фреймворками AI-агентів. З запуском публічної тестової мережі Mira користувачі можуть брати участь у тестуванні, використовуючи чат-додаток Klok на основі Mira, відчути перевірені AI-виходи та отримати можливість заробити бали Mira.