Уровень доверия AI: Как сеть Mira решает проблемы предвзятости и иллюзий AI

Недавно была официально запущена публичная тестовая сеть под названием Mira, целью которой является создание надежного базового уровня для ИИ. Это заставило нас задуматься: почему ИИ должен быть надежным? Как Mira решает эту проблему?

При обсуждении ИИ люди часто больше сосредотачиваются на его мощных возможностях. Однако интересный и заслуживающий внимания вопрос заключается в "иллюзиях" или предвзятостях, существующих у ИИ. Так называемая "иллюзия" ИИ, проще говоря, заключается в том, что ИИ иногда может "выдумывать" и совершенно серьезно нести чепуху. Например, если вы спросите ИИ, почему луна розовая, он может дать на первый взгляд разумное, но на самом деле вымышленное объяснение.

Существование "галлюцинаций" или предвзятости у ИИ связано с текущими путями некоторых технологий ИИ. Генеративный ИИ достигает последовательности и разумности, предсказывая "наиболее вероятное" содержание, но иногда не может проверить его подлинность. Кроме того, сами данные для обучения могут содержать ошибки, предвзятости и даже вымышленные материалы, что также влияет на выходные данные ИИ. Другими словами, ИИ изучает языковые модели человека, а не сами факты.

Текущие механизмы генерации вероятностей и модели, управляемые данными, почти неизбежно могут привести к возможности появления иллюзий у ИИ. Для общих знаний или развлекательного контента такие предвзятые или иллюзорные выходы временно могут не иметь прямых последствий. Но если это происходит в таких строго регулируемых областях, как медицина, юриспруденция, авиация и финансы, это может иметь серьезные последствия. Поэтому решение проблемы иллюзий ИИ и предвзятости становится одной из ключевых вопросов в процессе развития ИИ.

Проект Mira пытается решить проблемы предвзятости и иллюзий в ИИ, создавая уровень доверия к ИИ и повышая его надежность. Итак, как Mira уменьшает предвзятость и иллюзии ИИ и в конечном итоге реализует доверенный ИИ?

Основной метод Mira заключается в проверке вывода ИИ через консенсус нескольких моделей ИИ. Само Mira является сетью проверки, которая подтверждает надежность вывода ИИ, полагаясь на консенсус нескольких моделей ИИ. Еще одной важной особенностью является использование децентрализованного консенсуса для верификации.

Ключевой аспект сети Mira заключается в децентрализованном консенсусном валидации, что является особенностью криптовалютной сферы. В то же время она использует многомодели協同的方法, чтобы уменьшить предвзятость и иллюзии через коллективные модели валидации.

В отношении архитектуры верификации протокол Mira поддерживает преобразование сложного контента в независимые верификационные заявления. Операторы узлов участвуют в проверке этих заявлений, обеспечивая честное поведение операторов узлов через механизмы экономических стимулов/наказаний. Разные AI-модели и децентрализованные операторы узлов совместно участвуют, чтобы гарантировать надежность результатов верификации.

Сетевая архитектура Mira включает в себя преобразование контента, распределенную валидацию и механизм консенсуса для обеспечения надежности проверки. Преобразование контента является важным этапом. Сеть Mira сначала разбивает кандидатный контент на различные проверяемые утверждения, которые система распределяет между узлами для проверки с целью определения действительности утверждений и обобщения результатов для достижения консенсуса. Для защиты конфиденциальности клиентов кандидатный контент разбивается на пары утверждений и распределяется по различным узлам случайным образом, чтобы предотвратить утечку информации в процессе проверки.

Операторы узлов отвечают за работу модели валидатора, обработку заявок и представление результатов валидации. Они участвуют в проверке для получения прибыли, которая исходит от создаваемой для клиентов ценности. Цель сети Mira - снизить уровень ошибок ИИ, и как только эта цель будет достигнута, это сможет принести огромную ценность в таких областях, как медицина, право, авиация и финансы. Чтобы предотвратить спекулятивное поведение узлов с произвольными ответами, узлы, которые постоянно отклоняются от консенсуса, будут подвергаться уменьшению ставки токенов.

В общем, Mira предлагает новый подход к обеспечению надежности ИИ. Она строит децентрализованную сеть проверки консенсуса на основе нескольких ИИ-моделей, что приносит клиентским услугам ИИ более высокую надежность, снижает предвзятость и иллюзии ИИ, удовлетворяя потребности клиентов в более высокой точности и прецизионности. В то же время, на основе предоставляемой клиентам ценности, она приносит выгоду участникам сети Mira. Короче говоря, Mira стремится создать уровень доверия к ИИ, что будет способствовать углубленному развитию приложений ИИ.

В настоящее время Mira сотрудничает с несколькими фреймворками AI-агентов. С запуском публичной тестовой сети Mira пользователи могут участвовать в тестировании, используя чат-приложение Klok на основе Mira, испытывая проверенные AI-результаты и имея возможность зарабатывать баллы Mira.