Уровень доверия ИИ: инновационная попытка сети Mira

На днях публичная тестовая сеть Mira была официально запущена. Этот проект направлен на создание уровня доверия для ИИ. Так почему ИИ нужно доверять? Как Mira решает эту проблему?

При обсуждении ИИ люди обычно больше сосредоточены на его мощных способностях. Однако интересным, но часто игнорируемым вопросом является "иллюзия" или предвзятость ИИ. Так называемая "иллюзия" ИИ, простыми словами, означает, что ИИ иногда может "выдавать желаемое за действительное", казалось бы, обоснованно утверждая совершенно неверную информацию. Например, если вы спросите ИИ, почему луна розовая, он может дать ряд казалось бы разумных, но совершенно вымышленных объяснений.

«Иллюзия» или предвзятость ИИ связана с некоторыми текущими направлениями технологий ИИ. Генеративный ИИ достигает согласованности и разумности, предсказывая «наиболее вероятное» содержание, но этот метод иногда не может проверить подлинность. Кроме того, сами обучающие данные могут содержать ошибки, предвзятости или даже вымышленные материалы, которые могут повлиять на выводы ИИ. Другими словами, ИИ учится языковым паттернам человека, а не самим фактам.

Современные механизмы генерации вероятностей и модели, основанные на данных, почти неизбежно приводят к возможности возникновения иллюзий у ИИ. Для обычных знаний или развлекательного контента такие предвзятые или иллюзорные результаты могут временно не иметь прямых последствий. Однако в высокострогих областях, таких как медицина, право, авиация и финансы, это может привести к серьезным последствиям. Поэтому решение проблем иллюзий и предвзятости у ИИ становится одной из основных задач в процессе его развития.

Проект Mira был создан для решения проблем предвзятости и иллюзий в ИИ. Он пытается построить уровень доверия к ИИ, снизить предвзятость и иллюзии, повысить надежность ИИ. Так как же Mira достигает этой цели?

Ядро Mira заключается в верификации выходных данных ИИ через консенсус нескольких моделей ИИ. По сути, это сеть верификации, использующая консенсус нескольких моделей ИИ для проверки надежности выходных данных ИИ. Более того, Mira использует децентрализованный консенсус для верификации.

Ключевым моментом сети Mira является децентрализованная проверка консенсуса. Это то, в чем преуспевает крипто-сфера, и при этом она использует преимущества многомодельного сотрудничества, снижая предвзятость и иллюзии через коллективную модель верификации.

В отношении архитектуры верификации протокол Mira поддерживает преобразование сложного контента в независимые верификационные заявления. Эти заявления требуют участия операторов узлов в верификации. Чтобы гарантировать честность операторов узлов, Mira использует механизм криптоэкономических стимулов/наказаний, в котором участвуют различные модели ИИ и децентрализованные операторы узлов, чтобы обеспечить надежность результатов верификации.

Сетевая архитектура Mira включает в себя преобразование контента, распределенную валидацию и механизмы консенсуса для обеспечения надежности валидации. В этой архитектуре преобразование контента является важным элементом. Сеть Mira сначала разбивает кандидатный контент на различные проверяемые утверждения, которые система распределяет между узлами для проверки, чтобы определить действительность утверждений, и сводит результаты для достижения консенсуса. Для защиты конфиденциальности клиентов кандидатный контент преобразуется в пары утверждений и распределяется между различными узлами случайным образом, чтобы предотвратить утечку информации в процессе валидации.

Операторы узлов отвечают за работу модели валидатора, обработку заявлений и представление результатов проверки. Они участвуют в валидации, потому что могут получать доход, который исходит от создаваемой для клиентов ценности. Цель сети Mira — снизить уровень ошибок ИИ, и как только эта цель будет достигнута, она сможет создать огромную ценность в таких областях, как медицина, право, авиация и финансы. Поэтому клиенты готовы за это платить. Чтобы предотвратить спекулятивное поведение узлов с случайными ответами, узлы, которые постоянно отклоняются от консенсуса, будут лишены залоговых токенов. Через эту экономическую механизмы геймификации обеспечивается честное участие операторов узлов в валидации.

В общем, Mira предлагает новый подход к обеспечению надежности ИИ. Она строит децентрализованную сеть проверки консенсуса на основе нескольких моделей ИИ, что приводит к более высокой надежности ИИ-сервисов для клиентов, снижает предвзятость и иллюзии ИИ, чтобы удовлетворить требования клиентов к более высокой точности и прецизионности. В то же время, на основе предоставления ценности клиентам, она приносит доход участникам сети Mira. Короче говоря, Mira пытается создать уровень доверия к ИИ, который будет способствовать углубленному развитию приложений ИИ.

На данный момент Mira сотрудничает с несколькими фреймворками AI-агентов. Пользователи могут участвовать в публичной тестовой сети Mira через чат-приложение Klok, основанное на LLM от Mira. Используя Klok, можно испытать проверенные AI-выводы и получить возможность заработать очки Mira. Что касается будущего использования этих очков, пока это не было объявлено.