Шар довіри AI: Інноваційна спроба мережі Mira

Нещодавно публічна тестова мережа Mira офіційно запустилася, цей проект має на меті створити рівень довіри для AI. Отже, чому AI потрібно довіряти? Як Mira вирішує цю проблему?

Коли мова йде про штучний інтелект, люди зазвичай більше зосереджуються на його потужних можливостях. Проте цікаве, але часто ігнороване питання – це "ілюзії" або упередження, які існують в AI. Так звані "ілюзії" AI, простими словами, це те, що AI іноді може "вигадувати" історії, здаючись при цьому цілком переконливим, але насправді наводячи абсолютно хибну інформацію. Наприклад, якщо запитати AI, чому місяць рожевий, воно може надати ряд виглядає розумними, але абсолютно вигаданими пояснень.

Ця "ілюзія" або упередженість штучного інтелекту пов'язана з деякими поточними шляхами технологій AI. Генеративний AI досягає узгодженості та раціональності, прогнозуючи "найімовірніший" контент, але цей метод іноді не може перевірити справжність. Крім того, навчальні дані самі по собі можуть містити помилки, упередження або навіть вигадані матеріали, які впливають на вихідні дані AI. Іншими словами, AI вивчає мовні моделі людей, а не самі факти.

Сучасні механізми генерації ймовірностей і моделі, що ґрунтуються на даних, майже неминуче призводять до ймовірності появи ілюзій штучного інтелекту. Для загальних знань або розважального контенту таке упереджене або ілюзорне виходу може тимчасово не призвести до прямих наслідків. Але в таких суворо регульованих сферах, як медицина, право, авіація, фінанси тощо, це може мати серйозні наслідки. Тому вирішення проблеми ілюзій штучного інтелекту та упереджень стало однією з ключових проблем у процесі розвитку штучного інтелекту.

Проект Mira створений для вирішення проблеми упередженості та ілюзій в штучному інтелекті. Він намагається побудувати рівень довіри до AI, зменшити упередженість та ілюзії, підвищити надійність AI. Отже, як Mira досягає цієї мети?

Ядром Mira є перевірка виходу AI через консенсус кількох AI-моделей. Це по суті мережа перевірки, яка використовує консенсус кількох AI-моделей для перевірки надійності виходу AI. Що ще важливіше, Mira використовує децентралізований консенсус для проведення перевірки.

Ключовим аспектом мережі Mira є децентралізована перевірка консенсусу. Це те, в чому експертиза криптосфери, і вона також використовує переваги багатомодельної координації, щоб зменшити упередженість і ілюзії через колективну перевірку.

У плані верифікаційної архітектури протокол Mira підтримує перетворення складного контенту на незалежні верифікаційні заяви. Ці заяви вимагають участі операторів вузлів у верифікації. Щоб забезпечити добросовісність операторів вузлів, Mira використовує механізм криптоекономічних стимулів/покарань, де різні AI моделі та децентралізовані оператори вузлів беруть участь для забезпечення надійності результатів верифікації.

Мережна архітектура Mira включає в себе перетворення контенту, розподілену верифікацію та механізм консенсусу, щоб забезпечити надійність верифікації. У цій архітектурі перетворення контенту є важливим елементом. Мережа Mira спочатку розподіляє кандидатний контент на різні перевіряємi заяви, які система розподіляє вузлам для верифікації, щоб визначити дійсність заяви та зібрати результати для досягнення консенсусу. Щоб захистити конфіденційність клієнтів, кандидатний контент перетворюється на пари заяв і розподіляється до різних вузлів у випадкових фрагментах, щоб запобігти витоку інформації під час процесу верифікації.

Оператори вузлів відповідають за запуск моделей верифікаторів, обробку заявок та подання результатів верифікації. Вони беруть участь у верифікації, оскільки можуть отримувати прибуток, який походить від створеної для клієнтів вартості. Мета мережі Mira полягає у зниженні рівня помилок штучного інтелекту, і як тільки ця мета буде досягнута, це може принести величезну цінність у таких сферах, як охорона здоров'я, право, авіація, фінанси тощо. Тому клієнти готові за це платити. Щоб запобігти спекулятивній поведінці вузлів, які випадково відповідають, вузли, які постійно відхиляються від консенсусу, будуть зменшувати свої застава токени. Завдяки цій економічній механіці гри забезпечується чесна участь операторів вузлів у верифікації.

В цілому, Mira пропонує новий підхід до забезпечення надійності ШІ. Вона базується на багатьох моделях ШІ та створює децентралізовану мережу валідації консенсусу, що забезпечує вищу надійність для AI-сервісів клієнтів, знижує упередженість та ілюзії ШІ, щоб задовольнити потреби клієнтів у вищій точності та прецизійності. Водночас, надаючи цінність клієнтам, вона приносить прибуток учасникам мережі Mira. Словом, Mira намагається створити рівень довіри для ШІ, що сприятиме глибшому розвитку додатків ШІ.

Наразі Mira вже співпрацює з кількома рамками AI agent. Користувачі можуть брати участь у публічній тестовій мережі Mira через Klok, чат-додаток на базі LLM від Mira. Використовуючи Klok, можна пережити перевірені результати AI та отримати можливість заробити бали Mira. Щодо майбутнього використання цих балів, наразі інформації не надано.