Уровень доверия AI: Инновационная попытка сети Mira
Недавно официально запустилась публичная тестовая сеть Mira, проект которой направлен на создание уровня доверия для ИИ. Итак, почему ИИ нужно доверять? Как Mira решает эту проблему?
При обсуждении ИИ люди, как правило, больше всего сосредотачиваются на его мощных возможностях. Однако интересный, но часто игнорируемый вопрос заключается в "иллюзиях" или предвзятостях ИИ. Так называемая "иллюзия" ИИ, проще говоря, заключается в том, что ИИ иногда "выдумывает", казалось бы, обоснованные, но совершенно неверные сведения. Например, если вы спросите ИИ, почему луна розовая, он может предоставить ряд казалось бы разумных, но полностью вымышленных объяснений.
"Галлюцинация" или предвзятость ИИ связаны с некоторыми текущими подходами в технологиях ИИ. Генеративный ИИ достигает связности и разумности, предсказывая "наиболее вероятное" содержание, но этот метод иногда не может подтвердить подлинность. Кроме того, обучение