Згідно зі звітом IT House від 25 червня, розробник Іван Мартінес Торо нещодавно запустив модель з відкритим кодом PrivateGPT, яка дозволяє користувачам задавати запитання на основі власних документів без підключення до Інтернету. Повідомляється, що модель з відкритим кодом PrivateGPT можна запускати локально на домашніх пристроях, а модель великої мови (LLM) з відкритим кодом під назвою gpt4 потрібно завантажити перед запуском. Потім попросіть користувачів помістити всі пов’язані файли в каталог, щоб модель одержала всі дані. Після навчання LLM користувач може поставити моделі будь-яке запитання, і вона відповість, використовуючи наданий документ як контекст. PrivateGPT може приймати понад 58 000 слів і наразі вимагає багато локальних обчислювальних ресурсів (рекомендовано процесор високого класу) для налаштування. Торо сказав, що PrivateGPT зараз знаходиться на стадії підтвердження концепції (PoC), що принаймні доводить, що велика модель, схожа на ChatGPT, може бути створена повністю локально. Передбачається, що потенціал перетворення цього PoC у реальні продукти може дозволити компаніям доступ до персоналізації, безпеки та конфіденційності. ChatGPT для підвищення продуктивності.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
Згідно зі звітом IT House від 25 червня, розробник Іван Мартінес Торо нещодавно запустив модель з відкритим кодом PrivateGPT, яка дозволяє користувачам задавати запитання на основі власних документів без підключення до Інтернету. Повідомляється, що модель з відкритим кодом PrivateGPT можна запускати локально на домашніх пристроях, а модель великої мови (LLM) з відкритим кодом під назвою gpt4 потрібно завантажити перед запуском. Потім попросіть користувачів помістити всі пов’язані файли в каталог, щоб модель одержала всі дані. Після навчання LLM користувач може поставити моделі будь-яке запитання, і вона відповість, використовуючи наданий документ як контекст. PrivateGPT може приймати понад 58 000 слів і наразі вимагає багато локальних обчислювальних ресурсів (рекомендовано процесор високого класу) для налаштування. Торо сказав, що PrivateGPT зараз знаходиться на стадії підтвердження концепції (PoC), що принаймні доводить, що велика модель, схожа на ChatGPT, може бути створена повністю локально. Передбачається, що потенціал перетворення цього PoC у реальні продукти може дозволити компаніям доступ до персоналізації, безпеки та конфіденційності. ChatGPT для підвищення продуктивності.