Локальная модель
Локальная модель — данные не покидают компьютер
Если модель запущена у вас на машине, Vkladka будет работать через неё: ни ключа, ни интернета, ни счёта за запросы.
Что нужно
Ollama или LM Studio и загруженная модель
Запустите Ollama — обычно она слушает 127.0.0.1:11434 — или LM Studio, и загрузите в неё модель. Имя модели указывается явно: программа его не угадывает. Если соединение есть, а моделей не видно, она так и скажет.
Что это даёт
Ни одного запроса наружу
Текст страниц и файлов остаётся на вашем компьютере: разбор идёт в браузере, а думает модель рядом. Для работы с внутренними документами это часто единственный приемлемый вариант.
Честно
Чем придётся заплатить вместо денег
Локальные модели обычно слабее больших облачных: длинная задача на много шагов даётся им хуже, а отвечают они медленнее. Поэтому разумно держать оба варианта: свой ключ для сложного, локальную модель — для чувствительного.
Попробуйте на своей модели
Расширение для Chrome и Edge. Локальная модель — без ключа и без оплаты.