Последнее время постоянно использую Perplexity

Последнее время постоянно использую Perplexity. Писал про него ранее, но тогда пользовался бесплатный тарифным планом. Сейчас купил на год Pro и пользуюсь им. На этом плане можно установить отдельный браузер с интеграцией в сервис.

Не могу сказать, что он прям как-то лучше ищет и компонует информацию, но в целом пользоваться удобнее. Там появляются два дополнительных режима. Если первый, бесплатный, это просто быстрый поиск, то второй делает более глубокое исследование на основе бОльшего количества источников, а третий режим прям проекты создаёт, в том числе пишет код, формирует интерфейсы для взаимодействия с кодом и т.д. В этом же режиме можно и агентов создавать.

Сразу скажу, что полностью написать какое-то функциональное приложение у меня не получилось. Немного поразбирался, но сходу не осилить. На основе простых промптов получался нерабочий мусор. Надо плотно изучать тему, чтобы эффективно пользоваться.

Агентов пока тоже не приспособил к решению конкретных задач. Всё это только в описаниях и демонстрациях круто выглядит, а как начинаешь разбираться, всё не так радужно. Даже режим исследования, где берётся информация из интернета, и где по идее не должно быть фантазий, иногда врёт. Много раз сталкивался. AI формирует итоговый результат с какими-то фактами и тут же под ними ссылки на источник. Идёшь по ссылке, а там этой информации нет. Всё надо перепроверять.

Рассказать хотел не об этом. Длинная подводка получилась. Есть open source проект Perplexica (https://github.com/ItzCrazyKns/Perplexica), как альтернатива коммерческому Perplexity. Мне он показался интересным. Посмотрел как он устроен и в целом понял реализацию. Это прям развитие одной моей старой идеи со своим поисковым движком, которую я когда-то давно озвучивал.

В основе Perplexica лежит поисковой движок SearXNG (https://t.me/srv_admin/2050), про который я писал ранее. Он собирает выдачу с разных поисковиков и объединяет её. Получается объединённая выдача без привязки к вашим персональным данным. То есть аннонимизированная для поисковика.

Perplexica берёт выдачу от SearXNG и отдаёт её на анализ выбранному AI. Это может быть как коммерческий сервис, типа OpenAI, так и self-hosted модель. Последнее особенно интересно. Мне видится обработка результатов поиска относительно простой задачей для AI, с которой могут справиться небольшие локальные модели.

К сожалению, у меня нет вообще никакого железа с видеокартами, чтобы потестировать работу локальных моделей. Если у вас таковое есть, то можете попробовать Perplexica. У неё простая настройка, описание есть в репозитории. Легко и быстро интегрируется с моделью, запущенной через Ollama (https://t.me/srv_admin/3673).

Было бы интересно узнать результаты реальных тестов этого поиска с локальной моделью. Может кто-то сделает? Насколько это удобно и жизнеспособно.

Источник: t.me

Комментарии: