Танцуют с AI бесплатно и без регистрации

ТАНЦУЮТ С AI ВСЕ - причём бесплатно, без регистрации, локально и быстро

Long story short: По опросам, во многих компаниях AI - это "нет, не слышал, он туповат" или "ой, опасно, за данные переживаю" или "ой, сложно и дорого внедрять". Тык вот пару недель назад ситуация сильно начала меняться. Теперь любой из вас или ваша компания может поставить себе модель от Meta уровня GPT 3.5 (а скоро и 4) быстро и бесплатно и безопасно

Короткая инструкция по внедрению AI на любом компе:

1⃣ Ставим docker (инструмент для изолированного быстрого запуска приложух на любом компе)

2⃣ Качаем и ставим через docker OpenSource интерфейс (как ChatGPT) + сам сервис работы с моделями отсюда - https://docs.openwebui.com/getting-started/ через команду "docker run -d -p 3000:8080 -v ollama:/root/.ollama -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:ollama"

3⃣ Все само запустится на компьютере, просто заходим по ссылке - http://localhost:3000/ и видим интерфейс

4⃣ Через Settings можно скачать любую умную модель (нам нужна llama 3 from Meta или других челов https://ollama.com/library) или качаем бесплатно GGUF (фенси удобный формат) модель отсюда - https://huggingface.co/models?sort=trending&search=gguf

5⃣ В интерфейсе выбираем из списка модель (что скачали уже) и пользуемся локально. Profit. (см. скриншот)

Вот и всё. Чем мощнее комп/сервер, тем быстрее будет работать.

- Всего 3 составляющие нужны для запуска - Интерфейс + Модель + Железо. Ну и чуть чуть понимания кодинга

- Теперь компании могут быстро ставить себе и тестировать адекватность моделей + дообучать\файтюнить их

Сильно продавливаю у себя в компании, чтобы так можно было на всех развернуть и вам советую!

#Satisfaction @threepillarspath