Я уже давненько использую ИИ в повседневных задачах. И наверняка вы знаете, что многие из них платные. А если вы хотите использовать еще их и в своих инструментах. То ценник возрастает намного, конечно зависит от количества запросов. Но все же, это обходится дороговато. Т.к. используется железо с видеокартами.
Но у меня как раз есть домашний микро сервер с "видюхой". И мне стало интересно поднять на нем какую-нибудь текстовую модель. После некоторых экспериментов, я сделал возможность общаться с ИИ через бота.
На данный момент это работает в телеграм и discord.
Команды:
!ai [ваш запрос]
и
/ai [ваш запрос]
Модель запущена не большая. Но во время тестов, она смогла ответить на все вопросы. При этом, у неё нет проблем с русским языком.
Приятного пользования!