Tutorial de Instalação
Modelos de IA Suportados
O projeto suporta diferentes modelos de linguagem (LLMs) através do LM Studio:
- Mistral
- Llama 2
- Phi-2
- Qualquer outro modelo compatível com o LM Studio
Como configurar o LM Studio:
- Baixe e instale o LM Studio de https://lmstudio.ai/
- Baixe o modelo de sua preferência através da interface do LM Studio
- Inicie o servidor local na porta 1234 (padrão)
- Configure o arquivo .env com as informações do seu modelo
Configurações Recomendadas:
- Context Length: 4096
- Temperature: 0.7
- Top P: 0.95
- Max Tokens: 2048
Pré-requisitos
- Node.js 18+ instalado
- Python 3.8+ instalado
- PostgreSQL instalado
- LM Studio instalado
- Conta Ngrok (gratuita)