Cada vez mais empresas perguntam se podem ter «a sua própria IA» no escritório. É possível. A pergunta útil não é se é possível, mas sim o que é preciso para que funcione bem no primeiro dia e continue a funcionar dentro de um ano.
Porquê ter um servidor de IA no seu próprio escritório?
As razões habituais são três:
- Os dados não saem da sua rede. Documentos, consultas e respostas ficam na sua máquina.
- Controlo. Decide que modelo usa, quando é atualizado e quem tem acesso.
- Custo previsível. Paga o equipamento e a sua manutenção, não cada consulta.
Em troca, a potência é a que comprar e o equipamento tem de ser cuidado. Para muitas empresas basta ter os dados num servidor próprio e a IA fora, numa GPU dedicada na Europa. Vemos isso mais abaixo.
O que é preciso para o montar?
- Uma GPU com memória suficiente. É a peça que faz o trabalho da IA. O que mais conta é a sua memória: o modelo tem de caber nela.
- O resto do servidor à altura. Memória do sistema, disco rápido para os modelos e os documentos, e uma fonte de alimentação que aguente a GPU.
- Um local adequado. Uma máquina com GPU aquece, faz ruído e consome. Melhor numa sala ventilada do que debaixo de uma mesa, e com um sistema de alimentação ininterrupta.
- Rede. Ligada à rede do escritório, com acesso apenas de dentro ou através de uma ligação cifrada.
- Software. O sistema, os controladores da GPU, o programa que serve o modelo e os modelos escolhidos.
Que GPU preciso para um servidor de IA?
Depende de duas coisas: que modelo quer usar e quantas pessoas o vão usar ao mesmo tempo. Um modelo maior precisa de mais memória na GPU; mais pessoas ao mesmo tempo precisam de mais margem. Não há uma resposta que sirva para todos e desconfie de quem lhe der essa resposta sem perguntar o que vai fazer.
O sensato é começar pela tarefa: ler faturas, responder com os seus documentos, redigir ou resumir chamadas não exigem o mesmo. A partir daí escolhe-se o modelo e, com o modelo, a GPU. Se tiver dúvidas, é mais sensato testar primeiro numa GPU alugada do que comprar a mais.
Comprar o servidor ou alugá-lo?
As duas opções fazem sentido. Alugado, o servidor pode estar num centro de dados europeu ou no seu próprio escritório:
| Comprado, no seu escritório | Alugado, na Europa | |
|---|---|---|
| Onde estão os dados | Na sua rede | Num servidor dedicado a si, na Europa |
| Investimento inicial | Compras o equipamento | Não compras nada |
| Se ficar curto | É preciso ampliar ou mudar o equipamento | Muda-se a GPU |
| Manutenção | Contratas isso à parte ou a tua equipa trata disso | Pode estar incluído no aluguer |
| Ruído, calor e avarias | No teu escritório | Não são um problema teu |
Também há um ponto intermédio: os teus dados num servidor do teu escritório e a IA numa GPU fora. É a isto que, na BionicAdri, chamamos modalidade híbrida.
Quem mantém um servidor de IA?
Esta é a parte de que mais se esquece. Um servidor de IA precisa de:
- Atualizações do sistema e de segurança, sem estragar o que já funciona.
- Controladores da GPU atualizados e compatíveis com o programa que serve os modelos.
- Modelos atualizados: saem versões melhores e convém testá-las antes de mudar.
- Monitorização: saber se o serviço responde, se o disco enche ou se a GPU aquece, e agir antes de alguém ficar sem IA.
- Cópias de segurança da configuração e dos documentos.
- Acessos: quem entra, a partir de onde e com que permissões.
Se a tua empresa tem uma equipa de sistemas com tempo, pode fazê-lo. Se não, é melhor contratá-lo desde o início do que descobrir isso com a primeira avaria.
O que costuma correr mal
- Comprar a GPU antes de saber que modelo vai ser usado.
- Instalá-lo, fazê-lo funcionar e não lhe voltar a tocar até deixar de funcionar.
- Deixá-lo aberto à Internet sem necessidade.
- Não o testar com tarefas reais da empresa antes de o considerar validado.
Como o fazemos na BionicAdri
Além do ADRI e da plataforma, trabalhamos todos os dias com servidores de IA com GPU, começando pelos nossos. Por isso oferecemos as duas opções: se comprares o servidor, instalamo-lo e, se quiseres, fazemos a manutenção (atualizações, monitorização e reparações); se preferires não comprar nada, alugamo-lo já montado, com a IA privada a funcionar e a manutenção e as atualizações incluídas, nos nossos servidores na Europa ou no teu escritório. O processo é o de qualquer projeto à medida: estudamos o teu caso, propomos equipamento, modelo e local, instalamo-lo e testamo-lo com as tuas tarefas.
Tens isso explicado em IA à medida para empresas. Se queres que responda com os teus documentos, vê RAG à medida para empresas. Ou conta-nos o teu caso.
Perguntas frequentes
Quanto custa um servidor de IA para a empresa?
Depende do modelo, de quantas pessoas o usam ao mesmo tempo e de se o compras ou alugas. Por isso, é feito com base em orçamento: damos-te o valor antes de decidires nada.
Posso usar um computador normal como servidor de IA?
Para testar, às vezes sim. Para que uma equipa o use todos os dias, é necessária uma GPU com memória suficiente para o modelo e uma máquina preparada para trabalhar sem parar.
Preciso de ligação à Internet?
Para usar a IA, não: pode funcionar apenas dentro da tua rede. Para o atualizar e manter à distância, é necessária uma ligação cifrada, que pode ficar limitada a essas tarefas.
Quem mantém o servidor?
Se o alugares connosco, a manutenção e as atualizações estão incluídas. Se o comprares, podes contratar-nos a manutenção ou deixá-la a cargo da tua equipa de sistemas.
- IA à medida
- GPU
- Segurança