«Privata» è diventata una parola di moda nell'intelligenza artificiale e non sempre significa la stessa cosa. Per un'azienda, l'importante è sapere esattamente dove passano i suoi dati quando qualcuno del team chiede qualcosa all'IA.
Che cos'è un'IA privata per le aziende?
Un'IA privata è un modello di intelligenza artificiale che funziona su un'infrastruttura controllata dalla tua azienda o da qualcuno di fiducia per tuo conto: un server nel tuo ufficio o un server dedicato solo a te. I tuoi documenti, le tue domande e le risposte restano lì. Non vengono condivisi con altre aziende né usati per addestrare un modello altrui.
Il contrario è usare un servizio di IA condiviso: scrivi in un sito web o in un'applicazione e la tua richiesta viaggia verso i server di un'altra azienda, che la elabora insieme a quella di milioni di utenti.
Perché i modelli open source?
Un modello open source è uno i cui pesi, cioè ciò che il modello ha appreso, vengono pubblicati perché chiunque li possa scaricare ed eseguire sulle proprie macchine. È questo che permette di avere un'IA privata:
- Funziona dove decidi tu: nel tuo ufficio o su un server dedicato in Europa.
- Non dipendi da un unico fornitore. Se esce un modello migliore per la tua attività, si cambia.
- Si può scegliere in base all'attività. Ci sono modelli più piccoli e rapidi per attività semplici e altri più grandi per attività che richiedono più ragionamento.
Attenzione a una sfumatura: il fatto che un modello si possa scaricare non sempre significa che tutto sia pubblicato, come i dati con cui è stato addestrato. Per un'azienda, la cosa pratica è che si possa eseguire sulle sue macchine e che la sua licenza consenta l'uso commerciale.
Dove possono stare i tuoi dati?
- Nel tuo ufficio. Server e GPU dentro la tua rete. I tuoi dati e le tue richieste non ne escono.
- Su una GPU dedicata in Europa. Un server solo per la tua azienda in un data center europeo. Non acquisti hardware e la potenza è solo tua.
- Misto. I tuoi dati nel tuo ufficio e l'IA su una GPU esterna.
Ognuna delle tre può essere privata. La differenza sta in chi possiede la macchina, chi la mantiene e cosa succede se qualcosa va storto.
Un'IA privata è meno intelligente?
Non è necessariamente così. I modelli open source sono migliorati molto e, per le attività di un'azienda (leggere documenti, redigere, riassumere, classificare o rispondere con i tuoi dati), di solito danno buoni risultati. Bisogna sceglierli bene: non serve il modello più grande per leggere le bolle di consegna.
Inoltre, ciò che migliora di più le risposte di solito non è la dimensione del modello, ma ciò che ha davanti: i tuoi documenti, cercati bene, con un sistema RAG. Un'IA privata con i tuoi documenti conosce la tua azienda meglio di una enorme che non li ha mai visti.
Cosa chiedere per sapere se un'IA è davvero privata?
Queste sono le domande che faremmo a qualsiasi fornitore, anche a noi stessi:
- Dove gira il modello? In quale paese e su quale macchina, e se quella macchina è solo per te.
- C'è un fallback su servizi esterni? Alcuni sistemi mandano la richiesta a un altro fornitore se il modello principale è sovraccarico. Può essere ragionevole, ma devi saperlo e poter dire di no.
- I miei dati vengono usati per addestrare qualcosa? La risposta deve essere un no per iscritto, a meno che tu non chieda un fine-tuning del tuo modello.
- Chi può vedere le conversazioni? Quali persone della tua azienda e del fornitore, e se resta una traccia.
- Rispetta i permessi? Un dipendente non dovrebbe ottenere dall'IA ciò che non può vedere nel programma.
- Cosa succede se lascio il servizio? Come recuperi i tuoi dati e come vengono cancellati.
Cosa dicono il GDPR e il Regolamento europeo sull'IA?
Il GDPR chiede, tra le altre cose, di sapere dove vengono trattati i dati personali, con quale scopo e con quali garanzie. Avere l'IA nel tuo ufficio o in Europa, con un contratto chiaro, rende molto più facile rispondere a queste domande. Il Regolamento europeo sull'IA aggiunge obblighi a seconda dell'uso, come avvisare le persone quando parlano con un'IA. Un'IA privata non ti esime dal rispettarli, ma ti mette in una posizione migliore per farlo. Per dubbi concreti, rivolgiti al tuo consulente per la protezione dei dati.
Come lo facciamo in BionicAdri
Lavoriamo con modelli open source su server in Europa e negli uffici di chi ne ha bisogno. Sulla piattaforma, ogni cliente ha il proprio server, e ti raccontiamo in dettaglio dove gira l'IA e quali eccezioni ci sono, come il fallback su servizi esterni quando il modello principale è sovraccarico.
Oltre ad ADRI, realizziamo IA privata su misura: server con GPU a noleggio con l'IA privata già in funzione, nel nostro cloud europeo o nel tuo ufficio; un modello open source dedicato solo a te; server acquistati da te, installati e mantenuti; e sistemi RAG sui tuoi documenti. Se è una condizione che nulla esca da lì, si realizza senza fallback esterno. Se ti interessa il lato pratico dell'hardware, leggi server IA con GPU: acquistare o noleggiare.
Domande frequenti
Che differenza c'è tra un'IA privata e un'IA nel cloud?
Un'IA in un cloud condiviso elabora la tua richiesta su server di un'altra azienda insieme a quella di molti utenti. Un'IA privata funziona su una macchina solo per te, nel tuo ufficio o su un server dedicato.
Un'IA privata può stare nel cloud?
Sì, se la macchina è solo tua e sai dove si trova. Una GPU dedicata in un data center europeo è privata anche se non è nel tuo ufficio.
I modelli open source sono gratuiti?
Di solito il modello può essere scaricato senza pagare una licenza, anche se ognuno ha le proprie condizioni d'uso. Quello che costa è la macchina che lo fa funzionare e il lavoro di installarlo e mantenerlo.
Un'IA privata è conforme al GDPR?
Rende più facile rispettarle, perché sai dove vengono trattati i dati e chi li vede. La conformità dipende anche da come la usa la tua azienda e dai contratti che firmi.
- IA su misura
- Privacy
- Europa