- Implementació d'un entorn d'IA privat mitjançant l'ús d'Ollama i Continue.
- Ús de models especialitzats com Qwen2.5-Coder per equilibrar potència de xat i velocitat d'autocompletat.
- Comparativa entre l'ecosistema de solucions basades en el núvol i la sobirania de dades a servidors locals.
Avui dia, gairebé tots els que programem hem provat alguna eina de IA que ens faci un cable. Solucions com GitHub Copilot o Cursor són una passada perquè us suggereixen blocs sencers de codi en un obrir i tancar d'ulls. No obstant això, hi ha un detall important que no podem passar per alt: perquè aquestes eines funcionin, normalment el teu codi viatja cap a servidors externs, cosa que pot ser un problema seriós si treballes amb projectes confidencials o sota estrictes acords de privadesa.
La bona notícia és que ja no cal vendre l'ànima al diable ni pagar subscripcions mensuals per tenir un assistent potent. Actualment és totalment viable muntar un sistema d'autocompletat i xat privat utilitzant models de codi obert, una targeta gràfica decent i un parell d'eines gratuïtes. En aquest sentit, veurem com deixar llest un flux de treball que no depengui de ningú més que del teu propi maquinari.
Copilot davant la sobirania dels models locals
Si posem en una balança el servei de GitHub i una solució pròpia, la diferència principal és el control. Mentre que Copilot és extremadament senzill d'instal·lar i llest per utilitzar, implica que les teves dades surtin de la teva xarxa local i que paguis una quota si no ets estudiant o mantens projectes open source. D'altra banda, un stack local us ofereix un control absolut sobre el model i la privadesa total del teu codi.
Això sí, no ens enganyem: muntar el teu propi servidor no vol dir que tot sigui gratis. Cal tenir en compte el cost inicial dels components i el consum elèctric de tenir una GPU donant canya. No pretenem replicar cada petita funció de la versió Enterprise de Microsoft, sinó cobrir el dia a dia d'un desenvolupador sense que la informació abandoni la infraestructura de lempresa o de casa.
Arquitectura tècnica i requisits bàsics
El funcionament és força lineal i lògic. Bàsicament, VS Code s'encarrega de recollir el context del codi i enviar-lo a l'extensió Continue. Aquesta darrera actua com el pont o intermediari que es comunica amb Ollama, que és el motor encarregat d'executar els models de llenguatge especialitzats en programació a la teva pròpia màquina.
Perquè això no vagi a pedals, necessitaràs tenir instal·lat Visual Studio Code i un servidor on corri Ollama. És molt recomanable comptar amb una GPU moderna amb suficient VRAM i disposar d'uns 10 o 15 GB d'espai lliure al disc. El millor de tot és que no cal registrar-se en cap plataforma ni crear comptes sospitosos.
Guia pas a pas: Instal·lació i models
Per aconseguir un rendiment òptim, el truc està en no fer servir un sol model per a tot. L'ideal és separar les tasques de xat de les d'autocompletat. Per a l'anàlisi profunda i el xat, podem estirar qwen2.5-coder:7b o fins i tot el de 14b si tenim més de 12 GB de VRAM. Aquests models són més lents però molt més intel·ligents.
Per a l'autocompletat, que és el que apareix mentre escrius, necessitem una cosa instantània. Aquí és on entra qwen2.5-coder:1.5b. Com que és més lleuger, permet que els suggeriments flueixin sense lag. Un cop descarregats mitjançant l'ordre ollama pull, podem verificar que estan operatius executant un simple ollama list a la terminal.
Si tens el servidor d'Ollama en una màquina diferent d'on programes, recorda que per defecte només escolta localhost. Per arreglar-ho, heu d'editar la configuració del servei a Ubuntu mitjançant sudo systemctl edit ollama i afegir la variable d'entorn OLLAMA_HOST=0.0.0.0:11434. Després de reiniciar el servei, comprova la connexió des del teu PC amb un curl per assegurar-te que el tallafocs no estigui bloquejant el pas.
Configuració de Continue al Visual Studio Code
Continue és probablement l'extensió més robusta per connectar models locals. Només cal cercar-la al marketplace d'extensions, instal·lar-la i reiniciar l'editor. Un cop aparegui la icona a la barra lateral, hem d'entrar a Local Config i editar el fitxer config.yaml per dir exactament on és el nostre servidor d'IA.
En aquest fitxer hem de definir els models. Per al xat, configurem el model de 14B i li donem un systemMessage específic perquè sigui directe i no se'n vagi per les branques amb explicacions innecessàries. Per autocompleta, assignem el model de 1.5B. Desant els canvis, VS Code ja sap a qui preguntar cada vegada que escrivim una línia de codi.
Posant a prova l'assistent local
Per comprovar que tot frega la perfecció, l'ideal és fer servir un script amb errors comuns: variables no inicialitzades, concatenacions antigues de strings o fallades de tipat. En seleccionar el codi i prémer Ctrl + L, el model gran analitzarà la selecció i proposarà millores. El més còmode és fer servir el botó Apply per substituir el codi vell pel nou sense haver de copiar i enganxar a mà.
Pel que fa a l'autocompletat, només cal començar a escriure una funció nova. Després d'un breu instant, veuràs el text ombrejat en gris suggerint-te la resta de la lògica. Si el suggeriment és correcte, només cal prémer la tecla Tabulador. Si notes que no respon, un truc ràpid és reiniciar l'amfitrió d'extensions des de la paleta d'ordres del desenvolupador.
Altres alternatives i l'ecosistema d'IA
Si per alguna raó la ruta d'Ollama no et convenç, hi ha altres opcions al mercat. Amazon té la seva CodeWhisperer, que és molt potent especialment per a Java i Python. Per als que busquen una mica més basat en la comunitat, Capità Stack és una curiositat que fa servir els resultats de StackOverflow en lloc d'una xarxa neuronal pura.
També tenim eines com Cometa, molt enfocada a JupyterLab, o AlphaCode de Google, dissenyada per a la programació competitiva. Fins i tot hi ha propostes més senzilles com Clara Copilot. No obstant, cap ofereix la privadesa i personalització que et dóna el combo de Continue i Ollama corrent a la teva pròpia GPU.
Expectatives reals i rendiment
És important no deixar-se portar per l'eufòria i entendre que un model de 7B o 14B no destronarà els gegants del núvol en tasques d'arquitectura extremadament complexes. A més, la indexació de repositoris gegants pot xuclar força memòria RAM al principi. La qualitat final sempre dependrà de la potència de la targeta gràfica.
Si teniu una RTX 3060 de 12GB, l'experiència serà molt bona. Però si escales a una RTX 4090 de 24GB, el rendiment es torna professional, amb respostes gairebé instantànies al xat. En qualsevol cas, per al desenvolupament quotidià, la generació de proves unitàries i la documentació, aquesta solució és més que competitiva.
Havent analitzat totes les opcions, queda clar que podem passar dels serveis de subscripció a un entorn on nosaltres manem. Ja sigui configurant Ollama amb models Qwen per tenir privadesa total, o provant eines com CodeWhisperer, la IA s'ha tornat la mà dreta del programador. Al final, el que importa és trobar lequilibri entre rendiment, cost i seguretat de les dades perquè el flux de treball sigui el més fluid possible.