Construyendo una IA con conocimiento de la ley con miles de millones de dongs vietnamitas en inversión.

La comunidad tecnológica está revolucionada con la noticia de que un bufete de abogados de tamaño mediano gastó recientemente 35.000 dólares —equivalentes a casi mil millones de dongs vietnamitas— en contratar a un desarrollador para crear un sistema de inteligencia artificial totalmente privado. Sorprendentemente, en lugar de criticar el gasto "despilfarrador", la mayoría de las opiniones consideran la cifra "sumamente razonable" e incluso "bastante barata".

La historia comienza cuando un desarrollador llamado u/eeko_systems compartió en Reddit el mayor negocio de su carrera. En lugar de usar servicios de IA disponibles como ChatGPT o Claude, este bufete de abogados decidió invertir en la creación de una "fortaleza de IA" completamente independiente, sin depender de ningún proveedor.

El sistema se basa en el modelo LLaMA 3 70B de Meta, implementado en la plataforma CoreWeave con una configuración de GPU dual A100, los procesadores gráficos más potentes disponibles actualmente para IA. Su singularidad reside en que todos los datos y el procesamiento se realizan íntegramente dentro de un entorno controlado por el bufete; ni un solo byte de información sale de su sistema.

Para comprender la complejidad de este sistema, imagínese un "superasistente" capaz de leer y comprender miles de páginas de documentos legales en segundos, responder preguntas jurídicas complejas, resumir casos e incluso analizar contratos en detalle. Todo esto se realiza a través de una sencilla interfaz web que cualquier abogado del bufete puede utilizar.

La tecnología que sustenta este sistema requiere una sofisticada combinación de numerosos componentes. ChromaDB funciona como una enorme "biblioteca digital", transformando todos los documentos a un formato de datos que la IA puede comprender.

LlamaIndex actúa como una "secretaria inteligente", ayudando a la IA a buscar y extraer información precisa de grandes cantidades de documentos. Mientras tanto, n8n asume el rol de "coordinador", automatizando todo, desde la carga de nuevos documentos al sistema hasta el envío de notificaciones a través de Slack y correo electrónico.

Lo que impresionó a la comunidad tecnológica no fue solo su funcionalidad, sino también su nivel de seguridad. El sistema cuenta con autenticación JWT, control de acceso basado en IP y registro completo de actividad. Estos son requisitos obligatorios en el sector legal, donde las filtraciones de información pueden acarrear graves consecuencias jurídicas.

Sin embargo, ¿por qué se considera que 35 000 dólares es un precio bajo para un sistema de este tipo? La respuesta reside en los costes operativos. Alquilar dos GPU A100 en CoreWeave puede costar entre 6000 y 8000 dólares al mes, lo que significa que los costes de infraestructura durante un año pueden alcanzar entre 72 000 y 96 000 dólares. Los 35 000 dólares necesarios para configurar todo el sistema equivalen a tan solo 4 o 5 meses de costes operativos.

Además, si un bufete de abogados decide crear su propio equipo interno de IA, tendrá que invertir al menos 400 000 dólares anuales en expertos en IA, DevOps y seguridad, sin mencionar el tiempo y los riesgos que implica el proceso de desarrollo. Las soluciones empresariales de gigantes como Microsoft o Google suelen costar entre 100 000 y 500 000 dólares, pero aún dependen de API de terceros, algo que muchos bufetes de abogados no pueden permitirse.

Curiosamente, justo cuando esta noticia estaba siendo objeto de un acalorado debate, ocurrió otro acontecimiento importante. DeepSeek, una empresa emergente de IA de China, acaba de lanzar una versión "reducida" de su modelo R1, capaz de funcionar con una sola GPU en lugar de las docenas de GPU que utilizaba anteriormente.

Sin embargo, el surgimiento de DeepSeek también plantea interrogantes sobre el futuro. ¿Es compatible el uso de tecnología de una startup china con los requisitos de cumplimiento legal de los bufetes estadounidenses? ¿Será suficiente el rendimiento del modelo más pequeño para gestionar tareas legales complejas? Estas son preguntas que los bufetes deben considerar cuidadosamente.

Curiosamente, mientras que muchos otros sectores aún se muestran reticentes a adoptar la IA, los bufetes de abogados han demostrado una sorprendente determinación. Quizás esto se deba a que, en el sector legal, el tiempo es literalmente dinero. La capacidad de una IA para analizar miles de páginas de documentos en minutos, en lugar de semanas, podría generar enormes beneficios.