Bygga en lagmedveten AI med miljarder vietnamesiska dong i investeringar

Upptäck ett banbrytande AI-projekt med miljarder investerade dong för att förstå lagen in i minsta detalj.

Báo Khoa học và Đời sống•04/06/2025

Teknikvärlden är upprymd över nyheten om att en medelstor advokatbyrå nyligen spenderade 35 000 dollar – motsvarande nästan en miljard vietnamesiska dong – för att anlita en utvecklare för att bygga ett helt privat system för artificiell intelligens. Överraskande nog, istället för att kritisera de "slösaktiga" utgifterna, anser majoriteten av åsikterna att siffran är "extremt rimlig" och till och med "spottbillig".

Historien börjar när en utvecklare vid namn u/eeko_systems delade på Reddit om den största affären i sin karriär. Istället för att använda lättillgängliga AI-tjänster som ChatGPT eller Claude, bestämde sig denna advokatbyrå för att investera i att bygga en helt oberoende "AI-fästning", inte beroende av någon leverantör.

Systemet är byggt på Metas LLaMA 3 70B-modell, distribuerad på CoreWeave-plattformen med en dubbel A100 GPU-konfiguration – de kraftfullaste grafikprocessorerna som för närvarande finns tillgängliga för AI. Det unika är att all data och bearbetning sker helt inom en miljö som kontrolleras av advokatbyrån; inte en enda byte information lämnar deras system.

För att förstå komplexiteten i detta system, föreställ dig en "superassistent" som kan läsa och förstå tusentals sidor juridiska dokument på några sekunder, besvara komplexa juridiska frågor, sammanfatta fall och till och med analysera kontrakt i detalj. Allt detta görs via ett enkelt webbgränssnitt som vilken advokat som helst på byrån kan använda.

Tekniken bakom detta system kräver en sofistikerad kombination av många komponenter. ChromaDB fungerar som ett massivt "digitalt bibliotek" som omvandlar alla dokument till ett dataformat som AI kan förstå.

LlamaIndex fungerar som en "intelligent sekreterare" som hjälper AI att söka efter och extrahera korrekt information från berg av dokument. Samtidigt tar n8n rollen som "koordinator" och automatiserar allt från att ladda upp nya dokument till systemet till att skicka aviseringar via Slack och e-post.

Det som imponerade på teknikvärlden var inte bara dess funktionalitet utan även dess säkerhetsnivå. Systemet är utrustat med JWT-autentisering, IP-baserad åtkomstkontroll och fullständig aktivitetsloggning. Dessa är obligatoriska krav inom juridikbranschen, där informationsläckor kan leda till allvarliga rättsliga konsekvenser.

Men varför anses 35 000 dollar vara "billigt" för ett sådant system? Svaret ligger i driftskostnaderna. Att hyra dubbla A100-grafikkort på CoreWeave kan kosta mellan 6 000 och 8 000 dollar per månad, vilket innebär att enbart infrastrukturkostnaderna för ett år kan uppgå till 72 000 till 96 000 dollar. De 35 000 dollarna för att installera hela systemet motsvarar endast 4–5 månaders driftskostnader.

Dessutom, om en advokatbyrå bestämmer sig för att bygga ett eget AI-team, måste de spendera minst 400 000 dollar årligen på AI, DevOps och säkerhetsexperter, för att inte tala om den tid och de risker som är förknippade med utvecklingsprocessen. Företagslösningar från jättar som Microsoft eller Google kostar vanligtvis mellan 100 000 och 500 000 dollar, men förlitar sig fortfarande på tredjeparts-API:er – något som många advokatbyråer inte har råd med.

Intressant nog, just som den här historien debatterades hett, inträffade en annan viktig händelse. DeepSeek, en AI-startup från Kina, släppte just en "nedskalad" version av sin R1-modell, som kan köras på en enda GPU istället för de dussintals GPU:er som tidigare använts.

DeepSeeks framväxt väcker dock också frågor om framtiden. Är användningen av teknik från en kinesisk startup förenlig med de juridiska efterlevnadskrav som amerikanska advokatbyråer ställer? Kommer den mindre modellens prestanda att vara tillräcklig för att hantera komplexa juridiska uppgifter? Det här är frågor som advokatbyråer noggrant behöver överväga.

Intressant nog, medan många andra branscher fortfarande tvekar att anamma AI, har advokatbyråer visat överraskande beslutsamhet. Kanske beror det på att tid bokstavligen är pengar inom juridikbranschen. En AI:s förmåga att analysera tusentals sidor dokument på minuter istället för veckor skulle kunna ge enorma vinster.