Lokalni AI
Kako radim: jedan čovek, lokalni AI i alati koje sam sam napravio
Danju sam trener stonog tenisa, u sali od jutra do kasno uveče. Sajtove, programe i lokalni AI radim posle toga. To je moguće samo zato što sam za skoro svaki posao napravio alat koji ga radi umesto mene — ili bar umesto mog pamćenja.
Čime se bavim
- sajtovi za firme, ordinacije, klubove i saveze — od jedne strane do sajta sa hiljadama rezultata i dokumenata
- mali programi za posao: putni nalozi, kartoteka koja radi bez interneta, sudijski semafor
- lokalni AI: modeli koji rade na mojim mašinama, za tekst, dokumenta, slike i glas
- održavanje sajtova — ono što napravim to i održavam, neke sajtove održavam već 13 godina
Šta koristim
| Za šta | Čime |
|---|---|
| glavni pomoćnik za kod i proveru | Claude Code (AI iz oblaka) |
| lokalni jezički modeli | četiri NVIDIA DGX Spark mašine, modeli Qwen, DeepSeek i drugi |
| slike i glas | ComfyUI sa Qwen-Image modelom, lokalni model za glas |
| upravljanje sa telefona | sopstveni Telegram bot |
| beleške o ljudima i dogovorima | Obsidian („drugi mozak“) |
| sajtovi | statični sajtovi u Python-u, Next.js, sopstveni server i hosting |
Alati koje sam napravio
Kad mi neki posao zatreba drugi put, napravim alat. Danas ih na spisku ima 392, uz 87 aplikacija i 19 komandi koje mogu da pokrenem sa telefona. Najvažniji su:
- „kapije“ — automatske provere koje padnu kad nešto ne valja: pokvaren tekst, mrtva veza, slab kontrast, sajt koji se razlije na telefonu. Ima ih 99, a pravilo je da se svaka nova prvo namerno obori, da se vidi da ume da padne
- zapisane zamke — više od 180 grešaka koje su me bar jednom koštale sat vremena, sa receptom kako se izbegavaju; čita ih i AI pre nego što počne da radi
- Telegram bot: stanje mašina, šta čeka u kom projektu, beleške i podsetnici — dok sam u sali
- „drugi mozak“: šta smo se dogovorili, sa kim i kada — jedno mesto, ne pamćenje
- spisak svega napravljenog, sa opisom i dugmetom „pokreni“ — da ne pravim isti alat dvaput
- izveštaji i uputstva: 728 izveštaja i 317 uputstava, svako merenje je zapisano
Šta sam time dobio
- jedan čovek radi posao za koji je ranije trebalo više ljudi
- posao staje na pauzu i nastavlja se — ništa ne zavisi od toga šta pamtim
- greška se ne ponavlja: kad se jednom plati, postane provera koja je hvata zauvek
- pokazujem gotovo, a ne obećavam: firmi prvo napravim predlog sajta, pa tek onda razgovaramo
- lokalni modeli rade masovan posao bez pretplate i bez slanja podataka napolje
Mane mog pristupa
- sistem je velik — i alati se održavaju; kad održavanje počne da jede vreme za posao, to je znak da nešto treba izbaciti
- zavisim od jednog jakog AI pomoćnika iz oblaka za najteže poslove; lokalni modeli ga za sada dopunjuju, ne zamenjuju
- jedan sam: kad nisam tu, posao stoji — alati to ublažavaju, ali ne rešavaju
- pravim mnogo stvari unapred, bez naručioca; neke su postale plaćen posao, a neke nisu
- oprema troši struju i greje se, pa leti mašine ponekad moram da gasim
Šta bi moglo bolje
- redovniji način da nađem nove naručioce — sada sve ide kroz poznanstva
- jasno merenje koji projekat donosi novac, a koji samo zanima mene
- mesečno održavanje dogovoreno od prvog dana, a ne naknadno
- da lokalni modeli preuzmu još više posla, kako postaju bolji na srpskom
Šta je mnogo bolje nego ranije
Kad sam 1997. prodao prvi sajt, svaka izmena je bila ručni posao, a provera se svodila na to da neko otvori stranu i pogleda. Danas se svaka strana sama izmeri pre objave, svaka brojka ima izvor, a predlog sajta za firmu nastaje za veče, ne za mesec.
Najveća promena nije brzina. Najveća promena je to što se greška ne zaboravlja — postane provera koja je hvata svaki sledeći put.
