Lokalni AI
Kako pravim ilustracije za članke lokalnim AI-jem: hardver, softver, model i postupak
Svaka slika uz ove tekstove napravljena je na mojoj mašini, bez ijednog servisa iz oblaka i bez pretplate. Ovo je tačan postupak, korak po korak.
Hardver
| Šta | Čime |
|---|---|
| Računar | NVIDIA DGX Spark — čip GB10, 128 GB memorije koju dele procesor i grafika, Linux |
| Memorija za slike | oko 27 GB dok je model učitan |
| Šta još radi na istoj mašini | jezički model od oko 63 GB — uporedo, bez gašenja |
Spark nije uslov. Isti model radi i na računaru sa jačom grafičkom karticom, samo sporije ili u manjoj rezoluciji. Spark sam izabrao zato što zajednička memorija od 128 GB dozvoljava da slike i tekst rade istovremeno.
Softver
- ComfyUI 0.37.0 — besplatan program koji pokreće modele za slike i prima poslove preko mreže
- Python skripta koja šalje posao ComfyUI-ju, čeka sliku i preuzima je
- Pillow za proveru i pripremu slike, i program koji gradi sajt
Model
| Deo | Fajl | Licenca |
|---|---|---|
| model za slike | Qwen-Image-2512, fp8 | Apache 2.0 — sme komercijalno |
| razumevanje opisa | Qwen2.5-VL 7B, fp8 | isti paket |
| dekoder slike | qwen_image_vae | isti paket |
Izabran je poređenjem istog opisa na tri modela. FLUX.1 schnell je bio najbrži (9 s), ali je najlošije izgledao i ume da ubaci izmišljen natpis. Novija verzija Qwen-Image 2.1 izgleda dobro, ali je samo za nekomercijalnu upotrebu. Qwen-Image-2512 je i najlepši i slobodan za posao.
Podešavanja
| Parametar | Vrednost |
|---|---|
| veličina | 1344 × 768 (široka, za vrh članka) |
| koraka | 28 |
| CFG | 3,0 |
| sempler | euler / simple |
| shift (ModelSamplingAuraFlow) | 3,1 |
| vreme po slici | oko 100 sekundi |
Postupak, korak po korak
- Uz svaki članak upišem kratak opis slike — na engleskom, jer ga model bolje razume. Opis stoji u istom fajlu kao i tekst, pa slika i članak ne mogu da se raziđu.
- Svakom opisu se automatski dodaje isti stil: urednička fotografija, tamnoplave senke, toplo narandžasto svetlo. Zato cela serija izgleda kao celina.
- Negativni opis kaže šta ne sme da se pojavi: tekst, slova, brojevi, logotipi, ljudi, lica, ruke.
- Skripta šalje posao ComfyUI-ju na Sparku, prati red i preuzme gotovu sliku.
- Automatska provera: slika mora biti tačne veličine i ne sme biti jednobojna — prazna slika ume da „uspe“ bez ijedne greške.
- Pogledam svaku sliku. Tražim natpise, znakove marke i izobličene predmete. Loša slika se pravi ponovo sa drugim „semenom“ — istim opisom, drugim pokušajem.
- Program koji gradi sajt od svake slike napravi WebP u više veličina, upiše tačnu širinu i visinu i opis za čitač ekrana, a za deljenje na mrežama posebnu sliku 1200 × 630.
- Pre objave automatske provere mere svaku stranu, pa tek onda ide na server.
Šta sam naučio
- licenca se proverava za tačnu verziju modela — imena su skoro ista, a pravila različita
- model ne ume ispravno da napiše tekst na srpskom, naročito ćirilicu — natpis se dodaje posle, običnim programom
- bez ljudi i lica na slikama: izmišljena osoba na sajtu firme deluje kao da tamo radi
- i slika koja „prođe“ sve automatske provere mora da se pogleda — u ovoj seriji su dve od sedam prošle sve provere, a odbacio sam ih pogledom: umesto četiri mala računara model je nacrtao pet kutija nalik ruterima, a na drugoj je na hladnjaku stajao znak nalik tuđem logotipu
Sedam ilustracija za ovu seriju napravljeno je za dvanaestak minuta, na mašini koja je u isto vreme radila i drugi posao — bez slanja ijednog opisa ili slike na tuđi server.
