Lokalni AI
Lokalni AI ili ChatGPT: kada šta ima smisla
Radim i sa jednim i sa drugim, svaki dan. Odgovor nije „lokalno je uvek bolje“ — nego da se posao podeli na ono što sme napolje i ono što ne sme.
Kada je bolji AI iz oblaka
- za najteže zadatke: dugo rasuđivanje, složen program, dijagnostika problema
- kad ga koristite povremeno i podaci nisu osetljivi
- kad ne želite da brinete o opremi
Kada je bolji lokalni AI
- kad su podaci poverljivi: ugovori, zdravlje, finansije, lični podaci
- kad se isti posao ponavlja stotinama puta — pisanje opisa, sređivanje teksta, pretraga dokumenata
- kad mora da radi i bez interneta
- kad ne želite mesečnu pretplatu po svakom zaposlenom
Kako to radim ja
Kod mene je to podela posla, a ne izbor jednog. Masovno pisanje, sređivanje srpskog teksta, opise i pretragu dokumenata radi lokalni model. Ono što dodiruje tuđe sisteme i traži najviše rasuđivanja radi najjači model iz oblaka — uz podatke koji smeju da izađu.
Pitanje nije „koji AI“, nego „koji posao“. Kad se posao podeli, lokalni AI preuzme veliki deo — a osetljivi podaci ostanu kod vas.
Kako početi
Najbolje sa jednim konkretnim poslom koji vas sada najviše vremena košta. Izmerimo da li ga lokalni model radi dovoljno dobro na vašim podacima, pa tek onda govorimo o opremi.
