Umjetna inteligencija

[Ogi]

Zanimljivo

Sorry
This video does not exist.

Jako

[zega]

Nema veze sa AI, malo je starije vec sam to spominjao dokaze vide svi ali ovo je cijelo istrazivanje vezano uz cenzuru,
SEME-Search engine manipulation effect https://en.wikipedia.org/wiki/Search_en ... ion_effect

[stjepan]

Zato je razmišljam koju grafu da kupim kako bi imao pristup što boljem necenzuriranom LLM-u.

[zega]

Uh huh https://aisecret.us/first-ai-bank/?ref= ... newsletter

Malaysia Just Dropped the World’s First AI Bank

What’s happening: YTL Group and Sea Limited have launched Ryt Bank, the first fully AI-powered bank, right in Kuala Lumpur. It runs on Malaysia’s own large language model (ILMU), offers 24/7 multilingual AI banking assistants (Bahasa, English, Manglish, soon Mandarin), and bundles savings, credit, payments, and cards into a single app. No paperwork, no fees, no wait time — just conversational banking with daily interest and instant credit lines.

Key takeaway: Ryt Bank isn’t adding AI to banking — it’s deleting the bank from banking. Malaysia’s incumbents just got Uber’d.

https://www.rytbank.my

[stjepan]

Koga zanima lokalno korištenje LLM-ova i AI-a i razmišljate koji hardware uzeti, moja topla preporuka zbog cijene je da ako možete uzmete rabljenu 3090. Zbog puno RAM-a (24GB) može progutati pristojne modele. Brzina korištenja modela daleko nadilazi brzinu čitanja teksta.

Mistral-small-3.2 - 24B parametara - 43 tokena po sekundi
llama-3.2 - 18.4B parametara - 112 tokena po sekundi
Qwen3 - 32B parametara - 26 tokena po sekundi

Uz sve to, pokazalo se da je za navedene modele dovoljno napraviti sistemski prompt u kojem objasniš da ne želiš moralne prodike i da slobodno koristi stvari koje inače ne bi, i možeš s njima razgovarati o čemu god te volja.
Mistral je skroz pristojan i po pitanju prepoznavanja stvari na slikama.

Sad mi se već opasno vrti po glavi ideja o star trek like računalu s kojim bi mogao razgovarati bilo gdje u kući....

[creatin]

Nista 4090 ili 5090?

[stjepan]

4090 ima isto ram-a ali je puno skuplja i više se ne proizvodi kao niti 3090, pa je po meni bacanje novca ako se gleda bang for a buck. 5090 ima više ram-a ali je zato i cijena.....paprena. Tko si može priuštiti 5090 to je svakako top of the line gaming grafičkih trenutno sa puno RAM-a.
No, da sam spreman dati 2500-3000€ onda bih već razmislio i o ovim pro karticama koje imaju 60+ GB, pa bi za duplo kupio grafičku od 96GB (RTX 6000 PRO) na kojoj mogu i igrati.
Ako bih sada htio recimo duplo više RAM-a, za LLM-ove (samo za njih, ne znam da li drugi modeli ala stable diffusion podržavaju više kartica) onda bi vjerojatno uzeo još jednu 3090 i radio sa 48GB za "sitne" pare.
Ono...po sadašnjim cijenama 3060 daje najveći bang for a buck po kartici u situaciji kad planiraš koristiti nešto lokalno a da nije na profesionalnom nivou.

Bottom line, RAM mi je daleko bitniji od same brzine izvođenja, jer ako ne stane u RAM od GPU-a, onda ide u sistemski i preko proca, a to je na žalost jako sporo.

Ova 3090 koju sam uzeo će biti proslijeđena kćeri (4 gaming računala u kući) a ja si planiram uzeti 5080 Super kao zamjenu za 1080 koju sam imao prije nego sam stavio sada ovu privremenu. Naravno neću kupovati odmah,čekati ću da joj malo padne cijena (nema žurbe), čisto radi gejmanja i da dio grafičkih u kući ima garanciju, da se ne desi da u par mjeseci moram iskeširati 4 nove grafičke.....
A šta ja znam...ako 5090 cijena padne možda i nju uzmem. Što god iz trenutne generacije da ima najviše RAM-a.

[Ogi]

5070 Ti Super 24GB

[rkahler]

5070 Ti Super 24GB

Pričekaj još par mjeseci, da se pojave na tržištu.

[stjepan]

5070 Ti Super 24GB

Pričalo se da će 5080 super imati 24, pa da će 5070ti imati 24....čekam službeni izlazak, pa kupujem najjeftiniju sa 24 bila 5070 super, 5070 ti super, 5080 super ili koja god. Ispod 24gb više ne idem i to je to. Ako padnu cijene 5090 možda uzmem i nju jer ima još više ram-a. Jednostavno mi je RAM bitan. Toliko mi je bitan da sam počeo gledati da li se prodaje korištena 5000 pro ili čak 6000 pro (koje idu do 96GB) a na kojima se i dalje mogu igrati igre (i to jako dobro).

[max]

eto mene poslije dužeg izbivanja. Koliko vam bitno učenje LLM, a koliko komunikacija sa dotičnim modelom . Naime ako na nekom serveru cloudu naučite vlastiti model tj napravite guff datoteku iliti destilat ne sa igračkama tipa NVIDIA 5090 nego H100 ili H200. No ako koristite za igrice , onda odlična GPU

[Ogi]

eto mene poslije dužeg izbivanja.

Di si Max, šta se radi?!

[max]

Raznolikost u mirovini. Naglasak na LLM (Deep Seek) i PV to H2 vodik mi se sviđa ak pukne puno manje štete nego zapaljenje Li baterija

[Ogi]

Znaci u mirovini imas manje vremena nego prije
Meni vodik ipak izgleda opasnije od life baterije.
Drago mi je sto se igras sa LLMovima

[max]

Bio jučer na seminaru o budućnosti PV i EU direktive RED III, ukidanje netmetering i naplaćivanja po spot cijenama. HEP nije spreman kasni 100 godina. zato će se to riješiti u skladu sa Superhik državom . Bili predstavnici HERA, HROTE... no glavni HEP-a niti blizu oni su i tak iznad ili uz Vladu ...
Iako postoje rješenja, Njemačka , Nizozemska, USA...
I da Vodik i tu je puno napretka za skladištenje, nije samo 100bara i ma i drugih tehnologija.. U pravu su oni koji vele da je skladištenje struje u baterijama (akumulatori) puno efikasnije, no i puno ekološki štetnije, a koga brine, poslije ćemo o sanaciji