Esperienze con LLM
-
amigaunicorn said in Esperienze con LLM:
teflon é parte del mio lavoro, nel senso che uno dei tre progetti dove sono consiste proprio nel l' integrare LLM ovunque....onestamente é solo una tecnologia....
interessante. Come la fai l'integrazione? Io uso principalmente i chatbot, non ho mai provato a usare le API, ma prima o poi ci provo.
IMHO e' una tecnologia che bisogna imparare a usare bene, altrimenti si rischia di restare indietro.
Da quanto ho letto, ho capito i principi base di come funziona, ma ancora non riesco a prevedere il risultato che posso ottenere e l'unico modo che ho trovato e' procedere per tentativi.
Anzi, ho iniziato a pensare di cercare un corso di "prompt engineering" che non sia una trappola per gonzi
teflon no, non c'entra. compri una GPU decente per il tuo computer, ci installi gpt4 all e metti nei localdocuments i documenti che vuoi integrare. dopodiche' installi il modello che puoi, a seconda di quanti GB ha la tua scheda video, e gli fai domande.
“Il deuterio è come il Grana Padano”. (J.R.Oppenheimer)
Matrix: @uriel:mtrx.keinpfusch.net
Fedi: @uriel@x.keinpfusch.net -
teflon no, non c'entra. compri una GPU decente per il tuo computer, ci installi gpt4 all e metti nei localdocuments i documenti che vuoi integrare. dopodiche' installi il modello che puoi, a seconda di quanti GB ha la tua scheda video, e gli fai domande.
amigaunicorn said in Esperienze con LLM:
compri una GPU decente per il tuo computer, ci installi gpt4 all e metti nei localdocuments i documenti che vuoi integrare. dopodiche' installi il modello che puoi, a seconda di quanti GB ha la tua scheda video, e gli fai domande.
Minchia... Ok, si tratta di un approccio al momento fuori dalla mia portata
-
amigaunicorn said in Esperienze con LLM:
teflon é parte del mio lavoro, nel senso che uno dei tre progetti dove sono consiste proprio nel l' integrare LLM ovunque....onestamente é solo una tecnologia....
interessante. Come la fai l'integrazione? Io uso principalmente i chatbot, non ho mai provato a usare le API, ma prima o poi ci provo.
IMHO e' una tecnologia che bisogna imparare a usare bene, altrimenti si rischia di restare indietro.
Da quanto ho letto, ho capito i principi base di come funziona, ma ancora non riesco a prevedere il risultato che posso ottenere e l'unico modo che ho trovato e' procedere per tentativi.
Anzi, ho iniziato a pensare di cercare un corso di "prompt engineering" che non sia una trappola per gonzi
Onestamente, sentire dire continuamente: "imparare a usarlo o restare indietro", è un mantra che sentirlo ha stancato.
Sei cascato nella trappola di chi ti vuol far credere che un LLM sia ora fondamentale
anche per cacare.E nel mentre, non c'è uno studio scientifico che sia uno, madonna vigliacca, che dimostri il boost di produttività dato dall'uso di un LLM.
È tutto basato sulle "sensazioni", ma quelle non sono scienza.
Come quelli che blaterano di essere piú veloci con la tastiera che con il mouse.
Poi vai a misurare.... es è falso!
Ocio, io vedo dove ha senso usare un LLM, ma tutto sto marketing ha rotto. Non c'è nessuna evidenza scientifica che dice che "resteremo indietro", piuttosto, verremo rimpiazzati.
Un'ascia e' per sempre
-
marcomarco ma l'interpretazione delle leggi non e' complicata. Un mio ex manager mi ha chiesto un sistema che leggesse i contratti che avevano firmato o da firmare,e rispondesse alle domande, del tipo "ma se buchiamo lo SLA per un giorno, cosa rischiamo di preciso? E per due?"
Una volta scaricato e vettorializzato l'intero sito del codice civile tedesco, sapeva rispondere.
amigaunicorn con che percentuale di allucinazioni?
-
Onestamente, sentire dire continuamente: "imparare a usarlo o restare indietro", è un mantra che sentirlo ha stancato.
Sei cascato nella trappola di chi ti vuol far credere che un LLM sia ora fondamentale
anche per cacare.E nel mentre, non c'è uno studio scientifico che sia uno, madonna vigliacca, che dimostri il boost di produttività dato dall'uso di un LLM.
È tutto basato sulle "sensazioni", ma quelle non sono scienza.
Come quelli che blaterano di essere piú veloci con la tastiera che con il mouse.
Poi vai a misurare.... es è falso!
Ocio, io vedo dove ha senso usare un LLM, ma tutto sto marketing ha rotto. Non c'è nessuna evidenza scientifica che dice che "resteremo indietro", piuttosto, verremo rimpiazzati.
absc ohm.... shanti shanti shanti
io parlo della mia esperienza personale. Non nego di essere ancora sotto effetto dell'hype, ma per certe attivita' ripetitive mi riduce i tempi. Poi per carita', sto ancora sperimentando e chiedendo in giro ...
Quando usciranno degli studi, ne leggero' il riassunto generato con chatgpt.
-
absc ohm.... shanti shanti shanti
io parlo della mia esperienza personale. Non nego di essere ancora sotto effetto dell'hype, ma per certe attivita' ripetitive mi riduce i tempi. Poi per carita', sto ancora sperimentando e chiedendo in giro ...
Quando usciranno degli studi, ne leggero' il riassunto generato con chatgpt.
Io vorrei capire come si fa ad essere "sotto effetto dell'hype.
Tu dici che ti fa risparmiare tempo.... hai
misurato per poterlo dire? Dall'inizio alla fine? Incluse review e correzioni?Ci scommettiamo una birra che, alla fine, rimarrai deluso da quanto poco avrai risparmiato, in realtà?
Io ho idea che tutti siano lí con le mutande croccanti perché:
- Credono di risparmiare tempo
- Tutti dicono cosí, e quindi devono dirlo anche loro.
Ma perfavore, leggi va, nom farti fare i riassuntini
Un'ascia e' per sempre
-
Io vorrei capire come si fa ad essere "sotto effetto dell'hype.
Tu dici che ti fa risparmiare tempo.... hai
misurato per poterlo dire? Dall'inizio alla fine? Incluse review e correzioni?Ci scommettiamo una birra che, alla fine, rimarrai deluso da quanto poco avrai risparmiato, in realtà?
Io ho idea che tutti siano lí con le mutande croccanti perché:
- Credono di risparmiare tempo
- Tutti dicono cosí, e quindi devono dirlo anche loro.
Ma perfavore, leggi va, nom farti fare i riassuntini
guarda, per alcune attivita' ci ho messo manciate di minuti vs ore.
Per altre ci ho perso tempo per poi rendermi conto che facevo prima a farle a mano.
Per certi versi, per il mio lavoro e' un po' come quando e' comparso l'intellisense negli IDE...
la lettura del riassunto e' una battuta. Probabilmente darei l'articolo in pasto a Notebook LM per farmi generare il podcast da ascoltare mentre cucino la cacio e pepe secondo la ricetta postata nell'altro thread
Per la birra volentieri, con o senza scommessa
-
guarda, per alcune attivita' ci ho messo manciate di minuti vs ore.
Per altre ci ho perso tempo per poi rendermi conto che facevo prima a farle a mano.
Per certi versi, per il mio lavoro e' un po' come quando e' comparso l'intellisense negli IDE...
la lettura del riassunto e' una battuta. Probabilmente darei l'articolo in pasto a Notebook LM per farmi generare il podcast da ascoltare mentre cucino la cacio e pepe secondo la ricetta postata nell'altro thread
Per la birra volentieri, con o senza scommessa
teflon said in Esperienze con LLM:
guarda, per alcune attivita' ci ho messo manciate di minuti vs ore.
Per altre ci ho perso tempo per poi rendermi conto che facevo prima a farle a mano.
Per certi versi, per il mio lavoro e' un po' come quando e' comparso l'intellisense negli IDE...
la lettura del riassunto e' una battuta. Probabilmente darei l'articolo in pasto a Notebook LM per farmi generare il podcast da ascoltare mentre cucino la cacio e pepe secondo la ricetta postata nell'altro thread
Per la birra volentieri, con o senza scommessa
Se passi da Zurigo basta un messaggio!
Un'ascia e' per sempre
-
guarda, per alcune attivita' ci ho messo manciate di minuti vs ore.
Per altre ci ho perso tempo per poi rendermi conto che facevo prima a farle a mano.
Per certi versi, per il mio lavoro e' un po' come quando e' comparso l'intellisense negli IDE...
la lettura del riassunto e' una battuta. Probabilmente darei l'articolo in pasto a Notebook LM per farmi generare il podcast da ascoltare mentre cucino la cacio e pepe secondo la ricetta postata nell'altro thread
Per la birra volentieri, con o senza scommessa
-
In ogni caso: secondo me era la mancanza di automazione a mancarti.
Credo avresti potuto sveltire molte attività anche senza LLM.
Personalmente, litigare con un prompt non mi ispira tantissimo.
absc l'aspetto divertente e' che giusto in questi giorni sto usando gli LLM per generare gli script che mi servono per automatizzare task ripetitivi.
Riducendo il tempo per la generazione degli script, mi posso permettere di scriptare di piu'.E non dimentichiamoci il meme ...
-
absc l'aspetto divertente e' che giusto in questi giorni sto usando gli LLM per generare gli script che mi servono per automatizzare task ripetitivi.
Riducendo il tempo per la generazione degli script, mi posso permettere di scriptare di piu'.E non dimentichiamoci il meme ...
-
Noi abbiamo un llm aziendale (che in realtà è uno dei tre grossi ma vabbè), e regolarmente spingono perché si provi a usare a tutti i livelli (non voglio sapere quanto lo hanno pagato).
Nella mia esperienza,- fargli scrivere codice complesso è una follia, perché devi comunque fargli una review approfondita con l'ulteriore difficoltà che non ha lo stesso stile generale dei colleghi. Oppure mandi tutto su come il junior splendido e sfondi il mondo.
- fargli scrivere codice cretino per automatizzare un task cretino, inizialmente sembra fattibile e comodo, ma poi salta fuori un buggino piccolino e nascosto, difficile da trovare ma molesto, che chi si sarebbe mai immaginato che fosse in un tool cretino che fa cose cretine? Inoltre, personalmente, quel codice cretino risolverà anche bene il task iniziale, ma col tempo mi sono ritrovato a usarlo sempre meno perché non lo conosco bene. Se è qualcosa che ho scritto io, magari non è er mejo, ma so istintivamente cosa fa e dove cercare quando non fa quel che deve. Se me l'ha scritto l'llm non riesco a usarlo con la stessa disinvoltura.
- fargli trovare il bandolo della matassa, questo sì che vien bene. Chiedere qualcosa tipo "dove diocan viene utilizzato sto affare, tra le 20k righe di codice e perché sto affare ha questa forma?" sebbene non risolva il problema, mi permette di capire rapidamente da dove iniziare a cercarlo. Ed è questo secondo me il futuro, un motore di ricerca che capisca la semantica, sia dello spazio di ricerca che della query.
E non capisco perché quest'ultimo punto non viene menzionato di più. Probabilmente mi sto perdendo qualcosa io.
-
marcomarco ma l'interpretazione delle leggi non e' complicata. Un mio ex manager mi ha chiesto un sistema che leggesse i contratti che avevano firmato o da firmare,e rispondesse alle domande, del tipo "ma se buchiamo lo SLA per un giorno, cosa rischiamo di preciso? E per due?"
Una volta scaricato e vettorializzato l'intero sito del codice civile tedesco, sapeva rispondere.
amigaunicorn said in Esperienze con LLM:
marcomarco ma l'interpretazione delle leggi non e' complicata. Un mio ex manager mi ha chiesto un sistema che leggesse i contratti che avevano firmato o da firmare,e rispondesse alle domande, del tipo "ma se buchiamo lo SLA per un giorno, cosa rischiamo di preciso? E per due?"
Una volta scaricato e vettorializzato l'intero sito del codice civile tedesco, sapeva rispondere.
Nel mio caso, ho a che fare con un mare di leggi e regolamenti locali, tutti diversi tra loro e con una parte significativa che cambia ogni anno.
Alla fine è più facile farsi mandare dal comune in questione l'ultima versione del regolamento, e in caso di dubbio chiamare il funzionario responsabile dell'interpretazione del regolamento.
-
amigaunicorn said in Esperienze con LLM:
marcomarco ma l'interpretazione delle leggi non e' complicata. Un mio ex manager mi ha chiesto un sistema che leggesse i contratti che avevano firmato o da firmare,e rispondesse alle domande, del tipo "ma se buchiamo lo SLA per un giorno, cosa rischiamo di preciso? E per due?"
Una volta scaricato e vettorializzato l'intero sito del codice civile tedesco, sapeva rispondere.
Nel mio caso, ho a che fare con un mare di leggi e regolamenti locali, tutti diversi tra loro e con una parte significativa che cambia ogni anno.
Alla fine è più facile farsi mandare dal comune in questione l'ultima versione del regolamento, e in caso di dubbio chiamare il funzionario responsabile dell'interpretazione del regolamento.
marcomarco gpt4all lo puoi estendere in python (argh), e metterci dei parser che si scaricano un sito, rimanendo aggiornato.
-
Albertatech .... LOL
-
amigaunicorn Fa parte del mio quotidiano. Penso che avrà un grosso impatto sulle figure junior. Per il resto è uno strumento come tanti altri di cui ci si può e ci si deve avvantaggiare.
ilbistecca87 " Penso che avrà un grosso impatto sulle figure junior."
Eh, si, concordo, ma se i junior non crescono che succederà quando tutti i senior saranno pensionati ?
-
ilbistecca87 " Penso che avrà un grosso impatto sulle figure junior."
Eh, si, concordo, ma se i junior non crescono che succederà quando tutti i senior saranno pensionati ?Che l'informatica di adesso farà la fine che merita.
Un altro ClownStrike, ma di proporzioni bibliche.
Un'ascia e' per sempre
-
Che l'informatica di adesso farà la fine che merita.
Un altro ClownStrike, ma di proporzioni bibliche.
absc said in Esperienze con LLM:
Che l'informatica di adesso farà la fine che merita.
Un altro ClownStrike, ma di proporzioni bibliche.
Il giorno in cui la gente capira' che brutte persone siamo noi sviluppatori si avvicina inesorabilmente
-
absc said in Esperienze con LLM:
Che l'informatica di adesso farà la fine che merita.
Un altro ClownStrike, ma di proporzioni bibliche.
Il giorno in cui la gente capira' che brutte persone siamo noi sviluppatori si avvicina inesorabilmente
Soprattutto capirà il livello di incompetenza al quale si lavora.
Inizierà a domandarsi anche perché, noi programmatori, non mettiamo mai la faccia nei disastri che facciamo.
Ma oh, tutti si bagnano le mutande a chiamarsi "software engineers" e prova a dire che no, voi scalzacani pestatasti non avete il minimo diritto a pretendere di farvi chiamare ingegneri.
Un'ascia e' per sempre
-
Soprattutto capirà il livello di incompetenza al quale si lavora.
Inizierà a domandarsi anche perché, noi programmatori, non mettiamo mai la faccia nei disastri che facciamo.
Ma oh, tutti si bagnano le mutande a chiamarsi "software engineers" e prova a dire che no, voi scalzacani pestatasti non avete il minimo diritto a pretendere di farvi chiamare ingegneri.
absc said in Esperienze con LLM:
Soprattutto capirà il livello di incompetenza al quale si lavora.
Inizierà a domandarsi anche perché, noi programmatori, non mettiamo mai la faccia nei disastri che facciamo.
Ma oh, tutti si bagnano le mutande a chiamarsi "software engineers" e prova a dire che no, voi scalzacani pestatasti non avete il minimo diritto a pretendere di farvi chiamare ingegneri.
E nel mondo della consulenza l'incentivo e' di sviluppare in fretta e male, cosi' il prezzo e' basso, per poi lucrare sulle "manutenzioni".
Perche' chi sistema i disastri e' un eroe, chi li previene passa inosservato.
