Esperienze con LLM
-
absc said in Esperienze con LLM:
Te non hai mai lavorato con i vari Tata consulting, Infosys etc.. vero?
no, mai
-
e ora c'e' la nuova moda di avere 2 o 3 lavori full time ....
youtube mi sta spammando video sull'overemployement -
e il miglior incipit video sull'overemployement e' questo
https://youtu.be/GdKRoJ5vdVM?si=Y9lgGhI9sQd274yw
che mi ha ricordato questo
-
ero tentato di fare un sondaggio, ma gli aspetti sono talmente tanti che e' decisamente meglio aprire una discussione.
Qual e' il vostro rapporto con i LLM?
Li usate? quanto? fanno gia' parte del vostro workflow quotidiano? vi ruberanno il lavoro?
Ho iniziato per curiosita' a giocare con chat-gpt 3 gratuito, poi ho inziato a usare copilot per fare script powershell in visual studio code, per cui mi sono abbonato su github e infine qualche mese fa, dovendo fare un lavoro di documentazione piuttosto noioso, mi sono abbonato anche a chat-gpt.
Quindi ora uso copilot in visual studio code e visual studio 2022, e praticamente per tutto anche chat-gpt.
Con chat-gpt mi trovo molto bene per la protipazione rapida o per la generazione veloce di script usa e getta. Inoltre funziona bene per estrarre rapidamente le informazioni che mi servono quando analizzo codice.
Lo uso con powershell, C#, SQL e anche il linguaggio di scripting per generare grafici con mermaid.live
Copilot in Visual Studio e Visual Studio Code funziona molto bene come Intellisense on steroids: velocizza tantissimo la scrittura di codice ripetitivo.
Il lato negativo e' che non posso mai abbassare la soglia di attenzione, come capita ad esempio quando facevo edit di pezzi di codice "no brainer"
La generazione di immagini per ora l'ho usata solo per giocare, mentre per un progetto di finanza personale sono riuscito con chatgpt a estrarre i movimenti delle transazioni dagli estratto conto in formato pdf e salvarli in formato csv.
Chat-gpt lo uso anche per la generazione di documentazione, offerte ed email.
Non ho esperienza con altri LLM, ma ho ricevuto commenti molto positivi su Claude, da gente che fa Data-Engineering e Business Intelligence
teflon said in Esperienze con LLM:
ero tentato di fare un sondaggio, ma gli aspetti sono talmente tanti che e' decisamente meglio aprire una discussione.
Qual e' il vostro rapporto con i LLM?
io li ho provati un po' tutti, e li uso sia per lavoro che per progetti personali.
Chatgpt lo pago da sempre, per alcune cose bene, altre cosi' cosi'.
I Tool che puoi installare via NPM e che leggono/scrivono direttamente codice sono un po' meh.
Diciamo che (ad oggi) sono al pari di uno sviluppatore junior. Ed imho, i costi (per token) sono ancora eccessivi.
parliamo di 10/15$ per roba davvero basica.Coopilot lo uso dagli arbori, come tool integrato nell'ide. Bene nel capire dove vai a parare, e ti finisce lui le funzioni, quindi premo tab mi salva di scrivere 4-5 linee di codice.
Quando scrivo un commento su cosa vorrei, siamo come al punto sopra. A livello di codice un po' meh.My 2 cents.
-
Con chat-gpt mi trovo molto bene per la protipazione rapida o per la generazione veloce di script usa e getta. Inoltre funziona bene per estrarre rapidamente le informazioni che mi servono quando analizzo codice.
Confermo.
Aggiungo: decoder ed encoder ad hoc gratis, come se piovesse.
E script gratis, quelli che prima non tirava il culo di litigare con sed e awk e bash.E documentazione: finalmente posso fare diagrammi UML gratis (compresi activity diagram) e dare il "colpo d'occhio" a chi skimma la documentazione.
Tutta roba che poggia sulla seconda L di "Large Language Model".
Per un uso più "autonomo" e pensante ancora non riesco ad avere grandi risultati.Piuttosto... per usi più sfiziosi (
cursor
,aider
, ...) che modelli usate, dimensionati come?
deepseek-coder
in locale mi sembra francamente stupido e piuttosto lento in proporzione alla qualità dell'output. -
absc Dio disonesto e scorretto. Tutto vero, mi prudono ancora le mani.
-
absc said in Esperienze con LLM:
Te non hai mai lavorato con i vari Tata consulting, Infosys etc.. vero?
no, mai
teflon Fortunello.
-
somedude ecco, IMHO il break even e' quando un LLM produce codice migliore di uno junior indiano, e con un costo piu' basso
-
Fin dal primo uso di ChatGpt, non riesco a scrollarmi di dosso l'impressione che un LLM sia poco piu' di Antani-as-a-service. In superficie le risposte sono belle, ricche, ben scritte. Poi vai a vedere i contenuti e la massa di vaccate che ci trovi dentro e' spaventosa. Il problema e' che e' random. E questo succede quando fai scrivere di qualcosa che sai. Pensa a quello che succede quando fai fare al LLM qualcosa che non sai fare. Li uso, ma in modo estremamente controllato e validando ogni dettaglio del loro output.
-
Fin dal primo uso di ChatGpt, non riesco a scrollarmi di dosso l'impressione che un LLM sia poco piu' di Antani-as-a-service. In superficie le risposte sono belle, ricche, ben scritte. Poi vai a vedere i contenuti e la massa di vaccate che ci trovi dentro e' spaventosa. Il problema e' che e' random. E questo succede quando fai scrivere di qualcosa che sai. Pensa a quello che succede quando fai fare al LLM qualcosa che non sai fare. Li uso, ma in modo estremamente controllato e validando ogni dettaglio del loro output.
oldfart5070 said in Esperienze con LLM:
In superficie le risposte sono belle, ricche, ben scritte.
"Risposte".
Il che implica che il prompt sia una domanda.
Magari una domanda aperta, ampia.Nella mia esperienza così, effettivamente, funzionano di merda.
Invece, "fammi uno script che estrae solo le righe che soddisfano la data proprietà da questo CSV e convertile in JSON" va come un treno.
E sì, l'output si deve poter validare, altrimenti non serve veramente a un cazzo.
Riflettendoci, viene da pensare che gli LLM sono ottimi specificamente per
-
manipolare informazione da e verso quei linguaggi che sono particolarmente ostici all'umana comprensione, pur non avendo enormi difficoltà intrinseche.
awk
, tipo. È "semplicissimo" ma porcodio mille volte poter esporre il problema in natural language (sia pure pedante e pleonastico). -
costruire produzioni in linguaggi che sono difficili o onerosi da scrivere a mano ma facili da leggere staticamente (non so, qualche XML del cazzo), o altrimenti verificare dinamicamente (di nuovo il fottuto awk)
-
-
oldfart5070 said in Esperienze con LLM:
In superficie le risposte sono belle, ricche, ben scritte.
"Risposte".
Il che implica che il prompt sia una domanda.
Magari una domanda aperta, ampia.Nella mia esperienza così, effettivamente, funzionano di merda.
Invece, "fammi uno script che estrae solo le righe che soddisfano la data proprietà da questo CSV e convertile in JSON" va come un treno.
E sì, l'output si deve poter validare, altrimenti non serve veramente a un cazzo.
Riflettendoci, viene da pensare che gli LLM sono ottimi specificamente per
-
manipolare informazione da e verso quei linguaggi che sono particolarmente ostici all'umana comprensione, pur non avendo enormi difficoltà intrinseche.
awk
, tipo. È "semplicissimo" ma porcodio mille volte poter esporre il problema in natural language (sia pure pedante e pleonastico). -
costruire produzioni in linguaggi che sono difficili o onerosi da scrivere a mano ma facili da leggere staticamente (non so, qualche XML del cazzo), o altrimenti verificare dinamicamente (di nuovo il fottuto awk)
Ma sul serio avete problemi con AWK?
Non oso chiedere delle espressioni regolari allora....
-
-
Ma sul serio avete problemi con AWK?
Non oso chiedere delle espressioni regolari allora....
absc Ma pure le regexp: metti che nella vita reale uso lo specifico dialetto una volta all'anno.
È automatico che avrò un overhead stellare.
Niente, naturalmente, di intrinsecamente difficile, solo che se non lo fai ogni giorno (o ogni mese) viene difficile.
Qui vengono utili gli LLM: rimuovono tutto quel overhead non intrinseco.
Vale anche per la produzione in qualsiasi linguaggio, peraltro: del francese ho perso tutta l'abilità produttiva per mancanza di esercizio, ma riesco a leggere senza problemi.
Con un LLM (o, beh, Google Translate) posso anche produrre velocemente senza per questo prendere per buone eventuali allucinazioni come farebbe qualcuno che la lingua non la sa e basta.
-
Ma sul serio avete problemi con AWK?
Non oso chiedere delle espressioni regolari allora....
non uso awk da prima del 2000, non pensavo che avrei trovato addirittura 2 persone che sanno cosa sia oggi.
-
non uso awk da prima del 2000, non pensavo che avrei trovato addirittura 2 persone che sanno cosa sia oggi.
Beh, per fare data processing awk funziona alla grande.
Io l'ho sempre usato e onestamente, il mi sparo piuttosto che toccare qualcosa come
Python.C'è troppa gente che dice di conoscere Linux/Unix senza aver mai studiato a dovere la shell e gli strumenti di base.
-
oldfart5070 said in Esperienze con LLM:
In superficie le risposte sono belle, ricche, ben scritte.
"Risposte".
Il che implica che il prompt sia una domanda.
Magari una domanda aperta, ampia.Nella mia esperienza così, effettivamente, funzionano di merda.
Invece, "fammi uno script che estrae solo le righe che soddisfano la data proprietà da questo CSV e convertile in JSON" va come un treno.
E sì, l'output si deve poter validare, altrimenti non serve veramente a un cazzo.
Riflettendoci, viene da pensare che gli LLM sono ottimi specificamente per
-
manipolare informazione da e verso quei linguaggi che sono particolarmente ostici all'umana comprensione, pur non avendo enormi difficoltà intrinseche.
awk
, tipo. È "semplicissimo" ma porcodio mille volte poter esporre il problema in natural language (sia pure pedante e pleonastico). -
costruire produzioni in linguaggi che sono difficili o onerosi da scrivere a mano ma facili da leggere staticamente (non so, qualche XML del cazzo), o altrimenti verificare dinamicamente (di nuovo il fottuto awk)
POSIX extended al massimo.
La merdata che sono le perl compatible mi ha sempre fatto cacare (sono illogiche ed astruse).
-
-
Beh, per fare data processing awk funziona alla grande.
Io l'ho sempre usato e onestamente, il mi sparo piuttosto che toccare qualcosa come
Python.C'è troppa gente che dice di conoscere Linux/Unix senza aver mai studiato a dovere la shell e gli strumenti di base.
absc Pensavo che "conoscere Unix" volesse dire "conoscere la shell e gli strumenti di base" che stanno sotto
/bin
e si possono incollare insieme.Ecco, vedi, a questo proposito: io penso di "conoscere Unix" nel senso che so cosa va pipato in cosa per risolvere un certo problema.
Ma quindici-venti anni fa mi ricordavo tutto a memoria (la stinassi di
sh
,sed
,awk
,grep
,diff
, eccetera, la struttura di/proc
e via dicendo), oggi no, non a un livello sufficiente da produrre one-liner al volo, che era esattamente la destinazione d'uso intesa da K&R e soci.L'LLM mi è utilissimo per rimpiazzare i miei neuroni persi per strada.
Python lasciamolo stare, risponde a bisogni completamente diversi.
-
absc Pensavo che "conoscere Unix" volesse dire "conoscere la shell e gli strumenti di base" che stanno sotto
/bin
e si possono incollare insieme.Ecco, vedi, a questo proposito: io penso di "conoscere Unix" nel senso che so cosa va pipato in cosa per risolvere un certo problema.
Ma quindici-venti anni fa mi ricordavo tutto a memoria (la stinassi di
sh
,sed
,awk
,grep
,diff
, eccetera, la struttura di/proc
e via dicendo), oggi no, non a un livello sufficiente da produrre one-liner al volo, che era esattamente la destinazione d'uso intesa da K&R e soci.L'LLM mi è utilissimo per rimpiazzare i miei neuroni persi per strada.
Python lasciamolo stare, risponde a bisogni completamente diversi.
E con gli LLM preparati a lasciare ancora piú neuroni per strada...
-
non uso awk da prima del 2000, non pensavo che avrei trovato addirittura 2 persone che sanno cosa sia oggi.
teflon 3 allora. Anche se imho saranno 20 anni che non lo uso. E penso di averlo dimenticato del tutto eheh
-
absc Pensavo che "conoscere Unix" volesse dire "conoscere la shell e gli strumenti di base" che stanno sotto
/bin
e si possono incollare insieme.Ecco, vedi, a questo proposito: io penso di "conoscere Unix" nel senso che so cosa va pipato in cosa per risolvere un certo problema.
Ma quindici-venti anni fa mi ricordavo tutto a memoria (la stinassi di
sh
,sed
,awk
,grep
,diff
, eccetera, la struttura di/proc
e via dicendo), oggi no, non a un livello sufficiente da produrre one-liner al volo, che era esattamente la destinazione d'uso intesa da K&R e soci.L'LLM mi è utilissimo per rimpiazzare i miei neuroni persi per strada.
Python lasciamolo stare, risponde a bisogni completamente diversi.
somedude said in Esperienze con LLM:
Python lasciamolo stare, risponde a bisogni completamente diversi.
per il data engineering e' piu' o meno una pandas (no! ahia! va bene la smetto...)
-
teflon 3 allora. Anche se imho saranno 20 anni che non lo uso. E penso di averlo dimenticato del tutto eheh
Aethiss ho gli amarcord di quando usavo awk per generare codice c++ dai file txt con le specifiche di una gui che avevo implementato in modo totalmente testo per un programma che girava in DOS che avevo fatto con il C++ 7.0 di Microsoft (l'ultimo prima dei visual studio che giravano in windows)