Esperienze con LLM

ero tentato di fare un sondaggio, ma gli aspetti sono talmente tanti che e' decisamente meglio aprire una discussione.

Qual e' il vostro rapporto con i LLM?

io li ho provati un po' tutti, e li uso sia per lavoro che per progetti personali.

Chatgpt lo pago da sempre, per alcune cose bene, altre cosi' cosi'.
I Tool che puoi installare via NPM e che leggono/scrivono direttamente codice sono un po' meh.
Diciamo che (ad oggi) sono al pari di uno sviluppatore junior. Ed imho, i costi (per token) sono ancora eccessivi.
parliamo di 10/15$ per roba davvero basica.

Coopilot lo uso dagli arbori, come tool integrato nell'ide. Bene nel capire dove vai a parare, e ti finisce lui le funzioni, quindi premo tab mi salva di scrivere 4-5 linee di codice.
Quando scrivo un commento su cosa vorrei, siamo come al punto sopra. A livello di codice un po' meh.

My 2 cents.

somedude

Con chat-gpt mi trovo molto bene per la protipazione rapida o per la generazione veloce di script usa e getta. Inoltre funziona bene per estrarre rapidamente le informazioni che mi servono quando analizzo codice.

Confermo.
Aggiungo: decoder ed encoder ad hoc gratis, come se piovesse.
E script gratis, quelli che prima non tirava il culo di litigare con sed e awk e bash.

E documentazione: finalmente posso fare diagrammi UML gratis (compresi activity diagram) e dare il "colpo d'occhio" a chi skimma la documentazione.

Tutta roba che poggia sulla seconda L di "Large Language Model".
Per un uso più "autonomo" e pensante ancora non riesco ad avere grandi risultati.

Piuttosto... per usi più sfiziosi (cursor, aider, ...) che modelli usate, dimensionati come?
deepseek-coder in locale mi sembra francamente stupido e piuttosto lento in proporzione alla qualità dell'output.

FonzioPilato

absc Dio disonesto e scorretto. Tutto vero, mi prudono ancora le mani.

somedude

teflon Fortunello.

teflon

somedude ecco, IMHO il break even e' quando un LLM produce codice migliore di uno junior indiano, e con un costo piu' basso

oldfart5070

Fin dal primo uso di ChatGpt, non riesco a scrollarmi di dosso l'impressione che un LLM sia poco piu' di Antani-as-a-service. In superficie le risposte sono belle, ricche, ben scritte. Poi vai a vedere i contenuti e la massa di vaccate che ci trovi dentro e' spaventosa. Il problema e' che e' random. E questo succede quando fai scrivere di qualcosa che sai. Pensa a quello che succede quando fai fare al LLM qualcosa che non sai fare. Li uso, ma in modo estremamente controllato e validando ogni dettaglio del loro output.

somedude

oldfart5070 said in Esperienze con LLM:

In superficie le risposte sono belle, ricche, ben scritte.

"Risposte".
Il che implica che il prompt sia una domanda.
Magari una domanda aperta, ampia.

Nella mia esperienza così, effettivamente, funzionano di merda.

Invece, "fammi uno script che estrae solo le righe che soddisfano la data proprietà da questo CSV e convertile in JSON" va come un treno.

E sì, l'output si deve poter validare, altrimenti non serve veramente a un cazzo.

Riflettendoci, viene da pensare che gli LLM sono ottimi specificamente per

manipolare informazione da e verso quei linguaggi che sono particolarmente ostici all'umana comprensione, pur non avendo enormi difficoltà intrinseche.
awk, tipo. È "semplicissimo" ma porcodio mille volte poter esporre il problema in natural language (sia pure pedante e pleonastico).
costruire produzioni in linguaggi che sono difficili o onerosi da scrivere a mano ma facili da leggere staticamente (non so, qualche XML del cazzo), o altrimenti verificare dinamicamente (di nuovo il fottuto awk)

absc

somedude

Ma sul serio avete problemi con AWK?

Non oso chiedere delle espressioni regolari allora....

somedude

absc Ma pure le regexp: metti che nella vita reale uso lo specifico dialetto una volta all'anno.

È automatico che avrò un overhead stellare.

Niente, naturalmente, di intrinsecamente difficile, solo che se non lo fai ogni giorno (o ogni mese) viene difficile.

Qui vengono utili gli LLM: rimuovono tutto quel overhead non intrinseco.

Vale anche per la produzione in qualsiasi linguaggio, peraltro: del francese ho perso tutta l'abilità produttiva per mancanza di esercizio, ma riesco a leggere senza problemi.

Con un LLM (o, beh, Google Translate) posso anche produrre velocemente senza per questo prendere per buone eventuali allucinazioni come farebbe qualcuno che la lingua non la sa e basta.

teflon

non uso awk da prima del 2000, non pensavo che avrei trovato addirittura 2 persone che sanno cosa sia oggi.

absc

teflon

Beh, per fare data processing awk funziona alla grande.

Io l'ho sempre usato e onestamente, il mi sparo piuttosto che toccare qualcosa come
Python.

C'è troppa gente che dice di conoscere Linux/Unix senza aver mai studiato a dovere la shell e gli strumenti di base.

absc

somedude

POSIX extended al massimo.

La merdata che sono le perl compatible mi ha sempre fatto cacare (sono illogiche ed astruse).

somedude

absc Pensavo che "conoscere Unix" volesse dire "conoscere la shell e gli strumenti di base" che stanno sotto /bin e si possono incollare insieme.

Ecco, vedi, a questo proposito: io penso di "conoscere Unix" nel senso che so cosa va pipato in cosa per risolvere un certo problema.

Ma quindici-venti anni fa mi ricordavo tutto a memoria (la stinassi di sh, sed, awk, grep, diff, eccetera, la struttura di /proc e via dicendo), oggi no, non a un livello sufficiente da produrre one-liner al volo, che era esattamente la destinazione d'uso intesa da K&R e soci.

L'LLM mi è utilissimo per rimpiazzare i miei neuroni persi per strada.

Python lasciamolo stare, risponde a bisogni completamente diversi.

absc

somedude

E con gli LLM preparati a lasciare ancora piú neuroni per strada...

Aethiss

teflon 3 allora. Anche se imho saranno 20 anni che non lo uso. E penso di averlo dimenticato del tutto eheh

Benvenuti nel Dudes Club Italiano

4

48

304

4.0k

Esperienze con LLM