Questo robot fai-da-te si "sballerà" in tempo reale

Un appassionato della comunità LocalLLaMA di Reddit, presente su https://old.reddit.com/r/LocalLLaMA/comments/1u9a17y/my_suitcase_robot_gets_high_now_off_a_real_gas/ ha realizzato quella che potrebbe essere l’integrazione LLM più inaspettata a cui abbiamo assistito quest’anno: un robot a forma di valigia chiamato Sparky che diventa progressivamente più… incoerente quando esposto al fumo. Ciò non avviene tramite alcun comportamento predefinito, bensì immettendo dati reali provenienti dai sensori direttamente nei parametri di campionamento del modello.

Il progetto è stato pubblicato dall’utente di Reddit u/CreativelyBankrupt. Esso utilizza essenzialmente un sensore di gas MQ-2 (attualmente a 7,99 dollari su Amazon) montato all’interno della valigia del robot. Ogni 500 millisecondi, il sensore rileva l’aria ambiente confrontandola con un valore di riferimento adattivo dell’aria pulita e converte la presenza di fumo in un valore di fase compreso tra 0 e 10. Tale valore di fase modifica poi in tempo reale il modo in cui l’LLM genera il testo. Ad esempio, man mano che il livello di fumo aumenta, la temperatura sale da 1,0 a circa 1,6, top_p passa da 0,95 a 0,99 e top_k balza da 64 a 120.

Quando ciò accade, la scelta lessicale di Sparky si riduce e il robot inizia a orientarsi verso token a minore probabilità, diventando più “rumoroso” — poiché il campionatore in tempo reale agisce esattamente come fanno i parametri di campionamento elevati su qualsiasi modello linguistico. Ogni risposta «elevata» viene generata al momento, quindi non esistono due risposte identiche. Una leggera modifica della personalità per ogni fase assicura che il comportamento risulti evidente (senza che il robot annunci effettivamente il proprio stato).

È presente anche un feedback fisico. Sparky mostra gli occhi socchiusi, un leggero accento strascicato nella voce e un display che, nella fase 10, si trasforma in un effetto completo di fumo e plasma. Rimane in questo stato per sette minuti prima di tornare alla normalità.

Il creatore è sincero riguardo ai limiti dell’hardware: l’MQ-2 è un sensore VOC, il che significa che l’incenso o una sigaretta innescherebbero la stessa risposta della cannabis, e non è in grado di distinguere tra le diverse fonti di fumo.

Al momento della stesura di questo articolo, il video ha ricevuto oltre 1.100 voti positivi su Reddit. Lo potete vedere qui sotto:

My suitcase robot gets high now off a real gas sensor wired straight into the LLM sampler. Smoke raises temperature/top_p/top_k live, so his speech genuinely gets loopier and never repeats.
by u/CreativelyBankrupt in LocalLLaMA