Il giudice di Washington rifiuta il video potenziato dall'AI a causa di modifiche imprecise dell'immagine nel caso di triplice omicidio

Il giudice della Corte Superiore Leroy McCullogh ha respinto l'uso di un video potenziato dall'intelligenza artificiale presentato come prova durante un caso di triplice omicidio nella Contea di King, a Washington. Esistono due problemi chiave nell'uso di tali video per perseguire un caso penale. In primo luogo, il miglioramento dell'immagine AI crea e rimuove dettagli dall'originale. In secondo luogo, non esiste un metodo per dimostrare che le modifiche dell'IA producono un video che rappresenta accuratamente la scena reale.

La tecnologia AI è avanzata rapidamente al punto da poter essere utilizzata per riparare foto danneggiate e migliorare foto di scarsa qualità. L'AI è in grado di farlo generando dettagli dalla formazione su milioni di immagini esistenti. Semplicemente, quando l'AI vede una sezione che sembra un campo erboso in un'immagine di scarsa qualità, prende le immagini di campo erboso più probabili che ha visto in precedenza e tenta di inserire una sostituzione di qualità superiore. È importante notare che l'AI generativa non sa cosa sia reale, quindi i video migliorati possono contenere dettagli che non esistono nella vita reale o addirittura essere privati di dettagli critici.

L'AI generativa utilizza l'input di milioni di immagini combinate con algoritmi per creare un insieme massiccio di numeri che rappresentano quelle immagini. Le immagini originali non vengono conservate dall'IA, quindi il modo in cui l'IA migliora un'immagine con i dettagli che ha visto utilizza "metodi opachi per rappresentare ciò che l'IA 'pensa' debba essere mostrato", secondo il giudice McCullogh.

I lettori che stanno pensando di diventare avvocati dovrebbero informarsi sul funzionamento dell'AI generativa, per evitare di commettere errori come la presentazione di documenti basati su casi falsi.