Een Amerikaanse rechter heeft geweigerd dat een video als bewijs wordt gebruik in een rechtszaak vanwege het gebruik van AI-software bij het bewerken van de video. De aanklager wilde dankzij upscaling de verdachte duidelijker in beeld brengen.
De aanklager gebruikte Topaz Video AI om de video te upscalen, meldt NBC News. De software van het Amerikaanse bedrijf herkent gezichten en vult vervolgens details aan die niet in het oorspronkelijke beeld zaten. Dat is problematisch, zo redeneert de rechter, want de software ‘leunt op vage methoden om te bepalen wat het AI-model denkt wat we moeten zien’, aldus de rechtbank.
Het is voor zover bekend voor het eerst dat een Amerikaanse rechter zich buigt over bewijs dat met AI is aangepast. “Dit hof oordeelt dat toelating van dit door Al aangepaste bewijs zou leiden tot verwarring van de zaak en een vertroebeling van ooggetuigenverklaringen, en zou kunnen leiden tot een tijdrovende rechtszaak binnen een rechtszaak over het niet te checken proces dat wordt gebruikt door het AI-model.”
De aanklager had de software ingeschakeld, omdat het ging om een vage video gemaakt met een telefoon van een schietpartij in 2021. Door gebruik van de software wilde de aanklager duidelijker maken dat het inderdaad ging om de verdachte. Die ontkent de schietpartij niet, waardoor het bewijs vermoedelijk in de rechtszaak ook niet noodzakelijk zou zijn. Deze uitspraak kan dienen als jurisprudentie in andere Amerikaanse zaken, maar het zal per zaak en bewijsstuk af kunnen hangen hoe rechters dat wegen.
/i/2006608886.png?f=imagenormal)