Pogrešan pritvor izazvan AI algoritmom
U Floridi je muškarac iz Lee Countyja uhapšen u avgustu 2024. nakon što je policija dobila trag iz softvera za prepoznavanje lica koji ga je označio kao "93 percent match" sa osobom sa nadzornih kamera, osumnjičenom za pokušaj nagovaranja 12-godišnjaka u novembru 2023.
Muškarac, koji tvrdi da nije napuštao Fort Myers dvije godine, snimljen je kako reaguje dok ga policija uvodi u vozilo: "This is f**king nuts. God this is nuts," i "I haven't been out of Fort Meyers in two years." Uhapšen je devet mjeseci nakon incidenta na osnovu identifikacije svjedoka koji su vidjeli njegovu fotografiju među sličnim licima.
Rizici i pravne dileme
Ovaj slučaj ilustruje rastući problem: policijske agencije sve više koriste AI i sisteme za prepoznavanje lica koji pretražuju registarske podatke, snimke i društvene mreže. Stručnjaci upozoravaju da takva tehnologija nije pouzdana i da ne može sama po sebi da obezbijedi vjerodostojan razlog za hapšenje. "Police are not allowed under the Constitution to arrest somebody without probable cause," i "And this technology expressly cannot provide probable cause, it is so glitchy, it's so unreliable. At best, it has to be viewed as an extremely unreliability lead because it often, often gets it wrong."
U toku sumnjive istrage, različite policijske jedinice su prebacivale odgovornost jedna na drugu, dok je uhapšeni sada pokrenuo tužbu tražeći odštetu za pogrešan pritvor.
