AI alarm u Lawton Chiles Middle School
Studenti u Lawton Chiles Middle School u Floridi morali su hitno ući u lockdown nakon što je sistem nadzora zasnovan na vještačkoj inteligenciji prijavio učenika sa oružjem. AI je označio predmet koji je učenik držao kao prijetnju, a predmet se ispostavio kao klarinet. Aktiviran je automatski "code red" i administratori su morali reagovati bez dodatne provjere.
Srećom, niko nije povrijeđen, a lokalna policija ubrzo je proglasila kraj lockdowna i nazvala mjeru predostrožnosti. Direktorica Dr. Melissa Laudani obavijestila je roditelje da distrikt ima više slojeva sigurnosti, uključujući automatizovani sistem koji detektuje potencijalne prijetnje. Navela je da je učenik nosio muzički instrument na način koji je podsjećao na oružje, što je pokrenulo alarm.
Incident u Lawton Chiles ponovo ističe problem lažno pozitivnih detekcija kod školskih AI sistema. Greške AI nadzora koje zamjenjuju klarinet ili kesicu čipsa za pištolj pokazuju koliko je važno imati ljudsku provjeru prije nego što automatizovani alarmi izazovu drastične reakcije. Diskusija o tačnosti AI nadzora i sigurnosti učenika u školama postaje sve važnija.
