Šesnaestogodišnji Taki Allen iz Marylanda čekao je prijevoz kući nakon treninga na školskom igralištu, dok je s prijateljima jeo čips. Iznenada su stigla policijska vozila, a osam naoružanih policajaca uperilo je pištolje prema njemu i prijateljima. Taki je pretražen i stavili su mu lisice, pitajući ga ima li oružje. Sve što je imao bila je vrećica čipsa, piše Tech Spot.

Problem je izazvala školska AI aplikacija za detekciju oružja. Sistem je greškom identificirao Takijevu vrećicu čipsa kao pištolj i upozorio policiju. Nakon što su policajci provjerili vrećicu i usporedili je sa snimkama, shvatili su da je riječ o greški tehnologije.

Policajac je objašnjavajući situaciju mladima rekao: "AI nije najbolji". Taki je bio šokiran i frustriran što je završio u lisicama zbog bizarne greške, a dodatno ga je pogodilo što se direktorica škole oglasila tek tri dana kasnije.

Kompanija Omnilert, koja je razvila AI sistem, izrazila je žaljenje zbog incidenta, ali istakla da je postupak tehnički bio ispravan jer je prioritet bila sigurnost i brza ljudska provjera. Ovaj slučaj pokazuje koliko tehnologija, iako napredna, još uvijek može napraviti ozbiljne greške.