Лајтфутова канцеларија је била заслепљена употребом контроверзног софтвера за препознавање лица од стране ЦПД-а - а онда је изазвала озбиљну забринутост
Хаковани мејлови показују да је полиција само сазнала да је полиција користила технологију коју је развио Цлеарвиев АИ — која се суочава са више тужби у којима се тврди да је прекршила државни закон о приватности о биометрији — све до прошлогодишњег испитивања Сан-Тајмса.
Почетком прошле године, Полицијска управа Чикага тихо је склопила уговор са произвођачем контроверзног алата за препознавање лица у очигледном покушају да реши више злочина у граду.
Процурели мејлови сада показују да је договор заслепио канцеларију градоначелнице Лори Лајтфут, која очигледно није сазнала за двогодишњи уговор од 49.875 долара са Цлеарвиев АИ са Менхетна све до неколико недеља након што је ступио на снагу и неколико дана након Излагање Њујорк Тајмса открили алармантне могућности апликације. Софтвер Цлеарвиев АИ омогућава корисницима да идентификују непознате људе претражујући њихове слике у бази података од милијарди фотографија подигнутих са популарних веб локација и платформи друштвених медија - често без знања корисника или чак платформи.
До 24. јануара 2020. када Лајтфутова канцеларија је очигледно обавештена о уговору , стартуп се већ суочио са тужбом поднетом на савезном суду у Чикагу у којој се наводи да њен софтвер крши строги закон о биометријској заштити Илиноиса. Иако је портпарол полиције у почетку рекао да алати за препознавање лица као што је Цлеарвиев АИ додају млазно гориво истражним способностима одељења, мејлови показују да су градоначелници касније изразили озбиљну забринутост због потенцијално нелегалне нове технологије.
ЦПД би требало даље да процени да ли је пословна пракса Цлеарвиев-а у складу са државним законом и да ли, суочени са значајним судским споровима, ова услуга може поуздано да служи као део напора за спровођење закона града, Дан Лурие, шеф политике Лигхтфоот-а, написао је у мејлу прошлог марта Сузан Ли , тадашњи заменик градоначелника за јавну безбедност.
Усред све већег правног притиска и надзора од стране активиста и законодаваца, Цлеарвиев АИ је коначно раскинуо уговор са полицијском управом прошлог маја, показују записи.
Повезан
ЦПД користећи контроверзни програм за препознавање лица који скенира милијарде фотографија са Фејсбука, других сајтова
Али заговорници приватности наставили су да алармирају због тога што полицијска управа користи софтвер за препознавање лица и очигледног недостатка надзора. Полицијски истражитељи се и даље ослањају на ДатаВоркс Плус, још један програм за препознавање лица који одељење користи од 2013.
Јасно је да они то раде у тајности [и] јасно је да се чини да нико не контролише ово, рекао је Фреди Мартинез, извршни директор групе за транспарентност са седиштем у Чикагу Луци Парсонс Лабс. Па где треба да стане новац?
Канцеларија градоначелника је одбила да одговори на конкретна питања, али је послала изјаву у којој се наводи да је њена забринутост у вези са програмом одмах решена и да Одељење више не користи Цлеарвиев АИ технологију.
Важно је напоменути да Одељење користи други софтвер за упаривање лица да упореди лица потенцијалних осумњичених са већ постојећим осумњиченима, саопштила је канцеларија градоначелника. То значи да се софтвер користи само када је потенцијални осумњичени идентификован за злочин, а не као проактивно средство у тражењу потенцијалних осумњичених.
Тајни имејлови Градске куће : Повремене серије Сун-Тимеса са детаљима о хиљадама хакованих имејлова из градске куће у Чикагу
Имејлови откривени након хаковања
Мартинез такође седи у одбору Дистрибутед Дениал оф Сецретс, групе узбуњивача која је прошлог месеца објавио гомилу хакованих градских имејлова , укључујући поруке које показују да су званичници Градске скупштине означили хитне проблеме са Цлеарвиев АИ након што су првобитно остали у мраку око уговора.
Иако уговор Цлеарвиев АИ није ступио на снагу до 1. јануара 2020. године, записи које је прегледао Сун-Тимес показују да се процес набавке одужио месецима уназад.
Документ од 18. септембра 2019. показује да је Ентони Ричио, тадашњи заменик полицијског одељења, одобрио коришћење савезних средстава за борбу против тероризма за плаћање рачуна за нови софтвер . Уговор је добио коначно одобрење 14. новембра 2019.
Данима касније, мејлови показују да градским званичницима недостаје основно разумевање способности полицијске управе за препознавање лица док су радили на одговарању на упит Сун-Тимеса о уговору ДатаВоркс.
Да ли овде имате увид у то коју врсту софтвера за снимање лица Град користи, која одељења га користе, како се користи, ко може да му приступи итд.? Патрицк Муллане, портпарол градоначелника у то време, питали су чланови Лајтфутовог политичког тима у е-поруци од 20. новембра 2019.
Немам увида, што мислим да је део проблема, одговорио је Лурије.
На крају, канцеларија градоначелника није била обавештена о уговору са Цлеарвиев АИ све док Сун-Тимес није питао да ли полицијска управа користи технологију.
Имали смо утисак да је овај уговор са Датаворкс-ом једини технолошки софтвер који је Департман имао, написао је Мулајн групи градских службеника 24. јануара 2020. Раније данас, ЦПД ме обавестио да су започели уговор 1. јануара , 2020 ... између Полицијске управе Чикага и Цлеарвиев АИ Тецхнологи, која користи технологију за упаривање лица за сортирање јавних фотографија са сајтова друштвених медија — укључујући Фацебоок, ИоуТубе, Твиттер и Венмо — и на другим местима на интернету.
Ова технологија је недавно добила велику покривеност због забринутости за приватност, признао је Муллане, повезујући се са причом Нев Иорк Тимеса објављеном пет дана раније.
Упркос откривењу, Лајтфут је касније понудио пркосан одговор на низ питања из Сун-Тајмса.
ЦПД не користи софтвер за препознавање лица, написао је Лигхтфоот у е-поруци Лију и другим запосленима следећег дана.
Уместо тога, њено особље је припремило изјаву у којој се тврди да је одељење користило технологију упаривања лица. Разлика је била сумњива, с обзиром на чињеницу да је полицијска управа имала одређену јединицу за препознавање лица и и ДатаВоркс и Цлеарвиев АИ своје производе продају као алате за препознавање лица.
Закон о приватности Илиноиса међу најстрожим
Јан. 29, 2020, Сун-Тимес је први известио о договору полицијске управе са Цлеарвиев АИ - само недељу дана након што је технолошка фирма тужена на савезном суду због наводног кршења закона о приватности биометријских података Илиноиса. Закон, који се сматра једним од најстрожих закона о приватности у земљи, штити идентификаторе лица и отисака прстију садашњих и бивших становника од употребе без пристанка.
Цлеарвиев АИ се сада суочава са вишеструким правним изазовима у Илиноису који би се могли показати катастрофалним за пословање компаније, укључујући тужбу коју је у округу Кук прошлог маја поднела Америчка унија за грађанске слободе која оптужује компанију за кршење биометријског закона државе.
Ед Иохнка, портпарол огранка АЦЛУ-а у Илиноису, критиковао је полицијску управу због тајног додавања технологије попут Цлеарвиев АИ у свој арсенал за борбу против криминала.
Мислим да је забрињавајуће што су најмоћнији алати у смислу задирања у нашу личну приватност углавном нерегулисани и без дискусије јер се то ради приватно, рекао је Иохнка.
Дана 4. фебруара 2020, Луци Парсонс Лабс, локални АЦЛУ и више од 70 других група позвали су Лајтфута да забрани употребу препознавања лица у писму које је група доставила Градској кући. Као очигледан одговор, Лајтфутова канцеларија се обавезала да ће извршити ревизију употребе Цлеарвиев АИ од стране полицијске управе.
Затим је 10. марта 2020. Лурие, Лајтфутов шеф политике, послао допис у којем је изнео забринутост тима за политику у вези са апликацијом Цлеарвиев АИ, од којих су неке претходно изражене у писму достављеном градоначелнику.
У меморандуму, Лурие је указао на потенцијална кршења државног закона о биометријској заштити и правну изложеност компаније и напоменуо да су стопе грешака у претрагама за препознавање лица далеко веће за лица која нису бела, а која нису мушка. Такође се пожалио да градској политици препознавања лица недостаје довољно детаља.
Политика поређења лица наводи да ће ЦПД „усвојити и пратити процедуре и праксе помоћу којих може да обезбеди и процени усклађеност корисника са захтевима система за поређење лица“, написао је Лурие Лију, копирајући друге запослене. Али те „процедуре и праксе“ нису дефинисане [и] су у сржи сваког смисленог система одговорности.
Исти језик се не одражава само у полицијској управи јавно доступна политика о препознавању лица , који је издат 2013. Портпарол полиције није одговорио на захтев за коментар о тренутној политици одељења.
Упркос низу црвених застава, град заправо није повукао уговор са Цлеарвиев АИ. Уместо тога, компанија је послала писмо полицијској управи 30. априла 2020. године, окончавајући аранжман без објашњења и укључујући чек за повраћај новца у износу од 33.184,93 долара.
Неколико дана касније, пре него што је вест објављена у јавности, полицијски званичници су дали другачију слику о томе Буззфеед Невс је известио да Цлеарвиев АИ отказује своје уговоре са ентитетима са седиштем у Илиноису, који су једно време укључивали канцеларију државног секретара и Чикаго Кабсе. Иако полицијска управа није коментарисала ту причу, портпарол Хауард Лудвиг је написао Мулану да је поручник Патрик Квин препоручио да каже да је ЦПД испробао Цлеарвиевов производ као део [пробног] рада и одлучио да иде у другом правцу.
Желео је да нагласи да је одлука обострано сложна, Лудвиг написао је у мејлу од 8. маја 2020 .
ونڊا شيئر: