Амазонның бет-әлпетін тану жүйесі Калифорнияның ондаған заң шығарушысын қылмыскер деп атайды - BGR

Бетті тану технологиясы соңғы жылдары үлкен жолға түсті және бүгінде көптеген смартфон қолданушылары өз құрылғыларын қорғау үшін бетті ашу функцияларына сүйенеді. Rekognition деп аталатын Amazon компаниясының сканерлеу бағдарламалық құралы сіздің телефоныңыздың құлпын ашпайды, бірақ қазіргі уақытта құқық қорғау органдары жеке куәліктерінің фотосуреттерін пайдаланып қылмыскерлерді анықтау үшін пайдалануда.

Өткен жылы ACLU Rekognition бағдарламалық жасақтамасын қолданды [ Конгресс мүшелерінің суреттерінде және бағдарламалық жасақтама олардың арасында белгілі қылмыскерлер ретінде 28-ті анықтағанын анықтады. Бұл жалған позитивтер Amazon бағдарламалық жасақтамасында елеулі кемшіліктерді көрсетті және бағдарламада нәсілдік бағытты бөліп көрсетіп, түстерді пропорционалды түрде белгілейді. Енді, бір жылдан кейін, ACLU сынағын қайталады ... және ештеңе өзгермеген сияқты.

Соңғы сынақ кезінде Rekognition бағдарламасы 120 Калифорния заң шығарушыларының фотосуреттерінде қолданылды. ол тағы бір рет белгілі қылмыскерлермен ондаған жалған матчтарды шығарды. Қылмыстық дерекқорда 26 адам жеке басын куәландыратын фотосуреттер ретінде анықталды, олар жүйеге бағынатын әрбір бес қызметкердің біріне сәйкес келеді.

Тест мақсаты әлеуетті тәуекелдерді анықтау үшін осындай жетілдірілмеген технологияны қолданудың кемшіліктерін көрсетуге бағытталған. қылмыскерлер. Қылмыстық жазасы бар адамдарды тез анықтау үшін бағдарламалық жасақтаманы қолдана алатын полиция күштері басқа атпен ізделеді деп жаңылысуы немесе қате сенуі мүмкін.

«Бағдарламалық жасақтама полицияға қолдануға дайын емес. Калифорния Ассамблеясының мүшесі Фил Тинг заң шығарушыларды қылмыс жасады деп айыптады LA Times . «Бұл қателіктер, біз аздап күле аламыз, бірақ егер сіз тұтқындалсаңыз және ол сіздің шкафыңызда болса, баспана, жұмыс табу қиын болуы мүмкін. Бұл нақты әсер етеді. «

Өз кезегінде, Amazon ACLU бағдарламалық жасақтаманы «теріс пайдалануда» деп мәлімдейді, оны нәтижелерді тек ХНУМХ% сәйкес болғанда ғана нәтижелерді қайтару үшін теңшеуге болады. Компания келесі мәлімдемені ұсынды Gizmodo :

ACLU қайтадан біле тұра және дөрекі түрде тақырыптық тақырыптар жасау үшін Amazon Rekognition қолданады. Бұрын бірнеше рет айтқанымыздай, 99% ұсынылған сенім шегі пайдаланылған кезде және адамның шешімінің бөлігі ретінде бетті тану технологиясын ұзақ уақыт пайдалануға болады. сәйкестендіру сияқты пайдалы мақсаттардың тізімі. қылмыскерлер із-түссіз жоғалған балаларды іздеуге көмектесу үшін адам саудасына қарсы күрес. Біз жауапты қолдануды қамтамасыз ету үшін тұлғаны тану технологиясы туралы федералды заңнаманы насихаттауды жалғастырамыз және осыған қатысты нақты ұсыныстарымызды саясаткерлермен де, блогымызбен де бөлістік.

Бұл өте жақсы және бәрі, бірақ егер бағдарламалық жасақтама дәл сол конфигурациямен пайдалануға арналған болса, оны неге өзгертуге болады және барлық құқық қорғау органдарының ықтималдығы қандай пайдалану, сондай-ақ осы ұсынысты орындау керек пе?

Сурет көзі: Markus Redmann / imageBROKER / REX / Shutterstock

Бұл мақала алдымен (ағылшын тілінде) пайда болды BGR