AI предсказва кой ще стане убиец

/КРОСС/ Британското правителство се е заело да разработва програма за „предсказване на убийства". С това кабинетът се надява, че, използвайки лични данни на лицата, известни на полицията, ще може да определи дали и кои от тях е най-вероятно да станат убийци.

Твърди се, че изследователите използват алгоритми, за да анализират информацията на хиляди хора, включително жертви на престъпления, опитвайки се да идентифицират тези, които имат най-големи изгледи да извършат сериозни престъпления и дори убийства.

Първоначално схемата е била наречена „проект за предсказване на убийства". Впоследствие името ѝ е променено на „споделяне на данни за подобряване на оценката на риска".

Министерството на правосъдието се надява, че проектът ще помогне за повишаване на обществената безопасност. Експерти обаче го определят като опасен, а активистите го наричат „смразяващ и дистопичен".

Съществуването на проекта е открито от групата за натиск „Statewatch". Някои от разработваните негови механизми са разкрити чрез документи, получени чрез искания за местния закон за свобода на информацията.

„Statewatch" казва, че като част от проекта ще бъдат използвани данни на хора, които не са осъдени за никакви престъпления. Това навярно ще включва лична информация за самонараняване и подробности, свързани с домашно насилие.

Длъжностните лица категорично отричат това. Те настояват, че ще се използват само данни за хора с поне една криминална присъда.

Правителството твърди, че на този етап проектът е само за изследване. Активистите обаче настояват, че използваните данни биха довели до изкривявяния и субективизъм в прогнозите срещу хора от малцинствените етнически групи и бедняци.

Британското министерство на правосъдието твърди, че схемата ще „прегледа характеристиките на престъпниците, които увеличават риска от извършване на убийство" и ще „проучи алтернативни и иновативни техники за анализ на данни за оценка на риска от убийство".

Проектът ще „предостави доказателства за подобряване на оценката на риска от тежки престъпления и в крайна сметка ще допринесе за защитата на обществеността чрез по-добър анализ", уверява говорител на министерството.

Системата използва данни за престъпления от различни официални източници, включително Пробационната служба и полицейски данни. Видовете обработвана информация включват имена, дати на раждане, пол и етническа принадлежност, както и номер, който идентифицира хората в националния регистър на полицията.

От този номер ще се черпят данни за различни видове криминални присъди, за възрастта, на която лицето за първи път се е появило като жертва, включително жертва на домашно насилие, и възрастта, на която лицето е било, когато е имало първи контакт с полицията.

Също така ще бъдат споделяни „специални категории лични данни", а именно „здравни маркери, за които се очаква да имат значителна предсказваща сила", като например данни, свързани с психичното здраве, пристрастяването, самоубийството и уязвимостта, самонараняването, както и уврежданията.

„Опитът на Министерството на правосъдието да изгради тази система за прогнозиране на убийства е последният смразяващ и дистопичен пример за намерението на правителството да разработи така наречените системи за „прогнозиране" на престъпления", коментира София Лиал, изследовател в Statewatch.

„Изследванията отново и отново показват, че алгоритмичните системи за „прогнозиране" на престъпления са по своята същност погрешни", категорична е тя.

Както и други подобни системи, този нов софтуер ще „закодира изкривявания" от гледна точка на раса и социален статус. Изграждането на автоматизиран инструмент за профилиране на хората като бъдещи насилници е дълбоко погрешно, казват активистите, а използването на такива чувствителни данни за психичното здраве, зависимостите и уврежданията е „силно натрапчиво и тревожно."

Изследванията показват, че алгоритмичните системи за предсказване на престъпления не работят, казват изследователи от Mасачузетския технологичен институт (MIT) по повод новината за британския експеримент.