Британското правителство разработва спорен инструмент за изкуствен интелект за ‘прогнозиране на убийства’

Британското правителство работи по спорен проект, който използва изкуствен интелект за предсказване на потенциални бъдещи убийци.

Съществуването на програмата излезе на бял свят чрез заявки за свобода на информацията, получени от групата за наблюдение Statewatch.

Техните изследвания предполагат, че се използват чувствителни лични данни. Това включва здравни досиета, информация за психичното здраве, история на зависимости и данни за хора, които не са били осъдени за никакви престъпления.

Statewatch съобщава, че Министерството на правосъдието (MoJ) води този план, изследвайки съществуващите записи на органите на властта за хората, за да предотврати сериозни престъпления.

Оригинално наречен „проект за предсказване на убийства“, сега се нарича „споделяне на данни за подобряване оценката на риска“. Проектът в момента е във фаза на изследване, но кампании и защитници на личната информация изразиха загриженост, както е докладвано от Statewatch.

Въпреки това, служителите отричат това. The Guardian съобщава, че представител на Министерството на правосъдието заяви: „Този проект се провежда само с цел на изследвания. Той е разработен, използвайки съществуващи данни, които HM Prison and Probation Service и полицейските сили имат за осъдени престъпници, за да ни помогнат да разберем по-добре риска от хора на пробация да извършат сериозно насилие. Докладът ще бъде публикуван навреме.“

Според Statewatch, полицията в Голям Манчестър сподели данни за до половин милион души. Това включва жертви, подозрени и хора в уязвимо положение.

София Лял, изследователка в Statewatch, критикува силно проекта, като заяви: „Опитът на Министерството на правосъдието да изгради тази система за предсказване на убийства е последният тревожен и дистопичен пример за намерението на правителството да разработи така наречените системи за ‘предсказване’ на престъпления.“

Тя предупреди, че системата ще задълбочи расовата и класовата дискриминация: „Този последен модел, който използва данни от нашата институционално расистка полиция и Министерство на вътрешните работи, ще засили и увеличи структурната дискриминация, която е основата на наказателноправната система.“

„Използването на такива чувствителни данни за психическо здраве, зависимости и инвалидност е изключително натрапчиво и тревожно“, добави тя.

Правителството твърди, че инструменти като този могат да подобрят начина, по който пробационните служби оценяват риска и предотвратяват насилието. Но критиците казват, че системата може да доведе до несправедливо етикетиране на хората като потенциални убийци заради недостатъчни и предубедени данни.

Правителството твърди, че тези инструменти ще подобрят способността на пробационните служби да оценяват риска и да спират насилието. Критиците обаче предупреждават, че системата рискува да маркира хората като потенциални убийци чрез лоши и предубедени данни.

Въпреки че все още е в процес на разработка, Statewatch съобщава, че в документи се споменава „бъдещата операционализация“ на системата, което поражда опасения, че тя скоро може да бъде използвана в реални полицейски решения.