Английская полиция будет с помощью ИИ определять, нужно ли арестовывать подозреваемого

police-iiПолиция английского города Дарема готовится к запуску предиктивной системы искусственного интеллекта, которая будет определять, нужно ли содержать подозреваемого под стражей.

Технология называется «Инструментом оценки риска вреда» (Hart, или Harm Assessment Risk Tool) и создана для классификации людей на основе низкого, среднего или высокого риска совершения преступления в будущем.

В ближайшие несколько месяцев полиция хочет протестировать систему и сравнить её с традиционной методикой. Оценка с помощью искусственного интеллекта может использоваться в целом ряде случаев: например, чтобы определить, нужно ли задержать подозреваемого на более долгий срок и когда должен вноситься залог.

Согласно BBC, Hart принимает решения на основе данных, собранных полицией Дарема в период с 2008 по 2013 год. Система учитывает такие факторы, как криминальная история, серьёзность совершённого преступления и риск того, что человек покинет страну до слушания. В первоначальных тестах, которые проводились в 2013 году и в которых поведение подозреваемого отслеживалось в течение двух лет до совершения первого преступления, связанные с низким риском прогнозы были точны в 98 % случаев, с высоким риском — в 88 % случаев.

Hart — лишь один из многих алгоритмических и предиктивных инструментов, которые используют правоохранительные органы и судебные и тюремные системы по всему миру. Такие инструменты могут повышать эффективность работы полиции, но могут и иметь ошибки. В расследовании, опубликованном в прошлом году ProPublica, говорится, что системы оценки риска могут нести в себе предрассудки и помечать чернокожих обвиняемых как будущих преступников с в два раза большей вероятностью. В случае с белыми эта вероятность, наоборот, снижается.

Полиция Дарема заверила, что решения Hart во время экспериментального использования будут исключительно «консультативными». Система учитывает факторы вроде пола и почтового индекса, поэтому правоохранительные органы и академические советники говорят, что она остаётся неполноценной и не должна принимать решения самостоятельно.

«Сам факт проживания по определённом адресу не оказывает прямого влияния на результат, но должен сочетаться со всеми другими прогнозами тысячами различных способов, прежде чем будет достигнут окончательный вывод», — пишут авторы доклада, предоставленного по парламентскому запросу. Авторы, среди которых директор Центра доказательной полицейской деятельности Кембриджского университета профессор Лоуренс Шерман (Lawrence Sherman), добавили, что Hart оснастят системой аудита, чтобы отслеживать, как она достигает своих выводов.