O algoritmech, které se údajně dnes používají ke studiu dat od tisíců lidí, tak kritici tohoto projektu říkají, že jsou „mrazivé a dystopické“

Vláda Spojeného království v současnosti vyvíjí program „předpovědi vraždy“, který doufá, že dokáže využít osobní údaje těch, které úřady znají, k identifikaci lidí, kteří se s největší pravděpodobností stanou vrahy.

Výzkumníci tak údajně používají algoritmy k analýze informací od tisíců lidí, včetně obětí trestných činů, když se snaží identifikovat ty, kteří jsou nejvíce ohroženi spácháním závažných násilných trestných činů.

Toto schéma se původně jmenovalo „projekt pro předpovědi vražd“, ale jeho název byl změněn na „sdílení dat pro zlepšení hodnocení rizik“. Ministerstvo spravedlnosti doufá, že projekt pomůže zvýšit veřejnou bezpečnost, ale aktivisté jej nazvali „mrazivým a dystopickým“.

Existenci projektu objevila nátlaková skupina Statewatch a některé z jeho fungování odhalila prostřednictvím dokumentů získaných na základě žádostí o svobodu informací .

Statewatch říká, že v rámci tohoto projektu budou použity rovněž údaje od lidí, kteří dosud nebyli odsouzeni za žádný trestný čin, a to i třeba včetně důvěrných a velmi osobních informací o sebepoškozování a nebo podrobností týkajících se domácího násilí. Úředníci to vše přitom důrazně popírají a trvají na tom, že prý byly použity pouze údaje o lidech s alespoň jedním odsouzením za trestný čin.

Vláda tvrdí, že projekt je v této fázi určený pouze pro výzkum, ale aktivisté naopak tvrdí, že použitá data by mohla začlenit zaujatost do předpovědí hlavně vůči menšinám a chudým lidem.

Ministerstvo spravedlnosti říká, že jejich program „přezkoumá charakteristiky pachatele, které zvyšují riziko spáchání vraždy“ a „prozkoumá alternativní a inovativní techniky datové vědy k hodnocení rizika vraždy“.

Projekt by údajně „poskytl důkazy ke zlepšení vyhodnocení rizik páchání závažné trestné činnosti a v konečném důsledku by to přispělo k ochraně veřejnosti prostřednictvím lepší analýzy“, dodal mluvčí.

Projekt, který zadal úřad premiéra v době, kdy byl Rishi Sunak ještě u moci, využívá údaje o kriminalitě z různých oficiálních zdrojů, včetně Probační služby a údajů od policie Velkého Manchesteru od roku 2015.

Typy zpracovávaných informací zahrnují jména, data narození, pohlaví a etnický původ a číslo, které identifikuje osoby v policejním národním počítači.

Tvrzení Statewatch, že budou použita také data od nevinných lidí a od těch, kteří se obrátili na policii o pomoc, je založeno zčásti ne dohodě o sdílení dat mezi MS a GMP.

Část označená: „typ osobních údajů, které má policie sdílet“ s vládou, zahrnuje jednak různé typy odsouzení za trestné činy, ale je zde také například uveden věk, kdy se ta osoba poprvé objevila jako oběť, a to včetně případů domácího násilí, a nebo věk, ve kterém byla osoba, když se poprvé setkala s policií.

Ke sdílení – které je uvedené pod „zvláštními kategoriemi osobních údajů“ – jsou také „zdravotní markery, u kterých se očekává, že budou mít nějakou významnou prediktivní schopnost“, třeba jako jsou údaje týkající se duševního zdraví, nebo závislosti, sebevražd, ale i zranění po sebepoškozování, jakož i zdravotního postižení.

Sofia Lyall, výzkumnice pracující pro Statewatch, řekla: „Pokus ministerstva spravedlnosti vybudovat tento systém k předpovědi vražd je nejnovějším, přitom dost mrazivým a dystopickým příkladem vládního záměru vyvinout takzvané prediktivní systémy pro „předpovědi“ zločinu.

„Výzkum nám ale přitom znovu a znovu ukazuje, že tyto algoritmické systémy pro ‚předvídání‘ zločinu tak jsou již ze své podstaty chybné.

„Tento nejnovější model AI, který ke své činnosti využívá předevší data z britské, tedy z institucionálně rasistické policie a od ministerstva vnitra, tak posílí a ještě k tomu zvětší strukturální diskriminaci, která je tu základním kamenem dnešního trestně právního systému.

„Stejně jako jiné systémy tohoto druhu bude kódovat obsah a výsledky zaujaté vůči rasově motivovaným a nízkopříjmovým komunitám. Vybudování jakéhokoliv automatizovaného nástroje pro prediktivní profilování lidí jako je tomu u případných násilných zločinců, tak je hluboce špatné a používání tak citlivých údajů, jako jsou třeba ty o duševním zdraví, o závislosti a nebo o postižení je samo o sobě vysoce znepokojivé a alarmující.“

Mluvčí ministerstva spravedlnosti k tomu řekl: „Tento projekt slouží pouze pro výzkumné účely. Byl navržen s využitím stávajících údajů od Vězeňské a probační služby a od policie o již někdy odsouzených pachatelích, aby nám pomohl lépe porozumět riziku, zda lidé v probaci budou opět páchat vážné násilí, či další trestnou činnost. Zpráva o tom bude veřejnosti zveřejněna v pravý čas.“

Úředníci k tomu říkají, že vězeňská a probační služba v Británii, tak již dnes používá různé nástroje pro hodnocení rizik, a že právě tento projekt ukáže, zda by přidání nových zdrojů dat ještě od policie a z vazebních věznic nakonec zlepšilo vyhodnocení takových rizik.

Zdroj.