澳大利亚昆士兰警察局（QPS）将启动人工智能（AI）试验 确定未来风险 一些报告的对象从事家庭暴力。
在家庭暴力升级和任何犯罪发生之前，警察将上门拜访被确定为“高风险”的施暴者（根据之前的报告、犯罪记录或其他情况）。
家庭暴力：预防更好，但......
我马上说：我们需要找到更好的方法来改善家庭暴力女性受害者的安全。然而，在这种情况下使用人工智能技术可能会产生意想不到的后果，这一拟议计划引发了人们对警察在预防家庭暴力事件中的作用的严重质疑。
该方法基于根据现有数据开发的算法。所有统计算法都必须根据可用数据评估风险。这反过来意味着它们“仅”与支持它们的数据一样好。专家批评警务中数据驱动的风险评估工具并非巧合，突显了所分析的特定类型数据缺乏透明度。
小心玩“犯罪前”
如前所述，最一致捕获的关键数据是有关过去报警情况的信息以及有关犯罪记录的数据。使用这些信息来训练人工智能算法可能会加剧刑事司法系统中现有的偏见。 它可能会造成一个无休止的反馈循环，在警察和与警察有更多联系的公民之间形成死胡同。
如果您还想到种族歧视，那么您离真相不远了。 例如，在澳大利亚，与警察接触最多的人是原住民。 不难想象，在这种新的“反家暴”制度下，警察会更多地探访原住民。
警方热衷于说，对于这个试点项目，在训练 AI 模型之前删除了种族和地理位置的属性。 尽管如此，原住民仍有可能继续成为不成比例的目标，因为他们在与警察的所有类型的接触中所占比例过高。
基于犯罪风险的好方法吗？
这些基于犯罪的警务策略的目标人工智能 它是通过评估未来犯罪的风险来预防或减少犯罪。 从理论上讲，这意味着警方会及早干预以防止犯罪发生。 谁还记得前面提到的《少数派报告》的“犯罪前夕”？
我说这种方法存在警察甚至可能会面临的风险 制造犯罪. 这种类型的“预防性”计划可以增加抵抗和规避机制：如果这导致其他犯罪，我不会感到惊讶。
综上所述，澳大利亚警方提出的计划存在明显的风险。扩大对犯罪者和受害者（可能被错误地认定为犯罪者）的刑事定罪网络。如何实现？例如，有时逮捕因自卫而使用暴力的受害者而不是肇事者。
是否会给家庭暴力的受害者带来进一步的伤害？
受害者在此类计划中的角色也令人担忧。 任何加深对肇事者的监视的计划也会加深对受害者的监视。
受害者并不总是希望警察干预他们的生活。 在某些情况下，这种主动监管形式可能让人感觉像是控制的延伸，而不是帮助。 当警察探访发现肇事者和高危受害者再次生活在一起时会发生什么？
风险就在那里
受害者可能担心儿童保护机构会介入，并觉得有必要隐瞒他们仍与犯罪者在一起的事实。一旦受害者被迫撒谎，下次需要警方干预时，他或她可能不愿意报警。在其他情况下，肇事者或受害者可能决定不遵循来访警察的安全建议。目前还不清楚，当警察要求袭击者离开或试图将受害者带到安全的地方但他们拒绝时，他们会采取什么措施。
任何家庭暴力干预的使命都应该是恢复受害者的权力。 但我们知道干预措施并不能平等地帮助所有女性（或男性）。 结构性不平等，包括种族和阶级，意味着不同的人对干预的体验不同。
