隐私泄露隐患：昆州AI交通监控摄像头面临审查！

大白免

据报道，昆州交通部未能妥善评估AI摄像头的隐私风险，这些设备已向未察觉违规的驾驶人开出总额达1.37亿澳元的罚单。

一份审计报告指出，用于检测手机使用和安全带违规行为的AI图像识别技术可能存在侵犯居民隐私的风险。

报告认定，交通部既未识别相关风险，也缺乏对AI系统的有效监管。报告警告称，当前包括人工复核违规证据在内的风险缓释措施必须重新评估，以确保裁罚决定的合理性。昆州审计署针对人工智能伦理风险的专项调查还发现，客户服务、开放数据与小企业部对政府各部门AI应用情况的监督力度不足。

尽管该部门曾制定引导公共部门合规使用AI的政策，要求所有机构建立针对性治理框架以评估伦理风险，但交通部的手机及安全带监控项目却未按政策要求进行伦理风险评估。缺失的评估内容涉及图像识别准确度、驾乘人员隐私保护、照片处理存储规范缺陷，以及保障决策公平的"人工介入"机制不足等关键风险点。

2024年期间，AI系统累计完成逾2.08亿次违规检测，经人工复核的潜在违规案例达13.7万起。最终约11.4万驾驶人被处以罚单，罚金总额超过1.37亿澳元。该AI技术本应通过筛除低风险案例提升人工复核效率，但报告指出相关流程的"完整性"与实效性亟待验证。

报告建议客户服务部完善AI风险评估政策，同时要求交通部建立有效框架以保障AI治理机制切实管控伦理风险，并提升系统透明度。昆州交通部长Brent Mickelberg强调现有技术管控措施能有效管理伦理风险，但表示该部门已全盘接受审计建议。

"我们极度重视昆州居民的隐私保护，"Brent表示，"交通部已启动审计建议的落实工作，并制定了新的AI战略路线图以强化监管效能和保护措施。"


图文来源：couriermail
原文链接