📢 转载信息
原文作者：James O'Donnell
一家美国电信公司利用多年来收集的在押人员的电话和视频通话数据训练了一个AI模型，现正试点使用该模型扫描他们的通话、短信和电子邮件，希望借此预测和预防犯罪行为。
Securus Technologies总裁凯文·埃尔德（Kevin Elder）告诉《麻省理工科技评论》，该公司于2023年开始构建其AI工具，利用其庞大的通话录音数据库来训练AI模型以检测犯罪活动。例如，他们创建了一个模型，使用德州监狱系统在押人员七年的通话记录进行训练，但目前也在致力于构建特定州或县的模型。
埃尔德表示，在过去的一年里，Securus一直在试点使用这些AI工具来实时监控在押人员的对话。该公司拒绝透露试点地点，但其客户包括关押等待审判人员的看守所和服刑人员的监狱。其中一些使用Securus技术的设施还与移民及海关执法局（ICE）签订了拘留移民的协议，但Securus并未直接与ICE签订合同。
“我们可以将这个大型语言模型指向一整座宝库[数据]，以检测和理解何时正在酝酿或考虑犯罪行为，从而让你在周期的更早阶段就能发现它们。”
根据埃尔德的说法，与该公司的其他监控工具一样，拘留设施的调查人员可以部署AI功能来随机选择对话进行监控，或者监控那些被设施调查人员怀疑有犯罪活动的个人的对话。该模型将分析电话和视频通话、短信和电子邮件，然后将相关部分标记给人工代理进行审查。随后，这些代理会将标记内容发送给调查人员进行跟进。
在一次采访中，埃尔德表示，Securus的监控工作已经帮助挫败了从监狱内部组织的贩卖人口和帮派活动等犯罪行为，并表示其工具还被用于识别将违禁品带入监狱的工作人员。但该公司没有向《麻省理工科技评论》提供任何具体由其新AI模型发现的案例。
监狱中的人员及其通话对象都会被告知他们的谈话内容正在被记录。但倡导在押人员权利的组织“Worth Rises”执行董事比安卡·泰莱克（Bianca Tylek）指出，这并不意味着他们知道这些谈话内容可能被用来训练AI模型。
泰莱克说：“这属于胁迫性同意，因为你与家人交流别无他法。”她补充说，由于绝大多数州的在押人员需要为这些通话付费，“你不仅没有为使用他们的数据进行补偿，反而在收集他们数据的同时向他们收费。”
Securus的一位发言人表示，使用数据来训练该工具“并非专注于监视或针对特定个人，而是旨在识别整个通信系统中更广泛的模式、异常和非法行为。”他们补充说，惩教机构决定自己的录音和监控政策，Securus会遵循这些政策，并且没有直接回答在押人员是否可以退出其录音被用于AI训练。
其他在押人员倡导者表示，Securus有侵犯其公民自由的记录。例如，其录音数据库泄露的记录显示，该公司曾不当地记录了数千次在押人员与其律师之间的通话。美国公民自由联盟国家监狱项目副主任科琳·肯德里克（Corene Kendrick）表示，新的AI系统促成了一种侵入性监控，而法院对这种权力设置的限制很少。
肯德里克说：“我们是否会因为监控被监禁者的一言一行和所有想法而阻止犯罪发生呢？我认为这种情况很多，技术远远超出了法律的范畴。”
该公司发言人表示，该工具的功能是在人员短缺的情况下提高监控效率，“而不是无故监视个人”。
由于该公司最近在与监管机构就电信公司如何使用从在押人员通话中收取的费用方面取得胜利，Securus为其AI工具的融资将变得更加容易。
2024年，联邦通信委员会（FCC）发布了一项重大改革，该改革由囚犯权利倡导者塑造和赞扬，禁止电信公司将录音和监控通话的成本转嫁给在押人员。公司仍可继续向在押人员收取有上限的通话费用，但监狱和看守所被要求从自有预算中支付大部分安全费用。
对这一变化的负面反应迅速。治安官协会（他们通常负责县看守所）抱怨说，他们再也负担不起对通话进行适当监控的费用了，14个州的州总检察长就该裁决提起了诉讼。一些监狱和看守所警告称，他们将切断电话接入。
在构建和试点其AI工具期间，Securus与FCC进行了会谈，并游说要求进行规则变更，辩称2024年的改革走得太远，并请求该机构再次允许公司使用从在押人员那里收取的费用来支付安全开支。
6月，唐纳德·特朗普总统任命的FCC主席布伦丹·卡尔（Brendan Carr）表示，将推迟所有监狱和看守所采用2024年改革的最后期限，甚至暗示该机构希望利用在押人员支付的费用来帮助电信公司为其AI监控工作提供资金。卡尔在新闻稿中写道，撤销2024年的改革将“促使更广泛地采用有益于公共安全、包括先进AI和机器学习的工具。”
10月28日，该机构采取了进一步行动：它投票决定通过新的、更高的费率上限，并允许Securus等公司将与通话录音和监控相关的安全成本——例如存储录音、转录它们或构建AI工具来分析此类通话——转嫁给在押人员。Securus的一位发言人告诉《麻省理工科技评论》，该公司旨在平衡可负担性与资助基本安全和保障工具的必要性。他们写道：“这些工具，包括我们先进的监控和AI能力，对于维护在押人员和惩教人员的安全设施以及保护公众至关重要。”
FCC委员安娜·戈麦斯（Anna Gomez）对上个月的裁决表示了反对。她在声明中写道：“执法部门应该为与安全和安全相关的成本买单，而不是被监禁人员的家人。”
FCC在这些新规则最终生效前将征求意见。
本文于12月2日更新，以澄清Securus不与ICE设施签订合同。
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区