AI建议的Keir Starmer是英国政府不会告诉我们的

英国总理凯尔·斯塔默（Keir Starmer）希望使该国成为人工智能的世界领导者PA图像/Alamy

英国政府中心的成千上万的公务员，包括直接支持总理凯尔·斯泰默（Keir Starmer）的公务员，正在使用专有的人工智能聊天机器人进行工作， 新科学家 可以揭示。官员们拒绝在记录中披露该工具的使用方式，无论是总理正在接受使用AI准备的建议还是公务员如何减轻不准确或有偏见的AI输出的风险。专家说，缺乏披露引起了人们对政府透明度的担忧以及政府中使用的信息的准确性。

在确保了根据信息自由（FOI）立法中获得世界优先发布的Chatgpt日志之后， 新科学家 要求20个政府部门与Redbox进行互动的记录，Redbox是在英国政府工作人员中开发并进行了试用的生成AI工具。根据其开发背后的一个人的说法，大型语言模型驱动的聊天机器人允许用户询问政府文件并“生成简报的初稿”。早期的审判使一名公务员声称“在几秒钟内 ”综合了50个文件，而不是一整天的工作。

所有联系部门都表示他们没有使用Redbox，或者拒绝提供与该工具互动的成绩单，并声称 新科学家提出的要求是“令人讨厌的” ，这是一个正式术语，用于响应信息专员办公室的要求，即“可能造成不成比例或不合理的困扰，中断或刺激”。

但是，两个部门确实提供了一些有关其使用Redbox的信息。支持总理的内阁办公室说，其部门的3000人与Redbox共同参加了30,000次聊天。它说，审查这些聊天以修改任何敏感信息，然后再将其释放到FOI下，将需要超过一年的工作。商业和贸易部也拒绝了，并指出它拥有“超过13,000个提示和答复” ，并审查它们以释放是不可行的。

当被问及有关红外使用的后续问题时，两个部门都提到 新科学家 向监督工具的科学，创新和技术部（DSIT）。DSIT拒绝回答有关总理还是其他内阁部长是否正在收到使用AI工具准备的建议的具体问题。

DSIT发言人告诉 新科学家：“没有人应该花时间在AI上做得更好，更快地做。建于Whitehall，Redbox正在帮助我们以一种安全，安全和实用的方式来利用AI的力量 - 使官员更容易地总结文档，草稿议程等。这最终使我们的工作加快了我们的工作，并释放了官员们的努力，以推动塑造政策和改善这个国家 - 努力塑造这个国家 - 努力越来越多。

但是，使用生成的AI工具涉及一些专家。大型语言模型围绕难以缓解的偏见和准确性有充分记录的问题，因此我们无法知道Redbox是否正在提供优质信息。DSIT拒绝回答有关Redbox用户如何避免不准确或偏见的具体问题。

“我在这里的问题是政府应该为公众服务，这项服务的一部分是，作为选民，作为选民作为选民，我们应该有一定程度的机会了解理解如何做出决策以及在决策方面的过程。”

由于生成的AI工具是黑匣子，因此Flick担心测试或了解其如何达到特定输出并不容易，例如突出文档的某些方面而不是其他文档。她说，政府不愿分享该信息进一步降低了透明度。

缺乏透明度扩展到第三政府部门，即财政部。为了回应FOI请求，财政部告诉 新科学家 它的员工无法访问Redbox，并且“ HM [Ma下]财政部内部可用的GPT工具不会保留及时的历史”。尚不清楚该指的是哪种GPT工具 - 虽然Chatgpt是最著名的例子，但其他大型语言模型也称为GPT 。回应表明，财政部正在使用AI工具，但没有保留其使用的全面记录。财政部没有回应 新科学家要求澄清的要求。

Flick说：“如果他们不保留所使用的提示，那么很难了解如何复制那里的决策过程。 ”

英国律师事务所Mishcon de Reya的Jon Baines说，选择不记录此信息是不寻常的。“我发现政府表示无法检索进出内部GPT系统的提示，这让我感到惊讶。”尽管法院裁定公共机构不必在档案之前保留公共记录，但“良好的信息治理表明，保留记录仍然非常重要，尤其是在可能被用来制定或告知政策的地方，”他说。

但是，数据保护专家蒂姆·特纳（Tim Turner）表示，国库在其权利范围内不保留根据FOI法律的提示：“我认为，除非有有关数据性质的特定法律或公务员规则，否则他们可以做到这一点。 ”

本文来自作者[lejiaoyi]投稿，不代表言希号立场，如若转载，请注明出处：https://lejiaoyi.cn/leyi/596.html