被英国情报机构警告！ChatGPT还是一种新的安全威胁

(原标题：被英国情报机构警告！ChatGPT或新的安全威胁)

财联社3月14日电(编辑周子怡)英国情报机构—— GCHQ周二(14日)警告称，ChatGPT和其他人工智能聊天机器人将是新的安全威胁。

GCHQ是国家安全机关，也是负责通信侦察和邮件检查的情报机构。GCHQ和著名的英国军情五处、军情六处一起，被称为英国情报机构的三叉戟。

初创公司OpenAI去年年底推出了ChatGPT。此后，其投资者微软于今年2月推出了基于ChatGPT技术的聊天机器人“Bing Chat”。由于这类软件可以提供酷似人类的对话，这项服务已经风靡全球。

GCHQ的网络安全部门指出，提供(AI聊天机器人)的公司可以看到用户输入的查询内容，就ChatGPT而言，其开发者OpenAI可以看到这些。

此外，国家网络安全中心(NCSC)也在周二发布的咨询报告中写道，OpenAI和微软等公司“可以读取”用户在人工智能聊天机器人中输入的查询内容。

NCSC警告说，办公室工作人员在尝试新颖的聊天机器人技术时，很可能会通过他们的搜索查询泄露敏感信息。

需要监控使用情况

在谈到人工智能聊天机器人背后的大语言模型(LLM)技术时，GCHQ的一位网络安全专家表示，“用户的这些查询将被存储，并且几乎肯定会在未来的某个时间点用于开发LLM服务或模型。”

这意味着LLM提供者可以读取相关的查询，并可能以某种方式将它们合并到未来的版本中。

微软今年2月披露，其员工正在阅读用户与必应之间的对话，并监控对话以发现“不当行为”。

网络安全公司Sectigo的高级安全经理伊曼纽尔查沃亚(Immanuel Chavoya)表示，“尽管LLM运营商应该采取措施保护数据，但不能完全排除未经授权访问的可能性。”

“因此，企业需要确保他们有严格的政策，并提供技术支持来监控LLM的使用，以最大限度地降低数据暴露的风险。”

公司的警惕性提高了

世界各地的公司对聊天机器人的技术越来越警惕。

伦敦金融城的律师事务所Mishcon de Reya禁止其律师将客户数据输入ChatGPT，担心具有法律隐私特权的信息可能被泄露。

国际咨询公司埃森哲(Accenture)警告其全球70万名员工，不要因为类似原因使用ChatGPT，担心客户的机密数据最终落入不法之徒手中。

英国计算机芯片公司Arm的母公司日本软银集团也警告其员工不要将“公司人员的身份信息或机密数据”输入人工智能聊天机器人。