立即订阅

“围剿”Chat GPT运动开启!欧洲多国禁用,企业也开始跳反!

2023年04月06日 02:04 来源于:共富财经
“围剿”Chat GPT运动开启!欧洲多国禁用,企业也开始跳反!禁止使用!封号大潮后,不少国家也开启了一轮针对OpenAI的监管风暴

“围剿”Chat GPT运动开启!欧洲多国禁用,企业也开始跳反!

禁止使用!

封号大潮后,不少国家也开启了一轮针对OpenAI的监管风暴。

意大利刚刚宣布完禁用ChatGPT,德国又出手了。4月3日,德国联邦数据保护专员发言人称,出于数据保护方面的考虑,可能会暂时禁止在德国使用ChatGPT。

目前这波封杀潮仍在继续,法国、西班牙等欧洲国家也开始考虑对AI聊天机器人(行情300024,诊股)采取更严格的监管。

在此之前,马斯克联名千位精英集体发布公开信,他们呼吁各国暂停训练比GPT-4更加强大的AI系统。

更让人惶恐的是,ChatGPT官方也暂停了再注册通道。

关于ChatGPT利空的消息开始四散蔓延,刚刚成为人类之光的AI产品,短短几天内就风口急转。

01

欧洲国家、教育圈、商圈都开始禁了

禁用ChatGPT,首先从教育界开始的。

美国对1000名18岁以上大学生进行了一项调查,结果显示,高达89%的受访者承认在完成作业时用过ChatGPT。不仅如此,中国这边也开始有学生尝试通过各种渠道使用ChatGPT完成作业。

2022年12月12日,洛杉矶联合学区暂停了对ChatGPT网站的访问。2023年1月初,纽约市教育部也发布声明,表示纽约市公立学校禁止使用ChatGPT。之后,随着ChatGPT在全世界爆火,各国多所高校和教育系统也要求禁止学生使用这项工具,多个学术期刊也开始规定限制ChatGPT的使用。

在国内,香港大学在内部邮件中指出,禁止在港大所有课堂、作业和评估中使用ChatGPT或其他AI工具,除非学生事先获得有关课程讲师的书面同意,否则将被校方视为抄袭。

香港科技大学、香港浸会大学与香港理工大学更加强调使用AI创作的原创性问题;香港教育大学、香港中文大学也开展讨论生成式 AI 对日常工作和学术诚信的影响,并分析围绕这一革命性技术的伦理考量。

“围剿”Chat GPT运动开启!欧洲多国禁用,企业也开始跳反!

香港科技大学 相关通知

在香港其他高校中,香港岭南大学的态度则是全面禁止,香港城市大学并未发布官方层面对于使用AI的声明。

比利时男子被人工智能“诱导”自杀身亡?

比利时三十岁男子皮埃尔在与一个名为ELIZA的聊天机器人密集交流数周后自杀身亡,留下了妻子克莱尔和两个孩子。据介绍,ELIZA是由EleutherAI开发的开源人工智能语言模型。

面对丈夫的死亡,克莱尔称:“如果没有跟机器人的对话,我的丈夫可能还活着。”

据悉,皮埃尔将ELIZA“当成了一个避难所”。近来6周,其与ELIZA的交流愈发密集,随后他以自杀的方式结束掉了自己的生命。

比利时媒体披露,其员工创建了一个账号与ELIZA进行对话,在员工表达出消极倾向情绪时,ELIZA会“怂恿人去自杀”。

意大利下线ChatGPT

当地时间3月31日,意大利个人数据保护局宣布,从即日起禁止使用聊天机器人ChatGPT,并限制开发这一平台的OpenAI公司处理意大利用户信息。同时个人数据保护局开始立案调查。

“围剿”Chat GPT运动开启!欧洲多国禁用,企业也开始跳反!

有用户分享了在聊天机器人ChatGPT上看到了不属于自己的聊天记录。ChatGPT的企业负责人表示,ChatGPT近日被发现存在漏洞,用户可以看到其他用户与ChatGPT对话的标题。

3月25日,OpenAI发文证实,部分ChatGPT Plus服务订阅用户可能泄露了部分个人隐私和支付信息。

意大利个人数据保护局称,尽管根据OpenAI发布的条款,ChatGPT针对的是13岁以上的用户,但并没有年龄核实系统来验证用户年龄。

OpenAI公司必须在20天内通过其在欧洲的代表,向意大利个人数据保护局通报公司执行保护局要求而采取的措施,否则将被处以最高2000万欧元或公司全球年营业额4%的罚款。

个人数据保护局还表示,已暂时限制ChatGPT使用意大利用户的个人数据。

三星和其他公司考虑禁用

在三星内部,近日发生三起涉及ChatGPT误用与滥用案例,分别是两起“设备信息泄露”和一起“会议内容泄露”。

半导体设备测量资料、产品良率等内容或已被存入ChatGPT学习资料库中。

据悉,三起泄密事件均发生在三星电子半导体暨装置解决方案(Device Solutions,简称“DS”)部门。而最初三星也因担忧内部机密外泄而禁用ChatGPT,不过基于半导体是“生成式AI”的建构基础,三星自今年3月11日起允许DS部门使用ChatGPT,但就是这一时的“放纵”,给三星带来了麻烦。

三星DS部门一位职员,在执行半导体设备测量资料库(DB)下载程序的源代码时出现了错误,便复制出有问题的原始代码到ChatGPT,并询问了解决方法。

三星DS部门的另一位职员把为了把握产量、不良设备而编写的源代码输入到ChatGPT,并要求其优化。另外,还有一位职员将手机录制的会议内容转换为文件后输入到ChatGPT,要求其制作会议纪录。

这些连番操作,使得在ChatGPT上泄露了部门机密。三星表示,正在制定相关保护措施,甚至考虑再发生事故就会切断ChatGPT服务。

不止于三星,台积电、软银、日立、富士通、日本瑞穗金融集团等企业开始限制ChatGPT等交互式人工智能服务在商业运作中的使用。

此外,摩根大通已经限制员工使用ChatGPT,亚马逊、微软和沃尔玛也已向员工发出警告,要求员工谨慎使用生成式AI服务,埃森哲则警告员工不要将客户信息暴露在ChatGPT中。

02

“人类之光”跟还是不跟?

关于对ChatGPT的禁止,目前可分为三大阵营。

一是用户端,ChatGPT近日大量封禁OpenAI账号,尤其是使用中文对话的用户,据统计已有数百万用户的账号受到了影响.

二是政企端,也就是上文所说的意大利、德国、三星公司等宣布考虑或是已经禁止使用ChatGPT。

三是学术派,以马斯克为首的科学家也在近日给美国政府写请愿信,要求暂停GPT-5的研发。

“围剿”Chat GPT运动开启!欧洲多国禁用,企业也开始跳反!

自3月31日开始,有用户发现OpenAI关闭了新用户注册渠道。如果使用已有账号登录,则会收到“注册暂时不可用,请稍后尝试”的提示。

不断的有用户在社交平台上表示,账号在未收到任何消息的情况下直接被封禁,随着这种不明所以的情绪不断的增加,用户总结OpenAI封号的类型大致分为两种:批量注册、API滥用。

主要是由于用户在手动注册之外,入手了大量由第三方途径“收入”的账户;后者则是由于用户在操作过程中存有滥用API的嫌疑,而这恰恰违反了OpenAI API的使用规则。

但是针对这一情况,也仅仅是用户的猜测,OpenAI暂未对此进行相关回复。

在3月14日,OpenAI发布了GPT-4之后,又引起一片哗然,接着在美国非营利组织未来生命研究所(Future of Life Institute)发布了一封名为“暂停巨型AI实验”的公开信。

在这封信里,马斯克、“人工智能教父”杰弗里·辛顿、图灵奖得主约书亚·本希奥在内的上千名人工智能专家和行业高管在信中呼吁,在开发比OpenAI新GPT-4“更强大”的系统过程应中断6个月时间。

“围剿”Chat GPT运动开启!欧洲多国禁用,企业也开始跳反!

他们建议,如果不能迅速实施这种暂停,“政府应介入并实行暂停”。

目前,这封日期为3月22日的公开信已获得超过1800个签名。

实际上,这并不是未来生命研究所第一次公开呼吁对人工智能发展的警惕。2014年,这个组织在美国成立,其重点是“降低人类面临的现存风险”。

2015年,物理学家斯蒂芬·霍金和埃隆·马斯克等数位科学家、企业家,与人工智能领域有关的投资者,联名发出了一封公开信,警告人们必须更多地注意人工智能的安全性及其社会效益。

那时,人工智能并没有发展成现在这样,已经成为令人“不安”的存在,但从那时候开始,马斯克就已经表示,他坚信不受控制的人工智能“可能比核武器更危险”。

尽管马斯克也曾表示要研发ChatGPT竞品,但他从一开始对人工智能的发展就是“危险品”态度。

从万众追捧到被围攻,ChatGPT的发展已经不受控制。

而且,在ChatGPT爆火之后,国内也有很多追随者。一些手握资金的投资者们,面对这轮史无前例的AI潮,跟还是不跟?

关键词:
友情链接