ChatGPT热潮之下,暗涌丛生。

  继“取代谷歌”、引发失业潮等担忧之后,来自各方的不满、恐慌、抵触等负面情绪,近期集中在ChatGPT及OpenAI身上持续发酵:

  其一,用户侧,ChatGPT近日大量封禁OpenAI账号,尤其是使用中文对话的用户,据统计已有数百万用户的账号受到了影响;

  其二,政企端,意大利宣布禁止使用ChatGPT,并限制OpenAI处理意大利用户信息;三星发生三起半导体机密资料外泄事故,再发生事故或将切断ChatGPT服务;

  其三,学术派,以马斯克为首的科学家也在近日给美国政府写请愿信,要求暂停GPT-5的研发。

  凡此种种,一言以蔽之:人类最古老、最强烈的恐惧是对未知的恐惧。

  一则是害怕落后由ChatGPT开启的第四次工业革命,其二则是以ChatGPT为代表的先进技术“对社会和人类构成潜在风险”。

  大面积封号:付费Plus也不好使,亚洲被针对?

  ChatGPT正在大面积封号。

  相关信息显示,有用户于3月30日晚发现,付费Plus后会出现只扣款但订阅不开启的情况。

  随后,大约自3月31日开始,有用户发现OpenAI关闭了新用户注册渠道。如果使用已有账号登录,则会收到“注册暂时不可用,请稍后尝试”的提示。

  众多用户在社交媒体上表示,他们的账号在未收到任何警告的情况下被封禁,这让他们感到非常困惑和担忧。

  用户侧的恐慌情绪迅速蔓延,大量用户在诸多平台友情提示,“不要登陆!”

  目前,用户总结的规律显示,OpenAI封号的类型大致分为两种:批量注册、API滥用。

  前者主要是由于用户在手动注册之外,入手了大量由第三方途径“收入”的账户;后者则是由于用户在操作过程中存有滥用API的嫌疑,而这恰恰违反了OpenAI API的使用规则。

  而在微博相关话题的讨论中,有用户也整理了封号的四个原因,并贴心地提供了三个防封号指南。

  大面积封号、意大利禁用、马斯克喊停······ChatGPT“恐慌”四起

  来源:微博截图

  据市场统计,已有数百万用户的账号受到了影响。

  截至目前,OpenAI暂未对此进行相关回复。

  意大利直接禁用,三星等企业存泄密风险

  如果说OpenAI亲自下场封号,导致了用户侧的“未知恐惧”。那么,在部分国家及企业层面,则是另一种“未知恐惧”的双向奔赴:政企端担心数据安全和泄密,OpenAI则将丢失这一部分用户。

  据央视新闻报道,当地时间3月31日,意大利个人数据保护局宣布,从即日起禁止使用聊天机器人ChatGPT,并限制开发这一平台的OpenAI公司处理意大利用户信息。同时个人数据保护局开始立案调查。

  意大利个人数据保护局认为,3月20日ChatGPT平台出现了用户对话数据和付款服务支付信息丢失情况。此外平台没有就收集处理用户信息进行告知,缺乏大量收集和存储个人信息的法律依据。OpenAI公司必须在20天内通过其在欧洲的代表,向意大利个人数据保护局通报公司执行保护局要求而采取的措施,否则将被处以最高2000万欧元或公司全球年营业额4%的罚款。

  对此,OpenAI方面表示,应Garante的要求,该公司已禁止意大利用户接入ChatGPT。目前在意大利地区无法访问该网站。ChatGPT网页上的一则通知称,该网站的所有者可能设置了限制,阻止用户访问该网站。

  欧盟委员会执行副主席玛格丽特?维斯塔格(Margrethe Vestager)也在推特上表示,正在讨论欧盟人工智能法案的委员会可能不倾向于禁止人工智能技术,但需要对其进行规制。

  大面积封号、意大利禁用、马斯克喊停······ChatGPT“恐慌”四起

  来源:截图

  几乎在同一时间,韩国媒体报道称,3月11日,三星DS部门开始允许员工使用ChatGPT,但在不到20天的时间里就发生了三起机密信息泄露事件,其中2起与半导体设备有关,另外1起与会议内容有关。

  韩版《经济学人》的文章中直接写道:这导致半导体设备测量资料、产品良率原封不动传输给了美国公司。

  为了杜绝再次出现类似事故,三星正在制定相关保护措施,甚至考虑再发生事故就会切断ChatGPT服务。

  不止于三星,台积电、软银、日立、富士通、日本瑞穗金融集团等企业开始限制ChatGPT等交互式人工智能服务在商业运作中的使用。

  此外,摩根大通已经限制员工使用ChatGPT,亚马逊、微软和沃尔玛也已向员工发出警告,要求员工谨慎使用生成式AI服务,埃森哲则警告员工不要将客户信息暴露在ChatGPT中。

  马斯克等人喊停,但GPT-5已计划年底完成训练

  当地时间3月14日,OpenAI发布了GPT-4,其回答准确性不仅大幅提高,还具备更高水平的识图能力,且能够生成歌词、创意文本,实现风格变化。此外,GPT-4的文字输入限制也提升至2.5万字,且对于英语以外的语种支持有更多优化。

  仅仅半个月后,美国非营利组织未来生命研究所(Future of Life Institute)发布了一封名为“暂停巨型AI实验”的公开信。

  包括马斯克、“人工智能教父”杰弗里·辛顿、图灵奖得主约书亚·本希奥在内的上千名人工智能专家和行业高管在信中呼吁,在开发比OpenAI新GPT-4“更强大”的系统过程应中断6个月时间。

  他们建议,如果不能迅速实施这种暂停,“政府应介入并实行暂停”。

  截至当地时间上周五,这封日期为3月22日的公开信已获得超过1800个签名。

  然而,这一声势浩大的“喊话”,或许并不会起到太大的作用。

  4月2日,a16z投资的创业公司Runway CEO陈思齐透露,具有AGI (通用人工智能) 能力的GPT-5计划在2023年12月完成训练。

  针对“暂停研究”一事,中国人民大学教授刘永谋发文称,ChatGPT对社会生产力的推动作用已经昭然若揭,不应因噎废食而是控制利用。暂停ChatGPT研发的想法简单粗暴,作用不大,也实现不了,纯属无效的“嘴炮”。他认为,现在的问题是根据国情落实AI治理措施,而不是暂停ChatGPT研发。

  360创始人周鸿祎也持相似观点:“我认为这不影响中国发展自己的大语言模型,包括360在内的一些中国公司已经展示了自己的作品,实事求是来说,离GPT-4的水平还有两年差距。现在担心风险为时尚早。”

  周鸿祎曾经想过是不是在程序里加一句暗语,比如“天王盖地虎,宝塔镇河妖”,一提这句话,AI就能停止工作。“然而现在的发展态势,已经不是一句暗语或者拔掉电源就能控制的了。人工智能的进化已经不以个人意志为转移了,哪怕是马斯克。”

  周鸿祎称,“我自己就是做安全的,但我坚定地认为,不发展才是最大的不安全。”

本文源自:AI星球

举报/反馈

金融界

2300万获赞 243.8万粉丝
一站式互联网投资理财平台,让投资更简单
北京富华创新科技发展有限责任公司官方账号,优质财经领域创作者
关注
0
0
收藏
分享