几百名大佬联名给ChatGPT们踩刹车,AI到了失控边缘?!

SHARE:

几百名大佬联名给ChatGPT们踩刹车,AI到了失控边缘?! ...

几百名大佬联名给ChatGPT们踩刹车,AI到了失控边缘?!

差评君


就在昨天早上,一封公开信刷屏了差评君的朋友圈,著名安全机构生命未来研究所( Future of Life Institute , FLI )呼吁全球所有研究机构暂停训练比 GPT-4 更强的 AI.


澳洲唐人街至少六个月。


并且要在这六个月中来制订和 AI 相关的安全协议,其中就包括如何监管 AI 输出的内容,还有如何把 AI 创造出的内容和真实的内容区分开来。

澳洲唐人街


咱别看这个研究所名字中二感满满,但在上面留下名字的,个个都是行业里的顶尖大牛。


图灵奖得主约书亚 · 本吉奥、苹果联合创始人史蒂夫 · 沃兹尼亚克、《 人类简史 》的作者尤瓦尔 · 赫拉利、以及什么地方都会刷一脚存在感的埃隆马斯克


澳洲唐人街可以说是 “ 满级人类闪耀时 ” 了。


虽然,关于这次签名事件的准确性没有那么高,也有些人在自己不之情的情况下 ”被签名“ 了,比如一开始 OpenAI CEO 奥特曼的签名也在上面( 我杀我自己? )


再比上面还有急速追杀的主角 John Wick 

澳洲唐人街

但不管怎么说,可以感到大家都紧张起来了。

澳洲唐人街在信中,生命未来研究所提了四个问题:

我们一定要让机器用宣传和谎言充斥我们的信息渠道吗?
我们一定要把所有工作都自动化吗?包括哪些人工完全可以做得令人满意的工作吗 ?
我们一定要发展最终可能超过我们、超越我们、并取代我们的非人类思维吗?
我们一定要冒险失去对我们文明的控制吗?

讲道理,这些问题在过去几十年里一直是科幻小说中流行的题材。

但是可能谁也想不到,随着去年年底 OpenAI 一声枪响。

这些难题真真切切的被搬到了我们面前,变成了我们可能需要立刻面对的元素。


>/ 眼见为真?耳听为实?


前几天,有人在网上发布了一组图片,记录了 2001 年发生在美国西部小镇卡斯卡迪亚上的了一场 9.1 级的地震之后的景象。

略带模糊的镜头记录下了当时哭喊的民众

澳洲唐人街

被摧毁的建筑和房屋

澳洲唐人街

甚至还有当时的美国总统小布什访问灾区的合影。
澳洲唐人街

无论是破损的城市,街道上大家的穿着,都在告诉观众这是一组来自 2001 年的照片。

不那么清晰的画质反而给大家一种 “ 路人随手拍 ” 的感觉,让照片的真实性再上了一个台阶。

澳洲唐人街但唯一的问题是,根本没有这场大地震,卡斯卡迪亚上一次有记录的灾难,是在 1700 年。
澳洲唐人街

没错,这组照片就是用 Midjounrney 来生成的。

比起前段时间流行的 “ 赛博 COS” ,明暗对比更强烈,更擅长描述场景关系的 Midjourney 用来制作 “ 虚假历史 ” 明显更加得心应手了。

澳洲唐人街也更容易骗到大家的眼睛。

前几天流行的 “ 川普被捕 ” 或者是 “ 教皇穿羽绒服 ” ,都是出于 Midjourney 的手笔。

图片来源 @ 谷大白话

澳洲唐人街

说实话,差评君看到这个照片的第一瞬间,还真觉得有点懵,毕竟做为解放神学出身的教皇,方济各穿个羽绒服也很正常对吧。

但是,这些图片用来图一乐倒是还好,一旦用来深究,那事情可能就大条了。

澳洲唐人街万一下回,这项技术被用来诈骗呢?

和前些年流行过的 DeepFake 换脸不同,如今的 AI 作图不需要特别好的显卡,更不需要很长的时间去调试,对 Midjourney 来说,只要坐在浏览器前敲敲键盘就行。

当 AI 让图像造假的成本足够低廉之后,咱又要花多少时间去分辨一张图是不是 AI 画的?

比如川普返乡

澳洲唐人街

可能生成一张假的图片需要 10 秒,但咱们想要看出来是这张图是不是 AI 画的,可能少说得要花个半分钟。。。

不是每个人都有那么多精力能分辨 AI 的,只要有 1% 的人认不出来上当受骗,就可以说是一本万利的生意了好吧。

以往我们说耳听为虚,眼见为实,然而现在,眼见也不再为真。

过去几十年来人类习以为常的秘密,已经悄悄被 AI 解构成了一堆的线性矩阵。

在排列组合中,瞒天过海了人类。

而图片生成还只是 AIGC ( 人工智能技术来生成内容 )中的一部分。

这次被大佬们试图联名叫停的 “ 巨型 AI” 更是重量级,对标的产品自然是出尽风头的 ChatGPT 。
澳洲唐人街

这玩意有多离谱,咱们也写文章聊过很多,今天就不再做赘述。

前段时间还生成了一段杭州取消限行的文案,骗过了不少人。
澳洲唐人街

澳洲唐人街实际上,这类大语言模型并不是没有监管,从它们出生的那刻开始,监管就如影随形了。

上个月 OpenAI 在发布 GPT-4 的时候就提到,他们早在 22 年 8 月就完成了 GPT-4 的开发。

但是之后花了六个月来搞安全问题,为的就是不让AI  “ 乱说话 ” 。

GPT-4 经过拷打之后胡言乱语的水平大幅度下降:

澳洲唐人街

但问题是,现在的 AI 和过去那些一步步执行编译的程序不一样,这 AI 有一个算一个,全是黑箱。 

澳洲唐人街不像过去那些程序,要是出了问题,程序员还可以进去打断点,一个环节一个环节的调试 Bug 来把问题给搞清楚,哪一个环节有问题,针对性的改一下就好了。

但现在以 Chatgpt 为首的大模型 AI 就好像一个黑色的纸箱子,你只知道给它喂苹果,它能还你一个橘子,而中间发生了什么事情一概不知。

那万一这箱子要是出了问题,那咋办嘛?只能重新买一个黑箱子了。

ChatGPT 就像一盒巧克力,在它输出完成之前,没有人知道它嘴巴里会蹦出什么字来。

李彦宏也提到: “ 生成式 AI 每次给出的答案不一定一样,会带来不确定性 ” 。
澳洲唐人街

澳洲唐人街这个生成到底有多不靠谱呢?差评君讲个刚刚遇到的事儿:

前几天不是索尼微软任天堂、育碧和 D 社都说要退出 E3 展会么,我就有点好奇 E3 展会租金到底要多少钱?

先是在知乎上找到了一个回答,答主表示自己查到在 06 年时 E3 的租金就要 500万美元以上。

额。。。06 年,500万?这个数据好像有一些不靠谱,于是我又去用 NewBing 问了一下:

也给出了类似的回答。
澳洲唐人街

有数据有链接,看起来是有理有据。

但问题是当我点开这个链接的时候发现。。。IGN 的文章里面根本没有提到租金 500 万这个数字
澳洲唐人街

合着你是直接把之前的知乎文章翻译了一遍,然后又给我编了一篇英文文章来讹我啊。。。

澳洲唐人街它顺应了我们的猜测给了一个谣言,要不是我多心看了一眼,可能真的给他糊弄过去了。

真就是睁眼说瞎话大师。

而除了这个 title 以外, AI 还是桀骜不羁的漏洞寻找大师,往往能在我们训练它的过程中表演一手出乎意料。

在人工智能领域,有个非常经典的理论叫做 “ 对齐问题 ” 。

意思是 AI 在做的事情和我们想要的结果之间没有对齐,命令的传递出现了偏差。

澳洲唐人街就比如前两年那只宁愿一头撞死的赛博狼。

发现抓半天羊还会不断扣分,那还不如一头撞死自己分还比较高。

滑动查看全文
澳洲唐人街

狼抓羊这么简单的程序都会出现没法对齐的问题,那更大模型的人工智能就更难说了。

澳洲唐人街实际上,缺乏 “ 对齐 ” 的 AI,还可能会形成社会中一些错误印象的 “ 放大器 ” 。

就拿性别歧视举个例子,早些年亚马逊引入了一个人工智能,来给求职者的简历打分。

结果过了几年回头一看,在程序制定者啥也没做的情况下,性别歧视就很顺滑的出现了,男性简历的通过率比女性高了不少。

甚至就算简历上面没有明确写出性别,程序还会通过一些细枝末节的地方来确定:比如是否毕业于女子大学,是否是 “ 女子 XX 社 ” 社团社长。

这自然不是亚马逊在招聘时希望看到的,也绝对不是它们在设计 AI 时给它下的命令。

澳洲唐人街但是 AI 在训练的结果中很自然的 “ 没有对齐 ” 。

而且不光早些年的人工智能,最新的 ChatGPT 也依旧会有这些问题。

比如宁可让百万人失去生命也不愿意说一句种族歧视的话语。
澳洲唐人街

再比如不愿意写一首诗歌歌颂川普,但是可以赞扬拜登。。。
澳洲唐人街

这些都是很明显的政治倾向,我愿意相信 OpenAI 在研发 ChatGPT 的时候并不希望它学会这些,不然他们也没有必要在 GPT-4 上花那么多时间用于自我审查。

澳洲唐人街但我们一不留神, AI 可能就偷偷的跑偏。

去学习偏见、歧视这些我们不希望存在,但是又客观隐藏在社会关系里的性别歧视和政治倾向。

差评君也和清华大学交叉信息研究院的于洋教授聊过这个问题,探究到底是 AI 的哪里出了问题。

于教授的回答是: “ 这既是训练数据集的问题,也是模型架构的问题,也是训练方式的问题,还涉及到使用的问题——比如诱导 AI 犯错的攻击式使用。 ” 

澳洲唐人街——对,就是全有问题。

现在的 AI 能做的还有限,就算没对齐,捅出了篓子,可能还在我们能控制的范围里。

但如果在这样狂飙下去,那可就说不定了,就像那个知名的 “ 曲别针假说 ” 。

澳洲唐人街说不定未来哪一天, AI 会认为人类都是阻挠它生产曲别针的阻碍,把大家都给噶了?

人类有和自然相处成百上千年下来的道德约束,我们知道什么能做,什么不能做。

而目前,人工智能学不会这些。

或许,这才是这次数千 AI 大佬发出联名信的原因。

监管必须要有,但是监管、法规不是一日而成。

AI算法突破起来毫无阻碍,连我们这种外行人都知道,AI带来的技术爆发已经箭在弦上。去年啥情况,今年啥情况,称之为突飞猛进不为过。

随着AI算法的日益完善,下一步没准就要自我进化了,它能成长到什么地步我们很难说。

我们有可能只能跟着 AI 在屁股后面追,但是现在不知道还有没有我们一直在后面追的空间。

也许下一步只能用 AI 来监管 AI。

今天的联名信或许是给人类敲响了一记警钟。

但可惜的是,在差评君看来,这样一纸的 “ 联名信 ” 绝对停不下 AI 领域研发的脚步。

撰文:小陈   编辑:江江 & 面线 & 结界  封面:萱萱

图片、资料来源:
https://openai.com/research/gpt-4
Red Teaming Improved GPT-4. Violet Teaming Goes Even Further
ChatGPT Is a Blurry JPEG of the Web —— Ted Chiang


澳洲唐人街
澳洲唐人街

COMMENTS

名称

[db:关键字],15,阿德,3,阿德莱德,10,阿尔,2,阿尔法,1,阿富汗,1,阿里,3,阿里巴巴,1,癌症,1,艾拉,1,艾玛,1,艾滋病,1,爱车,1,爱尔兰,2,爱犬,1,安保,1,安检,1,安全带,3,安泰,1,岸边,3,按键,1,按摩师,3,按摩椅,2,案件,4,奥迪,1,奥运会,2,澳大利亚,138,澳大利亚人,6,澳门,2,澳元,199,澳洲,962,澳洲大学,97,澳洲技术移民,26,澳洲家属移民,9,澳洲留学,102,澳洲人,8,澳洲商业移民,38,澳洲私校,7,澳洲投资移民,37,澳洲小学,1,澳洲移民,116,澳洲中学,28,巴赫,1,巴基斯坦,2,巴克,1,巴厘岛,1,巴黎,1,巴马,1,巴士,17,巴士站,5,巴特,1,巴西,2,把你,2,把我,1,爸妈,1,白色,1,白沙瓦,1,白雾,1,白蚁,2,百分点,1,百货公司,1,百老汇,2,柏林,1,斑马,1,版本,1,版权归,38,办公楼,3,半边,1,帮你,3,包裹,1,宝宝,3,保安,6,保单,1,保费,5,保护区,1,保护人,1,保险公司,2,报道称,1,报告,6,鲍威尔,3,鲍鱼,2,暴风雨,1,暴洪,1,暴雪,4,爆料,3,爆炸物,1,悲剧,1,北岸,10,北京,4,北领地,3,贝贝,1,被称为,1,被告,3,被困,4,被骗,4,被人,2,本金,2,本文,1,本周,4,鼻疽,1,比尔盖茨,2,比价,1,比例,2,比亚迪,2,笔记本,1,笔记本电脑,1,毕业生,2,闭路电视,1,庇护所,1,边防,1,边检,3,边框,1,编辑部,1,编剧,2,蝙蝠,2,变速箱,1,变体,2,变种,2,变装,1,辩词,1,标牌,1,标签,41,标志,3,标准,2,标准局,2,表格,1,表观,1,别墅,2,冰毒,2,兵役,1,并在,1,病毒,15,病假,1,病菌,3,病例,15,病人,2,波音,4,菠萝,1,播客,1,播音员,1,伯尔,1,脖子,1,博世,1,补助金,1,哺乳动物,1,不出,1,不法分子,2,不来,1,不容错过,1,不属于,1,不像,1,不幸,3,布莱恩,1,布里,3,布里斯班,31,步枪,1,部长,4,材料,4,财产,1,财富,1,财年,3,财神爷,1,财务,1,财长,4,财政部,1,彩虹,2,彩民,2,彩票,8,参议员,1,餐馆,8,餐厅,6,残疾,2,残疾人,1,藏品,2,草地,3,草莓,1,测试,3,测速,2,插件,1,查看更多,1,差距,2,差评,88,产品,18,厂商,1,场房,1,场所,1,抄底,1,钞票,1,超导,1,超频,1,超声,3,超市,8,巢穴,1,朝北,10,朝里,1,朝向,3,车程,5,车道,2,车祸,6,车间,1,车库,3,车辆,6,车流,1,车门,3,车内,2,车牌号,1,车票,3,车位,14,车型,3,车子,1,车座,2,陈某,2,成本,9,成分,2,成绩,2,成精,1,成了,1,成年人,2,成品,1,成员,2,承包商,1,城区,4,城市,1,城铁,3,乘客,19,程式,1,程序,3,持有人,3,尺寸,1,耻辱,1,充电站,2,宠物狗,2,抽奖活动,1,抽象,1,出个,1,出货,1,出货量,1,出了,1,出租车,1,初心,1,厨刀,1,厨房,2,厨师,1,储户,1,储能,1,处方,5,传人,1,船上,1,串流,1,串珠,1,创维,1,创意,1,创作者,1,春宫,2,春晚,2,此案,1,此类,1,此前,1,刺猬,1,错误,1,搭档,1,达到了,1,达尔文,3,打车,1,打了,3,大白天,1,大杯,1,大餐,1,大打出手,1,大儿子,2,大富翁,1,大哥,1,大海,1,大火,12,大件,1,大军,2,大块头,1,大了,1,大理石,5,大楼,3,大妈,4,大麻,4,大桥,1,大厦,1,大师,1,大甩卖,1,大厅,1,大新,22,大学,11,大游行,1,大宅,1,大战,1,大众,1,歹徒,1,代币,2,代金券,1,代练,1,带来了,2,带你,1,带着,1,贷款,8,贷款人,1,袋鼠,1,袋子,3,单号,1,单身,4,单位,2,单元,2,担心,1,胆固醇,2,但他,4,弹球,1,弹匣,1,蛋白,1,蛋白质,2,当场死亡,2,当局,2,当你,2,档案馆,1,导弹,1,岛国,1,岛民,1,到家,3,道路,5,得分,2,地产,1,地道,2,地点,1,地方法院,3,地块,14,地球,3,地区,13,地毯,3,地铁站,6,地图,2,的钱,3,的人,103,的是,35,低价,1,低氧,1,低音,1,底层,1,底价,5,底盘,1,抵押贷款,7,帝国,1,第三方,3,第一辆车,1,蒂安,1,癫痫,1,电车,5,电池,5,电动车,1,电动滑板车,1,电动汽车,5,电动自行车,1,电费,9,电话,3,电价,1,电脑,2,电视,3,电梯,2,电玩,1,电信,1,电讯,1,电影节,1,电站,1,电子,2,电子产品,2,电子邮件,1,店家,1,店里,1,店内,1,店员,2,店主,1,雕像,1,调味料,1,跌幅,2,钉子户,1,订单,4,东京,1,东区,1,东西,4,董事,1,董事会,2,动物,2,动物园,2,动议,1,动作,1,动作游戏,1,洞穴,1,都不,2,都没,1,都是,18,都要,1,豆瓣,1,毒贩,1,毒品,5,毒蛇,2,毒素,2,独角兽,2,独立,8,读卡器,1,读者,1,赌场,2,杜比,1,度假者,2,短缺,6,短视,1,短信,8,对决,1,对你,1,对我,1,多个,2,多款,1,多伦多,3,多维,1,俄亥俄,1,俄亥俄州,1,俄克拉荷马州,1,俄罗斯,1,俄罗斯方块,1,峨眉山,1,额度,1,恶搞,1,恶犬,1,恶意,3,饿了,1,儿童,6,儿童医院,3,儿子,5,而不,1,而在,2,耳蜗,3,二人,3,二手,1,发布会,1,发电厂,1,发动机,1,发票,1,发生,7,发生在,1,发现,12,罚单,1,法案,1,法官,12,法国,2,法拉第,1,法律,1,法庭,17,法医,1,番茄酱,1,翻车,3,烦心事,1,繁忙,1,反对派,1,反应堆,1,饭团,1,方法,1,方块,1,方向盘,1,方阵,2,防洪堤,1,防晒,2,防疫,1,房产,22,房产交易,2,房贷,2,房地产,1,房地产经纪人,1,房地产投资,1,房东,20,房价,29,房客,1,房屋,5,房源,4,房主,4,房子,8,房租,3,放射性,2,放心,1,放在,4,飞机,7,飞行员,3,非常好,4,非常重要,1,菲利,1,斐济,1,废水,4,废墟,1,肺炎,1,肺鱼,1,费率,1,费用,4,分行,1,粉末,1,粉丝,2,份额,2,粪便,2,丰田,3,风暴,2,风电,1,风口,1,风险,2,疯狂,1,峰值,2,夫妇,7,佛光,1,佛教,1,服务部,2,服务器,1,服务员,1,符合条件,2,福利,2,福利金,4,辐射量,1,抚养权,1,父母,9,父亲,2,父子俩,1,妇女,1,负担,4,复活节,3,复刻,1,副作用,3,富商,2,富士,1,该公司,27,该州,1,盖茨,2,概念,1,杆菌,5,感染者,1,感谢您,1,肛门,1,钢琴,2,岗位,3,高档,2,高尔夫,1,高尔夫球,1,高管,1,高盛,1,高速公路,1,高铁,1,高通,3,高温,3,告诉记者,5,哥伦比亚,2,哥们儿,1,个位,1,个月,7,给大家,4,给孩子,1,给你,1,更大,1,更多,1,更难,1,更有,2,工厂,2,工程学,1,工党,12,工会,4,工具,2,工人,7,工人们,1,工薪,1,工业,1,工友,1,工资,19,工作,34,工作人员,5,工作制,1,公安机关,1,公共交通,1,公检法,1,公举,1,公路,4,公民,1,公牛,2,公司,40,公寓,20,公寓楼,1,公园,3,公众,53,公主,1,功能,4,攻击性,1,狗狗,2,购房贷款,1,购房者,7,购物车,1,购物袋,1,购物中心,9,估值,2,孤岛,1,古巴,1,古堡,1,古董,2,股价,2,股票,2,股权,2,股息,1,骨灰,1,骨头,1,固定利率,1,故障,1,顾客,16,雇主,1,挂牌上市,2,怪物,1,关帝庙,1,关系,2,官方,1,官网,5,冠军,1,管理学,2,惯犯,1,罐头,1,光伏,1,光圈,1,光影,1,广播公司,3,广场,1,广告,11,广州,3,规划师,1,硅谷,2,硅片,1,国防部长,1,国会,1,国家,5,国美,1,国内,2,过程中,1,过你,1,哈利,1,还贷,2,还会,1,还可以,2,还能,3,还在,1,孩子,25,孩子们,3,海岸,2,海边,3,海滨,6,海港,2,海景,1,海量,1,海洛因,1,海鸟,1,海水,1,海滩,5,海豚,1,海外,5,海鲜,1,海啸,2,海星,1,海洋生物,1,害虫,1,含量,1,寒鸦,1,韩国,4,罕见,2,汉王,1,汉语,2,杭州,1,航班,17,航空,4,航空公司,1,航天局,1,航线,2,航站楼,2,豪宅,14,好看,1,好评,1,好心人,1,好用,1,号码,2,和他,1,和我,1,河段,1,河口,1,核潜艇,1,核酸,10,荷兰,1,黑客,2,黑客攻击,2,黑水,1,黑影,1,很简单,1,很难说,1,亨利,1,恒河,1,红灯,1,红酒,1,红娘,3,红盘,1,洪水,8,鸿蒙,1,猴子,1,后悔,1,后排,1,后台,1,后院,4,候选人,1,湖南,1,蝴蝶结,1,互动,1,互联网,9,户口,1,户外,6,户型,3,护城河,1,护肤品,1,护林员,1,护士,1,护照,8,花车,1,花了,3,花生,1,华人,61,华为,10,华文,1,画出,1,画风,1,画图,1,环球,1,换挡,1,患者,13,皇冠,2,黄金,3,黄金海岸,33,辉瑞,5,徽标,1,茴香,1,汇率,1,会计师,1,会上,1,会议纪要,1,会有,1,会员,3,会在,1,彗星,3,惠灵顿,3,婚姻,1,混凝土,1,火车站,3,火锅,1,火山,1,火势,4,火灾,11,货架,17,获批,1,霍巴特,10,机场,6,机构,2,机票,13,机器,1,机器人,3,机巧,1,机上,1,机械手,1,机芯,1,机型,1,肌肉,4,鸡肉,2,鸡胸,1,积分,1,基础,1,基点,2,基金,5,基因,1,吉尔,1,吉利,2,吉姆,1,急诊,1,疾病,4,棘皮动物,1,集市,4,集体,1,集团,12,几分钟,1,几内亚,1,几只,1,几种,1,脊柱,1,计划,7,计画,1,计价器,3,计算机,3,计算器,1,记录仪,1,记者,5,妓院,4,技能,7,技术,6,技术移民,33,剂量,1,
ltr
item
W优化: 几百名大佬联名给ChatGPT们踩刹车,AI到了失控边缘?!
几百名大佬联名给ChatGPT们踩刹车,AI到了失控边缘?!
https://img.china.com.au/blogger-pic/2023/03/31/202303310xitxjtumfu.png
W优化
https://wseo.china.com.au/2023/04/chatgptai.html
https://wseo.china.com.au/
https://wseo.china.com.au/
https://wseo.china.com.au/2023/04/chatgptai.html
true
3020613981443032869
UTF-8
Loaded All Posts Not found any posts VIEW ALL Readmore Reply Cancel reply Delete By Home PAGES POSTS View All RECOMMENDED FOR YOU LABEL ARCHIVE SEARCH ALL POSTS Not found any post match with your request Back Home Sunday Monday Tuesday Wednesday Thursday Friday Saturday Sun Mon Tue Wed Thu Fri Sat January February March April May June July August September October November December Jan Feb Mar Apr May Jun Jul Aug Sep Oct Nov Dec just now 1 minute ago $$1$$ minutes ago 1 hour ago $$1$$ hours ago Yesterday $$1$$ days ago $$1$$ weeks ago more than 5 weeks ago Followers Follow THIS PREMIUM CONTENT IS LOCKED STEP 1: Share to a social network STEP 2: Click the link on your social network Copy All Code Select All Code All codes were copied to your clipboard Can not copy the codes / texts, please press [CTRL]+[C] (or CMD+C with Mac) to copy Table of Content