Web3 Young OG Developer徐可:AI治理迫在眉睫

2月9日晚,Web3知名资深开发者徐可与多位行业大佬和KOL就近期大火的ChatGPT开展了一场推特Space,引发众多知名业内KOL激烈讨论。

徐可何许人也?Montverde Academy毕业,19岁跳级毕业于UCL伦敦大学,中欧CEIBS校友。被福布斯美国称之为“中国Blockchain第一女企业家”。

她擅长P2P技术、微服务架构高并发同步技术,精通GRAPHENE技术,深入研究POW、POS、DPOS共识技术。同时她也是中国最早BTC矿工之一,曾持有 2 万枚BTC、成功投资、孵化区块链项目 30 余个。EOS早期生态投资人 、ETH生态第一批智能合约实践者。

e4592d87c3c435696300aa1ba6c97861

早在2014年徐可第一次创业时,她已经通过查看Openai代码库的方式,深刻地了解了这家公司,所以对于ChatGPT,徐可有着独到的见解。徐可认为:“ChatGPT火爆背后是认知智能技术的一次飞跃,或将成为人工智能行业发展的里程碑和分水岭。且ChatGPT有更多的商业价值和大行业前景,因为它能够提供更多工作岗位和商业机会,例如输入文本生成图像、根据需求迅速写出代码、创造更成熟的文案等。”

3ae5fdb41d030bec91cce033d2899ac3

Openai 代码库曾号称永久开源,并且不会用于商业盈利。现在看来,Openai违背了他们的初心——核心代码库早在 2016年就停止了开源。且Elon Musk也曾是Openai的联合创始人之一,但其与Openai管理层理念不合,在2019年退出了Openai公司,并在接管推特后终止了ChatGPT 和推特的学习连接。

虽然ChatGPT具备强大的学习能力,但由于其核心代码目的不明确,这不禁会让人联想到霍金曾提到过的奇点降临,“一旦人工智能跨过了与人类智慧相同的“奇点”( Singular Point ),我们可能会面临“智慧爆炸”(intelligence explosion),届时,人工智能在智慧上超越人类。这对人类产生的影响,要么就是最好的,要么就是最糟糕的。它既可能让人类永生,也可能让人类毁灭”。

徐可认为:“ChatGPT在受到热议的同时,也遭到一些质疑,比如Eloquent、能言善辩、夸夸其谈等。正是因为这些特性,当奇点降临时,AI可能不会第一时间通过战争的形式打击人类,而是在社交媒体散布虚假、恐怖信息等方式引起人类的恐慌和社会秩序的混乱。”

正因如此,徐可补充说:“AI的治理迫在眉睫,且我们需要重点关注两个方面:

第一,控制AI的自我编译能力。一旦奇点降临,AI掌握了自我编译能力,就意味着AI将突破人类对其的限制,这会导致计算机软硬件可以自动演进、爆发式成长等,届时,AI将彻底失控。

第二,筛选AI学习的信息源。如果AI学习的信息源过于反人类,这会导致社交媒体上有过多的反人类信息被传播,会对认知较低的人群产生毁灭性的危害。如果再被利用到人类的派系斗争中,AI极有可能被培养成战争机器。”

 

40e40002ba78e878c09897bd7bfbe103

嘉宾提问:未来如何区分人类和AI?

徐可认为:“或许可以通过与去中心化社交结合的方式来解决。就热门的Nostr协议来说,由于使用的是公私钥体系、Client和Relay完成社交的去中心化,如果添加一个去中心化钱包,即可区分出人类与AI的区别。因为AI只能拥有公私钥,且无法持有有价值的Token,这一方法可以在一定范围内避免AI的危言耸听,同时也可以参考这个思路,创造出更多的AI治理模式。”

本文来自投稿,不代表前沿区块链立场,如若转载,请注明出处:https://www.xjxtj.com/1431.html

(1)
上一篇 2023年 2月 2日 上午10:56
下一篇 2023年 2月 17日 下午6:46

相关推荐