人工智能与未来挑战

我想我今天的演讲，只有40分钟，我会尽量要精简一点，我前面会讲一些关于AI以及跟AI非常密切相关领域的一些，科技的、未来的、巨大的、潜在的爆发力。我是先谈一些它已经在我们看得到的，在政治领域里面已经产生的一些影响，这是一个具体的线索，一方面是对于民主政治运作的影响，而更广义来讲，对国家职能、政府机器，它的运作，整个影响是绝不下于它对于我们所谓商业模式或是企业组织，应该说有一些地方是非常雷同的。

但是我认为AI科技创新，我把它称为革命，因为我觉得它是带来一种前所未有的一种颠覆性的、爆炸性的影响，改变我们人类将来整个社会运行的方式跟社会的价值观念，我认为它带来了巨大的难题，人类社会将来怎么样能够有智慧的因应这几个大的难题，我觉得会对我们人类的历史，不仅是对台湾，对我们70亿人都会带来非常不同的结果。

甚至我有一个比喻，我们可能正站在历史的十字路口，是通往更接近理想的乌托邦还是通往奴役之路，可能就在这个未来的几十年里面，可能我们就在这样的历史关头，严肃的挑战。

我先讲几个简单的例子，今天为止，当我谈这个问题要有一个范畴，所以我并不能说把所有跟科技发展或是仅限于所谓狭义的AI，这两个都不是很好的切入点，我认为其实它具体表现在生产、制造各方面来说，智慧机器人是未来的趋势，大数据我想也是，因为大数据将来有随着下面我讲的万物联网，Internet of everything，他将来可以创造的浩瀚，用天文数字这两个字都不足以描绘它的浩瀚，它的数据复杂跟它的巨大已经超过我们所谓人的智慧跟分析能力，能够去消化、能够去整理，所以必然是要依赖AI，它的巨大的算法能够非常有效率地去处理大量数据。

另外就是，AI最值得关注的就是它的深度学习，说不定不久之后它就真的能去模仿人的很多一些重要的基本能力，到今天为止，机器还没完全替代，特别是包括语言，它不仅是一种辨识，也包含沟通。

另外就是说将来它的算法跟它计算的速度要求越来越高，所以量子运算quantum computing将来也是一个重要的突破，因为它会让AI的潜力可以发挥到更极致，所以这几个我认为都是相关领域，就是说跟我们今天讲的AI革命是不可分割的。

在这个范畴里面，我认为它已经很清楚，对于所谓民主政治运作，已经出现各种正面的，但也带来很多负面的作用。首先呢，就技术上来讲，运用AI的技术对于选举，已经展现出其优越性，在选举预测方面比传统的民意调查，在很多次关键选举中，包括英国的脱欧公投，AI的预测都比专家和民意机构更加准确，也包括川普的当选。

Sanjiv Rai他就是一位在AI领域里面非常有创意的工程师，也是一位企业家，他从2004就开发MogIA这套，他也是自己会学习、自我学习一套算法，algorithm，自从他架设以后，他就让它自己去修正，根据事前跟事后的数据修正，用大数据，用facebook里面还有其他social media里面，百万笔、百万笔的数据去采集里面各种讯号，然后来看每个候选人在每一个选区的得票的吻合程度，所以它是成功预测川普的当选，打破了所有专家的眼镜。

也可以说川普的当选里面也运用了AI的技术，事实上，在竞选上来说是一个巨大突破，也就是，他可以跟很多拥有个人信息的公司去买信息，所以他对每一个家庭里面，这个家庭的基本政治倾向，他平常看什么杂志、听什么收音机，他的基本倾向大概他都可以掌握，然后呢就来为他，就是说他有这种心理特征、有这种心理倾向，我怎么刺激他？

怕移民的就散播一些移民，有可能小偷、有可能强暴，让你很恐惧的讯息，让你更反移民，那么这里面的操弄其实已经达到前所未有，而且完全是量身订做。他派出他的志愿工作者去挨家挨户拜访时，事实上他的计算机上已经知道这一户从来都是投民主党，放弃，不要浪费时间，下一户是可以争取的，再下一户是你要跟他稍微随便谈什么问题，应该从什么问题切入，每一个挨家挨户拜访的都有这样一个personality profile或psychological profile。

拥有这一种技术的公司，Cambridge Analytica也发了大财，现在很多国家的竞选团队都找他们去运用这样的一个大数据跟AI所提供的技术，从某种程度来讲完全是操弄选民，选择性的给选民这种特定的刺激，而且通常是运作他们的情绪、恐惧或者说一种仇恨。

所以也有学者针对这样的趋势非常忧虑，像这位Harvard毕业的Cathy O'Neil就写了一本叫Weapon of math destruction，用数学，也就是算法带来对民主政治的一种极大的摧残，因为民主它原本是希望每一个选民，或多数选民，或中间选民能够做独立判断，今天很难做独立判断，因为你的信息来源太混淆了，而且真假莫辨，你网络上看到一段影片，你看得义愤填膺，但这影片后来发现是经过加工处理的。

所以虚拟跟事实间的界线在网络上可以说是非常模糊，而且大量的假新闻恶意中伤谣言，可以很快在social media跟网络上传播，等到已经传播出去了，传了千里之后你再来消毒是非常困难的，也发现改变了很多一般人使用网络习惯或是阅读习惯，主流媒体的重要性不断下降，以前主流媒体都会扮演一个gatekeeper，就是可以过滤，太偏激的、太离谱的不报导，但现在这样的一个功能已经被社交媒体取代了，结果很多人就变成跟自己属性、观念或偏见类似的人相互取暖，整个社会里面变成对立性更强，我们称之为社会的数字部落主义，也就是说，每一个对其他群体有偏见的人，彼此之间相互增强，而且跟他仇视的、疑惧的其他团体，基本上完全不交集，也不往来，也没有共同分享的信息平台，这些问题都很严重。

当然AI的技术跟大数据也带来一些可能潜在的正面作用，可以把政治过程、政治人物的言行更透明化，而且让他一举一动、一言一行都留下纪录，而且也可以及时查证，像加州已经设立Digital Democracy网站，很多资料跟进，先从州这一级的政治人物的言行举止开始，然后另外再配一个有很好功能的网站叫做Politifact，这个Politifact，就收集各式各样的基本信息跟数据，而且这些是正确的，政治人物讲任何话，里面有涉及到任何事实陈述的，马上就用这个网站主动去做查证，他讲的是对或是错，还是完全对、完全错。

比方说Hillary，他在竞选期间所有的言论都被AI功能的事实查证的网站公布，他的指标多少，他是完全正确的28%、基本上正确的23%，接下来，当然就是只有一半正确，或是基本上不正确或完全不正确，如果是Trump的话纪录比这个坏更多，这个的确增加透明度，增加我们纠错或查证，不过问题是，很多中间选民或一般选民，他们不见得有那么多时间跟精力去追踪这个讯息，这些讯息就算举证出来了，是不是真的会影响到政治人物的言行？还不清楚。

另外，我想要谈的就是，人工智能本身的来临，今天上午已经谈了很多，影响整个生产方式、商业模式、企业组织对不对？其实对国家也是这样，因为国家基本上是一个大的官僚机构，所以如果AI技术全面引进政府体系的话，一方面国家的管理能力可以跳跃式的升级，能力可以升级，另外一方面人力可以大幅精简，另外一方面国家从某个角度来讲，假设，没有隐私权保障的边界，是可以对全社会进行数字化的管理，都没有问题。

所有人的身分识别是全覆盖的，所有的基本活动纪录是可以全天候的，你什么时候出了大楼的门、什么时候上了什么车、坐什么公交车从哪一站、几点钟下来，其实都可以留下纪录、都可以留下足迹，甚至你参与的经济的交流、交易等等。也就是说，将来一个城市，如果要利用这些大数据、这些动态流量的数据去做管理，是非常超级的智慧管理能力，对不对？

另外一方面，它带来前所未有的挑战，很不幸它也有保家卫国，还有国防功能，将来战争形势会非常可怕，没有声音、没有烟硝的战争，第一，本身网络支撑运算能力跟储存基本信息的服务器，它的安全性是一个巨大的考验，如果所有信息在这个东西里，今天可以把这个完全摧毁或是完全瘫痪，整个社会就停摆了。

假设，将来所有的地籍数据跟所有的房地产、所有权数据都只有digital没有hard copy的话，如果数据被骇，这个社会就天下大乱了。

我们当然很高兴将来可能有自动驾驶汽车，说不定是所有的驾驶是自动化的，但从安全角度来看，如果指挥这些驾驶的AI系统被侵入、被变造，每一部车都可以变成一个自杀客，变成攻击你这个社会最有杀伤力，而且无所不在的武器。

总而言之，我们可以看出，这些都是AI革命带来国家职能里面各种不同、可能的巨大影响。

再举两个很直接的例子，也是我自己亲自做过考察，在过去2年，中国大陆海关机构已经完成全面智能化，现在基本上，就是在线报关、在线核准，以前所有的海关大家都知道，就跟我们一样，比如说我们基隆关、高雄关，对岸也是一样青岛关、上海关，然后下面还有再分支，然后都是属地的，然后由人工来做抽检，其实照理说，全部都不需要，而且机构的信息系统对一个，正常或是经常有进出口纪录、有报关纪录的企业，它所有的过去记录几乎都一清二楚，如果你过去记录很清楚，每年这个时候大概会进多少钢料、进多少铝材，而且今年的数据没有特别奇怪，一定自动审核过去，事后他可以追踪你，他可以从你将来的出口纪录里面看你进这么多，怎么会没有出，或进这么多，怎么会没有库存、没有销售额，这一定是有问题。

何况这个货柜其实从长堤港出关时，两国的海关基本数据已经串联过来了，重量多少一清二楚，一进关，用电子磅秤一秤，重量有一点变化是可能的，有些东西蒸发掉或怎么样，只要偏离正常的，标准偏差的误差区间，马上可以抽查，所有东西都是计算机化的，所以中国海关现在有个最大的困扰，要这么多公务员干吗？没事做了。

第一个派你去甘肃扶贫，下乡当插队干部，或做辅导工作，转型为信息服务，既然我们有那么多数据，我们就是一个经济数据服务公司，我可以做很多宏观预测，提供给国务院做参考，也可以给厂商，你需要什么样的分析，我可以帮你分析，只要跟进出口有关的数据通通都有。有人说我要预测川普当选，我根本也不需要用追踪social media，我只要去义乌收集一下，厂商接下的订单，川普的帽子跟Hillary的帽子哪一个比较多，要是有川普LOGO帽子4倍于Hillary，你就知道川普大概会当选。

总而言之，这意味什么？意味着，我们政府过去用人工审核的，基本上就跟银行，或保险公司一样，其实都可以被替代，连申诉都可以由AI替代。当然，这是一个巨大的改变，阻力之大你可以想象，问题是科技在那个地方，带来这样一种可能性，像有些国家的，有些这种机构已经在面对这样一个状况。

比如说这张照片，这就是深圳海关的智能通关系统的中控中心，这是全世界负荷量最大的，为什么？因为蛇口本身就是全世界五大货柜码头，香港第三大，香港很多的货运也是要经过这这个转运到内地，所以深圳海关这边的货柜量是天文数字，但是现在完全可以用这样智能化处理。

我刚刚提到，国家机构将来可以对社会做无死角全覆盖性的动态管理，举例而言，中国大陆公安部门已利用最先进的脸部辨识技术，加上二代身分证，收集所有脸部的特征，可以对13亿人在3秒钟内辨识身份，准确率已经超过90%，在过去这是不可想象的。

又如，某个小偷他离开现场，但有被看到，追踪之后，不到几秒钟，接到报案的公安就已经知道他是谁了，而且AI还可推算他最可能逃亡路线有三个，警方就去这三个地方等，就可以等到他，所以10几分钟就可以归案。

新疆为了要彻底的去消除恐怖主义的隐患，是把这套系统用得最彻底，而且是最全面覆盖的，加上街头所有地方都装设这种设备，他们叫摄录，我们叫闭路电视摄影机，我可以跟各位说，新疆现在，不要说这几年恐怖主义的攻击事件已经没有了，现在连小偷都没有了，就是天罗地网。

美国也这样做，FBI也在做同样的事情，例如Boston的自杀客爆炸案，也都需要这个东西，所以联邦调查局现在也是要为4亿多的人建立脸部辨识系统，当然，这个系统也带来很多其他方面的顾虑。

今天为止，我们已经看到的，已经发生中的AI在政治领域的一些作用，但我今天真正要讲的是，下面这个大的重点，事实上我觉得AI技术跟潜在的potential带给我们人类社会一些难题，我归类成五个非常大的政治难题，也可以说是整个社会面对的一个，不管叫制度也好、规范也好，或是根本价值选择的难题。

第一，将来一个政府是有可能具有超级智慧能力，全面的社会数字管理的能力，而且这个几乎已经可以说是不可挡，尤其万物联网之后，你的足迹就在那里，反过来说，就是整个社会是一个超透明社会，人类从来没有进入过这个社会，有时候想，也许天堂就是超透明社会。这个超透明社会就是，一个人已经不能做什么坏事情，而且也没有空间让你做坏事情，因为你所有的做过的事情都会留下纪录，而且很难去改变。

我们来谈谈传统的自由跟民主体制以及未来，在面对一个完全可以运用AI系统，前所未有管理能力的政府，操作社会，这里面有很多一些非常棘手或艰难的问题会出现。

第二，未来是一个所谓数字的经济，在这个经济里面，原来我们讲传统最有价值的生产要素，以前是土地，再来是劳动，再来是有形的固定资产，后来有人加上管理或其他的，但将来所谓无形的，尤其是数字或数字资产，会是整个社会生产里面最关键的因素，所以变成最重要的生产要素，而这种生产要素有什么特性呢？他的复制成本是0，没有稀缺性，那就颠覆整个经济学，因为经济学是奠基在稀缺性上发展出来的学问，以这样的一个情况来讲，以后社会里面AI带来巨大的生产技术突破，这个经济果实是怎么分配的，这是一个最关键问题，等一下我会讲。

下面我要讲的第三个问题，将来我们人类的命运，会逐渐进入一个叫零边际成本社会，可能走向分享经济、共享经济，有点像是社会主义乌托邦，但也有可能走到一个比我们现在看到更严重的贫富落差，两极化的数字资本主义，这两个可能性就在我们面前，我们要怎么选择，或是说我们今天做什么决定会影响我们将来更有可能往哪个方向做社会制度变革的路线。

再往更全球的范围来看，像美国天才的企业家马斯克，他已经做了各种难以想象的一些大胆实验，然后也会充分掌握AI带来的巨大潜力，可是全世界大家可能知道，70亿人里面还有一半的人类连上网都没有，所以再讲所谓数字落差，会有另外一个新的面向，就是说，有些人会因为自己有AI的协助，而如虎添翼，其生产力可以天文数字般的倍增，这落差将来要怎么处理。

第五，是一种比较阴暗面的，但我们也不能不面对，就是如何确保AI的和平使用，因为AI对世界的和平或人类的生存来说，潜在的毁灭性是只会超过核子武器，核子武器和平使用、核能技术和平使用一直都是我们把这个妖魔，从瓶子里面放出来以后一个巨大的难题。而AI的和平使用会比引导核能和平使用更难，为什么？因为监控核能有没有和平使用比较容易，譬如说核试爆，或是说核武屯积，高浓度的铀，这些基本上都能够追踪，但是AI的这种无形中的杀人武器，可以小到像一只小蜜蜂，可以释放出几百万个小蜜蜂，每个小蜜蜂甚至可以锁定特定的对象，并把他消灭，这都做得到。

我再来谈几个问题，这些问题我已初步思考。

首先，我想我们必须要接受这样的事实，就是我跟你说超级透明社会已经到来了，而且将来会更透明、会巨细靡遗，从出生到死，一生下来就可以做DNA检测，并马上把DNA排序放入计算机，所有潜在的健康问题可能事先可知道，如，可能有多少机率得到癌症、正常情况下平均寿命在什么区间，所有的健康、言行、消费，所有的纪录都可以被记录，但并不是说说一定被记录。

当然好处是说，将来只有电子货币没有现金，现在很快丹麦、瑞典要走全电子货币，以后现金会完全禁止使用，就消失了，好处是说就不能腐败了，对不对？财富要藏匿也不容易，也许可以藏到国外，但如果，有一个全球性的合作就很难，企业很难逃税，黑社会也很难买卖毒品。所以为什么比特币其实很有用，不想要被透明化就可以用他匿名、加密。

你要这样想，一个超级透明化社会再搭配一个超级智慧政府，例如AI给他一个巨大的追踪分析监控能力，我们把他称作夜不闭户、讲信修睦的人间净土，但从另外一个角度来看，是个人自由就可能彻底消失的一个极权社会，这是两面性，我觉得我们避免不了。

另外，很多社会制度就必须要统一设计，或至少要作大幅的改变，以前选出100个、200个代议士，帮我去监督政府，顶多再配上几个助理，再加上审计部等等，这种监督方式在面对我刚刚讲的，超级透明社会跟超级智慧政府是非常非常有限的，所以就变成必须要有不同的设计，才能制衡政府有那么巨大的数字管理，以及中间可能出现的弊端，有几种，一种是去中心化，就是不要把所有东西都集中在一个垂直管理的官僚机构，这是一种可能性，另外一种以强制强，必须制衡机构本身也要有这个大数据资源，也要有等量的AI，不断的算法跟深度学习能力，曾经用AI检查另外一个，否则，很多AI将来会变成黑洞，因为根本不知道复杂算法里到底发生什么事情，它产生偏差化，源头在哪里？有时可能用人工也已处理不了。

另外就是从AI的设计规范开始，AI本身就应该要有一些基本规范，也就是说，所有这种涉及到很多基本功能的，譬如健康、人身安全、教育等等，里面就要开始内建功能，自己会去作自动介入或自动纠偏，例如，在里面出现一些讯号是我们认为偏离合理的法律或道德规范，就会自动去纠举。

另外，我刚刚也讲，在一个高度透明社会，很多过去社会制度已经没有办法因应，以前社会保险的观念〝是我不知道我自己的未来承担多少的可能风险〞，到底我会是不幸的得癌症？还是我会很健康活到几岁，没关系，大家都一起以公平的方式、等比的方式来分摊保险的支出，可是以后不一样，若你父母亲给你的基因好得不得了，你得癌症基因很小，可以活到99岁，另外一个人的基因则所有的健康问题都出现了，若是民间保险公司，可能就说对不起，这些人我不要保，而拼命保基因好的人，因为所有东西都是透明的，所以显然这些风险分担的制度都必须要重新设计。

既然每个人一言一行都会有记录，如果社会又不给多元的包容性，那问题就很严重，你将来去应征工作，human resource director也许会要求你签一个同意函，同意可以去调出你所有数据，假设，我在高中的时候，用非常粗鲁的言语骂我旁边的女生，这些记录都在。所以我们本身要去适应这样一个超级透明化的社会，以及过去很多的纪录难以窜改，或是什么方法可以做一种所谓数字更生，就像一个受刑人，给他一个新的身分证一样，这些问题都会出来，我觉得最大的挑战是这个地方。

我刚刚所讲，我们面对社会变迁，或社会制度变革的选择难题，因为今天的AI技术，基本上还是在资本主义，当然，部分是国家主导，因为主要用在国防或是境内安全管理，如果我们完全是只是放任眼前垄断性的数字资本继续往前走，不仅是社会内部的贫富差距会变成极为可怕，富裕国家跟落后国家之间的差距也会成为比今天更大的鸿沟。

反过来说，AI的积极面，如果能够有新的社会契约跟新的国际规范，让数字科技的生产力快速提升，以及我们讲trickle-down或普惠性的效益能够全面释放，那真的有可能透过AI革命把人类社会带向分享经济跟社会主义的大饼，这可能性是存在的，因为，经济学以前最大的问题是稀缺性，现在数字资本最大的特性就是复制成本非常低，或接近于0。

我举个例，在过去30年的高速全球化，已经出现这样的一个现象，就是经济力量或是创造财富能力已高度集中在非常少的企业手上，这个现象是人类历史上少有的，以前当然也不是说没有，比方说有Rockefeller等，但是像目前这样，在全球范围里经济力量如此集中的状况是前所未有的。

由此看来，太多的巨兽力量对我们生活面向的影响是全面性的，如对就业，对经济福利、社会安全，食品安全等等都是无远弗届。如果今天用国家的收入可以作一个跟企业营收作等量齐观的指标，也就是，政府是一个经济实体，企业也是一个经济实体，政府有他的revenue、企业有他的revenue，这样来比的话，全世界100大经济体，只有30个是主权国家，70个都是企业。譬如，Walmart的营收全世界排名第4，台湾都被远远抛在后面，其营收要超过西班牙政府的收入，澳大利亚、荷兰等等，所以这已经不是任何一个国家单一的管制措施，或是公平市场规范可以控制的事情，这只有美国、中国、欧盟还有可能，但是如果三边不合作也很难，不然就要更高层次的国际组织，而且有人说AI会带来decentralization去中心化，但是，如果说AI因为知识产权的保障、因为独占性的平台的垄断，那么去中心化不一定会发生，相反可能会再高度的中心化，这个可能性都存在。

虽然Jeremy Rifkin著作〝零边际成本社会〞已经出版好几年，这本书也有中文翻译，大家若关心AI的未来，我是高度推荐。

就我刚刚所言，当最重要的生产要素如果是数字的，不管是数据或算法，已经会自动不断深入学习的算法。比方，AlphaGo或AlphaGo Zero可以打败世界排名第一的棋士，一旦被设计出来，那可以让它同时变成1,000个AlphaGoZero，或是10,000个，只要有一个大计算机跟它配合就好。各位想想，若要产生10,000个像张栩这样的世界级天才棋士是多不可能的？但是对数字来说，只要一个按钮就可以复制的。

如果在这个情况下，它可以是一种会让生产过程中的边际成本不断下降，而且接近于0的时候，按理价格应是不断下降也会接近于0，很多商品会接近免费，而且可能在有如此的技术条件之下，剩余跟充裕会取代稀缺，所以整个过去资本主义的逻辑会被颠覆，除非掌握这些技术的人要排他性的垄断、独占，特别是运用所谓的产权或专利。

所以这本书里面特别描绘一个现象就是，如果我们可以让普及所有人的经济福利释放出来，或许将来会进入一个完全和以前不一样的社会，一个零边际成本社会。这个社会就是大多数人，可以透过参与互助、交换跟分享，就可以满足基本需求，而且不需要再去依赖朝九晚五固定的工作，或是说必须要花非常多的时间参与劳动市场，然而，这个可能性能不能出现？不知道，要看我们将来的制度跟法律要怎么去设计。

各位可以想象，如果从好的方向来想，未来可能不仅是跟数字有关的生产要素成本会越来越低，另外也因为能源是大众日常生活消费占比很大的一个支出，将来自给自足的可能性也都存在，甚至可以在自己的小区、住家种植基本需要的蔬果，这些也可能都存在。现在有人工光合技术，而且收成照料的是机器人，在家也还可以3D打印，一些小物品可以自己制造。

在这样的情况下，资本主义本身所谓靠刺激消费动能会减弱，很多人会退出商品市场的机制，尤其可透过分享跟交换就可以满足需求。专业的服务也是一样，比如专业理发师，可在小区帮很多人理发，累积社会点数或小区数字货币，再用这些点数或是数字货币去换很多东西，如交换绘画学习、小孩上英文的课程等等，时间银行就是这个概念，而现在只运用在照顾老人范畴里面。

所以这种可能性将来绝对没有问题，因为未来的运算能力、储存社会交易能力的纪录，以blockchain技术，多大的量都没有问题，一目了然，而且不能窜改。

就社会学家、政治学家跟哲学家，最光明的时代也来了，有那么大的一种全新想象空间，或许可能一下子没那么快变，但是很值得探讨如何运用在这样的一个新的技术条件跟社会条件之下。

另外，我认为还有一个很重要的课题，稍早有一些学者已经开始讨论，但我觉得都还不够系统化也不够深入，就是面对一个我们讲数字经济也好，或数字社会也好，需要新的社会契约，甚至要改写有关基本人权的一些基本规范，我举最典型的例子，每个人所生成的所有数字信息。

包括我DNA排序到我所有的消费行为数据等等，各种不同的生活足迹，如果只是单笔来看，好像没什么价值，反正数据库里面1,000万人，少我一个算什么；但是反过来讲，我一旦能够收集1,000万人的时候，这个数据库就非常有价值，如果1,000万糖尿病病患的医疗历史都在这里，什么样的情况、什么样的体质、什么样的基因，用什么样的药可以产生什么效果，这里面再去撷取各种经验法则，全世界最好的医生都比不上，而且这种人工智能的医疗诊断跟判断，边际成本是很低的，服务1万人跟100万人、1,000万人，其实成本增加很少。

所以，第一，如何样让技术不是只让最高所得的1万人享受，而是能够让1,000万人都能享受，这是一个难题对不对？

第二，既然我们每个人都贡献这个大数字数据的生成，它的产生过程，我可能贡献在很多方面，如我的消费行为、人生智慧、交友、政治参与及医疗历史等都在里面。

一方面，我要知道它收集我什么东西，而且我要知道它存在哪里，我自己有权利随时去取得，另外，既然这个1千万人也好，1亿也好，大家共同贡献出非常多高附加价值大数据信息库，未来这个大数据所衍生的附加价值的净利应该归谁？应该有个制度，至少要有相当一部分，或是很大的一部分要平均归给每一个当初贡献的人。

另一方面，这是一个集体性资产，因为这个资产只有在大规模集体同时贡献时才有价值，如果只是个人数据，没有多少交易价值，也没有分析的价值。所以，如果我们一辈子所生产所有的数字信息，可以贡献于几万个不同属性的big data集合，每一个data我在里面都应该有一个小的股份，尽管那个股份是1,000万分之1，但因为这生成出来的是有价值的信息，它所产生的各种的经济交易的利润，如果有一套机制可以回馈给每个人，我认为这就是数字时代的基本人权保障，这是目前为止没有人讨论的问题。

当然，我们知道google、amazon不希望大家讨论，他们希望大家在注册账号时就签了一个同意声明，接下来就不用管了，这个信息他们拿去做什么、卖给谁，跟什么信息混合在一起跟你没关。所以我们来看，这些大企业，其实包括百度和阿里一样，他们现在变成政治说客，影响政府的很多法律，这些特殊利益集团，并不代表绝大多数人的利益，而这么重要的基本人权可是很少有一个系统性论述，这是非常大的理论缺失。

最后我要谈的一点就是，零边际成本可以造就共享社会，其实分享经济已经到来，只不过现在还在很小的范畴里面，而且我们已经受惠了。人类现在最大的知识储存库是什么？就是维基百科，所有人都可以贡献，也可以享用，这是一个最典型的数字时代共享经济，而且没有人claim这是属于谁的知识产权，因为它不能作各种商业的、盈利的使用，也不能主张copyright，我们把他叫做copyleft；就是一种开放式、自由版权或开放版权。

所以我认为，将来我们在学校里面教育下一代，21世纪我们作为人生的奋斗目标或是典范，不应该是Bill Gates，对不对？他能累积千亿美金资产，因为他完全占用、利用了零边际成本的所有好处。

如大家买一台计算机附加microsoft，而附加的边际成本只需几分美金，可是因为微软是独占，还有知识产权的保护，所以微软把所有获利不跟大家分享，而变成他跟他员工与股东的分红跟股利。我不是说我们不需要激励这类创业家，但其实不需要激励到这个程度，照样可以让很多人愿意去贡献、愿意去投入心血，而现在这个激励制度完全是彻底扭曲了这个社会的价值分配制度。

我们讲Khan学院创办人Salman Amin Khan，或是像维基的创办人，我认为这才是21世纪典范，他们可以很容易地变成一个billionaire，因为这个在线数学教学，以及后来扩充到物理等很多领域，学习效果最好的在线学习互动软件，免费开放，现在连非洲的小孩只要能上网，都可以透过此网站学习各种微积分、几何、英文等。美国好多硅谷的人认为，Khan学院将来如果变成是一个完全商业模式的，它的IPO可以价值几百亿美金甚至更高，但Salman Amin Khan拒绝诱惑坚持免费开放学习政策。所以，在数字经济的零边际成本条件下，我们面对人类社会的最可能两种不同情境：是创造比Bill Gates有钱超过10倍、20倍的巨富，还是去鼓励更多的像Salman Amin Khan这样的人。

总而言之，今天有很多大的议题，下午的圆桌论坛，我可以进一步跟各位对话。最后，我要谈一下民主体制本身也面对巨大的危机，这个危机可能现在很多人都想象不到。如果，我们把政治体制看做是一个数字或信息的转换过程，比如说，政府收集所有人的政策需求跟偏好，然后转换成公共政策，转换成预算分配，转换成法律，这就是信息的转换功能。

今天的代议制度是什么样的一种信息收集跟转换？我说那叫石器时代的制度，最原始的制度。每4年请你提供最多不到2个bit的binary data，也就是投给甲党、乙党还是不投票，只要用2个binary bit就可以记载下来，收集起来，就凭这点信息就赋予执政者未来4年就有权力制定所有的法律，有权力通过条例，编预算，在信息时代我们可以问凭什么？

明明在任何时候都可以利用大数据全面掌握社会多数人在这个问题上的需求或想法，为什么不依据大数据来制定政策呢？而是让那113人在立法院内每天吵架、拍桌子，有什么代表性呢？怎么知道他们后面不是财团、不是金主？

所以代议制这整个逻辑会被大数据、AI整个颠覆掉，这个是一个非常大而严峻的挑战，为什么柯文哲市长到市议会可以理直气壮说，你们后面是什么我都搞清楚了，就是因为大数据。另外，这也是柯市长透过大数据，了解市民希望交通这样或市民希望卫生那样，所以科技变化已经带给代议民主巨大的合法性危机。

也有人说，有一天是可以选一个AI做总统，为什么不行？这个总统多好呢，可以跟各位说，当你要把它理想化时，它可以是没有自我，可以把它设计成没有自我，无私、无欲，也不能贿赂它，可以把它设计成要听很多人的建议，博采众议，可以让它读所有过去的治国经典与哲学，从资治通鉴、孔子、亚里士多德、柏拉图，都学起来，把所有伟人面对艰巨的困难，他们是怎么决定的，都可以学习，然后赋予它的任务很简单，就是maximize绝大多数人的基本福祉，而且还可以不断有更新版，还可以演进。

当然，这是一个科幻想像，但它一方面凸显了这个技术带来巨大的、完全不同的一种制度变成一种可能，另一方面，就是对照我们面对各种挑战跟难题，不得不严肃地去思考这样的一种可能性。谢谢大家。