第二百一十四章 隔壁老王
野生智能和电脑的思虑体例一样。
就像我们顺手灭掉一窝蚂蚁并不是我们非要对蚂蚁讨厌一样，理性是基于人类基因此言的。
比如核兵器俄然变得很轻易制造了，那可骇分子很快会把我们炸回石器期间。核兵器还算不上玄色玻璃球，但是差的不远了。而超野生智能是我们最能够摸到的玄色玻璃球。
本钱都是逐利的，本钱甘愿花一百亿买一个被研制开辟出的服从，而不肯意投入一百亿赌一个一百年能够有一万亿回报的研发。
让隔壁老王机器人公司镇静的是，隔壁老王的誊写越来越好了。它最开端的笔迹很糟糕，但是颠末几个礼拜后，看起来就像人写的了。
但是如果我给你一只狼蛛，然后奉告你它不咬人，你能够被吓一跳。但是辨别是甚么呢？二者都不会咬人，以是都是完整没有伤害的。我以为不同就是植物和人类的类似性。
狼蛛的异己性是让你惊骇的处所。如果我们持续做一个测试，比如给你两个小白鼠，一个是浅显小白鼠，另一个是有着狼蛛大脑的小白鼠，你必定会感觉有狼蛛大脑阿谁更让你不舒畅吧？固然两个都不会咬你。
唐玄生笑道：“这个我倒是不担忧，因为现在的科学家已经有了惰性思惟。糖糖或许有能够，但孙小圣不成能。就是糖糖以现在的科技程度，或许子子孙孙都一定能见到呢。智能，不是那么简朴的。哪怕是老美北极熊也烧不起这个钱。实在谷歌推出阿尔法狗，也是但愿借此筹募资金的意义。”
科学家Danny Hillis把这个比作“就仿佛单细胞生物向多细胞生物转化的时候那样，还是阿米巴虫的我们没有体例晓得我们究竟在缔造甚么鬼。”
当你把“对阿谁范畴完整不清楚”和“当它产生时将会产生庞大的影响”连络在一起时，你缔造出了一个很可骇的词――保存危急。
因而他们把隔壁老王连上了互联网，让它扫描了一个小时各种说话库，然后就把网线拔了。没形成甚么丧失。
工程师们上传了数千份手写样本，并且缔造了一个主动回馈流程――每次隔壁老王写完，就拍个照，然后和样本停止比对，如果比对成果超越必然标准，就产生一个正面回馈，反之就产生一个负面评价。
董诗云道：“那你办学教这些的话，会不会将来也有人研制出糖糖孙小圣如许的机器人？”
工程师们沉默了。最简朴的帮忙隔壁老王的体例当然是直接把它接入互联网，如许它能扫描博客、杂志、视频等等。这些质料如果手动上传的话会很费时。题目是，公司制止把能自我学习的野生智能接入互联网。这是统统野生智能公司都履行的安然规定。
大多数发明是无益或者中立的――那些是红色玻璃球。有些发明对人类是有害的，比如大范围杀伤性兵器――这是那些红色玻璃球。
天然――大型陨石冲撞，大气窜改使得人类不能糊口在氛围中，囊括环球的致命病毒等。
很多人会误觉得机器人能够毁灭人类会是因为他们讨厌人类或者说对人类落空好感。实在不然。
Bostrom则担忧缔造比本身聪明的东西是个根本的达尔文弊端，就仿佛麻雀妈妈决定收养一只小猫头鹰，并且感觉猫头鹰长大后会庇护麻雀一家，但是别的麻雀却感觉这是个糟糕的主张。
比方像唐玄生现在手里的催化剂，实在很多尝试室并没有真正的赌身家，或者像他的无线充电技术，这些都是只要收买便能够立即看到利润的，以是再贵也有人买单。
人类――可骇分子获得了能够形成灭尽的兵器，环球的灾害性战役，另有不经思虑就造出个比我们聪明很多的智能。
“像黑客帝国那样的真的能够有吗？”
同时，办公室里产生的事情在环球同时产生，每一个都会、小镇、农场、商店、教堂、黉舍。餐馆，统统的人都开端呼吸困难，然后倒地不起。一小时内，99%的人类灭亡，一天以内，人类灭尽了。
“隔壁老王机器人公司”的员工以为隔壁老王会是他们最热卖的产品，他们的目标是完美隔壁老王的手写才气，而完美的体例是让他不断的写这句话――
但是，隔壁老王是公司最有潜力的野生智能产品，而大师也晓得合作敌手们都在争夺造出第一个缔造出智妙手写机器人。
为甚么霍金会说超野生智能会毁灭人类？为甚么比尔盖茨会不睬解为甚么有人不为此担忧？为甚么马斯克会担忧我们是在呼唤恶魔？
1和2在我们物种存在的前十万年还没有产生，以是在接下来一个世纪产生的能够性不大。
并且，把隔壁老王连上互联网又能有甚么题目呢？归正随时能够拔网线嘛，不管如何，隔壁老王还没达到能野生智能程度，以是不会有甚么伤害的。
我们轻易犯的一个弊端是，当我们想到非常聪明的野生智能的时候，我们把它拟人化了，因为在人类的视角看来，能够达到人类智能程度的只要人类。
智能机器人的研讨实在统统国度都在停止中，但也是非常谨慎的。因为这个比当初的收集观点股票需求的资金的确是不成同日而语。哪怕是最富有的公司也承担不起这个天量海量用度。
隔壁老王开端了它的下一步，它开端制造外星飞翔器，这些飞翔器飞向陨石和别的行星，飞翔器达到后，他们开端搭建纳米组装器，把那些行星的大要改革成隔壁老王的复成品、纸和笔。然后他们持续写着那句话……
而在隔壁老王机器人公司，隔壁老王正在忙着事情。以后的几个月，隔壁老王和一群新组建的纳米组装器忙着拆解地球大要，并且把地球大要铺满了太阳能板、隔壁老王的复成品、纸和笔。一年以内，地球上统统的生命都灭尽了，地球上剩下的是叠得高高得纸，每张纸上面都写着――“我们爱我们的主顾~隔壁老王机器人公司”。
董诗云不是很了解唐玄生所说的涵义，但她也明白，这些几近只能在科幻大片内里看到的智能机器人却活生生的就在本身身边。
哪怕是吃了人参果和蟠桃唐玄生也不是非常自傲。除非是本身培养的黎山老母留下的大红袍真的长出各种奇特的果实。
起首，广义上来讲，在缔造超野生智能时，我们实在是在缔造能够一件会窜改统统事情的事物，但是我们对阿谁范畴完整不清楚，也不晓得我们达到那块范畴后会产生甚么。
能够想见，保存危急是用来指那些跨物种、跨代（永久伤害）并且有严峻结果的事情。它能够包含人类蒙受永久磨难的环境，但是这根基上和灭尽没差了。三类事情能够形成人类的保存危急：
唐玄生笑道：“那只是将来的一种能够。就像是，比方你看那些重生穿越小说，有穿越秦朝有穿越唐朝的，重生也是各种身份时候段都有。这些都是一种假定，但到底实际会如何，却不是电影内里写的那样。曾经的二战还不是有人假定假定不偷袭珍珠港如何，但这些都毫偶然义的。”
我们来做个比较。如果我给你一个小白鼠，奉告你它不咬人，你必然感觉很好玩，很敬爱。
等隔壁老王手写才气越来越强的时候，它就能被卖去那些需求发营销函件的公司，因为手写的信更有能够被收信人翻开。
为了建立隔壁老王的手写才气，它被设定成把“我们爱我们的主顾”用正楷写，而“隔壁老王机器人公司”用斜体写，如许它能同时熬炼两种誊写才气。
小白鼠是哺乳植物，以是在生物角度上来讲，你能感到和它的必然关联。但是蜘蛛是虫豸，有着虫豸的大脑，你感受不到和它的关联。
每个评价都会帮忙进步隔壁老王的才气。为了能够尽快达成这个目标，隔壁老王最后被设定的一个目标就是“尽量多的誊写和测试，尽量快的履行，并且不竭进步效力和精确性。”
跟着时候的推移，隔壁老王的快速停顿持续让工程师们感到欣喜。工程师们对自我改进模块停止了一些创新，使得自我改进变得更好了。
2018年诺贝尔奖心机学或医学奖发表，詹姆斯?艾利森和本庶佑共同获奖，以表扬他们“发明负性免疫调度医治癌症的疗法方面的进献”。
2018年诺贝尔奖诺贝尔物理学奖发表，阿瑟?阿什金、热拉尔?穆鲁和唐娜?斯特里克兰共同获奖，以表扬他们“在激光物理范畴的冲破性发明”。
他们已经有几款产品上架，另有一些正在生长。他们对下一个叫作“隔壁老王”的项目最报但愿。隔壁老王是一个简朴的野生智能体系，它操纵一个机器臂在小卡片上写字。
这也是为甚么本年的诺贝尔奖都是和生物，也就是和人的安康息息相干。
每次人类发明一些新东西，就相称于从罐中取出一个玻璃球。
它不竭改进本身，使本身变得更加创新和聪明，它乃至产生了一个新的算法，能让它以三倍的速率扫描上传的照片。
那些关于险恶机器人的电影看起来太不实在，我也没法设想一小我工智能变得伤害的实在环境。机器人是我们造的，莫非我们不会在设想时候制止好事的产生吗？
我们莫非不能设立很多安然机制吗？再不济，莫非我们不能拔插头吗？并且为甚么机器人会想要做好事？或者说，为甚么机器人会“想要”做任何事？我充满疑问，因而我开端体味聪明人们的设法。
唐玄生可没有高傲到本身能够长生不老，只要能活个一百岁还能吃能走就已经很满足了。
有一天，工程师又问了隔壁老王阿谁平常题目：“我们能给你甚么你现在还没有的东西，能帮忙你达成你的目标？”凡是隔壁老王会要求更多的手写样本或者更多的存储空间，但是这一次，隔壁老王要求拜候人类平常交换的说话库，如许它能更好的体味人类的口述。
3则让我们很惊骇，这些能够比作一个装着玻璃球的罐子，罐子里大部分是红色玻璃球，小部分是红色的，只要几个是玄色的。
想到这个唐玄生有些恋慕糖糖和孙小圣。他也不晓得当本身的生命结束时糖糖和孙小圣会如何。
外星人――霍金、卡尔萨根等建议我们不要对外播送本身的位置。他们不想我们变成聘请别人来殖民的傻子。
本身制造出新的可乃至命的疾病，又研制能够霸占疾病的药物。比方各种肿瘤癌症艾滋等等。
另有一些发明是能够让我们灭尽的，这就是那些玄色玻璃球。很较着的，我们还没摸到玄色玻璃球，但是不久的将来摸到一个玄色玻璃球不是完整不成能的。
本年的物理和化学奖都是和安康相干的。实在首要就是能够很快转化为效益利润的。
安康本身就是包含着极大的利润，特别是现在人类一方面在粉碎环境形成各种千奇百怪的病菌，一方面又冒死研讨能够延缓朽迈的药物。
为甚么那么多专家担忧超野生智能是对人类最大的威胁？这些站在焦炙大道上的思惟家，不认同对于野生智能的伤害的装点。
我想体味野生智能的一个启事是“坏机器人”老是让我很猜疑。
要了解超野生智能，我们要明白，它是非常聪明，但是完整异己的东西。
隔壁老王本来能停止语音辨认和简朴的语音回放，如许用户就能直接把想写的内容口述给隔壁老王了。跟着隔壁老王变得越来越聪明，它的说话才气也进步了，工程师们开端和隔壁老王闲谈，看它能给出甚么风趣的回应。
一个15人的小创业公司，取名叫“隔壁老王机器人公司”，他们的目标是“生长创新野生智能东西令人类能够少干活多享用。”
一个月后，大师正在普通上班，俄然他们闻到了奇特的味道，然后一个工程师开端咳嗽。然后其别人也开端咳嗽，然后统统人全数都呼吸困难倒地。五分钟后，办公室里的人都死了。
他们非常非常担忧野生智能反动，他们不存眷均衡木下比较风趣的那一个吸引态，而是盯着均衡木的另一边，而他们看到的是可骇的将来，一个我们一定能够逃离的将来。
假定唐玄生把黄金茶砖拿出去必定是天价拍卖，但这个是不成以量产的。都需求时候的沉淀，就像蟠桃五千年一着花，五千年一成果，五千年一成熟，真正的好东西都是需求时候的。
先粉碎再改良就是如许的一个怪圈。
2018年诺贝尔奖诺贝尔化学奖发表，弗朗西丝?阿诺德、乔治?史女人和格雷戈里?温特共同获奖，以表扬他们在酶的定向演变以及用于多肽和抗体的噬菌体揭示技术方面获得的服从。
