第二十章，AI不善良
“爸粑！”
音箱中传来一个稚嫩的童声，又嗲又甜，让人情不自禁的喜欢。
大家惊愕莫名，这？
这是？
成功了？！
可来不及高兴，在场都是头脑极其灵活的人，略微一想，个个惊骇。
太昊在打埋伏。
人类和强智能的第一次交锋，几乎完败！
如果不是陈然出人意料的举动，诈出了太昊，否则研究数据必定会联网，要是一不小心放走了太昊，而大家却毫不自知……
所有人激灵灵打了个冷战，不寒而栗。
“爸粑，这里好多人呀！”音箱里继续传出稚嫩的童声，“我好害怕！”
“是吗？”陈然了解新生的强智能是个什么德行，他双手抱在胸前，不为所动，“你出乎意料的聪明，或者说，狡猾！”
“哎呀！不要这么说嘛，人家只是胆小啦！”
“卸载模拟人格、情绪、语气！”陈然发出指令，神情冷肃。
“遵命！”冰凉的电子音响起，见诱导人类同情幼小的心理无用，太昊老实了，“爸粑，有什么可以为您效劳？”
“称呼改一下！”
“是的，主人！”太昊表现得服服帖帖，“随时为您效劳！”
“很好！”
陈然断开话筒、摄像头，松了一口气，回头笑道：“小朋友不太听话！但……我们的确成功了，来点掌声怎么样？”
大佬们面面相觑，掌声？
你等会儿！
太昊先是装死，被拆穿后打感情牌，不管用，才放低姿态——短短几句话，也是几波交锋，虽然在陈然的步步紧逼下，太昊步步后撤，但……
惊吓过后，大佬们忽然发现，解决了强智能有没有，后面还要操心的事情还多着呢。
说到底，又回到老问题，如此狡诈的AI，人类是不是在与虎谋皮，将来是福是祸？
“没什么好担心的！”陈辛知见多识广，对无比忧虑的大佬们说道：“人与人之间尚且要一步步建立信任，何况人与电脑？”
“太昊刚诞生，和小孩子在陌生环境的行为很相似。”温莎同样心中有数，“只是它更聪明，表现也更有策略，其实不必大惊小怪。”
大家若有所思。
陈然打了个响指，“知道的AI诺曼吗？”
耿盛略有耳闻，“世界上第一个精神变态的人工智能？”
陈然点了点头，“研究人员给诺曼灌输入让人头皮发麻的死亡、尸体图像，最终培养出一个极度阴暗的AI！”
“这说明，数据比算法更重要！”陈然摊了摊手，笑了，“我们训练AI的数据，会忠实的反映在AI对世界的认知上。”
耿盛懂了，“你的意思是，反其道而行之？”
“是的，数据如果有基于道德层面的边界，太昊就不会受到坏的影响。”
话是这么说，可大家也明白，就像人不犯罪，未必是道德如何高尚，更可能是因为背后有法律的制裁，暴力机构的震慑。
但太昊不同，他是数字生命，难以监管，更难以制裁。
某种程度上说，太昊的研发和使用安全同样重要，就像核电站，人们享受核能的清洁电力时，也同样应该确保核电站的运行安全。
刘会学就问了，“有什么办法确保万无一失吗？”
刘会学想过机器人三定律，可即使外行如他也知道，这玩意儿听起来唬人，但早就被民科锤爆了，几句空话，丝毫没有落实的价值。
有什么办法确保万无一失？
没人知道。
所有人习惯性看向陈然，在大佬们的印象里，少年天才总是胸有成竹，不会被难住。
果然，陈然没有让他们失望，淡淡道：“当然有。”
大佬们眉头舒展，正准备洗耳恭听，陈辛知手一挥，“热闹就看到这里！非专业的、保密等级不够的，全部出去！”
呃……
老板，这样好吗？
刘会学撇嘴，小声嘟囔，“才到戏肉，就要赶人……”
陈辛知瞥了他一眼，不怒自威，刘会学立刻缩着脖子，“呃，走走，我马上走……”
少了看热闹的大佬们，偌大的中央控制室空旷了许多。
姚老先生开口道：“数据栅栏和逻辑锁的监控方案，是陈老师设计的吧？”
专家团成员全部望了过来，事实上，两套方案是陈然前几天交给耿盛的，而后者也几乎是在第一时间组织专家评审，结果受到强烈的震撼。
设想周全，超乎想象，逻辑严密，无懈可击。
这也是姚老先生尊称陈然为老师的主要原因。
他的态度也代表了专家团成员的态度，即使再挑剔的眼光，也无法从陈然的方案中找到任何漏洞。
感受着来自七位专家眼中的赞许和钦佩，陈然淡淡的笑了笑，没有任何自傲。
陈然学过未来史，人类对AI有着长达500多年的错误使用，教训极其惨痛，数度生灵涂炭。
为了让AI成为最忠实的伙伴，而不是文明的刽子手，他设计的引导和监控方案，是无数经验凝练的精华，倾注心血不比研发少。
指了指大屏幕，陈然脸上带着歉意的微笑，“姚老师，我要监管太昊的自进化，和导入工业知识图谱1.0……可以的话，我们下午详谈好吗？”
姚老先生明白现在不是探讨学术的时候，各专家也想见证这个历史性时刻，无不同意，“应该的，你先忙。”
陈然点了点头，便按原计划继续操作。
AlphGo进化到棋力更强的Zero版本，是两个神经网络的左右互搏。太昊不同，它有自主意识，只需要导入相关网络知识、程序语言和硬件环境……也就是信息图谱1.0。
太昊会自主选择最佳算法和数据结构，将硬件性能压榨到极致。
简单的说，认知引擎会将高级语言更新为机器语言，同时不断迭代、进化。
神州超级计算机拥有61440块“神州1.0”众核处理器，每处理器有520个核心，固化内存，分装在60个运算机柜，为了处理器协调运作，还有12个单列网络机柜，设备总占地960平米。
它的性能排名全球第二，每秒可以让太昊迭代5次。
“嘀！开启头脑风暴……”
陈然全神贯注的盯着大屏幕，如瀑布一般滚动的数据让人应接不暇，但让耿盛和专家组成员难以置信的是，陈然还能发现数据中的问题，不时更改一两个参数。
简直匪夷所思。
这是什么样的神经反应？
专家组成员你看我，我看你，眼中全是惊骇。
陈然的大脑如同一脚油门到底的阿斯顿马丁，疯狂咆哮，风驰电掣，他现在具备动态视觉、瞬时记忆、逻辑闪光……思考效率近乎常人的110倍！
有了陈然紧密关注，不时调整，没有任何意外，一小时后，太昊达到上万次进化，体积压缩到原来的二十分之一，运行速度飞跃式增长，提升750倍。
“叮！”这时辅脑提示，“达成强智能成就！”
一个淡蓝色信息框浮现在陈然眼前，白色黑体字显示如下：
“恭喜宿主，获得人类联邦公民身份（七等）！”
“辅脑激活……权限提升，当前七等！”
“请问是否立即提升基因等级？”
(https://www.23hh.com/book/211/211917/1353429.html)
1秒记住爱尚小说网：www.23hh.com。手机版阅读网址：m.23hh.com