第四九六章 学数
涉猎这一领域,成败,并不在于何时开始,而在于能否想到这一步。
盛夏时节,眼见就要过去,东北太平洋大区的广袤土地上,第一缕秋风带来丝丝缕缕的凉意,的地下世界,扩建工程紧锣密鼓,在初号机测试进行的同时,更大规模的“强人工智能”部署用基础设施,也在紧张施工中。
研究划时代的“强人工智能”,单论项目本身,已经是一项前所未有的巨大成就。
但方然的动机,据实而言,并不是简单的探寻科学技术之未知,他希望拥有的“强ai”,能力至少也要在最顶尖的人类科学家之上。
否则,从促进科技发展的角度,庸碌的“强ai”就没有意义,单纯研究意识、思维与认知,进而用计算机+人工智能的方式将其复现,便会成为旧时代的诸多烧钱工程,徒然耗费资源而得不到即期的收益。
一切科学技术的研究,必须要有收益,否则,nep便无法自残酷的竞争中胜出。
即便如此,一开始研发“强人工智能”,目的仍然是验证总体架构的可用性,出于种种考虑,地下世界里的初号机,指标要求一点也不高。
采纳莱斯利*兰伯特的意见,方然为初号机选定的研究领域,是数学。
遵循从易到难的原则,考虑到强人工智能的一切初始条件,只能来自于人,而人类的科学技术体系又未必完全正确、完全自洽,为避免不必要的干扰和疏漏,“数学”这样一个最客观的学科,是很合理的选择。
总之,第一个“强人工智能”的目标,是探索数学。
但依靠很原始的强ai,能否去探索前沿,解决大量悬而未决的问题呢,当然不可能,没学会爬就像跑,只会摔一个大跟头。
研发组的具体规划,是给予初号机的数据库一份简单的“已有知识列表”,按fsci系的规范要求,录入基础知识条目,而后启动该系统,观察、测度系统能否从这些简单的已有知识出发,推导出其自身并不知晓的数学定律。
即便推导出的结果,极大可能,是人类已经掌握、因此而毫无价值的东西。
但用来验证系统的可用性,这却是一个可行之策。
不仅如此,观察系统的运行,借助asa这样的人工智能进行追踪,还有望解析“强ai”的运作机理,甚至搞清楚其自主意识的根源。
数据库,思维核心,具备这两大部分的系统,原则上便是一个“强人工智能”。
不过,早在项目的规划之初,方然就意识到,仅有这两部分所组成的“强ai”,能力注定十分有限,直白的讲,其理论上的最高成就,仅仅局限于现有基础理论的延拓、应用,而绝不可能在现有基础理论的基础上更进一步。
原因很简单,不论是人,还是人工智能,脱离客观世界、闭门造车,都不可能凭空推动科学技术的进步。
理论,对与不对,要由实践来检验。
没有后面的这一步,再华丽的理论,也只能永远停留在空中楼阁的状态,永远无法坐实,永远无法成为新的出发点。
正是基于这种考虑,在规划ai整体框架时,自己才会有意略过“实践”这一块。
只要强人工智能没有这一模块,其全部活动,便只能在现有框架的范畴内进行,即便如兰伯特先生所言,随时间流逝,其自身状态越来越未可知,风险持续累计,也不至于越过虚幻与现实的界限,轻易对人类、也即自己构成威胁。
工程进度有条不紊,到1495年深秋,数据——思维——实践,强人工智能的三大模块中,前两部分已大致完成。
至于第三部分,研发,也在持续进行中,只不过一时半刻还用不上。
不仅如此,为防范“强人工智能”失控的风险,思虑再三,方然还是在一开始就启动了自称为“连锁安全机制”的并行研究,除外,还指示另外两处研究机构进行“强ai”的研究。
目的,不是要多个方案、优中选优,而是让目标不同的ai彼此制衡。
791研究机构里的“强ai”,初号机的目标,一开始被指定为“数学基础理论研究”,后续目标则是“科学技术的创造性、探索性研究”。
787研究机构的“强ai”,目标则是“防范自主系统的越权企图”,简单说来,这一强人工智能要去解决的问题,是利用自身的思维、认知能力,全力防范一个“自主系统”的独走,给出反制的措施。
最后,还有一个830研究机构,同样进行“强ai”的研发,初号机的目标是“安保系统权限与行为审查”。
不消说,这一强ai要盯防的,正是正在研究的强人工智能。
一环扣一环,三大研究机构的开发团队,实力大致相若,获得的资源也差不多一样,“以人工智能提防人工智能”的策略,则在逻辑上确保了项目整体的安全性。
原因很简单,倘若的“监控强ai之ai”研发不力,无法获得具有自主思维、能够主动采取措施限制目标行为的“强人工智能”,最有可能的原因,只能是这一设想本身有问题,以人类现有的技术水平,根本无法创造出具有自主思维的ai。
换句话说,如果以东北太平洋大区的技术水平,能创造出“强人工智能”,那么也就应该能创造出监控这种ai的“监控型强ai”。
至于万一的概率,监控型ai,也会有失控独走的风险,
则由的“监控监控型强ai之ai”,来作为最后一道安全屏障。
一环扣一环,以人工智能盯防人工智能,这种策略要想做到万无一失,理论上需要将链条延伸到无穷远,当然这不可能,方然能做到的,也不过是权衡利弊,在资源消耗与预期收益之间取得暂时的平衡。
提前部署了这一切,项目启动后,方然时常抽时间浏览报告,了解“强人工智能”的研发情况。
史上第一次,尝试打破人类对智力的垄断,对可能遇到的困难,方然已经有一些心理准备,所以,当各研发组报告进展顺利,预计将在两、三年内得到成果时,他着实挺意外。