早在上世纪五六十年代,当全球计算机行业还在执着于打磨单核主频和指令执行效率时,卡尔采夫这个天才,就开始摸索多处理器同步并行的可能,还造出了苏联独特的M系列电子管计算机。
很牛对吧?
但其实是被落后的半导体工艺逼出来的。
在冷战对峙的年代,西方的硅工艺吊打苏联,更侧重于单核主频的提升与精密的指令流水线设计,而苏联在晶体管和集成电路工艺上长期落后。
卡尔采夫当年接手项目时,面对的就是这样一堆烂摊子。
手里全是一些性能拉胯甚至工艺稳定性都无法保证的低端硬件,却要在这种物理限制下,把重要系统需要的庞大算力堆起来。
而这位天才给出的解法,至今看去都带着一股苏式暴力美学,硬件不够,架构来凑。
既然单个运算单元跑不快,那就搞并行运算阵列。
靠着这个思路,卡尔采夫作为总设计师,主持设计了苏联M-10并行超级计算机体系,随后又亲手主导了第四代多处理器向量计算机M-13架构的前期工作,支撑起了重要系统的核心算力。
而漆昊手里的这本《计算系统与同步算术》,算得上是卡尔采夫多年经验的一个总结。
当然,里面没有涉密技术,可即便如此,当漆昊耐着性子往下读了几页后,整个人还是被书里的内容给震住了。
强是真的强。
卡尔采夫大佬仿佛想把每个硬件知识拆开塞进他脑子里。
由于年代久远加上俄译汉的语境偏差和专业基础问题,书中很多细节内容,漆昊看得还是头疼。
他站起身,打算去喝杯水缓缓。
此时,陈工正守在几台嗡嗡作响的服务器前,唉声叹气。
“陈工,这是在干嘛吗?”漆昊端着杯子好奇走过去问道。
陈工一看是他,也就照实说了:“公司的任务,我在尝试训练神经网络。”
“汪总提过一个设想,认为未来的无人机必须装上眼睛,我们要实现室内的视觉自主定位悬停,甚至想让飞机底部的摄像头能自动辨识障碍物,自动锁定并跟踪一个移动的目标,想要解决这种计算机视觉和自适应控制难题,传统控制理论根本不行,唯一的出路,就是机器学习和神经网络。”
“那怎么样了?”漆昊好奇问道。
陈工叹了口气,指着屏幕上缓慢爬行的进度条,苦笑道:“太慢了,用的是机载实拍图像数据集,分辨率高样本量大,就这么个简单三层网络,一轮迭代也要跑上几个小时,这要是以后网络层数加深,光是调参训练就能把我们耗死。”
漆昊看着屏幕上几乎被占满的CPU使用率,心中突然动了一下,开口问道:“陈工,学术界和工业界现在为什么普遍用CPU来训练?为什么不找更高效的硬件?”
陈工听到这个问题,转过头来,耐心地解释道:“现在用CPU训练几乎是唯一的选择,CPU是通用处理器,它最擅长处理具有复杂分支的指令,神经网络在训练过程中,不仅有矩阵计算,还伴随着大量的临时文件读写,内存控制流跳转,数据预处理等问题。”
“目前其他芯片,在处理这些复杂的控制流时,效率很低,会频繁卡死。”