“革命加拼命”研制巨型机
金怡濂与计算机结缘，是在新中国成立后的1956年。当时，国家把计算机技术列为科学发展的重点学科之一。不久，20个年轻人被选派赴苏联学习计算机研制，时年27岁、自清华大学电机系毕业后进入研究所工作的金怡濂幸运入选。
“当时，电子计算机刚问世10年。中国没多少人知道什么是计算机，国家急缺人才，与其说我选择了计算机，不如说计算机选择了我。”金怡濂回忆道，他除了听说过“计算机”这个名词外，其他一无所知，更无从预料计算机技术的发展将给全世界带来如此巨大而深刻的影响。但祖国的重托，足以激发他全部的热情，夜以继日地学习。
1958年7月，金怡濂从莫斯科回到北京，随即就被派往中科院计算所，参与中国第一台大型计算机104机的研制。
金怡濂颇有感触地说：“计算机是个很特别的东西。算一个数，需要很多器件一起工作，若是在某个瞬间断一下，计算结果就会出大错。所以，工艺质量和设计质量一样至关重要。”
那段时间，除吃饭、睡觉和非参加不可的集体活动，金怡濂和同事们几乎所有的时间都泡在机房。除了研究设计，他们还花了大量时间，想了许多办法，排查机器的每一个工艺环节，以确保“一个焊点也不能出问题”。经过多轮调试，1959年国庆节期间，104机正式宣布完成，《人民日报》头版头条报道了这一喜讯。随后，它圆满完成了包括中国第一颗原子弹在内的许多重大课题的相关科学运算。
此时，金怡濂已离开104机研究小组，又陆续投入四台大型计算机的研制工作。金怡濂主攻的运算控制，被称为计算机的大脑和心脏。他提出了一系列可行性建议和改进方案，攻克了“穿通进位链加法器”等课题，逐步成长为中国大型计算机研制领域的骨干力量，被破格提拔为研究室副主任。
1969年，金怡濂作为主要技术负责人和总体组组长，主持国家重点工程九〇五乙机的研制。当时，国家的电子工业基础异常薄弱，金怡濂一方面与同事们下大力气帮助合作的元器件生产厂家提高质量，另一方面在国内首次提出“双机并行”的处理器系统结构，以双机并行提高机器的速度和稳定性，弥补元器件的可靠性不足。
双机并行，这在当时不少人看来是个极其大胆新颖的构想。但金怡濂说，这并非他异想天开，而是源自多年来坚持追踪国际新技术的心得。即使在鼓吹“知识无用”的年代，即使身在大西南信息闭塞的山区，他仍然想方设法获取最新的学术信息。每次到大城市开会或办事，他必定要去图书馆或资料室查阅学术资料。他说：“搞科研的人，不跟踪了解本专业的先进技术，无异于瞎子、聋子，长此以往，思维会迟钝，会失去想象力和创造力，失去创新的灵感和激情。”
由于地处偏僻，参考资料也极其匮乏。为查询资料，金怡濂要跑上海、北京等地。为此，得先在崎岖的山路坐大卡车颠簸半天，然后挤上火车，在硬座车厢里度过两三个昼夜的旅途。查完资料，匆匆背上一大包同事们让他捎带的肥皂、牙膏、糖果回到大山里，继续他的研制工作。由于国外对技术的封锁，大型计算机全靠我国自主设计生产，金怡濂主要负责硬件部分的设计把关，每一张图纸都自行设计绘制，生产一台机器需要绘制的图纸不下数万张，摞起来像个小山。尽管如此，凭着“革命加拼命”的精神，1976年，九〇五乙机宣布研制完成，运算速度达每秒350万次，开创了中国并行机研制的先河。
“科研条件固然重要，但起决定性的因素还是人。”金怡濂总结说。
花钱买不来高科技
1978年，中国迎来科学的春天。金怡濂代表九〇五乙机的全体参研人员、设计组和他个人，在第一次全国科学大会上捧回了三张奖状。两个月后，他又被派往美国和日本考察大型计算机。这次行程虽然收获不小，也让他们清醒地认识到了差距。
据金怡濂回忆，改革开放之初，国家百废待兴，急需更高性能的巨型计算机，迫不得已花巨资从国外进口了一台。然而，购机同时还须花钱“聘请”两位“洋监工”，由他们在控制室中监视机器的使用。双方签订的协议上还明确规定：中方人员不得进入控制室；开机、关机须由外方负责操作；中方不得将机器派作他用等等，这让金怡濂大感屈辱，他由此深刻地认识到，高科技是花钱买不到的，必须发展中国自己的巨型计算机，否则只能受制于人。
“核心技术是花钱买不来的。”感受到切肤之痛的金怡濂下定决心，一定要研制出属于中国人自己的、不输给任何人的高性能计算机。在中国科研人员废寝忘食的努力下，上世纪80年代，“银河”向量亿次机和九〇五工程亿次机两台运算速度达亿次级的巨型计算机相继成功研制。1991年，金怡濂所在的研究所又成功研制出速度达每秒10亿次级的中国第一台大规模并行处理计算机，逐渐缩小与美、日等国的差距。
那么，下一个目标，定在100亿，还是1000亿？各方争议不断。金怡濂是少数赞成直接研制1000亿次级巨型机的人之一。
他支持直接研制千亿次级绝非一时冲动，而是反复研究国外同行的成果近一年后得出的结论。“当我说出1000亿时，心中至少已有了七八成的把握，剩下两三成，也有一个初步判斷，预计那些问题可以解决。”
“计算机发展太快，早一年是先进的，晚一年就落后了。”他还有另一层考虑，直接挑战千亿次级，将是一次在该领域迎头赶上美、日等国的机遇，机不可失。
最终，新一代巨型机——“神威”的目标被确定为1000亿次级。当时已退居二线的金怡濂被邀请出山，担任总设计师。他提出以平面格栅网为基础的“分布共享存储器大规模并行结构”总体方案，同时提出网上多种集合操作以及无匹配高速信号传送等技术构想和解决方案，均获成功。这一成果实现了中国高性能计算机的历史性跨越。
