有一次出访美国，偶往无线电城音乐大厅一游，他问一个下属，有何感触？那人答曰，声光俱佳，舞者面容、曲线、服装无一不美。俞大维就说，仅注意这些远不够啊。阁下是学管理的，一百多人的表演者如何进出前后台？如何训练与管理？应到后台观摩，才有心得。他又举中国人的大型筵席，往往宴开一百余桌，侍者如何分配才能同时上菜、撤盘？这里面都是学问。那人听后受益匪浅。
作为大陆时期的最后一任交通部长，邮电、公路、铁路、电信，在他任内无一不是飞速发展，工程、行政效率之高，为各部委之冠，种种细节，可见俞先生大处着眼的高度。
1954年，被任命为最高防务长官。当时他身在国外，陈诚促其束装就道，但对任命，则要先征求他的意见。蒋介石说，不必！他这个人，一旦听到炮声，一定会及时赶到最前线。
他曾亲自乘机到徐蚌战场空中投粮。
像王耀武、黄维、郑洞国等人，虽然战败了，但俞先生很同情他们，认为是可贵的忠贞之士。他也感到自惭：“如果换了是我，大势已去的情况下，我又能如何？”他是设身处地地替他人着想。
陈仪被执，他费尽心力，想去挽救他的生命，向层峰恳求陈情，整整一个上午，上面不置可否，求其苟免未能奏效，他为此伤痛不已。
不在前线，就在去前线的路上！他的办公室总是空的，他总在前线奔忙。1955年3月的一则日记可见其戎马倥偬之一斑。“３月７日晚，我乘太昭舰北巡，翌日抵东引，视察防务后，继驶马祖，途经浪岛、大西洋岛。旋沿北竿塘西岸勘察海滩状况。上午十一时在南竿塘登岸。适遇见顾问团陆军组长麦克唐纳准将，相偕视察部队，然后乘原舰至北竿塘，遇大雾，故仅停留半小时许。九日欲往大白犬岛，因风浪太大不能登岸而返回。”