实际上,林连玉外表瘦骨嶙峭,不修边幅,头发不梳如茅草;面皮乌癯,皱纹密布,一口烟屎牙;穿着随便,喜穿白衫衣,外披浅绿色或土黄色之大衣长裤,从不结领带,脚上穿的是平底胶鞋。
虽然其貌不扬,但,这副瘦弱的身躯,却凛然带出一股坚毅、刚正不阿,和大无畏的气节,使认识他的人,都很自然的受他感召。英国殖民政府最后一位钦差大臣麦基里莱,曾当着林连玉的面前承认说,政府的教育政策行不通!这就是林连玉领导教总反对的结果。
而陈修信(马华公会发起人陈祯禄儿子,当年还没出任马华总会长)在较后时的一次谈话中,也指林连玉先生是“当前联合邦最有势力的人物之一”。马来亚联合邦(马来西亚独立前的名称,当时尚包括新加坡)酝酿着要争取独立时,林连玉公开表明衷诚支持,并重申:“为了国家独立,准备忍辱负重。”
他积极促使教总参与教育部改编华校教科书的计划,使其具有马来亚文化的色彩。并呼吁华文教育工作者教导小孩效忠于马来亚,培养小孩共存共荣的观念。独立前,华族无论在文化教育或经济上都超越其他族群,因此林连玉也吁请政府纠正马来亚各民族经济状况不平衡的现象,给予巫族辅助,还呼吁华人伸出友谊之手,协助友族在文化与经济领域迎头赶上。

所以,真正说起来,第一个倡议“一个马来西亚》概念的人,其实是林连玉才对!林连玉早在50多年前,就已经看到马来西亚特殊的民族结构和问题所在。
他的言论和思想,证明都是开明而且不是种族主义者。1956年5月4日林连玉应邀为爪夷文UTUSAN MELAYU撰写以《心理的建设》为题的开斋节献辞,公开提出:各民族要以马来亚为第一家乡,要成为一家人,共同建设国家。
虽然人们知道林连玉的中文优异,但是他自己心里却有一个缺憾,那就是他不谙英文和马来文。
曾经有一次他和陈祯禄见面(陈祯禄是当时土生华人的精英分子,富豪家族,马华公会创办人,华人领袖人物又受到英国政府的重用),陈氏用半讽刺半玩笑的口吻向他说:“可惜你不懂英文,不然你也是一个厉害的人物。”
陈祯禄这一句话直接刺到了林连玉当时的内心深处,不懂英文的确是一件“缺憾”。林连玉自己说过“…不懂得英文,不但没法在国际新闻界驰骋,而且在本邦采访的范围又被缩小了”。因为他不谙英语和马来语,造成他无法向英文和马来新闻媒体发表他对国家教育制度的看法和意见。
林连玉身为华文教育领袖为了要争取华文母语教育,自己却不谙英文和马来文,当时和他学识