新馆于1998年5月1日落成开放，馆址位于河南省郑州市农业路，占地10万平方米，建筑面积7.8万平方米院区整体布局取“九鼎定中原”之寓意，中央为主展馆。
主展馆主体建筑以元代古观星台（中国现存最早的天文台遗址，位于河南登封）为原型，经艺术夸张演绎成“戴冠的金字塔”造型，其底部为长63米的正方形，高45.5米，内部设计五层，其中地下一层。冠部为方斗形，上扬下覆，取上承“甘露”、下纳“地气”之意，寓意中原为华夏之源，融汇四方。外部墙面为土黄褐色，取中原“黄土”“黄河” 孕育了华夏文明之意，主馆正面从上至下有浅蓝色的透明窗与自上而下的透明采光带，具有“黄河之水天上来”的磅礴气势。
主馆后为文物库房。整个建筑群设计以雄浑博大的“中原之气”为核心，线条简洁遒劲，造型新颖别致，风格独特，气势恢宏，堪称一座凝聚着中原文化特色和时代精神的不可多得的标志性建筑。
河南博物院是一个功能齐全的现代博物馆，它包括广场、序幕大厅、基本陈列馆、专题陈列馆、临时陈列馆、文物库房、学术报告厅、电教楼、观众参与和娱乐厅、观众餐饮茶座、观众休息厅、贵宾接待、河南博物馆室、纪念品商场、广播室、计算机中心、文物保护中心，图书资料馆和培训服务楼等部分。建筑群外部还设计有40%左右的园林绿地，形成“馆中园、园中馆”的优美格局。
——有些人，我们把他留在回忆里，是为了要藉由他们，来怀念当时的自己。