葛邲出身于名宦世家，自幼受家学熏陶，聪颖好学，机敏干练。年轻时以祖父葛胜仲官居国子监祭酒，父亲葛立方官至吏部侍郎，有功国家，被授予建康府上元（今南京江宁）县丞。县丞是县令的辅佐，担负处理文书及管理仓狱之责。当时上元是金兵侵犯江南的要冲，军事民政，千头万绪，而葛邲“不扰而办”。尤其是时遇金兵南下，葛邲及时对防务作出调度，化险为夷，受到南京留守张浚的器重，众人也对这位年轻县丞表现出的非凡管理才能交口称赞。
隆兴元年（1163），葛邲考中进士，朝中大臣竞相推荐。他应召来到当时南宋都城临安，授职国子博士。一次，葛邲奉召赴内殿奏对评论州县官员收受钱物及卖官爵弊端的议题，他发表颇具见解的主张和意见，得到孝宗赵眘的奖谕：“观所奏，知卿才。”意思是说，观察你所奏的内容，得以知晓你的才干。随即任命葛邲为秘书省著作郎兼学士院权直，负责起草朝廷的制诰、诏令及国书。淳熙七年，葛邲任掌管规谏的右正言官，第二年又兼翰林院侍讲，并担任侍御史，主要负责对朝廷内外百官的监察和弹劾。从此，葛邲开始了他长达10余年的谏官生涯。
葛邲于孝宗、光宗两朝任职期间，也关心故乡江阴文化教育事业的建设和发展。淳熙九年，曾任枢密院编修的楼锷，奉调至江阴军担任知军，葛邲支持他在江阴古城爱日门外祥符寺之侧建立贡院。这个地方是葛邲所谓“负倚席帽峰而秦望，君山拱辑于其前”的江城东北隅。葛邲还应楼锷之请，特地为家乡贡院撰写了《新建贡院记》。他在文中回顾了家乡江阴自南唐置江阴军以来直至宋代，“遂为浙西望郡”并赞赏江阴科举之盛，“宾兴之岁，士之试于有司者几千人”，且列为乡试之前的往往是江阴人。葛邲考察此中原委，认为是江阴所处的地理位置优越，乃人文荟萃之地。葛邲在《新建贡院记》中写道：（江阴）盖得江山之助，故其人秀而多文，有淮楚之风，故其人愿而循理，今遂为多士之地。
葛邲稔熟家乡江阴的山川景色和旖旎风光，更了解故里的科举盛名。他出身的江阴青旸葛氏家族，在宋一代就出了36名进士，而江阴全境总出进士227名，科举之盛名副其实。绍熙五年，在葛邲的倡导下，江阴还修成历史上第一部地方志——《江阴军志》。
庆元六年三月，朝廷又派葛邲去福州道兼职，这时，他已是66岁的老人了。葛邲因病未及到任，辞官养病，不久在湖州去世。朝廷封赠太子少师、郕国公，谥号文定，袱祭于光宗皇帝的宗庙中。著有《文定文集》200卷、《词业》50卷。