华歆到京师后，被授任为议郎，兼司空军事，后升任尚书，又转升侍中，再代荀为尚书令（相当于副丞相） 。曹操征讨孙权时，奏请献帝任命华歆为军师 。魏国建立后（曹操受九锡封为魏王），任御史大夫 。
魏氏三公延康元年（220年），曹操去世，曹丕继位魏王，拜华歆为相国，安乐乡侯 。同年12月，曹丕代汉称帝，华歆登坛主持受禅仪式，向曹丕献上皇帝玺绶，其后，曹丕改相国为司徒 。
华歆历来很清廉，禄米及皇帝赏赐都振济了亲戚熟人，家中没有百斤，更没有十斗粮食的储存 。朝廷每每将罚没为奴的青年女子赏赐给大臣，只有华歆不收留，而是将她们嫁人，曹丕为此叹息不已，并下诏书说：“华司徒是国家难得的长者，其作为暗合天地之道，深得民众之心呀 。今天大官们都有丰盛佳肴，只有他是简单的蔬菜佐饭，而很不计较 。”故此，特别拿自己衣服赏赐华歆，并为他的妻子及家中男女做衣服 。
当时，三府共同向皇帝提出建议：“推举孝廉，原是以品德为标准的，不需要以儒家经典为内容进行考试 。”而华歆以为“自丧乱以来，六经就没有人再读了，道德亦随之沦丧，当务之急是重新提倡儒家学说，推崇以仁为核心的王道 。制定官吏的选任标准，决定着国家的盛衰 。今天举孝廉不进行六经考试，恐怕读书之风从此衰亡 。假如有特别优秀或特别专长而六经知识短缺之人，可以作为特殊加以任用 。所忧虑的是缺少这样的特殊人才，不用担心选不上来 。”曹丕听从了他的意见 。
举荐管宁
曹丕即位初期，下诏要求宫廷大臣向他举荐独行特立的隐士，华歆推举了管宁，曹丕派车专门去迎接 。
黄初七年（226年）五月，曹丕驾崩，皇太子曹即位，封华歆为博平候，增邑五百户，与之前的累计为一千三百户，并于同年十二月改任华歆为太尉，华歆称病请求退休，愿将太尉一职让与管宁，魏明帝没有同意 。在设筵大会朝臣时，派散骑常侍缪袭持诏书宣喻华歆：“朕新接手这些烦杂事务，一日万机，怕的是难分辨是非并做出错误的决断 。幸好有有德操的大臣们在朕左右，而您却屡屡以病推辞 。量主择君，不肯做官，抛弃荣禄，不就其位者，古人的确曾有过，但周公、伊尹则不然 。洁身自好为国家死节的事，是其他人应该做的，但我不敢让您也那样 。您应该克服病痛的困扰参加朝会，施惠泽于朕 。朕将让凳子空着，站在筵席前，命文武百官同我一样站着，必须等待您的到来，只有那时朕才能落座 。”又给缪袭特别叮咛：“必须在华歆起身赴会时，你才能回来 。”华歆不得已，只好赴会 。当时太傅钟繇有腿病，下拜起身不方便，而华歆也年老患病，所以上朝进见时都让他们乘车坐轿，由卫士抬着上殿就坐 。此后三公有疾病，就把这种做法当成了旧例 。
上止战疏太和四年（230年），魏明帝派曹真从子午道（关中至汉中的通道）进军征伐蜀汉，皇帝车驾则向东来到许昌，华歆有机会见到魏明帝 。对此，华歆大胆上疏分析天下政治形势，提出了修文德的主张，他说：“为国者以民为基，民以衣食为本”，所以应该注重农业生产，安定百姓，如果大魏没有饥寒的忧患，百姓没有背井离乡的心情，那样天下才能治理好；如果真能做到圣贤的教化日日深入，那么远方的人就会感怀威德，吴蜀之民也会归附的 。华歆认为，首先应留心治国圣道，征战只能在不得已的时候使用 。当时华歆言辞恳切，深深打动了魏明帝，且又恰逢秋季大雨，魏明帝终于听从华歆建议，诏令曹真退兵 。
太和五年（231年）正月，曹赐华歆物品、衣物，以示关心 。
太和五年十二月戊午（232年1月30日），华歆逝世，享年七十五岁，谥号敬侯 。起初，文帝从华歆的户邑中分出一部分封给了华歆的弟弟华缉，封华缉做列侯 。其子华表也世袭爵位，后来担任了尚书 。
历史评价
陈登：渊清玉洁，有礼有法，吾敬华子鱼 。
太史慈：华子鱼良德也，然非筹略才，无他方规，自守而已 。
孙策：府君年德名望，远近所归 。
虞翻：窃闻明府与鄙郡故王府君齐名中州，海内所宗，虽在东垂，常怀瞻仰 。
曹丕：①司徒，国之俊老，所与和阴阳理庶事也 。② 此三公（钟繇、华歆、王朗）者，乃一代之伟人也，后世殆难继矣 。
曹植：清素寡欲，聪敏特达 。存志太虚，安心玄妙 。处平则以和养德，遭变则以断蹈义 。华太尉歆也 。
陈群：若华公，可谓通而不泰，清而不介者矣 。