王戎字浚冲，琅王牙临沂人。祖父王雄，是幽州刺史。父亲王浑，是凉州刺史、贞陵亭侯。王戎幼年聪明伶俐，神彩秀美。能视日而目不眩，裴楷见了他仔细审视一番说：“戎眼烂烂，如岩下电。”六七岁时，在宣武场看戏，猛兽在槛笼中怒吼震地，众人都奔走退避，王戎却站着不动，神色如常。魏明帝在阁上看到后，称赞王戎是奇童。王戎曾与群儿在道旁游玩，见李树上有很多果实，群儿争着去摘取，王戎却不去，有人问他为何不去，王戎说：“树在道旁而多果实，果实必定是苦的。”取来一尝，果然是苦的。
阮籍与王浑是朋友。王戎十五岁时，随父在官署。王戎比阮籍小二十岁，而阮籍与王戎交为朋友。阮籍每次到王浑那里去，与王浑见一面就离去，找王戎交谈，很久才出来。对王浑说：“浚冲清虚可赏，不是像您这样的人，与您谈话，不如与阿戎谈话。”王浑死于凉州时，故吏捐赠数百万钱助丧，王戎没有接受，从此出名。王戎身材短小，坦率而不注重仪表，为人健谈，善于提出话题，并能抓住谈话的要领，朝中贤士曾于三月上巳节在洛水旁游玩洗濯，有人问王济说：“昨日郊游有何谈论？”王济说：“张华善说《史记》《汉书》；裴危页论前人言行，滔滔可听；王戎谈子房、季札之类的事，超然玄虚。”王戎就是这样受到鉴识者的欣赏。
王戎曾经与阮籍共饮，当时兖州刺史刘昶(字公荣)在座，阮籍因为酒少，斟酒时没有给刘昶斟，刘昶也不怨恨。王戎觉得奇怪，以后问阮籍道：“刘昶是什么样的人？”阮籍回答说：“胜过公荣的人，不可不给他酒喝；不如公荣的人，不敢不与他共同喝酒；只有公荣可以不给他酒喝。”王戎经常与阮籍等在竹林游玩，有一次王戎来晚了。阮籍说：“俗物又来败人兴致。”王戎笑着说：“你们的兴致看来很容易败了。”
钟会将伐蜀，拜访并告别王戎，问王戎有何计灭蜀。王戎说：“道家有句话叫‘为而不恃’，成功并不难，保持成果就难了。”及钟会被杀，议者以为是知人之言。
王戎继承父亲的爵位，召为相国掾，历任吏部黄门郎、散骑常侍、河东太守、荆州刺史，因遣吏修园宅论罪，应免官，皇帝下诏作赎罪处理。迁为豫州刺史，加建威将军，受诏命伐吴。王戎派遣参军罗尚、刘乔为前锋，进攻武昌，吴将杨雍、孙述、江夏太守刘朗各率众向王戎投降。王戎率大军到江边，吴牙门将孟泰献蕲春、邾二县投降。吴平以后，晋爵安丰县侯，增食邑六千户，赐绢六千匹。
王戎渡江安一抚新附吴民，宣扬晋室威德恩惠。吴光禄勋石伟为人正直，不为孙皓所容，称病回家。王戎赞扬他的清刚之节，上表向皇帝推荐，皇帝下诏拜石伟为议郎，以二千石爵禄终其身。荆州百姓悦服王戎，征召为侍中。南郡太守刘肇送给王戎五十端名叫筒中的细布以行一贿，被司隶纠察弹劾，因王戎知道是贿赂未曾接受，才没有治罪，然而议论者认为这也是王戎的过错。武帝对朝臣们说：“王戎的行为，怎能算怀私苟得，正是以不贪欲异于他人罢了。”武帝虽这样替王戎解释，仍为清廉谨慎者所鄙视，由此名声受损。
王戎任职虽然没有特殊才能，而庶政料理得好。后迁为光禄勋、吏部尚书，因母丧离职。王戎孝心至诚，但不拘礼制，守丧期间饮酒吃肉，或看下棋，而容貌憔悴，持杖才能行路。裴危页前往吊唁，对人说：“如过于悲痛会毁伤身一体，浚冲不免被讥为毁一性一。”当时和峤也为父守丧，守正常礼法，量米而食，而哀痛毁身不及王戎。武帝对刘毅说：“和峤守丧损身，超出礼制，使人忧虑。”刘毅说：“和峤虽卧草苫而食米粥，那是惜生之孝，至于王戎，是所谓死孝，陛下当先为王戎忧虑。”王戎先前有呕吐病，居丧期间病情加重。武帝派医生为他治疗，并赐给药物，又使他断绝宾客。
杨骏执政时，王戎拜为太子太傅。杨骏被杀之后，东安公司马繇专断刑赏，威震内外。王戎告诫司马繇说：“大事件之后，考虑问题要深远些。”司马繇不听，果然遭祸。后转为中书令，加光禄大夫，给恩信五十人。又迁为尚书左仆射，兼吏部职。
王戎开始定甲午制，凡选拔人才，先让被选者治理百姓，然后授官擢用。司隶傅咸上奏弹劾王戎说：“《尚书》上说：‘三年一次考核官吏政绩，经过三次考核，即可升优退劣。’今内外群官，任期不到一年，王戎即奏请召还，既未定其优劣，就加以更换，送旧迎新，不绝于道路，巧伪一奸一诈之事由此产生，妨害农业和政事。王戎不依据尧舜经典行一事，而举动浮华，毁坏风俗，不但无益，且有大害。应免除王戎的官职，以使风俗敦厚。”王戎与贾充及郭氏通亲，故未作处理。不久转为司徒，以为王政将要颓败，与权臣苟合求容，时值愍怀太子被废，王戎无一句匡谏之言。
裴危页是王戎的女婿，裴危页被杀，王戎被牵连免官。齐王司马礒起义兵讨司马伦，孙秀将王戎囚于京城内，司马伦之子欲取出王戎作军司。博士王繇说：“浚冲谲诈多端，哪肯为少年所用？”于是不用。惠帝回宫复位，以王戎为尚书令。接着河间王司马..遣使者说服成都王司马颖，将共讨齐王司马礒。讨伐的檄文到京师，司马礒对王戎说：“孙秀作乱，天子被幽禁威一逼一，我纠合义兵，扫除元恶，尽臣子之节，这是神人共知的。二王听信谗言，将成大难，当依赖您之忠谋，以调和争执。卿可为我筹划对策。”王戎说：“公首倡义兵，安定晋室大业，立国以来，未有此人。然而论功行赏，漏掉有功之人，因而朝野失望，人怀异心。今二王有甲兵百万，其锋不可抵挡，您若舍弃权一柄一，以齐王身份回府第，可以保持原来爵禄。委权于他人，得崇让之名，这是求全身之计。”司马礒的谋臣葛韄发怒说：“自汉魏以来，王公失势回府第，有能保全妻子儿女的吗？发此议论者当斩。”于是百官震惊，王戎伪装药一性一发作掉进厕所，才免于遭祸。
王戎以为晋室已乱，仰慕春秋蘧伯玉的为人，随波逐流，无刚直之节。自从掌选才任官之职，不曾擢拔一出身寒微之士，退黜徒有虚名之人，只是随时势而沉浮，在官门中选辟调职而已。不久拜为司徒，虽总三司之权，而委事于僚属。常私人乘小马从便门出去游玩，见到他的人不知他是三公。他原来的属下官吏多升为大官，路上遇到他就要避开。为人好兴财利，园田水碓周遍天下，积货物，聚钱财，不计其数，常自执算筹，昼夜计算，常嫌不足。又很吝啬，自己舍不得吃穿，天下人都说这是他的不治之症。女儿出嫁给裴危页时，向他借钱数万，很久没有归还。回一娘一家时王戎很不高兴，女儿赶紧把钱还给他，这才高兴起来。一个侄儿要结婚，王戎送给他一件单衣，结婚后又把这件单衣要回来。家里有好品种的李树，常卖李果，怕别人得到种一子，卖时总在果核上钻个孔。因为这些，常被世人讥笑。
以后跟随惠帝北伐，王师在荡陰溃败，王戎退到邺，又随惠帝回洛陽。惠帝被一逼一西迁长安，王戎出奔到郏。在危难中曾亲自与乱军交锋，冒白刃之险，然而谈笑自若，未尝有惧色。有时召集亲故宾友，欢娱终日。惠帝永兴二年(305)死于郏县，终年七十二岁，谥号为元。
王戎善于鉴识人的品德才能，认为山涛如璞玉浑金，人人都羡慕其为宝，但不知可以做成何器；王衍神姿高远，如瑶林玉树，自然是尘世以外的人物。认为裴危页拙于用其长，荀勖善于用其短，陈道宁如长竿磢磢高一挺。族弟王敦有高名，王戎讨厌他，王敦每次去看望王戎，王戎总是假托有病不见他。王敦后来果然叛乱。王戎就是这样能鉴识人品，有先见之明。一次经过黄公酒垆下，回头对后车上的门客们说：“我昔日与嵇叔夜、阮嗣宗在此酣饮，在竹林一起游玩的朋友我也算最末一个。自嵇、阮去世，我便为时务所缠扰，今日旧物都在眼前，而人却如远隔山河了。”当初，孙秀为琅王牙郡吏，要求同乡名士对他进行品评称誉。王戎的从弟王衍不愿评，王戎劝王衍还是评了好。及孙秀得志，朝士中与他有宿怨的都被杀，而王戎、王衍获免。
王戎的儿子王万，也有好名声，从小就非常肥胖，王戎叫他吃糠，然而更加肥胖。十九岁就死了。有庶生子王兴，不为王戎所重，以从弟陽平太守王忄音的儿子继嗣。