后来，刘备做豫州牧，他深知与本地世家大族相处之道，刘备何等机灵，征召颍川名士陈群到州府任职，官职是豫州别驾。
徐州牧陶谦被曹操围攻，请刘备救援，临终又把徐州托给刘备，刘备“盛情难却”准备接管，这时豫州别驾陈群却劝刘备，不要去徐州是非之地。徐州北有吕布、南有袁术，二者都对徐州虎视眈眈，将军一旦卷入旋涡，想抽身就难了。将军虽得徐州，但很难守住。
但刘备还是去了，不久，果然被陈群言中，吕布、袁术联手将刘备挤出徐州，刘备这才后悔不听陈群的忠告，让陈群做枳县县令，但此时刘备自身难保，兵荒马乱之际，陈群不敢赴任，带上老父陈纪到徐州避难，寄居在吕布门下做宾客。
曹操灭吕布占徐州，陈群父子归顺曹操。
曹操早知这父子二人乃当世名士，当即征召陈群在司空西曹掾任职，此时曹操是司空，所以陈群直接进入曹操官署成为其属下。
曹操占领徐州后，为收买人心，广泛征用本地人才，徐州各地地方势力争相投靠，这时由本地大族推荐徐州乐安人王模、徐州下邳人周逵，曹操立即录用，陈群此时已在曹操手下，对这两人早有所闻，向曹操进言，此二人并非忠义之士，早晚必败主公大事，曹操正广收人心，不愿得罪本地大族，也就没听陈群的劝告，后来，两人果然犯法，曹操还为此事专门向陈群道歉。