官渡之戰結束，陳琳跟隨戰敗的袁紹北歸至冀州，此時的河北局勢風雲變幻，四州之地叛亂四起，重病的袁紹在平定河北之亂後，終於耗儘了自己最後一口氣。
由於之前袁紹已經將自己的長子袁譚過繼給了被董卓所屠的兄長袁基，在宗法觀念來看，袁譚不具備繼承袁紹的位置。
袁紹去世後，審配等以袁紹生前明確袁尚是其繼承人為由，擁立袁尚繼承袁紹的位置。
陳琳如同河北大多數人一樣，追隨了袁尚。
袁氏兄弟為了河北之主的位置，互相攻伐，曹操趁機渡過黃河，擊敗袁氏兄弟，最終一統華夏北方。
雖然官渡之戰前，陳琳寫的那篇《為袁紹檄豫州》文，連同曹操的祖宗都一同罵了進去。
但是曹操平定冀州後，還是因為愛惜陳琳的才華，並未追究過去的事情，且為了展示自己海納百川的胸襟。
曹操任命陳琳擔任司空軍謀祭酒，管記室，此後魏國書檄多為陳琳和阮瑀所作。
為此還出現了一個小插曲。
曹操攻下鄴城後，遇到單獨前來歸順的陳琳，曹操指著陳琳，故作生氣的道：“陳孔璋，你居然還有臉來見我。作為天下名士，各為其主時，你寫文章數落我也就罷了，為何連我祖宗三代都痛罵一遍？”
陳琳委屈得如同受氣的小媳婦一般，愁眉苦臉的說道：“在下當初在袁本初手下做事，袁公自詡出身名門，而曹公祖父乃是宦官，這是袁公逼我所寫，乃形勢所迫，並非在下的本意，實在是沒有辦法啊！
就好像一支已經被搭在弓弦上的箭，不得不發射出去一樣。”
後世根據此典故引申出成語“箭在弦上”。
曹操隨後哈哈一笑，並沒有追究陳琳之前的事情，甚至還重用對方。
曹操平定北方後，將自己的主要辦公地遷到了鄴城，仍然將漢獻帝留在許昌。
作為掌握曹操記室的陳琳，自然大多數時候皆在鄴城辦公。
當時的陳琳在曹操麾下任職，而他的同鄉好友張紘則在孫權手下做事，兩人當年在廣陵時就是非常要好的朋友。
雖然各為其主，但是兩人都互相仰慕對方的才華，仍然時常有書信往來。
有一天，一位貴客送了張紘一套栩榴枕，張紘見了禮物很是喜歡，專門為此作了一首賦，讚美栩榴枕。
當時遠在千裡之外，北方鄴城的陳琳見到了這篇文章後，讚賞不已，甚至親自寫信派人送去江東，恭賀對方。
在一次請客宴賓時，陳琳特地拿出這篇賦文讓在座的賓客傳閱、欣賞，並不斷地誇耀說道：“這篇文章寫得多麼清新脫俗啊！你們知道嗎？這篇文章的作者是我的同鄉好友張紘，張子綱所著。”
幾年後，陳琳也陸續發表的自己的著作《武庫賦》、《應機論》，遠在江東的張紘讀完後，不由得拍案叫絕，並立刻寫了一封信送到鄴城的陳琳處。
信上對陳琳文辭清新、見解獨到的文章風格大加讚賞，並表示要好好地向他學習。
陳琳見到此信感慨極了，思考良久，謙虛的回了一封信給張紘。
信中寫道：“我雖然是廣陵人，卻基本生活在北方的鄴城。這裡與你們江東之間的消息並不暢通，我也很少與天下文士暢談各種文學話題，因此，我也沒見過什麼大世麵。
隻是我們這裡能寫文章的人不多，這才讓我凸顯出來，得到了大家過分的稱讚，並不是我的才學真有什麼造詣，是你太誇獎我了。