本來徐世昌主張由李純擔任，皖係全力反對，梁士詒也被安福係反對。
段想要王揖唐擔任，王是安福係首領，西南護法就是反對安福國會，王揖唐自然不是一個適當人選。
徐世昌也不同意王揖唐為代表，稱王是眾議院議長，與梁士詒是參議院議長同樣不適宜於擔任議和總代表。
最後徐接受了梁士詒的意見。梁北返前在香港曾和唐紹儀見過麵，唐表示朱啟鈐是個適當人選。徐便提出朱為總代表。
王揖唐和朱啟鈐都是徐世昌的拜門學生，王後來變成段的死黨，而朱則是舊交通係，所以和徐仍保持良好關係。
對於朱啟鈐為北方總代表，也曾遭致西南方麵一些人的反對。
南方非常國會中約有一百名議員聯名通電指責北方增兵陝、閩兩省，缺乏和談誠意；同時認為朱啟鈐是安福國會的副議長，又是洪憲王朝的帝製犯，表示反對。
南北雙方既然在和談前意見分岐而不能調和，因此和談的進度非常遲緩。
這時，五國公使在北京接觸頻繁，準備向南北雙方提出措詞嚴厲的第二次勸告。
這個消息傳出後，使段和主戰派大感不安，南北的主和力量大為增加，議和問題才得急轉直下。
一九一八年十二月二十九日，北方議和代表團朱啟鈐、吳鼎昌、王克敏、施愚、方樞、汪有齡、劉恩格、李國珍、江紹傑、徐佛蘇等十人由北京動身南下。南方議和代表團唐紹儀、章士釗、胡漢民、繆嘉壽、曾彥、郭椿森、劉光烈、王伯群、彭允彝、饒鳴鑾、李述膺等十一人也於一九一九年一月二十五日到達上海。
上海和會於一九一九年二月二十日上午開幕，舊德國總會會場這天布置一新，南北總代表各引所屬代表魚貫入場，相對而坐。雙方代表多為舊識，如今相聚一堂，各有不同心情。
開會後先由南方總代表唐紹儀致辭說“國內戰爭至今日告一結束，但推厥禍源，外力實有以助長之，舊武人派苟不借助外力，則金錢無自來，軍械無從購，兄弟鬩牆早言歸於好矣。何至兵連禍結，延至今日，使人民痛苦，至於此極。今北方已經覺悟，開誠言和，舍舊謀新，請自今始！”
北方總代表朱啟鈐也接著致辭說“民國成立以來，國家政權多握於武力派之手，故戰爭紛亂，迄無寧歲。邇者時勢所趨，潮流所迫，將化乾戈為玉帛，換刀劍以贖牛，一切乾羽戈矛，皆應視為過去陳舊之骨量。從此戰爭當無從再起，和平統一，請視諸斯！”
南北代表致辭後，雙方全體代表遂起座向國旗行禮，並歡呼中華民國萬歲，和平統一萬歲！然後進茶點，略作寒暄而散。
二十一日正式開會，南方總代表唐紹儀首先提出陝西停戰問題，雙方共同推定了久居陝西的山西人、舊國會議員張瑞璣到陝西監督停戰。
北方總代表朱啟鈐承諾立即電告北京政府切實辦到陝西停戰，如果不能辦到，北方議和代表願意全體辭職以謝國人。雙方代表決議催促張瑞璣兼程赴陝執行監視職權。
二十二日唐紹儀又提出停止參戰借款，取消參戰軍和宣布中日密約等問題，朱啟鈐也當即承諾電達北京政府請示。
朱出發前，徐世昌一再叮囑他努力促成議和，因此在態度上對南方表現得很遷就，姿態也很高。安福係本就反對和談，便借此大做文章，提出朱的意見不能代表全體，這就使得朱的處境愈發艱難。
在和會開始時，西方外交團也對北京政府發出質問為什麼世界戰爭已經停止，中國還要招募參戰軍？是不是用以對內作戰？
二十二日北京政府答複外交團說中國已經進行和議，不會再有內戰。
徐世昌借了外交團有壓力，勸段祺瑞將參戰軍移交陸軍部管轄。因為陸軍總長靳雲鵬也是段係的大將，段沒表示反對，但卻遭到段的另一位大將，和靳雲鵬水火不容的徐樹錚的堅決反對。
這時候，徐世昌曾擬就一套裁兵計劃。全國軍隊有一百三十八萬人，軍費占去國家財政收入的五分之四，這種負擔，是任何一個政府都無法承受。
徐的計劃是在和平實現後，統一的中國即向國際銀行團借款裁兵，把全國軍隊縮減為五十萬人。裁兵完成後，進一步實行軍民分治，軍人不得兼任省長。這個計劃既可減少軍費支出，又可以削弱地方，加強中央政府的控製力。
徐樹錚畢竟足智多謀，他針對徐世昌的計劃，向段獻策，提出“保存參戰軍用以監督裁兵”。這樣既可以拒絕南方取消參戰軍的要求，又免外交團的責難。
南方代表要求停止繼續參戰借款，段自然也不肯答應，徐世昌無力反對。因此，北京政府以財政困難，軍費無著為理由拒絕了南方的要求。
關於陝西的情況，由於南方代表和陝西靖國軍方而沒有直接的聯絡，陝西靖國軍和南方代表通消息隻能靠郵局寄遞。
唐紹儀在二月下旬所接到靖國軍的報告還是這個月上旬寄郵的。
根據這些報告，北軍管金聚部由鳳縣攻占寶雞，繼續向鳳翔進攻。奉軍由潼關、吊橋移向興平、武功。劉鎮華的鎮嵩軍則進攻盩厔。張錫元部則進攻渭南。
這說明徐世昌雖然下過停戰命令，陳樹藩部陽奉陰違，並未執行。而段祺瑞則繼續透過參陸辦公處調兵遣將。
二月二十五日唐紹儀因為陝西戰爭並未停止，所以向北方代表團提出嚴厲的質詢，要求撤換反停戰協議、破壞和平的陝西督軍陳樹藩。
二十六日唐紹儀又接到靖國軍一月中旬的報告靖國軍在北軍強大的攻勢下，先後退出乾縣、盩厔、郿縣、扶風。同時北軍還向鳳翔、岐山、蒲城、富平進攻。
南方代表團大為震動，乃宣布北方不履行停戰諾言，從二十六日起停開正式會議，改開談話會。同時鄭重向北方聲明，在北京政府未撤換陳樹藩以前，不討論其它案件。