康熙二十七年（1688年）五月二十日，清政府在商討與沙俄談判方針時，索額圖提出：“察鄂羅斯所據(jù)尼布楚，本系我茂明安部游牧之所，雅克薩系我達(dá)呼兒總管倍勒兒故墟，原非羅剎所有，亦非兩界隙地也。”“尼布楚、雅克薩、黑龍江上下，及通此江一河一溪皆屬我地，不可棄之于鄂羅斯”。他認(rèn)為：如果沙俄能歸還逃人，承認(rèn)尼布楚、雅克薩、黑龍江是清朝領(lǐng)土，即“與之畫疆分界，貿(mào)易往來。否則，臣當(dāng)即還，不與彼議和矣”。康熙帝同意這一談判方針，遂命索額圖、佟國綱出發(fā)，前往色冷格，與沙俄使臣戈洛文談判。六月，索額圖等使臣行至喀爾喀地方，正值準(zhǔn)噶爾領(lǐng)袖噶爾丹大舉侵犯喀爾喀蒙古，道路被阻，便退回了北京。

康熙二十八年（1689年）四月，經(jīng)中俄兩國代表重新商定，談判地點改在尼布楚。索額圖等人在出發(fā)前向康熙帝奏陳：“尼布潮（楚）、雅克薩既系我屬所居地，臣等請如前議，以尼布潮為界，此內(nèi)諸地均歸我朝。”康熙帝指示：“今以尼布潮為界，則鄂羅斯遣使貿(mào)易無棲托之所，勢難相通。爾等初議時，仍當(dāng)以尼布潮為界。彼使者若懇求尼布潮，可即以額爾古納為界。”康熙帝考慮到噶爾丹正在進(jìn)攻喀爾喀，希望盡早與沙俄劃定國界，騰出手來對付噶爾丹，為此作出了重大讓步。索額圖率領(lǐng)包括傳教士徐日升、張誠在內(nèi)的清朝使團(tuán)啟程前往尼布楚，經(jīng)過兩個多月的艱苦跋涉，六月抵達(dá)尼布楚，駐扎在尼布楚河南岸，與尼布楚城相距三里。

七月初五日，中俄兩國代表在尼布楚郊外開始談判，關(guān)于尼布楚地區(qū)的歸屬問題成為談判的焦點。清方代表一開始即指出“貝加爾海這邊的全部土地，則完全屬于中國汗所有，因為貝加爾海這邊的土地全是蒙古汗的領(lǐng)地”，“而所有的蒙古人自古以來就是中國汗的臣民”。戈洛文則強(qiáng)調(diào)不久前俄國人才知悉并予以侵占的這個地區(qū)“自古以來即為沙皇陛下所領(lǐng)有”。索額圖予以駁斥，要求俄國人退到色楞格河以西去。但俄方堅持其要求。