法国政府对于占领越南三分之一的国土，似乎已经满意，但法国商人却垂涎被称为“北圻”地区的越南北部，商人久辟酉在北圻首府，交趾古都东京（河内），发现一条可以通往中国云南省的交通新道，就是红河。他利用这条河道贩卖军火到云南省，卖给正在作战的伊斯兰教变民和清政府的军队。但军火在越南却是违禁物品，越南官员无法阻止他，就要求驻在西贡的法国总督召回这位商人。一八七三年，法国总督派遣海军官员葛尔里前往调查，葛尔里率领两艘军舰到达东京（河内）后，竟被久辟酉说服，建议总督派兵并吞越南北部——北圻。越南官员对葛尔里痛恨入骨，就跟山区的黑旗军秘密联络，葛尔里遂在黑旗军一次狙击战中，中伏被杀。

    黑旗军的领袖刘永福，是中国广东省人，在五十年代中国遍地民变时，刘永福是其中的一支，但他不像太平军那些领袖有政治理想。太平天国失败后，清政府逐渐恢复秩序，刘永福在中国无法立足，就率领他的部众逃到越南，在中越边境北圻西北部山区一带屯垦，当然也免不了种种不法的勾当，自成一个独立王国。越南一向把中国人当作天朝人，所以对刘永福的侵入，既无力驱逐，也不想驱逐。刘永福这批约二千余人的绿林豪杰，使用黑颜色的旗帜，越南人因之称他们为黑旗军。当刘永福把葛尔里等五颗法国人头呈献给越南国王阮洪任（二任王阮福皎的孙儿）时，阮洪任大为高兴，认为法国已经丧胆，就任命刘永福当三宣兵团副司令（三宣副提督）。

    葛尔里之死，引起法国更大的压力。明年（一八九四），越南政府再次屈服，跟法国签订第二次《西贡条约》。

    一法国承认越南是独立国。

    二越南外交由法国代理。

    三开放红河自由航行。

    法国驻中国公使把条约副本，通知清政府，清政府正式覆函声明：“条约中有承认越南是独立国条款，中国大惑不解，越南自古就是中国的属邦，所以对此条约，中国不能承认。”越南对这种连外交权都丧失了的屈辱条约，也根本不准备履行。可是中越两国别无他法，只把希望寄托在黑旗军上，希望黑旗军能对红河通航发生阻挠作用。越南政府告诉法国说，因为来历不明的黑旗军盘据保胜城（中越边界上红河东岸的重镇老街城）的缘故，红河无法通航。一面不理会法国代理外交，继续向中国派遣朝贡使节，法国用武力阻止贡使出发，贡使却提前一天动身，使法国军队扑了一个空。

    法国当然不肯罢休，一八八二年，海军司令李威利由西贡率舰队北上，在北圻登陆，攻陷东京（河内），要求越南履行第二次《西贡条约》。越南向宗主国中国乞援，中国向法国交涉，两国代表在天津签订《天津草约》，在草约上，法国同意红河以北是中国保护区，中国承认红河以南是法国保护区。但这个草约呈报给两国政府时，立即受到反对，北京认为这样做等于瓜分越南，而且坚信黑旗军是法军的克星；巴黎认为法国必须全部占领越南，不能让中国分一杯羹。

    次年（一八八三），中法两国同时宣布草约无效。法国大军即进攻越南首都顺化，越南国防军瓦解，国王阮福升（阮洪任的儿子）投降，跟法国签订《顺化条约》，承认越南是法国的保护国，内政外交，全归法国管理。越南政府高阶层拒绝承认，把阮福升罢黜，另立他的儿子阮福吴当国王，一面派急使到中国求救。清政府的反应十分迅速，立即派遣援越远征军进入越南，在东京（河内）附近的北宁府、山西府、兴化府一带布防。可是等到法军发动攻势，援越远征军和被估计过高的黑旗军，全部溃败。清政府只好再跟法国谈判。

    第二年（一八八四），中国代表李鸿章，法国代表福禄诺，在天津签订《李福协定》（或称《天津简明条款》）。

    一中国军队从越