在纳吉布拉的努力下，阿富汗的局势似乎略有起色。苏联国防部长索科洛夫元帅到阿富汗视察时，可以乘“伏尔加”轿车旅行，而在过去必须乘装甲车和坦克，或乘直升机，需要重兵警卫。手段有所见效，西方舆论甚至称阿富汗“越来越苏联化了”。戈尔巴乔夫对此感到欣慰，同时也有了试探性撤军的信心。1986年7月28日，戈尔巴乔夫在符拉迪沃斯托克发表了一次令世人瞩目的电视讲话。戈尔巴乔夫提出，在1986年年底之前，苏联将从阿富汗撤出6个团的兵力。他还说，苏联和阿富汗已经达成了一项分阶段撤出全部苏联军队的计划协议，但是要到达成政治解决办法的时候才会付诸实施。不过，戈尔巴乔夫也警告说：苏军的这次撤出并不是苏联要退出这场已经进行了六年半的战争，除非“外来的干涉”停止。
戈尔巴乔夫的这次讲话选在了一个恰当的时间点上，这次讲话距阿富汗与巴基斯坦第八轮日内瓦间接会谈不到两天。途径莫斯科将前往日内瓦的阿富汗外交部长穆罕默德·多斯特“刚好”到达莫斯科。苏联外长谢瓦尔德纳泽紧急会见了多斯特，双方就刚刚公布的戈尔巴乔夫的讲话展开了会谈，并由莫斯科发表了对外公告。公告说：“这次会谈是在亲切的气氛中进行的，两位部长共同围绕阿富汗局势的发展和使局势尽快正常化的办法等有关问题交换了意见。双方还讨论了苏阿关系的某些方面以及同维护普遍和平、从人类生活中彻底消除热核浩劫威胁有关的一般性政治问题。多斯特对苏共中央总书记戈尔巴乔夫在符拉迪沃斯托克讲话中宣布的苏联领导人关于把一部分苏联军人撤回苏联的决定给予了高度评价。阿富汗民主共和国外交部长强调指出了这一步骤对政治解决围绕阿富汗问题出现的新问题的重要性。谢瓦尔德纳泽也指出，同阿富汗民主共和国政府协商后采取的这一步骤完全符合解决目前局势的方针，并重申，苏联将坚定不移地支持阿富汗民主共和国政府在保卫自己主权方面做出的努力。”
7月29日，纳吉布拉也在喀布尔发表声明：苏联撤出六个团只是苏联从阿富汗撤军的第一步，“是否采取第二步和第三步将取决于美国、伊朗、巴基斯坦和所有干涉阿富汗事务的人”。
可惜，戈尔巴乔夫的和平炸弹并没有影响日内瓦的会谈。阿富汗和巴基斯坦双方继续在苏联撤军的期限上争执不休，最后会谈只能匆匆结束。不过，世界舆论对谈判的关注似乎并没有对苏联撤出六个团一事那么热烈。人们纷纷在猜测，苏联究竟要撤出哪些团，一共有多少人？苏联是真的撤出吗？苏联却不再多言。
苏联现在认真准备的，是与美国的最高级别谈判。这年10月，戈尔巴乔夫和美国总统里根在冰岛首都雷克雅未克就核裁军问题展开会谈。戈尔巴乔夫先发制人，做出了很大让步。苏联愿意在战略武器和中程导弹领域做出牺牲，条件是要求美国对太空武器做出限制，10年内将战略防御计划限制在实验室研究的范围内。这一建议让美国人极为吃惊，里根也大为动心；但他最终不愿使自己的“星球大战”计划受到影响，没有答应。
戈尔巴乔夫非常失望，双方告别的时候，戈尔巴乔夫说：“总统先生，你错过了这个惟一能载入史册的机会。否则，史册中将多出这样一段话：这位被载入史册的伟大总统为核裁军铺平了道路。”
里根想了想，回答：“这对我们两个都适用。”
去机场的路上，里根长时间保持着沉默，过了好久才说：“太遗憾了，我差一点就和戈尔巴乔夫达成协议了。”他向自己的办公厅主任唐纳德·里甘伸出大拇指，与食指相距半英寸说：“就差这么一点儿。”
回国后，戈尔巴乔夫发表电视讲话，谴责里根是妄想“空着两手往篮子里装果子”。里根当即回击，驱逐了55名苏联外交官，苏联也接着撤走了美驻苏大使馆里的100多名服务人员。两国关系陷入了暂时的僵局。
那么撤军呢？苏联还从不从阿富汗撤走六个团呢？
正如戈尔巴乔夫的口头语所说的，言出必行。
从1986年10月15日起，六个团的苏军开始撤出阿富汗。整个撤军过程颇为顺利，没有遭到阿富汗游击队的大规模袭击；到10月31日，撤军结束。11月5日，苏联国防部正式宣布，驻阿富汗苏军1个坦克团、2个摩托化步兵团和3个高射炮团携带着他们编制内的技术装备和武器回到了苏联；已撤出的部队总人数达8000人，并有1700多件各种军事技术装备。这些团已回到了他们在土耳其斯坦和中亚军区的指定地点。
这场撤军令全世界失望。撤出这6个团对驻阿富汗苏军来说，几乎毫不影响战斗力——高炮团在阿富汗根本就用不上，因为阿富汗游击队没有飞机，而坦克团和摩托化步兵团是苏军本来就该正常轮换的队伍。美国称，苏联在阿富汗撤出6个团前，刚刚补充了2个摩托化步兵团。巴基斯坦总统齐亚·哈克也宣称，苏联撤出6个团后，实际上又至少增派了1.5万人。
于是，阿富汗各派游击队发起了全面反攻。“潘杰希尔雄狮”马苏德经过多方努力，终于将萨曼甘、巴尔赫、塔哈尔、昆都土、西巴达赫尚、巴格兰和卡皮萨七个省的游击队联合在一起，成立了一个最高指挥部，总部设在巴格兰，马苏德担任总司令。这是阿富汗战争开始以来阿富汗游击队第一次成立具有实际效用的联合军事指挥机构。马苏德组织游击队联军在昆都士、塔哈尔、巴格兰三省交界处重创苏军。随后，游击队乘胜前进，对阿富汗北部重要的交通路线萨兰公路一带实施了重点封锁。11月26日，一支大规模的苏军护送队冒险进入封锁区，马苏德指挥游击队一路进行层层阻击，先后击毁了苏军8辆坦克和30辆装甲车。
在西部的赫拉特，当地游击队几经血战，第三次占领了该市。坎大哈的游击队也发起反攻，再次攻入市区，苏军和阿富汗政府军仅仅剩下市内一个险要的兵营和与之相连的机场，其他所有对外交通全部被阿富汗游击队控制。喀布尔的城市游击战又进入新一轮高潮，袭击者不停用火箭弹袭击政府大楼。阿富汗国家情报服务局大楼中弹，当场死伤近40人。苏联驻阿富汗大使馆、阿富汗总统府、喀布尔国际机场都遭到重创，先后有31架苏联飞机被击毁。
东南部的帕克蒂亚一带战事同样激烈，几支游击队联合起来，一度占领了纳吉布拉的故乡卡拉姆地区，将纳吉布拉的故居烧毁。
这一阶段，苏军坚持使用侦察兵和特种部队，与阿富汗游击队进行各种激烈的小规模作战。战斗的一个焦点，是消灭由境外为阿富汗游击队偷运军火入境的商队。这些商队在运送军火时有一套非常完善的制度，首先他们将军火储备在伊朗和巴基斯坦境内，然后将军火转运到阿富汗境内的中转站，最后再化整为零送到游击队手中。苏军侦察兵在阿富汗境内共发现23个中转站，其中11个拥有较强的防御措施。苏军不止一次地对中转站实施空袭和地面强攻，但收效甚微。阿富汗游击队一般把中转站设在苏军难以到达的边境深山里，当苏军组织进攻时，游击队早将大部分物资转移走了。
商队组织有着丰富的行业经验和作战经验，并且十分小心谨慎。每次出发前，他们都派人化装成牧人或流动商贩进行侦察，以确定道路安全。同时他们会在距离苏军岗哨、巡逻线和航空兵飞行路线不远处做下标记，提醒商队远离这些区域。当地居民也会将地雷区和苏军埋伏区标识出来。在确定非常安全的情况下，商队才出发。出发前他们还会租借一些牧民运送正常货物打前阵，真正的军火商队则与他们保持相对安全的距离。这些商队大多在晚上行动，白天一般都躲藏在灌木丛或山洞中休息。
一般的军火商队规模不大，有时会按照买货方订货的数量确定商队的规模。运输工具主要由骆驼、马和少量汽车组成。军火商队的货物并非完全由国外组织免费提供，大部分商队都是为了赚钱。他们大多以易物方式交易，一般只收取贵重的宝石和毒品——阿富汗大麻很受国际毒品市场欢迎。有时军火商会将军火藏在普通货物中，在通过阿富汗政府设立的检查站时，利用贿赂的方式轻松逃过边检。1984年，苏军少将卢琴斯基曾对当时的情况说过这样一段话：“其实，我们几乎没有与军火商队交战过。我们也没有获得过关于他们的重要情报，毕竟喀布尔政府有24个边防师团驻扎在阿富汗与巴基斯坦边境上……例如，第25边防师和第59边防团就驻扎在商队必经之路上，而商队却能轻松地从距他们10至30公里的地方进出阿富汗。”
苏军与商队作战的最大困难是如何发现他们。从巴基斯坦进入阿富汗的大小道路有100多条，即使掌握商队的行动路线，也根本不能拦截他们。他们非常善于机动和临时更改路线，同时对苏军的反侦察能力也很强。苏军在一些主要关卡和大路上安排了大量兵力，在广阔的戈壁和山区则很少布岗。苏军最有效的打击方式就是布设埋伏。1982年7月，苏军近卫第103空降师决定组织一次伏击战，地点选在赫尔曼德省和坎大哈省交界处的马尔扎村附近。第357空降侦察营副营长格拉德舍夫少校参加了这次行动，他后来写道：“为了打好这一仗，我们整整准备了10天，首长成立一个20人的侦察分队，包括2个军官、1个准尉、5个军士和12个战士，战士中包括2个通信兵、2个工兵、1个卫生员和1个翻译。为更好地完成任务，侦察分队还专门安排一位阿富汗国家安全局的军官。分队的武器装备包括：6挺机枪、l4支AKS-74自动步枪、1支AKMS微声自动步枪，每人携带2份基数弹药和4颗手雷、4支RPG-18火箭筒、5颗不同类型的地雷、7部无线电台、7部望远镜、l部夜视仪。每人都着防弹衣、迷彩服和运动战靴。”由于情报准确，他们只埋伏了一个晚上，就消灭了一支28人的军火商队。在MON-50型地雷、手榴弹、自动机枪和步枪的夹击下，进入埋伏圈的敌人来不及还击就毙命了。战斗结束后，苏军侦察分队无一人伤亡，共缴获32件武器和大量弹药。
到9月底，苏军共为军火商队设下18次埋伏，14次阻击成功，共消灭200多名游击队员，俘虏20人，缴获2000多件武器和许多袋钱币，其中包括伊朗里亚尔、印度卢比和阿富汗尼。苏军只有3人受伤。苏军指挥员在进行总结时强调，伏击战成功的决定因素是情报准确和组织周密，从人员到装备，从计划到实施每个细节都要考虑得十分周全。不过，据一些空降兵回忆，当时他们在喀布尔和苏卢比附近设伏时，效果并不明显，90％以上都无功而返。主要原因在于苏军的这种埋伏战术已经被阿富汗游击队熟悉，不论他们隐藏得多巧妙，都会被发现。同时，上级有严格的命令，要求设伏分队人员必须在25人以上，并且要由重型装备护送到埋伏地点，于是就增加了伪装的难度。
由于苏军设伏时主要选择在大路旁边，所以当商队改走小路后，他们就没办法了。阿富汗地形复杂、面积广阔，几乎到处都没有路，但又到处可以开辟出路来；苏军只能按计划每月在一些商队可能出现的地点设伏，结果只能是碰运气。苏军伏兵乘装甲车出发后，就被当地人跟上了，他们的埋伏圈往往就成了自欺欺人的游戏。另一个问题在于苏军指挥员的“过分关心”，他们要求侦察分队必须每个小时都要向自己汇报情况，包括行进路线、准备情况、周边局势等内容，而这种无线电通话也同样能被阿富汗游击队截获，从而暴露自己的行动计划。1983年夏，苏军共设下2800次埋伏，只有262次拦到军火商；第二年的同一时间，2084次埋伏中只有181次成功。为有效打击军火商队，苏军第40集团军司令部认为，必须将边境地区的兵力增至20万人。
1985年初，苏军第40集团军司令部制定代号“帷幕”的作战计划，成立代号“屏幕”的作战指挥组，目的是通过采用一系列组合性打击拦截军火商队，切断军火流入阿富汗的通道。打击行动主要在以坎大哈为核心的南部省份展开，因为这里集中了阿富汗政府和苏军主力部队。用格罗莫夫将军的话说，“喀布尔革命政权”没有理由倒下去，就算靠第40集团军搀扶着，它也要硬撑下去。
于是，阿富汗东南部与巴基斯坦接壤地区成为苏军主要布控区，一张长1000公里，宽100公里至300公里的大网就此拉开。“帷幕”行动的主力是11个苏军摩步旅、侦察营和格鲁乌特种兵分队，总兵力将近6000人。起初，由于搭载侦察兵和特种兵的直升机仅限于空投，要么躲在战场旁边，要么干脆返回基地，士兵们只敢捕捉入境商队的行踪，尽量避免与商队发生正面冲突。因为商队有阿富汗游击队押送，而苏军侦察分队远离己方大部队，胜算不大。侦察兵必须紧紧地跟住商队，分析其行进路线，对沿途主要道路和村庄进行逐一梳理，并及时地把情报传递给指挥部。1985年9月25日，苏军独立第280直升机团的米-8直升机将第173特种兵分队的侦察小队空投到指定地点后就返回了，留下特种兵同敌血战。当大批敌人迅速集结到这一地区时，苏军特种兵只好徒步逃离敌人的追击，并将缴获的战利品送到最近的哨所。
情况在l985年底发生改变。随着直升机的大量使用，苏军在阿富汗上空编织起一张巨大的监控网，每天都有好几组米-8直升机执行空中巡逻。有时在夜间也会出来，通过车灯的光亮很容易发现阿富汗人的商队，然后就向车队前方投放照明弹。从远处看，这些照明弹如同礼花一般。但是对于那些睁大眼睛盯着前方的阿富汗游击队司机来说，头顶上的照明弹却成为让其短暂失明的致盲弹。然后乱作一团的车队就成为苏军特种兵和直升机绝佳的攻击目标。与此同时，苏联第40集团军也开始为每个特种兵旅和侦察营配备一个独立直升机大队，这样苏军小分队就能更积极地奇袭军火商队。比如独立第15特种兵旅配备了独立第239直升机大队，独立第22特种兵旅配备了独立第205直升机大队，两个大队装备了最新型的米-8和米-24直升机。当然，拥有直升机指挥权的苏军特种兵和侦察兵也并非马上如虎添翼，还需要一段时间磨合。1986年3月28日至29日，贾拉拉巴德的一支苏军特种兵小队陷入阿富汗游击队包围圈。当指挥员请求空中支援时，直升机就部署在20公里以外的基地。由于沟通错误，直升机编队在3个小时后才到达战场。在这次战斗中，共有8名苏军特种兵阵亡、2人失踪、20多人受伤，独立第15特种兵旅旅长还为此丢了官。
“帷幕”作战指挥组对侦察兵／特种兵和直升机进行了详细分工。一般情况下，搭载侦察兵／特种兵的直升机编队由2架米-8运输直升机和2架米-24武装直升机组成，前者负责运送人员，后者负责保护。当直升机发现军火商队后，先通过警告性射击迫使其停止前进。为了不惊扰当地百姓，直升机的拦截点一般选在离村庄约3000米处。商队停下后，直升机在附近盘旋，距离不得小于800—1000米，以免被敌方便携式防空导弹击落；随后，从直升机空降下来的苏联侦察兵立即占领有利地形，从远处控制住商队，掩护战友靠近商队，同时直升机在空中也时刻保持作战状态。如果商队试图逃跑或反抗的话，苏军立即从空中和地面发起攻击；如果商队不做反抗的话，苏军侦察兵靠近后则利用探针或微型探测器对驮包和货物进行检查，一旦发现有违禁品，立即装入直升机带走，或连同运输车辆一起就地销毁。
在与军火商队的周旋过程中，苏联官兵们绞尽脑汁，想出了各种欺骗与反欺骗的办法。他们曾在天黑后乘装甲车前往一个假的埋伏地点，有时还会有步兵战车护送。为达到欺骗目的，他们还故意在途中兜几个圈子。到达假的伏击点后，苏军侦察兵和特种兵们会像真的一样挖掘隐蔽所，布置观察哨和警戒哨，为重武器做伪装；这一切都是给对手的侦察员看的。天亮之前，苏军特种兵会迅速转移到真正的伏击地点。直升机编队参与特种兵行动后，这种地面欺骗战术也被运用到空投中。天黑后，苏军直升机会运送特种兵飞抵指定地域，期间会按照计划多次改变飞行路线，到达欺骗地点时还会悬停在空中假装空降特种兵。为了不被游击队发现，编队一般保持较低的高度，并沿着山坡飞行，经常会遇到突起的巨石，这对飞行员的驾驶技术也是一种考验。1987年夏，苏军独立第239直升机大队的一架米-8直升机就剐到了悬崖，轮子被剐掉，机舱地板被剐破，特种兵们也险些被甩出机舱，从剐破油箱里洒出的煤油将特种兵们全身都淋透了。
1986年4月的一个夜晚，苏军特种兵经过3昼夜守候，终于迎来一支军火商队，其中包括6辆丰田吉普车。埋伏已久的米-24编队立即升空，朝商队一通猛扫，接着又通过燃烧弹让商队宛如置身白昼中，最终他们扔下车辆逃跑。1987年6月，加兹尼地区的苏军特种兵在独立第239直升机大队的帮助下，成功拦截一支庞大商队，缴获约100头骆驼运送的货物。3周后，他们又在同一条路线上摧毁一支大规模商队。大多数时候，苏军特种兵只能取得不大的战果，因为他们很少遇到规模很大的商队。为提高打击效率，苏军开始大量利用米-8直升机。一般情况下，苏军由2架米-8组成的编队沿着商队可能出现的路线进行巡逻和搜索。
阿富汗游击队不是傻子，他们也会将计就计。1986年10月的一次战斗中，由克拉夫琴科上尉率领的一支苏军特种兵小队夜袭坎大哈附近的瓦萨吉奇格奈地区。由于判断错误，飞行员将特种兵直接空投在军火商队的防空哨上。2架直升机迅速被击落，12名苏军特种兵在直升机坠落前冒险着陆，靠着顽强的战斗精神夺取了阿富汗游击队的防空哨，坚持到援兵到来。同年10月9日，苏军独立第205直升机大队的米-8直升机发现一队可疑卡车沿着靠近游击队据点的公路前行。直升机让卡车停下，携带着侦察兵试图降落在卡车旁边，卡车后面的帆布突然被揭开，露出一门门双管23毫米火炮。正在悬停的直升机毫无还手之力，十几秒内即被击毁坠落，搭载的苏军2个侦察班士兵也无一幸免。此后在检查期间，苏军对商队的反抗行为采取了极为残忍的惩罚措施。
自从直升机大队加入特种兵部队后，“帷幕”行动的作战效率大大提高。从1987年上半年的数据中可见一斑。1月1日至6月15日，苏军共组织840次直升机飞行，其中168次成功拦截军火商队或消灭小股敌人，击毁80辆汽车，击毙1416名游击队员，缴获69件防空武器、4500支火箭筒、9000公斤毒品和280万发子弹，占苏军第40集团军战利品的三分之一。不过，第40集团军侦察处却对直升机与侦察兵／特种兵的组合并不满意，他们认为在有直升机参与的行动中，仅有五分之一取得胜利，失误的主要原因是情报不准确、判断错误和鲁莽出击。1987年12月8日，2架米-8在巡逻过程中发现地面有一辆阿富汗游击队的摩托车，武断地进行攻击。结果在追击过程中进入游击队控制区，一架直升机在低空被防空导弹击落，机组人员在被另一架直升机救起后没飞多远也被击中。所幸及时赶到的米-24进行支援，才使得特种兵和机组人员逃离死亡地带。
阿富汗的战火片刻不息，坚定了戈尔巴乔夫撤军的想法。1986年11月13日，他在苏共中央政治局会议上说：“我们在阿富汗已经打了6年了，如不改变态度，我们还得打20到30年。这给我们影响事态发展的能力罩上了阴影。”戈尔巴乔夫继续说：“一般来说，我们没有解决这一问题的办法。我们为什么一方面承认我们的部队没能力控制局势，而另一方面又要无休止地打下去呢？在近期我们要结束这一过程。”
不过，戈尔巴乔夫要做出全面撤军的决策，在苏联政府高层是有阻力的。1984年乌斯季诺夫元帅病逝后，索科洛夫元帅接任苏联国防部长。阿富汗战争是索科洛夫元帅最后的辉煌，也是他军事生涯的顶峰。他是苏联军队和苏联政府中在阿富汗问题上最强硬的主战派，理所当然地成为驻阿富汗苏军队的代言人，更是戈尔巴乔夫决定从阿富汗全面撤军的主要障碍。
但扫除障碍的机会很快来了。
1987年5月28日，星期四下午7点半，一位19岁的联邦德国青年马蒂亚斯·鲁斯特，驾驶“塞斯纳”轻型单引擎运动飞机，穿过当时被认为是无懈可击的苏联防空系统的重重警戒，降落在莫斯科红场上。当他十分兴奋地向围观的人们散发着名片，并声称自己是从赫尔辛基飞来的时候，苏联乃至全世界都为之瞠目结舌。随后，苏联警方迅速封锁了现场，将激动万分的小伙子带走，最终莫斯科法院判鲁斯特因“非法入境罪及扰乱航空秩序罪”入狱4年。苏军为此大丢脸面，戈尔巴乔夫从华沙中断华约联席协调会议，立即赶回国内召开高层会议。
5月30日，在克里姆林宫召开的紧急会议上，戈尔巴乔夫严厉地指出：“国土防空军总司令部在这次事件中，表现出不可容忍的漫不经心的态度和犹豫不决，没有采取战斗手段来制止入侵飞机的飞行。因此，我要求解除防空军总司令科尔杜诺夫同志的职务。很显然，科尔杜诺夫的错误是无法原谅的，他使世界上最强大的防空部队蒙受了巨大的耻辱。”军方不断有人为科尔杜诺夫说情，并要求彻底调查整个事件后再做结论，索科洛夫元帅最后还对戈尔巴乔夫提出了批评，指责他没有服过兵役，没有资格对军队的事情评头论足。戈尔巴乔夫更为恼火，他再次发言：“我认为，国防部对部队领导严重失职，对出现的重大疏忽缺乏应有的警惕和纪律，而导致国家和军队的尊严受到极大的损害。国防部长索科洛夫对此负有不可推卸的责任，我要求同样也解除索科洛夫同志的职务。”与会者都大吃一惊，因为索科洛夫是屈指可数的元帅之一。
第二天，《真理报》公布了苏共中央政治局会议决定，国土防空军总司令科尔社诺夫被宣布撤职，国防部长索科洛夫元帅则因“退休”被解除职务，新任国防部长由亚佐夫大将担任。
据说，事实的真相是这样：鲁斯特为躲开苏联的雷达，他尽可能降低飞行高度，进行超低空飞行。他最终以80米的高度、225公里的最快时速，顺利地从苏联爱沙尼亚加盟共和国的海边城市科赫特拉—亚尔维进入苏联领空。28日当地时间14时29分，爱沙尼亚的科赫特拉亚尔韦市，塔林防空系统的雷达捕捉到一个不起眼的飞行目标。苏军三个导弹师随即处于一级战备状态，只待一声令下，就可以随时消灭目标，命令却迟迟未下达。“鲁斯特事件”发生的四年前，苏联萨哈林群岛上空，在情况尚未明了的情况下，一架韩国民航波音747客机被苏军击落，造成机上269名乘客死亡；世界各地对此反应强烈，许多国家连续数周禁止苏联飞机进入本国领空。惨剧发生后，苏联军方下达了秘密命令：在无法判明飞机有军事目的的情况下，禁止向一切民航飞机和体育运动飞机开火。鲁斯特似乎对苏联军方的心理了如指掌，他大大方方地飞着。
为了确认这个不明飞行物，苏军2架米格-23截击机从“塔巴”军用机场升空进行拦截。但不久后，“塞斯纳”做了向下俯冲的动作。这样，它不仅从截击机飞行员的视野里消失了，也从地面雷达的屏幕上消失了。5分钟后，该地区的雷达屏幕再次捕捉到一个飞行目标，与先前的“塞斯纳”相比，其飞行路线和高度均有不同。但地面塔台人员简单地将它误认为就是原先那架“流氓飞机”。新目标发出“我是自己人”的应答。警报解除，2架截击机返航。“塞斯纳”继续向东南方飞行，在将近15点的时间抵达普斯科夫市上空。当时，普斯科夫市郊正在进行某航空团的教练飞行，空中有数十架飞机盘桓。因此，当鲁斯特驾驶的“塞斯纳”出现在雷达屏幕上时，没有引起任何人的注意。鲁斯特驾驶“塞斯纳”继续悠然地在苏联领空又继续飞行了200公里。在飞抵旧鲁萨城地区时，它又一次从雷达屏幕上消失了。于是，鲁斯特驾驶着他的“塞斯纳”继续前行，到达了托尔若克市。在这里，又一次巧合帮了他大忙：刚好在前一天，在托尔若克市郊40公里处发生了一场空难，一架米格-25与一架图-22 M战略轰炸机相撞。所以，这一天在该地区上空到处是执行搜寻任务的直升机。鲁斯特的“塞斯纳”不早不晚，恰好于这天飞临该区。由于“塞斯纳”的飞行速度和高度与苏方的直升机完全吻合，塔台人员理所当然地将它识别为众多救援直升机中的一架，没有引起任何怀疑。
对鲁斯特来说，这一天奇迹般地充满了幸运的巧合，当他飞近莫斯科时，某个大人物（具体是何人至今未解密）下了一道命令：暂时关闭防空网的自动控制系统，以进行一次计划外的停机检修。正是这20分钟的空隙，鲁斯特于下午7点半飞进了莫斯科。索科洛夫元帅在关键时刻没有趋炎附势，保护下属，力主先调查后处理，赢得了苏军职业军官阶层的高度尊重，但他为此付出了沉重的代价，被迫退休，精神创伤十分严重；至今那道大人物的神秘命令的来龙去脉仍旧未见天日。戈尔巴乔夫随即开始清洗军队中的强硬派将领，几十名高级将领遭到处理，几百名校官被赶出军队。驻阿富汗苏军也受到了波及，第40集团军开始频繁地换将。由此开始，从阿富汗撤军的决策在苏联国内再无反对的声音。
阿富汗局势并没有因为戈尔巴乔夫的撤军决策而平静下来。1987年伊始，纳吉布拉政府为了稳定局势，向阿富汗游击队提出：停火半年，通过谈判寻求民族和解与国内和平。游击队根本不买纳吉布拉的账。“阿富汗圣战者伊斯兰联盟”的七个抵抗组织领导人在白沙瓦郊外召开大会，一致拒绝纳吉布拉政府的停火建议，继续进行“圣战”。七个抵抗组织领导人发表了一项联合公报，宣称“阿富汗圣战者伊斯兰联盟”将任命一个委员会成立一个协调各游击队作战的临时政府，一旦苏联军队被赶走，这个临时政府将接管阿富汗政权并将安排可产生一个民主的伊斯兰共和国的大选；联盟还将成立一些“司法代表团”，以仲裁游击队各派之间的纷争，临时政府成立后，各党派将竭力相互协调，以保证有效的团结。
“苏联化”的阿富汗毕竟只是一个假象。整个1987年，阿富汗全境的战事依然在苏军与阿富汗游击队之间激烈进行，战斗甚至变得比以往更加激烈。苏军在一年中发动了18次大规模围剿；仅仅夏天的两个月，双方就发生正面交战将近900次，帕克蒂亚省成为战事的中心。到年底时，就连阿富汗新闻社发表的年度战绩统计报告都承认，苏军和阿富汗政府军在这一年的伤亡和损失比上一年增加了。
在1987年的阿富汗战场上，美国加大了对阿富汗游击队的支持，以每月100枚的速度继续向游击队提供“毒刺”导弹，另外还愿意提供“米兰”式轻型反坦克导弹、“陶”式反坦克导弹、西班牙造120毫米迫击炮和先进的反坦克武器。苏联为了对抗美国，又向阿富汗政府军输送了大批先进武器，其中包括30架米格-27战机、图-16轰炸机和大批射程在300公里以上的“飞毛腿”导弹。阿富汗像一个不断发生爆炸的火药桶，苏联和美国不断地将正在嘶嘶冒烟的炸弹丢进去，而阿富汗政府军和游击队则立即接过来再扔向对方，使得盘旋在阿富汗上空的硝烟依旧浓郁。
阿富汗游击队在阿富汗国内已经拥有了大量能够达到专业军事工程标准的营地、转运站、据点和基地区域。这些地方的防御工事和防空火力网水平甚佳，一般设在有利地形，外围以数道防御线控制，制高点还建设了掩体火力，来犯苏军只能铩羽而归。城市之外的地方基本都成了游击区，苏军再也无能为力。1987年的安全形势甚至恶化到了这种程度：当阿富汗游击队要筹款的时候，在人民民主党政府任职的人必须“捐款”。“捐款”数额大小根据“捐款人”的职务、是否在政府军任职、是否为人民民主党党员这样的因素来决定。决定之后，“捐款人”必须在期限之内按时按数额付款，否则一定会成为城市游击战的暗杀目标，绝无可能幸免。
阿富汗国内许多地方，苏军已经开始与当地村民和游击队签订“互不侵犯条约”。苏军不对某些阿富汗游击队采取任何行动，而游击队同样也不进行抵抗。当苏军空降兵进行反游击作战时，上面常常会有命令下达：不要去攻击某某村庄。有时苏军还会组织运输队，到那些“友好”村庄进行一些人道主义援助，送去面粉、煤油甚至枪支等；这事实上都是苏军在为撤军做准备。
1987年12月19日，苏联电视台第一次向苏联人民播放了苏军在帕克蒂亚省霍斯特战斗的实况，苏联人民第一次亲眼看到了自己的军队在阿富汗作战的情况。此外，苏联的新闻报道已经开始强调苏军在阿富汗所面临的艰难困苦。苏联政府这是在让国内公众做好思想准备，苏军即将撤出阿富汗。
与此同时，《星火》《真理报》等官方报刊开始刊登有关反对阿富汗战争的报道和信件。比如1987年夏天，《星火》杂志战地记者博罗维科发表了三篇系列文章，描绘了苏军中的阴暗状况和厌战情绪。1987年11月，《真理报》公布了读者来信，信中指责党的精英的孩子们逃避服兵役。
1988年初，法国一些新闻机构获准在莫斯科进行了一次民意测验。结果表明，53％的苏联人赞成“苏军全部撤出阿富汗”，只有21％的人反对撤军。在大多数苏联人看来，阿富汗战争已经完全是一场灾难，他们称阿富汗是“苏联的越南”。
进入1988年，全球瞩目的日内瓦谈判开始了。事实上早在1982年6月，苏联就默许了在联合国主持下举行的日内瓦间接会谈。喀布尔政权和巴基斯坦政府代表曾先后举行六轮日内瓦间接会谈，但未能在实质性问题上达成协议。但这一次，苏联，美国、阿富汗、巴基斯坦四方围绕着苏联撤军、阿富汗实现和平、阿富汗游击队与阿富汗人民民主党组成联合政府问题展开了艰苦的直接谈判。谈判并没有“阿富汗圣战者伊斯兰联盟”参加，美苏在对阿富汗援助武器问题上争执不休，阿富汗与巴基斯坦则在联合政府问题上同样互相不肯让步。
阻碍签约的最大问题是停止援助问题，双方都不肯在此问题上让步。阿富汗认为，在苏联撤军后，阿富汗有权接受苏联的军事援助。苏联也声称，苏联将在撤军后继续向阿富汗政府军提供援助。美国则认为，美国停止援助后，苏联仍然援助阿富汗政府军是不合理的，如果这样，美国也将继续援助阿富汗游击队。最后，双方达成妥协——为了平等，代替禁止提供武器的惟一方法是彻底放手继续提供武器。
最终经过反复的讨价还价和相互妥协，达成的共识是这样的——美苏互不干涉对方向阿富汗继续提供武器，而联合政府问题暂时搁置，并没有为解决未来阿富汗的政体问题做出妥善安排。这两项“共识”，为后来的阿富汗局势埋下了深深的隐患。
为了支持白沙瓦的游击队，美国紧急进行援助。美国与沙特阿拉伯决定通过巴基斯坦，在苏联撤军前各向阿富汗游击队提供3亿美元的武器和弹药。3月底，第一批“米兰”轻型反坦克导弹共140枚率先送到游击队手中。紧接着，“陶”式反坦克导弹、西班牙造120毫米迫击炮和一大批先进的反坦克炮也陆续送到了游击队战斗的前线。相比之下，苏联向阿富汗运送武器的规模更大。从1月开始，苏联向阿富汗运送燃料和弹药的车队就由原来的每周2次增加至每周4次。进入3月份，运输量进一步增大，苏阿交界处的海拉顿成了一个重要的吞吐港，卡车几百辆几百辆地抵达这里，安-26运输机更是四处飞翔。苏联运到阿富汗的武器装备包括坦克、火炮、多管火箭炮、装甲运兵车，甚至包括米格-23战斗机。仅4月11日，就有一个卸货车队经过5个小时才全部开出喀布尔。
其实，这只是苏联为撤军所做的准备的一部分。早在1988年元月初，苏共中央就向苏联在阿富汗的各政府机构下达了指示：将有价值的档案文件整理好，派专人押送回国。苏阿双方还就苏联专家回国、苏阿合资企业或设施的移交方案、苏联在阿富汗的军事医院处理意见等进行了商谈。2月起，一批批苏联顾问、专家及技术人员悄悄地撤离了喀布尔，或乘飞机或乘汽车相继回国。3月份，苏军开始逐步向阿富汗政府军移交外围阵地，其中包括巴格拉姆地区、萨兰公路周围的哨所和阿巴边境一些地区的苏军驻防阵地，甚至提早地退出了坎大哈，把坎大哈市区及坎大哈至喀布尔公路的哨所都交给了阿富汗政府军。3月中旬，苏军已确定有204项军事设施要在撤离前移交给阿富汗军队。到5月，苏军还向阿富汗运送和移交了价值十多亿美元的武器装备。
1988年4月14日下午，联合国秘书长佩雷斯·德奎利亚尔在日内瓦万国宫会议厅主持了《关于政治解决阿富汗问题最后协议》的签字仪式。协议共包括阿富汗巴基斯坦互不干涉、阿富汗难民自愿返回家园、美苏提供国际保证、对有关阿富汗局势的解决办法等4个文件和1项关于联合国提供监督的备忘录。巴基斯坦外交国务部长努拉尼和阿富汗外交部长瓦基勒签署了协议中的前两个文件，美国国务卿舒尔茨和苏联外交部长谢瓦尔德纳泽签署了第三个文件，第四个文件由四国代表共同签署。
阿富汗总统纳吉布拉称赞这项协议揭开了阿富汗历史的“新篇章”，它标志着对阿富汗发动的“不宣而战的战争”的结束，将为阿富汗难民返回家园和苏联“有限的部队”回国开辟出道路，阿富汗将把4月14日定为“和平日”。
然而，“七党联盟”主席希克马蒂亚尔在白沙瓦宣布：日内瓦谈判是一个失败，因为它没有让抵抗组织参加签字。任何协议，只要不经“圣战者”同意，都将无法实施。“圣战者”将继续战斗，直到打垮纳吉布拉。
纳吉布拉向阿富汗游击队伸出橄榄枝，希望能与“七党联盟”展开组建联合政府的谈判，但是七个抵抗组织的领导人对纳吉布拉的呼吁予以驳斥。“七党联盟”宣布，阿富汗临时政府已经组成，由阿赫默德·沙阿担任最高领导人。紧接着，“七党联盟”声称，活动基地将随着苏军的撤出而转入阿富汗内地。
1988年5月12日，希克马蒂亚尔举行记者招待会，他宣布：苏军撤退的日期就是游击队加强攻势的日期，游击队没有参与签署日内瓦协议，所以游击队不承担停火协议，也无法保证联合国撤军观察员的安全。
也就在同一天，驻阿富汗苏军装备副司令科罗列夫中将率领指挥组到达萨兰山口地区。为了确保撤退途中的安全，苏军派出精锐部队在回撤路线上设立据点，对各战略地点进行重点布防。苏军早在4月就开始筹建撤军的指挥机构。4月下旬，苏军建成了以南方战区为中心、由土耳其斯坦军区组织安排、第40集团军具体实施的三级撤军联合指挥中心机构，在喀布尔附近建立了撤军行动指挥中心和各兵种通信协调值班室。苏军在边境地区东西两个方向建立了库什卡和铁尔梅兹两个撤军行动指挥所，各回撤部队在所在防区建立了相应的临时指挥所。苏军在即将经过的两条撤军公路沿途也普遍设立起行军管理站、大型中转站、休息站、损坏车辆收集所和修理站。
5月14日，驻阿富汗苏军第40集团军司令员格罗莫夫中将在喀布尔召开记者招待会，宣布苏联军队将于5月15日开始撤出阿富汗，撤军将在9个月内完成，而且，全部军队的一半将在最近3个月内撤离。
1988年5月15日清晨，苏军驻贾拉拉巴德卫戍部队最先开始撤离，一个武装直升机团率先飞回苏联。紧随其后开始撤离的是苏军驻贾拉拉巴德、喀布尔和海拉顿的作战部队。苏军第15和66独立摩托化步兵旅及其他分队共计5000多人，分乘600余辆战车，离开驻地踏上了由贾拉拉巴德经喀布尔到铁尔梅兹的撤军路线。根据阿富汗政府的建议，在这些城市还举行了隆重的群众欢送大会。出席贾拉拉巴德群众大会的有1万人，出席喀布尔群众大会和街头欢送的阿富汗民众有10万人。
苏共中央向所有驻在阿富汗的苏联军人发出了呼吁书：
亲爱的同志们：你们将要返回祖国。我们欢迎你们，你们诚实而英勇地履行了自己的军人职责，用实际行动表现出崇高的国际主义情感。你们经历了严峻考验的日子。在这些考验中，对援助一个友好国家人民的崇高事业的深刻信念使你们变得坚强起来。你们执行了祖国的命令。经过战火的洗礼，你们学会了更强烈地热爱祖国、热爱家园、热爱朋友。你们懂得了什么是对敌人的仇恨。
应当特别热情地谈谈我们光荣的女医生、女护士和其他专业人员的坚强和仁慈，他们在艰苦的战争条件下表现了苏联人的优秀品质。人民将永远铭记你们在战斗中牺牲的战友的名字。这些损失是不可弥补的。我们的悲痛是巨大的。在战争中阵亡和遭难的那些人的家属将得到全体人民的帮助。战斗的兄弟情谊和同志般的亲密关系也会使你们永远同他们在一起。
在履行了崇高的义务以后，你们中间的一部分人就要恢复和平的职业，而另一部分人还要留在战斗行列中。我们相信，你们中的每一个人都将以同样的自我牺牲精神去完成新任务。今天，改革、更新社会主义的事业、捍卫社会主义成果都需要你们做出努力！党信任你们，寄希望于你们，号召你们站在对苏联社会进行革命改造的斗争前列。
光荣属于祖国的战士们！光荣属于祖国的儿女们！
苏联共产党中央委员会
5月16日，先期部队约1300人到达喀布尔，纳吉布拉在这里为他们举行了隆重的告别仪式。成千上万的人聚集喀布尔，市区内外到处悬挂着苏联和阿富汗的国旗以及用俄文和达里尔文书写的横幅。检阅台已被布置一新，台前整齐地排列着苏联的军车和官兵。以纳吉布拉为首的阿富汗共和国领导人、苏军和阿富汗军队的指挥官、贵宾以及以海尔米宁少将为首的联合国观察小组登上检阅台。世界许多国家的新闻记者也出席了仪式。
大会开始，苏军土耳其斯坦军区司令波波夫大将宣读了苏共中央致《驻阿富汗共和国的苏联国际主义战士的呼吁书》。紧接着，纳吉布拉向与会者发表了演说。他说，今天，苏军开始从阿富汗撤出，国际主义战士、成功地在阿富汗土地上完成了自己国际主义任务的伟大的苏联人民的英雄儿子们就要返回祖国了：
当阿富汗上空乌云密布时，当革命面临生死存亡的问题时，当阿富汗国家的主权、独立、领土完整受到威胁时，我们曾经需要帮助，需要巨大的、无私的援助，以便站稳脚跟和不向敌人屈服。在这样的灾难时刻谁能帮助我们呢？只有我们真正的朋友苏联。
今天，我们怀着感激的心情指出苏军给我们提供的国际主义援助的成果。你们，亲爱的兄弟们，拯救了儿童、妇女和老人免遭雇佣匪帮的屠杀。由于你们的大无畏精神、英雄主义的功绩，儿童们才能上学，农民才能耕耘土地，工人才能在工厂做工。你们还教会我们的战士克服困难和在战斗中战胜敌人。由于你们多方面的帮助，阿富汗建立了人民军队，这支军队装备有现代军事装备，能够独立地捍卫我国的独立与自由。你们不仅教会了阿富汗战士保卫祖国，而且教会了他们建设、创造和向人们提供最必要的帮助。
你们同我们的人民，同我们的战士亲密无间，你们用实际行动表明了什么是友谊，什么是战斗团结。你们是我们这块古老土地上发生的巨大变化的见证人。由于阿富汗、苏联、印度、联合国和我们星球所有爱好和平的力量的不懈努力，签署了日内瓦协议。根据这个协议，苏军将在9个月内完成撤出阿富汗的任务。今天，你们开始了这一历史性的行动。亲爱的朋友，今天，全体人民，老人和年轻人，男人和女人都在为你们送行。我们的儿童，我们的未来在为你们送行。农民和工人在为你们送行。每个阿富汗家庭里都回荡着感激的话语。谢谢你们，朋友们，为阿富汗人民，为四月革命所做的一切。你们英雄般地履行了自己的国际主义义务。阿富汗将成为自由的、独立的、主权的、中立的不结盟国家。你们的国际主义功绩是不朽的。
在这一时刻，我们向苏联母亲呼吁，你们英勇的儿子就要回家了。由于你们培养了真正的国际主义者而向你们致以深切的问候。我国人民永远不会忘记那些为了他们的幸福而献出自己生命的人的名字。我们将牢记他们的名字，他们的功勋。我请大家为他们静默一分钟。
纳吉布拉接着说，亲爱的朋友们，在同你们分别的时候，我再次号召本国同胞们忘记往昔的委屈，在全国和平的旗帜下团结起来。如果有谁不接受这一点，不尽一切努力去达到这一神圣的目的，那么历史永远不会饶恕他。我向阿富汗武装力量的军人发出呼吁，你们要加强战斗准备，提高警惕性，可靠地保卫民族和解的成果。你们不要忘记，阿富汗人民把你们看作是革命、自由和国家独立的保卫者。
纳吉布拉强调说，今天我们向全体苏联人民、苏联领导人和苏共中央总书记戈尔巴乔夫本人再次表示衷心的感谢，感谢他们提供了全面无私的援助。苏联军人就要离开了，但同苏联的友谊将依然存在。由伟大的列宁和阿马努拉开创的这一友谊将越来越巩固，越来越深入。这一友谊将心心相印，代代相传。
最后，纳吉布拉代表阿富汗全体领导人向苏军摩托化步兵授予阿富汗人民民主党中央的一面纪念旗。
驻阿富汗苏军第15特种作战旅旅长斯塔洛夫上校代表驻阿富汗苏军发表了讲话。他说，我们感到自豪的是，我们出色地完成了自己的国际主义义务。使我们感到高兴的是，友好的共和国政府给予我们全体官兵高度的评价，并授予部队阿富汗红星勋章。不仅是反对阿富汗人民的敌人的共同战斗，而且还有我们共同给予城乡居民的帮助，将永远留在我们的记忆里。我们将留心地注视着共和国的生活情况，将为你们在解决经济和社会发展及贯彻民族和解政策的任务方面取得的成就感到高兴。
纳吉布拉和其他阿富汗领导人走下检阅台，走向苏联军人队列，把写有“表示感激的阿富汗人民谨赠”字样，系着蓝色带子的金质奖章授予一批苏联军人。这时，远处传来一道命令：上车。在军乐声中，苏军队伍排成纵队，沿着通向萨兰山口的道路徐徐行进。
当天的撤军是在没有受到阿富汗游击队骚扰的情况下顺利进行的。5月16日凌晨，苏军第66独立摩托化步兵旅和第15特种作战旅及配备的作战装备和技术保障装备出现在了萨兰山口。苏军纵队行军的组织实施非常成功，没有发生道路交通状况和抛锚等情况。
需要特别强调的是，合成纵队行军通过萨兰山口是非常复杂的任务。由苏联专家设计建造的萨兰隧道长2600多米、宽6米、高5.25米，是亚洲最长、海拔最高的公路隧道之一，更是苏军进出阿富汗的战略咽喉。阿富汗战争期间，苏军重兵把守隧道，在隧道入口两端架设障碍物来对付马苏德游击队的袭击。由于隧道内没有通风设备，车辆在其中行驶产生的大量一氧化碳废气堆积，往往会造成严重后果。1980年2月，苏军第381防空导弹旅纵队行军通过萨兰隧道向喀布尔方向开进，由于行驶在前面的“圆环”防空导弹发射车发生故障停在了隧道内，跟随其后的装甲车辆停车后没有关闭发动机，结果发生有人因一氧化碳中毒而死的事故。
最严重的事故发生在1982年11月2日。满载军人的苏军车辆通过萨兰隧道时，一辆阿富汗油罐车逆行而来，撞上了军车。油罐车瞬时爆炸，汽油被引燃，熊熊大火席卷狭窄的隧道。苏联军车连锁爆炸，温度急剧上升，整条隧道内弥漫着致人死亡的一氧化碳，造成了世界上死亡人数最多的交通事故。苏联官方没有公布伤亡数据，但外界估计死亡人数恐怕在1000人以上。为了防止在撤军途中再次发生惨剧，驻阿富汗苏军装备副司令科罗列夫中将和提出安全使用萨兰隧道的苏联专家委员会代表共同检查了行军纵队通过隧道的安全措施落实情况。具体措施包括，当150至300辆履带式和轮式车辆组成的行军纵队通过萨兰隧道后，就要中断通行1.5至2小时，以利于隧道的强制通风。严密措施之下，全部撤退苏军安全通过萨兰隧道，没有任何意外情况发生。
由于这是首批回撤的部队，联合国观察小组成员及一些外国记者，一直随同这支部队行进以便检验苏联撤军行动的真实性和记录撤出的人数；又由于苏军已事先同马苏德领导的游击队达成了协议，所以沿着这条路线回撤的苏军没有受到太大的损失。他们共行进10天，行程500余公里，最后顺利地回到了国内。
驻阿富汗苏军第一阶段撤军从5月15日开始，至当年8月15日结束。在西部方向，苏军撤回了85支部队，向阿富汗政府军移交了45座军营和89个哨所。在东部方向，苏军从阿富汗的12个省撤出。这段时间里，共有110辆坦克、1026辆各种型号的步兵战斗车和装甲运输车，346门火炮和迫击炮，48辆防空车辆，3728辆汽车和移动式武器装备，以及103辆特种车辆撤回到苏联境内。苏军地面部队和陆军航空兵全部从阿富汗贾拉拉巴德、坎大哈、加兹尼、昆都士等地撤出，空军的14架飞机和207架直升机同时撤回。
1988年6月29日，驻阿富汗苏军第40集团军政治部主任扎哈罗夫少将宣布：到6月28日，已有3.2万名苏军撤出了阿富汗。在阿富汗境内，已有18个省不再驻有苏军。
1988年8月14日，驻阿富汗苏军第40集团军司令员格拉莫夫中将宣布：到8月14日止，苏军有5.7万人已撤回国内，提前完成了撤军一半的任务。目前，阿富汗已有25个省没有任何一名苏联军人，留在其他几个省的苏军将在1989年2月15日前撤出。
如同此前希克马蒂亚尔的声明，苏军撤军期间阿富汗游击队并没有停止进攻，反而加大了攻势。当驻加兹尼的苏军撤出时，阿富汗游击队用大批兵力切断了加兹尼至喀布尔的道路，加兹尼的苏军不得不绕道加德兹再返回喀布尔，然后才踏上回国之路。
1988年6月15日，盖拉尼接替希克马蒂亚尔出任“七党联盟”主席。6月19日，“七党联盟”正式任命12名内阁成员，宣布临时政府开始运作，并派兵西进猛攻喀布尔，夺取了喀布尔市郊的6个哨所，随之又向南北伸展，相继占领查希尔省省会卡拉特和帕尔万省的米特拉姆。8月1日起，阿富汗南部重镇坎大哈的苏军开始撤离，西部的信丹德、赫拉特和北部的昆都士地区的苏军也采取了行动，而且苏军开通了西部由赫拉特至国内的撤军线路。
苏军撤出坎大哈后，早在7月就做好包围之势的游击队向城内的2万阿富汗政府军发起进攻。他们声称，坎大哈将是临时政府的首都。阿富汗政府军全力防守，在城区周围埋下大批地雷，并设置了炮兵阵地，游击队久攻不下，双方势均力敌，处于对峙状态。
8月10日，阿富汗游击队聚集数千人，向昆都士发起进攻，迅速突破了阿富汗政府军的防线，攻入城区。近千名阿富汗警察和当地民兵不战而降，游击队全面占领昆都士。苏军对阿富汗游击队占领了这个靠近苏阿边境的重镇极为震惊，立即从境内调动“逆火”式轰炸机，持续空袭昆都士，8月15日，阿富汗游击队无力坚持，被迫撤出昆都士。
苏军第一阶段撤军结束之后，阿富汗游击队的进攻已遍及阿富汗全国。游击队攻占了喀布尔西北约230公里的巴米安省省会巴米安，又占领了与苏联接壤的塔哈尔省省会塔洛坎。阿富汗游击队的战果不断扩大，大批的阿富汗政府军向抵抗力量投诚。
撤军的最后几个月，苏军也遭到了不小损失。1988年8月21日和9月30日，2架米-24战机被击落，苏军飞行员死亡。在美国和巴基斯坦的支持下，游击队对苏军和阿富汗政府军的进攻更加猛烈。阿富汗已不再是苏军久留之地了，撤出阿富汗的进程只能加快，不能放慢。苏联国内局势已经使戈尔巴乔夫感到自己的地位正在受到越来越严重的威胁了，必须尽快解决阿富汗问题，腾出手来对苏联国内动几个大手术。
1988年12月28日，格拉莫夫中将在喀布尔召开的记者招待会上宣布：苏军将如期在1989年2月15日前全部完成撤军。他强调，最后阶段的撤军将不会像第一阶段撤军那样顺利，因为阿富汗游击队正在计划发起新的军事行动，可能会以布雷或袭击的方法对撤出的苏军进行挑衅。另外，目前正处于气候恶劣的冬季，阿富汗北部地区覆盖着厚厚的积雪，交通极为不便，再加上此次撤军期限短，回撤人数众多，将会遇到很大的困难。行动上，苏联方面却显得极为迅速，到12月底，留在阿富汗国内的苏联专家顾问、各类文职人员已基本上回撤完毕。
1989年1月初，驻阿富汗苏军各部开始集结收缩，基本上都集结到了喀布尔、巴格拉姆和信丹德3个机场，等待最高当局下达最后的撤军命令。莫斯科正为撤军问题而处于紧张的筹备中，政治局会议在接连不断地讨论着阿富汗问题。直到1月10日，喀布尔地区的苏军才接到来自国内的撤军命令，萨兰公路上再次响起日夜相继的马达声和断断续续的枪炮声。
东部方向苏军第二阶段撤军从1989年1月13日开始，首先撤出的是第59物资保障旅、第108摩托化步兵师后勤分队等集团军后勤保障部队，然后是第278道路警卫旅、第276管道旅、第103空降师后勤分队、第180摩托化步兵团后勤分队、第181摩托化步兵团后勤分队等后勤部队。在沿途哨卡担任警戒和封锁任务的作战部队撤军从1989年1月28日开始，至2月12日结束。西部方向的苏军组成10个行军纵队撤回苏联境内，东部方向苏军则组成33个行军纵队撤回苏联境内。1989年初的撤军行动中，为了抵御阿富汗游击队对撤退苏军行军纵队的攻击，苏军沿行军路线组建了一些配有炮兵观察组的排级规模火力支撑点，构建了火力阵地，还不时发动一些小规模反击。在此期间，技术保障部队也渐渐撤除了第一阶段撤军时建立的损坏车辆收集所。
1989年2月2日夜，驻阿富汗苏军第50武装直升机中队飞行员格洛夫诺夫上校和他的武器操控官在侦察攻击路线的行动中阵亡，他们的米-24“雌鹿”直升机是在阿富汗战争中被击落的333架苏军直升机中的最后一架。333架直升机在一些人眼中或许是个庞大的数字，但和越南战争中美军损失的上千架UH-1直升机相比已经微不足道了，不过它给阿富汗游击队和民众带来的，是挥之不去的痛苦、恐惧和仇恨。
1989年2月15日早晨，阿富汗北部山区下着鹅毛大雪，一支由70辆坦克和装甲车组成的苏军纵队，在没有任何欢送仪式的情况下，驶离了阿富汗北部边境城市海拉顿。莫斯科时间上午9点55分，当最后一辆装甲车通过苏联-阿富汗边境的阿姆河大桥时，驻阿富汗苏军司令员格拉莫夫中将从车上跳下来，同前来迎接他的儿子一起，徒步走过了边境线。面对蜂拥而上的苏联塔斯社记者，格拉莫夫中将说：“我是最后一名撤出阿富汗国土的苏军人员。在我身后，再也找不到一名苏军士兵了。”
长达9年零2个月的阿富汗战争，就此结束。
据苏联方面承认的数字，9年的阿富汗战争中，苏军共投入兵力62万人。战争的结果是，驻阿富汗苏军的直接战斗减员约为1.4万人，占总兵力的2.33％。而由于疾病导致的非直接战斗减员高达41.6万人，占总兵力的67.31％。但各方的统计皆不相同，具体死亡人数从3万到5万甚至10万以上不等。苏军在阿富汗战争中的伤亡，或许将永远没有确切数字。
据苏联方面公布的数字，苏军在阿富汗战争中的装备损失包括：飞机118架、直升机333架、坦克147辆、装甲运输车与步兵战斗车1314辆、火炮433门、工程车辆510辆、各种卡车和油罐车11369辆。
但是这些远远无法与阿富汗遭受的苦难相提并论。9年的战争中，阿富汗有130多万人丧生，500多万人流亡国外沦为难民。战争让阿富汗几乎成了这个世界上一块被遗忘的角落。
注解：