20世紀60年代，美國BQM-147G“火蜂”等高空無人偵察機頻繁竄犯我國領空，配合大名鼎鼎的U-2高空偵察機，對我國國土安全構成了嚴重威脅。這些“高來高去”的目標飛行高度常年在18000米以上，當時解放軍空軍的主力殲擊機——殲-6，雖然成熟可靠，但實用升限僅有17000米左右，常常是“看得見、夠不著”。為了能有效攔截這些敵人，空軍迫切需要一款升限更高、速度更快的截擊機。

在殲-7等新型戰機數量嚴重不足的情況下，挖掘現有殲-6平臺的潛力成為最務實的選擇。畢竟，殲-6技術成熟、維護方便，改裝速度快、成本低，能夠迅速形成戰斗力。此前，在殲-6基礎上改進的殲-6I已經初步提高了升限，但空軍要求更上一層樓：在殲-6I的基礎上繼續提升靜升限和平飛速度，確?！皦虻弥睌橙说母呖諅刹鞕C。

于是，1968年5月20日，沈陽飛機廠（原112廠）生產指揮部發出通知，決定在殲-6I的基礎上研制一款專用的高空截擊機，命名為殲-6II。這項改型任務由曹益祥、毛毅連主要負責，試飛大隊配合，空軍第一研究所也派技術人員參加。目標是打造一款能夠“上刺青天”的專用截擊機，專門應對U-2和“火蜂”這類高海拔目標。

殲-6II，機長14.64米（不含空速管），翼展9.04米，機高3.89米。動力裝置為兩臺渦噴-6甲（WP-6A）加力發動機，單臺推力29.42千牛。設計指標要求最大速度達到馬赫數1.44（約1548千米/小時，在9000米高度），實用升限在17500米至17900米之間（不同來源數據略有差異），最大航程2200千米（帶副油箱）。

為了攀登性能高峰，殲-6II在氣動和結構上進行了大刀闊斧的改進。首先，在殲-6I型基礎上進一步加大了機翼面積，提升了0.6平方米，以增強高空飛行時的穩定性和升力。對進氣系統也全面升級。進氣道中央加裝了可調激波錐，用以改善高速飛行時的進氣效率；同時，進氣口唇口半徑減小，機頭周圍增加了8個輔助進氣門，以兼顧低速狀態下的進氣量。

此外，為了控制體重，相關工作人員還給殲-6II進行了“減肥”。阻流板、防彈鋼板、照相槍、信號槍等非必要設備全部拆除；液壓系統合并為單系統，部分氧氣瓶也被移除。經過系統性減重，飛機空重控制在5447公斤，最大起飛重量7560公斤。

在火力配置上，殲-6II保留了機翼下掛載“霹靂-2”導彈的能力，同時在機身左側下方增裝一門23-1型23毫米航炮（備彈75發），加上原有的兩門NR-23航炮，彌補了導彈數量不足時的火力空白。飛機的瞄準系統則裝備了АСП-3НМ型光學瞄準具，強化高空高速條件下的射擊精度。

經過7個月的研發，1969年3月25日，試飛員葉光榮駕駛第一架殲-6II成功首飛。同年8月，這架飛機在北京南苑機場進行飛行表演，獲得了中央領導的高度評價。

在實際試飛和測試中，殲-6II也暴露出幾個難以克服的缺點。

首先，放整流錐進行平飛增速時，阻力反而偏大，導致最大平飛速度不升反降，未能達到預期的馬赫數1.44的實際表現。更嚴重的是，飛行過程中機尾罩溫度過高，存在安全隱患。而最令人遺憾的是，它仍然沒有達到設想中的2萬米靜升限——這意味著面對U-2時，依然沒有絕對的把握。

1969年9月，首批2架殲-6II交付給空24師使用，成為當時國土防空體系中的重要裝備。但由于機尾罩溫度過高的問題始終未能解決，該機型最終沒有完成設計定型，未能投入批量生產。

外部威脅環境也發生了變化。

1969年底，美軍的高空偵察活動基本停止，針對此類目標設計的殲-6II失去了緊迫的作戰需求。加上性能更先進的殲-8飛機于1969年7月5日成功首飛，其靜升限和速度指標都更高，自然替代了殲-6II的定位。

之后，已經服役的兩架殲-6II飛機轉給了空49師使用，編號分別為40403和40404，一直服役至退役。

另外，殲-6II有可能出口過巴基斯坦，并于2002年全部退役。

雖然殲-6II沒能在中國空軍批量服役翱翔藍天，但是，作為特殊年代的產物，它代表了當時那個時代中國航空工業在外部壓力下奮力追趕的縮影。盡管存在性能缺陷和安全隱患，但是這款高空獵手，依然在中國航空史上留下了一筆，并為殲-8等高空高速機型的研發積累了寶貴的技術經驗。