1949年12月，蒋介石、蒋经国父子在惨败后，率领国民党残部逃到了中国的台湾省。在台，老蒋痛定思痛后，不甘失败的他，在艾森豪威尔的怂恿和包庇下，不断出动飞机对福建沿海地区进行轰炸。与此同时，还不断向金门、马祖等靠近大陆的岛屿增兵，至1958年夏，金、马两地的国军兵力已达10万。
金门列岛距大陆约5.5海里，分为大金门和小金门，附近还有大担、二担两个小岛，这些岛屿被蒋军困守后，他们不断对福建等沿岸进行袭扰。
面对蒋介石的顽固不化，1957年12月18日，主席作出批示：“请考虑我空军1958年进入福建的问题。”
1958年7月，在美、英先后出兵侵略黎巴嫩、约旦之际，台当局在美支持下，企图趁火打劫，老蒋叫嚷道：“加速进行反攻的准备。”随即，老蒋派出高级将领到金门、马祖活动、组织军事演习，甚至动用金门岛上的炮兵轰击福建沿海村镇。
7月15日至18日，主席连续召开会议，分析情况，研究对策后，作出了“炮击金门”的决定。
金门炮战前，主席在北戴河召集有关人员研究炮击金门的具体方案。总指挥叶飞将军汇报完作战计划后，主席突然提出了一个问题，主席说：“你们用这么多的炮打，会不会把美国人打死啊？”
福建前线部署了地面炮兵数十个营，共450余门火炮，此外，还有海军高速炮艇4个中队、鱼雷快艇3个大队、猎潜艇2个大队共80余艘舰艇，空、海军航空兵9个团卫2个大队、1个中队共200余架飞机。
当时，国民党军队中美国顾问配备到营一级。叶飞听了主席的问话后答道：那是打得到的。避免不了。
闻听此言，主席没有表态，只是宣布散会。第二天继续开会时，主席下了决心：“那好，照计划打！”
1958年8月23日下午17时30分，我军福建前线部队对金门国民党军指挥机构、仓库、观测所、交通中心、要点工事及炮兵阵地等重要军事目标开始实施了大规模炮击。炮击持续了两个多小时，落弹达四万余发，是日落弹数更达五万七千余发。此战，击毙击伤国民党中将以下官兵600余人，两名美军顾问也在炮击中丧生。
当时，炮响之前，蒋介石的“国防部长”大维正与金门防卫总司令胡琏在招待所附近一块平地上对坐交谈。此时，人民解放军的数千发炮弹从不同发射阵地汇集北太武山。
闻听震耳欲聋的炮声吼后，“国防部长”大维本能地蜷缩身体趴在地上，紧紧抓住胡琏的手臂说：“这里不安全，你跟着我走！”
胡琏看到大维已被弹片炸伤多处，血流满面。10分钟后，待炮火稍稀时，大维被两名宪兵搀扶着进入坑道，借微弱的烛光包扎伤口。当晚，这位“国防部长”就头缠绷带，被人抬上飞机返回了台北。
“国防部长”和参谋长刘明奎以及胡琏幸运的捡得一命，但其金门防卫司令部的三位中将副司令就没那么幸运了。巨炮响后，此战，我军一炮消灭了三名中将。
金门防卫司令部中将副司令赵家骧腰部被纷飞的弹片击中，不治而亡。中将副司令官吉星文遭密集的弹片重创，救治了3天后，死亡。中将副司令章杰当场死亡。
我军一炮消灭了三名中将，使得蒋介石惶恐不安，急忙让蒋经国去督战。
在金门炮击最激烈的时刻，蒋介石让儿子蒋经国去督战。老蒋说：“我最不放心的就是金门了，那岛离大陆太近，离台却远，我10万将士抱定拼死一战的决心，坚守5日，美必会出兵助战！如3天都守不到，那就完了，没有人会来救它了。”
蒋介石还对蒋经国说：“你要常去金门，越有紧急情况越要去。金门必须确保无虞，守着大担，守着金门，就是保民国的生存！那里的事情办不好，你就不要回来！”
蒋经国听后点头称是。