核武器的出现，是20世纪40年代前后科学技术重大发展的结果。1939年初，德国化学家O.哈恩和物理化学家F.斯特拉斯曼发表了铀原子核裂变现象的论文。几个星期内，许多国家的科学家验证了这一发现，并进一步提出有可能创造这种裂变反应自持进行的条件，从而开辟了利用这一新能源为人类创造财富的广阔前景。但是，同历史上许多科学技术新发现一样，核能的开发也被首先用于军事目的，即制造威力巨大的原子弹，其进程受到当时社会与政治条件的影响和制约。从1939年起，由于法西斯德国扩大侵略战争，欧洲许多国家开展科研工作日益困难。同年9月初，丹麦物理学家N.H.D.玻尔和他的合作者J.A.惠勒从理论上阐述了核裂变反应过程，并指出能引起这一反应的最好元素是同位素铀235。正当这一有指导意义的研究成果发表时，英、法两国向德国宣战。1940年夏，德军占领法国。法国物理学家J-F约里奥-居里领导的一部分科学家被迫移居国外。英国曾制订计划进行这一领域的研究，但由于战争影响，人力物力短缺，后来也只能采取与美国合作的办法，派出以物理学家J·查德威克为首的科学家小组，赴美国参加由理论物理学家J.R.奥本海默领导的原子弹研制工作。
在美国，从欧洲迁来的匈牙利物理学家齐拉德·莱奥首先考虑到，一旦法西斯德国掌握原子弹技术可能带来严重后果。经他和另几位从欧洲移居美国的科学家奔走推动，于1939年8月由物理学家A·爱因斯坦写信给美国第32届总统F.D.罗斯福，建议研制原子弹，才引起美国政府的注意。但开始只拨给经费6000美元，直到1941年12月日本袭击珍珠港后，才扩大规模，到1942年8月发展成代号为“曼哈顿工程区”的庞大计划，直接动用的人力约60万人，投资20多亿美元。到第二次世界大战即将结束时制成3颗原子弹，使美国成为第一个拥有原子弹的国家。制造原子弹，既要解决武器研制中的一系列科学技术问题，还要能生产出必需的核装料铀235、钚239。天然铀中同位素铀235的丰度仅0.72%，按原子弹设计要求必须提高到90%以上。当时美国经过多种途径探索研究与比较后，采取了电磁分离、气体扩散和热扩散三种方法生产这种高浓铀。供一颗“枪法”原子弹用的几十千克高浓铀，是靠电磁分离法生产的。建设电磁分离工厂的费用约3亿美元（磁铁的导电线圈是用从国库借来的白银制造的，其价值尚未计入）。钚239要在反应堆内用中子辐照铀238的方法制取。供两颗“内爆法”原子弹用的几十千克钚239，是用3座石墨慢化、水冷却型天然铀反应堆及与之配套的化学分离工厂生产的。以上事例可以说明当时的工程规模。由于美国的工业技术设施与建设未受到战争的直接威胁，又掌握了必需的资源，集中了一批西方国家最好的科技人才，使它能够较快地实现原子弹研制计划。
德国的科学技术，当时本处于领先地位。1942年以前，德国在核技术领域的水平与美、英大致相当，但后来落伍了。美国的第一座试验性石墨反应堆，在物理学家E.费密领导下，1942年12月建成并达到临界；而德国采用的是重水反应堆，生产钚239，到1945年初才建成一座不大的次临界装置。为生产高浓铀，德国曾着重于高速离心机的研制，由于空袭和电力、物资缺乏等原因，进展很缓慢。其次，A.希特勒迫害科学家，以及有的科学家持不合作态度，是这方面工作进展不快的另一原因。更主要的是，德国法西斯头目过分自信，认为战争可以很快结束，不需要花气力去研制尚无必成把握的原子弹，先是不予支持，后来再抓已困难重重，研制工作终于失败。
1945年5月德国投降后，美国有不少知道“曼哈顿工程”
胖子（投向长崎的原子弹）
内幕的人士，包括以物理学家J.弗兰克为首的一大批从事这一工作的科学家，反对用原子弹轰炸日本城市。当时，中国开始对日本进行反击。美国在太平洋地区的进攻，几乎全部摧毁日本海军，海上封锁使日该国内的物资供应极为匮泛。二战通过硫磺岛一战，丘吉尔估计要彻底打垮日本，在日本本土登陆，至少还要付出100万美军和50万英军的生命。
这样沉重的包袱美国背不起。也不想背，用原子弹是最好的方式。
美国在日本的广岛和长崎投下了仅有的两颗原子弹，代号分别为“小男孩”和“胖子”。（史料记载，这场人类有史以来的巨大灾难，造成了30万余日本平民死亡和8万多人受伤。原子弹的空前杀伤和破坏威力，震惊了世界，也使人们对以利用原子核的裂变或聚变的巨大爆炸力而制造的新式武器有了新的认识。
苏联在1941年6月遭受德军入侵前，也进行过研制原子弹的工作。铀原子核的自发裂变，是在这一时期内由苏联物理学家Г。Н.弗廖罗夫和Κ。А.佩特扎克发现的。卫国战争爆发后，研制工作被迫中断，直到1943年初才在物理学家И。В.库尔恰托夫的组织领导下逐渐恢复，并在战后加速进行。1949年8月，苏联进行了原子弹试验。1950年1月，美国总统H.S.杜鲁门下令加速研制氢弹。1952年11月，美国进行了以液态氘为热核燃料的氢弹原理试验，该实验装置非常笨重。1953年8月，苏联进行了以固态氘化锂6为热核燃料的氢弹试验，使氢弹的实用成为可能。美国于1954年2月进行了类似的氢弹试验。英国、法国先后在50和60年代也各自进行了原子弹与氢弹试验。中国在开始全面建设社会主义时期，基础工业有了一定的发展，即着手准备研制原子弹。1959年开始起步时，国民经济发生严重困难。同年6月，苏联政府撕毁中苏在1957年10月签订的关于国防新技术协定，随后撤走专家，中国决心完全依靠自己的力量来实现这一任务。中国首次试验的原子弹取"596"为代号，就是以此激励全国军民大力协同做好这项工作。1964年10月16日，首次原子弹试验成功。经过两年多，1966年12月28日，小当量的氢弹原理试验成功；半年之后，于1967年6月17日成功地进行了百万吨级的氢弹空投试验。中国坚持独立自主、自力更生的方针，在世界上以最快的速度完成了核武器这两个发展阶段的任务。
现状
美国对日本投下的两颗原子弹，是以带降落伞的核航弹形式，用氢弹爆炸飞机作为运载工具的。以后，随着武器技术的发展，已形成多种核武器系统，包括弹道核导弹、巡航核导弹、 防空核导弹、反导弹核导弹、反潜核火箭、深水核炸弹、核航弹、核炮弹、核地雷等。其中，配有多弹头的弹道核导弹，以及各种发射方式的巡航核导弹，是美、苏两国装备的主要核武器。
通常将核武器按其作战使用的不同划分为两大类，即用于袭击敌方战略目标和防御己方战略要地的战略核武器，和主要在战场上用于打击敌方战斗力量的战术核武器。苏联还划分有“战役战术核武器”。核武器的分类方法，与地理条件、社会政治因素有关，并不是十分严格的。自70年代末以后，美国官方文件很少使用“战术核武器”，代替它的有“战区核武器”、“非战略核武器”等，并把中远程、中程核导弹也划归这一类。
已生产并装备部队的核武器，按核战斗部设计看，主要属于原子弹和氢弹两种类型。至于核武器的数量，并无准确的公布数字，有关研究机构的估计数字也不一致。按近几年的资料综合分析，到80年代中期，美、苏两国总计有核战斗部50000枚左右，占全世界总数的95%以上。其TNT当量，总计为120亿吨左右。而第二次世界大战期间，美国在德国和日本投下的炸弹，总计约200万吨TNT，只相当于美国B-52型轰炸机携载的2枚氢弹的当量。从这一粗略比较可以看出核武器库贮量的庞大。
美苏两国进攻性战略核武器（包括洲际核导弹、潜艇发射的弹道核导弹、巡航核导弹和战略轰炸机）在数量和当量上比较，美国在投射工具（陆基发射架、潜艇发射管、飞机）总数和TNT当量总值上均少于苏联，但在核战斗部总枚数上多于苏联。考虑到核爆炸对面目标的破坏效果同当量大小不是简单的比例关系，另一种估算办法是以一定的冲击波超压对应的破坏面积来度量核战斗部的破坏能力，即取核战斗部当量值（以百万吨为计算单位）的2/3次方为其“等效百万吨当量”值（也有按目标特性及其分布和核攻击规模大小等不同情况，选用小于2/3的其他方次的），再按各种核战斗部的枚数累计算出总值。按此法估算比较美、苏两国的战略核武器破坏能力，由于当量小于百万吨的核战斗部枚数，美国多于苏联，两国的差距并不很大。但自80年代以来，随着苏联在分导式多弹头导弹核武器上的发展，这一差距也在不断扩大。而对点（硬）目标（见点目标）的破坏能力，则核武器投射精度起着更重要的作用，由于在这方面美国一直领先，仍处于优势。